יצירה והרצה של משימה שמשתמשת באמצעי אחסון

במאמר הזה מוסבר איך ליצור ולהריץ משימה באצווה שמשתמשת בכרך אחסון חיצוני אחד או יותר. אפשרויות האחסון החיצוני כוללות דיסק קשיח חדש או קיים, כונני SSD מקומיים חדשים, קטגוריות קיימות של Cloud Storage ומערכת קבצים קיימת ברשת (NFS) כמו שיתוף קבצים ב-Filestore.

בין אם מוסיפים אמצעי אחסון חיצוניים ובין אם לא, לכל מכונה וירטואלית ב-Compute Engine שמוגדרת לעיבוד משימה יש דיסק אתחול, שמשמש לאחסון של קובץ האימג' וההוראות של מערכת ההפעלה של המשימה. למידע על הגדרת דיסק האתחול של משימה, אפשר לעיין במאמר סקירה כללית על סביבת מערכת ההפעלה של מכונה וירטואלית.

לפני שמתחילים

  1. אם עוד לא השתמשתם ב-Batch, כדאי לעיין במאמר תחילת העבודה עם Batch ולהפעיל את Batch על ידי השלמת הדרישות המוקדמות לפרויקטים ולמשתמשים.

  2. כדי לקבל את ההרשאות שדרושות ליצירת משימה, אתם צריכים לבקש מהאדמין להקצות לכם את תפקידי ה-IAM הבאים:

    להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

    יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

יצירת משימה שמשתמשת באמצעי אחסון

אופציונלי: עבודה יכולה להשתמש באחד או יותר מהסוגים הבאים של נפחי אחסון חיצוניים. מידע נוסף על כל סוגי נפחי האחסון, ההבדלים וההגבלות של כל אחד מהם זמין במאמר בנושא אפשרויות אחסון במכונות וירטואליות ב-Compute Engine.

  • ‫persistent disk: אחסון בלוקים (block storage) אזורי או של תחום מוגדר
  • ‫local SSD: אחסון בלוקים זמני עם ביצועים גבוהים
  • קטגוריה של Cloud Storage: אחסון אובייקטים במחיר משתלם
  • ‫network file system (NFS): מערכת קבצים מבוזרת שפועלת לפי פרוטוקול Network File System – לדוגמה, Filestore file share, שהוא NFS עם רמת ביצועים גבוהה שמארח ב- Google Cloud

כדי לאפשר למשימה להשתמש בכל נפח אחסון, צריך לכלול אותו בהגדרת המשימה ולציין את נתיב ההרכבה (mountPath) בקבצים הניתנים להרצה. כדי ללמוד איך ליצור משימה שמשתמשת בנפחי אחסון, אפשר לעיין באחד מהקטעים הבאים או יותר:

שימוש בדיסק אחסון מתמיד

למשימה שמשתמשת בדיסקים של אחסון מתמיד (persistent disks) יש את ההגבלות הבאות:

  • כל הדיסקים לאחסון מתמיד: אפשר לעיין בהגבלות על כל הדיסקים לאחסון מתמיד.

  • דיסקים קשיחים חדשים לעומת דיסקים קשיחים קיימים: כל דיסק קשיח בעבודה יכול להיות חדש (מוגדר ונוצר עם העבודה) או קיים (כבר נוצר בפרויקט וצוין בעבודה). כדי להשתמש בדיסק אחסון מתמיד, צריך לעצב אותו ולהוסיף אותו למכונות הווירטואליות של העבודה, שצריכות להיות באותו מיקום כמו דיסק האחסון המתמיד. הכלי Batch מבצע פעולות הרכבה לכל דיסק אחסון מתמיד שכוללים במשימה, ומבצע פעולות עיצוב לכל דיסק אחסון מתמיד חדש, אבל צריך לעצב ולבטל את ההרכבה של כל דיסק אחסון מתמיד קיים שרוצים להשתמש בו במשימה.

    אפשרויות המיקום, אפשרויות הפורמט ואפשרויות ההרכבה הנתמכות משתנות בין דיסקים קשיחים קיימים לבין דיסקים קשיחים חדשים, כפי שמתואר בטבלה הבאה:

    דיסקים חדשים לאחסון מתמיד דיסקים קיימים לאחסון מתמיד
    אפשרויות פורמט

    האחסון המתמיד מפורמט אוטומטית עם מערכת קבצים מסוג ext4.

    כדי להשתמש בדיסק מתמשך במשימה, צריך להגדיר בו מערכת קבצים מסוג ext4 לפני שמשתמשים בו.
    אפשרויות ההרכבה

    כל האפשרויות נתמכות.

    כל האפשרויות נתמכות, חוץ מכתיבה. הסיבה לכך היא מגבלות של מצב ריבוי כותבים.

    לפני שמשתמשים בדיסק מתמשך לעבודה, צריך לנתק אותו מכל מכונות ה-VM שהוא מצורף אליהן.
    אפשרויות מיקום

    אפשר ליצור רק דיסקים של אחסון מתמיד (persistent disks) באזור מסוים.

    אתם יכולים לבחור כל מיקום לעבודה. הדיסקים לאחסון מתמיד נוצרים באזור שבו הפרויקט פועל.

    אפשר לבחור דיסקים לאחסון מתמיד (persistent disks) אזוריים ושל תחום מוגדר.


    כדי להשתמש בדיסק, משאבי Compute Engine של משימה צריכים להיווצר רק במיקומים שמכילים את כל הדיסקים המתמידים של המשימה. לדוגמה, אם מדובר בדיסק אחסון מתמיד אזורי, המיקום של המשימה צריך להיות האזור של הדיסק. אם מדובר בדיסק אחסון מתמיד אזורי, המיקום של המשימה צריך להיות האזור של הדיסק, או אם מציינים אזורים, אחד או שני האזורים הספציפיים שבהם נמצא דיסק האחסון המתמיד האזורי. מידע נוסף זמין במאמר מיקומים.

  • תבניות של הגדרות מכונה: אם רוצים להשתמש בתבנית של הגדרות מכונה כשיוצרים את העבודה הזו, צריך לחבר את כל דיסקי האחסון המתמיד (persistent disk) של העבודה הזו לתבנית של הגדרות המכונה. אחרת, אם לא רוצים להשתמש בתבנית של הגדרות מכונה, צריך לצרף דיסקים קבועים ישירות להגדרת העבודה.

אפשר ליצור משימה שמשתמשת בדיסק אחסון מתמיד (persistent disk) באמצעותGoogle Cloud המסוף, ה-CLI של gcloud,‏ Batch API,‏ C++,‏ Go,‏ Java,‏ Node.js או Python.

המסוף

בדוגמה הבאה, נעשה שימוש במסוף Google Cloud כדי ליצור עבודה שמריצה סקריפט לקריאת קובץ מדיסק קשיח מתמשך אזורי קיים שנמצא באזור us-central1-a. סקריפט לדוגמה מניח שלמשימה יש אחסון מתמיד אזורי קיים שמכיל קובץ טקסט בשם example.txt בספריית הבסיס.

אופציונלי: יצירת דיסק לדוגמה לאחסון מתמיד של תחום

אם רוצים ליצור דיסק קשיח אזורי מתמשך שאפשר להשתמש בו כדי להריץ את הסקריפט לדוגמה, צריך לבצע את הפעולות הבאות לפני שיוצרים את העבודה:

  1. מחברים דיסק חדש וריק בשם example-disk למכונה וירטואלית של Linux באזור us-central1-a, ואז מריצים פקודות במכונה הווירטואלית כדי לפרמט את הדיסק ולחבר אותו. הוראות מפורטות זמינות במאמר הוספת דיסק מתמשך למכונה וירטואלית.

    אל תתנתקו מה-VM עדיין.

  2. כדי ליצור את example.txt בדיסק של אחסון מתמיד, מריצים את הפקודות הבאות במכונה הווירטואלית:

    1. כדי לשנות את ספריית העבודה הנוכחית לספריית הבסיס של הדיסק הקשיח הקבוע, מקלידים את הפקודה הבאה:

      cd VM_MOUNT_PATH

      מחליפים את VM_MOUNT_PATH בנתיב לספרייה שבה דיסק האחסון המתמיד (persistent disk) הותקן במכונה הווירטואלית הזו בשלב הקודם – לדוגמה, /mnt/disks/example-disk.

    2. לוחצים על Enter.

    3. כדי ליצור ולהגדיר קובץ בשם example.txt, מקלידים את הפקודה הבאה:

      cat > example.txt

    4. לוחצים על Enter.

    5. מקלידים את התוכן של הקובץ. לדוגמה, מקלידים Hello world!.

    6. כדי לשמור את הקובץ, מקישים על Ctrl+D (או על Command+D ב-macOS).

    בסיום, אפשר להתנתק מהמכונה הווירטואלית.

  3. מנתקים את דיסק האחסון המתמיד מה-VM.

    • אם אתם לא צריכים יותר את ה-VM, אתם יכולים למחוק אותו, וכך הדיסק הקשיח ינותק אוטומטית.

    • אחרת, מנתקים את ה-persistent disk. לפי ההוראות במאמר ניתוק וחיבור מחדש של דיסקים לאתחול, מנתקים את הדיסק הקשיח example-disk במקום את דיסק האתחול של המכונה הווירטואלית.

יצירת עבודה שמשתמשת בדיסק אחסון מתמיד (persistent disk) אזורי קיים

כדי ליצור עבודה שמשתמשת בדיסקים קיימים של אחסון מתמיד אזורי באמצעותGoogle Cloud המסוף, מבצעים את הפעולות הבאות:

  1. נכנסים לדף Job list במסוף Google Cloud .

    מעבר לרשימת המשימות

  2. לוחצים על יצירה. ייפתח הדף Create batch job. בחלונית הימנית, הדף פרטי המשרה מסומן.

  3. מגדירים את הדף פרטי המשימה:

    1. אופציונלי: בשדה שם המשרה, אפשר להתאים אישית את שם המשרה.

      לדוגמה, מזינים example-disk-job.

    2. מגדירים את הקטע פרטי המשימה:

      1. בחלון New runnable, מוסיפים לפחות סקריפט אחד או קונטיינר אחד כדי שהעבודה הזו תפעל.

        לדוגמה, כדי להריץ סקריפט שמדפיס את התוכן של קובץ בשם example.txt שנמצא בספריית הבסיס של הדיסק הקשיח הקבוע שבו נעשה שימוש בעבודה הזו, מבצעים את הפעולות הבאות:

        1. מסמנים את תיבת הסימון Script (סקריפט). יופיע שדה.

        2. בשדה, מזינים את הסקריפט הבא:

          echo "Here is the content of the example.txt file in the persistent disk."
cat MOUNT_PATH/example.txt

          מחליפים את MOUNT_PATH בנתיב שבו מתכננים לטעון את דיסק האחסון המתמיד למכונות הווירטואליות עבור העבודה הזו – לדוגמה, /mnt/disks/example-disk.

        3. לוחצים על סיום.

      2. בשדה מספר המשימות, מזינים את מספר המשימות של העבודה הזו.

        לדוגמה, מזינים 1 (ברירת מחדל).

      3. בשדה מקביליות, מזינים את מספר המשימות שרוצים להריץ בו-זמנית.

        לדוגמה, מזינים 1 (ברירת מחדל).

  4. מגדירים את הדף Resource specifications:

    1. בחלונית הימנית, לוחצים על מפרטי משאבים. ייפתח הדף מפרטי משאבים.

    2. בוחרים את המיקום של המשרה. כדי להשתמש בדיסק אחסון מתמיד קיים של תחום מוגדר, המכונות הווירטואליות של העבודה צריכות להיות באותו תחום.

      1. בשדה אזור, בוחרים אזור.

        לדוגמה, כדי להשתמש בדיסק מתמשך אזורי לדוגמה, בוחרים באפשרות us-central1 (Iowa) (ברירת מחדל).

      2. בשדה Zone, בוחרים אזור.

        לדוגמה, בוחרים באפשרות us-central1-a (Iowa).

  5. קובעים את ההגדרות בדף הגדרות נוספות:

    1. בחלונית הימנית, לוחצים על הגדרות נוספות. ייפתח הדף הגדרות נוספות.

    2. לכל דיסק לאחסון מתמיד (persistent disk) אזורי קיים שרוצים לצרף לעבודה הזו, מבצעים את הפעולות הבאות:

      1. בקטע נפח אחסון, לוחצים על הוספת נפח חדש. מופיע החלון New volume (נפח אחסון חדש).

      2. בחלון New volume (נפח חדש):

        1. בקטע Volume type בוחרים באפשרות Persistent disk (ברירת מחדל).

        2. ברשימה Disk, בוחרים דיסק קשיח קיים באזור שרוצים לצרף לעבודה הזו. הדיסק צריך להיות באותו אזור שבו נמצאת המשימה.

          לדוגמה, בוחרים את הדיסק הקיים והקבוע באזור us-central1-a שהכנתם, שמכיל את הקובץ example.txt.

        3. אופציונלי: אם רוצים לשנות את השם של הדיסק הקשיח הקבוע הזה, מבצעים את הפעולות הבאות:

          1. בוחרים באפשרות התאמה אישית של שם המכשיר.

          2. בשדה שם המכשיר, מזינים את השם החדש של הדיסק.

        4. בשדה נתיב הטעינה, מזינים את נתיב הטעינה (MOUNT_PATH) של הדיסק הקשיח הזה:

          לדוגמה, אפשר להזין את הפרטים הבאים:

          /mnt/disks/EXISTING_PERSISTENT_DISK_NAME

          מחליפים את EXISTING_PERSISTENT_DISK_NAME בשם הדיסק. אם שיניתם את השם של דיסק האחסון המתמיד (persistent disk) האזורי, צריך להשתמש בשם החדש.

          לדוגמה, מחליפים את EXISTING_PERSISTENT_DISK_NAME ב-example-disk.

        5. לוחצים על סיום.

  6. אופציונלי: מגדירים את השדות האחרים של המשרה.

  7. אופציונלי: כדי לבדוק את הגדרות העבודה, בחלונית הימנית לוחצים על תצוגה מקדימה.

  8. לוחצים על יצירה.

בדף פרטי המשרה מוצגת המשרה שיצרתם.

gcloud

בדוגמה הבאה נעשה שימוש ב-CLI של gcloud כדי ליצור עבודה שמחברת ומטמיעה דיסק אחסון מתמיד קיים ודיסק אחסון מתמיד חדש. למשימה יש 3 משימות שכל אחת מהן מריצה סקריפט כדי ליצור קובץ בדיסק החדש והקבוע שנקרא output_task_TASK_INDEX.txt, כאשר TASK_INDEX הוא האינדקס של כל משימה: 0, 1 ו-2.

כדי ליצור משימה שמשתמשת בדיסקים קשיחים קבועים באמצעות ה-CLI של gcloud, משתמשים בפקודה gcloud batch jobs submit. בקובץ התצורה בפורמט JSON של העבודה, מציינים את הדיסקים הקשיחים בשדה instances ומטמיעים את הדיסק הקשיח בשדה volumes.

  1. יוצרים קובץ JSON.

    • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צרו קובץ JSON עם התוכן הבא:

      {
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "disks": [
                        {
                            "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                            "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME"
                        },
                        {
                            "newDisk": {
                                "sizeGb": NEW_PERSISTENT_DISK_SIZE,
                                "type": "NEW_PERSISTENT_DISK_TYPE"
                            },
                            "deviceName": "NEW_PERSISTENT_DISK_NAME"
                        }
                    ]
                }
            }
        ],
        "location": {
            "allowedLocations": [
                "EXISTING_PERSISTENT_DISK_LOCATION"
            ]
        }
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "NEW_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME",
                        "mountOptions": "rw,async"
                    },
                    {

                        "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

      מחליפים את מה שכתוב בשדות הבאים:

      • ‫PROJECT_ID: מזהה הפרויקט שלכם.
      • ‫EXISTING_PERSISTENT_DISK_NAME: השם של דיסק אחסון מתמיד קיים.

      • ‫EXISTING_PERSISTENT_DISK_LOCATION: המיקום של דיסק אחסון מתמיד (persistent disk) קיים. לכל דיסק אחסון מתמיד אזורי קיים, המיקום של העבודה צריך להיות האזור של הדיסק. לכל דיסק אחסון מתמיד אזורי קיים, המיקום של העבודה צריך להיות האזור של הדיסק, או אם מציינים אזורים, אחד או שני האזורים הספציפיים שבהם נמצא דיסק האחסון המתמיד האזורי. מידע נוסף על השדה allowedLocations

      • ‫NEW_PERSISTENT_DISK_SIZE: הגודל של דיסק האחסון המתמיד החדש ב-GB. הגדלים המותרים תלויים בסוג הדיסק הקשיח הקבוע, אבל הגודל המינימלי הוא לרוב 10GB ‏ (10) והגודל המקסימלי הוא לרוב 64TB ‏ (64000).

      • ‫NEW_PERSISTENT_DISK_TYPE: סוג הדיסק של דיסק האחסון המתמיד החדש, אחד מהערכים הבאים: pd-standard, ‏pd-balanced, ‏pd-ssd או pd-extreme. סוג הדיסק שמוגדר כברירת מחדל לדיסקים קבועים שאינם דיסקים לאתחול הוא pd-standard.

      • ‫NEW_PERSISTENT_DISK_NAME: השם של דיסק האחסון המתמיד החדש.

    • אם משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך ליצור קובץ JSON כמו שמוצג למעלה, אבל להחליף את השדה instances בערך הבא:

      "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],

      כאשר INSTANCE_TEMPLATE_NAME הוא השם של תבנית של הגדרות מכונה של המשימה הזו. אם העבודה משתמשת בדיסקים של אחסון מתמיד, בתבנית של הגדרות מכונה זו צריך להגדיר ולחבר את הדיסקים של אחסון מתמיד שבהם רוצים שהעבודה תשתמש. בדוגמה הזו, התבנית צריכה להגדיר ולצרף דיסק אחסון מתמיד חדש בשם NEW_PERSISTENT_DISK_NAME, וגם לצרף דיסק אחסון מתמיד קיים בשם EXISTING_PERSISTENT_DISK_NAME.

  2. מריצים את הפקודה הבאה:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫JOB_NAME: שם המשימה.

    • ‫LOCATION: המיקום של המשרה.

    • ‫JSON_CONFIGURATION_FILE: הנתיב לקובץ JSON עם פרטי ההגדרות של העבודה.

API

בדוגמה הבאה נעשה שימוש ב-Batch API כדי ליצור משימה שמחברת ומתקינה דיסק אחסון מתמיד קיים ודיסק אחסון מתמיד חדש. למשימה יש 3 פעולות, וכל אחת מהן מריצה סקריפט כדי ליצור קובץ בדיסק הקשיח החדש שנקרא output_task_TASK_INDEX.txt, כאשר TASK_INDEX הוא האינדקס של כל פעולה: 0, 1 ו-2.

כדי ליצור משימה שמשתמשת בדיסקים לאחסון מתמיד באמצעות Batch API, משתמשים ב-method‏ jobs.create. בבקשה, מציינים את הדיסקים של אחסון מתמיד בשדה instances ומעלים את הדיסק של אחסון מתמיד בשדה volumes.

  • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, שולחים את הבקשה הבאה:

    POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "disks": [
                        {
                            "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                            "existingDisk": "projects/PROJECT_ID/EXISTING_PERSISTENT_DISK_LOCATION/disks/EXISTING_PERSISTENT_DISK_NAME"
                        },
                        {
                            "newDisk": {
                                "sizeGb": NEW_PERSISTENT_DISK_SIZE,
                                "type": "NEW_PERSISTENT_DISK_TYPE"
                            },
                            "deviceName": "NEW_PERSISTENT_DISK_NAME"
                        }
                    ]
                }
            }
        ],
        "location": {
            "allowedLocations": [
                "EXISTING_PERSISTENT_DISK_LOCATION"
            ]
        }
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "NEW_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/NEW_PERSISTENT_DISK_NAME",
                        "mountOptions": "rw,async"
                    },
                    {

                        "deviceName": "EXISTING_PERSISTENT_DISK_NAME",
                        "mountPath": "/mnt/disks/EXISTING_PERSISTENT_DISK_NAME"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט שלכם.
    • ‫LOCATION: המיקום של המשרה.
    • ‫JOB_NAME: שם המשימה.
    • ‫EXISTING_PERSISTENT_DISK_NAME: השם של דיסק אחסון מתמיד קיים.

    • ‫EXISTING_PERSISTENT_DISK_LOCATION: המיקום של דיסק אחסון מתמיד (persistent disk) קיים. לכל דיסק אחסון מתמיד אזורי קיים, המיקום של העבודה צריך להיות האזור של הדיסק. לכל דיסק אחסון מתמיד אזורי קיים, המיקום של העבודה צריך להיות האזור של הדיסק, או אם מציינים אזורים, אחד או שני האזורים הספציפיים שבהם נמצא דיסק האחסון המתמיד האזורי. מידע נוסף על השדה allowedLocations

    • ‫NEW_PERSISTENT_DISK_SIZE: הגודל של דיסק האחסון המתמיד החדש ב-GB. הגדלים המותרים תלויים בסוג הדיסק הקשיח הקבוע, אבל הגודל המינימלי הוא לרוב 10GB ‏ (10) והגודל המקסימלי הוא לרוב 64TB ‏ (64000).

    • ‫NEW_PERSISTENT_DISK_TYPE: סוג הדיסק של דיסק האחסון המתמיד החדש, אחד מהערכים הבאים: pd-standard, ‏pd-balanced, ‏pd-ssd או pd-extreme. סוג הדיסק שמוגדר כברירת מחדל לדיסקים קבועים שאינם דיסקים לאתחול הוא pd-standard.

    • ‫NEW_PERSISTENT_DISK_NAME: השם של דיסק האחסון המתמיד החדש.

  • אם משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך ליצור קובץ JSON כמו שמוצג למעלה, אבל להחליף את השדה instances בערך הבא:

    "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],
...

    כאשר INSTANCE_TEMPLATE_NAME הוא שם תבנית של הגדרות מכונה של המשימה הזו. אם העבודה משתמשת בדיסקים של אחסון מתמיד, בתבנית של הגדרות מכונה זו צריך להגדיר ולחבר את הדיסקים של אחסון מתמיד שבהם רוצים שהעבודה תשתמש. בדוגמה הזו, התבנית צריכה להגדיר ולצרף דיסק אחסון מתמיד חדש בשם NEW_PERSISTENT_DISK_NAME, וגם לצרף דיסק אחסון מתמיד קיים בשם EXISTING_PERSISTENT_DISK_NAME.

C++‎

כדי ליצור עבודת Batch שמשתמשת בדיסקים קשיחים חדשים או קיימים באמצעות ספריות הלקוח ב-Cloud ל-C++‎, משתמשים בפונקציה CreateJob וכוללים את הפרטים הבאים:

  • כדי לצרף דיסקים מתמידים למכונות הווירטואליות של משימה, צריך לכלול אחת מהאפשרויות הבאות:
    • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, תשתמשו בשיטה set_remote_path.
    • אם אתם משתמשים בתבנית של הגדרות מכונה וירטואלית בשביל העבודה הזו, צריך להשתמש בשיטה set_instance_template.
  • כדי לצרף את הדיסקים לאחסון מתמיד לעבודה, משתמשים בשדה volumes עם השדות deviceName ו-mountPath. בדיסקים קשיחים חדשים, צריך גם להשתמש בשדה mountOptions כדי להפעיל כתיבה.

דוגמת קוד לתרחיש שימוש דומה מופיעה במאמר בנושא שימוש בקטגוריה של Cloud Storage.

המשך

כדי ליצור משימת Batch שמשתמשת בדיסקים קשיחים חדשים או קיימים באמצעות ספריות הלקוח של Cloud ל-Go, משתמשים בפונקציה CreateJob וכוללים את הפרטים הבאים:

  • כדי לצרף דיסקים מתמידים למכונות הווירטואליות של משימה, צריך לכלול אחת מהאפשרויות הבאות:
  • כדי לטעון את הדיסקים לאחסון מתמיד לעבודה, משתמשים בסוג Volume עם סוג Volume_DeviceName והשדה MountPath. בדיסקים קשיחים חדשים, משתמשים גם בשדה MountOptions כדי להפעיל כתיבה.
import (
	"context"
	"fmt"
	"io"

	batch "cloud.google.com/go/batch/apiv1"
	"cloud.google.com/go/batch/apiv1/batchpb"
	durationpb "google.golang.org/protobuf/types/known/durationpb"
)

// Creates and runs a job with persistent disk
func createJobWithPD(w io.Writer, projectID, jobName, pdName string) error {
	// jobName := job-name
	// pdName := disk-name
	ctx := context.Background()
	batchClient, err := batch.NewClient(ctx)
	if err != nil {
		return fmt.Errorf("batchClient error: %w", err)
	}
	defer batchClient.Close()

	runn := &batchpb.Runnable{
		Executable: &batchpb.Runnable_Script_{
			Script: &batchpb.Runnable_Script{
				Command: &batchpb.Runnable_Script_Text{
					Text: "echo Hello world from script 1 for task ${BATCH_TASK_INDEX}",
				},
			},
		},
	}
	volume := &batchpb.Volume{
		MountPath: fmt.Sprintf("/mnt/disks/%v", pdName),
		Source: &batchpb.Volume_DeviceName{
			DeviceName: pdName,
		},
	}

	// The disk type of the new persistent disk, either pd-standard,
	// pd-balanced, pd-ssd, or pd-extreme. For Batch jobs, the default is pd-balanced
	disk := &batchpb.AllocationPolicy_Disk{
		Type:   "pd-balanced",
		SizeGb: 10,
	}

	taskSpec := &batchpb.TaskSpec{
		ComputeResource: &batchpb.ComputeResource{
			// CpuMilli is milliseconds per cpu-second. This means the task requires 1 CPU.
			CpuMilli:  1000,
			MemoryMib: 16,
		},
		MaxRunDuration: &durationpb.Duration{
			Seconds: 3600,
		},
		MaxRetryCount: 2,
		Runnables:     []*batchpb.Runnable{runn},
		Volumes:       []*batchpb.Volume{volume},
	}

	taskGroups := []*batchpb.TaskGroup{
		{
			TaskCount: 4,
			TaskSpec:  taskSpec,
		},
	}

	labels := map[string]string{"env": "testing", "type": "container"}

	// Policies are used to define on what kind of virtual machines the tasks will run on.
	// Read more about local disks here: https://cloud.google.com/compute/docs/disks/persistent-disks
	allocationPolicy := &batchpb.AllocationPolicy{
		Instances: []*batchpb.AllocationPolicy_InstancePolicyOrTemplate{{
			PolicyTemplate: &batchpb.AllocationPolicy_InstancePolicyOrTemplate_Policy{
				Policy: &batchpb.AllocationPolicy_InstancePolicy{
					MachineType: "n1-standard-1",
					Disks: []*batchpb.AllocationPolicy_AttachedDisk{
						{
							Attached: &batchpb.AllocationPolicy_AttachedDisk_NewDisk{
								NewDisk: disk,
							},
							DeviceName: pdName,
						},
					},
				},
			},
		}},
	}

	// We use Cloud Logging as it's an out of the box available option
	logsPolicy := &batchpb.LogsPolicy{
		Destination: batchpb.LogsPolicy_CLOUD_LOGGING,
	}

	job := &batchpb.Job{
		Name:             jobName,
		TaskGroups:       taskGroups,
		AllocationPolicy: allocationPolicy,
		Labels:           labels,
		LogsPolicy:       logsPolicy,
	}

	request := &batchpb.CreateJobRequest{
		Parent: fmt.Sprintf("projects/%s/locations/%s", projectID, "us-central1"),
		JobId:  jobName,
		Job:    job,
	}

	created_job, err := batchClient.CreateJob(ctx, request)
	if err != nil {
		return fmt.Errorf("unable to create job: %w", err)
	}

	fmt.Fprintf(w, "Job created: %v\n", created_job)
	return nil
}

Java

כדי ליצור עבודת Batch שמשתמשת בדיסקים קשיחים חדשים או קיימים באמצעות ספריות הלקוח של Cloud ל-Java, משתמשים במחלקה CreateJobRequest וכוללים את הפרטים הבאים:

  • כדי לצרף דיסקים מתמידים למכונות הווירטואליות של משימה, צריך לכלול אחת מהאפשרויות הבאות:
    • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך לכלול את השיטה setDisks.
    • אם אתם משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך לכלול את השיטה setInstanceTemplate.
  • כדי לצרף את הדיסקים לאחסון מתמיד לעבודה, משתמשים במחלקת Volume עם השיטה setDeviceName והשיטה setMountPath. בדיסקים קשיחים חדשים, צריך להשתמש גם בשיטה setMountOptions כדי להפעיל כתיבה.

לדוגמה, אפשר להשתמש בדוגמת הקוד הבאה:


import com.google.cloud.batch.v1.AllocationPolicy;
import com.google.cloud.batch.v1.AllocationPolicy.AttachedDisk;
import com.google.cloud.batch.v1.AllocationPolicy.Disk;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicyOrTemplate;
import com.google.cloud.batch.v1.AllocationPolicy.LocationPolicy;
import com.google.cloud.batch.v1.BatchServiceClient;
import com.google.cloud.batch.v1.CreateJobRequest;
import com.google.cloud.batch.v1.Job;
import com.google.cloud.batch.v1.LogsPolicy;
import com.google.cloud.batch.v1.Runnable;
import com.google.cloud.batch.v1.Runnable.Script;
import com.google.cloud.batch.v1.TaskGroup;
import com.google.cloud.batch.v1.TaskSpec;
import com.google.cloud.batch.v1.Volume;
import com.google.common.collect.Lists;
import com.google.protobuf.Duration;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreatePersistentDiskJob {

  public static void main(String[] args)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Google Cloud project you want to use.
    String projectId = "YOUR_PROJECT_ID";
    // Name of the region you want to use to run the job. Regions that are
    // available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
    String region = "europe-central2";
    // The name of the job that will be created.
    // It needs to be unique for each project and region pair.
    String jobName = "JOB_NAME";
    // The size of the new persistent disk in GB.
    // The allowed sizes depend on the type of persistent disk,
    // but the minimum is often 10 GB (10) and the maximum is often 64 TB (64000).
    int diskSize = 10;
    // The name of the new persistent disk.
    String newPersistentDiskName = "DISK-NAME";
    // The name of an existing persistent disk.
    String existingPersistentDiskName = "EXISTING-DISK-NAME";
    // The location of an existing persistent disk. For more info :
    // https://cloud.google.com/batch/docs/create-run-job-storage#gcloud
    String location = "regions/us-central1";
    // The disk type of the new persistent disk, either pd-standard,
    // pd-balanced, pd-ssd, or pd-extreme. For Batch jobs, the default is pd-balanced.
    String newDiskType = "pd-balanced";

    createPersistentDiskJob(projectId, region, jobName, newPersistentDiskName,
            diskSize, existingPersistentDiskName, location, newDiskType);
  }

  // Creates a job that attaches and mounts an existing persistent disk and a new persistent disk
  public static Job createPersistentDiskJob(String projectId, String region, String jobName,
                                            String newPersistentDiskName, int diskSize,
                                            String existingPersistentDiskName,
                                            String location, String newDiskType)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests.
    try (BatchServiceClient batchServiceClient = BatchServiceClient.create()) {
      // Define what will be done as part of the job.
      String text = "echo Hello world from task ${BATCH_TASK_INDEX}. "
              + ">> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt";
      Runnable runnable =
          Runnable.newBuilder()
              .setScript(
                  Script.newBuilder()
                      .setText(text)
                      // You can also run a script from a file. Just remember, that needs to be a
                      // script that's already on the VM that will be running the job.
                      // Using setText() and setPath() is mutually exclusive.
                      // .setPath("/tmp/test.sh")
                      .build())
              .build();

      TaskSpec task = TaskSpec.newBuilder()
              // Jobs can be divided into tasks. In this case, we have only one task.
              .addAllVolumes(volumes(newPersistentDiskName, existingPersistentDiskName))
              .addRunnables(runnable)
              .setMaxRetryCount(2)
              .setMaxRunDuration(Duration.newBuilder().setSeconds(3600).build())
              .build();

      // Tasks are grouped inside a job using TaskGroups.
      // Currently, it's possible to have only one task group.
      TaskGroup taskGroup = TaskGroup.newBuilder()
          .setTaskCount(3)
          .setParallelism(1)
          .setTaskSpec(task)
          .build();

      // Policies are used to define the type of virtual machines the tasks will run on.
      InstancePolicy policy = InstancePolicy.newBuilder()
              .addAllDisks(attachedDisks(newPersistentDiskName, diskSize, newDiskType,
                  projectId, location, existingPersistentDiskName))
              .build();

      AllocationPolicy allocationPolicy =
          AllocationPolicy.newBuilder()
              .addInstances(
                  InstancePolicyOrTemplate.newBuilder()
                      .setPolicy(policy))
                  .setLocation(LocationPolicy.newBuilder().addAllowedLocations(location))
              .build();

      Job job =
          Job.newBuilder()
              .addTaskGroups(taskGroup)
              .setAllocationPolicy(allocationPolicy)
              .putLabels("env", "testing")
              .putLabels("type", "script")
              // We use Cloud Logging as it's an out-of-the-box option.
              .setLogsPolicy(
                  LogsPolicy.newBuilder().setDestination(LogsPolicy.Destination.CLOUD_LOGGING))
              .build();

      CreateJobRequest createJobRequest =
          CreateJobRequest.newBuilder()
              // The job's parent is the region in which the job will run.
              .setParent(String.format("projects/%s/locations/%s", projectId, region))
              .setJob(job)
              .setJobId(jobName)
              .build();

      Job result =
          batchServiceClient
              .createJobCallable()
              .futureCall(createJobRequest)
              .get(5, TimeUnit.MINUTES);

      System.out.printf("Successfully created the job: %s", result.getName());

      return result;
    }
  }

  // Creates link to existing disk and creates configuration for new disk
  private static Iterable<AttachedDisk> attachedDisks(String newPersistentDiskName, int diskSize,
                                                      String newDiskType, String projectId,
                                                      String existingPersistentDiskLocation,
                                                      String existingPersistentDiskName) {
    AttachedDisk newDisk = AttachedDisk.newBuilder()
            .setDeviceName(newPersistentDiskName)
            .setNewDisk(Disk.newBuilder().setSizeGb(diskSize).setType(newDiskType))
            .build();

    String diskPath = String.format("projects/%s/%s/disks/%s", projectId,
            existingPersistentDiskLocation, existingPersistentDiskName);

    AttachedDisk existingDisk = AttachedDisk.newBuilder()
            .setDeviceName(existingPersistentDiskName)
            .setExistingDisk(diskPath)
            .build();

    return Lists.newArrayList(existingDisk, newDisk);
  }

  // Describes a volume and parameters for it to be mounted to a VM.
  private static Iterable<Volume> volumes(String newPersistentDiskName,
                                          String existingPersistentDiskName) {
    Volume newVolume = Volume.newBuilder()
            .setDeviceName(newPersistentDiskName)
            .setMountPath("/mnt/disks/" + newPersistentDiskName)
            .addMountOptions("rw")
            .addMountOptions("async")
            .build();

    Volume existingVolume = Volume.newBuilder()
            .setDeviceName(existingPersistentDiskName)
            .setMountPath("/mnt/disks/" + existingPersistentDiskName)
            .build();

    return Lists.newArrayList(newVolume, existingVolume);
  }
}

Node.js

כדי ליצור עבודת Batch שמשתמשת בדיסקים קשיחים חדשים או קיימים באמצעות ספריות הלקוח של Cloud ל-Node.js, משתמשים בשיטה createJob וכוללים את הפרטים הבאים:

// Imports the Batch library
const batchLib = require('@google-cloud/batch');
const batch = batchLib.protos.google.cloud.batch.v1;

// Instantiates a client
const batchClient = new batchLib.v1.BatchServiceClient();

/**
 * TODO(developer): Update these variables before running the sample.
 */
// Project ID or project number of the Google Cloud project you want to use.
const projectId = await batchClient.getProjectId();
// The name of the job that will be created.
// It needs to be unique for each project and region pair.
const jobName = 'batch-create-persistent-disk-job';
// Name of the region you want to use to run the job. Regions that are
// available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
const region = 'europe-central2';
// The name of an existing persistent disk.
const existingPersistentDiskName = 'existing-persistent-disk-name';
// The name of the new persistent disk.
const newPersistentDiskName = 'new-persistent-disk-name';
// The size of the new persistent disk in GB.
// The allowed sizes depend on the type of persistent disk,
// but the minimum is often 10 GB (10) and the maximum is often 64 TB (64000).
const diskSize = 10;
// The location of an existing persistent disk. For more info :
// https://cloud.google.com/batch/docs/create-run-job-storage#gcloud
const location = 'regions/us-central1';
// The disk type of the new persistent disk, either pd-standard,
// pd-balanced, pd-ssd, or pd-extreme. For Batch jobs, the default is pd-balanced.
const newDiskType = 'pd-balanced';

// Define what will be done as part of the job.
const runnable = new batch.Runnable({
  script: new batch.Runnable.Script({
    commands: [
      '-c',
      'echo Hello world! This is task ${BATCH_TASK_INDEX}.' +
        '>> /mnt/disks/NEW_PERSISTENT_DISK_NAME/output_task_${BATCH_TASK_INDEX}.txt',
    ],
  }),
});

// Define volumes and their parameters to be mounted to a VM.
const newVolume = new batch.Volume({
  deviceName: newPersistentDiskName,
  mountPath: `/mnt/disks/${newPersistentDiskName}`,
  mountOptions: ['rw', 'async'],
});

const existingVolume = new batch.Volume({
  deviceName: existingPersistentDiskName,
  mountPath: `/mnt/disks/${existingPersistentDiskName}`,
});

const task = new batch.TaskSpec({
  runnables: [runnable],
  volumes: [newVolume, existingVolume],
  maxRetryCount: 2,
  maxRunDuration: {seconds: 3600},
});

// Tasks are grouped inside a job using TaskGroups.
const group = new batch.TaskGroup({
  taskCount: 3,
  taskSpec: task,
});

const newDisk = new batch.AllocationPolicy.Disk({
  type: newDiskType,
  sizeGb: diskSize,
});

// Policies are used to define on what kind of virtual machines the tasks will run on.
// Read more about local disks here: https://cloud.google.com/compute/docs/disks/persistent-disks
const instancePolicy = new batch.AllocationPolicy.InstancePolicy({
  disks: [
    // Create configuration for new disk
    new batch.AllocationPolicy.AttachedDisk({
      deviceName: newPersistentDiskName,
      newDisk,
    }),
    // Create link to existing disk
    new batch.AllocationPolicy.AttachedDisk({
      existingDisk: `projects/${projectId}/${location}/disks/${existingPersistentDiskName}`,
      deviceName: existingPersistentDiskName,
    }),
  ],
});

const locationPolicy = new batch.AllocationPolicy.LocationPolicy({
  allowedLocations: [location],
});

const allocationPolicy = new batch.AllocationPolicy.InstancePolicyOrTemplate({
  instances: [{policy: instancePolicy}],
  location: locationPolicy,
});

const job = new batch.Job({
  name: jobName,
  taskGroups: [group],
  labels: {env: 'testing', type: 'script'},
  allocationPolicy,
  // We use Cloud Logging as it's an option available out of the box
  logsPolicy: new batch.LogsPolicy({
    destination: batch.LogsPolicy.Destination.CLOUD_LOGGING,
  }),
});
// The job's parent is the project and region in which the job will run
const parent = `projects/${projectId}/locations/${region}`;

async function callCreateBatchPersistentDiskJob() {
  // Construct request
  const request = {
    parent,
    jobId: jobName,
    job,
  };

  // Run request
  const [response] = await batchClient.createJob(request);
  console.log(JSON.stringify(response));
}

await callCreateBatchPersistentDiskJob();

Python

כדי ליצור עבודת Batch שמשתמשת בדיסקים מתמשכים חדשים או קיימים באמצעות ספריות הלקוח של Cloud ל-Python, משתמשים בפונקציה CreateJob וכוללים את הפרטים הבאים:

  • כדי לצרף דיסקים מתמידים למכונות הווירטואליות של משימה, צריך לכלול אחת מהאפשרויות הבאות:
    • אם אתם לא משתמשים בתבנית של הגדרות מכונה וירטואלית בשביל העבודה הזו, צריך לכלול את הסיווג AttachedDisk.
    • אם אתם משתמשים בתבנית של הגדרות מכונה וירטואלית בשביל העבודה הזו, צריך לכלול את המאפיין instance_template.
  • כדי לטעון את הדיסקים לאחסון מתמיד לעבודה, משתמשים במחלקה Volume עם המאפיין device_name והמאפיין mount_path. בדיסקים קשיחים חדשים, משתמשים גם במאפיין mount_options כדי להפעיל כתיבה.

לדוגמה, אפשר להשתמש בדוגמת הקוד הבאה:

from google.cloud import batch_v1


def create_with_pd_job(
    project_id: str,
    region: str,
    job_name: str,
    disk_name: str,
    zone: str,
    existing_disk_name=None,
) -> batch_v1.Job:
    """
    This method shows how to create a sample Batch Job that will run
    a simple command on Cloud Compute instances with mounted persistent disk.

    Args:
        project_id: project ID or project number of the Cloud project you want to use.
        region: name of the region you want to use to run the job. Regions that are
            available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
        job_name: the name of the job that will be created.
            It needs to be unique for each project and region pair.
        disk_name: name of the disk to be mounted for your Job.
        existing_disk_name(optional): existing disk name, which you want to attach to a job

    Returns:
        A job object representing the job created.
    """
    client = batch_v1.BatchServiceClient()

    # Define what will be done as part of the job.
    task = batch_v1.TaskSpec()
    runnable = batch_v1.Runnable()
    runnable.script = batch_v1.Runnable.Script()
    runnable.script.text = (
        "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/"
        + disk_name
        + "/output_task_${BATCH_TASK_INDEX}.txt"
    )
    task.runnables = [runnable]
    task.max_retry_count = 2
    task.max_run_duration = "3600s"

    volume = batch_v1.Volume()
    volume.device_name = disk_name
    volume.mount_path = f"/mnt/disks/{disk_name}"
    task.volumes = [volume]

    if existing_disk_name:
        volume2 = batch_v1.Volume()
        volume2.device_name = existing_disk_name
        volume2.mount_path = f"/mnt/disks/{existing_disk_name}"
        task.volumes.append(volume2)

    # Tasks are grouped inside a job using TaskGroups.
    # Currently, it's possible to have only one task group.
    group = batch_v1.TaskGroup()
    group.task_count = 4
    group.task_spec = task

    disk = batch_v1.AllocationPolicy.Disk()
    # The disk type of the new persistent disk, either pd-standard,
    # pd-balanced, pd-ssd, or pd-extreme. For Batch jobs, the default is pd-balanced
    disk.type_ = "pd-balanced"
    disk.size_gb = 10

    # Policies are used to define on what kind of virtual machines the tasks will run on.
    # Read more about local disks here: https://cloud.google.com/compute/docs/disks/persistent-disks
    policy = batch_v1.AllocationPolicy.InstancePolicy()
    policy.machine_type = "n1-standard-1"

    attached_disk = batch_v1.AllocationPolicy.AttachedDisk()
    attached_disk.new_disk = disk
    attached_disk.device_name = disk_name
    policy.disks = [attached_disk]

    if existing_disk_name:
        attached_disk2 = batch_v1.AllocationPolicy.AttachedDisk()
        attached_disk2.existing_disk = (
            f"projects/{project_id}/zones/{zone}/disks/{existing_disk_name}"
        )
        attached_disk2.device_name = existing_disk_name
        policy.disks.append(attached_disk2)

    instances = batch_v1.AllocationPolicy.InstancePolicyOrTemplate()
    instances.policy = policy

    allocation_policy = batch_v1.AllocationPolicy()
    allocation_policy.instances = [instances]

    location = batch_v1.AllocationPolicy.LocationPolicy()
    location.allowed_locations = [f"zones/{zone}"]
    allocation_policy.location = location

    job = batch_v1.Job()
    job.task_groups = [group]
    job.allocation_policy = allocation_policy
    job.labels = {"env": "testing", "type": "script"}

    create_request = batch_v1.CreateJobRequest()
    create_request.job = job
    create_request.job_id = job_name
    # The job's parent is the region in which the job will run
    create_request.parent = f"projects/{project_id}/locations/{region}"

    return client.create_job(create_request)

שימוש ב-SSD מקומי

ההגבלות הבאות חלות על משימות שמשתמשות בכונני SSD מקומיים:

אפשר ליצור משימה שמשתמשת ב-SSD מקומי באמצעות ה-CLI של gcloud,‏ Batch API,‏ Java או Python. בדוגמה הבאה מוסבר איך ליצור משימה שיוצרת, מצרפת ומפעילה SSD מקומי. בנוסף, יש למשימה 3 תתי-משימות, שכל אחת מהן מריצה סקריפט כדי ליצור קובץ ב-SSD המקומי בשם output_task_TASK_INDEX.txt, כאשר TASK_INDEX הוא האינדקס של כל תת-משימה: 0, ‏1 ו-2.

gcloud

כדי ליצור משימה שמשתמשת בכונני SSD מקומיים באמצעות ה-CLI של gcloud, משתמשים בפקודה gcloud batch jobs submit. בקובץ ההגדרות של המשימה בפורמט JSON, יוצרים ומצרפים את כונני ה-SSD המקומיים בשדה instances ומטמיעים את כונני ה-SSD המקומיים בשדה volumes.

  1. יוצרים קובץ JSON.

    • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צרו קובץ JSON עם התוכן הבא:

      {
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "machineType": MACHINE_TYPE,
                    "disks": [
                        {
                            "newDisk": {
                                "sizeGb": LOCAL_SSD_SIZE,
                                "type": "local-ssd"
                            },
                            "deviceName": "LOCAL_SSD_NAME"
                        }
                    ]
                }
            }
        ]
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "LOCAL_SSD_NAME",
                        "mountPath": "/mnt/disks/LOCAL_SSD_NAME",
                        "mountOptions": "rw,async"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

      מחליפים את מה שכתוב בשדות הבאים:

      • ‫MACHINE_TYPE: סוג המכונה, שיכול להיות מוגדר מראש או מותאם אישית, של המכונות הווירטואליות של העבודה. מספר כונני ה-SSD המקומיים המותר תלוי בסוג המכונה של מכונות ה-VM של העבודה.
      • ‫LOCAL_SSD_NAME: השם של SSD מקומי שנוצר עבור המשימה הזו.
      • ‫LOCAL_SSD_SIZE: הגודל של כל ה-SSD המקומיים בגיגה-בייט. כל SSD מקומי הוא בנפח 375GB, ולכן הערך הזה חייב להיות מכפלה של 375GB. לדוגמה, אם יש 2 כונני SSD מקומיים, צריך להגדיר את הערך הזה ל-750 GB.

    • אם משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך ליצור קובץ JSON כמו שמוצג למעלה, אבל להחליף את השדה instances בערך הבא:

      "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],

      כאשר INSTANCE_TEMPLATE_NAME הוא השם של תבנית של הגדרות מכונה של המשימה הזו. אם העבודה משתמשת בכונני SSD מקומיים, בתבנית של הגדרות מכונה צריך להגדיר ולצרף את כונני ה-SSD המקומיים שבהם רוצים שהעבודה תשתמש. בדוגמה הזו, התבנית חייבת להגדיר ולצרף SSD מקומי בשם LOCAL_SSD_NAME.

  2. מריצים את הפקודה הבאה:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫JOB_NAME: שם המשימה.
    • ‫LOCATION: המיקום של המשרה.
    • ‫JSON_CONFIGURATION_FILE: הנתיב לקובץ JSON עם פרטי ההגדרות של העבודה.

API

כדי ליצור משימה שמשתמשת בכונני SSD מקומיים באמצעות Batch API, משתמשים ב-method‏ jobs.create. בבקשה, יוצרים ומצרפים את כונני ה-SSD המקומיים בשדה instances ומטמיעים את כונני ה-SSD המקומיים בשדה volumes.

  • אם אתם לא משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, שולחים את הבקשה הבאה:

    POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "allocationPolicy": {
        "instances": [
            {
                "policy": {
                    "machineType": MACHINE_TYPE,
                    "disks": [
                        {
                            "newDisk": {
                                "sizeGb": LOCAL_SSD_SIZE,
                                "type": "local-ssd"
                            },
                            "deviceName": "LOCAL_SSD_NAME"
                        }
                    ]
                }
            }
        ]
    },
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/disks/LOCAL_SSD_NAME/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "deviceName": "LOCAL_SSD_NAME",
                        "mountPath": "/mnt/disks/LOCAL_SSD_NAME",
                        "mountOptions": "rw,async"
                    }
                ]
            },
            "taskCount":3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט שלכם.
    • ‫LOCATION: המיקום של המשרה.
    • ‫JOB_NAME: שם המשימה.
    • ‫MACHINE_TYPE: סוג המכונה, שיכול להיות מוגדר מראש או מותאם אישית, של המכונות הווירטואליות של העבודה. מספר כונני ה-SSD המקומיים המותר תלוי בסוג המכונה של מכונות ה-VM של העבודה.
    • ‫LOCAL_SSD_NAME: השם של SSD מקומי שנוצר עבור המשימה הזו.
    • ‫LOCAL_SSD_SIZE: הגודל של כל ה-SSD המקומיים בגיגה-בייט. כל SSD מקומי הוא בנפח 375GB, ולכן הערך הזה חייב להיות מכפלה של 375GB. לדוגמה, אם יש 2 כונני SSD מקומיים, צריך להגדיר את הערך הזה ל-750 GB.

  • אם משתמשים בתבנית של הגדרות מכונה בשביל העבודה הזו, צריך ליצור קובץ JSON כמו שמוצג למעלה, אבל להחליף את השדה instances בערך הבא:

    "instances": [
    {
        "instanceTemplate": "INSTANCE_TEMPLATE_NAME"
    }
],
...

    כאשר INSTANCE_TEMPLATE_NAME הוא שם תבנית של הגדרות מכונה של המשימה הזו. אם העבודה משתמשת בכונני SSD מקומיים, בתבנית של הגדרות מכונה צריך להגדיר ולצרף את כונני ה-SSD המקומיים שבהם רוצים שהעבודה תשתמש. בדוגמה הזו, התבנית חייבת להגדיר ולצרף SSD מקומי בשם LOCAL_SSD_NAME.

המשך 

import (
	"context"
	"fmt"
	"io"

	batch "cloud.google.com/go/batch/apiv1"
	"cloud.google.com/go/batch/apiv1/batchpb"
	durationpb "google.golang.org/protobuf/types/known/durationpb"
)

// Creates and runs a job with local SSD
// Note: local SSD does not guarantee Local SSD data persistence.
// More details here: https://cloud.google.com/compute/docs/disks/local-ssd#data_persistence
func createJobWithSSD(w io.Writer, projectID, jobName, ssdName string) error {
	// jobName := job-name
	// ssdName := disk-name
	ctx := context.Background()
	batchClient, err := batch.NewClient(ctx)
	if err != nil {
		return fmt.Errorf("batchClient error: %w", err)
	}
	defer batchClient.Close()

	runn := &batchpb.Runnable{
		Executable: &batchpb.Runnable_Script_{
			Script: &batchpb.Runnable_Script{
				Command: &batchpb.Runnable_Script_Text{
					Text: "echo Hello world from script 1 for task ${BATCH_TASK_INDEX}",
				},
			},
		},
	}
	volume := &batchpb.Volume{
		MountPath: fmt.Sprintf("/mnt/disks/%v", ssdName),
		Source: &batchpb.Volume_DeviceName{
			DeviceName: ssdName,
		},
	}

	// The size of all the local SSDs in GB. Each local SSD is 375 GB,
	// so this value must be a multiple of 375 GB.
	// For example, for 2 local SSDs, set this value to 750 GB.
	disk := &batchpb.AllocationPolicy_Disk{
		Type:   "local-ssd",
		SizeGb: 375,
	}

	taskSpec := &batchpb.TaskSpec{
		ComputeResource: &batchpb.ComputeResource{
			// CpuMilli is milliseconds per cpu-second. This means the task requires 1 CPU.
			CpuMilli:  1000,
			MemoryMib: 16,
		},
		MaxRunDuration: &durationpb.Duration{
			Seconds: 3600,
		},
		MaxRetryCount: 2,
		Runnables:     []*batchpb.Runnable{runn},
		Volumes:       []*batchpb.Volume{volume},
	}

	taskGroups := []*batchpb.TaskGroup{
		{
			TaskCount: 4,
			TaskSpec:  taskSpec,
		},
	}

	labels := map[string]string{"env": "testing", "type": "container"}

	allocationPolicy := &batchpb.AllocationPolicy{
		Instances: []*batchpb.AllocationPolicy_InstancePolicyOrTemplate{{
			PolicyTemplate: &batchpb.AllocationPolicy_InstancePolicyOrTemplate_Policy{
				Policy: &batchpb.AllocationPolicy_InstancePolicy{
					// The allowed number of local SSDs depends on the machine type for your job's VMs.
					// In this case, we tell the system to use "n1-standard-1" machine type, which require to attach local ssd manually.
					// Read more about local disks here: https://cloud.google.com/compute/docs/disks/local-ssd#lssd_disk_options
					MachineType: "n1-standard-1",
					Disks: []*batchpb.AllocationPolicy_AttachedDisk{
						{
							Attached: &batchpb.AllocationPolicy_AttachedDisk_NewDisk{
								NewDisk: disk,
							},
							DeviceName: ssdName,
						},
					},
				},
			},
		}},
	}

	// We use Cloud Logging as it's an out of the box available option
	logsPolicy := &batchpb.LogsPolicy{
		Destination: batchpb.LogsPolicy_CLOUD_LOGGING,
	}

	job := &batchpb.Job{
		Name:             jobName,
		TaskGroups:       taskGroups,
		AllocationPolicy: allocationPolicy,
		Labels:           labels,
		LogsPolicy:       logsPolicy,
	}

	request := &batchpb.CreateJobRequest{
		Parent: fmt.Sprintf("projects/%s/locations/%s", projectID, "us-central1"),
		JobId:  jobName,
		Job:    job,
	}

	created_job, err := batchClient.CreateJob(ctx, request)
	if err != nil {
		return fmt.Errorf("unable to create job: %w", err)
	}

	fmt.Fprintf(w, "Job created: %v\n", created_job)
	return nil
}

Java 


import com.google.cloud.batch.v1.AllocationPolicy;
import com.google.cloud.batch.v1.AllocationPolicy.AttachedDisk;
import com.google.cloud.batch.v1.AllocationPolicy.Disk;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicyOrTemplate;
import com.google.cloud.batch.v1.BatchServiceClient;
import com.google.cloud.batch.v1.CreateJobRequest;
import com.google.cloud.batch.v1.Job;
import com.google.cloud.batch.v1.LogsPolicy;
import com.google.cloud.batch.v1.Runnable;
import com.google.cloud.batch.v1.Runnable.Script;
import com.google.cloud.batch.v1.TaskGroup;
import com.google.cloud.batch.v1.TaskSpec;
import com.google.cloud.batch.v1.Volume;
import com.google.protobuf.Duration;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateLocalSsdJob {

  public static void main(String[] args)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Google Cloud project you want to use.
    String projectId = "YOUR_PROJECT_ID";
    // Name of the region you want to use to run the job. Regions that are
    // available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
    String region = "europe-central2";
    // The name of the job that will be created.
    // It needs to be unique for each project and region pair.
    String jobName = "JOB_NAME";
    // The name of a local SSD created for this job.
    String localSsdName = "SSD-NAME";
    // The machine type, which can be predefined or custom, of the job's VMs.
    // The allowed number of local SSDs depends on the machine type
    // for your job's VMs are listed on: https://cloud.google.com/compute/docs/disks#localssds
    String machineType = "c3d-standard-8-lssd";
    // The size of all the local SSDs in GB. Each local SSD is 375 GB,
    // so this value must be a multiple of 375 GB.
    // For example, for 2 local SSDs, set this value to 750 GB.
    int ssdSize = 375;

    createLocalSsdJob(projectId, region, jobName, localSsdName, ssdSize, machineType);
  }

  // Create a job that uses local SSDs
  public static Job createLocalSsdJob(String projectId, String region, String jobName,
                                      String localSsdName, int ssdSize, String machineType)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests.
    try (BatchServiceClient batchServiceClient = BatchServiceClient.create()) {
      // Define what will be done as part of the job.
      Runnable runnable =
          Runnable.newBuilder()
              .setScript(
                  Script.newBuilder()
                      .setText(
                          "echo Hello world! This is task ${BATCH_TASK_INDEX}. "
                                  + "This job has a total of ${BATCH_TASK_COUNT} tasks.")
                      // You can also run a script from a file. Just remember, that needs to be a
                      // script that's already on the VM that will be running the job.
                      // Using setText() and setPath() is mutually exclusive.
                      // .setPath("/tmp/test.sh")
                      .build())
              .build();

      Volume volume = Volume.newBuilder()
          .setDeviceName(localSsdName)
          .setMountPath("/mnt/disks/" + localSsdName)
          .addMountOptions("rw")
          .addMountOptions("async")
          .build();

      TaskSpec task = TaskSpec.newBuilder()
          // Jobs can be divided into tasks. In this case, we have only one task.
          .addVolumes(volume)
          .addRunnables(runnable)
          .setMaxRetryCount(2)
          .setMaxRunDuration(Duration.newBuilder().setSeconds(3600).build())
          .build();

      // Tasks are grouped inside a job using TaskGroups.
      // Currently, it's possible to have only one task group.
      TaskGroup taskGroup = TaskGroup.newBuilder()
          .setTaskCount(3)
          .setParallelism(1)
          .setTaskSpec(task)
          .build();

      // Policies are used to define on what kind of virtual machines the tasks will run on.
      InstancePolicy policy = InstancePolicy.newBuilder()
          .setMachineType(machineType)
          .addDisks(AttachedDisk.newBuilder()
              .setDeviceName(localSsdName)
              // For example, local SSD uses type "local-ssd".
              // Persistent disks and boot disks use "pd-balanced", "pd-extreme", "pd-ssd"
              // or "pd-standard".
              .setNewDisk(Disk.newBuilder().setSizeGb(ssdSize).setType("local-ssd")))
          .build();

      AllocationPolicy allocationPolicy =
          AllocationPolicy.newBuilder()
              .addInstances(
                  InstancePolicyOrTemplate.newBuilder()
                      .setPolicy(policy)
                      .build())
              .build();

      Job job =
          Job.newBuilder()
              .addTaskGroups(taskGroup)
              .setAllocationPolicy(allocationPolicy)
              .putLabels("env", "testing")
              .putLabels("type", "script")
              // We use Cloud Logging as it's an out of the box available option.
              .setLogsPolicy(
                  LogsPolicy.newBuilder().setDestination(LogsPolicy.Destination.CLOUD_LOGGING))
              .build();

      CreateJobRequest createJobRequest =
          CreateJobRequest.newBuilder()
              // The job's parent is the region in which the job will run.
              .setParent(String.format("projects/%s/locations/%s", projectId, region))
              .setJob(job)
              .setJobId(jobName)
              .build();

      Job result =
          batchServiceClient
              .createJobCallable()
              .futureCall(createJobRequest)
              .get(5, TimeUnit.MINUTES);

      System.out.printf("Successfully created the job: %s", result.getName());

      return result;
    }
  }
}

Node.js 

// Imports the Batch library
const batchLib = require('@google-cloud/batch');
const batch = batchLib.protos.google.cloud.batch.v1;

// Instantiates a client
const batchClient = new batchLib.v1.BatchServiceClient();

/**
 * TODO(developer): Update these variables before running the sample.
 */
// Project ID or project number of the Google Cloud project you want to use.
const projectId = await batchClient.getProjectId();
// Name of the region you want to use to run the job. Regions that are
// available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
const region = 'europe-central2';
// The name of the job that will be created.
// It needs to be unique for each project and region pair.
const jobName = 'batch-local-ssd-job';
// The name of a local SSD created for this job.
const localSsdName = 'ssd-name';
// The machine type, which can be predefined or custom, of the job's VMs.
// The allowed number of local SSDs depends on the machine type
// for your job's VMs are listed on: https://cloud.google.com/compute/docs/disks#localssds
const machineType = 'c3d-standard-8-lssd';
// The size of all the local SSDs in GB. Each local SSD is 375 GB,
// so this value must be a multiple of 375 GB.
// For example, for 2 local SSDs, set this value to 750 GB.
const ssdSize = 375;

// Define what will be done as part of the job.
const runnable = new batch.Runnable({
  script: new batch.Runnable.Script({
    commands: [
      '-c',
      'echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks.',
    ],
  }),
});

const task = new batch.TaskSpec({
  runnables: [runnable],
  maxRetryCount: 2,
  maxRunDuration: {seconds: 3600},
});

// Tasks are grouped inside a job using TaskGroups.
const group = new batch.TaskGroup({
  taskCount: 3,
  taskSpec: task,
});

// Policies are used to define on what kind of virtual machines the tasks will run on.
const instancePolicy = new batch.AllocationPolicy.InstancePolicy({
  machineType,
  disks: [
    new batch.AllocationPolicy.AttachedDisk({
      deviceName: localSsdName,
      // For example, local SSD uses type "local-ssd".
      // Persistent disks and boot disks use "pd-balanced", "pd-extreme", "pd-ssd"
      // or "pd-standard".
      newDisk: new batch.AllocationPolicy.AttachedDisk({
        type: 'local-ssd',
        sizeGb: ssdSize,
      }),
    }),
  ],
});

const allocationPolicy = new batch.AllocationPolicy.InstancePolicyOrTemplate({
  instances: [{policy: instancePolicy}],
});

const job = new batch.Job({
  name: jobName,
  taskGroups: [group],
  labels: {env: 'testing', type: 'script'},
  allocationPolicy,
  // We use Cloud Logging as it's an option available out of the box
  logsPolicy: new batch.LogsPolicy({
    destination: batch.LogsPolicy.Destination.CLOUD_LOGGING,
  }),
});
// The job's parent is the project and region in which the job will run
const parent = `projects/${projectId}/locations/${region}`;

async function callCreateBatchGPUJob() {
  // Construct request
  const request = {
    parent,
    jobId: jobName,
    job,
  };

  // Run request
  const [response] = await batchClient.createJob(request);
  console.log(JSON.stringify(response));
}

await callCreateBatchGPUJob();

Python 

from google.cloud import batch_v1


def create_local_ssd_job(
    project_id: str, region: str, job_name: str, ssd_name: str
) -> batch_v1.Job:
    """
    This method shows how to create a sample Batch Job that will run
    a simple command on Cloud Compute instances with mounted local SSD.
    Note: local SSD does not guarantee Local SSD data persistence.
    More details here: https://cloud.google.com/compute/docs/disks/local-ssd#data_persistence

    Args:
        project_id: project ID or project number of the Cloud project you want to use.
        region: name of the region you want to use to run the job. Regions that are
            available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
        job_name: the name of the job that will be created.
            It needs to be unique for each project and region pair.
        ssd_name: name of the local ssd to be mounted for your Job.

    Returns:
        A job object representing the job created.
    """
    client = batch_v1.BatchServiceClient()

    # Define what will be done as part of the job.
    task = batch_v1.TaskSpec()
    runnable = batch_v1.Runnable()
    runnable.script = batch_v1.Runnable.Script()
    runnable.script.text = "echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks."
    task.runnables = [runnable]
    task.max_retry_count = 2
    task.max_run_duration = "3600s"

    volume = batch_v1.Volume()
    volume.device_name = ssd_name
    volume.mount_path = f"/mnt/disks/{ssd_name}"
    task.volumes = [volume]

    # Tasks are grouped inside a job using TaskGroups.
    # Currently, it's possible to have only one task group.
    group = batch_v1.TaskGroup()
    group.task_count = 4
    group.task_spec = task

    disk = batch_v1.AllocationPolicy.Disk()
    disk.type_ = "local-ssd"
    # The size of all the local SSDs in GB. Each local SSD is 375 GB,
    # so this value must be a multiple of 375 GB.
    # For example, for 2 local SSDs, set this value to 750 GB.
    disk.size_gb = 375
    assert disk.size_gb % 375 == 0

    # Policies are used to define on what kind of virtual machines the tasks will run on.
    # The allowed number of local SSDs depends on the machine type for your job's VMs.
    # In this case, we tell the system to use "n1-standard-1" machine type, which require to attach local ssd manually.
    # Read more about local disks here: https://cloud.google.com/compute/docs/disks/local-ssd#lssd_disk_options
    policy = batch_v1.AllocationPolicy.InstancePolicy()
    policy.machine_type = "n1-standard-1"

    attached_disk = batch_v1.AllocationPolicy.AttachedDisk()
    attached_disk.new_disk = disk
    attached_disk.device_name = ssd_name
    policy.disks = [attached_disk]

    instances = batch_v1.AllocationPolicy.InstancePolicyOrTemplate()
    instances.policy = policy

    allocation_policy = batch_v1.AllocationPolicy()
    allocation_policy.instances = [instances]

    job = batch_v1.Job()
    job.task_groups = [group]
    job.allocation_policy = allocation_policy
    job.labels = {"env": "testing", "type": "script"}
    # We use Cloud Logging as it's an out of the box available option
    job.logs_policy = batch_v1.LogsPolicy()
    job.logs_policy.destination = batch_v1.LogsPolicy.Destination.CLOUD_LOGGING

    create_request = batch_v1.CreateJobRequest()
    create_request.job = job
    create_request.job_id = job_name
    # The job's parent is the region in which the job will run
    create_request.parent = f"projects/{project_id}/locations/{region}"

    return client.create_job(create_request)

שימוש בקטגוריה של Cloud Storage

כדי ליצור משימה שמשתמשת בקטגוריה קיימת של Cloud Storage, בוחרים באחת מהשיטות הבאות:

  • מומלץ: להוסיף את הקטגוריה להגדרת המשימה כדי להטמיע אותה ישירות במכונות הווירטואליות של המשימה, כמו שמוסבר בקטע הזה. כשמריצים את המשימה, הקטגוריה נטענת אוטומטית למכונות הווירטואליות של המשימה באמצעות Cloud Storage FUSE.
  • יצירת משימה עם משימות שמתבצעת גישה ישירה לקטגוריה של Cloud Storage באמצעות ה-CLI של gcloud או ספריות לקוח עבור Cloud Storage API. כדי ללמוד איך לגשת לקטגוריית Cloud Storage ישירות ממכונה וירטואלית, אפשר לעיין במסמכי Compute Engine בנושא כתיבה וקריאה של נתונים מקטגוריות Cloud Storage.

לפני שיוצרים עבודה שמשתמשת בקטגוריה, צריך ליצור קטגוריה או לזהות קטגוריה קיימת. מידע נוסף זמין במאמרים בנושא יצירת קטגוריות ורשימת קטגוריות.

אפשר ליצור משימה שמשתמשת בקטגוריה של Cloud Storage באמצעותGoogle Cloud המסוף, ה-CLI של gcloud,‏ Batch API,‏ C++,‏ Go,‏ Java,‏ Node.js או Python.

בדוגמה הבאה מוסבר איך ליצור עבודה שמבצעת הרכבה של קטגוריית Cloud Storage. בנוסף, יש למשימה 3 תתי-משימות, שכל אחת מהן מריצה סקריפט כדי ליצור קובץ בדלי בשם output_task_TASK_INDEX.txt, כאשר TASK_INDEX הוא האינדקס של כל תת-משימה: 0,‏ 1 ו-2.

המסוף

כדי ליצור עבודה שמשתמשת בקטגוריה של Cloud Storage באמצעותGoogle Cloud המסוף, מבצעים את הפעולות הבאות:

  1. נכנסים לדף Job list במסוף Google Cloud .

    מעבר לרשימת המשימות

  2. לוחצים על יצירה. ייפתח הדף יצירת משימה באצווה. בחלונית הימנית, הדף פרטי המשרה מסומן.

  3. מגדירים את הדף פרטי המשימה:

    1. אופציונלי: בשדה שם המשרה, אפשר להתאים אישית את שם המשרה.

      לדוגמה, מזינים example-bucket-job.

    2. מגדירים את הקטע פרטי המשימה:

      1. בחלון New runnable, מוסיפים לפחות סקריפט אחד או קונטיינר אחד כדי שהעבודה הזו תפעל.

        לדוגמה, אפשר לבצע את הפעולות הבאות:

        1. מסמנים את תיבת הסימון Script (סקריפט). יופיע שדה.

        2. בשדה, מזינים את הסקריפט הבא:

          echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt

          מחליפים את MOUNT_PATH בנתיב הטעינה שבו משתמשים הקבצים להרצה של העבודה הזו כדי לגשת לקטגוריה קיימת של Cloud Storage. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו ספרייה או נתיב שתבחרו. לדוגמה, אם רוצים לייצג את הקטגוריה הזו באמצעות ספריה בשם my-bucket, מגדירים את נתיב ההרכבה ל-/mnt/disks/my-bucket.

        3. לוחצים על סיום.

      2. בשדה מספר המשימות, מזינים את מספר המשימות של העבודה הזו.

        לדוגמה, מזינים 3.

      3. בשדה מקביליות, מזינים את מספר המשימות שרוצים להריץ בו-זמנית.

        לדוגמה, מזינים 1 (ברירת מחדל).

  4. קובעים את ההגדרות בדף הגדרות נוספות:

    1. בחלונית הימנית, לוחצים על הגדרות נוספות. ייפתח הדף הגדרות נוספות.

    2. לכל קטגוריה של Cloud Storage שרוצים לצרף לעבודה הזו, מבצעים את הפעולות הבאות:

      1. בקטע נפח אחסון, לוחצים על הוספת נפח חדש. מופיע החלון New volume (נפח אחסון חדש).

      2. בחלון New volume (נפח חדש):

        1. בקטע סוג נפח האחסון, בוחרים באפשרות קטגוריה של Cloud Storage.

        2. בשדה Storage Bucket name, מזינים את השם של קטגוריה קיימת.

          לדוגמה, מזינים את הקטגוריה שצוינה בקובץ ההפעלה של העבודה הזו.

        3. בשדה Mount path, מזינים את נתיב ההרכבה של הדלי (MOUNT_PATH), שצוין בקובץ הניתן להפעלה.

        4. לוחצים על סיום.

  5. אופציונלי: מגדירים את השדות האחרים של המשרה.

  6. אופציונלי: כדי לבדוק את הגדרות העבודה, בחלונית הימנית לוחצים על תצוגה מקדימה.

  7. לוחצים על יצירה.

בדף פרטי המשרה מוצגת המשרה שיצרתם.

gcloud

כדי ליצור משימה שמשתמשת בקטגוריה של Cloud Storage באמצעות ה-CLI של gcloud, משתמשים בפקודה gcloud batch jobs submit. בקובץ התצורה של המשימה בפורמט JSON, מעלים את הקטגוריה בשדה volumes.

לדוגמה, כדי ליצור משימה שמפיקה קבצים ל-Cloud Storage:

  1. יוצרים קובץ JSON עם התוכן הבא:

    {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "gcs": {
                            "remotePath": "BUCKET_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫BUCKET_PATH: הנתיב של ספריית הקטגוריה שרוצים שהעבודה הזו תהיה לה גישה. הנתיב חייב להתחיל בשם הקטגוריה. לדוגמה, עבור קטגוריה בשם BUCKET_NAME, הנתיב BUCKET_NAME מייצג את ספריית הבסיס של הקטגוריה, והנתיב BUCKET_NAME/subdirectory מייצג את ספריית המשנה subdirectory.
    • ‫MOUNT_PATH: נתיב ההרכבה שרכיבי ההפעלה של המשימה משתמשים בו כדי לגשת לקטגוריה הזו. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו ספרייה או נתיב שתבחרו. לדוגמה, אם רוצים לייצג את הקטגוריה הזו באמצעות ספריה בשם my-bucket, מגדירים את נתיב הטעינה ל-/mnt/disks/my-bucket.

  2. מריצים את הפקודה הבאה:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫JOB_NAME: שם המשימה.
    • ‫LOCATION: המיקום של המשרה.
    • ‫JSON_CONFIGURATION_FILE: הנתיב לקובץ JSON עם פרטי ההגדרות של העבודה.

API

כדי ליצור משימה שמשתמשת בקטגוריה של Cloud Storage באמצעות Batch API, משתמשים ב-method ‏jobs.create ומטמיעים את הקטגוריה בשדה volumes.

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "gcs": {
                            "remotePath": "BUCKET_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
            "destination": "CLOUD_LOGGING"
    }
}

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט שלכם.
  • ‫LOCATION: המיקום של המשרה.
  • ‫JOB_NAME: שם המשימה.
  • ‫BUCKET_PATH: הנתיב של ספריית הקטגוריה שאתם רוצים שהג'וב הזה יקבל אליה גישה. הנתיב צריך להתחיל בשם הקטגוריה. לדוגמה, עבור קטגוריה בשם BUCKET_NAME, הנתיב BUCKET_NAME מייצג את ספריית הבסיס של הקטגוריה, והנתיב BUCKET_NAME/subdirectory מייצג את ספריית המשנה subdirectory.
  • ‫MOUNT_PATH: נתיב ההרכבה שרכיבי ההפעלה של המשימה משתמשים בו כדי לגשת לקטגוריה הזו. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו ספרייה או נתיב שתבחרו. לדוגמה, אם רוצים לייצג את הקטגוריה הזו באמצעות ספרייה בשם my-bucket, מגדירים את נתיב הטעינה ל-/mnt/disks/my-bucket.

C++‎

C++

מידע נוסף מופיע במאמרי העזרה של Batch C++ API.

כדי לבצע אימות ב-Batch, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית. 

#include "google/cloud/batch/v1/batch_client.h"

  [](std::string const& project_id, std::string const& location_id,
     std::string const& job_id, std::string const& bucket_name) {
    // Initialize the request; start with the fields that depend on the sample
    // input.
    google::cloud::batch::v1::CreateJobRequest request;
    request.set_parent("projects/" + project_id + "/locations/" + location_id);
    request.set_job_id(job_id);
    // Most of the job description is fixed in this example; use a string to
    // initialize it, and then override the GCS remote path.
    auto constexpr kText = R"pb(
      task_groups {
        task_count: 4
        task_spec {
          compute_resource { cpu_milli: 500 memory_mib: 16 }
          max_retry_count: 2
          max_run_duration { seconds: 3600 }
          runnables {
            script {
              text: "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt"
            }
          }
          volumes { mount_path: "/mnt/share" }
        }
      }
      allocation_policy {
        instances {
          policy { machine_type: "e2-standard-4" provisioning_model: STANDARD }
        }
      }
      labels { key: "env" value: "testing" }
      labels { key: "type" value: "script" }
      logs_policy { destination: CLOUD_LOGGING }
    )pb";
    auto* job = request.mutable_job();
    if (!google::protobuf::TextFormat::ParseFromString(kText, job)) {
      throw std::runtime_error("Error parsing Job description");
    }
    job->mutable_task_groups(0)
        ->mutable_task_spec()
        ->mutable_volumes(0)
        ->mutable_gcs()
        ->set_remote_path(bucket_name);
    // Create a client and issue the request.
    auto client = google::cloud::batch_v1::BatchServiceClient(
        google::cloud::batch_v1::MakeBatchServiceConnection());
    auto response = client.CreateJob(request);
    if (!response) throw std::move(response).status();
    std::cout << "Job : " << response->DebugString() << "\n";
  }

המשך

Go

מידע נוסף מופיע במאמרי העזרה של Batch Go API.

כדי לבצע אימות ב-Batch, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית. 

import (
	"context"
	"fmt"
	"io"

	batch "cloud.google.com/go/batch/apiv1"
	"cloud.google.com/go/batch/apiv1/batchpb"
	durationpb "google.golang.org/protobuf/types/known/durationpb"
)

// Creates and runs a job that executes the specified script
func createScriptJobWithBucket(w io.Writer, projectID, region, jobName, bucketName string) error {
	// projectID := "your_project_id"
	// region := "us-central1"
	// jobName := "some-job"
	// jobName := "some-bucket"

	ctx := context.Background()
	batchClient, err := batch.NewClient(ctx)
	if err != nil {
		return fmt.Errorf("NewClient: %w", err)
	}
	defer batchClient.Close()

	// Define what will be done as part of the job.
	command := &batchpb.Runnable_Script_Text{
		Text: "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt",
	}

	// Specify the Google Cloud Storage bucket to mount
	volume := &batchpb.Volume{
		Source: &batchpb.Volume_Gcs{
			Gcs: &batchpb.GCS{
				RemotePath: bucketName,
			},
		},
		MountPath:    "/mnt/share",
		MountOptions: []string{},
	}

	// We can specify what resources are requested by each task.
	resources := &batchpb.ComputeResource{
		// CpuMilli is milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
		CpuMilli:  500,
		MemoryMib: 16,
	}

	taskSpec := &batchpb.TaskSpec{
		Runnables: []*batchpb.Runnable{{
			Executable: &batchpb.Runnable_Script_{
				Script: &batchpb.Runnable_Script{Command: command},
			},
		}},
		ComputeResource: resources,
		MaxRunDuration: &durationpb.Duration{
			Seconds: 3600,
		},
		MaxRetryCount: 2,
		Volumes:       []*batchpb.Volume{volume},
	}

	// Tasks are grouped inside a job using TaskGroups.
	taskGroups := []*batchpb.TaskGroup{
		{
			TaskCount: 4,
			TaskSpec:  taskSpec,
		},
	}

	// Policies are used to define on what kind of virtual machines the tasks will run on.
	// In this case, we tell the system to use "e2-standard-4" machine type.
	// Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
	allocationPolicy := &batchpb.AllocationPolicy{
		Instances: []*batchpb.AllocationPolicy_InstancePolicyOrTemplate{{
			PolicyTemplate: &batchpb.AllocationPolicy_InstancePolicyOrTemplate_Policy{
				Policy: &batchpb.AllocationPolicy_InstancePolicy{
					MachineType: "e2-standard-4",
				},
			},
		}},
	}

	// We use Cloud Logging as it's an out of the box available option
	logsPolicy := &batchpb.LogsPolicy{
		Destination: batchpb.LogsPolicy_CLOUD_LOGGING,
	}

	jobLabels := map[string]string{"env": "testing", "type": "script"}

	// The job's parent is the region in which the job will run
	parent := fmt.Sprintf("projects/%s/locations/%s", projectID, region)

	job := batchpb.Job{
		TaskGroups:       taskGroups,
		AllocationPolicy: allocationPolicy,
		Labels:           jobLabels,
		LogsPolicy:       logsPolicy,
	}

	req := &batchpb.CreateJobRequest{
		Parent: parent,
		JobId:  jobName,
		Job:    &job,
	}

	created_job, err := batchClient.CreateJob(ctx, req)
	if err != nil {
		return fmt.Errorf("unable to create job: %w", err)
	}

	fmt.Fprintf(w, "Job created: %v\n", created_job)

	return nil
}

Java

Java

מידע נוסף מופיע במאמרי העזרה של Batch Java API.

כדי לבצע אימות ב-Batch, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית. 

import com.google.cloud.batch.v1.AllocationPolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicy;
import com.google.cloud.batch.v1.AllocationPolicy.InstancePolicyOrTemplate;
import com.google.cloud.batch.v1.BatchServiceClient;
import com.google.cloud.batch.v1.ComputeResource;
import com.google.cloud.batch.v1.CreateJobRequest;
import com.google.cloud.batch.v1.GCS;
import com.google.cloud.batch.v1.Job;
import com.google.cloud.batch.v1.LogsPolicy;
import com.google.cloud.batch.v1.LogsPolicy.Destination;
import com.google.cloud.batch.v1.Runnable;
import com.google.cloud.batch.v1.Runnable.Script;
import com.google.cloud.batch.v1.TaskGroup;
import com.google.cloud.batch.v1.TaskSpec;
import com.google.cloud.batch.v1.Volume;
import com.google.protobuf.Duration;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateWithMountedBucket {

  public static void main(String[] args)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Cloud project you want to use.
    String projectId = "YOUR_PROJECT_ID";

    // Name of the region you want to use to run the job. Regions that are
    // available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
    String region = "europe-central2";

    // The name of the job that will be created.
    // It needs to be unique for each project and region pair.
    String jobName = "JOB_NAME";

    // Name of the bucket to be mounted for your Job.
    String bucketName = "BUCKET_NAME";

    createScriptJobWithBucket(projectId, region, jobName, bucketName);
  }

  // This method shows how to create a sample Batch Job that will run
  // a simple command on Cloud Compute instances.
  public static void createScriptJobWithBucket(String projectId, String region, String jobName,
      String bucketName)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests. After completing all of your requests, call
    // the `batchServiceClient.close()` method on the client to safely
    // clean up any remaining background resources.
    try (BatchServiceClient batchServiceClient = BatchServiceClient.create()) {

      // Define what will be done as part of the job.
      Runnable runnable =
          Runnable.newBuilder()
              .setScript(
                  Script.newBuilder()
                      .setText(
                          "echo Hello world from task ${BATCH_TASK_INDEX}. >> "
                              + "/mnt/share/output_task_${BATCH_TASK_INDEX}.txt")
                      // You can also run a script from a file. Just remember, that needs to be a
                      // script that's already on the VM that will be running the job.
                      // Using setText() and setPath() is mutually exclusive.
                      // .setPath("/tmp/test.sh")
                      .build())
              .build();

      Volume volume = Volume.newBuilder()
          .setGcs(GCS.newBuilder()
              .setRemotePath(bucketName)
              .build())
          .setMountPath("/mnt/share")
          .build();

      // We can specify what resources are requested by each task.
      ComputeResource computeResource =
          ComputeResource.newBuilder()
              // In milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
              .setCpuMilli(500)
              // In MiB.
              .setMemoryMib(16)
              .build();

      TaskSpec task =
          TaskSpec.newBuilder()
              // Jobs can be divided into tasks. In this case, we have only one task.
              .addRunnables(runnable)
              .addVolumes(volume)
              .setComputeResource(computeResource)
              .setMaxRetryCount(2)
              .setMaxRunDuration(Duration.newBuilder().setSeconds(3600).build())
              .build();

      // Tasks are grouped inside a job using TaskGroups.
      // Currently, it's possible to have only one task group.
      TaskGroup taskGroup = TaskGroup.newBuilder().setTaskCount(4).setTaskSpec(task).build();

      // Policies are used to define on what kind of virtual machines the tasks will run on.
      // In this case, we tell the system to use "e2-standard-4" machine type.
      // Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
      InstancePolicy instancePolicy =
          InstancePolicy.newBuilder().setMachineType("e2-standard-4").build();

      AllocationPolicy allocationPolicy =
          AllocationPolicy.newBuilder()
              .addInstances(InstancePolicyOrTemplate.newBuilder().setPolicy(instancePolicy).build())
              .build();

      Job job =
          Job.newBuilder()
              .addTaskGroups(taskGroup)
              .setAllocationPolicy(allocationPolicy)
              .putLabels("env", "testing")
              .putLabels("type", "script")
              .putLabels("mount", "bucket")
              // We use Cloud Logging as it's an out of the box available option.
              .setLogsPolicy(
                  LogsPolicy.newBuilder().setDestination(Destination.CLOUD_LOGGING).build())
              .build();

      CreateJobRequest createJobRequest =
          CreateJobRequest.newBuilder()
              // The job's parent is the region in which the job will run.
              .setParent(String.format("projects/%s/locations/%s", projectId, region))
              .setJob(job)
              .setJobId(jobName)
              .build();

      Job result =
          batchServiceClient
              .createJobCallable()
              .futureCall(createJobRequest)
              .get(5, TimeUnit.MINUTES);

      System.out.printf("Successfully created the job: %s", result.getName());
    }
  }
}

Node.js

Node.js

מידע נוסף מופיע במאמרי העזרה של Batch Node.js API.

כדי לבצע אימות ב-Batch, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית. 

/**
 * TODO(developer): Uncomment and replace these variables before running the sample.
 */
// const projectId = 'YOUR_PROJECT_ID';
/**
 * The region you want to the job to run in. The regions that support Batch are listed here:
 * https://cloud.google.com/batch/docs/get-started#locations
 */
// const region = 'us-central-1';
/**
 * The name of the job that will be created.
 * It needs to be unique for each project and region pair.
 */
// const jobName = 'YOUR_JOB_NAME';
/**
 * The name of the bucket to be mounted.
 */
// const bucketName = 'YOUR_BUCKET_NAME';

// Imports the Batch library
const batchLib = require('@google-cloud/batch');
const batch = batchLib.protos.google.cloud.batch.v1;

// Instantiates a client
const batchClient = new batchLib.v1.BatchServiceClient();

// Define what will be done as part of the job.
const task = new batch.TaskSpec();
const runnable = new batch.Runnable();
runnable.script = new batch.Runnable.Script();
runnable.script.text =
  'echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt';
// You can also run a script from a file. Just remember, that needs to be a script that's
// already on the VM that will be running the job. Using runnable.script.text and runnable.script.path is mutually
// exclusive.
// runnable.script.path = '/tmp/test.sh'
task.runnables = [runnable];

const gcsBucket = new batch.GCS();
gcsBucket.remotePath = bucketName;
const gcsVolume = new batch.Volume();
gcsVolume.gcs = gcsBucket;
gcsVolume.mountPath = '/mnt/share';
task.volumes = [gcsVolume];

// We can specify what resources are requested by each task.
const resources = new batch.ComputeResource();
resources.cpuMilli = 2000; // in milliseconds per cpu-second. This means the task requires 2 whole CPUs.
resources.memoryMib = 16;
task.computeResource = resources;

task.maxRetryCount = 2;
task.maxRunDuration = {seconds: 3600};

// Tasks are grouped inside a job using TaskGroups.
const group = new batch.TaskGroup();
group.taskCount = 4;
group.taskSpec = task;

// Policies are used to define on what kind of virtual machines the tasks will run on.
// In this case, we tell the system to use "e2-standard-4" machine type.
// Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
const allocationPolicy = new batch.AllocationPolicy();
const policy = new batch.AllocationPolicy.InstancePolicy();
policy.machineType = 'e2-standard-4';
const instances = new batch.AllocationPolicy.InstancePolicyOrTemplate();
instances.policy = policy;
allocationPolicy.instances = [instances];

const job = new batch.Job();
job.name = jobName;
job.taskGroups = [group];
job.allocationPolicy = allocationPolicy;
job.labels = {env: 'testing', type: 'script'};
// We use Cloud Logging as it's an option available out of the box
job.logsPolicy = new batch.LogsPolicy();
job.logsPolicy.destination = batch.LogsPolicy.Destination.CLOUD_LOGGING;

// The job's parent is the project and region in which the job will run
const parent = `projects/${projectId}/locations/${region}`;

async function callCreateJob() {
  // Construct request
  const request = {
    parent,
    jobId: jobName,
    job,
  };

  // Run request
  const response = await batchClient.createJob(request);
  console.log(response);
}

await callCreateJob();

Python

Python

מידע נוסף מופיע במאמרי העזרה של Batch Python API.

כדי לבצע אימות ב-Batch, צריך להגדיר את Application Default Credentials. מידע נוסף זמין במאמר הגדרת אימות לסביבת פיתוח מקומית. 

from google.cloud import batch_v1


def create_script_job_with_bucket(
    project_id: str, region: str, job_name: str, bucket_name: str
) -> batch_v1.Job:
    """
    This method shows how to create a sample Batch Job that will run
    a simple command on Cloud Compute instances.

    Args:
        project_id: project ID or project number of the Cloud project you want to use.
        region: name of the region you want to use to run the job. Regions that are
            available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
        job_name: the name of the job that will be created.
            It needs to be unique for each project and region pair.
        bucket_name: name of the bucket to be mounted for your Job.

    Returns:
        A job object representing the job created.
    """
    client = batch_v1.BatchServiceClient()

    # Define what will be done as part of the job.
    task = batch_v1.TaskSpec()
    runnable = batch_v1.Runnable()
    runnable.script = batch_v1.Runnable.Script()
    runnable.script.text = "echo Hello world from task ${BATCH_TASK_INDEX}. >> /mnt/share/output_task_${BATCH_TASK_INDEX}.txt"
    task.runnables = [runnable]

    gcs_bucket = batch_v1.GCS()
    gcs_bucket.remote_path = bucket_name
    gcs_volume = batch_v1.Volume()
    gcs_volume.gcs = gcs_bucket
    gcs_volume.mount_path = "/mnt/share"
    task.volumes = [gcs_volume]

    # We can specify what resources are requested by each task.
    resources = batch_v1.ComputeResource()
    resources.cpu_milli = 500  # in milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
    resources.memory_mib = 16
    task.compute_resource = resources

    task.max_retry_count = 2
    task.max_run_duration = "3600s"

    # Tasks are grouped inside a job using TaskGroups.
    # Currently, it's possible to have only one task group.
    group = batch_v1.TaskGroup()
    group.task_count = 4
    group.task_spec = task

    # Policies are used to define on what kind of virtual machines the tasks will run on.
    # In this case, we tell the system to use "e2-standard-4" machine type.
    # Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
    allocation_policy = batch_v1.AllocationPolicy()
    policy = batch_v1.AllocationPolicy.InstancePolicy()
    policy.machine_type = "e2-standard-4"
    instances = batch_v1.AllocationPolicy.InstancePolicyOrTemplate()
    instances.policy = policy
    allocation_policy.instances = [instances]

    job = batch_v1.Job()
    job.task_groups = [group]
    job.allocation_policy = allocation_policy
    job.labels = {"env": "testing", "type": "script", "mount": "bucket"}
    # We use Cloud Logging as it's an out of the box available option
    job.logs_policy = batch_v1.LogsPolicy()
    job.logs_policy.destination = batch_v1.LogsPolicy.Destination.CLOUD_LOGGING

    create_request = batch_v1.CreateJobRequest()
    create_request.job = job
    create_request.job_id = job_name
    # The job's parent is the region in which the job will run
    create_request.parent = f"projects/{project_id}/locations/{region}"

    return client.create_job(create_request)

שימוש במערכת קבצים ברשת

אפשר ליצור משימה שמשתמשת במערכת קבצים קיימת ברשת (NFS), כמו שיתוף קבצים ב-Filestore, באמצעות Google Cloud המסוף, ה-CLI של gcloud או Batch API.

לפני שיוצרים עבודה שמשתמשת ב-NFS, צריך לוודא שחומת האש של הרשת מוגדרת בצורה נכונה כדי לאפשר תנועה בין מכונות וירטואליות של העבודה לבין ה-NFS. מידע נוסף זמין במאמר בנושא הגדרת כללים של חומת אש ל-Filestore.

בדוגמה הבאה מוסבר איך ליצור משימה שמציינת NFS ומטמיעה אותו. למשימה יש גם 3 משימות משנה, שכל אחת מהן מריצה סקריפט כדי ליצור קובץ ב-NFS בשם output_task_TASK_INDEX.txt, כאשר TASK_INDEX הוא האינדקס של כל משימת משנה: 0,‏ 1 ו-2.

המסוף

כדי ליצור משימה שמשתמשת ב-NFS באמצעות Google Cloud המסוף, פועלים לפי השלבים הבאים:

  1. נכנסים לדף Job list במסוף Google Cloud .

    מעבר לרשימת המשימות

  2. לוחצים על יצירה. ייפתח הדף Create batch job. בחלונית הימנית, הדף פרטי המשרה מסומן.

  3. מגדירים את הדף פרטי המשימה:

    1. אופציונלי: בשדה שם המשרה, אפשר להתאים אישית את שם המשרה.

      לדוגמה, מזינים example-nfs-job.

    2. מגדירים את הקטע פרטי המשימה:

      1. בחלון New runnable, מוסיפים לפחות סקריפט אחד או קונטיינר אחד כדי שהעבודה הזו תפעל.

        לדוגמה, אפשר לבצע את הפעולות הבאות:

        1. מסמנים את תיבת הסימון Script (סקריפט). יופיע שדה.

        2. בשדה, מזינים את הסקריפט הבא:

          echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt

          מחליפים את MOUNT_PATH בנתיב ההרכבה שבו קובץ ההפעלה של הג'וב משתמש כדי לגשת ל-NFS הזה. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו בספרייה או בנתיב שתבחרו. לדוגמה, אם רוצים לייצג את ה-NFS הזה באמצעות ספרייה בשם my-nfs, מגדירים את נתיב הטעינה ל-/mnt/disks/my-nfs.

        3. לוחצים על סיום.

      2. בשדה מספר המשימות, מזינים את מספר המשימות של העבודה הזו.

        לדוגמה, מזינים 3.

      3. בשדה מקביליות, מזינים את מספר המשימות שרוצים להריץ בו-זמנית.

        לדוגמה, מזינים 1 (ברירת מחדל).

  4. קובעים את ההגדרות בדף הגדרות נוספות:

    1. בחלונית הימנית, לוחצים על הגדרות נוספות. ייפתח הדף הגדרות נוספות.

    2. לכל קטגוריה של Cloud Storage שרוצים לצרף לעבודה הזו, מבצעים את הפעולות הבאות:

      1. בקטע נפח אחסון, לוחצים על הוספת נפח חדש. מופיע החלון New volume (נפח אחסון חדש).

      2. בחלון New volume (נפח חדש):

        1. בקטע Volume type (סוג נפח האחסון), בוחרים באפשרות Network file system (מערכת קבצים ברשת).

        2. בשדה File server (שרת קבצים), מזינים את כתובת ה-IP של השרת שבו נמצא ה-NFS שצוין בקובץ ההפעלה של המשימה הזו.

          לדוגמה, אם ה-NFS שלכם הוא שיתוף קבצים של Filestore, צריך לציין את כתובת ה-IP של מופע Filestore. אפשר לקבל את כתובת ה-IP על ידי תיאור מופע Filestore.

        3. בשדה Remote path, מזינים נתיב שיכול לגשת ל-NFS שציינתם בשלב הקודם.

          הנתיב של ספריית ה-NFS חייב להתחיל ב-/ ואחריו ספריית הבסיס של ה-NFS.

        4. בשדה Mount path, מזינים את נתיב ההרכבה ל-NFS ‏(MOUNT_PATH), שציינתם בשלב הקודם.

    3. לוחצים על סיום.

  5. אופציונלי: מגדירים את השדות האחרים של המשרה.

  6. אופציונלי: כדי לבדוק את הגדרות העבודה, בחלונית הימנית לוחצים על תצוגה מקדימה.

  7. לוחצים על יצירה.

בדף פרטי המשרה מוצגת המשרה שיצרתם.

gcloud

כדי ליצור משימה שמשתמשת ב-NFS באמצעות ה-CLI של gcloud, משתמשים בפקודה gcloud batch jobs submit. בקובץ התצורה של המשימה בפורמט JSON, מעלים את ה-NFS בשדה volumes.

  1. יוצרים קובץ JSON עם התוכן הבא:

    {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "nfs": {
                            "server": "NFS_IP_ADDRESS",
                            "remotePath": "NFS_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

    מחליפים את מה שכתוב בשדות הבאים:

    • NFS_IP_ADDRESS: כתובת ה-IP של NFS. לדוגמה, אם ה-NFS שלכם הוא שיתוף קבצים ב-Filestore, צריך לציין את כתובת ה-IP של מופע Filestore. אפשר לקבל את כתובת ה-IP על ידי תיאור מופע Filestore.
    • ‫NFS_PATH: הנתיב של ספריית ה-NFS שרוצים שהעבודה הזו תוכל לגשת אליה. הנתיב צריך להתחיל ב-/ ואחריו ספריית הבסיס של ה-NFS. לדוגמה, בשיתוף קבצים ב-Filestore בשם FILE_SHARE_NAME, הנתיב /FILE_SHARE_NAME מייצג את ספריית השורש של שיתוף הקבצים, והנתיב /FILE_SHARE_NAME/subdirectory מייצג את ספריית המשנה subdirectory.
    • ‫MOUNT_PATH: נתיב ההרכבה שרכיבי ההפעלה של המשימה משתמשים בו כדי לגשת ל-NFS הזה. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו ספרייה או נתיב שתבחרו. לדוגמה, אם רוצים לייצג את ה-NFS הזה באמצעות ספרייה בשם my-nfs, מגדירים את נתיב ההרכבה ל-/mnt/disks/my-nfs.

  2. מריצים את הפקודה הבאה:

    gcloud batch jobs submit JOB_NAME \
  --location LOCATION \
  --config JSON_CONFIGURATION_FILE

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫JOB_NAME: שם המשימה.
    • ‫LOCATION: המיקום של המשרה.
    • ‫JSON_CONFIGURATION_FILE: הנתיב לקובץ JSON עם פרטי ההגדרות של העבודה.

API

כדי ליצור משימה שמשתמשת ב-NFS באמצעות Batch API, משתמשים ב-method‏ jobs.create ומטמיעים את ה-NFS בשדה volumes.

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

   {
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "script": {
                            "text": "echo Hello world from task ${BATCH_TASK_INDEX}. >> MOUNT_PATH/output_task_${BATCH_TASK_INDEX}.txt"
                        }
                    }
                ],
                "volumes": [
                    {
                        "nfs": {
                            "server": "NFS_IP_ADDRESS",
                            "remotePath": "NFS_PATH"
                        },
                        "mountPath": "MOUNT_PATH"
                    }
                ]
            },
            "taskCount": 3
        }
    ],
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט שלכם.
  • ‫LOCATION: המיקום של המשרה.
  • ‫JOB_NAME: שם המשימה.
  • ‫NFS_IP_ADDRESS: כתובת ה-IP של מערכת קבצים ברשת (NFS). לדוגמה, אם ה-NFS שלכם הוא שיתוף קבצים ב-Filestore, צריך לציין את כתובת ה-IP של מופע Filestore. אפשר לקבל את כתובת ה-IP על ידי תיאור מופע Filestore.
  • ‫NFS_PATH: הנתיב של ספריית ה-NFS שרוצים שהעבודה הזו תוכל לגשת אליה. הנתיב צריך להתחיל ב-/ ואחריו ספריית הבסיס של ה-NFS. לדוגמה, בשיתוף קבצים ב-Filestore בשם FILE_SHARE_NAME, הנתיב /FILE_SHARE_NAME מייצג את ספריית השורש של שיתוף הקבצים, והנתיב /FILE_SHARE_NAME/subdirectory מייצג ספריית משנה.
  • ‫MOUNT_PATH: נתיב ההרכבה שרכיבי ההפעלה של המשימה משתמשים בו כדי לגשת ל-NFS הזה. הנתיב חייב להתחיל ב-/mnt/disks/ ואחריו ספרייה או נתיב שתבחרו. לדוגמה, אם רוצים לייצג את ה-NFS הזה באמצעות ספרייה בשם my-nfs, מגדירים את נתיב ההרכבה ל-/mnt/disks/my-nfs.

Java 


import com.google.cloud.batch.v1.AllocationPolicy;
import com.google.cloud.batch.v1.BatchServiceClient;
import com.google.cloud.batch.v1.ComputeResource;
import com.google.cloud.batch.v1.CreateJobRequest;
import com.google.cloud.batch.v1.Job;
import com.google.cloud.batch.v1.LogsPolicy;
import com.google.cloud.batch.v1.NFS;
import com.google.cloud.batch.v1.Runnable;
import com.google.cloud.batch.v1.TaskGroup;
import com.google.cloud.batch.v1.TaskSpec;
import com.google.cloud.batch.v1.Volume;
import com.google.protobuf.Duration;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateScriptJobWithNfs {

  public static void main(String[] args)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Cloud project you want to use.
    String projectId = "YOUR_PROJECT_ID";

    // Name of the region you want to use to run the job. Regions that are
    // available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
    String region = "europe-central2";

    // The name of the job that will be created.
    // It needs to be unique for each project and region pair.
    String jobName = "JOB_NAME";

    // The path of the NFS directory that you want this job to access.
    String nfsPath = "NFS_PATH";
    // The IP address of the Network File System.
    String nfsIpAddress = "NFS_IP_ADDRESS";

    createScriptJobWithNfs(projectId, region, jobName, nfsPath, nfsIpAddress);
  }

  // This method shows how to create a batch script job that specifies and mounts a NFS.
  public static Job createScriptJobWithNfs(String projectId, String region, String jobName,
                                            String nfsPath, String nfsIpAddress)
      throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // Initialize client that will be used to send requests. This client only needs to be created
    // once, and can be reused for multiple requests.
    try (BatchServiceClient batchServiceClient = BatchServiceClient.create()) {

      // Define what will be done as part of the job.
      Runnable runnable =
          Runnable.newBuilder()
              .setScript(
                  Runnable.Script.newBuilder()
                      .setText(
                          "echo Hello world from task ${BATCH_TASK_INDEX}. >> "
                              + "/mnt/share/output_task_${BATCH_TASK_INDEX}.txt")
                      // You can also run a script from a file. Just remember, that needs to be a
                      // script that's already on the VM that will be running the job.
                      // Using setText() and setPath() is mutually exclusive.
                      // .setPath("/tmp/test.sh")
                      .build())
              .build();

      // Describes a volume and parameters for it to be mounted to a VM.
      Volume volume = Volume.newBuilder()
          .setNfs(NFS.newBuilder()
              .setServer(nfsIpAddress)
              .setRemotePath(nfsPath)
              .build())
          .setMountPath("/mnt/share")
          .build();

      // We can specify what resources are requested by each task.
      ComputeResource computeResource =
          ComputeResource.newBuilder()
              // In milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
              .setCpuMilli(500)
              // In MiB.
              .setMemoryMib(16)
              .build();

      TaskSpec task =
          TaskSpec.newBuilder()
              // Jobs can be divided into tasks. In this case, we have only one task.
              .addRunnables(runnable)
              .addVolumes(volume)
              .setComputeResource(computeResource)
              .setMaxRetryCount(2)
              .setMaxRunDuration(Duration.newBuilder().setSeconds(3600).build())
              .build();

      // Tasks are grouped inside a job using TaskGroups.
      // Currently, it's possible to have only one task group.
      TaskGroup taskGroup = TaskGroup.newBuilder().setTaskCount(4).setTaskSpec(task).build();

      // Policies are used to define on what kind of virtual machines the tasks will run on.
      // In this case, we tell the system to use "e2-standard-4" machine type.
      // Read more about machine types here:
      // https://cloud.google.com/compute/docs/machine-types
      AllocationPolicy.InstancePolicy instancePolicy =
          AllocationPolicy.InstancePolicy.newBuilder().setMachineType("e2-standard-4").build();

      AllocationPolicy allocationPolicy =
          AllocationPolicy.newBuilder()
              .addInstances(AllocationPolicy.InstancePolicyOrTemplate.newBuilder()
                      .setPolicy(instancePolicy).build())
              .build();

      Job job =
          Job.newBuilder()
              .addTaskGroups(taskGroup)
              .setAllocationPolicy(allocationPolicy)
              .putLabels("env", "testing")
              .putLabels("type", "script")
              .putLabels("mount", "bucket")
              // We use Cloud Logging as it's an out of the box available option.
              .setLogsPolicy(LogsPolicy.newBuilder()
                      .setDestination(LogsPolicy.Destination.CLOUD_LOGGING).build())
              .build();

      CreateJobRequest createJobRequest =
          CreateJobRequest.newBuilder()
              // The job's parent is the region in which the job will run.
              .setParent(String.format("projects/%s/locations/%s", projectId, region))
              .setJob(job)
              .setJobId(jobName)
              .build();

      Job result =
          batchServiceClient
              .createJobCallable()
              .futureCall(createJobRequest)
              .get(5, TimeUnit.MINUTES);

      System.out.printf("Successfully created the job: %s", result.getName());

      return result;
    }
  }
}

Node.js 

// Imports the Batch library
const batchLib = require('@google-cloud/batch');
const batch = batchLib.protos.google.cloud.batch.v1;

// Instantiates a client
const batchClient = new batchLib.v1.BatchServiceClient();

/**
 * TODO(developer): Update these variables before running the sample.
 */
// Project ID or project number of the Google Cloud project you want to use.
const projectId = await batchClient.getProjectId();
// Name of the region you want to use to run the job. Regions that are
// available for Batch are listed on: https://cloud.google.com/batch/docs/get-started#locations
const region = 'europe-central2';
// The name of the job that will be created.
// It needs to be unique for each project and region pair.
const jobName = 'batch-nfs-job';
// The path of the NFS directory that you want this job to access.
const nfsPath = '/your_nfs_path';
// The IP address of the Network File System.
const nfsIpAddress = '0.0.0.0';
// The mount path that the job's tasks use to access the NFS.
const mountPath = '/mnt/disks';

// Define what will be done as part of the job.
const runnable = new batch.Runnable({
  script: new batch.Runnable.Script({
    commands: [
      '-c',
      'echo Hello world from task ${BATCH_TASK_INDEX}. >> ' +
        '/mnt/share/output_task_${BATCH_TASK_INDEX}.txt',
    ],
  }),
});

// Define a volume that uses NFS.
const volume = new batch.Volume({
  nfs: new batch.NFS({
    server: nfsIpAddress,
    remotePath: nfsPath,
  }),
  mountPath,
});

// Specify what resources are requested by each task.
const computeResource = new batch.ComputeResource({
  // In milliseconds per cpu-second. This means the task requires 50% of a single CPUs.
  cpuMilli: 500,
  // In MiB.
  memoryMib: 16,
});

const task = new batch.TaskSpec({
  runnables: [runnable],
  volumes: [volume],
  computeResource,
  maxRetryCount: 2,
  maxRunDuration: {seconds: 3600},
});

// Tasks are grouped inside a job using TaskGroups.
const group = new batch.TaskGroup({
  taskCount: 3,
  taskSpec: task,
});

// Policies are used to define on what kind of virtual machines the tasks will run on.
// In this case, we tell the system to use "e2-standard-4" machine type.
// Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
const instancePolicy = new batch.AllocationPolicy.InstancePolicy({
  machineType: 'e2-standard-4',
});

const allocationPolicy = new batch.AllocationPolicy.InstancePolicyOrTemplate({
  instances: [{policy: instancePolicy}],
});

const job = new batch.Job({
  name: jobName,
  taskGroups: [group],
  allocationPolicy,
  labels: {env: 'testing', type: 'script'},
  // We use Cloud Logging as it's an option available out of the box
  logsPolicy: new batch.LogsPolicy({
    destination: batch.LogsPolicy.Destination.CLOUD_LOGGING,
  }),
});

// The job's parent is the project and region in which the job will run
const parent = `projects/${projectId}/locations/${region}`;

async function callCreateBatchNfsJob() {
  // Construct request
  const request = {
    parent,
    jobId: jobName,
    job,
  };

  // Run request
  const [response] = await batchClient.createJob(request);
  console.log(JSON.stringify(response));
}

await callCreateBatchNfsJob();

Python 

from google.cloud import batch_v1


def create_job_with_network_file_system(
    project_id: str,
    region: str,
    job_name: str,
    mount_path: str,
    nfs_ip_address: str,
    nfs_path: str,
) -> batch_v1.Job:
    """
    Creates a Batch job with status events that mounts a Network File System (NFS).
    Function mounts an NFS volume using the provided NFS server, IP address and path.

    Args:
        project_id (str): project ID or project number of the Cloud project you want to use.
        region (str): name of the region you want to use to run the job. Regions that are
            available for Batch are listed on: https://cloud.google.com/batch/docs/locations
        job_name (str): the name of the job that will be created.
            It needs to be unique for each project and region pair.
        mount_path (str): The mount path that the job's tasks use to access the NFS.
        nfs_ip_address (str): The IP address of the NFS server (e.g., Filestore instance).
            Documentation on how to create a
            Filestore instance is available here: https://cloud.google.com/filestore/docs/create-instance-gcloud
        nfs_path (str): The path of the NFS directory that the job accesses.
            The path must start with a / followed by the root directory of the NFS.

    Returns:
        batch_v1.Job: The created Batch job object containing configuration details.
    """
    client = batch_v1.BatchServiceClient()

    # Create a runnable with a script that writes a message to a file
    runnable = batch_v1.Runnable()
    runnable.script = batch_v1.Runnable.Script()
    runnable.script.text = f"echo Hello world from task ${{BATCH_TASK_INDEX}}. >> {mount_path}/output_task_${{BATCH_TASK_INDEX}}.txt"

    # Define a volume that uses NFS
    volume = batch_v1.Volume()
    volume.nfs = batch_v1.NFS(server=nfs_ip_address, remote_path=nfs_path)
    volume.mount_path = mount_path

    # Create a task specification and assign the runnable and volume to it
    task = batch_v1.TaskSpec()
    task.runnables = [runnable]
    task.volumes = [volume]

    # Specify what resources are requested by each task.
    resources = batch_v1.ComputeResource()
    resources.cpu_milli = 2000  # in milliseconds per cpu-second. This means the task requires 2 whole CPUs.
    resources.memory_mib = 16  # in MiB
    task.compute_resource = resources

    task.max_retry_count = 2
    task.max_run_duration = "3600s"

    # Create a task group and assign the task specification to it
    group = batch_v1.TaskGroup()
    group.task_count = 1
    group.task_spec = task

    # Policies are used to define on what kind of virtual machines the tasks will run on.
    # In this case, we tell the system to use "e2-standard-4" machine type.
    # Read more about machine types here: https://cloud.google.com/compute/docs/machine-types
    policy = batch_v1.AllocationPolicy.InstancePolicy()
    policy.machine_type = "e2-standard-4"
    instances = batch_v1.AllocationPolicy.InstancePolicyOrTemplate()
    instances.policy = policy
    allocation_policy = batch_v1.AllocationPolicy()
    allocation_policy.instances = [instances]

    # Create the job and assign the task group and allocation policy to it
    job = batch_v1.Job()
    job.task_groups = [group]
    job.allocation_policy = allocation_policy
    job.labels = {"env": "testing", "type": "container"}
    # We use Cloud Logging as it's an out of the box available option
    job.logs_policy = batch_v1.LogsPolicy()
    job.logs_policy.destination = batch_v1.LogsPolicy.Destination.CLOUD_LOGGING

    # Create the job request and set the job and job ID
    create_request = batch_v1.CreateJobRequest()
    create_request.job = job
    create_request.job_id = job_name
    # The job's parent is the region in which the job will run
    create_request.parent = f"projects/{project_id}/locations/{region}"

    return client.create_job(create_request)

המאמרים הבאים