יצירת מכונות וירטואליות עם GPU בכמות גדולה

אפשר ליצור קבוצה של מכונות וירטואליות (VM) עם יחידות עיבוד גרפי (GPU) מצורפות באמצעות תהליך היצירה בכמות גדולה. בתהליך היצירה בכמות גדולה, מתבצע אימות מראש. אם הבקשה לא אפשרית, היא נכשלת במהירות. בנוסף, אם משתמשים בדגל האזור, ה-API ליצירת פריטים בכמות גדולה בוחר באופן אוטומטי את האזור שיש בו קיבולת לביצוע הבקשה.

מידע נוסף על יצירת כמות גדולה של מכונות וירטואליות זמין במאמר מידע על יצירת כמות גדולה של מכונות וירטואליות. למידע נוסף על יצירת מכונות וירטואליות עם מעבדי GPU מצורפים, קראו את הסקירה הכללית על יצירת מכונה עם מעבדי GPU מצורפים.

לפני שמתחילים

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות וירטואליות, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות וירטואליות. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות וירטואליות, צריך את ההרשאות הבאות:

  • ‫compute.instances.create בפרויקט
  • כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
  • כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
  • כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
  • כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
  • כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
  • כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
  • כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
  • כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
  • כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
  • כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
  • כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
  • כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
  • כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

כשיוצרים מכונות וירטואליות עם כרטיסי GPU מצורפים באמצעות שיטת היצירה בכמות גדולה, אפשר לבחור ליצור מכונות וירטואליות באזור (למשל us-central1) או באזור ספציפי (למשל us-central1-a).

אם תבחרו לציין אזור, המכונות הווירטואליות של Compute Engine ימוקמו בכל תחום באזור שתומך ב-GPU.

סוגי מכונות

אפשר ליצור מספר גדול של מכונות וירטואליות עם GPU באמצעות סוגי מכונות שעברו אופטימיזציה למאיצים או סוגי מכונות וירטואליות לשימוש כללי מסוג N1.

ב-Compute Engine יש סוגים שונים של מכונות שתומכים בעומסי העבודה השונים שלכם.

חלק מסוגי המכונות תומכים בתחנות עבודה וירטואליות (vWS) של NVIDIA RTX. כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. מידע על התמחור של תחנות עבודה וירטואליות מופיע בדף התמחור של GPU.

סוגי מכונות GPU
עומסי עבודה של AI ו-ML גרפיקה והמחשה עומסי עבודה אחרים של GPU
סוגי מכונות מסדרה A עם אופטימיזציה למאיצים מיועדים לעומסי עבודה של מחשוב עתיר ביצועים (HPC), בינה מלאכותית (AI) ולמידת מכונה (ML).

מודלים מסדרת A מהדורות המאוחרות יותר מתאימים במיוחד לאימון מוקדם ולשיפור של מודלים בסיסיים שכוללים אשכולות גדולים של מאיצים, בעוד שמודלים מסדרת A2 יכולים לשמש לאימון מודלים קטנים יותר ולהסקת מסקנות במארח יחיד.

בסוגי המכונות האלה, מודל ה-GPU מצורף באופן אוטומטי למופע.

 סוגי מכונות מסדרת G שעברו אופטימיזציה למאיצים מיועדים לעומסי עבודה כמו עומסי עבודה של סימולציה ב-NVIDIA Omniverse, אפליקציות עתירות גרפיקה, טרנסקוד של סרטונים ושולחנות עבודה וירטואליים. סוגי המכונות האלה תומכים ב-NVIDIA RTX Virtual Workstations (vWS).

אפשר להשתמש בסדרת G גם לאימון מודלים קטנים יותר ולהסקת מסקנות במארח יחיד.

בסוגי המכונות האלה, מודל ה-GPU מצורף למכונה באופן אוטומטי.

בסוגי מכונות וירטואליות לשימוש כללי מסוג N1, למעט N1 עם ליבת מעבד משותפת (f1-micro ו-g1-small), אפשר לחבר קבוצה נבחרת של דגמי GPU. חלק מהמודלים האלה של GPU תומכים גם ב-NVIDIA RTX Virtual Workstations‏ (vWS).
  • ‫A4X Max (NVIDIA GB300 Ultra Superchips)
    (nvidia-gb300)
  • ‫A4X (NVIDIA GB200 Superchips)
    (nvidia-gb200)
  • ‫A4 (NVIDIA B200)
    (nvidia-b200)
  • ‫A3 Ultra (NVIDIA H200)
    (nvidia-h200-141gb)
  • ‫A3 Mega (NVIDIA H100)
    (nvidia-h100-mega-80gb)
  • ‫A3 High (NVIDIA H100)
    (nvidia-h100-80gb)
  • ‫A3 Edge (NVIDIA H100)
    (nvidia-h100-80gb)
  • ‫A2 Ultra (NVIDIA A100 80GB)
    (nvidia-a100-80gb)
  • ‫A2 Standard (NVIDIA A100 4OGB)
    (nvidia-tesla-a100)
  • ‫G4 ‏ (NVIDIA RTX PRO 6000)
    ‏ (nvidia-rtx-pro-6000)
    ‏ (nvidia-rtx-pro-6000-vws)
  • G2 (NVIDIA L4)
    (nvidia-l4)
    (nvidia-l4-vws)
 אפשר לצרף את המודלים הבאים של GPU למכונות וירטואליות לשימוש כללי מסוג N1:

יצירת קבוצות של A4X,‏ A4 ו-A3 Ultra

כדי ליצור מכונות בכמות גדולה בסדרות המכונות A4X,‏ A4 ו-A3 Ultra, קראו את הסקירה הכללית על אפשרויות הפריסה במסמכי התיעוד של AI Hypercomputer.

יצירת קבוצות של מכונות וירטואליות מסוג A3,‏ A2,‏ G4 ו-G2

בקטע הזה מוסבר איך ליצור מכונות בכמות גדולה בסדרות המכונות A3 High,‏ A3 Mega,‏ A3 Edge,‏ A2 Standard,‏ A2 Ultra,‏ G4 ו-G2 באמצעות Google Cloud CLI או REST.

gcloud

כדי ליצור קבוצה של מכונות וירטואליות, משתמשים בפקודה gcloud compute instances bulk create. מידע נוסף על הפרמטרים ועל אופן השימוש בפקודה הזו זמין במאמר יצירת מכונות וירטואליות בכמות גדולה.

דוגמה

בדוגמה הזו נוצרות שתי מכונות וירטואליות עם מעבדים גרפיים מצורפים, באמצעות המפרטים הבאים:

gcloud compute instances bulk create \
    --name-pattern="my-test-vm-#" \
    --region=REGION \
    --count=2 \
    --machine-type=MACHINE_TYPE \
    --boot-disk-size=200 \
    --image=IMAGE \
    --image-project=IMAGE_PROJECT \
    --on-host-maintenance=TERMINATE

מחליפים את מה שכתוב בשדות הבאים:

אם הפעולה מצליחה, הפלט ייראה כך:

NAME          ZONE
my-test-vm-1  us-central1-b
my-test-vm-2  us-central1-b
Bulk create request finished with status message: [VM instances created: 2, failed: 0.]

דגלים אופציונליים

כדי להגדיר את המופע כך שיתאים לעומס העבודה או לצרכים של מערכת ההפעלה, צריך לכלול אחד או יותר מהדגלים הבאים כשמריצים את הפקודה gcloud compute instances bulk create.

תכונה תיאור
מודל הקצאת ההרשאות ההגדרה הזו קובעת את מודל ההקצאה של המופע. אפשר לציין STANDARD או SPOT. אם לא מציינים מודל הקצאה, Compute Engine מגדיר את הערך ל-STANDARD. מידע נוסף מופיע במאמר מודלים של הקצאת מכונות וירטואליות ב-Compute Engine. 
--provisioning-model=PROVISIONING_MODEL
תחנת עבודה וירטואלית מציינת תחנות עבודה וירטואליות (vWs) של NVIDIA RTX לעומסי עבודה גרפיים. התכונה הזו נתמכת רק במופעי G4 ו-G2. 
--accelerator=type=VWS_ACCELERATOR_TYPE,count=VWS_ACCELERATOR_COUNT

מחליפים את מה שכתוב בשדות הבאים:

  • בוחרים אחת מהאפשרויות הבאות ל-VWS_ACCELERATOR_TYPE:
    • במכונות G4, מציינים nvidia-rtx-pro-6000-vws
    • במקרים של מופעי G2, מציינים nvidia-l4-vws
  • בשדה VWS_ACCELERATOR_COUNT, מציינים את מספר יחידות ה-GPU הווירטואליות שצריך.
אחסון SSD מקומי מצרף למופע דיסקי SSD מקומיים. אפשר להשתמש בכונני SSD מקומיים כדי ליצור במהירות דיסקים זמניים או כדי להזין נתונים ל-GPU תוך מניעת צווארי בקבוק של קלט/פלט. 
    --local-ssd=interface=nvme \
    --local-ssd=interface=nvme \
    --local-ssd=interface=nvme ...
 למידע על המספר המקסימלי של דיסקים מסוג SSD מקומי שאפשר לצרף לכל מכונת VM, אפשר לעיין במאמר מגבלות של SSD מקומי.
ממשק רשת מצרף כמה ממשקי רשת למופע. במקרים של g4-standard-384, אפשר לצרף עד שני ממשקי רשת. אתם יכולים להשתמש בדגל הזה כדי ליצור מכונה עם שני ממשקי רשת (2x 200 Gbps). כל ממשק רשת חייב להיות ברשת VPC ייחודית. 
   --network-interface=network=VPC_NAME_1,subnet=SUBNET_NAME_1,nic-type=GVNIC \
   --network-interface=network=VPC_NAME_2,subnet=SUBNET_NAME_2,nic-type=GVNIC

ממשקי רשת כפולים נתמכים רק בסוגי המכונות g4-standard-384.

מחליפים את מה שכתוב בשדות הבאים:

  • ‫VPC_NAME: השם של רשת ה-VPC.
  • ‫SUBNET_NAME: השם של רשת המשנה שמהווה חלק מרשת ה-VPC שצוינה.
מדיניות מיקום המודעות קובעת את המיקום של המופע באזור. אתם יכולים לציין מדיניות קומפקטית כדי למזער את זמן האחזור ברשת בכל המכונות הווירטואליות מסוג G2, או מדיניות של פיזור כדי לשפר את העמידות של המכונות הווירטואליות מסוג G4 או G2 מפני שיבושים ספציפיים לאזור. 
   --resource-policies=POLICY_NAME

מחליפים את POLICY_NAME בשם מדיניות המיקום. אפשר ליצור את המופע רק באותו אזור שבו נמצאת המדיניות.

REST

משתמשים בשיטה instances.bulkInsert עם הפרמטרים הנדרשים כדי ליצור כמה מכונות וירטואליות באזור. מידע נוסף על הפרמטרים ועל אופן השימוש בפקודה הזו זמין במאמר יצירת כמות גדולה של מכונות וירטואליות.

דוגמה

בדוגמה הזו נוצרות שתי מכונות וירטואליות עם מעבדים גרפיים מצורפים, באמצעות המפרטים הבאים:

  • שמות מכונות וירטואליות: my-test-vm-1, my-test-vm-2

  • לכל מכונה וירטואלית מצורפים שני מעבדי GPU, שצוינו באמצעות סוג המכונה המתאים שעבר אופטימיזציה למאיצים.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instances/bulkInsert
{
"namePattern":"my-test-vm-#",
"count":"2",
"instanceProperties": {
  "machineType":MACHINE_TYPE,
  "disks":[
    {
      "type":"PERSISTENT",
      "initializeParams":{
        "diskSizeGb":"200",
        "sourceImage":SOURCE_IMAGE_URI
      },
      "boot":true
    }
  ],
  "name": "default",
  "networkInterfaces":
  [
    {
      "network": "projects/PROJECT_ID/global/networks/default"
    }
  ],
  "scheduling":{
    "onHostMaintenance":"TERMINATE",
    ["automaticRestart":true]
  }
}
}

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט
  • ‫REGION: האזור של המכונות הווירטואליות. האזור הזה צריך לתמוך בדגם ה-GPU שבחרתם.

  • ‫MACHINE_TYPE: סוג המכונה שבחרתם. בוחרים אחת מהאפשרויות הבאות:

  • ‫SOURCE_IMAGE_URI: ה-URI של התמונה או משפחת התמונות הספציפית שרוצים להשתמש בה.

    לדוגמה:

    • תמונה ספציפית: "sourceImage": "projects/rocky-linux-cloud/global/images/rocky-linux-8-optimized-gcp-v20220719"
    • משפחת תמונות: "sourceImage": "projects/rocky-linux-cloud/global/images/family/rocky-linux-8-optimized-gcp".

    כשמציינים משפחת קובצי אימג', Compute Engine יוצרת מכונה וירטואלית מקובץ אימג' של מערכת ההפעלה העדכני ביותר במשפחה הזו, שלא הוצא משימוש. למידע נוסף על המקרים שבהם כדאי להשתמש במשפחות של תמונות, אפשר לעיין במאמר בנושא שיטות מומלצות לשימוש במשפחות של תמונות.

שדות אופציונליים

כדי להגדיר את המופע כך שיתאים לעומס העבודה או לצרכים של מערכת ההפעלה, צריך לכלול אחד או יותר מהדגלים הבאים כשמריצים את השיטה instances.bulkInsert.

תכונה תיאור
מודל הקצאת ההרשאות כדי להוזיל את העלויות, אפשר לציין מודל הקצאה אחר על ידי הוספת השדה "provisioningModel": "PROVISIONING_MODEL" לאובייקט scheduling בבקשה. מידע נוסף מופיע במאמר מודלים של הקצאת מכונות וירטואליות ב-Compute Engine. 
    "scheduling":
     {
       "onHostMaintenance": "TERMINATE",
       "provisioningModel": "PROVISIONING_MODEL"
     }

מחליפים את PROVISIONING_MODEL באחד מהערכים הבאים:

  • ‫STANDARD: מכונה רגילה. זה ערך ברירת המחדל.
  • ‫SPOT: VM במודל Spot. אם יוצרים VM במודל Spot, המערכת מבטלת את השדות onHostMaintenance ו-automaticRestart. VM במודל Spot מוזלות מאוד, אבל Compute Engine יכול להפסיק לפני הזמן (preempt) אותן בכל שלב כדי לפנות קיבולת.
תחנת עבודה וירטואלית ההגדרה קובעת תחנות עבודה וירטואליות (vWS) של NVIDIA RTX לעומסי עבודה גרפיים. התכונה הזו נתמכת רק במופעי G4 ו-G2. 
   "guestAccelerators":
     [
       {
         "acceleratorCount": VWS_ACCELERATOR_COUNT,
         "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/VWS_ACCELERATOR_TYPE"
       }
     ]

מחליפים את מה שכתוב בשדות הבאים:

  • בוחרים אחת מהאפשרויות הבאות ל-VWS_ACCELERATOR_TYPE:
    • במכונות G4, מציינים nvidia-rtx-pro-6000-vws
    • במקרים של מופעי G2, מציינים nvidia-l4-vws
  • בשדה VWS_ACCELERATOR_COUNT, מציינים את מספר יחידות ה-GPU הווירטואליות שצריך.
אחסון SSD מקומי צירוף של כונן SSD מקומי אחד או יותר למכונה. אפשר להשתמש בכונני SSD מקומיים כדי ליצור דיסקים מהירים לאחסון נדיף (scratch disk) או כדי להזין נתונים ל-GPU תוך מניעת צווארי בקבוק בקלט/פלט. 
   {
     "type": "SCRATCH",
     "autoDelete": true,
     "initializeParams": {
       "diskType": "projects/PROJECT_ID/zones/ZONE/diskTypes/local-nvme-ssd"
     }
   }
כדי לדעת מה המספר המקסימלי של דיסקים מסוג SSD מקומי שאפשר לחבר לכל מכונה וירטואלית, קראו את המאמר מגבלות של SSD מקומי.
ממשק רשת מצרף כמה ממשקי רשת למופע. במכונות g4-standard-384, אפשר לצרף עד שני ממשקי רשת. כך נוצרת מכונה עם ממשקי רשת כפולים (2x 200 Gbps). כל ממשק רשת חייב להיות ברשת VPC ייחודית. 
   "networkInterfaces":
   [
     {
       "network": "projects/PROJECT_ID/global/networks/VPC_NAME_1",
       "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNET_NAME_1",
       "nicType": "GVNIC"
     },
     {
       "network": "projects/PROJECT_ID/global/networks/VPC_NAME_2",
       "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNET_NAME_2",
       "nicType": "GVNIC"
     }
   ]

ממשקי רשת כפולים נתמכים רק בסוגי המכונות g4-standard-384.

מחליפים את מה שכתוב בשדות הבאים:

  • ‫VPC_NAME_1 ו-VPC_NAME_2: השם של רשתות ה-VPC.
  • ‫SUBNET_NAME: השם של רשת המשנה שמהווה חלק מרשתות ה-VPC שצוינו.
מדיניות המיקום קובעת את המיקום של המופע באזור. אתם יכולים לציין מדיניות קומפקטית כדי למזער את זמן האחזור ברשת בכל המכונות הווירטואליות מסוג G2, או מדיניות של פיזור כדי לשפר את העמידות של המכונות הווירטואליות מסוג G4 או G2 מפני שיבושים ספציפיים לאזור. 
   "resourcePolicies": [
     "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
   ]

מחליפים את מה שכתוב בשדות הבאים:

  • ‫REGION: האזור שבו קיימת מדיניות המיקום. אפשר ליצור את המופע רק באותו אזור שבו נמצאת המדיניות.
  • ‫POLICY_NAME: השם של מדיניות המיקום.

יצירת קבוצות של מכונות וירטואליות מסוג N1-general purpose

יוצרים קבוצה של מכונות וירטואליות עם כרטיסי GPU מצורפים באמצעות Google Cloud CLI או REST.

בקטע הזה מוסבר איך ליצור כמה מכונות וירטואליות באמצעות סוגי ה-GPU הבאים:

מעבדי GPU של NVIDIA:

  • ‫NVIDIA T4: ‏nvidia-tesla-t4
  • ‫NVIDIA P4: ‏nvidia-tesla-p4
  • ‫NVIDIA V100: nvidia-tesla-v100

‫NVIDIA RTX Virtual Workstation (vWS) (לשעבר NVIDIA GRID):

  • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws

  • ‫NVIDIA P4 Virtual Workstation: ‏ nvidia-tesla-p4-vws

    עבור תחנות עבודה וירטואליות כאלה, רישיון NVIDIA RTX Virtual Workstation‏ (vWS) נוסף באופן אוטומטי למופע שלכם.

gcloud

כדי ליצור קבוצה של מכונות וירטואליות, משתמשים בפקודה gcloud compute instances bulk create. מידע נוסף על הפרמטרים ועל אופן השימוש בפקודה הזו זמין במאמר בנושא יצירת מכונות וירטואליות בכמות גדולה.

דוגמה

בדוגמה הבאה נוצרות שתי מכונות וירטואליות עם יחידות GPU מצורפות, לפי המפרטים הבאים:

  • שמות מכונות וירטואליות: my-test-vm-1, my-test-vm-2
  • מכונות וירטואליות שנוצרו בכל אזור ב-us-central1 עם תמיכה ביחידות GPU
  • לכל מכונה וירטואלית מצורפים שני מעבדי T4 GPU, שצוינו באמצעות הדגלים של סוג המאיץ ומספר המאיצים
  • בכל מכונה וירטואלית מותקנים מנהלי התקנים של GPU
  • כל מכונה וירטואלית משתמשת בתמונת VM של למידה עמוקה (Deep Learning) pytorch-latest-gpu-v20211028-debian-10
gcloud compute instances bulk create \
    --name-pattern="my-test-vm-#" \
    --count=2 \
    --region=us-central1 \
    --machine-type=n1-standard-2 \
    --accelerator type=nvidia-tesla-t4,count=2 \
    --boot-disk-size=200 \
    --metadata="install-nvidia-driver=True" \
    --scopes="https://www.googleapis.com/auth/cloud-platform" \
    --image=pytorch-latest-gpu-v20211028-debian-10 \
    --image-project=deeplearning-platform-release \
    --on-host-maintenance=TERMINATE --restart-on-failure

אם הפעולה מצליחה, הפלט ייראה כך:

NAME          ZONE
my-test-vm-1  us-central1-b
my-test-vm-2  us-central1-b
Bulk create request finished with status message: [VM instances created: 2, failed: 0.]

REST

משתמשים בשיטה instances.bulkInsert עם הפרמטרים הנדרשים כדי ליצור כמה מכונות וירטואליות באזור. מידע נוסף על הפרמטרים ועל אופן השימוש בפקודה הזו זמין במאמר בנושא יצירת מכונות וירטואליות בכמות גדולה.

דוגמה

בדוגמה הבאה נוצרות שתי מכונות וירטואליות עם יחידות GPU מצורפות, לפי המפרטים הבאים:

  • שמות מכונות וירטואליות: my-test-vm-1, my-test-vm-2
  • מכונות וירטואליות שנוצרו בכל אזור ב-us-central1 עם תמיכה ביחידות GPU
  • לכל מכונה וירטואלית מצורפים שני מעבדי T4 GPU, שצוינו באמצעות הדגלים של סוג המאיץ ומספר המאיצים
  • בכל מכונה וירטואלית מותקנים מנהלי התקנים של GPU
  • כל מכונה וירטואלית משתמשת בתמונת VM של למידה עמוקה (Deep Learning) pytorch-latest-gpu-v20211028-debian-10

מחליפים את PROJECT_ID במזהה הפרויקט.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/us-central1/instances/bulkInsert

{
    "namePattern":"my-test-vm-#",
    "count":"2",
    "instanceProperties": {
      "machineType":"n1-standard-2",
      "disks":[
        {
          "type":"PERSISTENT",
          "initializeParams":{
            "diskSizeGb":"200",
            "sourceImage":"projects/deeplearning-platform-release/global/images/pytorch-latest-gpu-v20211028-debian-10"
          },
          "boot":true
        }
      ],
      "name": "default",
      "networkInterfaces":
      [
        {
          "network": "projects/PROJECT_ID/global/networks/default"
        }
      ],
      "guestAccelerators":
      [
        {
          "acceleratorCount": 2,
          "acceleratorType": "nvidia-tesla-t4"
        }
      ],
      "scheduling":{
        "onHostMaintenance":"TERMINATE",
        "automaticRestart":true
      },
      "metadata":{
        "items":[
          {
            "key":"install-nvidia-driver",
            "value":"True"
          }
        ]
      }
  }
 }

מה השלב הבא?