יצירה בכמות גדולה של מכונות וירטואליות מסוג A3 High או A3 Mega שעברו אופטימיזציה באמצעות AI

Clustered GPUs

במאמר הזה נסביר איך ליצור בבת אחת מכונות וירטואליות (VM) שמשתמשות בסוגי מכונות שעברו אופטימיזציה למאיצים מסוג A3 High או A3 Mega. מידע נוסף על סוגי המכונות זמין במאמר מידע על מאיצי GPU.

מידע נוסף על יצירת מכונות וירטואליות בכמות גדולה זמין במאמר בנושא יצירת מכונות וירטואליות בכמות גדולה בתיעוד של Compute Engine.

מידע על דרכים נוספות ליצירת מכונות וירטואליות או אשכולות זמין בדף סקירה כללית.

מגבלות

כשיוצרים מכונות וירטואליות מסוג A3 High או A3 Mega בכמות גדולה, חלות המגבלות הבאות:

A3 High

• לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A3 High.
• אפשר להשתמש בסוג המכונה A3 High רק באזורים ותחומים מסוימים.
• אי אפשר להשתמש בדיסק לאחסון מתמיד (persistent disk) אזורי במכונה וירטואלית שמשתמשת בסוג מכונה A3 High.
• סוג המכונה A3 High זמין רק בפלטפורמת המעבד Sapphire Rapids.
• אין תמיכה בשינויים בסוג המכונה עבור סוג המכונה A3 High. כדי לעבור למכונה מהסוג הזה או ממנה, צריך ליצור מופע חדש.
• אי אפשר להריץ מערכות הפעלה של Windows במכונה מסוג A3 High.
• בסוגי המכונות a3-highgpu-1g,‏ a3-highgpu-2g ו-a3-highgpu-4g, צריך ליצור מופעים באמצעות מכונות וירטואליות במודל Spot או מכונות וירטואליות עם הפעלה גמישה. הוראות מפורטות לגבי האפשרויות האלה מופיעות במאמרים הבאים:
  • כדי ליצור מכונות וירטואליות (VM) זמניות מסוג Spot, מגדירים את מודל הקצאת המשאבים לערך SPOT כשיוצרים מכונה וירטואלית (VM) שעברה אופטימיזציה לשימוש במאיץ.
  • כדי ליצור מכונות וירטואליות מסוג Flex-start, אפשר להשתמש באחת מהשיטות הבאות:
    • יוצרים מכונה וירטואלית עצמאית ומגדירים את מודל הקצאת המשאבים לערך FLEX_START כשיוצרים מכונה וירטואלית שעברה אופטימיזציה לשימוש במאיץ.
    • יצירת בקשה לשינוי גודל בקבוצת מופעי מכונה מנוהלים (MIG). הוראות מפורטות זמינות במאמר יצירת קבוצת MIG עם מכונות וירטואליות של GPU.
• אפשר להשתמש ב-Confidential VM רק עם סוג מכונה a3-highgpu-1g באזורים ואזורי זמינות מוגבלים, וכל המגבלות של Confidential VM שפועל על סוג המכונה A3 High חלות.

A3 Mega

• לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A3 Mega.
• אפשר להשתמש בסוג המכונה A3 Mega רק באזורים מסוימים.
• אי אפשר להשתמש בדיסק לאחסון מתמיד (persistent disk) אזורי במכונה שמשתמשת בסוג מכונה A3 Mega.
• סוג המכונה A3 Mega זמין רק בפלטפורמת המעבד Sapphire Rapids.
• אין תמיכה בשינויים בסוג המכונה עבור סוג המכונה A3 Mega. כדי לעבור למכונה מהסוג הזה או ממנה, צריך ליצור מופע חדש.
• אי אפשר להריץ מערכות הפעלה של Windows בסוג המכונה A3 Mega.

לפני שמתחילים

לפני שיוצרים מכונות וירטואליות בכמות גדולה, אם עדיין לא עשיתם זאת, צריך לבצע את השלבים הבאים:

1. בחירת אפשרות צריכה: האפשרות שתבחרו לצריכה תקבע איך תקבלו משאבי GPU ותשתמשו בהם. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.
2. קבלת קיבולת: התהליך לקבלת קיבולת שונה לכל אפשרות צריכה. כדי לקבל מידע על התהליך להשגת קיבולת לאפשרות הצריכה שבחרתם, אפשר לעיין במאמר סקירה כללית על קיבולת.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API, לא צריך להגדיר אימות. Google Cloud

gcloud

במסוף Google Cloud , מפעילים את Cloud Shell.

הפעלת Cloud Shell

בחלק התחתון של Google Cloud המסוף יתחיל סשן של Cloud Shell ותופיע הודעה של שורת הפקודה. Cloud Shell היא סביבת מעטפת שבה ה-CLI של Google Cloud מותקן ומוגדרים ערכים לפרויקט הקיים. הסשן יופעל תוך כמה שניות.

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

התקינו את ה-CLI של Google Cloud.

אם אתם משתמשים בספק זהויות חיצוני (IdP), קודם אתם צריכים להיכנס ל-CLI של gcloud באמצעות המאגר המאוחד לניהול זהויות.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות וירטואליות בכמות גדולה. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות וירטואליות בכמות גדולה, צריך את ההרשאות הבאות:

• ‫compute.instances.create בפרויקט
• כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
• כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
• כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
• כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
• כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
• כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
• כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
• כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
• כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
• כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
• כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
• כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
• כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
• כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
• כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

יצירת מכונות בכמות גדולה עם סוג המכונה A3 Mega או A3 High (8 GPUs) כוללת את השלבים הבאים:

1. יצירת רשתות VPC
2. אופציונלי: יצירת מדיניות למיקום קומפקטי
3. יצירת מכונות בכמות גדולה
4. התקנת דרייברים של GPU
5. אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

יצירת רשתות VPC

כדי לאפשר תקשורת יעילה בין מכונות וירטואליות של GPU, צריך ליצור רשת ניהול ורשת נתונים אחת או יותר. הרשת לניהול משמשת לגישה חיצונית, למשל SSH, ולרוב התקשורת הכללית ברשת. רשתות הנתונים משמשות לתקשורת עם ביצועים גבוהים בין מעבדי ה-GPU במכונות וירטואליות שונות, למשל לתנועת נתונים של Remote Direct Memory Access ‏ (RDMA).

ברשתות VPC האלה, מומלץ להגדיר ערך גדול יותר ליחידת השידור המקסימלית (MTU). ערכי MTU גבוהים יותר מגדילים את גודל החבילה ומפחיתים את התקורה של כותרת החבילה, וכך מגדילים את קצב העברת הנתונים של המטען הייעודי. מידע נוסף על יצירת רשתות VPC זמין במאמר יצירה ואימות של רשת MTU עם מסגרת ג'מבו.

יצירת רשת ניהול, רשת משנה וכלל לחומת האש

כדי להגדיר את רשת הניהול:

1. יוצרים את רשת הניהול באמצעות הפקודה networks create:

   gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
       --project=PROJECT_ID \
       --subnet-mode=custom \
       --mtu=8244
   

2. יוצרים את רשת המשנה לניהול באמצעות הפקודה networks subnets create:

   gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
       --project=PROJECT_ID \
       --network=NETWORK_NAME_PREFIX-mgmt-net \
       --region=REGION \
       --range=192.168.0.0/24
   

3. יוצרים כללים לחומת האש באמצעות הפקודה firewall-rules create.

   1. יוצרים כלל לחומת האש עבור רשת הניהול.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:0-65535,udp:0-65535,icmp \
          --source-ranges=192.168.0.0/16
      

   2. יוצרים את כלל חומת האש tcp:22 כדי להגביל את כתובות ה-IP של המקור שיכולות להתחבר למכונה הווירטואלית באמצעות SSH.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=SSH_SOURCE_IP_RANGE
      

   3. יוצרים את כלל חומת האש icmp שאפשר להשתמש בו כדי לבדוק אם יש בעיות בהעברת נתונים ברשת.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=0.0.0.0/0
      

מחליפים את מה שכתוב בשדות הבאים:

• ‫NETWORK_NAME_PREFIX: תחילית השם שתשמש לרשתות ולרשתות המשנה של ה-VPC.
• ‫PROJECT_ID : מזהה הפרויקט.
• ‫REGION: האזור שבו רוצים ליצור את הרשתות.
• ‫SSH_SOURCE_IP_RANGE: טווח כתובות IP בפורמט CIDR. ההגדרה הזו מציינת אילו כתובות IP של מקור יכולות להתחבר למכונה הווירטואלית באמצעות SSH.

יצירת רשתות נתונים, רשתות משנה וכלל לחומת האש

מספר רשתות הנתונים משתנה בהתאם לסוג מכונת ה-GPU שאתם יוצרים.

A3 Mega

ל-A3 Mega נדרשות שמונה רשתות נתונים. כדי ליצור שמונה רשתות נתונים, שלכל אחת מהן יש רשתות משנה וכללי חומת אש, משתמשים בפקודה הבאה.

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 High

ל-A3 High נדרשות ארבע רשתות נתונים. כדי ליצור ארבע רשתות נתונים, שלכל אחת מהן יש רשתות משנה וכללי חומת אש, משתמשים בפקודה הבאה.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

אם רוצים להשתמש במדיניות מיקום קומפקטית, צריך לעיין בהגבלות על מדיניות מיקום.

אופציונלי: יצירת מדיניות למיקום קומפקטי

טיפ: כך מחליטים אם ליצור מדיניות למיקום קומפקטי:

• אם רוצים להקצות מכונות וירטואליות לבלוק ספציפי, צריך להשתמש במודל הקצאת משאבים שמוגבל להזמנה, לדלג על השלב הזה ולציין את שם הבלוק כשיוצרים מכונות וירטואליות.
• אם רוצים למקם את המכונות הווירטואליות בבלוקים בודדים או סמוכים, צריך לציין את מיקום המכונות הווירטואליות על ידי יצירת מדיניות מיקום קומפקטית והחלתה כשיוצרים מכונות וירטואליות.

אתם יכולים להגדיר את מיקום מכונת ה-VM על ידי יצירת מדיניות למיקום קומפקטי. כשמחילים מדיניות מיקום קומפקטית על מכונות וירטואליות, מערכת Compute Engine מנסה ככל האפשר ליצור מכונות וירטואליות שקרובות זו לזו. אם האפליקציה שלכם רגישה לזמן אחזור ונדרשת בה דחיסה מקסימלית, אתם צריכים לציין את השדה maxDistance (תצוגה מקדימה) כשאתם יוצרים מדיניות למיקום קומפקטי. ערך נמוך יותר של maxDistance מבטיח מיקום קרוב יותר של מכונות וירטואליות, אבל גם מגדיל את הסיכוי שחלק מהמכונות הווירטואליות לא ייווצרו.

כדי ליצור מדיניות מיקום קומפקטית, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות למיקום קומפקטי, משתמשים בפקודה gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

מחליפים את מה שכתוב בשדות הבאים:

• ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
• ‫MAX_DISTANCE: הגדרת המרחק המקסימלי למכונות ה-VM. אפשר לציין את המרחק (תצוגה מקדימה, מומלץ) או לא לציין אותו (מסירים את הדגל --max-distance). בהתאם למה שסוג המכונה תומך בו, אפשר לציין אחד מהערכים הבאים:
  • כדי למקם מכונות וירטואליות באותו תת-בלוק: 1
  • כדי למקם מכונות וירטואליות באותו בלוק: 2
  • כדי למקם מכונות וירטואליות בבלוקים סמוכים: 3
  מוודאים שההגדרה של המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות מיקום קומפקטית במאמרי העזרה של Compute Engine.
• ‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.

REST

כדי ליצור מדיניות מיקום קומפקטית, שולחים בקשת POST אל ה-method‏ resourcePolicies.insert. בגוף הבקשה, כוללים את השדה collocation עם הערך COLLOCATED ואת השדה maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

• PROJECT_ID: מזהה הפרויקט.
• ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
• ‫MAX_DISTANCE: הגדרת המרחק המקסימלי למכונות ה-VM. אפשר לציין את המרחק (בגרסת Preview, מומלץ) או לא לציין אותו (מסירים את השדה maxDistance). בהתאם למה שסוג המכונה תומך בו, אפשר לציין אחד מהערכים הבאים:
  • כדי למקם מכונות וירטואליות באותו תת-בלוק: 1
  • כדי למקם מכונות וירטואליות באותו בלוק: 2
  • כדי למקם מכונות וירטואליות בבלוקים סמוכים: 3
  מוודאים שההגדרה של המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות מיקום קומפקטית במאמרי העזרה של Compute Engine.
• ‫REGION: האזור שבו רוצים ליצור את מדיניות המיקום הקומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.

יצירה בכמות גדולה של מכונות וירטואליות (VM) מסוג A3 High או A3 Mega

כדי ליצור מכונות וירטואליות מסוג A3 High או A3 Mega בכמות גדולה, אפשר להשתמש באחת מהשיטות הבאות.

הפקודות הבאות מגדירות גם את היקף הגישה של המופעים. כדי לפשט את ניהול ההרשאות, Google ממליצה להגדיר את היקף הגישה במופע לגישת cloud-platform ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המופע יכול לגשת. מידע נוסף זמין במאמר בנושא שיטות מומלצות לשימוש בהיקפים.

gcloud

בוחרים אחת מהאפשרויות הבאות לסדרת מכונות.

A3 Mega

כדי ליצור כמות גדולה של מכונות, משתמשים ב פקודה gcloud compute instances bulk create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

     • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       בנוסף, לגבי בלוק יחיד, מחילים מדיניות למיקום קומפקטי שמציינת מיקום משותף של בלוקים (maxDistance=2) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

     • כדי ליצור מופעים בבלוק ספציפי:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

   • ‫TERMINATION_ACTION: האם Compute Engine יפסיק (STOP) או ימחק (DELETE) את המכונה מסוג A3 Mega או A3 High (עם 8 מעבדי GPU) בסיום תקופת שמירת המקום.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. מריצים את הפקודה.

הזמנה רגילה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫specific (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם any, מחליפים את RESERVATION במחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את הדגל --reservation.

     • אם ציינתם specific, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
4. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫none (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
4. מריצים את הפקודה.

Spot

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

     חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. מריצים את הפקודה.

A3 High

כדי ליצור כמות גדולה של מכונות, משתמשים ב פקודה gcloud compute instances bulk create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

חשוב: במכונות וירטואליות מסוג A3 High, אלא אם משתמשים בסוג המכונה a3-highgpu-8g, נתמכות רק מכונות וירטואליות מסוג Flex-start ומכונות וירטואליות מסוג Spot.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

     • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       בנוסף, לגבי בלוק יחיד, מחילים מדיניות למיקום קומפקטי שמציינת מיקום משותף של בלוקים (maxDistance=2) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

     • כדי ליצור מופעים בבלוק ספציפי:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

   • ‫TERMINATION_ACTION: האם Compute Engine יפסיק (STOP) או ימחק (DELETE) את המכונה מסוג A3 Mega או A3 High (עם 8 מעבדי GPU) בסיום תקופת שמירת המקום.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. מריצים את הפקודה.

הזמנה רגילה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫specific (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם any, מחליפים את RESERVATION במחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את הדגל --reservation.

     • אם ציינתם specific, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
4. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫none (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
4. מריצים את הפקודה.

Spot

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫REGION: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.

   • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

     חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את הדגל הבא לפקודה:

   --resource-policies=POLICY_NAME
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. מריצים את הפקודה.

REST

בוחרים אחת מהאפשרויות הבאות לסדרת מכונות.

A3 Mega

כדי ליצור כמה מכונות בבת אחת, שולחים בקשת POST אל ה-method‏ instances.bulkInsert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.
   • ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

     • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       בנוסף, לגבי בלוק יחיד, מחילים מדיניות למיקום קומפקטי שמציינת מיקום משותף של בלוקים (maxDistance=2) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

     • כדי ליצור מופעים בבלוק ספציפי:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

   • ‫TERMINATION_ACTION: האם Compute Engine יפסיק (STOP) או ימחק (DELETE) את המכונה מסוג A3 Mega או A3 High (עם 8 מעבדי GPU) בסיום תקופת שמירת המקום.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

הזמנה רגילה

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫SPECIFIC_RESERVATION (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם את ANY_RESERVATION, צריך למחוק את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את השדות key ו-values.

     • אם ציינתם SPECIFIC_RESERVATION, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

על פי דרישה

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫NO_RESERVATION (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

Spot

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת ההפעלה שמותאמת לקונטיינרים cos-121-lts ואילך, או להשתמש ב-rocky-linux-accelerator-cloud עבור קובץ האימג' של Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 Mega, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים cos-121-lts או בגרסה מאוחרת יותר, ולהשבית את העדכונים האוטומטיים, או להשתמש בקובץ אימג' של Rocky Linux‏ rocky-linux-8-optimized-gcp-nvidia-580.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

     חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

A3 High

כדי ליצור כמה מכונות בבת אחת, שולחים בקשת POST אל ה-method‏ instances.bulkInsert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

חשוב: במכונות וירטואליות מסוג A3 High, אלא אם משתמשים בסוג המכונה a3-highgpu-8g, נתמכות רק מכונות וירטואליות מסוג Flex-start ומכונות וירטואליות מסוג Spot.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.
   • ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

     • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       בנוסף, לגבי בלוק יחיד, מחילים מדיניות למיקום קומפקטי שמציינת מיקום משותף של בלוקים (maxDistance=2) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

     • כדי ליצור מופעים בבלוק ספציפי:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

   • ‫TERMINATION_ACTION: האם Compute Engine יפסיק (STOP) או ימחק (DELETE) את המכונה מסוג A3 Mega או A3 High (עם 8 מעבדי GPU) בסיום תקופת שמירת המקום.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

הזמנה רגילה

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫SPECIFIC_RESERVATION (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם את ANY_RESERVATION, צריך למחוק את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את השדות key ו-values.

     • אם ציינתם SPECIFIC_RESERVATION, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

על פי דרישה

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫NO_RESERVATION (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

Spot

לפני ששולחים את הבקשה, כדאי לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את מופע A3 Mega או A3 High (עם 8 מעבדי GPU).
   • ‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין. אם רוצים לציין מדיניות למיקום קומפקטי, צריך להשתמש באזור שנמצא באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫NAME_PATTERN: תבנית השם לשימוש במכונות A3 Mega או A3 High (עם 8 מעבדי GPU). לדוגמה, שימוש ב-instance-# בתבנית השם יוצר מכונות מסוג A3 Mega או A3 High (8 GPUs) עם שמות כמו instance-1 ו-instance-2, עד למספר המכונות מסוג A3 Mega או A3 High (8 GPUs) שצוין על ידי --count.
   • ‫COUNT: מספר המופעים של A3 Mega או A3 High (8 GPUs) שרוצים ליצור.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫DISK_TYPE: סוג דיסק האתחול. לסדרת המכונות הזו, מומלץ להשתמש ב-hyperdisk-balanced. למידע נוסף על סוגי הדיסקים הנתמכים בסוג המכונה שלכם, אפשר לעיין במאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי העזרה של Compute Engine.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה. לדוגמה, אפשר להשתמש ב-cos-cloud עבור קובץ האימג' של מערכת הפעלה שמותאמת לקונטיינרים בגרסה cos-121-lts ואילך.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות. בסדרת מכונות A3 High, מומלץ מאוד להשתמש בקובץ אימג' של מערכת הפעלה שמותאמת לקונטיינרים (Container-Optimized OS) בגרסה cos-121-lts ואילך, ולהשבית את העדכונים האוטומטיים.
   • ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
   • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כש יצרתם את רשתות ה-VPC ותת-הרשתות הרגילות שמשתמשות בכרטיסי gVNIC NIC.
   • ‫REGION: האזור של רשת המשנה.

   • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

     חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

2. אופציונלי: אם בחרתם להשתמש במדיניות מיקום קומפקטית, מוסיפים את שדה המשנה instanceProperties הבא לגוף הבקשה:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫PROJECT_ID: מזהה הפרויקט של מדיניות המיקום הקומפקטית.
   • ‫REGION: האזור של מדיניות המיקום הקומפקטי.
   • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
3. שולחים את הבקשה.

מידע נוסף על אפשרויות ההגדרה כשיוצרים מכונות וירטואליות בכמות גדולה זמין במאמר יצירת מכונות וירטואליות בכמות גדולה במסמכי התיעוד של Compute Engine.

התקנת דרייברים של GPU

אחרי שיוצרים מופע, המופע לא יכול להשתמש ב-GPU שלו אלא אם מנהלי ההתקנים הנכונים של ה-GPU כבר מותקנים. אם לא ציינתם תמונת מערכת הפעלה שכוללת מנהלי התקנים של GPU, תוכלו לעיין במאמר התקנת מנהלי התקנים של GPU במסמכי התיעוד של Compute Engine.

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

מצב Multi-Instance GPU ‏ (MIG) הוא תכונה שאפשר להפעיל בGPU נתמך של NVIDIA. אחרי שיוצרים מכונה, אפשר להפעיל את מצב MIG במעבד גרפי יחיד שמצורף למכונה. כשמצב MIG מופעל, ה-GPU היחיד מחולק לשבעה מופעי GPU עצמאיים לכל היותר. כל מופע פועל בו-זמנית, ולכל אחד מהם יש זיכרון, מטמון ומעבדים מרובי-ליבות משלו לסטרימינג. לאחר מכן, תוכלו להריץ במקביל עומסי עבודה שונים במכונות ה-GPU האלה. מידע נוסף על שימוש במצב MIG זמין במדריך למשתמש של Multi-Instance GPU (MIG) במסמכי התיעוד של NVIDIA.

המאמרים הבאים

• אימות השימוש בהזמנה
• איך רואים את הטופולוגיה של מכונת חישוב
• סקירה כללית על הפעלת עומסי עבודה
• פתרון בעיות בשימוש בהזמנה