יצירת מכונת MIG מסוג A3 High או A3 Mega שעברה אופטימיזציה באמצעות AI

Clustered GPUs

במאמר הזה מוסבר איך ליצור קבוצת מופעי מכונה מנוהלים (MIG) שמשתמשת בסוג מכונה שעבר אופטימיזציה למאיץ A3 High או A3 Mega. מידע נוסף על סוגי המכונות זמין במאמר מידע על מאיצי GPU.

יצירת קבוצת MIG מאפשרת לכם לנהל כמה מכונות וירטואליות (VM) כישות אחת. כל מכונה וירטואלית ב-MIG מבוססת על תבנית של הגדרות מכונה. קבוצות MIG מציעות זמינות גבוהה ויכולת התאמה לעומס (scaling) כי הן מנהלות את המכונות הווירטואליות בקבוצה באופן אוטומטי. למידע נוסף על קבוצות של מכונות מנוהלות, אפשר לעיין במאמר קבוצות של מכונות מנוהלות במאמרי העזרה של Compute Engine.

למידע על דרכים אחרות ליצירת מכונות וירטואליות או אשכולות, ראו סקירה כללית על אפשרויות הפריסה.

מגבלות

כשיוצרים MIG עם מכונות וירטואליות מסוג A3 Mega או A3 High, צריך לקחת בחשבון את המגבלות של סוג המכונה ושל ה-MIG.

מגבלות על מכונות וירטואליות מסוג A3 Mega או A3 High

בהתאם לסדרת המכונות שבהן נעשה שימוש במכונות הווירטואליות בקבוצת ה-MIG, חלות המגבלות הבאות:

A3 Mega

• לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A3 Mega.
• אפשר להשתמש בסוג המכונה A3 Mega רק באזורים מסוימים.
• אי אפשר להשתמש בדיסק לאחסון מתמיד (persistent disk) אזורי במכונה שמשתמשת בסוג מכונה A3 Mega.
• סוג המכונה A3 Mega זמין רק בפלטפורמת המעבד Sapphire Rapids.
• אין תמיכה בשינויים בסוג המכונה עבור סוג המכונה A3 Mega. כדי לעבור למכונה מהסוג הזה או ממנה, צריך ליצור מופע חדש.
• אי אפשר להריץ מערכות הפעלה של Windows בסוג המכונה A3 Mega.

A3 High

• לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A3 High.
• אפשר להשתמש בסוג המכונה A3 High רק באזורים ותחומים מסוימים.
• אי אפשר להשתמש בדיסק לאחסון מתמיד (persistent disk) אזורי במכונה וירטואלית שמשתמשת בסוג מכונה A3 High.
• סוג המכונה A3 High זמין רק בפלטפורמת המעבד Sapphire Rapids.
• אין תמיכה בשינויים בסוג המכונה עבור סוג המכונה A3 High. כדי לעבור למכונה מהסוג הזה או ממנה, צריך ליצור מופע חדש.
• אי אפשר להריץ מערכות הפעלה של Windows במכונה מסוג A3 High.
• בסוגי המכונות a3-highgpu-1g,‏ a3-highgpu-2g ו-a3-highgpu-4g, צריך ליצור מופעים באמצעות מכונות וירטואליות במודל Spot או מכונות וירטואליות עם הפעלה גמישה. הוראות מפורטות לגבי האפשרויות האלה מופיעות במאמרים הבאים:
  • כדי ליצור מכונות וירטואליות (VM) זמניות מסוג Spot, מגדירים את מודל הקצאת המשאבים לערך SPOT כשיוצרים מכונה וירטואלית (VM) שעברה אופטימיזציה לשימוש במאיץ.
  • כדי ליצור מכונות וירטואליות מסוג Flex-start, אפשר להשתמש באחת מהשיטות הבאות:
    • יוצרים מכונה וירטואלית עצמאית ומגדירים את מודל הקצאת המשאבים לערך FLEX_START כשיוצרים מכונה וירטואלית שעברה אופטימיזציה לשימוש במאיץ.
    • יצירת בקשה לשינוי גודל בקבוצת מופעי מכונה מנוהלים (MIG). הוראות מפורטות זמינות במאמר יצירת קבוצת MIG עם מכונות וירטואליות של GPU.
• אפשר להשתמש ב-Confidential VM רק עם סוג מכונה a3-highgpu-1g באזורים ואזורי זמינות מוגבלים, וכל המגבלות של Confidential VM שפועל על סוג המכונה A3 High חלות.

מגבלות על MIG

כשיוצרים קבוצת MIG עם מכונות וירטואליות מסוג A3 Mega או A3 High, חלות המגבלות הבאות:

• צריך להשבית את התיקונים ב-MIG, כמו שמתואר במאמר הזה.

‫+ אם יוצרים קבוצת MIG אזורית שמשתמשת ברשת RDMA, אפשר ליצור בקבוצת ה-MIG רק מופעי A3 Mega או A3 High באזור שבו הגדרתם את פרופיל הרשת עבור RDMA.

• אי אפשר להגדיר גמישות של מופעים ב-MIG.

• אם רוצים שקבוצת ה-MIG תשתמש במדיניות עומס עבודה, כדאי לעיין במגבלות של מדיניות עומס עבודה.

הגבלות על בקשות לשינוי גודל של MIG

בבקשות לשינוי גודל של MIG, חלות המגבלות הבאות:

• ב-MIG אזורי אפשר להשתמש רק בANY_SINGLE_ZONE צורת ההפצה של יעד.

• אפשר להגדיר את מצב מאגר ההמתנה של ה-MIG רק ל-manual (ברירת מחדל).

• אי אפשר להגדיר שינוי גודל אוטומטי.

• אם ה-MIG מכיל בקשות לשינוי גודל שאושרו, אי אפשר לשנות את גודל היעד של ה-MIG.

• אי אפשר למחוק או לנטוש את המופעים המנוהלים בסטטוס CREATING שנוצר על ידי קבוצת המופעים המנוהלים (MIG) עבור בקשה לשינוי גודל. כדי למחוק את המופעים המנוהלים האלה, צריך לבטל את בקשת השינוי.

מידע נוסף זמין במאמר בנושא כל המגבלות על בקשות לשינוי גודל.

לפני שמתחילים

לפני שיוצרים קבוצת מופעים מנוהלת, אם עדיין לא עשיתם את זה, צריך לבצע את השלבים הבאים:

1. בחירת אפשרות צריכה: האפשרות שתבחרו לצריכה תקבע איך תקבלו משאבי GPU ותשתמשו בהם. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.
2. קבלת קיבולת: התהליך לקבלת קיבולת שונה לכל אפשרות צריכה. כדי לקבל מידע על התהליך להשגת קיבולת לאפשרות הצריכה שבחרתם, אפשר לעיין במאמר סקירה כללית על קיבולת.

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת קבוצת מופעים מנוהלת (MIG), צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת קבוצת מופעים מנוהלת (MIG). כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור קבוצת מופעים מנוהלת (MIG), צריך את ההרשאות הבאות:

• כדי ליצור קבוצת MIG: compute.instanceGroupManagers.create בפרויקט

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

יצירת MIG עם סוג המכונה A3 Mega או A3 High (8 GPUs) כוללת את השלבים הבאים:

1. יצירת רשתות VPC
2. אופציונלי: יצירת מדיניות עומס עבודה
3. יצירת תבנית של הגדרות מכונה
4. יצירת קבוצת מופעי מכונה מנוהלים (MIG)
5. התקנת דרייברים של GPU
6. אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

יצירת רשתות VPC

כדי לאפשר תקשורת יעילה בין מכונות וירטואליות של GPU, צריך ליצור רשת ניהול ורשת נתונים אחת או יותר. הרשת לניהול משמשת לגישה חיצונית, למשל SSH, ולרוב התקשורת הכללית ברשת. רשתות הנתונים משמשות לתקשורת עם ביצועים גבוהים בין מעבדי ה-GPU במכונות וירטואליות שונות, למשל לתנועת נתונים של Remote Direct Memory Access ‏ (RDMA).

ברשתות VPC האלה, מומלץ להגדיר ערך גדול יותר ליחידת השידור המקסימלית (MTU). ערכי MTU גבוהים יותר מגדילים את גודל החבילה ומפחיתים את התקורה של כותרת החבילה, וכך מגדילים את קצב העברת הנתונים של המטען הייעודי. מידע נוסף על יצירת רשתות VPC זמין במאמר יצירה ואימות של רשת MTU עם מסגרת ג'מבו.

יצירת רשת ניהול, רשת משנה וכלל לחומת האש

כדי להגדיר את רשת הניהול:

1. יוצרים את רשת הניהול באמצעות הפקודה networks create:

   gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
       --project=PROJECT_ID \
       --subnet-mode=custom \
       --mtu=8244
   

2. יוצרים את רשת המשנה לניהול באמצעות הפקודה networks subnets create:

   gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
       --project=PROJECT_ID \
       --network=NETWORK_NAME_PREFIX-mgmt-net \
       --region=REGION \
       --range=192.168.0.0/24
   

3. יוצרים כללים לחומת האש באמצעות הפקודה firewall-rules create.

   1. יוצרים כלל לחומת האש עבור רשת הניהול.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:0-65535,udp:0-65535,icmp \
          --source-ranges=192.168.0.0/16
      

   2. יוצרים את כלל חומת האש tcp:22 כדי להגביל את כתובות ה-IP של המקור שיכולות להתחבר למכונה הווירטואלית באמצעות SSH.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=SSH_SOURCE_IP_RANGE
      

   3. יוצרים את כלל חומת האש icmp שאפשר להשתמש בו כדי לבדוק אם יש בעיות בהעברת נתונים ברשת.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=0.0.0.0/0
      

מחליפים את מה שכתוב בשדות הבאים:

• ‫NETWORK_NAME_PREFIX: תחילית השם שתשמש לרשתות ולרשתות המשנה של ה-VPC.
• ‫PROJECT_ID : מזהה הפרויקט.
• ‫REGION: האזור שבו רוצים ליצור את הרשתות.
• ‫SSH_SOURCE_IP_RANGE: טווח כתובות IP בפורמט CIDR. ההגדרה הזו מציינת אילו כתובות IP של מקור יכולות להתחבר למכונה הווירטואלית באמצעות SSH.

יצירת רשתות נתונים, רשתות משנה וכלל לחומת האש

מספר רשתות הנתונים משתנה בהתאם לסוג מכונת ה-GPU שאתם יוצרים.

A3 Mega

ל-A3 Mega נדרשות שמונה רשתות נתונים. כדי ליצור שמונה רשתות נתונים, שלכל אחת מהן יש רשתות משנה וכללי חומת אש, משתמשים בפקודה הבאה.

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 High

ל-A3 High נדרשות ארבע רשתות נתונים. כדי ליצור ארבע רשתות נתונים, שלכל אחת מהן יש רשתות משנה וכללי חומת אש, משתמשים בפקודה הבאה.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

אופציונלי: יצירת מדיניות של עומס עבודה

אם רוצים שהמכונות הווירטואליות ימוקמו בבלוקים סמוכים או בבלוק אחד, צריך ליצור מדיניות של עומס עבודה כדי לציין את מיקום המכונות הווירטואליות. עם זאת, אם רוצים שמכונות ה-VM יוצבו על ידי Compute Engine בבלוק ספציפי, צריך לדלג על השלב הזה ולציין את שם הבלוק בהעדפת המקום השמור כשיוצרים את תבנית של הגדרות מכונה.

כדי ליצור מדיניות לגבי עומס עבודה, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות של עומס עבודה, משתמשים בפקודה gcloud compute resource-policies create workload-policy.

• כדי להציב מכונות וירטואליות (VM) בצורה הכי טובה שאפשר, מציינים את הדגל --type=high-throughput בפקודה:

  gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
      --type=high-throughput \
      --region=REGION
  

• כדי להגדיר מיקום משותף קפדני של מכונות וירטואליות, מציינים את הדגלים --max-topology-distance ו---type=high-throughput בפקודה:

  gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
      --type=high-throughput \
      --max-topology-distance=TOPOLOGY_DISTANCE \
      --region=REGION
  

מחליפים את מה שכתוב בשדות הבאים:

• ‫WORKLOAD_POLICY_NAME: השם של מדיניות עומסי העבודה.
• ‫TOPOLOGY_DISTANCE: המרחק המקסימלי בטופולוגיה. מציינים אחד מהערכים הבאים:
  • כדי למקם מכונות וירטואליות באותו בלוק: BLOCK
  • כדי למקם מכונות וירטואליות באותו אשכול: CLUSTER
  הערה: הגדרה של מרחק מקסימלי קצר יותר עשויה להקטין את הסבירות לזמינות של מכונה וירטואלית. מידע נוסף זמין במאמר בנושא מאפיין המרחק המקסימלי בטופולוגיה.
• ‫REGION: האזור שבו רוצים ליצור את מדיניות עומס העבודה. מציינים אזור שבו רוצים ליצור את ה-MIG ואת סוג המכונה שרוצים להשתמש בה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.

REST

כדי ליצור מדיניות של עומס עבודה, שולחים בקשת POST אל ה-method‏ resourcePolicies.insert.

• כדי למקם מכונות וירטואליות בצורה הכי טובה שאפשר, מציינים את השדה type בבקשה באופן הבא:

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
    {
      "name": "WORKLOAD_POLICY_NAME"
      "workloadPolicy": {
        "type": "HIGH_THROUGHPUT"
      }
    }
  

• כדי להגדיר מיקום משותף קפדני של מכונות וירטואליות, מציינים את השדות maxTopologyDistance ו-type בבקשה באופן הבא:

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
    {
      "name": "WORKLOAD_POLICY_NAME"
      "workloadPolicy": {
        "type": "HIGH_THROUGHPUT",
        "maxTopologyDistance": "TOPOLOGY_DISTANCE"
      }
    }
  

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט
• ‫REGION: האזור שבו רוצים ליצור את מדיניות עומס העבודה. מציינים אזור שבו רוצים ליצור את ה-MIG ואת סוג המכונה שרוצים להשתמש בה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫WORKLOAD_POLICY_NAME: השם של מדיניות עומסי העבודה.
• ‫TOPOLOGY_DISTANCE: המרחק המקסימלי בטופולוגיה. אפשר לציין את אחד מהערכים הבאים:
  • כדי למקם מכונות וירטואליות באותו בלוק: BLOCK
  • כדי למקם מכונות וירטואליות באותו אשכול: CLUSTER
  הערה: מרחק מקסימלי קצר יותר יכול להקטין את הסבירות לזמינות של מכונה וירטואלית. מידע נוסף זמין במאמר בנושא מאפיין המרחק המקסימלי בטופולוגיה.

יצירת תבנית של הגדרות מכונה

כדי לציין את מאפייני ה-VM של קבוצת MIG, יוצרים תבנית של הגדרות מכונה.

כדי ליצור תבנית של הגדרות מכונה, בוחרים באחת מהאפשרויות הבאות:

הפקודות הבאות מגדירות גם את היקף הגישה של המופעים. כדי לפשט את ניהול ההרשאות, Google ממליצה להגדיר את היקף הגישה במופע לגישת cloud-platform ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המופע יכול לגשת. מידע נוסף זמין במאמר בנושא שיטות מומלצות לשימוש בהיקפים.

A3 Mega

כדי ליצור תבנית של הגדרות מכונה מסוג A3 Mega, צריך לציין שמונה ממשקי רשת נוספים לתעבורת GPUDirect-TCPXO. אם עדיין לא עשיתם את זה, ודאו שיצרתם שמונה רשתות VPC כמו שמתואר במאמר יצירת רשתות VPC.

gcloud

כדי ליצור תבנית של הגדרות מכונה אזורית, משתמשים בפקודה gcloud compute instance-templates create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

  • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    בנוסף, כדי ליצור בלוק יחיד, יוצרים את ה-MIG על ידי החלת מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

  • כדי ליצור מופעים בבלוק ספציפי:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

הזמנה רגילה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
     טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
   • ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫specific (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם any, מחליפים את RESERVATION במחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את הדגל --reservation.

     • אם ציינתם specific, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
     טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
   • ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫none (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. מריצים את הפקודה.

Flex-start

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫RUN_DURATION: משך הזמן שבו אתם רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בפורמט של מספר הימים, השעות, הדקות או השניות, ואחריו d, h, m או s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1d2h3m4s ליום אחד, שעתיים, שלוש דקות וארבע שניות. הערך צריך להיות בין 10 דקות לבין שבעה ימים.

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

• ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

REST

כדי ליצור תבנית של הגדרות מכונה אזורית, שולחים בקשת POST אל ה-method‏ regionInstanceTemplates.insert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.
• ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

  • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    בנוסף, כדי ליצור בלוק יחיד, יוצרים את ה-MIG על ידי החלת מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

  • כדי ליצור מופעים בבלוק ספציפי:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

הזמנה רגילה

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

• ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

  • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

  חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

  • ‫SPECIFIC_RESERVATION (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

• ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

  • אם ציינתם את ANY_RESERVATION, צריך למחוק את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את השדות key ו-values.

  • אם ציינתם SPECIFIC_RESERVATION, מחליפים את RESERVATION בערך הבא:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
    הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
    • ‫RESERVATION_NAME: השם של ההזמנה.

על פי דרישה

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

• ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

  • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

  הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

  • ‫NO_RESERVATION (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

Flex-start

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.
• ‫RUN_DURATION: משך הזמן, בשניות, שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בין 600, שהוא 600 שניות (10 דקות), לבין 604800, שהוא 604,800 שניות (שבעה ימים).

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

A3 High

כדי ליצור תבנית של הגדרות מכונה עבור מכונות וירטואליות מסוג A3 High, עליכם לציין ארבעה ממשקי רשת נוספים לתעבורת נתונים של GPUDirect-TCPX. אם עדיין לא עשיתם את זה, ודאו שיצרתם ארבע רשתות VPC כמו שמתואר במאמר יצירת רשתות VPC.

gcloud

כדי ליצור תבנית של הגדרות מכונה אזורית, משתמשים בפקודה gcloud compute instance-templates create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

  • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    בנוסף, כדי ליצור בלוק יחיד, יוצרים את ה-MIG על ידי החלת מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

  • כדי ליצור מופעים בבלוק ספציפי:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

הזמנה רגילה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
     טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
   • ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

     • ‫specific (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

   • ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

     • אם ציינתם any, מחליפים את RESERVATION במחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את הדגל --reservation.

     • אם ציינתם specific, מחליפים את RESERVATION בערך הבא:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       מחליפים את מה שכתוב בשדות הבאים:

       • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
       הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
       • ‫RESERVATION_NAME: השם של ההזמנה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

1. מחליפים את מה שכתוב בשדות הבאים:

   • ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
   • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
     טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
   • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
   • ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
   • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
   • ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

   • ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

     • ‫any (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

     הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

     • ‫none (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה בגלל עצירה מתוכנת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

   --no-restart-on-failure

3. מריצים את הפקודה.

Flex-start

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫RUN_DURATION: משך הזמן שבו אתם רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בפורמט של מספר הימים, השעות, הדקות או השניות, ואחריו d, h, m או s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1d2h3m4s ליום אחד, שעתיים, שלוש דקות וארבע שניות. הערך צריך להיות בין 10 דקות לבין שבעה ימים.

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.

• ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

REST

כדי ליצור תבנית של הגדרות מכונה אזורית, שולחים בקשת POST אל ה-method‏ regionInstanceTemplates.insert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מופעי A3 Mega או A3 High (8 GPUs) תומכים בכמה מודלים להקצאת משאבים להזמנות. בוחרים את הכרטיסייה שמתאימה לסוג ההזמנה שרוצים להשתמש בה.

• משתמשים בפרמטרים Reservation-bound, שמציינים את מודל ההקצאה שמוגבל להזמנה, במקרים הבאים:

  • מקומות שמורים לעתיד ב-AI Hypercomputer
  • הזמנות עתידיות במצב יומן

• משתמשים בפרמטרים של הזמנה רגילה, שמציינים את מודל ההקצאה הרגיל, במקרים הבאים:

  • הזמנות על פי דרישה
  • הזמנות רגילות לעתיד

הזמנה בלבד

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.
• ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

  • כדי ליצור מופעים בכמה בלוקים או בבלוק אחד:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    בנוסף, כדי ליצור בלוק יחיד, יוצרים את ה-MIG על ידי החלת מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

  • כדי ליצור מופעים בבלוק ספציפי:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

  הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

הזמנה רגילה

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

• ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

  • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

  חשוב לדעת: אם הקיבולת של המקום השמור לא זמינה, המופע משתמש באפשרות של צריכה על פי דרישה במקום זאת, שכוללת חיוב שונה והבטחת קיבולת שונה. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.

  • ‫SPECIFIC_RESERVATION (נדרשת קיבולת ממקום שמור): המכונה חייבת להשתמש בקיבולת ממקום שמור שמיועד ספציפית למכונה. למופע אין הרשאה להשתמש בקיבולת לפי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המופע תיכשל.

• ‫RESERVATION: ההזמנה לשימוש. מציינים אחד מהערכים הבאים בהתאם לערך שציינתם עבור RESERVATION_AFFINITY:

  • אם ציינתם את ANY_RESERVATION, צריך למחוק את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אפשר להסיר לגמרי את השדות key ו-values.

  • אם ציינתם SPECIFIC_RESERVATION, מחליפים את RESERVATION בערך הבא:

    projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
    הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.
    • ‫RESERVATION_NAME: השם של ההזמנה.

על פי דרישה

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫AUTOMATIC_RESTART: אם המכונה שלכם מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine מפסיק אותה לצורך עצירה מתוכנתת, כמו אירוע תחזוקה. מציינים את האפשרות true כדי להפעיל הפעלה אוטומטית מחדש (ברירת מחדל) או את האפשרות false כדי להשבית הפעלה אוטומטית מחדש.

• ‫RESERVATION_AFFINITY: אם אפשר, מציינים את ההזמנות שהמופע יכול לנצל. מציינים אחת מהאפשרויות הבאות:

  • ‫ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זו אפשרות ברירת המחדל. המופע מנסה להשתמש בקיבולת ממקום שמור שנעשה בו שימוש אוטומטי, וזה קורה רק אם יש קיבולת תואמת במקום השמור. אחרת, המופע משתמש בקיבולת על פי דרישה.

  הערה: אם רוצים ששימוש בקיבולת של הזמנות יהיה חובה, צריך לפעול לפי השלבים של הזמנה.

  • ‫NO_RESERVATION (נדרשת קיבולת על פי דרישה): חסימת השימוש בקיבולת של מקום שמור במכונה.

Flex-start

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.
• ‫RUN_DURATION: משך הזמן, בשניות, שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בין 600, שהוא 600 שניות (10 דקות), לבין 604800, שהוא 604,800 שניות (שבעה ימים).

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

• ‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
• ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A3 Mega או A3 High (8 GPUs). מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
• ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
  טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם מאיץ לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות למנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
• ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
• ‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
• ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
• ‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
• ‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
• ‫REGION: האזור של רשת המשנה.

• ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהקדמה על ידי ציון סקריפט כיבוי במהלך יצירת המופע. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

אחרי שיוצרים את תבנית של הגדרות מכונה, אפשר לראות אותה כדי לבדוק את המזהה שלה ואת מאפייני המכונה.

יצירת קבוצת מופעים מנוהלת (MIG)

אחרי שמשלימים את כל השלבים הקודמים, יוצרים קבוצת MIG בהתאם לתרחיש:

תרחיש	שיטה ליצירת קבוצת MIG ומכונות וירטואליות בתוכה	דוגמה
יש לכם כמה משימות או משימות מקבילות שיכולות להתחיל עם כל מספר של מכונות וירטואליות.	יוצרים קבוצת MIG ומשתמשים בגודל היעד כדי לציין את מספר המכונות הווירטואליות שרוצים בקבוצה. איך יוצרים קבוצת מופעי מכונה מנוהלים (MIG) עם גודל יעד	משרות של הסקת מסקנות בלמידת מכונה
יש לכם עבודה שצריך לפרוס אותה על מספר מדויק של מכונות וירטואליות.	יוצרים קבוצת MIG בלי מכונות וירטואליות, ואז יוצרים בקשה לשינוי הגודל בקבוצת ה-MIG. הבקשה לשינוי הגודל עוזרת לכם לקבל את כל המכונות הווירטואליות בבת אחת. איך יוצרים קבוצת מופעים מנוהלת (MIG) ובקשה לשינוי גודל	משימות של אימון ושיפור מודלים של ML בסביבה מבוזרת

יצירת MIG עם גודל יעד

אם אתם יכולים להתחיל את העבודה בלי ליצור את כל מכונות ה-VM בבת אחת, אתם יכולים ליצור MIG עם גודל יעד. גודל היעד קובע את מספר המכונות הווירטואליות ב-MIG. ה-MIG מתחיל ליצור מכונות וירטואליות על סמך הזמינות הנוכחית של המשאבים. אם חלק מהמשאבים לא זמינים באופן זמני, קבוצת ה-MIG תנסה ללא הפסקה ליצור מכונות וירטואליות כדי להגיע לגודל היעד.

כדי ליצור קבוצת מופעים מנוהלת עם גודל יעד, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור קבוצת MIG עם גודל יעד מוגדר, משתמשים בפקודה instance-groups managed create.

חשוב: אם ב<b>תבנית של הגדרות מכונה</b> מצוינות מכונות וירטואליות עם הפעלה גמישה, צריך גם להשבית את התיקונים על ידי הוספת ה<b>דגל</b> --default-action-on-vm-failure=do-nothing ל<b>פקודה</b>.

הפקודות שבהן משתמשים כדי ליצור קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות עומס עבודה כדי לציין את מיקום המופע. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.

כדי ליצור קבוצת MIG אזורית או אזורית:

• כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה:

  gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
  

• כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה:

  gcloud compute instance-groups managed create MIG_NAME \
      --template=INSTANCE_TEMPLATE_URL \
      --size=TARGET_SIZE \
      --workload-policy=WORKLOAD_POLICY_URL \
      --region=REGION
  

מחליפים את מה שכתוב בשדות הבאים:

• ‫MIG_NAME: השם של ה-MIG.
• ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
  • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
• ‫TARGET_SIZE: מספר המופעים שרוצים בקבוצת המופעים המנוהלת.
• WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות העומס – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות עומס עבודה, מסירים את הדגל --workload-policy.
• ‫ZONE: האזור שבו רוצים ליצור את ה-MIG. אם משתמשים במדיניות עומס עבודה, צריך לציין אזור בתוך האזור של המדיניות.
• ‫REGION: האזור שבו רוצים ליצור את ה-MIG. אם משתמשים במדיניות של עומס עבודה, צריך לציין את אותו אזור כמו במדיניות. במקום אזור, אפשר לציין את התחומים באזור מסוים של MIG אזורי באמצעות הדגל --zones.

REST

כדי ליצור קבוצת MIG עם גודל יעד מוגדר, שולחים בקשת POST.

חשוב: אם בתבנית של הגדרות מכונה מצוינות מכונות וירטואליות עם הפעלה גמישה, צריך גם להשבית את התיקונים על ידי הוספת השדה "defaultActionOnFailure": "DO_NOTHING" לבקשה.

הבקשות שמשמשות ליצירת קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות של עומס עבודה כדי לציין את מיקום המופע. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

כדי ליצור קבוצת MIG אזורית או אזורית:

• כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST אל ה-method‏ instanceGroupManagers.insert.

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
  {
    "versions": [
      {
        "instanceTemplate": "INSTANCE_TEMPLATE_URL"
      }
    ],
    "name": "MIG_NAME",
    "targetSize": TARGET_SIZE,
    "resourcePolicies": {
      "workloadPolicy": "WORKLOAD_POLICY_URL"
    }
  }
  

• כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST אל ה-method‏ regionInstanceGroupManagers.insert.

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
    {
      "name": "MIG_NAME",
      "instanceTemplate": "INSTANCE_TEMPLATE_URL",
      "targetSize": TARGET_SIZE,
      "resourcePolicies": {
        "workloadPolicy": "WORKLOAD_POLICY_URL"
      }
    }
  

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ZONE: האזור שבו רוצים ליצור את קבוצת ה-MIG. אם משתמשים במדיניות עומס עבודה, צריך לציין אזור בתוך האזור של המדיניות.
• ‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG. אם משתמשים במדיניות של עומס עבודה, צריך לציין את אותו אזור כמו זה של המדיניות.
• ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
  • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
• ‫MIG_NAME: השם של ה-MIG.
• ‫TARGET_SIZE: מספר המופעים שרוצים להוסיף ל-MIG.
• ‫WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות העומס – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות של עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

יצירת קבוצת MIG ובקשה לשינוי גודל

תצוגה מקדימה — יצירת בקשה לשינוי גודל על ידי ציון שמות של מכונות וירטואליות

השימוש בתכונה הזו כפוף לתנאי השימוש במוצרים בגרסת טרום-GA, שמפורטים בחלק "תנאי שירות הכלליים" בתנאים הספציפיים של השירות. השימוש בתכונות בגרסת טרום-GA הוא "כפי שהן" (As is), ויכול להיות שהתמיכה בהן תהיה מוגבלת. מידע נוסף זמין בקטע תיאור שלבי ההשקה.

אם אתם צריכים כמה מכונות וירטואליות בבת אחת כדי להתחיל משימה, אתם יכולים ליצור קבוצת מכונות מנוהלת (MIG) ולבקש שינוי גודל בקבוצת המכונות המנוהלת, כמו שמתואר בקטע הזה.

כדי ליצור בקשה לשינוי גודל בקבוצת MIG, בוחרים באחת מהאפשרויות הבאות:

gcloud

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה למודל ההקצאה של אפשרות הצריכה.

הזמנה

הפקודות שבהן משתמשים כדי ליצור קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות עומס עבודה כדי לציין את מיקום המופע. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. כדי ליצור קבוצת מופעים מנוהלת אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

על פי דרישה

הפקודות שבהן משתמשים כדי ליצור קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות עומס עבודה כדי לציין את מיקום המופע. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. כדי ליצור קבוצת מופעים מנוהלת אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Flex-start

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. כדי ליצור קבוצת מופעים מנוהלת אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --default-action-on-vm-failure=do-nothing \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --default-action-on-vm-failure=do-nothing \
     
         --workload-policy=WORKLOAD_POLICY_URL \
     
         --region=REGION \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none \
         --workload-policy=WORKLOAD_POLICY_URL
       

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

Spot

הפקודות שבהן משתמשים כדי ליצור קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות עומס עבודה כדי לציין את מיקום המופע. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. כדי ליצור קבוצת מופעים מנוהלת אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zone=ZONE
     

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --zone=ZONE
     

• כדי ליצור קבוצת MIG אזורית ולשלוח בה בקשה לשינוי גודל:

  1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.

     gcloud compute instance-groups managed create MIG_NAME \
         --template=INSTANCE_TEMPLATE_URL \
         --size=0 \
         --workload-policy=WORKLOAD_POLICY_URL \
         --zones=ZONE \
         --target-distribution-shape=any-single-zone \
         --instance-redistribution-type=none
       

  2. כדי ליצור בקשה לשינוי הגודל של קבוצת ה-MIG האזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     gcloud compute instance-groups managed resize-requests create MIG_NAME \
         --resize-request=RESIZE_REQUEST_NAME \
         --resize-by=COUNT \
         --region=REGION
     

מחליפים את מה שכתוב בשדות הבאים:

• ‫MIG_NAME: השם של ה-MIG.
• ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
  • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
• ‫WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות עומס העבודה – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות עומס עבודה, מסירים את הדגל --workload-policy.
• ‫ZONE: האזור שבו רוצים ליצור את ה-MIG. גם כשמגדירים קבוצת מופעים מנוהלת אזורית, צריך לציין אזור. האזור הזה צריך להיות האזור שמכיל את הפרופיל של רשת ה-VPC, וצריך להיות אזור שבו סוג המכונה זמין. מידע נוסף מופיע בקטע מגבלות.
• ‫RESIZE_REQUEST_NAME: השם של בקשת שינוי הגודל, שחייב להיות ייחודי ב-MIG שצוין. אחרת, יצירת בקשת השינוי תיכשל.
• ‫COUNT: מספר המופעים שרוצים להוסיף לקבוצת המופעים המנוהלת בבת אחת.
• ‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG.

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים לציין רשימה של שמות כדי ליצור את המכונות הווירטואליות. מספר השמות שאתם מציינים קובע את מספר המכונות הווירטואליות שקבוצת ה-MIG יוצרת בבת אחת.

כדי ליצור בקשה לשינוי גודל עם שמות ספציפיים של מכונות וירטואליות ב-MIG, משתמשים בפקודה gcloud compute instance-groups managed resize-requests create בגרסת בטא עם הדגל --instances:

• ב-MIG אזורי, מריצים את הפקודה הבאה:

  gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --instances=INSTANCE_NAMES \
      --zone=ZONE
  

• ב-MIG אזורי, מריצים את הפקודה הבאה:

  gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --instances=INSTANCE_NAMES \
      --region=REGION
  

מחליפים את INSTANCE_NAMES ברשימה מופרדת בפסיקים של שמות המכונות הווירטואליות. לדוגמה, instance-1,instance-2,instance-3.

REST

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה למודל ההקצאה של אפשרות הצריכה.

הזמנה

הבקשות שמשמשות ליצירת קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות של עומס עבודה כדי לציין את מיקום המופע. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשה לשינוי הגודל בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה, מבצעים את הפעולות הבאות:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשת שינוי גודל ב-MIG אזורי, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

על פי דרישה

הבקשות שמשמשות ליצירת קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות של עומס עבודה כדי לציין את מיקום המופע. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשה לשינוי הגודל בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה, מבצעים את הפעולות הבאות:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשת שינוי גודל ב-MIG אזורי, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Flex-start

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "instanceLifecyclePolicy": {
         "defaultActionOnFailure": "DO_NOTHING"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשה לשינוי הגודל בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה, מבצעים את הפעולות הבאות:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "instanceLifecyclePolicy": {
         "defaultActionOnFailure": "DO_NOTHING"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשת שינוי גודל ב-MIG אזורי, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

Spot

הבקשות שמשמשות ליצירת קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות של עומס עבודה כדי לציין את מיקום המופע. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי גודל:

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשה לשינוי הגודל בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

• כדי ליצור קבוצת MIG אזורית ובקשה לשינוי הגודל שלה, מבצעים את הפעולות הבאות:
  1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
     {
       "versions": [
         {
           "instanceTemplate": "INSTANCE_TEMPLATE_URL"
         }
       ],
       "name": "MIG_NAME",
       "targetSize": 0,
       "distributionPolicy": {
         "targetShape": "ANY_SINGLE_ZONE",
         "zones": [
           {
             "zone": "projects/PROJECT_ID/zones/ZONE"
           }
         ]
       },
       "updatePolicy": {
         "instanceRedistributionType": "NONE"
       },
       "resourcePolicies": {
         "workloadPolicy": "WORKLOAD_POLICY_URL"
       }
     }
     

  2. כדי ליצור בקשת שינוי גודל ב-MIG אזורי, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.

     POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
     {
       "name": "RESIZE_REQUEST_NAME",
       "resizeBy": COUNT
     }
     

מחליפים את מה שכתוב בשדות הבאים:

• ‫PROJECT_ID: מזהה הפרויקט.
• ‫ZONE: האזור שבו רוצים ליצור את ה-MIG. האזור הזה צריך להיות זהה לאזור שמכיל את הפרופיל של רשת ה-VPC, וצריך להיות אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
• ‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG. האזור הזה צריך להיות אותו אזור שמכיל את הפרופיל של רשת ה-VPC, והוא צריך לכלול אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
• ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
  • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
  • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
• ‫MIG_NAME: השם של ה-MIG.
• ‫WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות עומס העבודה – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.
• ‫RESIZE_REQUEST_NAME: השם של בקשת שינוי הגודל, שחייב להיות ייחודי ב-MIG שצוין. אחרת, יצירת בקשת השינוי תיכשל.
• ‫COUNT: מספר המופעים שרוצים להוסיף לקבוצת המופעים המנוהלת בבת אחת

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם יכולים לציין רשימה של שמות כדי ליצור את המכונות הווירטואליות. מספר השמות שאתם מציינים קובע את מספר המכונות הווירטואליות שקבוצת ה-MIG יוצרת בבת אחת.

כדי ליצור בקשה לשינוי גודל עם שמות ספציפיים של מכונות וירטואליות ב-MIG, משתמשים באחת מהשיטות הבאות:

• ב-MIG אזורי, שולחים בקשת POST באמצעות השיטה beta.instanceGroupManagerResizeRequests.insert:

  POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
  

• ב-MIG אזורי, שולחים בקשת POST באמצעות השיטה beta.regionInstanceGroupManagerResizeRequests.insert:

  POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
  

לדוגמה, כדי לציין שני שמות של מכונות וירטואליות, צריך לכלול את הטקסט הבא בגוף הבקשה:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

מחליפים את INSTANCE_NAME_1, INSTANCE_NAME_2 בשמות של המכונות הווירטואליות.

התקנת דרייברים של GPU

אחרי שיוצרים מופע, המופע לא יכול להשתמש ב-GPU שלו אלא אם מנהלי ההתקנים הנכונים של ה-GPU כבר מותקנים. אם לא ציינתם תמונת מערכת הפעלה שכוללת מנהלי התקנים של GPU, תוכלו לעיין במאמר התקנת מנהלי התקנים של GPU במסמכי התיעוד של Compute Engine.

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

הערה: בקטע הזה, MIG מתייחס ל-GPU מרובה מופעים של NVIDIA, ולא לקבוצת מופעי מכונה מנוהלים.

מצב Multi-Instance GPU ‏ (MIG) הוא תכונה שאפשר להפעיל בGPU נתמך של NVIDIA. אחרי שיוצרים מכונה, אפשר להפעיל את מצב MIG במעבד גרפי יחיד שמצורף למכונה. כשמצב MIG מופעל, ה-GPU היחיד מחולק לשבעה מופעי GPU עצמאיים לכל היותר. כל מופע פועל בו-זמנית, ולכל אחד מהם יש זיכרון, מטמון ומעבדים מרובי-ליבות משלו לסטרימינג. לאחר מכן, תוכלו להריץ במקביל עומסי עבודה שונים במכונות ה-GPU האלה. מידע נוסף על שימוש במצב MIG זמין במדריך למשתמש של Multi-Instance GPU (MIG) במסמכי התיעוד של NVIDIA.

מה השלב הבא?

• אימות השימוש בהזמנה
• איך רואים את הטופולוגיה של מכונת חישוב
• מעקב אחרי מכונות וירטואליות
• דיווח על מארח עם בעיה
• הצגה, ביטול או מחיקה של בקשות לשינוי גודל
• פתרון בעיות בשימוש בהזמנה