‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

יצירת מכונת MIG Ultra בגודל A4 או A3 שעברה אופטימיזציה באמצעות AI

Clustered GPUs

במאמר הזה מוסבר איך ליצור קבוצת מופעי מכונה מנוהלים (MIG) שמשתמשת בסוגי מכונות A4 או A3 Ultra. מידע נוסף על סוגי המכונות האלה שעברו אופטימיזציה לשימוש במאיצים זמין במאמרים בנושא A4 או A3 Ultra.

יצירת קבוצת מופעים מנוהלת (MIG) מאפשרת לכם לנהל כמה מכונות וירטואליות (VM) כישות אחת. כל מכונה וירטואלית בקבוצת MIG מבוססת על תבנית של הגדרות מכונה. קבוצות MIG מציעות זמינות גבוהה ויכולת התאמה לעומס (scaling) כי הן מנהלות את המכונות הווירטואליות בקבוצה באופן אוטומטי. מידע נוסף על קבוצות של מופעי מכונה מנוהלים (MIG) זמין במאמר קבוצות של מופעי מכונה מנוהלים במאמרי העזרה של Compute Engine.

למידע על דרכים אחרות ליצירת מכונות וירטואליות או אשכולות, אפשר לעיין במאמר סקירה כללית על אפשרויות הפריסה.

מגבלות

כשיוצרים MIG עם מכונות וירטואליות מסוג A4 או A3 Ultra, חשוב לקחת בחשבון את המגבלות של סוג המכונה ושל ה-MIG.

מגבלות על מכונות וירטואליות מסוג A4 או A3 Ultra

המגבלות הבאות חלות בהתאם לסדרת המכונות שבהן נעשה שימוש במכונות הווירטואליות בקבוצת ה-MIG:

A4

לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מופעים שמשתמשים בסוג מכונה A4.
אפשר להשתמש בסוג המכונה A4 רק באזורים ובאזורי זמינות מסוימים.
אי אפשר להשתמש בדיסק לאחסון מתמיד (אזורי או של תחום מוגדר). אפשר להשתמש רק ב-Google Cloud Hyperdisk.
סוג המכונה A4 זמין רק בפלטפורמת המעבד Emerald Rapids.
אי אפשר לשנות את סוג המכונה של מופע לסוג מכונה A4 או מסוג מכונה A4. תצטרכו ליצור מכונה חדשה עם סוג המכונה הזה.
סוגי המכונות A4 לא תומכים בדיירות יחידה.
אי אפשר להריץ מערכות הפעלה של Windows בסוג מכונה A4.
במקרים של מופעי A4, כשמשתמשים ב-ethtool -S כדי לעקוב אחרי רשתות GPU, מוני יציאות פיזיות שמסתיימים ב-_phy לא מתעדכנים. זהו התנהגות צפויה במקרים שבהם נעשה שימוש בארכיטקטורת MRDMA Virtual Function (VF). מידע נוסף זמין במאמר פונקציות MRDMA וכלים לניטור רשת.
אי אפשר לצרף דיסקים של Hyperdisk ML שנוצרו לפני 4 בפברואר 2026 לסוגי מכונות A4.

A3 Ultra

לא תקבלו הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מקרים לדוגמה שבהם נעשה שימוש בסוג מכונה A3 Ultra.
אפשר להשתמש בסוג המכונה A3 Ultra רק באזורים ובאזורי זמינות מסוימים.
אי אפשר להשתמש בדיסק לאחסון מתמיד (אזורי או של תחום מוגדר). אפשר להשתמש רק ב-Google Cloud Hyperdisk.
סוג המכונה A3 Ultra זמין רק בפלטפורמת המעבד Emerald Rapids.
אין תמיכה בשינויים בסוג המכונה עבור סוג המכונה A3 Ultra. כדי לעבור אל סוג המכונה הזה או ממנו, צריך ליצור מופע חדש.
אי אפשר להריץ מערכות הפעלה של Windows במכונה מסוג A3 Ultra.
סוגי המכונות A3 Ultra לא תומכים בשימוש בלעדי בדיירים.
במקרים של מופעי A3 Ultra, כשמשתמשים ב-ethtool -S כדי לעקוב אחרי רשתות GPU, מוני יציאות פיזיות שמסתיימים ב-_phy לא מתעדכנים. זהו אופן פעולה צפוי במקרים שבהם נעשה שימוש בארכיטקטורה של פונקציה וירטואלית (VF) של MRDMA. מידע נוסף זמין במאמר פונקציות MRDMA וכלים לניטור רשת.

מגבלות על MIG

כשיוצרים קבוצת MIG עם מכונות וירטואליות מסוג A4 או A3 Ultra, חלות ההגבלות הבאות:

צריך להשבית את התיקונים ב-MIG, כמו שמתואר במאמר הזה.

אם יוצרים קבוצת MIG אזורית שמשתמשת ברשת RDMA, קבוצת ה-MIG יכולה ליצור רק מופעי A4 או A3 Ultra באזור שבו הגדרתם את פרופיל הרשת עבור RDMA.
אי אפשר להגדיר הפעלה גמישה של מכונות ב-MIG.

אם רוצים שקבוצת ה-MIG תשתמש במדיניות עומס עבודה, כדאי לעיין במגבלות של מדיניות עומס עבודה.

הגבלות על בקשות לשינוי גודל של MIG

ההגבלות הבאות חלות על בקשות לשינוי גודל של קבוצות מנוהלות של מופעים (MIG):

ב-MIGs אזוריים, אפשר להשתמש רק בANY_SINGLE_ZONE צורת ההפצה לטירגוט.
אפשר להגדיר את מצב מאגר ההמתנה של ה-MIG רק ל-manual (ברירת מחדל).
אי אפשר להגדיר שינוי גודל אוטומטי.
אם ה-MIG מכיל בקשות לשינוי גודל שאושרו, אי אפשר לשנות את גודל היעד של ה-MIG.
אי אפשר למחוק או לנטוש את המופעים המנוהלים בסטטוס CREATING שנוצר על ידי קבוצת המופעים המנוהלים (MIG) עבור בקשה לשינוי כמות. כדי למחוק את המכונות המנוהלות האלה, צריך לבטל את בקשת השינוי.

מידע נוסף זמין במאמר בנושא כל המגבלות על בקשות לשינוי גודל.

לפני שמתחילים

לפני שיוצרים קבוצת MIG, אם עדיין לא עשיתם זאת, צריך לבצע את השלבים הבאים:

בוחרים אפשרות צריכה: האפשרות שתבחרו לצריכה תקבע איך תקבלו ותשתמשו במשאבי GPU. מידע נוסף זמין במאמר בנושא בחירת אפשרות צריכה.
קבלת קיבולת: התהליך לקבלת קיבולת שונה לכל אפשרות צריכה. כדי לקבל מידע על התהליך להשגת קיבולת לאפשרות הצריכה שבחרתם, אפשר לעיין במאמר סקירה כללית על קיבולת.

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת קבוצת מופעים מנוהלת (MIG), צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת קבוצת מופעים מנוהלת (MIG). כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור קבוצת מופעים מנוהלת (MIG), נדרשות ההרשאות הבאות:

כדי ליצור קבוצת MIG: compute.instanceGroupManagers.create בפרויקט

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

יצירת קבוצת MIG עם סוג המכונה A4 או A3 Ultra כוללת את השלבים הבאים:

יצירת רשתות VPC
אופציונלי: יצירת מדיניות עומס עבודה
יצירת תבנית של הגדרות מכונה
יצירת קבוצת מופעי מכונה מנוהלים (MIG)
התקנת דרייברים של GPU
אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

יצירת רשתות VPC

הערה: אם אתם מגדירים בדיקה מהירה, אתם יכולים לדלג על השלב הזה ולציין במקום זאת כרטיס רשת יחיד. --network-interface=nic-type=GVNIC

כדי להגדיר את הרשת לסוגי מכונות A4 או A3 Ultra, צריך ליצור שלוש רשתות VPC לממשקי הרשת הבאים:

‫2 רשתות VPC רגילות לממשקי הרשת (NIC) של gVNIC. לאחר מכן, כרטיסי ה-NIC משתמשים ברשתות ה-VPC האלה לתקשורת בין המארחים.
רשת VPC אחת עם פרופיל רשת RoCE עבור כרטיסי ה-NIC של CX-7. רשת ה-VPC של RoCE למכונות וירטואליות צריכה לכלול 8 תת-רשתות, תת-רשת אחת לכל כרטיס רשת CX-7. כרטיסי ה-NIC האלה משתמשים ב-RDMA over Converged Ethernet ‏ (RoCE), ומספקים את התקשורת עם רוחב הפס הגבוה וההשהיה הנמוכה שחיונית לתקשורת בין יחידות GPU.

מידע נוסף על סידור כרטיסי רשת זמין במאמר בדיקת רוחב הפס ברשת וסידור כרטיסי הרשת.

אפשר ליצור את הרשתות באופן ידני לפי ההוראות במדריכים, או באופן אוטומטי באמצעות הסקריפט שסופק.

מדריכים להוראה

כדי ליצור את הרשתות, אפשר להשתמש בהוראות הבאות:

כדי ליצור רשתות VPC רגילות לממשקי הרשת של gVNIC, אפשר לעיין במאמר בנושא יצירה וניהול של רשתות ענן וירטואלי פרטי.
כדי ליצור את רשת ה-VPC של RoCE למכונות וירטואליות (roce), אפשר לעיין במאמר בנושא יצירת רשת של ענן וירטואלי פרטי (VPC) לכרטיסי NIC של RDMA.

ברשתות ה-VPC האלה, מגדירים את יחידת השידור המקסימלית (MTU) לערך גדול יותר. עבור סוגי מכונות A4 או A3 Ultra, ה-MTU המומלץ הוא 8896 בייט. כדי לבדוק את הגדרות ה-MTU המומלצות לסוגים אחרים של מכונות GPU, אפשר לעיין במאמר בנושא הגדרות MTU לסוגים של מכונות GPU.

Script

כדי ליצור את הרשתות, פועלים לפי השלבים הבאים.

משתמשים בסקריפט הבא כדי ליצור רשתות VPC עבור gVNIC ו-CX-7 NIC.


    #!/bin/bash

    # Create regular VPC networks and subnets for the gVNICs
    for N in $(seq 0 1); do
      gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
        --subnet-mode=custom \
        --mtu=8896

      gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --region=REGION \
        --range=10.$N.0.0/16

      gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --action=ALLOW \
        --rules=tcp:0-65535,udp:0-65535,icmp \
        --source-ranges=10.0.0.0/8
    done

    # Create SSH firewall rules
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=tcp:22 \
      --source-ranges=IP_RANGE

    # Assumes that an external IP is only created for vNIC 0
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=icmp \
      --source-ranges=IP_RANGE


    #!/bin/bash

    # List and make sure network profiles exist in the machine type's zone
    gcloud compute network-profiles list --filter "location.name=ZONE"

    # Create network for RDMA NICs
    gcloud compute networks create RDMA_NAME_PREFIX-mrdma \
      --network-profile=ZONE-vpc-roce \
      --subnet-mode custom \
      --mtu=8896

    # Create subnets
    for N in $(seq 0 7); do
      gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \
        --network=RDMA_NAME_PREFIX-mrdma \
        --region=REGION \
        --range=10.$((N+2)).0.0/16 # offset to avoid overlap with gVNICs
    done

מחליפים את מה שכתוב בשדות הבאים:

‫GVNIC_NAME_PREFIX: התחילית של השם המותאם אישית שמשמשת לרשתות ולתת-רשתות רגילות של VPC עבור gVNIC.
‫RDMA_NAME_PREFIX: התחילית של השם המותאם אישית שמשמשת לרשת ה-VPC של RoCE למכונות וירטואליות (roce) ולתת-רשתות לכרטיסי ה-NIC של CX-7.
‫ZONE: מציינים אזור שבו סוג המכונה שרוצים להשתמש בו זמין, למשל us-central1-a. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫REGION: האזור שבו רוצים ליצור את רשתות המשנה. האזור הזה צריך להתאים לאזור שצוין. לדוגמה, אם האזור הוא us-central1-a, האזור הוא us-central1.
‫IP_RANGE: טווח כתובות ה-IP שבו ייעשה שימוש עבור כללי חומת האש של SSH.

אופציונלי: כדי לוודא שהמשאבים של רשת ה-VPC נוצרו בהצלחה, בודקים את הגדרות הרשת במסוף Google Cloud :
1. נכנסים לדף VPC networks במסוף Google Cloud .
  מעבר לרשתות VPC
2. מחפשים ברשימה את הרשתות שיצרתם בשלב הקודם.
3. כדי לראות את רשתות המשנה, את כללי חומת האש והגדרות רשת אחרות, לוחצים על שם הרשת.

אופציונלי: יצירת מדיניות בנושא עומסי עבודה

אם רוצים שהמכונות הווירטואליות ימוקמו בבלוקים סמוכים או בבלוק אחד, צריך ליצור מדיניות של עומס עבודה כדי לציין את מיקום המכונות הווירטואליות. עם זאת, אם רוצים שמכונות ה-VM יוצבו על ידי Compute Engine בבלוק ספציפי, צריך לדלג על השלב הזה ולציין את שם הבלוק בהעדפת המקום השמור כשיוצרים את תבנית של הגדרות מכונה.

כדי ליצור מדיניות לגבי עומס עבודה, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות של עומס עבודה, משתמשים בפקודה gcloud compute resource-policies create workload-policy.

כדי לנסות למקם מכונות וירטואליות מסוג A4, מציינים את הדגל --type=high-throughput בפקודה:
```
gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --region=REGION
```
כדי להגדיר מיקום משותף קפדני של מכונות וירטואליות מסוג A4 או A3 Ultra, מציינים את הדגלים --max-topology-distance ו---type=high-throughput בפקודה:
```
gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --max-topology-distance=TOPOLOGY_DISTANCE \
    --region=REGION
```

מחליפים את מה שכתוב בשדות הבאים:

‫WORKLOAD_POLICY_NAME: השם של מדיניות עומסי העבודה.
‫TOPOLOGY_DISTANCE: המרחק המקסימלי בטופולוגיה. מציינים אחד מהערכים הבאים:
- כדי להציב מכונות וירטואליות מסוג A4 או A3 Ultra באותו תת-בלוק: SUBBLOCK
- כדי למקם מכונות וירטואליות מסוג A4 או A3 Ultra באותו בלוק: BLOCK
- כדי למקם מכונות וירטואליות מסוג A4 באותו אשכול: CLUSTER
הערה: הגדרה של מרחק מקסימלי קצר יותר עשויה להקטין את הסבירות לזמינות של מכונה וירטואלית. מידע נוסף זמין במאמר בנושא מאפיין המרחק המקסימלי בטופולוגיה.
‫REGION: האזור שבו רוצים ליצור את מדיניות עומס העבודה. מציינים אזור שבו רוצים ליצור את ה-MIG ואת סוג המכונה שרוצים להשתמש בה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורים.

REST

כדי ליצור מדיניות של עומס עבודה, שולחים בקשת POST אל ה-method‏ resourcePolicies.insert.

כדי למקם מכונות וירטואליות מסוג A4 בצורה הכי טובה שאפשר, מציינים את השדה type בבקשה באופן הבא:

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "WORKLOAD_POLICY_NAME"
    "workloadPolicy": {
      "type": "HIGH_THROUGHPUT"
    }
  }

כדי להקצות מכונות וירטואליות מסוג A4 או A3 Ultra במיקום משותף עם הקצאה קפדנית, צריך לציין את השדות maxTopologyDistance ו-type בבקשה באופן הבא:

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "WORKLOAD_POLICY_NAME"
    "workloadPolicy": {
      "type": "HIGH_THROUGHPUT",
      "maxTopologyDistance": "TOPOLOGY_DISTANCE"
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט
‫REGION: האזור שבו רוצים ליצור את מדיניות עומס העבודה. מציינים אזור שבו רוצים ליצור את קבוצת ה-MIG ואת סוג המכונה שרוצים להשתמש בה. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫WORKLOAD_POLICY_NAME: השם של מדיניות עומסי העבודה.
‫TOPOLOGY_DISTANCE: המרחק המקסימלי בטופולוגיה. מציינים אחד מהערכים הבאים:
- כדי להציב מכונות וירטואליות מסוג A4 או A3 Ultra באותו תת-בלוק: SUBBLOCK
- כדי למקם מכונות וירטואליות מסוג A4 או A3 Ultra באותו בלוק: BLOCK
- כדי למקם מכונות וירטואליות מסוג A4 באותו אשכול: CLUSTER
הערה: הגדרה של מרחק מקסימלי קצר יותר עשויה להקטין את הסבירות לזמינות של מכונה וירטואלית. מידע נוסף זמין במאמר בנושא מאפיין המרחק המקסימלי בטופולוגיה.

יצירת תבנית של הגדרות מכונה

כדי לציין את מאפייני המכונה הווירטואלית של קבוצת ה-MIG, יוצרים תבנית של הגדרות מכונה.

כדי ליצור תבנית של הגדרות מכונה, בוחרים באחת מהאפשרויות הבאות:

הפקודות הבאות מגדירות גם את היקף הגישה של המכונות. כדי לפשט את ניהול ההרשאות, מומלץ להגדיר את היקף הגישה במופע לגישת cloud-platform ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המופע יכול לגשת. מידע נוסף זמין במאמר בנושא שיטות מומלצות לשימוש בהיקפים.

gcloud

כדי ליצור תבנית של הגדרות מכונה אזורית, משתמשים בפקודה gcloud compute instance-templates create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה.

הזמנה

מופעי A4 או A3 Ultra תומכים בסוגי ההזמנות הבאים:

שריון מקום שמור לעתיד לבלוקים של קיבולת
הזמנות עתידיות במצב יומן

כדי להשתמש בסוגים האלה של הזמנות, מופע צריך להשתמש במודל הקצאת משאבים שמוגבל להזמנה. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורים.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישות שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:
- כדי ליצור מכונות בכמה בלוקים או בבלוק אחד:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  בנוסף, כדי ליצור MIG של בלוק יחיד, צריך להחיל מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . ‫Compute Engine מחיל את המדיניות על שמירת המקום ויוצר מכונות באותו בלוק.
- כדי ליצור מופעים בבלוק ספציפי:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

Flex-start

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורים.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫RUN_DURATION: משך הזמן שבו אתם רוצים שהמכונות הווירטואליות המבוקשות יפעלו. צריך להזין את הערך כמספר הימים, השעות, הדקות או השניות, ואחריו את הערכים d, h, m ו-s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1d2h3m4s ליום אחד, שעתיים, שלוש דקות וארבע שניות. הערך צריך להיות בין 10 דקות ל-7 ימים.

Spot

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורים.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה. האפשרויות הן STOP (ברירת מחדל) או DELETE.

חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהפקעה על ידי ציון סקריפט כיבוי במהלך יצירת המכונה. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

REST

כדי ליצור תבנית של הגדרות מכונה אזורית, שולחים בקשת POST אל ה-method‏ regionInstanceTemplates.insert.

הזמנה

מופעי A4 או A3 Ultra תומכים בסוגי ההזמנות הבאים:

שריון מקום שמור לעתיד לבלוקים של קיבולת
הזמנות עתידיות במצב יומן

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫REGION: האזור של רשת המשנה.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישות שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:
- כדי ליצור מכונות בכמה בלוקים או בבלוק אחד:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
  בנוסף, כדי ליצור MIG של בלוק יחיד, צריך להחיל מדיניות של עומס עבודה שמציינת מיקום משותף של בלוק (maxTopologyDistance=BLOCK) . ‫Compute Engine מחיל את המדיניות על שמירת המקום ויוצר מכונות באותו בלוק.
- כדי ליצור מופעים בבלוק ספציפי:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
הערה: אם ההזמנה קיימת בפרויקט הנוכחי, אפשר להשמיט את projects/RESERVATION_OWNER_PROJECT_ID/reservations/ מהערך של RESERVATION.

Flex-start

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫REGION: האזור של רשת המשנה.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫RUN_DURATION: משך הזמן, בשניות, שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בין 600, שהוא 600 שניות (10 דקות), לבין 604800, שהוא 604,800 שניות (שבעה ימים).

Spot

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

מחליפים את מה שכתוב בשדות הבאים:

‫INSTANCE_TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור מופע A4 או A3 Ultra. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר מערכות הפעלה נתמכות.
טיפ: מומלץ להשתמש בתמונות של מערכת הפעלה עם האצת חומרה לעומסי עבודה שעברו אופטימיזציה באמצעות AI. אלא אם יש לכם דרישות ייחודיות לגבי מנהלי התקנים של GPU, התמונות האלה מתקינות את כל מנהלי ההתקנים הנדרשים של GPU באופן אוטומטי. מידע נוסף על הדרישות לגבי מנהלי התקנים של GPU זמין בקטע התקנת מנהלי התקנים של GPU במאמר הזה.
‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
‫REGION: האזור שבו רוצים ליצור את תבנית של הגדרות מכונה. מציינים אזור שבו זמין סוג המכונה שרוצים להשתמש בו. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ואזורי זמינות.
‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
‫NETWORK_PROJECT_ID: מזהה הפרויקט של הרשת.
‫GVNIC_NAME_PREFIX: תוספת השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות בממשקי רשת gVNIC.
‫REGION: האזור של רשת המשנה.
‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה. האפשרויות הן STOP (ברירת מחדל) או DELETE.

חשוב: צריך לוודא שהאפליקציה יכולה להתמודד עם קדימות. לדוגמה, אפשר לטפל בהפקעה על ידי ציון סקריפט כיבוי במהלך יצירת המכונה. איך מטפלים בהפסקת פעולה באמצעות סקריפט כיבוי

אחרי שיוצרים את תבנית של הגדרות מכונה, אפשר לראות אותה כדי לבדוק את המזהה שלה ולעיין במאפייני המכונה.

יצירת קבוצת מופעים מנוהלת (MIG)

אחרי שמשלימים את כל השלבים הקודמים, יוצרים קבוצת MIG על סמך התרחיש שלכם באופן הבא:

תרחיש	שיטה ליצירת קבוצת MIG ומכונות וירטואליות בתוכה	דוגמה
יש לכם כמה משימות או משימות מקבילות שיכולות להתחיל עם כל מספר של מכונות וירטואליות.	יוצרים קבוצת MIG ומשתמשים בגודל היעד כדי לציין את מספר המכונות הווירטואליות שרוצים בקבוצה. אפשר לעיין במאמר בנושא יצירת קבוצת מופעי מכונה מנוהלים (MIG) עם גודל יעד.	משימות של הסקת מסקנות בלמידת מכונה
יש לכם עבודה שצריך לבצע על מספר מדויק של מכונות וירטואליות.	יוצרים קבוצת MIG בלי מכונות וירטואליות, ואז יוצרים בקשה לשינוי כמות בקבוצת ה-MIG. הבקשה לשינוי כמות עוזרת לכם לקבל את כל המכונות הווירטואליות בבת אחת. איך יוצרים MIG ובקשה לשינוי כמות	משימות מבוזרות של אימון ושיפור מודלים של למידת מכונה

יצירת קבוצת מופעים מנוהלת עם גודל יעד

אם אתם יכולים להתחיל את העבודה בלי ליצור את כל המכונות הווירטואליות בבת אחת, אתם יכולים ליצור MIG עם גודל יעד. גודל היעד קובע את מספר המכונות הווירטואליות בקבוצת ה-MIG. קבוצת ה-MIG מתחילה ליצור מכונות וירטואליות על סמך הזמינות הנוכחית של המשאבים. אם חלק מהמשאבים לא זמינים באופן זמני, קבוצת ה-MIG תמשיך לנסות ליצור מכונות וירטואליות כדי להגיע לגודל היעד.

כדי ליצור קבוצת MIG עם גודל יעד, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור קבוצת מופעים מנוהלת עם גודל יעד מוגדר, משתמשים בפקודה instance-groups managed create.

חשוב: אם בתבנית של הגדרות מכונה מצוינות Flex-start VMs, אז צריך גם להשבית את התיקונים על ידי הוספת הדגל --default-action-on-vm-failure=do-nothing לפקודה.

הפקודות שבהן משתמשים כדי ליצור קבוצת מופעים מנוהלת (MIG) משתמשות במדיניות עומס עבודה כדי לציין את מיקום המופע. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.

כדי ליצור קבוצת MIG אזורית או אזורית:

כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה:

gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --workload-policy=WORKLOAD_POLICY_URL \
  --zone=ZONE

כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה:

gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --workload-policy=WORKLOAD_POLICY_URL \
    --region=REGION

מחליפים את מה שכתוב בשדות הבאים:

‫MIG_NAME: השם של ה-MIG.
‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
- לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
‫TARGET_SIZE: מספר המופעים שרוצים בקבוצת המופעים המנוהלת.
WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות העומס – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם אתם לא רוצים להשתמש במדיניות של עומס עבודה, אתם יכולים להסיר את הדגל --workload-policy.
‫ZONE: האזור שבו רוצים ליצור את ה-MIG. אם משתמשים במדיניות של עומס עבודה, צריך לציין אזור בתוך האזור של המדיניות.
‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG. אם משתמשים במדיניות של עומס עבודה, צריך לציין את אותו אזור כמו זה של המדיניות. ב-MIG אזורי, במקום אזור, אפשר לציין את האזורים באותו אזור באמצעות הדגל --zones.

REST

כדי ליצור קבוצת MIG עם גודל יעד מוגדר, שולחים בקשת POST.

חשוב: אם בתבנית של הגדרות מכונה מצוינות מכונות וירטואליות עם הפעלה גמישה, צריך גם להשבית את התיקונים על ידי הוספת השדה "defaultActionOnFailure": "DO_NOTHING" לבקשה.

הבקשות שבהן משתמשים כדי ליצור קבוצת MIG משתמשות במדיניות של עומס עבודה כדי לציין את מיקום המופע. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.

כדי ליצור קבוצת MIG אזורית או אזורית:

כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST אל ה-method‏ instanceGroupManagers.insert.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}

כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST אל ה-method‏ regionInstanceGroupManagers.insert.

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE,
    "resourcePolicies": {
      "workloadPolicy": "WORKLOAD_POLICY_URL"
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט.
‫ZONE: האזור שבו רוצים ליצור את קבוצת ה-MIG. אם משתמשים במדיניות עומס עבודה, צריך לציין אזור בתוך האזור של המדיניות.
‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG. אם משתמשים במדיניות של עומס עבודה, צריך לציין את אותו אזור כמו זה של המדיניות.
‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
- לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
‫MIG_NAME: השם של ה-MIG.
‫TARGET_SIZE: מספר המופעים שרוצים בקבוצת המופעים המנוהלת.
WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות העומס – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות של עומס עבודה, מסירים את השדה resourcePolicies.workloadPolicy.

יצירת קבוצת MIG ובקשה לשינוי כמות

אם אתם צריכים כמה מכונות וירטואליות בבת אחת כדי להתחיל משימה, אתם יכולים ליצור קבוצת מכונות מנוהלת (MIG) ולבקש שינוי כמות בקבוצת המכונות המנוהלת, כמו שמתואר בקטע הזה.

כדי ליצור בקשה לשינוי גודל בקבוצת MIG, בוחרים באחת מהאפשרויות הבאות:

gcloud

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה למודל ההקצאה של אפשרות הצריכה.

הזמנה

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. כדי ליצור בקשה לשינוי הגודל של קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. כדי ליצור בקשה לשינוי כמות ב-MIG האזורי, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Flex-start

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. כדי ליצור בקשה לשינוי הגודל של קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \

    --workload-policy=WORKLOAD_POLICY_URL \

    --region=REGION \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none \
    --workload-policy=WORKLOAD_POLICY_URL
  
```
2. כדי ליצור בקשה לשינוי כמות ב-MIG האזורי, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Spot

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zone=ZONE
```
2. כדי ליצור בקשה לשינוי הגודל של קבוצת MIG אזורית, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. יוצרים קבוצת MIG אזורית באמצעות הפקודה instance-groups managed create באופן הבא.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --workload-policy=WORKLOAD_POLICY_URL \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. כדי ליצור בקשה לשינוי כמות ב-MIG האזורי, משתמשים בפקודה instance-groups managed resize-requests create באופן הבא. הפקודה הזו מציינת את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

מחליפים את הערכים בשדות הבאים:

‫MIG_NAME: השם של ה-MIG.
‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
- לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
‫WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות עומס העבודה – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם אתם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את הדגל --workload-policy.
‫ZONE: האזור שבו רוצים ליצור את ה-MIG. גם כשמגדירים קבוצת MIG אזורית, צריך לציין אזור. האזור הזה צריך להיות האזור שמכיל את הפרופיל של רשת ה-VPC, וצריך להיות אזור שבו סוג המכונה זמין. מידע נוסף מופיע בקטע מגבלות.
‫RESIZE_REQUEST_NAME: השם של בקשת שינוי הגודל, שחייב להיות ייחודי בתוך ה-MIG שצוין. אחרת, יצירת בקשה לשינוי כמות תיכשל.
‫COUNT: מספר המופעים שרוצים להוסיף ל-MIG בבת אחת.
‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG.

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צריך לציין רשימה של שמות כדי ליצור את המכונות הווירטואליות. מספר השמות שאתם מציינים קובע את מספר המכונות הווירטואליות שקבוצת ה-MIG יוצרת בבת אחת.

כדי ליצור בקשה לשינוי כמות עם שמות ספציפיים של מכונות וירטואליות ב-MIG, משתמשים בפקודה gcloud compute instance-groups managed resize-requests create בגרסת בטא עם הדגל --instances:

ב-MIG אזורי, מריצים את הפקודה הבאה:

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

ב-MIG אזורי, מריצים את הפקודה הבאה:

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION

מחליפים את INSTANCE_NAMES ברשימה מופרדת בפסיקים של שמות המכונות הווירטואליות. לדוגמה, instance-1,instance-2,instance-3.

REST

הזמנה

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, מבצעים את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Flex-start

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, מבצעים את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Spot

כדי ליצור קבוצת MIG אזורית או אזורית ובקשה לשינוי כמות:

כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, בצע את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```
כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות בה, מבצעים את הפעולות הבאות:
1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert באופן הבא.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "resourcePolicies": {
    "workloadPolicy": "WORKLOAD_POLICY_URL"
  }
}
```
2. כדי ליצור בקשה לשינוי כמות בקבוצת מופעי מכונה מנוהלים (MIG) אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert באופן הבא. בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה שלכם דורש שמות ספציפיים של מכונות וירטואליות, אתם צריכים ליצור בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

מחליפים את הערכים בשדות הבאים:

‫PROJECT_ID: מזהה הפרויקט.
‫ZONE: האזור שבו רוצים ליצור את ה-MIG. האזור הזה צריך להיות זהה לאזור שמכיל את הפרופיל של רשת ה-VPC, וצריך להיות אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
‫REGION: האזור שבו רוצים ליצור את קבוצת ה-MIG. האזור הזה צריך להיות אותו אזור שמכיל את הפרופיל של רשת ה-VPC, והוא צריך לכלול אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שרוצים להשתמש בה כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
- לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
‫MIG_NAME: השם של ה-MIG.
‫WORKLOAD_POLICY_URL: אופציונלי. כתובת ה-URL של מדיניות עומס העבודה – לדוגמה, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. אם לא רוצים להשתמש במדיניות עומס עבודה, צריך להסיר את השדה resourcePolicies.workloadPolicy.
‫RESIZE_REQUEST_NAME: השם של בקשת שינוי הגודל, שחייב להיות ייחודי בתוך ה-MIG שצוין. אחרת, יצירת בקשה לשינוי כמות תיכשל.
‫COUNT: מספר המופעים שרוצים להוסיף לקבוצת המופעים המנוהלת בבת אחת

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

כדי ליצור בקשה לשינוי כמות עם שמות ספציפיים של מכונות וירטואליות ב-MIG, משתמשים באחת מהשיטות הבאות:

ב-MIG אזורי, שולחים בקשת POST באמצעות השיטה beta.instanceGroupManagerResizeRequests.insert:

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests

ב-MIG אזורי, שולחים בקשת POST באמצעות השיטה beta.regionInstanceGroupManagerResizeRequests.insert:

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests

לדוגמה, כדי לציין שני שמות של מכונות וירטואליות, צריך לכלול את הפרטים הבאים בגוף הבקשה:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

מחליפים את INSTANCE_NAME_1, INSTANCE_NAME_2 בשמות של המכונות הווירטואליות.

התקנת דרייברים של GPU

אחרי שיוצרים מופע, המופע לא יכול להשתמש ב-GPU שלו אלא אם מותקנים בו מראש מנהלי ההתקן הנכונים של ה-GPU. אם לא ציינתם תמונת מערכת הפעלה שכוללת מנהלי התקנים של GPU, תוכלו לעיין במאמר התקנת מנהלי התקנים של GPU במסמכי Compute Engine.

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

מצב Multi-Instance GPU ‏ (MIG) הוא תכונה שאפשר להפעיל ביחידת GPU נתמכת של NVIDIA. אחרי שיוצרים מכונה, אפשר להפעיל את מצב MIG במעבד גרפי יחיד שמצורף למכונה. כשמצב MIG מופעל, ה-GPU היחיד מחולק למחיצות של עד שבעה מקרים עצמאיים של GPU. כל מופע פועל בו-זמנית, ולכל אחד מהם יש זיכרון, מטמון ומעבדים מרובי-ליבות משלו לסטרימינג. לאחר מכן, תוכלו להריץ במקביל עומסי עבודה שונים במכונות ה-GPU האלה. מידע נוסף על שימוש במצב MIG זמין במדריך למשתמש של Multi-Instance GPU (MIG) במסמכי התיעוד של NVIDIA.

יצירת מכונת MIG Ultra בגודל A4 או A3 שעברה אופטימיזציה באמצעות AI קל לארגן דפים בעזרת אוספים אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.

מגבלות

מגבלות על מכונות וירטואליות מסוג A4 או A3 Ultra

A4

A3 Ultra

מגבלות על MIG

הגבלות על בקשות לשינוי גודל של MIG

לפני שמתחילים

התפקידים הנדרשים

ההרשאות הנדרשות

סקירה כללית

יצירת רשתות VPC

מדריכים להוראה

Script

אופציונלי: יצירת מדיניות בנושא עומסי עבודה

gcloud

REST

יצירת תבנית של הגדרות מכונה

gcloud

הזמנה

Flex-start

Spot

REST

הזמנה

Flex-start

Spot

יצירת קבוצת מופעים מנוהלת (MIG)

יצירת קבוצת מופעים מנוהלת עם גודל יעד

gcloud

REST

יצירת קבוצת MIG ובקשה לשינוי כמות

gcloud

הזמנה

Flex-start

Spot

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

REST

הזמנה

Flex-start

Spot

יצירת בקשה לשינוי גודל על ידי ציון רשימה של שמות מכונות וירטואליות

התקנת דרייברים של GPU

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

מה השלב הבא?

יצירת מכונת MIG Ultra בגודל A4 או A3 שעברה אופטימיזציה באמצעות AI