יצירת מכונת MIG מסוג A2 שעברה אופטימיזציה באמצעות AI

במאמר הזה מוסבר איך ליצור קבוצת מופעי מכונה מנוהלים (MIG) שמשתמשת בסדרה A2, שכוללת את סוגי המכונות A2 Ultra ו-A2 Standard. מידע נוסף על סוגי המכונות האלה שמותאמים למאיצים זמין במאמר סדרת A2.

יצירת MIG מאפשרת לכם לנהל כמה מכונות וירטואליות (VM) כישות אחת. כל מכונה וירטואלית ב-MIG מבוססת על תבנית של הגדרות מכונה. קבוצות MIG מנהלות באופן אוטומטי את המכונות הווירטואליות בקבוצה, ולכן הן מציעות זמינות גבוהה ויכולת התאמה לעומס (scaling). מידע נוסף על MIGs זמין במאמר קבוצות מופעי מכונה מנוהלים במסמכי התיעוד של Compute Engine.

במאמר סקירה כללית על אפשרויות הפריסה תוכלו לקרוא על דרכים נוספות ליצירת מכונות וירטואליות או אשכולות.

מגבלות

כשיוצרים קבוצת מכונות מנוהלת עם מכונות וירטואליות מסוג A2, צריך להביא בחשבון את המגבלות של סוג המכונה ושל קבוצת המכונות המנוהלת.

מגבלות של מכונות וירטואליות מסוג A2

כשיוצרים מכונות וירטואליות בכמות גדולה מסוג A2 Ultra או A2 Standard, חלות המגבלות הבאות:

A2 Ultra

  • לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מכונות מסוג A2 Ultra.
  • אפשר להשתמש במכונה מסוג A2 Ultra רק באזורים ובאזורי זמינות מסוימים.
  • סוג המכונה A2 Ultra זמין רק בפלטפורמת Cascade Lake.
  • אם המכונה משתמשת בסוג מכונה A2 Ultra, אי אפשר לשנות את סוג המכונה. אם אתם צריכים להשתמש בסוג מכונה אחר של A2 Ultra, או בכל סוג מכונה אחר, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לשנות סוג מכונה אחר לסוג מכונה A2 Ultra. אם אתם צריכים מכונה שמשתמשת בסוג מכונה A2 Ultra, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לבצע פרמוט מהיר של כונני ה-SSD המקומיים שמחוברים למכונות Windows שמשתמשות בסוגי מכונות A2 Ultra. כדי לפרמט את כונני ה-SSD המקומיים האלה, צריך לבצע פרמוט מלא באמצעות הכלי diskpart ולציין את format fs=ntfs label=tmpfs.

A2 Standard

  • לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מכונות שמשתמשות בסוג מכונה A2 Standard.
  • אפשר להשתמש במכונה מסוג A2 Standard רק באזורים ובמקומות מסוימים.
  • סוג המכונה A2 Standard זמין רק בפלטפורמת Cascade Lake.
  • אם המכונה משתמשת בסוג מכונה A2 Standard, אפשר לעבור רק מסוג מכונה A2 Standard אחד לסוג מכונה A2 Standard אחר. אי אפשר לשנות לסוג מכונה אחר. מידע נוסף זמין במאמר שינוי מכונות שעברו אופטימיזציה למאיצים.
  • אי אפשר להשתמש במערכת ההפעלה Windows עם סוג המכונה a2-megagpu-16g. אם אתם משתמשים במערכת ההפעלה Windows, בחרו סוג מכונה אחר של A2 Standard.
  • אי אפשר לבצע פרמוט מהיר של כונני SSD מקומיים שמחוברים למכונות Windows שמשתמשות בסוגי מכונות A2 Standard. כדי לפרמט את כונני ה-SSD המקומיים האלה, צריך לבצע פרמוט מלא באמצעות הכלי diskpart ולציין את format fs=ntfs label=tmpfs.

מגבלות של קבוצת המכונות המנוהלת (MIG)

לפני שמתחילים

לפני שיוצרים קבוצת MIG, אם עדיין לא עשיתם זאת, בצעו את הפעולות הבאות:

  1. בחירת אפשרות צריכה: אפשרות הצריכה שתבחרו תקבע איך תקבלו את משאבי ה-GPU ותשתמשו בהם. מידע נוסף זמין במאמר בחירת אפשרות צריכה.
  2. השגת קיבולת: התהליך להשגת קיבולת שונה בכל אפשרות צריכה. במאמר סקירה כללית על קיבולת מוסבר איך מקבלים קיבולת לאפשרות הצריכה שבחרתם.
  3. אימות ההרשאות של סוכן השירות של Google APIs: כשיוצרים מכונות וירטואליות בקבוצת מכונות מנוהלת (MIG), Compute Engine משתמש בסוכן השירות של Google APIs (PROJECT_NUMBER@cloudservices.gserviceaccount.com) בפרויקט. אם בתבנית של הגדרות המכונה נעשה שימוש במשאבים מפרויקט אחר, צריך לוודא שלסוכן השירות הזה יש את ההרשאות הנדרשות:

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת קבוצת MIG, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת קבוצת MIG. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור קבוצת MIG, צריך את ההרשאות הבאות:

  • כדי ליצור קבוצת MIG: ‫compute.instanceGroupManagers.create בפרויקט

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

כדי ליצור קבוצת MIG עם מכונה מסוג A2, צריך לבצע את השלבים הבאים:

  1. אופציונלי: יצירת מדיניות למיקום קומפקטי
  2. יצירת תבנית של הגדרות מכונה
  3. יצירת MIG
  4. התקנת מנהלי התקנים של GPU
  5. אופציונלי: הפעלת מצב GPU עם כמה מופעים במקביל של NVIDIA

לכל קבוצת MIG, אתם צריכים לבחור אם אתם רוצים להשתמש במדיניות למיקום קומפקטי, להשתמש בבקשות לשינוי כמות או לא להשתמש באף אחת מהאפשרויות. למידע נוסף על מתי להשתמש בכל אפשרות, ראו מגבלות של קבוצת MIG במאמר הזה.

אופציונלי: יצירת מדיניות למיקום קומפקטי

כדי לציין את מיקום ה-VM, אתם יכולים ליצור מדיניות למיקום קומפקטי. כשמחילים מדיניות למיקום קומפקטי על המכונות הווירטואליות, המערכת של Compute Engine מנסה ליצור מכונות וירטואליות שקרובות זו לזו ככל האפשר. אם האפליקציה שלכם רגישה לזמן אחזור ודורשת דחיסות מקסימלית, ציינו את השדה maxDistance (גרסת טרום-השקה (Preview)) כשאתם יוצרים מדיניות למיקום קומפקטי. ערך נמוך יותר של maxDistance מבטיח מיקום קרוב יותר של המכונות הווירטואליות, אבל הוא גם מגדיל את הסיכוי שחלק מהמכונות הווירטואליות לא ייווצרו.

כדי ליצור מדיניות למיקום קומפקטי, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור מדיניות למיקום קומפקטי, משתמשים בפקודה gcloud compute resource-policies create group-placement:

gcloud compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

מחליפים את מה שכתוב בשדות הבאים:

  • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.
  • ‫MAX_DISTANCE: הגדרת המרחק המקסימלי של המכונות הווירטואליות, שאפשר לציין (גרסת טרום-השקה (Preview), מומלץ) או לא לציין (הסרת הדגל --max-distance). בהתאם לסוג המכונה, אפשר לציין אחד מהערכים הבאים:
    • כדי למקם מכונות וירטואליות באותו בלוק משנה: 1
    • כדי למקם מכונות וירטואליות באותו בלוק: 2
    • כדי למקם מכונות וירטואליות בבלוקים סמוכים: 3
    חשוב לוודא שהגדרת המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות למיקום קומפקטי במסמכי התיעוד של Compute Engine.
  • ‫REGION: האזור שבו רוצים ליצור את המדיניות למיקום קומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.

REST

כדי ליצור מדיניות למיקום קומפקטי, שולחים בקשת POST ל-method‏ resourcePolicies.insert. בגוף הבקשה, כוללים את השדה collocation שמוגדר ל-COLLOCATED ואת השדה maxDistance.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

מחליפים את מה שכתוב בשדות הבאים:

  • PROJECT_ID: מזהה הפרויקט.
  • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.
  • ‫MAX_DISTANCE: הגדרת המרחק המקסימלי של המכונות הווירטואליות, שיכולה להיות מוגדרת (גרסת טרום-השקה (Preview), מומלץ) או לא מוגדרת (הסרת השדה maxDistance). בהתאם לסוג המכונה, אפשר לציין אחד מהערכים הבאים:
    • כדי למקם מכונות וירטואליות באותו בלוק משנה: 1
    • כדי למקם מכונות וירטואליות באותו בלוק: 2
    • כדי למקם מכונות וירטואליות בבלוקים סמוכים: 3
    חשוב לוודא שהגדרת המרחק המקסימלי תומכת בסדרת המכונות ובמספר המכונות הווירטואליות שאתם מתכננים ליצור. מידע נוסף זמין במאמר מידע על מדיניות למיקום קומפקטי במסמכי התיעוד של Compute Engine.
  • ‫REGION: האזור שבו רוצים ליצור את המדיניות למיקום קומפקטי. מציינים את האזור שמכיל את התחום שבו מתכננים ליצור מכונות, ומוודאים שסוג המכונה שרוצים להשתמש בו זמין באזור הזה. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.

יצירת תבנית של הגדרות מכונה

כדי לציין את המאפיינים של המכונות הווירטואליות בקבוצת המכונות המנוהלת (MIG), יוצרים תבנית של הגדרות מכונה.

כדי ליצור תבנית של הגדרות מכונה, בוחרים באחת מהאפשרויות הבאות:

הפקודות הבאות גם מגדירות את היקף הגישה למכונות. כדי לפשט את ניהול ההרשאות, Google ממליצה להגדיר את היקף הגישה במכונה לגישה מסוג cloud-platform, ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המכונה יכולה לגשת. מידע נוסף זמין במאמר שיטות מומלצות להיקפים.

gcloud

כדי ליצור תבנית של הגדרות מכונה אזורית, משתמשים בפקודה gcloud compute instance-templates create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים בפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

במכונות A2 אפשר להשתמש בסוגים הבאים של הקצאות מקום:

  • מקומות שמורים לפי הצורך
  • מקומות שמורים לעתיד רגילים

כדי להשתמש בסוגים האלה של הזמנות, המכונה צריכה להשתמש במודל ההקצאה הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, ראו זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.

    • ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:

      • any (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנוצל באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.

      • ‫specific (נדרשת קיבולת של מקום שמור): המכונה צריכה להשתמש בקיבולת של מקום שמור מטורגט ספציפית. למכונה אין הרשאה להשתמש בקיבולת על פי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המכונה תיכשל.

    • ‫RESERVATION: ההזמנה שבה רוצים להשתמש. מציינים את אחד מהערכים הבאים, בהתאם לערך שציינתם בשדה RESERVATION_AFFINITY:

      • אם ציינתם את any, החליפו את RESERVATION במחרוזת ריקה (""). לחלופין, אתם יכולים להסיר את הדגל --reservation לגמרי.

      • אם ציינתם את specific, החליפו את RESERVATION בערך הבא:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        מחליפים את מה שכתוב בשדות הבאים:

        • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
        • ‫RESERVATION_NAME: שם ההזמנה.

  2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

    --no-restart-on-failure

  3. אם בחרתם להשתמש במדיניות למיקום קומפקטי, מוסיפים לפקודה את הדגל הבא:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  4. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  5. מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, ראו זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.

    • ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:

      • any (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנוצל באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.

      • ‫none (On-demand capacity is required): המכונה לא תוכל להשתמש בקיבולת של מקום שמור.

  2. כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:

    --no-restart-on-failure

  3. אם בחרתם להשתמש במדיניות למיקום קומפקטי, מוסיפים לפקודה את הדגל הבא:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  4. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  5. מריצים את הפקודה.

התחלה גמישה (Flex-start)

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, ראו זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫RUN_DURATION: משך הזמן שבו רוצים להריץ את המכונות הווירטואליות המבוקשות. צריך לציין את הערך כמספר הימים, השעות, הדקות או השניות, ואחריו את האותיות d,‏ h,‏ m ו-s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1d2h3m4s ליום אחד, שעתיים, שלוש דקות וארבע שניות. הערך צריך להיות בין 10 דקות ל-7 ימים.

  2. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  3. מריצים את הפקודה.

כרטיס Spot

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

  2. אם בחרתם להשתמש במדיניות למיקום קומפקטי, מוסיפים לפקודה את הדגל הבא:

    --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    מחליפים את מה שכתוב בשדות הבאים:

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  4. מריצים את הפקודה.

REST

כדי ליצור תבנית של הגדרות מכונה אזורית, שולחים בקשת POST ל-method‏ regionInstanceTemplates.insert.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים בפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

במכונות A2 אפשר להשתמש בסוגים הבאים של הקצאות מקום:

  • מקומות שמורים לפי הצורך
  • מקומות שמורים לעתיד רגילים

כדי להשתמש בסוגים האלה של הזמנות, המכונה צריכה להשתמש במודל ההקצאה הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, קראו את המאמר זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.

    • ‫AUTOMATIC_RESTART: אם המכונה מופעלת מחדש באופן אוטומטי במקרה של קריסה, או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. מציינים את הערך true כדי להפעיל את ההפעלה האוטומטית מחדש (ברירת המחדל) או את הערך false כדי להשבית אותה.

    • ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:

      • ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.

      • ‫SPECIFIC_RESERVATION (נדרשת קיבולת של מקום שמור): המכונה צריכה להשתמש בקיבולת של מקום שמור מטורגט ספציפית. למכונה אין הרשאה להשתמש בקיבולת על פי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המכונה תיכשל.

    • ‫RESERVATION: ההזמנה שבה רוצים להשתמש. מציינים את אחד מהערכים הבאים, בהתאם לערך שציינתם בשדה RESERVATION_AFFINITY:

      • אם ציינתם את ANY_RESERVATION, מחקו את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אתם יכולים להסיר את השדות key ו-values לגמרי.

      • אם ציינתם את SPECIFIC_RESERVATION, החליפו את RESERVATION בערך הבא:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        מחליפים את מה שכתוב בשדות הבאים:

        • ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
        • ‫RESERVATION_NAME: שם ההזמנה.

  2. אופציונלי: אם בחרתם להשתמש במדיניות למיקום קומפקטי, הוסיפו את שדה המשנה instanceProperties לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של המדיניות למיקום קומפקטי.
    • ‫REGION: האזור של המדיניות למיקום קומפקטי.
    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את השדה הבא לשדה disks[] עבור כל דיסק מסוג Local SSD. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  4. שולחים את הבקשה.

על פי דרישה

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, קראו את המאמר זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.

    • ‫AUTOMATIC_RESTART: אם המכונה מופעלת מחדש באופן אוטומטי במקרה של קריסה, או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. מציינים את הערך true כדי להפעיל את ההפעלה האוטומטית מחדש (ברירת המחדל) או את הערך false כדי להשבית אותה.

    • ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:

      • ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.

      • ‫NO_RESERVATION (On-demand capacity is required): המכונה לא תוכל להשתמש בקיבולת של מקום שמור.

  2. אופציונלי: אם בחרתם להשתמש במדיניות למיקום קומפקטי, הוסיפו את שדה המשנה instanceProperties לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של המדיניות למיקום קומפקטי.
    • ‫REGION: האזור של המדיניות למיקום קומפקטי.
    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את השדה הבא לשדה disks[] עבור כל דיסק מסוג Local SSD. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  4. שולחים את הבקשה.

התחלה גמישה (Flex-start)

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
    • ‫MACHINE_TYPE: סוג המכונה שבה משתמשים במכונה מסוג A2. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
    • ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
    • ‫REGION: האזור שבו רוצים ליצור את התבנית של הגדרות המכונה. מציינים אזור שבו סוג המכונה שרוצים להשתמש בה זמין. למידע על אזורים, קראו את המאמר זמינות GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
    • ‫RUN_DURATION: משך הזמן, בשניות, שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. הערך צריך להיות בין 600, שהם 600 שניות (10 דקות), לבין 604800, שהם 604,800 שניות (שבעה ימים).

  2. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את השדה הבא לשדה disks[] עבור כל דיסק מסוג Local SSD. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  3. שולחים את הבקשה.

כרטיס Spot

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

  2. אופציונלי: אם בחרתם להשתמש במדיניות למיקום קומפקטי, הוסיפו את שדה המשנה instanceProperties לגוף הבקשה:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫PROJECT_ID: מזהה הפרויקט של המדיניות למיקום קומפקטי.
    • ‫REGION: האזור של המדיניות למיקום קומפקטי.
    • ‫POLICY_NAME: השם של המדיניות למיקום קומפקטי.

  3. אופציונלי: אם ציינתם סוג מכונה מסוג A2 Standard ואתם רוצים לצרף דיסקים מסוג Local SSD, הוסיפו את השדה הבא לשדה disks[] עבור כל דיסק מסוג Local SSD. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

    חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫ZONE: האזור שציינתם.
    • ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.

    אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.

  4. שולחים את הבקשה.

אחרי שיוצרים את תבנית של הגדרות מכונה, אפשר לצפות בה כדי לראות את המזהה שלה ולבדוק את מאפייני המכונה.

יצירת MIG

אחרי שמשלימים את כל השלבים הקודמים, יוצרים MIG בהתאם לתרחיש שלכם, באופן הבא:

תרחיש שיטה ליצירת קבוצת MIG ומכונות וירטואליות בתוכה דוגמה
יש לכם כמה משימות או משימות מקבילות שיכולות להתחיל עם מספר כלשהו של מכונות וירטואליות. יוצרים קבוצת MIG ומשתמשים בגודל היעד כדי לציין את מספר המכונות הווירטואליות שרוצים בקבוצה.

איך יוצרים MIG עם גודל יעד

 משימות היקש של ML
יש לכם משימה שצריך להפיץ למספר מדויק של מכונות וירטואליות. יוצרים קבוצת MIG בלי מכונות וירטואליות, ואז יוצרים בקשה לשינוי כמות בקבוצת ה-MIG. הבקשה לשינוי כמות עוזרת לכם לקבל את כל המכונות הווירטואליות בבת אחת.

איך יוצרים קבוצת MIG ובקשה לשינוי כמות

 משימות מבוזרות של אימון וכוונון מודלים של למידת מכונה

יצירת קבוצת MIG עם גודל יעד

אם אתם יכולים להתחיל את המשימה בלי ליצור את כל המכונות הווירטואליות בבת אחת, צרו קבוצת MIG עם גודל יעד. גודל היעד קובע את מספר המכונות הווירטואליות ב-MIG. קבוצת ה-MIG מתחילה ליצור מכונות וירטואליות על סמך הזמינות הנוכחית של המשאבים. אם משאבים מסוימים לא זמינים באופן זמני, ה-MIG תנסה ליצור מכונות וירטואליות באופן רציף כדי להגיע לגודל היעד.

כדי ליצור קבוצת MIG עם גודל יעד, בוחרים באחת מהאפשרויות הבאות:

gcloud

כדי ליצור קבוצת MIG עם גודל יעד מסוים, משתמשים בפקודה instance-groups managed create.

כדי ליצור קבוצת MIG אזורית או קבוצת MIG של אזור, מבצעים את הפעולות הבאות:

  • כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה: 
    gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --zone=ZONE
  • כדי ליצור קבוצת MIG אזורית, משתמשים בפקודה הבאה: 
    gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --region=REGION
מחליפים את הערכים הבאים:
  • ‫MIG_NAME: שם ה-MIG.
  • ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
    • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
  • ‫TARGET_SIZE: מספר המכונות שרוצים שיהיו בקבוצת המכונות המנוהלות.
  • ‫ZONE: האזור שבו רוצים ליצור את ה-MIG.
  • ‫REGION: האזור שבו רוצים ליצור את ה-MIG. בקבוצת MIG אזורית, במקום אזור, אפשר לציין את האזורים באותו אזור באמצעות הדגל --zones.

REST

כדי ליצור קבוצת MIG עם גודל יעד מסוים, שולחים בקשת POST.

כדי ליצור קבוצת MIG אזורית או קבוצת MIG של אזור, מבצעים את הפעולות הבאות:

  • כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert. 
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE
}
  • כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE
  }
מחליפים את הערכים הבאים:
  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫ZONE: האזור שבו רוצים ליצור את ה-MIG.
  • ‫REGION: האזור שבו רוצים ליצור את ה-MIG.
  • ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
    • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
  • ‫MIG_NAME: שם ה-MIG.
  • ‫TARGET_SIZE: מספר המכונות שרוצים שיהיו ב-MIG.

יצירת קבוצת MIG ובקשה לשינוי כמות

אם אתם צריכים כמה מכונות וירטואליות בבת אחת כדי להתחיל משימה, צרו קבוצת MIG וצרו בקשה לשינוי כמות ב-MIG, כמו שמתואר בקטע הזה.

כדי ליצור בקשה לשינוי כמות ב-MIG, בוחרים באחת מהאפשרויות הבאות:

gcloud

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים בפריסה הזו. בוחרים את הכרטיסייה שמתאימה למודל ההקצאה של אפשרות הצריכה.

הזמנה

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

על פי דרישה

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

התחלה גמישה (Flex-start)

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

כרטיס Spot

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:
מחליפים את הערכים בשדות הבאים:
  • ‫MIG_NAME: שם ה-MIG.
  • ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
    • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
  • ‫ZONE: האזור שבו רוצים ליצור את ה-MIG. גם בקבוצת MIG אזורית צריך לציין אזור. האזור הזה חייב להיות האזור שמכיל את הפרופיל של רשת ה-VPC, ואזור שבו סוג המכונה זמין. מידע נוסף מופיע בקטע מגבלות.
  • ‫RESIZE_REQUEST_NAME: השם של הבקשה לשינוי הגודל, שחייב להיות ייחודי בתוך קבוצת ה-MIG שצוינה. אחרת, הבקשה לשינוי הגודל תיכשל.
  • ‫COUNT: מספר המכונות שרוצים להוסיף ל-MIG בבת אחת.
  • ‫REGION: האזור שבו רוצים ליצור את ה-MIG.

יצירת בקשה לשינוי כמות על ידי ציון רשימה של שמות של מכונות וירטואליות

אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צריך לציין רשימה של שמות כדי ליצור את המכונות הווירטואליות. מספר השמות שתציינו קובע את מספר המכונות הווירטואליות שקבוצת ה-MIG תיצור בבת אחת.

כדי ליצור בקשה לשינוי כמות עם שמות ספציפיים של מכונות וירטואליות ב-MIG, משתמשים בפקודה gcloud compute instance-groups managed resize-requests create בגרסת בטא עם הדגל --instances:

  • ב-MIG אזורי, מריצים את הפקודה הבאה:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

  • ב-MIG אזורי, מריצים את הפקודה הבאה:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION
מחליפים את INSTANCE_NAMES ברשימה מופרדת בפסיקים של שמות המכונות הווירטואליות. לדוגמה, instance-1,instance-2,instance-3.

REST

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים בפריסה הזו. בוחרים את הכרטיסייה שמתאימה למודל ההקצאה של אפשרות הצריכה.

הזמנה

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert, באופן הבא: 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. כדי ליצור בקשה לשינוי כמות ב-MIG של אזור, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert, כמו שמוסבר בהמשך. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. שולחים בקשה לשינוי כמות ב-MIG האזורי באמצעות בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert, באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

על פי דרישה

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert, באופן הבא: 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. כדי ליצור בקשה לשינוי כמות ב-MIG של אזור, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert, כמו שמוסבר בהמשך. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. שולחים בקשה לשינוי כמות ב-MIG האזורי באמצעות בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert, באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

התחלה גמישה (Flex-start)

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert, באופן הבא: 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. כדי ליצור בקשה לשינוי כמות ב-MIG של אזור, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert, כמו שמוסבר בהמשך. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. שולחים בקשה לשינוי כמות ב-MIG האזורי באמצעות בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert, באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

כרטיס Spot

יוצרים קבוצת MIG אזורית או תחומית ובקשה לשינוי כמות באופן הבא:

  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ instanceGroupManagers.insert, באופן הבא: 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. כדי ליצור בקשה לשינוי כמות ב-MIG של אזור, שולחים בקשת POST ל-method‏ instanceGroupManagerResizeRequests.insert באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • כדי ליצור קבוצת MIG אזורית ובקשה לשינוי כמות:
    1. כדי ליצור קבוצת MIG אזורית, שולחים בקשת POST ל-method‏ regionInstanceGroupManagers.insert, כמו שמוסבר בהמשך. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. שולחים בקשה לשינוי כמות ב-MIG האזורי באמצעות בקשת POST ל-method‏ regionInstanceGroupManagerResizeRequests.insert, באופן הבא: בבקשה הזו מציינים את מספר המכונות הווירטואליות שרוצים ליצור. אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צרו בקשה לשינוי כמות וציינו רשימה של שמות של מכונות וירטואליות. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
מחליפים את הערכים בשדות הבאים:
  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫ZONE: האזור שבו רוצים ליצור את ה-MIG. האזור הזה חייב להיות זהה לאזור שמכיל את הפרופיל של רשת ה-VPC, וצריך להיות אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
  • ‫REGION: האזור שבו רוצים ליצור את ה-MIG. האזור הזה חייב להיות אותו אזור שמכיל את הפרופיל של רשת ה-VPC, וחייב להכיל אזור שבו סוג המכונה שבחרתם זמין. מידע נוסף מופיע בקטע מגבלות.
  • ‫INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:
    • לתבנית של הגדרות מכונה אזורית: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • לתבנית גלובלית של הגדרות מכונה: INSTANCE_TEMPLATE_ID
  • ‫MIG_NAME: שם ה-MIG.
  • ‫RESIZE_REQUEST_NAME: השם של הבקשה לשינוי הגודל, שחייב להיות ייחודי בתוך קבוצת ה-MIG שצוינה. אחרת, הבקשה לשינוי הגודל תיכשל.
  • ‫COUNT: מספר המכונות שרוצים להוסיף ל-MIG בבת אחת

יצירת בקשה לשינוי כמות על ידי ציון רשימה של שמות של מכונות וירטואליות

אם עומס העבודה דורש שמות ספציפיים של מכונות וירטואליות, צריך לציין רשימה של שמות כדי ליצור את המכונות הווירטואליות. מספר השמות שתציינו קובע את מספר המכונות הווירטואליות שקבוצת ה-MIG תיצור בבת אחת.

כדי ליצור בקשה לשינוי כמות עם שמות ספציפיים של מכונות וירטואליות בקבוצת מכונות מנוהלת, אפשר להשתמש באחת מהשיטות הבאות:

לדוגמה, כדי לציין שני שמות של מכונות וירטואליות, צריך לכלול את הפרטים הבאים בגוף הבקשה:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

מחליפים את INSTANCE_NAME_1, INSTANCE_NAME_2 בשמות של המכונות הווירטואליות.

התקנת מנהלי התקנים של GPU

אחרי שיוצרים מכונה, היא לא יכולה להשתמש ב-GPU שלה אלא אם מנהלי ההתקנים הנכונים של ה-GPU כבר מותקנים. אם לא ציינתם קובץ אימג' של מערכת ההפעלה שכולל מנהלי התקנים של GPU, עיינו במאמר התקנת מנהלי התקנים של GPU במסמכי התיעוד של Compute Engine.

אופציונלי: הפעלת מצב NVIDIA Multi-Instance GPU

מצב GPU עם כמה מופעים במקביל (MIG) הוא תכונה שאפשר להפעיל ב-GPU נתמך של NVIDIA. אחרי שיוצרים מכונה, אפשר להפעיל מצב MIG ב-GPU יחיד שמחובר למכונה. כשהמצב MIG מופעל, ה-GPU הבודד מחולק לעד שבעה מכונות GPU נפרדות. כל מכונה פועלת בו-זמנית, ולכל אחת מהן יש זיכרון, מטמון ובלוקי SM ‏(Streaming Multiprocessor) משלה. לאחר מכן, תוכלו להריץ עומסי עבודה שונים על המכונות האלה עם GPU במקביל. מידע נוסף על השימוש במצב MIG מופיע במאמר Multi-Instance GPU (MIG) User Guide במסמכי התיעוד של NVIDIA.

מה השלב הבא?