יצירת מכונה עם Advanced Compute Images

אתם יכולים ליצור מכונה שמשתמשת ב-Advanced Compute Images כדי לספק סביבה אופטימלית לעומסי עבודה של בינה מלאכותית (AI), למידת מכונה (ML) ומחשוב עתיר ביצועים (HPC). אפשר להשתמש בממשקים הבאים:

מידע נוסף על Advanced Compute Images זמין במאמר סקירה כללית על Advanced Compute Images.

לפני שמתחילים

  • אם עדיין לא עשיתם את זה, תצטרכו להגדיר אימות. אימות הוא תהליך שבו מאמתים את הזהות שלכם כדי לקבל גישה לממשקי API ולשירותים של Google Cloud . כדי להריץ קוד או דוגמאות מסביבת פיתוח מקומית, אפשר לבצע אימות ל-Compute Engine באחת מהדרכים הבאות:

    צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

    המסוף

    כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API, לא צריך להגדיר אימות. Google Cloud

    gcloud

    1. התקינו את ה-CLI של Google Cloud. אחר כך, אתחלו את ה-CLI של Google Cloud באמצעות הפקודה הבאה: 

      gcloud init

      אם אתם משתמשים בספק זהויות חיצוני (IdP), קודם אתם צריכים להיכנס ל-CLI של gcloud באמצעות המאגר המאוחד לניהול זהויות.

  • הגדרת אזור ותחום כברירת מחדל

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות, צריך את ההרשאות הבאות:

  • ‫compute.instances.create בפרויקט
  • כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
  • כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
  • כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
  • כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
  • כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
  • כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
  • כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
  • כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
  • כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
  • כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
  • כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
  • כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
  • כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
  • כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

מדריך למתחילים

במדריך הזה מתוארים השלבים ליצירת מכונת A3 Ultra או A4 שמשתמשת בתמונות מתקדמות של Compute כדי להגדיר ולהתאים אישית את מערכת ההפעלה של האורח.

דרישות מוקדמות

לפני שיוצרים מופע, צריך לבצע את המשימות הבאות כדי ליצור מופעי A3 Ultra ו-A4:

  1. קבלת קיבולת משאבים למופעי A3 Ultra או A4
  2. יצירת רשתות VPC.
  3. אופציונלי: יצירת מדיניות למיקום קומפקטי

יצירת מכונת חישוב באמצעות Advanced Compute Images

אחרי שמשלימים את המשימות הנדרשות, אפשר להשתמש באחת מהשיטות הבאות כדי ליצור את המופע.

המסוף

  1. נכנסים לדף Create an instance במסוף Google Cloud .

    כניסה לדף Create an instance

    אם מוצגת בקשה לעשות זאת, בוחרים פרויקט ולוחצים על המשך. הדף Create an instance מופיע ובו החלונית Machine configuration.

  2. בחלונית Machine configuration:

    1. בשדה Name, מציינים שם למופע של המחשוב. מידע נוסף זמין במאמר בנושא מוסכמות למתן שמות למשאבים.

    2. בוחרים Region ו-Zone למכונה. אם שריינתם משאבי מחשוב, האזור והתחום שתבחרו צריכים להיות זהים לאלה ששריינתם.

    3. לוחצים על הכרטיסייה GPUs ומבצעים את השלבים הבאים:

      1. ברשימה סוג ה-GPU, בוחרים את סוג ה-GPU.
        • למופעי A4, בוחרים באפשרות NVIDIA B200.
        • למופעי A3 Ultra, בוחרים באפשרות NVIDIA H200 141GB.
      2. ברשימה Number of GPUs בוחרים באפשרות 8.
      3. אופציונלי: בוחרים סוג מכונה אחר.

  3. בתפריט הניווט, לוחצים על מערכת הפעלה ואחסון. בחלונית מערכת הפעלה ואחסון שמופיעה, מבצעים את השלבים הבאים:

    1. לוחצים על Change. מופיעה החלונית דיסק אתחול, ובה הכרטיסייה Public images.
    2. ברשימה Operating system בוחרים באפשרות Advanced Compute Images.
    3. ברשימה Version בוחרים את גרסת מערכת ההפעלה.
    4. אופציונלי: ברשימה Boot disk type, בוחרים את הסוג של דיסק האתחול.
    5. אופציונלי: מציינים מאפיינים נוספים לדיסק האתחול, כמו גודל הדיסק.
    6. אופציונלי: כדי לראות אפשרויות הגדרה מתקדמות, מרחיבים את הקטע הצגת הגדרות מתקדמות.
    7. כדי לאשר את האפשרויות של דיסק האתחול ולחזור לחלונית מערכת הפעלה ואחסון, לוחצים על בחירה.

  4. בתפריט הניווט, לוחצים על Networking (רשת). החלונית Networking מופיעה.

  5. אופציונלי: כדי להגדיר גישה למופע מחוץ ל- Google Cloud, מבצעים את השלבים הבאים:

    1. עוברים לקטע Firewall.

    2. כדי לאפשר תעבורת HTTP או HTTPS למופע Compute, בוחרים באפשרות Allow HTTP traffic או Allow HTTPS traffic.

      ‫Compute Engine מוסיף תג רשת למופע החישוב ויוצר את כלל חומת האש המתאים לכניסת תנועה, שמאפשר את כל התנועה הנכנסת ב-tcp:80 (HTTP) או ב-tcp:443 (HTTPS). תג הרשת משייך את כלל חומת האש למופע. מידע נוסף זמין בסקירה הכללית של הכללים של חומת האש במאמרי העזרה של Cloud Next Generation Firewall.

  6. כדי ליצור מכונה עם כמה כרטיסי NIC, מבצעים את השלבים הבאים בחלונית Networking (רשת). אם מדובר במופע עם כרטיס רשת יחיד, מדלגים על השלבים האלה.

    1. בקטע Network interfaces (ממשקי רשת), מבצעים את השלבים הבאים:
    2. מוחקים את ממשק הרשת שמוגדר כברירת מחדל. כדי למחוק את הממשק, לוחצים על מחיקה.

    3. לוחצים על הוספת ממשק רשת. משתמשים באפשרות הזו כדי להוסיף ממשקי רשת שמצורפים לרשתות ה-VPC שיצרתם בקטע הקודם. כשמוסיפים את ממשקי הרשת, חשוב לזכור את הדברים הבאים:

      • לממשק רשת שמשמש לתקשורת בין מארחים, בוחרים רשת VPC רגילה ורשת משנה מהרשימות רשת ורשת משנה, ומגדירים את הרשימה כרטיס ממשק רשת לערך gVNIC.

      • עבור ממשק רשת שמשמש לתקשורת בין GPU ל-GPU, בוחרים את רשת ה-VPC ואת רשת המשנה של RoCE מהרשימות Network (רשת) ו-Subnetwork (רשת משנה), ומגדירים את הרשימה Network interface card (כרטיס רשת) ל-MRDMA עבור ממשקי הרשת האלה.

  7. בתפריט הניווט, לוחצים על מתקדם. לאחר מכן, פועלים לפי השלבים הבאים בהתאם למודל ההקצאה שבו רוצים להשתמש.

    Flex-start

    1. בקטע Provisioning model, ברשימה VM provisioning model, בוחרים באפשרות Flex-start.

    2. בשדה Enter number of hours (הזנת מספר השעות), מזינים את משך הזמן המקסימלי שבו רוצים שהמכונה הווירטואלית תפעל. הערך צריך להיות בין 0.01 (0.01 שעות, או 36 שניות) לבין 168 (168 שעות, או שבעה ימים).

    3. בוחרים באפשרות Set a wait time for VM creation (הגדרת זמן המתנה ליצירת מכונה וירטואלית).

      בהתאם לדרישות האזוריות של עומס העבודה, מציינים את אחד משני משכי הזמן הבאים כדי להגדיל את הסיכויים שהבקשה ליצירת מכונה וירטואלית תצליח:

      • עומסי עבודה עם דרישות אזוריות מחמירות: אם עומס העבודה מחייב אתכם ליצור את המכונה הווירטואלית באזור ספציפי, עליכם לציין משך זמן בין 90 שניות לבין שעתיים. ככל שהמשך ארוך יותר, כך גדל הסיכוי להשיג משאבים.
      • עומסי עבודה ללא דרישות מחמירות לגבי תחום הזמינות: אם המכונה הווירטואלית יכולה לפעול בכל תחום זמינות באזור, צריך לציין משך של 0 שניות או לבטל את הסימון של התיבה הגדרת זמן המתנה ליצירת מכונה וירטואלית. הפעולה הזו מציינת ש-Compute Engine יקצה משאבים רק אם הם זמינים באופן מיידי. אם הבקשה ליצירת מכונה וירטואלית נכשלת כי המשאבים לא זמינים, צריך לנסות שוב את הבקשה באזור אחר.

    4. בשדה On VM termination, בוחרים אם להפסיק או למחוק את מכונת החישוב בסוף משך ההפעלה שלה:

      • כדי למחוק את המופע, בוחרים באפשרות מחיקה.
      • כדי לעצור את המופע, בוחרים באפשרות עצירה.

    הזמנה בלבד

    1. לוחצים על בחירת הזמנה. הפעולה הזו פותחת חלונית עם רשימה של הזמנות זמינות באזור שנבחר. ברשימת ההזמנות, פועלים לפי השלבים הבאים:

      1. בוחרים את ההזמנה שרוצים להשתמש בה עבור מכונת החישוב. אפשר גם לבחור בלוק ספציפי בהזמנה.
      2. לוחצים על בחירה.

    Spot

    1. בקטע Provisioning model בוחרים באפשרות Spot מהרשימה VM provisioning model.

    2. אופציונלי: כדי לבחור את פעולת הסיום שתתבצע כש-Compute Engine יבצע דחיקה של VM במודל Spot, מבצעים את השלבים הבאים:

      1. מרחיבים את הקטע VM provisioning model advanced settings (הגדרות מתקדמות של מודל הקצאת מכונות וירטואליות).
      2. ברשימה On VM termination בוחרים באחת מהאפשרויות הבאות:
      3. כדי לעצור את VM במודל Spot במהלך הפסקה זמנית, בוחרים באפשרות Stop (ברירת מחדל).
      4. כדי למחוק את VM במודל Spot במהלך הפסקה זמנית, בוחרים באפשרות מחיקה.

  8. כדי ליצור את המכונה ולהפעיל אותה, לוחצים על Create.

gcloud

כדי ליצור את המכונה הווירטואלית, משתמשים בפקודה gcloud compute instances create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים לפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_NAME: שם ה-VM.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור המכונה הווירטואלית. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫ZONE: האזור שבו זמין סוג המכונה שרוצים להשתמש בו. כדי לציין מדיניות למיקום קומפקטי, משתמשים באזור באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות ב-gVNIC.
    • ‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.
    • ‫RESERVATION: שם ההזמנה או בלוק ספציפי בהזמנה. כדי לראות את שם ההזמנה או את הבלוקים הזמינים, אפשר לעיין במאמר בנושא הצגת קיבולת מוזמנת. בהתאם לדרישה שלכם לגבי מיקום המופע, בוחרים באחת מהאפשרויות הבאות:

      • כדי ליצור את המופע בכל בלוק:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        בנוסף, כדי ליצור כמה מופעים באותו בלוק, צריך להחיל את אותה מדיניות מיקום קומפקטית שמציינת מיקום משותף של בלוק (maxDistance=2) כשיוצרים כל מופע. לאחר מכן, Compute Engine מחיל את המדיניות על השמורה ויוצר מכונות באותו בלוק.

      • כדי ליצור את המופע בבלוק ספציפי:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

    • ‫TERMINATION_ACTION: האם Compute Engine מפסיק (STOP) או מוחק (DELETE) את המכונה הווירטואלית בסיום תקופת השמירה.

  2. אופציונלי: כדי להשתמש במדיניות למיקום קומפקטי, מוסיפים את הדגל הבא:

      --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
  3. מריצים את הפקודה.

Flex-start

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_NAME: שם ה-VM.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור המכונה הווירטואלית. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫ZONE: האזור שבו זמין סוג המכונה שרוצים להשתמש בו. כדי לציין מדיניות למיקום קומפקטי, משתמשים באזור באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות ב-gVNIC.
    • ‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.

    • ‫REQUEST_VALID_FOR_DURATION: משך הזמן שהבקשה ליצירת המכונה הווירטואלית (VM) נשארת בתוקף. הערך צריך להיות בפורמט של מספר הימים, השעות, הדקות או השניות, ואחריו d, h, m ו-s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1h2m3s לשעה, שתי דקות ושלוש שניות.

      בהתאם לדרישות האזוריות של עומס העבודה, מציינים את אחד משני משכי הזמן הבאים כדי להגדיל את הסיכויים שהבקשה ליצירת מכונה וירטואלית תצליח:

      • עומסי עבודה עם דרישות אזוריות מחמירות: אם עומס העבודה מחייב אתכם ליצור את המכונה הווירטואלית באזור ספציפי, צריך לציין משך זמן בין 90 שניות (90s) לשעתיים (2h). משך זמן ארוך יותר מגדיל את הסיכויים לקבל משאבים.
      • עומסי עבודה ללא דרישות מחמירות לגבי תחום: אם המכונה הווירטואלית יכולה לפעול בכל תחום באזור, צריך לציין משך של אפס שניות (0s). הפעולה הזו מציינת ש-Compute Engine יקצה משאבים רק אם הם זמינים באופן מיידי. אם הבקשה ליצירת מכונה וירטואלית נכשלת כי המשאבים לא זמינים, צריך לנסות שוב את הבקשה באזור אחר.

    • ‫MAX_RUN_DURATION: משך הזמן שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. צריך להזין את הערך בפורמט של מספר הימים, השעות, הדקות או השניות, ואחריו את הערכים d, h, m ו-s בהתאמה. הערך צריך להיות בין 10 דקות לשבעה ימים.

    • ‫TERMINATION_ACTION: מציין אם Compute Engine מפסיק (STOP) או מוחק (DELETE) את המכונה הווירטואלית בסוף משך ההפעלה שלה.

  2. אופציונלי: כדי להשתמש במדיניות למיקום קומפקטי, מוסיפים את הדגל הבא:

      --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
  3. מריצים את הפקודה.

Spot

לפני שמריצים את הפקודה, בודקים את כל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

  1. מחליפים את מה שכתוב בשדות הבאים:

    • ‫INSTANCE_NAME: שם ה-VM.
    • ‫MACHINE_TYPE: סוג המכונה שבה רוצים להשתמש עבור המכונה הווירטואלית. מידע נוסף זמין במאמר סוגי מכונות עם GPU במאמרי העזרה של Compute Engine.
    • ‫IMAGE_FAMILY: משפחת התמונות של תמונת מערכת ההפעלה שרוצים להשתמש בה. רשימה של כל מערכות ההפעלה הנתמכות מופיעה במאמר בנושא מערכות הפעלה נתמכות.
    • ‫IMAGE_PROJECT: מזהה הפרויקט של תמונת מערכת ההפעלה.
    • ‫ZONE: האזור שבו זמין סוג המכונה שרוצים להשתמש בו. כדי לציין מדיניות למיקום קומפקטי, משתמשים באזור באותו אזור כמו המדיניות למיקום קומפקטי. מידע על אזורים זמין במאמר זמינות של GPU לפי אזורים ותחומים.
    • ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, אפשר לעיין במאמרים מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
    • ‫GVNIC_NAME_PREFIX: תחילית השם שציינתם כשאתם יוצרים את רשתות ה-VPC הרגילות ואת רשתות המשנה שמשתמשות ב-gVNIC.
    • ‫RDMA_NAME_PREFIX: תחילית השם שציינתם כשייצרתם את רשתות ה-VPC ואת תת-הרשתות שמשתמשות בכרטיסי NIC של RDMA.

    • ‫TERMINATION_ACTION: הפעולה שתתבצע כש-Compute Engine יבצע דחיקה של המכונה, האפשרויות הן STOP (ברירת מחדל) או DELETE.

  2. אופציונלי: כדי להשתמש במדיניות למיקום קומפקטי, מוסיפים את הדגל הבא:

      --resource-policies=POLICY_NAME

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫POLICY_NAME: השם של מדיניות המיקום הקומפקטי.
  3. מריצים את הפקודה.

אחרי זמן מה, יצירת מופע המחשוב מסתיימת. כדי לוודא את הגדרות המופע ולראות את הסטטוס שלו, מריצים את הפקודה הבאה:

gcloud compute instances describe INSTANCE_NAME

הגדרת מכונות וירטואליות במודל Spot

אם יצרתם VM במודל Spot, מבצעים את השלבים הבאים:

גישה למכונה

אחרי שיוצרים את מופע המחשוב, הוא מופעל אוטומטית. כדי לגשת למופע, מבצעים אחת מהפעולות הבאות:

המסוף

  1. נכנסים לדף VM instances במסוף Google Cloud .

    כניסה לדף VM instances

  2. לוחצים על השם של מכונת החישוב.

  3. בקטע גישה מרחוק, לוחצים על הרשימה הנפתחת הראשונה ובוחרים את אופן הגישה למכונה.

מערכת Compute Engine מעבירה את מפתחות ה-SSH ויוצרת את המשתמש. מידע נוסף זמין במאמר איך מתחברים למכונות וירטואליות של Linux.

gcloud

כדי לגשת למכונה באמצעות SSH, משתמשים בפקודה gcloud compute ssh:

gcloud compute ssh INSTANCE_NAME --zone ZONE

מערכת Compute Engine מעבירה את מפתחות ה-SSH שלכם ויוצרת את המשתמש. מידע נוסף זמין במאמר התחברות למכונות וירטואליות של Linux.

הסרת המשאבים

כדי להימנע מחיובים בחשבון Google Cloud על המשאבים שבהם השתמשתם במדריכים למתחילים האלה, מוחקים את כל מופעי המחשוב ואת כל המשאבים המצורפים שיצרתם.

המסוף

  1. נכנסים לדף VM instances במסוף Google Cloud .

    כניסה לדף VM instances

  2. בוחרים את המופעים שרוצים למחוק.

  3. לוחצים על מחיקה.

  4. בתיבת הדו-שיח, מבצעים את הפעולות הבאות:

    1. אופציונלי: כדי למחוק את המקרים בלי לבצע כיבוי תקין שלהם, או כדי להפסיק כיבוי תקין שמתבצע, מסמנים את תיבת הסימון דילוג על כיבוי תקין (אם רלוונטי).

    2. כדי לאשר, לוחצים על מחיקה.

  5. כדי למחוק את הדיסקים שבהם נעשה שימוש במופעים שנמחקו, עוברים לדף Disks (דיסקים) ומבצעים את השלבים הבאים:

    לפתיחת הדף Disks

    1. בוחרים את הדיסקים שרוצים למחוק. הדיסקים שאתם בוחרים לא יכולים להכיל ערך בעמודה בשימוש על ידי.

    2. לוחצים על מחיקה.

    3. כדי לאשר, לוחצים על מחיקה.

gcloud

כדי למחוק מכונה וירטואלית אחת או יותר באותו אזור, משתמשים בפקודה gcloud compute instances delete. כדי לכפות את המחיקה של הדיסקים שמצורפים למופע אחד או יותר, צריך לכלול את הדגל --delete-disks:

gcloud compute instances delete INSTANCE_NAMES \
        --delete-disks=DELETE_DISK_TYPE \
        --zone=ZONE

מחליפים את מה שכתוב בשדות הבאים:

  • ‫INSTANCE_NAMES: רשימה של שמות מופרדים ברווחים של מופעים – לדוגמה, instance-01 instance-02 instance-03.

  • ‫ZONE: האזור שבו נמצאים המופעים.

  • ‫DELETE_DISK_TYPE: מציינים אחד מהערכים הבאים:

    • כדי למחוק אחסון מתמיד מצורף שמשמש לאתחול ושלא משמש לאתחול: all
    • כדי למחוק רק את האחסון המתמיד של האתחול המצורף: boot
    • כדי למחוק רק אחסון מתמיד שאינו קשור לאתחול: data

יצירת תמונה בהתאמה אישית על סמך Advanced Compute Images

אתם יכולים ליצור תמונה מותאמת אישית שמבוססת על תמונה של Advanced Compute Images. לאחר מכן תוכלו להשתמש בתמונה המותאמת אישית כשתיצרו מכונות וירטואליות חדשות לעומסי העבודה ולאפליקציות שלכם.

כדי ליצור תמונה בהתאמה אישית, מבצעים את הפעולות הבאות:

  1. מגדירים מיקום אחסון לתמונה. כדי ליצור, לשנות ולמחוק תמונות של מערכת הפעלה שמאוחסנות ב-Cloud Storage, צריך לקבל את התפקיד roles/compute.storageAdmin.

  2. יצירת מכונת חישוב באמצעות Advanced Compute Images.

  3. מתאימים אישית את מערכת ההפעלה של האורח לפי הצורך במכונת החישוב.

  4. כדי למנוע כתיבה לדיסקים, צריך לעצור את מופע המחשוב. אם אי אפשר לעצור את המופע, צריך לבצע את השלבים במאמר צמצום כתיבת נתונים לדיסק הקשיח.

  5. משביתים את אפשרות המחיקה האוטומטית של דיסק האתחול.

  6. יוצרים תמונה בהתאמה אישית באמצעות דיסק האתחול של מכונת ה-Compute כמקור. אפשר לעשות זאת באמצעות מסוףGoogle Cloud או Google Cloud CLI.

    המסוף

    1. נכנסים לדף Images במסוף Google Cloud .

      כניסה לדף Images

    2. לוחצים על יצירת תמונה.

    3. מציינים שם לתמונה.

    4. בקטע דיסק המקור, בוחרים את השם של דיסק האתחול של מופע Compute שמשתמש ב-Advanced Compute Images.

      אם מופעלת מכונת החישוב, בוחרים באפשרות Keep instance running (השארת המכונה פועלת) כדי לאשר שרוצים ליצור את התמונה בזמן שהמכונה פועלת. קודם צריך להשלים את השלבים לצמצום פעולות הכתיבה לדיסק האתחול.

    5. ברשימה הנפתחת Based on source disk location (default) (על סמך מיקום בדיסק המקור (ברירת מחדל)), מציינים את המיקום לאחסון התמונה המותאמת אישית. לדוגמה, מציינים us כדי לאחסן את התמונה במספר האזורים us, או us-central1 כדי לאחסן את התמונה המותאמת אישית באזור us-central1.

      אם לא תבחרו אזור, Compute Engine יאחסן את התמונה באזור המרובה הקרוב ביותר למיקום המקור של התמונה המותאמת אישית.

    6. אופציונלי: מציינים מאפיינים אחרים לתמונה:

      • משפחה: משפחת התמונות שאליה שייכת התמונה החדשה.
      • תיאור: תיאור של התמונה המותאמת אישית.
      • ‫Label: תווית לקיבוץ משאבים.

    7. מציינים את מפתח ההצפנה. אפשר לבחור בין מפתחGoogle-owned and Google-managed encryption key לבין מפתח Cloud Key Management Service ‏ (Cloud KMS). אם לא מצוין מפתח הצפנה, התמונות מוצפנות באמצעות Google-owned and Google-managed encryption key.

    8. לוחצים על יצירה כדי ליצור את התמונה.

    gcloud

    משתמשים בפקודה gcloud compute images create כדי ליצור אימג' בהתאמה אישית.

    הדגל --force הוא דגל אופציונלי שמאפשר ליצור את התמונה ממופע פעיל. כברירת מחדל, אי אפשר ליצור תמונות ממופעים פעילים. מציינים את הדגל הזה רק אם בטוחים שרוצים ליצור את התמונה בזמן שהמופע פועל.

    gcloud compute images create IMAGE_NAME \
    --source-disk=SOURCE_DISK \
    --source-disk-zone=ZONE \
    [--family=IMAGE_FAMILY] \
    [--storage-location=LOCATION] \
    [--force]

    מחליפים את מה שכתוב בשדות הבאים:

    • IMAGE_NAME: שם לתמונה החדשה
    • ‫SOURCE_DISK: הדיסק שממנו רוצים ליצור את התמונה
    • ‫ZONE: האזור שבו נמצא הדיסק
    • ‫IMAGE_FAMILY: אופציונלי: דגל שמציין לאיזו משפחת תמונות התמונה הזו שייכת
    • ‫LOCATION: אופציונלי: דגל שמאפשר לכם לציין את האזור או את מספר האזורים שבהם התמונה מאוחסנת. לדוגמה, אפשר לציין us כדי לאחסן את התמונה במספר אזורים us, או לציין us-central1 כדי לאחסן אותה באזור us-central1. אם לא בוחרים אזור,‏ Compute Engine מאחסן את התמונה באזור הרב-אזורי הקרוב ביותר למיקום המקור של התמונה.

מידע נוסף על יצירת תמונות בהתאמה אישית זמין במאמר יצירת תמונות בהתאמה אישית.

שיתוף התמונה

אחרי שיוצרים תמונה בהתאמה אישית, אפשר לשתף אותה בין פרויקטים. אם אתם מאפשרים למשתמשים מפרויקט אחר להשתמש בתמונות המותאמות אישית שלכם, הם יכולים לגשת לתמונות האלה על ידי ציון פרויקט התמונה בבקשה שלהם.

שימוש ב-Advanced Compute Images עם תבניות של הגדרות מכונה

אתם יכולים ליצור תבנית של הגדרות מכונה שמציינת תמונה של Advanced Compute Images, ואז להשתמש בתבנית כדי:

מגבלות על יצירת תבניות של הגדרות מכונה

חשוב לשים לב למגבלות הבאות כשיוצרים תבנית של הגדרות מכונה:

  • ‫VPC משותף בממשקים אחרים מלבד nic0 בתבניות של מכונות וירטואליות נתמך ב-CLI של gcloud וב-REST, אבל לא במסוףGoogle Cloud .
  • אי אפשר לעדכן תבנית קיימת של הגדרות מכונה או לשנות תבנית של הגדרות מכונה אחרי שהיא נוצרה. אם תבנית של הגדרות מכונה מתיישנת או שצריך לבצע שינויים בהגדרה, צריך ליצור תבנית של הגדרות מכונה חדשה.
  • אם רוצים לציין משפחת תמונות בתבנית של הגדרות מכונה, אי אפשר להשתמש במסוף Google Cloud . במקום זאת, אפשר להשתמש ב-Google Cloud CLI או ב-REST.
  • אם רוצים לציין דיסקים אזוריים במקום דיסקים אזוריים בתבנית של מכונה, אי אפשר להשתמש במסוף Google Cloud . במקום זאת, אפשר להשתמש ב-Google Cloud CLI או ב-REST.
  • אפשר להשתמש בתבנית של מכונה כדי ליצור מכונות וירטואליות עם דיסק אתחול מאוזן של Hyperdisk שנמצא במאגר אחסון, אבל רק אם מאגר האחסון נמצא באותו אזור כמו המכונה.
  • אי אפשר להשתמש בתבניות גלובליות של מכונות כדי ליצור מכונות וירטואליות עם דיסקים שאינם דיסקים לאתחול שנמצאים במאגר אחסון.
  • כדי ליצור תבנית של הגדרות מכונה אזורית, סוג ה-GPU שאתם מציינים בתבנית צריך להיות זמין בתחום (zone) אחד לפחות באזור שצוין.

יצירת תבנית של הגדרות מכונה

אפשר לציין בתבנית של הגדרות מכונה את רוב מאפייני המכונה שאפשר לציין בבקשה ליצירת מכונת חישוב נפרדת, כולל מטא-נתונים של מכונה, סקריפטים לטעינה בזמן ההפעלה, דיסקים קשיחים קבועים וחשבונות שירות. המידע שחובה לציין בתבנית של הגדרות מכונה כולל את סוג המכונה, דיסק האתחול והרשת.

אפשר ליצור תבנית של הגדרות מכונה אזורית או גלובלית שמשתמשת ב-Advanced Compute Images באמצעות מסוף Google Cloud או Google Cloud CLI.

כדי ליצור תבנית של הגדרות מכונה, לחשבון המשתמש שלכם צריכות להיות כל ההרשאות שנדרשות להפעלת ה-method‏ instanceTemplates.insert.

בקטעים הבאים מוסבר איך ליצור תבנית של הגדרות מכונה לשימוש עם קבוצות מופעי מכונה מנוהלים (MIG), עם מכונות נפרדות או עם מקום שמור. כדי ליצור תבנית של הגדרות מכונה לשימוש ב-AI Hypercomputer, פועלים לפי ההוראות במאמר יצירת קבוצת מופעים מנוהלת (MIG) שעברה אופטימיזציה ל-AI עם סוג מכונה A4 או A3 Ultra.

יצירת משאבים נוספים שנדרשים למופעי A3 ultra או A4

לפני שיוצרים תבנית של הגדרות מכונה למכונות שמשתמשות ב-Advanced Compute Images, צריך קודם ליצור את המשאבים שתציינו בתבנית של הגדרות המכונה. כדי ליצור את המשאבים האלה, צריך להשלים את המשימות שמפורטות בקטע דרישות מוקדמות.

יצירת תבנית של הגדרות מכונה שמציינת תמונה של Advanced Compute Images

אפשר ליצור את תבנית של הגדרות מכונה באמצעות Google Cloud המסוף או פקודות של ה-CLI של gcloud.

המסוף

  1. נכנסים לדף Instance templates במסוף Google Cloud .

    כניסה לדף Instance templates

  2. לוחצים על Create instance template.

  3. בשדה Name, מזינים שם לתבנית של הגדרות מכונה.

  4. בוחרים את המיקום באופן הבא:

    1. כדי להשתמש בתבנית של הגדרות מכונה באזורים שונים, בוחרים באפשרות Global (ברירת מחדל).
    2. כדי לצמצם את התלות בין אזורים, בוחרים באפשרות אזורי ואז בוחרים את האזור שבו רוצים ליצור את תבנית של הגדרות מכונה.

  5. בקטע Machine configuration מבצעים את הפעולות הבאות:

    1. לוחצים על הכרטיסייה GPUs (מעבדים גרפיים).
    2. ברשימה סוג ה-GPU, בוחרים את סוג ה-GPU. למכונות A4, בוחרים באפשרות NVIDIA B200, ולמכונות A3 Ultra, בוחרים באפשרות NVIDIA H200 141GB.
    3. ברשימה Number of GPUs (מספר יחידות העיבוד הגרפי), בוחרים באפשרות 8.
    4. אופציונלי: בוחרים סוג מכונה שונה מברירת המחדל.

  6. בקטע Boot disk (דיסק אתחול), לוחצים על Change (שינוי) ומבצעים את הפעולות הבאות:

    1. ברשימה Operating system בוחרים באפשרות Advanced Compute Images.
    2. ברשימה Version בוחרים את גרסת מערכת ההפעלה.
    3. אופציונלי: מציינים מאפיינים נוספים לדיסק האתחול, כמו גודל הדיסק.

  7. לוחצים על יצירה כדי ליצור את תבנית של הגדרות מכונה.

gcloud

כדי ליצור תבנית של הגדרות מכונה אזורית או גלובלית, משתמשים בפקודה instance-templates create. עבור תבנית של הגדרות מכונה אזורית, עליך להשתמש בדגל --instance-template-region כדי להגדיר את האזור של התבנית.

כשיוצרים תבנית של הגדרות מכונה למכונות GPU, צריך להגדיר את האפשרות --maintenance-policy לערך TERMINATE.

  • יוצרים תבנית אזורית של הגדרות מכונה באמצעות הפקודה הבאה.

    gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
  --instance-template-region=REGION \
  --accelerator=count=8,type=GPU_TYPE \
  --machine-type=MACHINE_TYPE \
  --image-project=advanced-compute-images \
  --image-family=IMAGE_FAMILY \
  --maintenance-policy=TERMINATE

  • יוצרים תבנית גלובלית של הגדרות מכונה באמצעות הפקודה הבאה:

    gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME
  --accelerator=count=8,type=GPU_TYPE \
  --machine-type=MACHINE_TYPE \
  --image-project=advanced-compute-images \
  --image-family=IMAGE_FAMILY \
  --maintenance-policy=TERMINATE

מחליפים את מה שכתוב בשדות הבאים:

  • ‫INSTANCE_TEMPLATE_NAME: שם לתבנית של הגדרות המכונה.
  • ‫REGION: בתבניות של הגדרות מכונה אזוריות, זהו האזור שבו התבנית נוצרת.
  • ‫GPU_TYPE: סוג ה-GPU לשימוש במכונות הווירטואליות. כשמשתמשים ב-Advanced Compute Images, צריך לציין nvidia-b200 עבור מכונות A4 או nvidia-h200-141gb עבור מכונות A3 Ultra.
  • ‫MACHINE_TYPE: סוג המכונה של מופע Compute. כדי להשתמש ב-Advanced Compute Images, צריך לציין סוג מכונה A3 Ultra או A4.
  • ‫IMAGE_FAMILY: מציינים אחת מהאפשרויות הבאות:
    • ‫IMAGE_FAMILY: משפחה של תמונות. ההגדרה הזו מציינת את גרסת תמונת מערכת ההפעלה העדכנית ביותר באותה משפחה. לדוגמה, אפשר לציין aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64.
    • ‫IMAGE: גרסה ספציפית של תמונת מערכת ההפעלה, לדוגמה aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64-v20260427-1. כדי לציין גרסה ספציפית של תמונת מערכת ההפעלה במקום משפחת תמונות, צריך להשתמש בדגל --image במקום בדגל --image-family.

אפשר להוסיף עד 15 דיסקים משניים שאינם דיסקים לאתחול. מציינים את הדגל --create-disk לכל דיסק משני שיוצרים.

  • כדי ליצור דיסקים משניים מתמונה ציבורית או מתמונה בהתאמה אישית, צריך לציין את המאפיינים image ו-image-project לכל דיסק בדגל --create-disk.
  • כדי ליצור דיסק ריק, לא כוללים את המאפיינים image או image-project
  • אפשר גם לכלול מאפיינים לדיסק size ו-type.

רשימה של כל פקודות המשנה והדגלים הזמינים מופיעה במאמרי העזרה בנושא instance-templates.

המאמרים הבאים

* כדאי לעיין בתרחישים בסיסיים ליצירת קבוצות של מופעי מכונה מנוהלים (MIG). * כך בודקים את הסטטוס של מכונה כדי לדעת מתי היא מוכנה לשימוש. * איך מתחברים למכונה