‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

יצירת מכונת N1 שעברה אופטימיזציה ל-AI עם מעבדי GPU

במאמר הזה מוסבר איך ליצור מכונות וירטואליות (VM) עצמאיות מסדרת N1 עם יחידות GPU מצורפות. למידע נוסף על סוגי המכונות האלה, קראו את המאמר סדרת N1.

במאמר סקירה כללית על אפשרויות הפריסה תוכלו לקרוא על דרכים נוספות ליצירת מכונות וירטואליות או אשכולות.

מגבלות

למידע על המגבלות שחלות על סוגי מכונות N1 עם GPU, קראו את המאמרים הבאים:

לפני שמתחילים

אם עדיין לא עשיתם את זה, לפני שיוצרים מכונות וירטואליות צריך לבצע את הפעולות הבאות:

בחירת אפשרות צריכה: אפשרות הצריכה שתבחרו תקבע איך תקבלו את משאבי ה-GPU ותשתמשו בהם. מידע נוסף זמין במאמר בחירת אפשרות צריכה.
השגת קיבולת: התהליך להשגת קיבולת שונה בכל אפשרות צריכה. במאמר סקירה כללית על קיבולת מוסבר איך מקבלים קיבולת לאפשרות הצריכה שבחרתם.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Google Cloud כדי לגשת לשירותים ולממשקי ה-API של Google Cloud , לא צריך להגדיר אימות.

gcloud

מפעילים את Cloud Shell במסוף Google Cloud .

הפעלת Cloud Shell

בחלק התחתון של מסוף Google Cloud יתחיל סשן של Cloud Shell ותופיע הודעה של שורת הפקודה. Cloud Shell היא סביבת מעטפת שבה ה-CLI של Google Cloud מותקן ומוגדרים ערכים לפרויקט הקיים. הסשן יופעל תוך כמה שניות.

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

התקינו את ה-CLI של Google Cloud.

אם אתם משתמשים בספק זהויות חיצוני (IdP), קודם אתם צריכים להיכנס ל-CLI של gcloud באמצעות המאגר המאוחד לניהול זהויות.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Google Cloud .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות ליצירת מכונות וירטואליות, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד אדמין מכונות של Compute ‏ (v1) (roles/compute.instanceAdmin.v1) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות ליצירת מכונות וירטואליות. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי ליצור מכונות וירטואליות, צריך את ההרשאות הבאות:

‫compute.instances.create בפרויקט
כדי להשתמש באימג' בהתאמה אישית ליצירת המכונה הווירטואלית (VM)‏: ‫compute.images.useReadOnly בקובץ אימג'
כדי להשתמש ב-snapshot ליצירת המכונה הווירטואלית: ‫compute.snapshots.useReadOnly בקובץ snapshot
כדי להשתמש בתבנית של הגדרות מכונה ליצירת המכונה הווירטואלית: ‫compute.instanceTemplates.useReadOnly בתבנית של הגדרות המכונה
כדי לציין רשת משנה למכונה הווירטואלית: ‫compute.subnetworks.use בפרויקט או ברשת המשנה שנבחרה
כדי לציין כתובת IP סטטית למכונה הווירטואלית: ‫compute.addresses.use בפרויקט
כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת VPC: ‫compute.subnetworks.useExternalIp בפרויקט או ברשת המשנה שנבחרה
כדי להקצות רשת מדור קודם למכונה הווירטואלית: ‫compute.networks.use בפרויקט
כדי להקצות כתובת IP חיצונית למכונה הווירטואלית כשמשתמשים ברשת מדור קודם: ‫compute.networks.useExternalIp בפרויקט
כדי להגדיר מטא-נתונים של המכונה הווירטואלית: ‫compute.instances.setMetadata בפרויקט
כדי להגדיר תגים למכונה הווירטואלית: ‫compute.instances.setTags במכונה הווירטואלית
כדי להגדיר תוויות למכונה הווירטואלית: ‫compute.instances.setLabels במכונה הווירטואלית
כדי להגדיר חשבון שירות לשימוש של המכונה הווירטואלית: ‫compute.instances.setServiceAccount במכונה הווירטואלית
כדי ליצור דיסק חדש למכונה הווירטואלית: ‫compute.disks.create בפרויקט
כדי לצרף דיסק קיים במצב קריאה-בלבד או במצב קריאה וכתיבה: ‫compute.disks.use בדיסק
כדי לצרף דיסק קיים במצב קריאה-בלבד: ‫compute.disks.useReadOnly בדיסק

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

סקירה כללית

כדי ליצור מכונה עם סוג המכונה N1 עם מעבדי GPU מסוג T4 או V100, צריך לבצע את השלבים הבאים:

יצירת מכונה
התקנת מנהלי התקנים של GPU

יצירת מכונה וירטואלית מסוג N1 עם GPUs

כדי ליצור מכונת N1 VM עם GPUs, משתמשים באחת מהשיטות הבאות.

הפקודות הבאות גם מגדירות את היקף הגישה למכונות. כדי לפשט את ניהול ההרשאות, Google ממליצה להגדיר את היקף הגישה במכונה לגישה מסוג cloud-platform, ואז להשתמש בתפקידי IAM כדי להגדיר לאילו שירותים המכונה יכולה לגשת. מידע נוסף זמין במאמר שיטות מומלצות להיקפים.

המסוף

נכנסים לדף Create an instance במסוף Google Cloud .

כניסה לדף Create an instance
מציינים שם למכונה הווירטואלית. מוסכמה למתן שמות למשאבים
בוחרים את האזור (Region) ואת התחום (Zone) שבהם רוצים ליצור את המכונה הווירטואלית. רשימת האזורים והתחומים שבהם יש GPU
לוחצים על הכרטיסייה GPUs ומבצעים את הפעולות הבאות:
1. ברשימה GPU type, בוחרים את סוג ה-GPU.
  - לסוגי מכונות N1+T4, בוחרים באפשרות NVIDIA T4
  - לסוגי מכונות N1+V100, בוחרים באפשרות NVIDIA V100
2. ברשימה Machine type, בוחרים את סוג המכונה N1.
3. ברשימה Number of GPUs, בוחרים את מספר יחידות ה-GPU. האפשרויות הזמינות משתנות בהתאם לסוג המכונה N1 שבחרתם.
בוחרים באחת מהאפשרויות הבאות בהתאם לאפשרות הצריכה שבה רוצים להשתמש, ומבצעים את השלבים הבאים.
הזמנה

מכונות N1 עם מעבדי GPU מסוג T4 או V100 תומכות בסוגי ההזמנות הבאים:
- מקומות שמורים לפי הצורך
- מקומות שמורים לעתיד רגילים
כדי להשתמש בסוגים האלה של הזמנות, המכונה צריכה להשתמש במודל ההקצאה הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.
1. בקטע Provisioning model, ברשימה VM provisioning model בוחרים באפשרות Standard. (האפשרות הזו מסומנת כברירת מחדל).
2. כדי להגדיר באילו הזמנות ה-VM הזה ישתמש:
  
  בתפריט הניווט, לוחצים על מתקדם.
  
  בקטע Reservations, בוחרים אחת מהאפשרויות הבאות:
  
  כדי להשתמש בקיבולת של בקשות לשמירת מקום, בוחרים באפשרות Use automatic selection. (האפשרות הזו מסומנת כברירת מחדל).
  
  המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך אוטומטית, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  
  זהירות: אם אין קיבולת פנויה במקום השמור שתואם למכונה, המכונה תשתמש באפשרות של צריכה על פי דרישה, שבה החיוב והבטחת הקיבולת שונים. מידע נוסף זמין במאמר בחירת אפשרות צריכה.
  
  כדי לדרוש קיבולת של הזמנה, בוחרים באפשרות Choose a reservation ואז לוחצים על Choose reservation כדי לציין באיזו הזמנה להשתמש.
  
  המכונה צריכה להשתמש בקיבולת ממקום שמור שמטורגט באופן ספציפי, והיא לא יכולה להשתמש בקיבולת על פי דרישה. אם קיבולת ההזמנה לא זמינה, יצירת המכונה תיכשל.
על פי דרישה
1. בקטע Provisioning model, ברשימה VM provisioning model בוחרים באפשרות Standard. (האפשרות הזו מסומנת כברירת מחדל).
2. אופציונלי: כדי להגדיר אם המכונה הווירטואלית הזו תשתמש בהזמנות, מבצעים את הפעולות הבאות:
  
  בתפריט הניווט, לוחצים על מתקדם.
  
  בקטע הזמנות, בוחרים באחת מהאפשרויות הבאות:
  
  כדי להשתמש בקיבולת של בקשות לשמירת מקום, בוחרים באפשרות Use automatic selection. (האפשרות הזו מסומנת כברירת מחדל).
  
  המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך אוטומטית, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  
  הערה: אם רוצים לחייב שימוש בקיבולת של ההזמנה, צריך לפעול לפי השלבים של הזמנה.
  
  כדי לדרוש קיבולת על פי דרישה, בוחרים באפשרות Don't use a reservation.
  
  המכונה לא יכולה להשתמש בקיבולת של מקום שמור.
התחלה גמישה (Flex-start)
1. בקטע Provisioning model, ברשימה VM provisioning model בוחרים באפשרות Flex-start.
2. בשדה Enter number of hours, מזינים את משך הזמן המקסימלי שרוצים שהמכונה הווירטואלית תפעל. הערך חייב להיות בין 46 שניות (0.01) ל-7 ימים (168, או 168 שעות).
3. בוחרים באפשרות Set a wait time for VM creation.
  
  בהתאם לדרישות של עומס העבודה באזור, מציינים את אחד ממשכי הזמן הבאים כדי להגדיל את הסיכויים שהבקשה ליצירת מכונה וירטואלית תצליח:
  
  עומסי עבודה עם דרישות מחמירות לאזור: אם עומס העבודה דורש ליצור את המכונה הווירטואלית באזור ספציפי, צריך לציין משך זמן בין 90 שניות ל-שעתיים. ככל שהמשימה ארוכה יותר, כך גדל הסיכוי להשיג משאבים.
  
  עומסי עבודה בלי דרישות מחמירות לגבי אזורים: אם אפשר להריץ את המכונה הווירטואלית בכל אזור, מציינים משך זמן של 0 שניות או מבטלים את הסימון בתיבה Set a wait time for VM creation. הפעולה הזו מציינת ש-Compute Engine מקצה משאבים רק אם הם זמינים באופן מיידי. אם הבקשה ליצירת מכונה וירטואלית נכשלת כי המשאבים לא זמינים, נסו לשלוח את הבקשה שוב באזור אחר.
4. בשדה On VM termination, בוחרים אם לעצור או למחוק את ה-VM בסיום משך ההפעלה:
  
  כדי למחוק את המכונה הווירטואלית, לוחצים על Delete.
  
  כדי לעצור את המכונה הווירטואלית, לוחצים על Stop.
כרטיס Spot
1. בקטע Provisioning model בוחרים את האפשרות Spot מהרשימה VM provisioning model.
2. אופציונלי: כדי לבחור את פעולת הסיום שמתרחשת כש-Compute Engine מפקיע את ה-VM, מבצעים את השלבים הבאים:
  
  מרחיבים את הקטע VM provisioning model advanced settings.
  
  ברשימה On VM termination בוחרים אחת מהאפשרויות הבאות:
  
  כדי לעצור את ה-VM במהלך ההפקעה, בוחרים באפשרות Stop (ברירת המחדל).
  
  כדי למחוק את המכונה הווירטואלית כשהיא מפסיקה לפני הזמן, בוחרים באפשרות Delete.
בתפריט הניווט, לוחצים על OS and storage ואז מבצעים את הפעולות הבאות:
1. לוחצים על Change. החלונית תצורת דיסק אתחול נפתחת.
2. בכרטיסייה תמונות שגלויות לכולם, בוחרים תמונה מומלצת. במאמר מערכות הפעלה מופיעה רשימה של קובצי אימג' מומלצים.
3. אופציונלי: כדי להגדיר את גודל דיסק האתחול, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
4. כדי לאשר את האפשרויות של דיסק האתחול, לוחצים על Select.
5. אופציונלי: אם רוצים להוסיף דיסקים של SSD מקומי, מבצעים את השלבים הבאים:
  1. לוחצים על Add local SSD. החלונית Configure local SSD נפתחת.
  2. בחלונית Configure local SSD, מגדירים את האפשרויות של דיסקי ה-SSD המקומיים. למידע נוסף, קראו את המאמר הוספת דיסק SSD מקומי למכונה במרכז העזרה של Compute Engine.
  3. כדי לאשר את האפשרויות של דיסק האתחול, לוחצים על Save.
  אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שאפשר להשתמש בו.
מגדירים את חשבון השירות ואת היקפי הגישה באופן הבא: עומסי העבודה שפועלים במכונה משתמשים בחשבון השירות המצורף כדי לאשר בקשות לשירותי Google Cloud אחרים.
1. בתפריט הניווט, לוחצים על אבטחה.
2. ברשימה Service account, בוחרים את חשבון השירות שבו רוצים להשתמש.
3. בקטע היקפי גישה, בוחרים באפשרות Allow full access to all Cloud APIs. השיטה המומלצת הזו מאפשרת לכם לנהל את הגישה על ידי הוספה או הסרה של תפקידי IAM מחשבון השירות. מידע נוסף מופיע במאמר צירוף חשבון שירות למכונה.
כדי ליצור את המכונה הווירטואלית ולהפעיל אותה, לוחצים על Create.

gcloud

כדי ליצור את המכונה הווירטואלית, משתמשים בפקודה gcloud compute instances create.

הפרמטרים שצריך לציין תלויים באפשרות הצריכה שבה אתם משתמשים בפריסה הזו. בוחרים את הכרטיסייה שמתאימה לאפשרות הצריכה שלכם.

הזמנה

מכונות N1 עם מעבדי GPU מסוג T4 או V100 תומכות בסוגי ההזמנות הבאים:

מקומות שמורים לפי הצורך
מקומות שמורים לעתיד רגילים

כדי להשתמש בסוגים האלה של הזמנות, המכונה צריכה להשתמש במודל ההקצאה הרגיל. לדוגמה, משתמשים בפרמטרים הבאים ליצירה.

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:
  - any (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנוצל באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  - ‫specific (נדרשת קיבולת של מקום שמור): המכונה צריכה להשתמש בקיבולת של מקום שמור מטורגט ספציפית. למכונה אין הרשאה להשתמש בקיבולת על פי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המכונה תיכשל.
- ‫RESERVATION: ההזמנה שבה רוצים להשתמש. מציינים את אחד מהערכים הבאים, בהתאם לערך שציינתם בשדה RESERVATION_AFFINITY:
  - אם ציינתם את any, החליפו את RESERVATION במחרוזת ריקה (""). לחלופין, אתם יכולים להסיר את הדגל --reservation לגמרי.
  - אם ציינתם את specific, החליפו את RESERVATION בערך הבא:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    מחליפים את מה שכתוב בשדות הבאים:
    - ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
    - ‫RESERVATION_NAME: שם ההזמנה.
כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:
```
--no-restart-on-failure
```
אופציונלי: כדי לצרף דיסקים מסוג Local SSD, מוסיפים את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
מריצים את הפקודה.

על פי דרישה

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:
  - any (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנוצל באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  - ‫none (On-demand capacity is required): המכונה לא תוכל להשתמש בקיבולת של מקום שמור.
כברירת מחדל, המכונה מופעלת מחדש באופן אוטומטי אם היא קורסת או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. כדי להשבית את ההפעלה האוטומטית מחדש, מוסיפים את הדגל הבא:
```
--no-restart-on-failure
```
אופציונלי: כדי לצרף דיסקים מסוג Local SSD, מוסיפים את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
מריצים את הפקודה.

התחלה גמישה (Flex-start)

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫REQUEST_VALID_FOR_DURATION: משך הזמן שבו הבקשה ליצירת המכונה הווירטואלית נשארת בתוקף. צריך לציין את הערך כמספר ימים, שעות, דקות או שניות, ואחריו d,‏ h,‏ m ו-s בהתאמה. לדוגמה, מציינים 30m ל-30 דקות או 1h2m3s לשעה אחת, שתי דקות ושלוש שניות.
  
  בהתאם לדרישות של עומס העבודה באזור, מציינים את אחד ממשכי הזמן הבאים כדי להגדיל את הסיכויים שהבקשה ליצירת מכונה וירטואלית תצליח:
  - עומסי עבודה עם דרישות מחמירות לאזורים: אם עומס העבודה דורש ליצור את ה-VM באזור ספציפי, צריך לציין משך זמן בין 90 שניות (90s) לשעתיים (2h). ככל שמשך הזמן ארוך יותר, כך גדל הסיכוי לקבל משאבים.
  - עומסי עבודה בלי דרישות מחמירות לגבי אזורים: אם אפשר להריץ את ה-VM בכל אזור, מציינים משך זמן של אפס שניות (0s). הפעולה הזו מציינת ש-Compute Engine מקצה משאבים רק אם הם זמינים באופן מיידי. אם הבקשה ליצירת מכונה וירטואלית נכשלת כי המשאבים לא זמינים, נסו לשלוח את הבקשה שוב באזור אחר.
- ‫MAX_RUN_DURATION: משך הזמן שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. צריך להגדיר את הערך כמספר הימים, השעות, הדקות או השניות, ואחריו d,‏ h,‏ m ו-s בהתאמה. הערך חייב להיות בין 10 דקות ל-7 ימים.
- ‫TERMINATION_ACTION: אם Compute Engine עוצר (STOP) או מוחק (DELETE) את ה-VM בסוף משך ההפעלה.
  
  חשוב: אם מגדירים את TERMINATION_ACTION ל-STOP ומציינים שרוצים לצרף דיסקים מסוג Local SSD ל-VM, או שלסוג המכונה מצורפים דיסקים מסוג Local SSD כברירת מחדל, צריך לכלול את הדגל --discard-local-ssds-at-termination-timestamp=true בפקודה. אי אפשר לשמור נתונים ב-SSD מקומי כשהמכונה הווירטואלית מגיעה לסוף משך ההפעלה שלה.
אופציונלי: כדי לצרף דיסקים מסוג Local SSD, מוסיפים את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
מריצים את הפקודה.

כרטיס Spot

לפני שמריצים את הפקודה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול דגלים נוספים.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫TERMINATION_ACTION: הפעולה שצריך לבצע כש-Compute Engine מפקיע את המכונה, STOP (ברירת המחדל) או DELETE.
  
  חשוב: ודאו שהאפליקציה שלכם יכולה להתמודד עם הפקעה. לדוגמה, אפשר לטפל בהפקעה על ידי ציון סקריפט כיבוי במהלך יצירת המכונה. איך מטפלים בהפקעה באמצעות סקריפט כיבוי
אופציונלי: כדי לצרף דיסקים מסוג Local SSD, מוסיפים את הדגל --local-ssd הבא לכל דיסק מסוג Local SSD.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
מריצים את הפקודה.

REST

כדי ליצור את המכונה הווירטואלית, שולחים בקשת POST אל ה-method‏ instances.insert.

הזמנה

מכונות N1 עם מעבדי GPU מסוג T4 או V100 תומכות בסוגי ההזמנות הבאים:

מקומות שמורים לפי הצורך
מקומות שמורים לעתיד רגילים

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
}

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את המכונה הווירטואלית.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫AUTOMATIC_RESTART: אם המכונה מופעלת מחדש באופן אוטומטי במקרה של קריסה, או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. מציינים את הערך true כדי להפעיל את ההפעלה האוטומטית מחדש (ברירת המחדל) או את הערך false כדי להשבית אותה.
- ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:
  - ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  - ‫SPECIFIC_RESERVATION (נדרשת קיבולת של מקום שמור): המכונה צריכה להשתמש בקיבולת של מקום שמור מטורגט ספציפית. למכונה אין הרשאה להשתמש בקיבולת על פי דרישה. אם הקיבולת של המקום השמור לא זמינה, יצירת המכונה תיכשל.
- ‫RESERVATION: ההזמנה שבה רוצים להשתמש. מציינים את אחד מהערכים הבאים, בהתאם לערך שציינתם בשדה RESERVATION_AFFINITY:
  - אם ציינתם את ANY_RESERVATION, מחקו את RESERVATION כדי שהערך יהיה מחרוזת ריקה (""). לחלופין, אתם יכולים להסיר את השדות key ו-values לגמרי.
  - אם ציינתם את SPECIFIC_RESERVATION, החליפו את RESERVATION בערך הבא:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    מחליפים את מה שכתוב בשדות הבאים:
    - ‫RESERVATION_OWNER_PROJECT_ID: מזהה הפרויקט שבו נוצרה ההזמנה.
    - ‫RESERVATION_NAME: שם ההזמנה.
אופציונלי: כדי להשתמש בדיסקים מסוג SSD מקומי, מוסיפים את השדה הבא לשדה disks[] של כל דיסק מסוג SSD מקומי. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫ZONE: האזור שציינתם.
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
שולחים את הבקשה.

על פי דרישה

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
}

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את המכונה הווירטואלית.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫AUTOMATIC_RESTART: אם המכונה מופעלת מחדש באופן אוטומטי במקרה של קריסה, או אם Compute Engine עוצר אותה לצורך עצירה מתוכננת, כמו אירוע תחזוקה. מציינים את הערך true כדי להפעיל את ההפעלה האוטומטית מחדש (ברירת המחדל) או את הערך false כדי להשבית אותה.
- ‫RESERVATION_AFFINITY: המקומות השמורים שהמכונה יכולה לצרוך, אם אפשר. מציינים אחת מהאפשרויות הבאות:
  - ANY_RESERVATION (קיבולת ההזמנה היא אופציונלית): זוהי אפשרות ברירת המחדל. המכונה מנסה להשתמש בקיבולת ממקום שמור שנצרך באופן אוטומטי, וזה קורה רק אם יש קיבולת פנויה במקום השמור שתואם למכונה. אחרת, המכונה משתמשת בקיבולת על פי דרישה.
  - ‫NO_RESERVATION (On-demand capacity is required): המכונה לא תוכל להשתמש בקיבולת של מקום שמור.
אופציונלי: כדי להשתמש בדיסקים מסוג SSD מקומי, מוסיפים את השדה הבא לשדה disks[] של כל דיסק מסוג SSD מקומי. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫ZONE: האזור שציינתם.
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
שולחים את הבקשה.

התחלה גמישה (Flex-start)

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "params": {
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    }
  },
  "scheduling": {
    "provisioningModel": "FLEX_START",
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE"
  }
}

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את המכונה הווירטואלית.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫REQUEST_VALID_FOR_DURATION: משך הזמן, בשניות, שבו הבקשה ליצירת המכונה הווירטואלית נשארת בתוקף.
  
  בהתאם לדרישות של עומס העבודה באזור, מציינים את אחד ממשכי הזמן הבאים כדי להגדיל את הסיכויים שהבקשה ליצירת מכונה וירטואלית תצליח:
  - עומסי עבודה עם דרישות מחמירות לאזורים: אם עומס העבודה דורש ליצור את ה-VM באזור ספציפי, צריך לציין משך זמן בין 90 שניות (90) לשעתיים (7200). ככל שמשך הזמן ארוך יותר, כך גדל הסיכוי לקבל משאבים.
  - עומסי עבודה בלי דרישות מחמירות לגבי אזורים: אם אפשר להריץ את ה-VM בכל אזור, מציינים משך זמן של אפס שניות (0). הפעולה הזו מציינת ש-Compute Engine מקצה משאבים רק אם הם זמינים באופן מיידי. אם הבקשה ליצירת מכונה וירטואלית נכשלת כי המשאבים לא זמינים, נסו לשלוח את הבקשה שוב באזור אחר.
- ‫MAX_RUN_DURATION: משך הזמן שבו רוצים שהמכונות הווירטואליות המבוקשות יפעלו. צריך להגדיר את הערך כמספר השניות. לדוגמה, מציינים 86400 ל-86,400 שניות (24 שעות). הערך צריך להיות בין 10 דקות ל-7 ימים.
- ‫TERMINATION_ACTION: אם Compute Engine עוצר (STOP) או מוחק (DELETE) את ה-VM בסוף משך ההפעלה.
  
  חשוב: אם מגדירים את TERMINATION_ACTION לערך STOP ומציינים שרוצים לצרף דיסקים מסוג Local SSD למכונה הווירטואלית, או שלסוג המכונה מצורפים דיסקים מסוג Local SSD כברירת מחדל, צריך לעדכן את גוף הבקשה כדי להגדיר גם את השדה scheduling.onInstanceStopAction.discardLocalSsd לערך true. אי אפשר לשמור נתונים ב-SSD מקומי כשה-VM מגיע לסוף משך ההפעלה שלו.
אופציונלי: כדי להשתמש בדיסקים מסוג SSD מקומי, מוסיפים את השדה הבא לשדה disks[] של כל דיסק מסוג SSD מקומי. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫ZONE: האזור שציינתם.
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
שולחים את הבקשה.

כרטיס Spot

לפני ששולחים את הבקשה, צריך לעיין בכל השלבים הבאים כדי להחליט אם לכלול שדות נוספים.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

כך עושים את זה:

מחליפים את מה שכתוב בשדות הבאים:
- ‫PROJECT_ID: מזהה הפרויקט שבו רוצים ליצור את המכונה הווירטואלית.
- ‫ZONE: האזור שבו זמין סוג המכונה שבו רוצים להשתמש. למידע על אזורים, קראו את המאמר זמינות של GPU לפי אזורים ותחומים.
- ‫MACHINE_TYPE: סוג המכונה שבה משתמשים בשביל ה-VM. למידע נוסף, קראו את המאמר סוגי מכונות GPU במסמכי התיעוד של Compute Engine.
- ‫INSTANCE_NAME: שם המכונה הווירטואלית.
- ‫ACCELERATOR_COUNT: מספר ה-GPUs שרוצים לצרף למכונה הווירטואלית מסוג N1. לרשימה של מגבלות ה-GPU לפי סוג המכונה של ה-VM, קראו את המידע על יחידות GPU מסוג N1 במסמכי התיעוד של Compute Engine.
- ‫ACCELERATOR_TYPE: סוג המאיץ למכונות וירטואליות מסוג N1 שבו רוצים להשתמש. לעומסי עבודה של AI, מומלץ להשתמש במעבדי GPU מסוג T4 או V100.
  טיפ: אם אתם מתכננים להריץ עומסי עבודה שדורשים משאבים גרפיים רבים במכונה הווירטואלית הזו, מומלץ להשתמש במאיץ מסוג nvidia-tesla-t4-vws כי הוא תומך ב-NVIDIA RTX Virtual Workstation (vWS)‎.
  כשיוצרים מכונה שמשתמשת ב-NVIDIA RTX Virtual Workstation,‏ Compute Engine מוסיף באופן אוטומטי רישיון vWS. למידע על תמחור של תחנות עבודה וירטואליות, ראו את דף התמחור של GPU.
- ‫DISK_SIZE: גודל דיסק האתחול ב-GB. למידע נוסף, קראו את המאמר מגבלות הגודל של Google Cloud Hyperdisk או מגבלות הגודל של Persistent Disk, בהתאם לסוג הדיסק.
- ‫DISK_TYPE: סוג דיסק האתחול. למידע נוסף על סוגי הדיסקים שנתמכים בסוג המכונה שלכם, קראו את המאמר מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיצים במסמכי התיעוד של Compute Engine.
- ‫IMAGE_PROJECT: מזהה הפרויקט של קובץ האימג' של מערכת ההפעלה.
- ‫IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה שבה רוצים להשתמש. רשימה של כל מערכות ההפעלה הנתמכות
- ‫TERMINATION_ACTION: הפעולה שצריך לבצע כש-Compute Engine מפקיע את המכונה, STOP (ברירת המחדל) או DELETE.
  
  חשוב: ודאו שהאפליקציה שלכם יכולה להתמודד עם הפקעה. לדוגמה, אפשר לטפל בהפקעה על ידי ציון סקריפט כיבוי במהלך יצירת המכונה. איך מטפלים בהפקעה באמצעות סקריפט כיבוי
אופציונלי: כדי להשתמש בדיסקים מסוג SSD מקומי, מוסיפים את השדה הבא לשדה disks[] של כל דיסק מסוג SSD מקומי. מפרידים בין שדות המשנה של disks[] (כולל דיסק האתחול) באמצעות פסיק.

חשוב לוודא שמספר כונני ה-SSD המקומיים שאתם מצרפים מותר לסוג המכונה שלכם. לפרטים, קראו את המאמר מידע על כונני SSD מקומיים במסמכי התיעוד של Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
מחליפים את מה שכתוב בשדות הבאים:
- ‫ZONE: האזור שציינתם.
- ‫INTERFACE_TYPE: סוג ממשק הדיסק שבו רוצים להשתמש לדיסק ה-SSD המקומי. אם קובץ האימג' של דיסק האתחול כולל מנהלי התקנים של NVMe שעברו אופטימיזציה, צריך לציין את הערך NVME. צריך לציין SCSI לתמונות אחרות.
אחרי שיוצרים VM עם דיסקים מסוג Local SSD, צריך לפרמט ולטעון כל מכשיר לפני שמשתמשים בו.
שולחים את הבקשה.

התקנת מנהלי התקנים של GPU

אחרי שיוצרים מכונה, היא לא יכולה להשתמש ב-GPU שלה אלא אם מנהלי ההתקנים הנכונים של ה-GPU כבר מותקנים. מנהל ההתקן שצריך להתקין תלוי בשאלה אם במכונה הופעלה האפשרות NVIDIA RTX Virtual Workstation (vWS)‎. בוחרים באחת מהאפשרויות הבאות:

אם הפעלתם את vWS, עיינו במאמר התקנת מנהלי התקנים של NVIDIA RTX Virtual Workstations (vWS)‎ במסמכי התיעוד של Compute Engine.
אחרת, משתמשים במנהלי ההתקנים של ה-GPU שמוגדרים כברירת מחדל, באופן הבא:
- אם ציינתם קובץ אימג' של מערכת ההפעלה שכולל מנהלי התקנים של GPU, אתם לא צריכים לעשות כלום.
- אם קובץ האימג' של מערכת ההפעלה לא כולל מנהלי התקנים של GPU, עיינו במאמר התקנת מנהלי התקנים של GPU במסמכי התיעוד של Compute Engine.

יצירת מכונת N1 שעברה אופטימיזציה ל-AI עם מעבדי GPU קל לארגן דפים בעזרת אוספים אפשר לשמור ולסווג תוכן על סמך ההעדפות שלך.

מגבלות

לפני שמתחילים

המסוף

gcloud

REST

התפקידים הנדרשים

ההרשאות הנדרשות

סקירה כללית

יצירת מכונה וירטואלית מסוג N1 עם GPUs

המסוף

הזמנה

על פי דרישה

התחלה גמישה (Flex-start)

כרטיס Spot

gcloud

הזמנה

על פי דרישה

התחלה גמישה (Flex-start)

כרטיס Spot

REST

הזמנה

על פי דרישה

התחלה גמישה (Flex-start)

כרטיס Spot

התקנת מנהלי התקנים של GPU

המאמרים הבאים

יצירת מכונת N1 שעברה אופטימיזציה ל-AI עם מעבדי GPU