שימוש בהזמנה
אם יש לכם הזמנה של TPU, אתם יכולים להשתמש במשאבים שהזמנתם כדי ליצור יחידות TPU שתואמות למאפיינים של ההזמנה. הפעולה הזו נקראת מימוש הזמנה. במאמר שמירת מקום ל-TPU במסמכי התיעוד של GKE מוסבר איך להשתמש בשמירת מקום ל-TPU כשמשתמשים ב-Google Kubernetes Engine (GKE).
האופן שבו אתם צורכים מקום שמור תלוי בדרך שבה אתם יוצרים את ה-TPU VM. אתם יכולים ליצור מכונות של TPU VM או קבוצת מכונות מנוהלת (MIG) עם יחידות TPU.
שימוש במקום שמור כשיוצרים TPU VM
כשיוצרים מכונת TPU VM, מציינים את ההזמנה שרוצים לנצל באמצעות הפרמטרים --reservation-affinity=specific ו---reservation:
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--reservation-affinity=specific \
--reservation=projects/PROJECT_ID/reservations/RESERVATION_NAME \
--provisioning-model=reservation-bound \
--maintenance-policy=TERMINATE
מחליפים את ה-placeholders הבאים:
- TPU_NAME: השם של ה-TPU VM.
- MACHINE_TYPE: סוג המכונה של ה-TPU VM (לדוגמה,
ct6e-standard-8t). - IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה של ה-TPU VM. אם רוצים להתקין גרסה ספציפית של מערכת ההפעלה, משתמשים בדגל
--image. מידע נוסף על קובצי אימג' של מערכת ההפעלה - IMAGE_PROJECT: הפרויקט שמכיל את קובץ האימג' של מערכת ההפעלה.
בתמונות TPU, הערך הוא
ubuntu-os-accelerator-images. - ZONE: האזור של ה-TPU VM (לדוגמה, us-central1-b).
- PROJECT_ID: מזהה הפרויקט שבו בוצעה ההזמנה.
- RESERVATION_NAME: שם ההזמנה בפורמט
projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME.
שימוש בהזמנה כשיוצרים MIG
יש שני סוגים של קבוצות MIG שאפשר ליצור עם מכונות וירטואליות של TPU:
- קבוצות MIG עם פרוסות של מארח יחיד.
- קבוצות MIG עם פרוסה בכמה מארחים.
שימוש במקום שמור כשיוצרים קבוצת MIG עם פרוסות של מארח יחיד
כדי להשתמש במשאבים ששוריינו כשיוצרים קבוצת MIG עם פרוסות של מארח יחיד, צריך לציין את הבקשה לשריין משאבים כחלק מהתבנית של הגדרות המכונה.
כדי ליצור MIG עם פרוסות של מארח יחיד:
- יצירת תבנית של הגדרות מכונה
- אופציונלי: יצירת מדיניות עומס עבודה
- יצירת MIG
יצירת תבנית של הגדרות מכונה שצורכת מקום שמור
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--maintenance-policy=TERMINATE \
--instance-termination-action=DELETE \
--reservation-affinity=specific \
--provisioning-model=reservation-bound \
--reservation=RESERVATION_NAME \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT
מחליפים את ה-placeholders הבאים:
- INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
- MACHINE_TYPE: סוג המכונה של ה-TPU VM (לדוגמה,
ct6e-standard-8t). - RESERVATION_NAME: שם ההזמנה בפורמט
projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME. - IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה של ה-TPU VM. כדי להתקין גרסה ספציפית של מערכת ההפעלה, משתמשים בדגל
--image. מידע נוסף על קובצי אימג' של מערכת ההפעלה זמין במאמר קובצי אימג' של מערכת ההפעלה. - IMAGE_PROJECT: הפרויקט שמכיל את קובץ האימג' של מערכת ההפעלה.
בתמונות TPU, הערך הוא
ubuntu-os-accelerator-images.
יצירת ה-MIG
אפשר ליצור קבוצת MIG אזורית או קבוצת MIG מרחבית.
יצירת קבוצת MIG אזורית
gcloud compute instance-groups managed create MIG_NAME \
--size=SIZE \
--template=INSTANCE_TEMPLATE_NAME \
--zone=ZONE
מחליפים את ה-placeholders הבאים:
- MIG_NAME: השם של קבוצת ה-MIG.
- SIZE: מספר המכונות הווירטואליות של TPU ב-MIG.
- INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
- ZONE: האזור שבו רוצים להקצות את ה-MIG.
יצירת קבוצת MIG אזורית
gcloud compute instance-groups managed create MIG_NAME \
--size=SIZE \
--template=INSTANCE_TEMPLATE_NAME\
--region=REGION \
--target-distribution-shape=any
מחליפים את ה-placeholders הבאים:
- MIG_NAME: השם של קבוצת ה-MIG.
- SIZE: מספר המכונות הווירטואליות של TPU ב-MIG.
- INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
- REGION: האזור שבו רוצים להקצות את קבוצת ה-MIG.
מידע נוסף על הדגל --target-distribution-shape זמין במאמר הגדרת צורת התפלגות של יעד למכונות וירטואליות בקבוצת MIG אזורית.
שימוש בהזמנה כשיוצרים קבוצת MIG עם פרוסה של כמה מארחים
כדי להשתמש במקום שמור כשיוצרים קבוצת MIG עם פרוסה בכמה מארחים, צריך לציין את המקום השמור כחלק מהתבנית של הגדרות המכונה.
יצירת תבנית של הגדרות מכונה שצורכת מקום שמור
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--maintenance-policy=TERMINATE \
--instance-termination-action=DELETE \
--reservation-affinity=specific \
--provisioning-model=reservation-bound \
--reservation=RESERVATION_NAME \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT
מחליפים את ה-placeholders הבאים:
- INSTANCE_TEMPLATE_NAME: השם של התבנית של הגדרות המכונה.
- MACHINE_TYPE: סוג המכונה של ה-TPU VM (לדוגמה,
ct6e-standard-8t). - RESERVATION_NAME: שם ההזמנה בפורמט
projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME. - IMAGE_FAMILY: משפחת קובצי האימג' של מערכת ההפעלה של ה-TPU VM. כדי להתקין גרסה ספציפית של מערכת ההפעלה, משתמשים בדגל
--image. מידע נוסף על קובצי אימג' של מערכת ההפעלה זמין במאמר קובצי אימג' של מערכת ההפעלה. - IMAGE_PROJECT: הפרויקט שמכיל את קובץ האימג' של מערכת ההפעלה.
בתמונות TPU, הערך הוא
ubuntu-os-accelerator-images.
יצירת מדיניות עומס עבודה
אתם יכולים להגדיר מדיניות של עומסי עבודה לקבוצות ה-MIG. מידע נוסף זמין במאמר מדיניות עומסי העבודה של קבוצות MIG.
gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
--type=high-throughput \
--accelerator-topology=TOPOLOGY
מחליפים את ה-placeholders הבאים:
- WORKLOAD_POLICY_NAME: שם למדיניות של עומס העבודה.
- TOPOLOGY: הטופולוגיה של מכונות ה-TPU הווירטואליות, לדוגמה
4x4x8. למידע נוסף על הטופולוגיה של כל גרסת TPU, ראו גרסאות TPU.
יצירת ה-MIG
אפשר ליצור קבוצת MIG אזורית או תחומית.
יצירת קבוצת MIG אזורית
gcloud compute instance-groups managed create MIG_NAME \
--size=SIZE \
--target-size-policy-mode=bulk \
--default-action-on-vm-failure=do-nothing \
--template=INSTANCE_TEMPLATE_URL \
--zone=ZONE \
--workload-policy=WORKLOAD_POLICY_URL
מחליפים את ה-placeholders הבאים:
- MIG_NAME: השם של קבוצת ה-MIG.
- SIZE: מספר המכונות הווירטואליות של TPU ב-MIG.
-
INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:- לתבנית של הגדרות מכונה אזורית:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - לתבנית גלובלית של הגדרות מכונה:
INSTANCE_TEMPLATE_ID
- לתבנית של הגדרות מכונה אזורית:
- ZONE: האזור שבו רוצים להקצות את ה-MIG.
- WORKLOAD_POLICY_URL: כתובת ה-URL של מדיניות עומסי העבודה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. לדוגמה:
projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
יצירת קבוצת MIG אזורית
gcloud compute instance-groups managed create MIG_NAME \
--size=SIZE \
--target-size-policy-mode=bulk \
--default-action-on-vm-failure=do-nothing \
--template=INSTANCE_TEMPLATE_URL \
--zone=ZONE \
--target-distribution-shape=any-single-zone \
--instance-redistribution-type=none \
--workload-policy=WORKLOAD_POLICY_URL
מחליפים את ה-placeholders הבאים:
- MIG_NAME: השם של קבוצת ה-MIG.
- SIZE: מספר המכונות הווירטואליות של TPU ב-MIG.
-
INSTANCE_TEMPLATE_URL: כתובת ה-URL של תבנית של הגדרות מכונה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. כתובת ה-URL יכולה להכיל את המזהה או את השם של תבנית של הגדרות מכונה. מציינים אחד מהערכים הבאים:- לתבנית של הגדרות מכונה אזורית:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - לתבנית גלובלית של הגדרות מכונה:
INSTANCE_TEMPLATE_ID
- לתבנית של הגדרות מכונה אזורית:
- ZONE: האזור שבו רוצים להקצות את ה-MIG.
- WORKLOAD_POLICY_URL: כתובת ה-URL של מדיניות עומס העבודה שבה רוצים להשתמש כדי ליצור מכונות ב-MIG. לדוגמה:
projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
בדיקת השימוש בהזמנות
אפשר לבדוק את השימוש בהזמנה משותפת רק מהפרויקט שבבעלותו היא נמצאת. אם אתם בפרויקט צרכן, תצטרכו לעבור לפרויקט הבעלים כדי לבדוק את השימוש בהזמנה.
כדי לראות כמה מההזמנה נמצא בשימוש, משתמשים בפקודה gcloud compute
reservations describe:
gcloud compute reservations describe RESERVATION_NAME \
--project=PROJECT_ID --zone=ZONE
מחליפים את משתני הפלייסהולדר הבאים:
- RESERVATION_NAME: שם ההזמנה.
- PROJECT_ID: מזהה הפרויקט שמכיל את ההזמנה.
- ZONE: האזור שבו נמצאת ההזמנה.
כדי להציג את כל ההזמנות בפרויקט, משתמשים בפקודה gcloud compute reservations
list:
gcloud compute reservations list --project=PROJECT_ID
מחליפים את משתנה הפלייסהולדר הבא:
- PROJECT_ID: מזהה הפרויקט.