שליחת בקשה ל-TPU Spot VMs

מכונות וירטואליות מסוג Spot מציעות קיבולת לא מנוצלת במחירים מוזלים משמעותית. אפשר להפסיק את השימוש במכונות וירטואליות (VM) מסוג Spot בכל שלב, אבל בניגוד ל-TPU שאפשר להפסיק את השימוש בו, אין להן משך זמן ריצה מקסימלי. כדי להפעיל מחדש מכונת VM מסוג Spot או קבוצת מופעי מכונה מנוהלים (MIG), צריך למחוק אותה ואז ליצור אותה מחדש.

מידע נוסף על מכונות וירטואליות מסוג Spot זמין במאמרי העזרה של Compute Engine בנושא מכונות וירטואליות מסוג Spot.

יצירת מכונות וירטואליות מסוג TPU במודל Spot

אפשר ליצור מכונות וירטואליות מסוג TPU Spot כמופעים נפרדים או כחלק מקבוצת מופעי מכונה מנוהלים (MIG).

שימוש בקבוצות של מכונות מנוהלות (MIG) לפרוסות מרובות מארחים (מומלץ)

כדי ליצור VM במודל Spot מסוג TPU עם MIG, צריך לציין את מודל הקצאת המשאבים Spot בתבנית של הגדרות מכונה.

1. יצירת תבנית של הגדרות מכונה:

       gcloud compute instance-templates create TEMPLATE_NAME \
           --provisioning-model=SPOT \
           --instance-termination-action=DELETE \
           --machine-type=MACHINE_TYPE \
           --image-family=IMAGE_FAMILY \
           --image-project=IMAGE_PROJECT \
           --zone=ZONE \
           --maintenance-policy=TERMINATE
   

   מחליפים את ה-placeholders הבאים:

   • ‫TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫MACHINE_TYPE: סוג המכונה של ה-VM.
   • ‫IMAGE_FAMILY: משפחת תמונות מערכת ההפעלה של ה-TPU VM.
   • ‫IMAGE_PROJECT: פרויקט תמונת מערכת ההפעלה של ה-TPU VM.
   • ‫ZONE: האזור שבו נוצרת התבנית של הגדרות המכונה.

2. יצירת מדיניות של עומס עבודה

   הפקודה הבאה יוצרת מדיניות של עומס עבודה. הפעולה הזו אופציונלית עבור פרוסות של מארח יחיד.

   gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
   --type=high-throughput \
   --accelerator-topology=TOPOLOGY
   

   מחליפים את ה-placeholders הבאים:

   • ‫WORKLOAD_POLICY_NAME: השם של מדיניות עומס העבודה.
   • ‫TOPOLOGY: הטופולוגיה של מכונות ה-TPU הווירטואליות, לדוגמה, 4x4x8.

3. יוצרים את ה-MIG:

       gcloud compute instance-groups managed create MIG_NAME \
           --zone=ZONE \
           --template=TEMPLATE_NAME \
           --size=SIZE \
           --workload-policy=projects/PROJECT_ID/regions/WORKLOAD_POLICY_REGION/resourcePolicies/WORKLOAD_POLICY_NAME
   

   מחליפים את ה-placeholders הבאים:

   • ‫MIG_NAME: השם של ה-MIG.
   • ‫ZONE: האזור שבו נוצרת קבוצת ה-MIG.
   • ‫TEMPLATE_NAME: השם של תבנית של הגדרות מכונה.
   • ‫SIZE: מספר המכונות בקבוצת המכונות המנוהלות.
   • ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
   • ‫WORKLOAD_POLICY_REGION: האזור שבו מוגדרת מדיניות עומס העבודה.
   • ‫WORKLOAD_POLICY_NAME: השם של מדיניות עומס העבודה.
   הערה: כדי ליצור פרוסות TPU עם כמה מארחים, צריך להגדיר מדיניות של עומס עבודה ולהשתמש בדגל --target-size-policy-mode=bulk כשיוצרים את ה-MIG. כך אפשר לוודא שכל המכונות הווירטואליות נוצרות באותה רשת ויכולות לתקשר ביניהן.

שימוש במכונות וירטואליות עם TPU יחיד

אפשר גם ליצור מכונות וירטואליות מסוג TPU Spot יחידות.

gcloud compute instances create TPU_NAME \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --maintenance-policy=TERMINATE

מחליפים את ה-placeholders הבאים:

• ‫TPU_NAME: השם של ה-TPU.
• ‫ZONE: האזור שבו נוצר ה-TPU.
• ‫MACHINE_TYPE: סוג המכונה של ה-VM.
• ‫IMAGE_FAMILY: משפחת התמונות של תבנית של הגדרות מכונה.
• ‫IMAGE_PROJECT: פרויקט תמונת מערכת ההפעלה של ה-TPU VM.

מידע נוסף על מכונות וירטואליות מסוג Spot ב-Compute Engine זמין במאמר בנושא מכונות וירטואליות מסוג Spot.

תמחור ומכסות

התמחור של מכונות וירטואליות מסוג TPU Spot נמוך משמעותית מהתמחור של מכשירי TPU על פי דרישה ושל מכשירי TPU שמורים. למידע נוסף על תמחור, ראו תמחור של Cloud TPU.

כדי להשתמש במכונות וירטואליות זמניות במודל Spot של TPU, צריך מכסה זמנית. מידע נוסף זמין במאמר בנושא מכסות.

המאמרים הבאים

• איך מנהלים יחידות TPU