‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

ניהול מכונות TPU Spot

מכונות וירטואליות מסוג Spot מאפשרות להשתמש בקיבולת לא מנוצלת במחירים מוזלים במיוחד. אפשר להפסיק את השימוש במכונות וירטואליות מסוג Spot בכל שלב, אבל בניגוד ל-TPU שאפשר להפסיק את השימוש בו, אין הגבלה על משך זמן הריצה. אי אפשר להפעיל מחדש מכונות וירטואליות מסוג TPU Spot, וצריך ליצור אותן מחדש אחרי שהן נדחקו. בנוסף, אי אפשר להשתמש בפרק זמן של 120 שניות להודעה על קדימות עם מכונות וירטואליות מסוג TPU Spot. מידע נוסף על מכונות וירטואליות זמניות זמין במאמרי העזרה של Compute Engine בנושא מכונות וירטואליות זמניות.

יצירת מכונות וירטואליות מסוג TPU במודל Spot

אפשר ליצור מכונות וירטואליות מסוג TPU Spot באמצעות משאבים בתור, וכך להוסיף את בקשת היצירה לתור ולקבל קיבולת כשהיא תהיה זמינה. השיטה המומלצת היא ליצור יחידות TPU כמשאבים בתור. מידע נוסף זמין במדריך למשתמש בנושא משאבים בהמתנה.

בדוגמה הבאה אפשר לראות איך ליצור מכונות וירטואליות מסוג TPU Spot באמצעות משאבים בתור:

gcloud

מוסיפים את הדגל --spot לפקודה gcloud compute tpus queued-resources:

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=NODE_ID \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --runtime-version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

מוסיפים את spot: {} לגוף הבקשה:

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        tpu: {
        node_spec: {
            parent: "projects/PROJECT_ID/locations/europe-west4-a",
            node_id: "NODE_ID",
            node: {
            accelerator_type: "v3-8",
            runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt"
            }
        }
        },
        spot: {}
    }'

המסוף

נכנסים לדף TPUs במסוף Google Cloud .

מעבר אל TPUs
לוחצים על Create TPU (יצירת TPU).
בשדה שם, מזינים שם ל-TPU.
בתיבה Zone (תחום), בוחרים את התחום שבו רוצים ליצור את ה-TPU.
בתיבה TPU type, בוחרים סוג של מאיץ. סוג המאיץ מציין את הגרסה והגודל של Cloud TPU שרוצים ליצור. מידע נוסף על סוגי המאיצים הנתמכים לכל גרסת TPU זמין במאמר גרסאות TPU.
בתיבה גרסת התוכנה של ה-TPU, בוחרים גרסת תוכנה. כשיוצרים מכונת TPU וירטואלית ב-Cloud TPU, גרסת התוכנה של ה-TPU מציינת את גרסת זמן הריצה של ה-TPU שמותקנת. מידע נוסף זמין במאמר בנושא גרסאות תוכנה של TPU.
לוחצים על המתג הפעלת הוספה לתור.
נותנים לבקשה שם בשדה Queued resource name.
מרחיבים את הקטע ניהול.
מסמנים את תיבת הסימון הפיכת המכונה הווירטואלית הזו ל-TPU Spot.
לוחצים על יצירה.

אפשר גם ליצור מכונות וירטואליות מסוג TPU Spot בלי להשתמש במשאבים בתור:

gcloud

מוסיפים את הדגל --spot לפקודה gcloud compute tpus tpu-vm:

gcloud compute tpus tpu-vm create TPU_NAME \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

מוסיפים את scheduling_config: {spot: true} לגוף הבקשה:

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        accelerator_type: "v3-8",
        runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt",
        network_config: {enable_external_ips: true},
        scheduling_config: {spot: true}
    }'

המסוף

נכנסים לדף TPUs במסוף Google Cloud .

לדף TPUs
לוחצים על Create TPU (יצירת TPU).
בשדה שם, מזינים שם ל-TPU.
בתיבה תחום, בוחרים את התחום שבו רוצים ליצור את ה-TPU.
בתיבה TPU type, בוחרים סוג של מאיץ. סוג המאיץ מציין את הגרסה והגודל של Cloud TPU שרוצים ליצור. מידע נוסף על סוגי המאיצים הנתמכים לכל גרסת TPU זמין במאמר גרסאות TPU.
בתיבה גרסת התוכנה של ה-TPU, בוחרים גרסת תוכנה. כשיוצרים מכונת TPU וירטואלית ב-Cloud TPU, גרסת התוכנה של ה-TPU מציינת את הגרסה של זמן הריצה של ה-TPU שצריך להתקין. מידע נוסף זמין במאמר בנושא גרסאות תוכנה של TPU.
מרחיבים את הקטע ניהול.
מסמנים את תיבת הסימון הפיכת המכונה הווירטואלית הזו ל-TPU Spot.
לוחצים על יצירה.

בדיקה אם TPU VM היא VM במודל Spot

gcloud

כדי לוודא שמכונת ה-TPU הווירטואלית היא מכונת Spot, משתמשים בפקודה describe:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

אם מכונת ה-TPU הווירטואלית היא מכונת Spot וירטואלית, הפלט כולל את השדה spot שמוגדר לערך true, כמו בדוגמה הבאה:

...
schedulingConfig:
spot: true
...

המסוף

נכנסים לדף TPUs במסוף Google Cloud .

לדף TPUs
לוחצים על השם של Cloud TPU.

אם מכונת ה-TPU הווירטואלית היא מכונת Spot, אז המסלול הוא Spot VM.

תמחור ומכסה

התמחור של מכונות וירטואליות מסוג TPU Spot נמוך משמעותית מהתמחור של מכשירי TPU לפי דרישה ומכשירי TPU שמורים. למידע נוסף על תמחור, ראו תמחור של Cloud TPU.

כדי להשתמש במכונות וירטואליות (VM) זמניות במודל Spot של TPU, אתם צריכים מכסה של מכונות זמניות. מידע נוסף זמין במאמר בנושא מכסות.

המאמרים הבאים

איך מנהלים יחידות TPU