משאבי TPU ב-Compute Engine

אתם יכולים ליצור ולנהל יחידות TPU באמצעות משאבי Compute Engine. בדף הזה מוסבר באופן כללי איך להשתמש ב-TPU עם Compute Engine. הוא ממפה מושגים של TPU למשאבים של Compute Engine ומתאר את תהליך המעבר ל-Compute Engine.

מושגים שקשורים ל-TPU ול-Compute Engine

כדי לנהל את משאבי ה-TPU ב-Compute Engine, כדאי להבין את המושגים העיקריים הבאים שקשורים ל-TPU ול-Compute Engine:

  • ‫TPU VM: מכונה וירטואלית שמתחברת ישירות לחומרת ה-TPU. מכונה וירטואלית אחת של TPU זהה לפרוסה של מארח יחיד.
  • ‫TPU slice: קבוצה לוגית של שבבי TPU שמקושרים ביניהם, שאפשר לגשת אליה דרך TPU VM אחת או יותר. לפרוסות יש אחד מההיקפים הבאים:
    • פרוסה של מארח יחיד: פרוסה שמורכבת ממכונה מארחת אחת. פרוסה של מארח יחיד היא דרך נוספת להתייחס ל-TPU VM יחיד.
    • פרוסת ריבוי מארחים: פרוסה שמורכבת מכמה TPU VM שמחוברות ביניהן באמצעות חיבור מהיר בין שבבים (ICI).

כדי ליצור ולנהל משאבי TPU ב-Compute Engine, משתמשים במשאבים הבאים של Compute Engine:

  • מכונה וירטואלית: מכונה וירטואלית של Compute Engine. פרוסת TPU עם מארח יחיד נוצרת כמכונה וירטואלית נפרדת. ב-Cloud TPU API הקודם, פרוסת TPU אחת מיוצגת על ידי אובייקט REST מסוג Node.
  • קבוצת מופעי מכונה מנוהלים (MIG): אוסף של מכונות וירטואליות שמנוהלות כיחידה אחת. פרוסות TPU עם כמה מארחים נוצרות כ-MIG עם טופולוגיית מאיץ שצוינה במדיניות של עומס העבודה. ב-Cloud TPU API הקודם, פרוסה אחת או יותר מיוצגות באמצעות אובייקטים מסוג REST של QueuedResource או Node.

מפת מושגים של TPU ו-Compute Engine

בטבלה הבאה מתואר המיפוי של מושגי TPU למשאבי Compute Engine:

קונספט של TPU משאב של Compute Engine פרטי המשאבים תרחיש לדוגמה
TPU VM מופע ב-VM מכונה וירטואלית של Compute Engine שמספקת גישה ישירה לחומרת TPU. משימות ספציפיות של מכונות וירטואליות, הפעלת פקודות SSH או ניפוי באגים
פרוסת TPU עם מארח יחיד או מארח משנה מכונת VM או קבוצת MIG עם מכונת VM אחת הגדרה שמורכבת ממכונה מארחת פיזית אחת. הסקת מסקנות עם התאמה אוטומטית לעומס (autoscaling)
פרוסת TPU עם כמה מארחים קבוצת מכונות מנוהלת (MIG) עם טופולוגיית מאיץ שצוינה במדיניות של עומס העבודה קבוצה של מכונות וירטואליות של TPU שמקושרות ביניהן באמצעות ICI, ומנוהלות כיחידה לוגית אחת. אימון מבוזר בקנה מידה גדול שדורש הקצאה אטומית

מעבר מ-Cloud TPU API

הפיתוח של Cloud TPU API הופסק. זה כולל את Google Cloud CLI ל-Cloud TPU API ואת ספריות הלקוח של Cloud ל-Cloud TPU API. ‫Cloud TPU API יקבל רק תיקוני באגים ועדכוני אבטחה. דורות חדשים של חומרה, החל מ-TPU7x‏ (Ironwood), נתמכים רק דרך Compute Engine או Google Kubernetes Engine‏ (GKE). כדי ליהנות מהתכונות העדכניות ביותר ומתמיכה בגרסאות העדכניות של TPU, צריך להחליף את הקריאות ל-Cloud TPU API הקודם בקריאות המקבילות ב-Compute Engine או ב-GKE.

בהתאם לדרישות של התזמור ועומס העבודה, בוחרים באחת מהאפשרויות הבאות:

  • ‫Compute Engine: מומלץ למשתמשים שצריכים שליטה ישירה ברמת ה-VM או קובצי אימג' של מערכת ההפעלה בהתאמה אישית. כדי להתחיל להקצות יחידות TPU ב-Compute Engine, קראו את המאמר מדריך למתחילים: יצירת TPU VM.
  • ‫GKE: מומלץ לעומסי עבודה בקונטיינרים, להתאמה אוטומטית לעומס (automatic scaling) ולתזמור בקנה מידה גדול. מידע נוסף על השימוש ב-TPU עם GKE זמין במאמר מידע על TPU ב-GKE.
  • ‫Batch: מומלץ למשתמשים שרוצים שירות שמנוהל במלואו כדי להריץ עומסי עבודה שמבוססים על קונטיינרים או על סקריפטים. מידע נוסף על שימוש ב-TPU עם Batch זמין במאמר יצירה והרצה של משימה באצווה שמשתמשת ב-TPU.

משאבי TPU קיימים

משאבי TPU שנוצרו באמצעות Cloud TPU API (אובייקטים מסוג REST של Node או QueuedResource) לא תואמים ל-Compute Engine ול-GKE. כדי להתחיל להשתמש ב-Compute Engine או ב-GKE:

  • לשכתב את הסקריפטים שמשתמשים ב-Cloud TPU API כדי להשתמש בממשקי ה-API של Compute Engine או GKE.
  • מוחקים משאבים באמצעות Cloud TPU API ויוצרים אותם מחדש באמצעות Compute Engine או GKE API.

מגבלות

אלה המגבלות של יחידות TPU ב-Compute Engine:

  • ‫גרסאות TPU: ‏Compute Engine תומך ב-v5p, ב-v6e וב-TPU7x.
  • ריבוי-פרוסות (Multislice): אי אפשר ליצור קבוצות של פרוסות TPU עם כמה מארחים שמקושרות זו לזו ב-Compute Engine. כדי להשתמש ב-Multislice, צריך להשתמש ב-Google Kubernetes Engine ‏(GKE). מידע נוסף זמין במאמר פריסת פרוסות מרובות של TPU ב-GKE.
  • אוספים: אי אפשר לתזמן אוספים ב-Compute Engine. כדי להשתמש בתזמון איסוף, צריך להשתמש ב-GKE. למידע נוסף, קראו את המאמר תזמון איסוף במסמכי התיעוד של GKE.

המאמרים הבאים