מידע על מדיניות עומסי עבודה ב-MIG

במאמר הזה מוסבר על הדרישות והמגבלות שחלות כשמשתמשים במדיניות של עומסי עבודה בקבוצות מופעי מכונה מנוהלים (MIG). כברירת מחדל, אתם מנהלים את המיקום של המכונות של Compute Engine רק על ידי ציון האזורים שלהן. מדיניות עומסי העבודה מאפשרת להגדיר את המיקום הפיזי ואת הטופולוגיה של המכונות באזור. הגישה הזו עוזרת לכם, למשל, לצמצם את זמן האחזור ברשת בין המכונות שלכם, על ידי מיקום שלהן קרוב יותר זו לזו.

אפשר להחיל כללי מדיניות של עומסי עבודה רק על קבוצות MIG שמשתמשות במכונות מסוג A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs),‏ H4D או TPU (TPU7x,‏ v6e או v5p). אם אתם משתמשים במכונות A4X Max או A4X, או יוצרים קבוצת MIG עם פרוסת TPU עם כמה מארחים, אתם צריכים מדיניות עומסי עבודה, אלא אם אתם יוצרים מכונה אחת למטרות בדיקה. בסדרות המכונות האחרות שנתמכות, מדיניות עומסי העבודה היא אופציונלית.

כדי לשלוט במיקום של מכונות שמשתמשות בסדרות מכונות אחרות, צריך להשתמש בכללי מדיניות מיקום.

הסבר על כללי מדיניות של עומסי עבודה

בקטעים הבאים מתוארים תרחישים לדוגמה של מדיניות עומסי עבודה, והמאפיינים שאתם מציינים כשאתם יוצרים מדיניות עומסי עבודה.

ניהול המיקום והטופולוגיה של מכונות Compute

אחרי שיוצרים מדיניות של עומסי עבודה ומחילים אותה על קבוצת MIG, המדיניות עוזרת לכם:

  • יצירת מכונות קרובות זו לזו: אם יש קיבולת זמינה, המערכת של Compute Engine יוצרת מכונות קרובות זו לזו. אחרת, Compute Engine ייצור רק חלק מהמכונות שביקשתם, או לא ייצור אף אחת מהן.

  • הצגת הטופולוגיה של המכונות: אחרי שמחילים על קבוצת MIG מדיניות עומס עבודה מסוג תפוקה גבוהה (HIGH_THROUGHPUT), וקבוצת ה-MIG יוצרת מכונות, אפשר לראות את המיקום של המכונות ביחס זו לזו. המידע הזה עוזר לכם לצמצם את זמן האחזור ברשת ולפתור שגיאות. מידע נוסף זמין במאמר הצגת המיקום הפיזי של מכונה ב-Compute Engine.

אפשר להחיל את אותה מדיניות עומסי עבודה על כמה קבוצות MIG. כשעושים את זה, Compute Engine מחיל את כללי המיקום על כל קבוצת MIG בנפרד.

בקטע הבא מתוארים המאפיינים שצריך לציין כשיוצרים מדיניות של עומסי עבודה.

הגדרת מאפייני המדיניות של עומסי העבודה

כשיוצרים מדיניות עומס עבודה, צריך לציין את המאפיינים הבאים:

  • סוג עומס העבודה (type): השדה הזה מגדיר את המטרה הכללית של האשכול. אפשר לציין רק את הערך HIGH_THROUGHPUT, שמורה ל-Compute Engine למקם את המכונות קרוב ככל האפשר זו לזו כדי להאיץ את התקשורת.

  • בהתאם לסדרת המכונות שבה משתמשות המכונות בקבוצת ה-MIG, אפשר לציין את אחד מהמאפיינים הבאים:

    • ‫טופולוגיית מאיץ (acceleratorTopology): המאפיין הזה עוזר להשיג ביצועים גבוהים בעומסי עבודה מבוזרים שפועלים בכמה מכונות A4X Max או A4X, או בפרוסות TPU עם כמה מארחים, שמשתמשות בהגדרת רשת מיוחדת בין מאיצים. למידע נוסף, ראו מאפיין טופולוגיית המאיץ.

    • ‫Maximum topology distance (maxTopologyDistance): המאפיין הזה מגדיר את הגבול הפיזי המחמיר ביותר ליצירת מכונות A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) או H4D, כמו אותו בלוק או תת-בלוק. אם Compute Engine לא יכול לעמוד במגבלה המחמירה הזו בגלל שגיאות בזמינות המשאבים, הוא יוצר רק חלק מהמכונות שביקשתם, או לא יוצר אותן בכלל. מידע נוסף זמין במאמר המאפיין "מרחק טופולוגי מקסימלי".

מאפיין הטופולוגיה של מאיץ החומרה

כדי להשיג ביצועי רשת בקנה מידה גדול וללא חסימות, ב-Compute Engine המכונות מסוג A4X Max ו-A4X מאורגנות בהיררכיה פיזית של בלוקים ותת-בלוקים.

כדי ליצור קבוצת MIG עם מכונות A4X Max או A4X, או עם פרוסות TPU עם כמה מארחים, צריך להחיל על קבוצת ה-MIG מדיניות עומס עבודה שמציינת את מאפיין הטופולוגיה של המאיץ (acceleratorTopology). המאפיין הזה מגדיר את תצורת הרשת הפיזית של פרוסה של מכונות וירטואליות. פרוסה פועלת כמאיץ אחד גדול שמספק תפוקה מקסימלית לעומסי העבודה המבוזרים של AI או למידת מכונה.

בטבלה הבאה מוצגים ערכי הטופולוגיה של המאיצים ב-A4X Max וב-A4X. למידע נוסף על ערכי טופולוגיה של פרוסות TPU עם כמה מארחים, ראו טופולוגיית TPU.

ערך הטופולוגיה של המאיץ תיאור סדרות המכונות הנתמכות מספר המכונות המקסימלי
1x72 ב-Compute Engine, המכונות מאורגנות בבלוקים משניים של 18 מכונות, עם 72 יחידות GPU בסך הכול. בגלל שכל בלוק משנה דורש MIG משלו, אפשר ליצור עד 18 מכונות לכל MIG. בלוק מלא מורכב מ-25 קבוצות MIG, ובסך הכול 450 מכונות. ‫A4X Max ו-A4X 18

מידע נוסף על מכונות A4X Max ו-A4X מופיע במאמר סדרות המכונות A4X Max ו-A4X.

מאפיין מרחק טופולוגיה מקסימלי

כשיוצרים מדיניות של עומסי עבודה ומחילים אותה על קבוצת MIG,‏ Compute Engine מנסה למקם את המכונות קרוב זו לזו, ככל האפשר. אם אתם צריכים מיקום פיזי קרוב יותר באזור, אתם יכולים לציין את המאפיין של מרחק הטופולוגיה המקסימלי (maxTopologyDistance). כשמציינים מרחק טופולוגיה מקסימלי, המערכת של Compute Engine ממקמת מכונות מסוג A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) או H4D באותו אשכול, בלוק או תת-בלוק.

כשמחליטים אם לציין מרחק טופולוגי מקסימלי, צריך לשקול את היתרונות והחסרונות של מיקום פיזי משותף קפדני לעומת הזמינות של מכונות וביטחון בקיבולת:

  • מרחק לא מוגדר: אתם נותנים עדיפות לזמינות של מכונות וליכולת להשיג אותן על פני מיקום משותף קפדני. עם זאת, אם הקיבולת מוגבלת, יכול להיות ש-Compute Engine ימקם את המכונות במרחק גדול יותר ממה שהאפליקציה יכולה לסבול.

  • מרחק ספציפי: אתם צריכים מיקום פיזי קרוב יותר כדי להפחית את זמן האחזור ברשת, מה שמפחית באופן ישיר את הזמינות של המכונות ואת הבטחת הקיבולת. אם דרישות המיקום שלכם מחמירות מדי ביחס לקיבולת הזמינה באזור, יכול להיות שתקבלו שגיאות שקשורות לזמינות המשאבים. כדי לפתור את השגיאות האלה, צריך להשתמש במדיניות עומס עבודה עם ערך מרחק טופולוגיה מקסימלי פחות מחמיר, כמו CLUSTER במקום SUBBLOCK, או להשאיר את הערך לא מוגדר.

בטבלה הבאה מוצגים הערכים המקסימליים של מרחק הטופולוגיה וסדרות המכונות שנתמכות בהם:

ערך המרחק הטופולוגי המקסימלי תיאור סדרות המכונות הנתמכות מספר המכונות המקסימלי
לא צוין ב-Compute Engine, העדיפות היא להבטיח את הזמינות והקיבולת של המכונות. מערכת Compute Engine מנסה למקם את המכונות קרוב ככל האפשר זו לזו, בלי להבטיח מרחק מקסימלי באזור. אם הקיבולת מוגבלת, יכול להיות ש-Compute Engine ימקם את המכונות במרחק גדול יותר ממה שהאפליקציה יכולה לסבול. ‫A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) ו-H4D 1,500
CLUSTER ‫Compute Engine יוצר מכונות בבלוקים סמוכים בתוך אשכול. A4 ו-H4D 1,500
BLOCK ‫Compute Engine יוצר מכונות באותו בלוק. ‫A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) או H4D
  • ‫ב-A4 או ב-H4D: ‏150
  • ב-A3 Ultra,‏ A3 Mega או A3 High (‏8 יחידות GPU): 256
SUBBLOCK ‫Compute Engine יוצר מכונות באותו בלוק משנה, כדי לצמצם כמה שאפשר את זמן האחזור ברשת. ‫A4,‏ A3 Ultra ו-H4D 22

תמחור

אין עלויות נוספות שקשורות ליצירה, למחיקה או להחלה של מדיניות עומסי עבודה על קבוצת MIG.

סדרות המכונות הנתמכות

אפשר להחיל כללי מדיניות של עומסי עבודה רק על קבוצות MIG עם מכונות שמשתמשות בשילובים הבאים של סדרות מכונות ומודלים של הקצאת משאבים:

סדרת מכונות התחלה גמישה (Flex-start) כרטיס Spot הזמנה מראש רגילה
A4X Max לא לא כן לא
A4X לא לא כן לא
A4 כן כן כן לא
A3 Ultra כן כן כן לא
A3 Mega לא כן כן לא
‫A3 High (8 GPUs) לא כן כן לא
H4D כן כן כן לא
TPU7x כן כן כן כן
TPU v6e כן כן כן כן
TPU v5p כן כן כן כן

מגבלות

המגבלות הבאות חלות על כללי מדיניות של עומסי עבודה בקבוצות MIG:

  • אפשר להחיל מדיניות של עומס עבודה על קבוצת MIG קיימת, או לשנות את המדיניות של עומס העבודה, רק אם אין מכונות בקבוצת ה-MIG.

  • אפשר להחיל כללי מדיניות של עומסי עבודה על קבוצות MIG אזוריות רק אם קבוצות ה-MIG משתמשות בצורות של יעדי הפצה הבאות:

    • לקבוצות MIG עם גודל יעד: ANY או ANY_SINGLE_ZONE

    • לבקשות לשינוי כמות ב-MIG: ANY_SINGLE_ZONE

  • אי אפשר לעדכן מדיניות עומס עבודה אחרי שיוצרים אותה.

  • אי אפשר להגדיר תבנית שנייה של הגדרות מכונה אם קבוצת ה-MIG משתמשת במדיניות עומסי עבודה.

  • אי אפשר להשתמש בכללי מדיניות של עומסי עבודה יחד עם כללי מדיניות של מיקום.

המאמרים הבאים