מידע על מדיניות עומסי עבודה ב-MIG

במאמר הזה מוסבר על הדרישות והמגבלות שחלות כשמשתמשים במדיניות של עומסי עבודה עם קבוצות מנוהלות של מופעים (MIG). כברירת מחדל, אתם מנהלים את המיקום של המכונות של Compute Engine רק על ידי ציון התחומים שלהן. מדיניות עומסי עבודה מאפשרת להגדיר את המיקום הפיזי ואת הטופולוגיה של מופעי המחשוב באזור. הגישה הזו עוזרת לכם, למשל, למזער את זמן האחזור ברשת בין מופעי המחשוב על ידי הצבתם קרוב יותר זה לזה.

אפשר להחיל מדיניות של עומסי עבודה רק על קבוצות MIG שמשתמשות במופעים מסוג A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs),‏ H4D או TPU (TPU7x,‏ v6e או v5p). אם אתם משתמשים במופעי A4X Max או A4X, או יוצרים MIG עם פרוסת TPU מרובת מארחים, נדרשת מדיניות של עומס עבודה, אלא אם אתם יוצרים מופע חישוב יחיד למטרות בדיקה. בסדרות מכונות נתמכות אחרות, מדיניות עומס העבודה היא אופציונלית.

כדי לשלוט במיקום של מופעי מחשוב שמשתמשים בסדרות מכונות אחרות, צריך להשתמש במדיניות מיקום.

הסבר על כללי מדיניות בנושא עומסי עבודה

בקטעים הבאים מתוארים תרחישי שימוש במדיניות של עומסי עבודה והמאפיינים שאתם מציינים כשאתם יוצרים מדיניות של עומסי עבודה.

ניהול המיקום והטופולוגיה של מופעי מחשוב

אחרי שיוצרים מדיניות לעומס עבודה ומחילים אותה על MIG, המדיניות לעומס עבודה עוזרת לכם להשיג את הדברים הבאים:

• יצירת מכונות חישוב קרובות זו לזו: אם יש קיבולת זמינה,‏ Compute Engine יוצר מכונות חישוב קרובות זו לזו. אחרת, Compute Engine יוצר רק חלק מהמכונות הווירטואליות שביקשתם או לא יוצר אף אחת מהן.

• קבלת תצוגה של טופולוגיית מופעי המחשוב: אחרי שמחילים מדיניות של עומס עבודה עם סוג של תפוקה גבוהה (HIGH_THROUGHPUT) על MIG, וה-MIG יוצר מופעי מחשוב, אפשר לראות את המיקום של מופעי המחשוב ביחס זה לזה. המידע הזה עוזר לכם לצמצם את זמן האחזור ברשת ולפתור שגיאות. מידע נוסף זמין במאמר בנושא הצגת המיקום הפיזי של מכונת Compute Engine.

אפשר להחיל את אותה מדיניות של עומס עבודה על כמה קבוצות של מכונות מנוהלות (MIG). כשעושים זאת,‏ Compute Engine מחיל את כללי המיקום על כל MIG בנפרד.

בקטע הבא מתוארות המאפיינים שצריך לציין כשיוצרים מדיניות של עומסי עבודה.

הגדרת מאפיינים של מדיניות עומסי עבודה

כשיוצרים מדיניות של עומס עבודה, צריך לציין את המאפיינים הבאים:

• סוג עומס העבודה (type): בשדה הזה מוגדרת המטרה הכללית של האשכול. אפשר לציין רק את HIGH_THROUGHPUT, שמורה ל-Compute Engine למקם את מכונות החישוב כמה שיותר קרוב זו לזו כדי להאיץ את התקשורת.

• בהתאם לסדרת המכונות שבהן נעשה שימוש במכונות לחישוב ב-MIG, אפשר לציין באופן אופציונלי את אחד מהמאפיינים הבאים:

  • טופולוגיית מאיצים (acceleratorTopology): המאפיין הזה עוזר להשיג ביצועים גבוהים לעומסי עבודה מבוזרים שפועלים בכמה מופעי A4X Max או A4X, או בפרוסות TPU מרובות מארחים, שמשתמשים בהגדרת רשת מיוחדת בין מאיצים. מידע נוסף זמין במאמר מאפיין טופולוגיית המאיץ.

  • המרחק המקסימלי בטופולוגיה (maxTopologyDistance): המאפיין הזה מגדיר את הגבול הפיזי המחמיר ביותר ליצירת מופעי A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) או H4D, כמו אותו בלוק או תת-בלוק. אם Compute Engine לא יכול לעמוד במגבלה המחמירה הזו בגלל שגיאות בזמינות המשאבים, הוא יוצר רק חלק ממכונות ה-Compute שביקשתם, או לא יוצר אותן בכלל. מידע נוסף זמין במאמר בנושא מאפיין המרחק המקסימלי בטופולוגיה.

מאפיין הטופולוגיה של Accelerator

כדי להשיג ביצועים ברשת ללא חסימות ובקנה מידה גדול, ב-Compute Engine, מכונות A4X Max ומכונות A4X מאורגנות בהיררכיה פיזית של בלוקים ותת-בלוקים.

כדי ליצור קבוצת מופעים מנוהלת (MIG) עם מופעי A4X Max או A4X, או עם חלקי TPU מרובי-מארחים, צריך להחיל על ה-MIG מדיניות עומס עבודה שמציינת את מאפיין טופולוגיית המאיץ (acceleratorTopology). המאפיין הזה מגדיר את התצורה של הרשת הפיזית עבור פרוסת מכונות וירטואליות. פרוסת TPU פועלת כמאיץ יחיד וגדול שמספק תפוקה מקסימלית לעומסי העבודה המבוזרים של AI או ML.

בטבלה הבאה מוצגים ערכי הטופולוגיה של המאיץ עבור A4X Max ו-A4X. מידע נוסף על ערכי טופולוגיה של חלקי TPU מרובי-מארחים זמין במאמר בנושא טופולוגיית TPU.

ערך הטופולוגיה של המאיץ	תיאור	סדרות מכונות נתמכות	מספר מקסימלי של מופעי מחשוב
1x72	מכונות Compute Engine מאורגנות בתת-בלוקים בצפיפות של 18 מכונות, בסך הכול 72 יחידות GPU. מכיוון שכל תת-בלוק דורש MIG משלו, אפשר ליצור עד 18 מכונות וירטואליות לכל MIG. בלוק מלא מורכב מ-25 קבוצות MIG, ובסך הכול מ-450 מכונות וירטואליות.	‫A4X Max ו-A4X	18

מידע נוסף על A4X Max ועל מופעי A4X זמין במאמר סדרת המכונות A4X Max ו-A4X.

מאפיין המרחק המקסימלי בטופולוגיה

כשיוצרים מדיניות של עומס עבודה ומחילים אותה על MIG, ‏ Compute Engine מנסה ככל האפשר ליצור את מכונות החישוב קרוב זו לזו. אם אתם צריכים להשיג את הדחיסות המקסימלית באזור מסוים, מומלץ לציין את המאפיין של המרחק הטופולוגי המקסימלי (maxTopologyDistance). ערך מרחק טופולוגי מקסימלי מציין ליצור מכונות A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) או H4D באותו אשכול, בלוק או תת-בלוק.

חשוב: אם יש לכם דרישות מחמירות לגבי מיקום מופעי מחשוב בעומס העבודה, יכול להיות שתיתקלו בשגיאות בגלל זמינות המשאבים. אם נתקלים בשגיאות כאלה, צריך להשתמש במדיניות עומס עבודה עם דרישות מיקום פחות מחמירות.

בטבלה הבאה מוצגים ערכי המרחק המקסימלי בטופולוגיה וסדרות המכונות שהם תומכים בהן:

ערך המרחק המקסימלי בטופולוגיה	תיאור	סדרות מכונות נתמכות	מספר מקסימלי של מופעי מחשוב
לא צוין (לא מומלץ)	המערכת של Compute Engine עושה כל מאמץ למקם את מופעי המחשוב כמה שיותר קרוב זה לזה, אבל לא מבטיחה מרחק מקסימלי בין מופעי מחשוב באזור.	‫A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 GPUs) ו-H4D	1,500
CLUSTER	‫Compute Engine יוצר מכונות חישוב בבלוקים סמוכים באותו אשכול.	‫A4 ו-H4D	1,500
BLOCK	‫Compute Engine יוצר מכונות באותו בלוק.	‫A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High (8 יחידות GPU) או H4D	למכונות וירטואליות מסוג A4 או H4D: 150 ‫A3 Ultra,‏ A3 Mega או A3 High (8 יחידות GPU): ‫256
SUBBLOCK	‫Compute Engine יוצר מכונות וירטואליות באותו תת-בלוק, כדי לצמצם ככל האפשר את זמן האחזור ברשת.	‫A4,‏ A3 Ultra ו-H4D	22

תמחור

אין עלויות נוספות שקשורות ליצירה, למחיקה או להחלה של מדיניות עומסי עבודה על MIG.

סדרות מכונות נתמכות

אפשר להחיל מדיניות של עומסי עבודה רק על קבוצות MIG עם מופעי מחשוב שמשתמשים בשילובים הבאים של סדרות מכונות ומודלים להקצאת משאבים:

סדרת מכונות	Flex-start	Spot	נדרשת הזמנה מראש	רגילה
A4X Max	לא	לא	כן	לא
A4X	לא	לא	כן	לא
A4	כן	כן	כן	לא
A3 Ultra	כן	כן	כן	לא
A3 Mega	לא	כן	כן	לא
‫A3 High (8 GPUs)	לא	כן	כן	לא
H4D	כן	כן	כן	לא
TPU7x	כן	כן	כן	כן
‫TPU v6e	כן	כן	כן	כן
‫TPU v5p	כן	כן	כן	כן

מגבלות

ההגבלות הבאות חלות על מדיניות של עומסי עבודה ב-MIG:

• אפשר להחיל מדיניות של עומס עבודה על MIG קיים, או לשנות את המדיניות של עומס העבודה, רק אם אין מופעי מחשוב ב-MIG.

• אפשר להחיל מדיניות של עומסי עבודה על קבוצות אזוריות של מופעים מנוהלים (MIG) רק אם הקבוצות האלה משתמשות בצורות היעד של ההפצה הבאות:

  • ל-MIG עם גודל יעד: ANY או ANY_SINGLE_ZONE

  • לגבי בקשות לשינוי גודל של MIG: ANY_SINGLE_ZONE

• אי אפשר לעדכן מדיניות של עומס עבודה אחרי שיוצרים אותה.

• אי אפשר להגדיר תבנית שנייה של הגדרות מכונה אם ה-MIG משתמש במדיניות עומס עבודה.

• אי אפשר להשתמש במדיניות של עומסי עבודה יחד עם מדיניות של מיקומי מודעות.

המאמרים הבאים

• איך יוצרים מדיניות עומסי עבודה עבור קבוצות של מכונות וירטואליות לניהול (MIG)

• איך מציגים מדיניות של עומסי עבודה