סקירה כללית של מדיניות למיקום קומפקטי ומדיניות עומס עבודה

General GPUs Clustered GPUs

במסמך הזה מפורטת סקירה כללית והשוואה בין מדיניות למיקום קומפקטי לבין מדיניות של עומסי עבודה. שתי המדיניות מאפשרות לכם להגדיר את המיקום של מכונות Compute Engine כדי לצמצם את זמן האחזור ברשת.

חשוב: כשיוצרים כמה מופעים לסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, צריך להחיל מדיניות מיקום קומפקטית או מדיניות עומס עבודה.

כברירת מחדל, כדי לנהל את המיקום של מופעי המחשוב, מציינים רק את האזורים שלהם. כדי ליצור מכונות וירטואליות שקרובות יותר זו לזו, אפשר להשתמש באפשרויות הבאות. מידע נוסף זמין גם במאמר מיקום משותף של משאבי תשתית AI.

• המשאבים הבאים כבר ממוקמים בצפיפות זה לצד זה:

  • משאבים שצורכים את אותו שריון מקום שמור לעתיד לבלוקים של קיבולת.
  • משאבים שצורכים את אותו שריון מקום שמור לעתיד במצב יומן.
  • משאבים שיוצרים יחד באמצעות בקשה לשינוי גודל של קבוצת מופעי מכונה מנוהלים (MIG).

• יכול להיות שהמשאבים שתיצרו ביחד כשתציינו את האפשרות של צריכת Flex-start יהיו ממוקמים בצפיפות, בהתאם לזמינות המקסימלית. אם אתם צריכים משאבים צפופים במיקום משותף, אתם יכולים להחיל מדיניות מיקום קומפקטי שמציינת מרחק מקסימלי, או מדיניות עומס עבודה שמציינת מרחק מקסימלי.

• אחרת, כדי למקם משאבים קרוב זה לזה, צריך להחיל מדיניות למיקום קומפקטי או מדיניות של עומס עבודה.

  • כשנדרשים משאבים שמוצבים בצפיפות באותו מיקום, צריך לציין מרחק מקסימלי במדיניות.
  • אם רוצים משאבים צפופים שמוקמים באותו מיקום על סמך זמינות מיטבית, לא מציינים מדיניות של מרחק מקסימלי.

מידע נוסף על המקרים שבהם כדאי להשתמש במדיניות למיקום קומפקטי לעומת מדיניות עומס עבודה זמין בקטע השוואה בין מדיניות למיקום קומפקטי לבין מדיניות עומס עבודה במסמך הזה.

השוואה בין מדיניות למיקום קומפקטי לבין מדיניות לגבי עומס עבודה

בטבלה הבאה מסוכמים ההבדלים בין מדיניות מיקום קומפקטי לבין מדיניות עומסי עבודה:

	מדיניות למיקום קומפקטי	מדיניות עומס עבודה
שימוש במדיניות	מכונות עצמאיות מופעים שנפרסו באמצעות Bulk API קבוצות MIG עם מעבדי GPU כלליים	קבוצות MIG עם מעבדי GPU באשכולות
סוגי מכונות נתמכים	‫A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High,‏ A3 Edge,‏ A2,‏ G4 ו-G2	‫Flex-start: A4 ו-A3 Ultra לשימוש ספוט או להזמנות: A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega ו-A3 High (8 מעבדי GPU)
סמנטיקה של קיבוץ	מכונות Compute Engine שמשתמשות באותה מדיניות למיקום קומפקטי ממוקמות קרוב יותר זו לזו. מומלץ להשתמש במדיניות מיקום שונה לכל עומס עבודה. שימוש חוזר במדיניות מיקום בכמה מופעים שמריצים עומסי עבודה שונים גורם למיקום של כל המופעים האלה יחד. המיקום המשותף הזה יכול להקשות על יצירת מופעים שקרובים זה לזה כשמגדילים את נפח העבודה הספציפי.	‫Compute Engine ממקם את המכונות בקבוצת MIG שמשתמשת במדיניות עומס עבודה קרוב יותר זו לזו. שימוש חוזר במדיניות של עומס עבודה בכמה קבוצות MIG שמריצות עומסי עבודה שונים, יציב את המופעים בקבוצות MIG נפרדות יחד. שימוש חוזר הוא אידיאלי למודלים גדולים של אימון שבהם כל קבוצת מופעים צריכה להיות מבודדת מהשנייה.
הגדרת מיקום משותף של מכונת מחשוב	כדי להגדיר שיתוף מיקום של מכונת מחשוב במאמץ מרבי, צריך להגדיר את השדה groupPlacementPolicy.collocation לערך COLLOCATED.	כדי להגדיר שיתוף מיקום של מכונת מחשוב במאמץ מרבי, צריך להגדיר את השדה workloadPolicy.type לערך HIGH_THROUGHPUT.
הגדרות נוספות	כדי להגדיר מיקום קפדני של מכונת Compute, מציינים את השדה maxDistance. בסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, צריך לציין את השדה gpuTopology.	כדי להגדיר מיקום קפדני של מכונת Compute, מציינים את השדה maxTopologyDistance. בסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, צריך לציין את השדה acceleratorTopology.

מידע נוסף זמין בסעיפים הבאים:

• מדיניות למיקום קומפקטי
• מדיניות בנושא עומסי עבודה

מדיניות למיקום קומפקטי

כשמחילים מדיניות מיקום קומפקטי על מכונות מחשוב עצמאיות או על מכונות מחשוב שנוצרו בכמות גדולה, מערכת Compute Engine עושה כמיטב יכולתה כדי ליצור מכונות מחשוב קרובות זו לזו ככל האפשר. אם האפליקציה שלכם דורשת השהיה מינימלית ברשת, צריך לציין את השדה maxDistance (תצוגה מקדימה) כשיוצרים מדיניות מיקום קומפקטית.

מידע נוסף זמין במאמר מידע על מדיניות בנושא מיקום קומפקטי במסמכי העזרה של Compute Engine.

השוואה בין ערכי המרחק המקסימליים במדיניות למיקום קומפקטי

ערך נמוך יותר של המרחק המקסימלי מבטיח מיקום קרוב יותר של מופעי מחשוב, אבל הוא גם מגדיל את הסיכוי שחלק ממופעי המחשוב לא ייווצרו.

בטבלה הבאה מוצגים סדרת המכונות ומספר מופעי החישוב שכל ערך מרחק מקסימלי תומך בהם:

‫maxDistance במדיניות למיקום קומפקטי	maxTopologyDistance במדיניות של עומס עבודה	תיאור	סדרות מכונות נתמכות	מספר מקסימלי של מופעי מחשוב
לא צוין (לא מומלץ)	לא צוין (לא מומלץ)	‫Compute Engine עושה כמיטב יכולתו כדי למקם את מופעי המחשוב כמה שיותר קרוב זה לזה, אבל ללא מרחק מקסימלי בין מופעי המחשוב.	‫A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	1500
3	CLUSTER	‫Compute Engine יוצר מכונות חישוב בבלוקים סמוכים.	‫A4,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	1,500
2	BLOCK	מכונות וירטואליות נוצרות ב-Compute Engine באותו בלוק.	‫A4,‏ A3 Ultra,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	‫A3 Ultra,‏ A3 Mega^1,‏ A3 High^1 ו-A3 Edge^1: 256 לכל שאר סדרות המכונות הנתמכות: 150
1	SUBBLOCK	‫Compute Engine יוצר מכונות באותו תת-בלוק.	‫A3 Edge^1,‏ A2,‏ G4 ו-G2	22

‫¹ אם רוצים להחיל מדיניות למיקום קומפקטי על מופע מסוג A3 Mega,‏ A3 High או A3 Edge שנוצר לפני 1 באוקטובר 2025, צריך לפנות לצוות התמיכה בחשבון או לצוות המכירות.

מדיניות לעומסי עבודה

מדיניות עומסי עבודה מאפשרת לציין את המיקום והתשתית הבסיסית של מופעי החישוב בקבוצת MIG. שימוש במדיניות עומסי עבודה עם A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega ו-A3 High (8 GPUs) עוזר לצמצם את זמן האחזור ברשת בין מופעי מחשוב ולבצע אופטימיזציה של הביצועים.

בהתאם לסוגי המכונות שבהן נעשה שימוש במופעי ה-Compute ב-MIG, מדיניות עומסי העבודה נדרשת או אופציונלית במצבים הבאים:

• כדי לפרוס בלוקים משניים של מופעי A4X Max או A4X, צריך להשתמש במדיניות עומסי עבודה.

• כדי להשתמש במופעים מסוג A4,‏ A3 Ultra,‏ A3 Mega או A3 High (8 GPUs), מדיניות עומסי העבודה היא אופציונלית.

• מדיניות בנושא עומסי עבודה לא נתמכת בסדרות המכונות A3 Edge,‏ A2,‏ G4,‏ G2 ו-N1. ב-MIG שמשתמש בסדרות המכונות האלה, אפשר להשתמש במדיניות מיקום קומפקטית כדי למקם מכונות וירטואליות באותו מיקום.

מידע נוסף זמין במאמר בנושא מדיניות עומסי עבודה ב-MIG במסמכי העזרה של Compute Engine.

המאמרים הבאים

• סקירה כללית של אפשרויות הפריסה

• איך רואים את הטופולוגיה של מכונת חישוב