סקירה כללית של מדיניות למיקום קומפקטי ומדיניות עומס עבודה

General GPUs Clustered GPUs

במסמך הזה מופיעה סקירה כללית והשוואה בין מדיניות למיקום קומפקטי לבין מדיניות עומסי עבודה. שתי המדיניות מאפשרות להגדיר את המיקום של מכונות Compute Engine כדי לצמצם את זמן האחזור ברשת.

חשוב: כשיוצרים כמה מופעים לסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, צריך להחיל מדיניות למיקום קומפקטי או מדיניות עומס עבודה.

כברירת מחדל, אתם מנהלים את המיקום של מופעי המחשוב על ידי ציון האזורים שלהם בלבד. כדי ליצור מכונות וירטואליות שקרובות יותר זו לזו, אפשר להשתמש באפשרויות הבאות. מידע נוסף זמין גם במאמר מיקום משותף של משאבי תשתית AI.

• המשאבים הבאים כבר ממוקמים בצפיפות זה לצד זה:

  • משאבים שצורכים את אותו שריון מקום שמור לעתיד עבור בלוקים של קיבולת.
  • משאבים שצורכים את אותו שריון מקום שמור לעתיד במצב יומן.
  • משאבים שיוצרים יחד באמצעות בקשה לשינוי גודל של קבוצת מופעי מכונה מנוהלים (MIG).

• יכול להיות שהמשאבים שתיצרו ביחד כשתציינו את האפשרות של צריכת Flex-start יהיו ממוקמים בצפיפות, בהתאם לזמינות המקסימלית. אם אתם צריכים משאבים צפופים במיקום משותף, אתם יכולים להחיל מדיניות מיקום קומפקטי שמציינת מרחק מקסימלי, או מדיניות עומס עבודה שמציינת מרחק מקסימלי.

• אחרת, כדי למקם משאבים קרוב זה לזה, צריך להחיל מדיניות למיקום קומפקטי או מדיניות של עומס עבודה.

  • כשנדרשים משאבים שמוצבים בצפיפות באותו מיקום, צריך לציין את המרחק המקסימלי במדיניות.
  • אם רוצים משאבים צפופים שמוקמים במיקום משותף על סמך זמינות מיטבית, לא מציינים מדיניות של מרחק מקסימלי.

מידע נוסף על המקרים שבהם כדאי להשתמש במדיניות למיקום קומפקטי לעומת מדיניות עומס עבודה זמין במאמר הזה בקטע השוואה בין מדיניות למיקום קומפקטי לבין מדיניות עומס עבודה.

השוואה בין מדיניות למיקום קומפקטי לבין מדיניות עומס עבודה

בטבלה הבאה מסוכמים ההבדלים בין מדיניות מיקום קומפקטי לבין מדיניות עומסי עבודה:

	מדיניות למיקום קומפקטי	מדיניות עומס עבודה
שימוש במדיניות	מופעים עצמאיים מופעים שנפרסו באמצעות Bulk API ‫MIGs עם מעבדי GPU כלליים	קבוצות MIG עם מעבדי GPU באשכול
סוגי מכונות נתמכים	‫A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega,‏ A3 High,‏ A3 Edge,‏ A2,‏ G4 ו-G2	‫Flex-start: ‏ A4 ו-A3 Ultra לשימוש נקודתי או להזמנות: A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega ו-A3 High (8 יחידות GPU)
סמנטיקה של קיבוץ	מכונות Compute Engine שמשתמשות באותה מדיניות למיקום קומפקטי ממוקמות קרוב יותר זו לזו. מומלץ להשתמש במדיניות מיקום שונה לכל עומס עבודה. שימוש חוזר במדיניות מיקום בכמה מופעים שמריצים עומסי עבודה שונים גורם למיקום של כל המופעים האלה יחד. המיקום המשותף הזה יכול להקשות על יצירת מופעים שקרובים זה לזה כשמגדילים את נפח העבודה הספציפי.	‫Compute Engine ממקם את המכונות בקבוצת MIG שמשתמשת במדיניות עומס עבודה קרוב יותר זו לזו. שימוש חוזר במדיניות של עומס עבודה בכמה קבוצות MIG שמריצות עומסי עבודה שונים, יציב את המופעים בקבוצות MIG נפרדות. שימוש חוזר הוא אידיאלי למודלים גדולים של אימון שבהם כל קבוצת מופעים צריכה להיות מבודדת מהקבוצות האחרות.
הגדרת מיקום משותף של מכונת מחשוב	כדי להגדיר שיתוף מיקום של מכונת מחשוב במאמץ מרבי, צריך להגדיר את השדה groupPlacementPolicy.collocation לערך COLLOCATED.	כדי להגדיר שיתוף מיקום של מופע מחשוב במאמץ מרבי, צריך להגדיר את השדה workloadPolicy.type לערך HIGH_THROUGHPUT.
הגדרות נוספות	כדי להגדיר מיקום קפדני של מכונת Compute, מציינים את השדה maxDistance. בסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, צריך לציין את השדה gpuTopology.	כדי להגדיר מיקום קפדני של מכונת Compute, מציינים את השדה maxTopologyDistance. לסדרות מכונות שתומכות בחלוקה למחיצות, כמו A4X Max ו-A4X, מציינים את השדה acceleratorTopology.

מידע נוסף זמין בסעיפים הבאים:

• מדיניות למיקום קומפקטי
• מדיניות בנושא עומסי עבודה

מדיניות למיקום קומפקטי

כשמחילים מדיניות מיקום קומפקטי על מכונות מחשוב עצמאיות או על מכונות מחשוב שנוצרו בכמות גדולה, מערכת Compute Engine עושה כמיטב יכולתה כדי ליצור מכונות מחשוב קרובות זו לזו ככל האפשר. אם האפליקציה שלכם דורשת השהיה מינימלית ברשת, אתם צריכים לציין את השדה maxDistance (תצוגה מקדימה) כשאתם יוצרים מדיניות מיקום קומפקטית.

מידע נוסף זמין במאמר מידע על מדיניות בנושא מיקום קומפקטי במסמכי העזרה של Compute Engine.

השוואה בין ערכי המרחק המקסימליים במדיניות למיקום קומפקטי

ערך נמוך יותר של מרחק מקסימלי מבטיח מיקום קרוב יותר של מופעי מחשוב, אבל גם מגדיל את הסיכוי שחלק ממופעי המחשוב לא ייווצרו.

בטבלה הבאה מוצגות סדרות המכונות ומספר מופעי החישוב שכל ערך מרחק מקסימלי תומך בהם:

‫maxDistance במדיניות למיקום קומפקטי	maxTopologyDistance במדיניות של עומס עבודה	תיאור	סדרות מכונות נתמכות	מספר מקסימלי של מופעי מחשוב
לא צוין (לא מומלץ)	לא צוין (לא מומלץ)	‫Compute Engine עושה כמיטב יכולתו כדי למקם את מופעי החישוב כמה שיותר קרוב זה לזה, אבל אין מרחק מקסימלי בין מופעי החישוב.	‫A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	1500
3	CLUSTER	‫Compute Engine יוצר מכונות חישוב בבלוקים סמוכים.	‫A4,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	1,500
2	BLOCK	מערכת Compute Engine יוצרת מכונות וירטואליות באותה קבוצה.	‫A4,‏ A3 Ultra,‏ A3 Mega^1,‏ A3 High^1,‏ A3 Edge^1,‏ A2,‏ G4 ו-G2	‫A3 Ultra,‏ A3 Mega^1,‏ A3 High^1 ו-A3 Edge^1: 256 לכל שאר סדרות המכונות הנתמכות: 150
1	SUBBLOCK	‫Compute Engine יוצר מכונות באותו תת-בלוק.	‫A3 Edge^1,‏ A2,‏ G4 ו-G2	22

‫¹ אם רוצים להחיל מדיניות למיקום קומפקטי על מופע A3 Mega,‏ A3 High או A3 Edge שנוצר לפני 1 באוקטובר 2025, צריך לפנות לצוות התמיכה בחשבון או לצוות המכירות.

מדיניות לגבי עומסי עבודה

מדיניות עומס עבודה מאפשרת לציין את המיקום והתשתית הבסיסית של מופעי החישוב ב-MIG. שימוש במדיניות עומסי עבודה עם A4X Max,‏ A4X,‏ A4,‏ A3 Ultra,‏ A3 Mega ו-A3 High (8 יחידות GPU) עוזר לצמצם את זמן האחזור ברשת בין מופעי מחשוב ולבצע אופטימיזציה של הביצועים.

בהתאם לסוגי המכונות שבהן נעשה שימוש במופעי החישוב ב-MIG, מדיניות עומסי העבודה נדרשת או אופציונלית במצבים הבאים:

• כדי לפרוס תת-בלוקים של מופעי A4X Max או A4X, צריך להגדיר מדיניות של עומסי עבודה.

• כדי להשתמש במופעי A4,‏ A3 Ultra,‏ A3 Mega או A3 High (8 GPUs), מדיניות עומסי העבודה היא אופציונלית.

• מדיניות עומס העבודה לא נתמכת בסדרות המכונות A3 Edge,‏ A2,‏ G4,‏ G2 ו-N1. ב-MIG שמשתמש בסדרות המכונות האלה, אפשר להשתמש במדיניות מיקום קומפקטית כדי למקם מכונות וירטואליות באותו מיקום.

מידע נוסף זמין במאמר מידע על מדיניות עומסי עבודה ב-MIG במסמכי העזרה של Compute Engine.

המאמרים הבאים

• סקירה כללית של אפשרויות הפריסה