כשיוצרים אשכול Kubernetes ב-Google Distributed Cloud (GDC) עם בידוד פיזי, יוצרים מאגרי צמתים שאחראים להרצת עומסי העבודה של הקונטיינרים באשכול. אתם מקצים צמתים בהתאם לדרישות של עומס העבודה של הקונטיינרים, ויכולים לעדכן אותם כשהדרישות משתנות.
GDC מספק סוגי מכונות מוגדרים מראש לצמתי העובדים, שאפשר לבחור מתוכם כשמוסיפים מאגר צמתים. יש גם כמה דרכים לחלק מופעי GPU נפרדים באמצעות התכונה Multi-Instance GPU (MIG).
המסמך הזה מיועד למפתחי אפליקציות בקבוצת מפעיל האפליקציות ולאדמינים ב-IT בקבוצת אדמינים של הפלטפורמה, שאחראים על ניהול אשכולות Kubernetes בארגון שלהם. מידע נוסף זמין במאמר בנושא קהלים ב-GDC עם air gap.
בקטעים הבאים מפורטים סוגי המכונות הזמינים והתמיכה ב-GPU.
סוגי מכונות זמינים
GDC מגדיר סוגי מכונות עם כמה פרמטרים לצומת של אשכול Kubernetes, כולל CPU, זיכרון ו-GPU.
ל-GDC יש סוגים שונים של מכונות למטרות שונות.
לדוגמה, קלאסטרים משתמשים ב-n2-standard-4-gdc לעומסי עבודה כלליים של קונטיינרים. אם אתם מתכננים להריץ מחברות (notebooks) של בינה מלאכותית (AI) ולמידת מכונה (ML), אתם צריכים להקצות מכונות GPU, כמו a2-highgpu-1g-gdc.
בהמשך מופיעה רשימה של כל סוגי המכונות המוגדרים מראש ב-GDC שזמינים לצמתי עובדים באשכול Kubernetes:
| שם | מעבדים וירטואלים | זיכרון | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | לא רלוונטי |
| n2-standard-8-gdc | 8 | 32G | לא רלוונטי |
| n2-standard-16-gdc | 16 | 64G | לא רלוונטי |
| n2-standard-32-gdc | 32 | 128G | לא רלוונטי |
| n2-highmem-4-gdc | 4 | 32G | לא רלוונטי |
| n2-highmem-8-gdc | 8 | 64G | לא רלוונטי |
| n2-highmem-16-gdc | 16 | 128G | לא רלוונטי |
| n2-highmem-32-gdc | 32 | 256G | לא רלוונטי |
| n2-highcpu-8-gdc | 8 | 8G | לא רלוונטי |
| n3-standard-4-gdc | 4 | 16G | לא רלוונטי |
| n3-standard-8-gdc | 8 | 32G | לא רלוונטי |
| n3-standard-16-gdc | 16 | 64G | לא רלוונטי |
| n3-standard-32-gdc | 32 | 128G | לא רלוונטי |
| n3-standard-64-gdc | 64 | 256G | לא רלוונטי |
| n3-standard-80-gdc | 80 | 320G | לא רלוונטי |
| n4-highmem-4-gdc | 4 | 32G | לא רלוונטי |
| n4-highmem-8-gdc | 8 | 64G | לא רלוונטי |
| n4-highmem-16-gdc | 16 | 128G | לא רלוונטי |
| n4-highmem-32-gdc | 32 | 256G | לא רלוונטי |
| n4-highmem-48-gdc | 48 | 384G | לא רלוונטי |
| n4-highmem-64-gdc | 64 | 512G | לא רלוונטי |
| n4-highmem-80-gdc | 80 | 640G | לא רלוונטי |
| n4-megamem-64-gdc | 64 | 896G | לא רלוונטי |
| a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40GB |
| a2-ultragpu-1g-gdc | 12 | 170G | 1x A100 80GB |
| a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94GB |
| a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
| a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
| a3-ultragpu-8g-gdc | 224 | 1792G | 8x H200 141GB |
| a4-ultragpu-8g-gdc | 224 | 3584G | 8x B300 |
פרופילי MIG נתמכים
בקטע הזה מוגדרות סכימות החלוקה הנתמכות של פרופילי MIG במעבדי GPU נתמכים. אתם יכולים להגדיר תוכנית חלוקה למחיצות עבור מאגר צמתים במשאב המותאם אישית Cluster.
מידע נוסף על החלת סכמת חלוקה של GPU זמין במאמר בנושא הוספת מאגר צמתים.
A100 40GB GPU
בטבלה הבאה מפורטים פרופילי ה-MIG הנתמכים במעבד הגרפי A100 40GB NVIDIA:
| Partitioning Scheme | מחיצות זמינות |
|---|---|
| 1g.5gb | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3x 2g.10gb 1x 1g.5gb |
| mixed-7 | 2x 2g.10gb 3x 1g.5gb |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
A100 80GB GPU
בטבלה הבאה מוגדרים פרופילי ה-MIG הנתמכים במעבד הגרפי A100 80GB NVIDIA:
| Partitioning Scheme | מחיצות זמינות |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3g.40gb |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
H100 94GB GPU
בטבלה הבאה מוגדרים פרופילי ה-MIG הנתמכים ב-GPU H100 94GB NVIDIA:
| Partitioning Scheme | מחיצות זמינות |
|---|---|
| 1g.12gb | 7x 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1x 7g.94gb |
| mixed-1 | 1x 4g.47gb 1x 3g.47gb |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1x 4g.47gb 3x 1g.12gb |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3x 2g.24gb 1x 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |
H200 141GB GPU
בטבלה הבאה מפורטים פרופילי ה-MIG הנתמכים ב-GPU של NVIDIA H200 בנפח 141GB:
| Partitioning Scheme | מחיצות זמינות |
|---|---|
| 1g.18gb | 7x 1g.18gb |
| 1g.35gb | 4x 1g.35gb |
| 2g.35gb | 3x 2g.35gb |
| 3g.71gb | 2x 3g.71gb |
| 4g.71gb | 1x 4g.71gb |
| 7ז.141GB | 1x 7g.141gb |
| mixed-1 | 1x 4g.71gb 1x 3g.71gb |
| mixed-2 | 1x 4g.71gb 1x 2g.35gb 1x 1g.18gb |
| mixed-3 | 1x 4g.71gb 3x 1g.18gb |
| mixed-4 | 1x 3g.71gb 2x 2g.35gb |
| mixed-5 | 1x 3g.71gb 1x 2g.35gb 2x 1g.18gb |
| mixed-6 | 1x 3g.71gb 4x 1g.18gb |
| mixed-7 | 3x 2g.35gb 1x 1g.18gb |
| mixed-8 | 2x 2g.35gb 3x 1g.18gb |
| mixed-9 | 1x 2g.35gb 5x 1g.18gb |
B300 GPU
בטבלה הבאה מוגדרים פרופילי ה-MIG שנתמכים ב-GPU מסוג B300 NVIDIA:
| Partitioning Scheme | מחיצות זמינות |
|---|---|
| 1g.34gb | 7x 1g.34gb |
| 1g.67gb | 4x 1g.67gb |
| 2g.67gb | 3x 2g.67gb |
| 3g.135gb | 2x 3g.135gb |
| 4g.135gb | 1x 4g.135gb |
| 7g.269gb | 1x 7g.269gb |
| mixed-1 | 1x 4g.135gb 1x 3g.135gb |
| mixed-2 | 1x 4g.135gb 1x 2g.67gb 1x 1g.34gb |
| mixed-3 | 1x 4g.135gb 3x 1g.34gb |
| mixed-4 | 1x 3g.135gb 2x 2g.67gb |
| mixed-5 | 1x 3g.135gb 1x 2g.67gb 2x 1g.34gb |
| mixed-6 | 1x 3g.135gb 4x 1g.34gb |
| mixed-7 | 3x 2g.67gb 1x 1g.34gb |
| mixed-8 | 2x 2g.67gb 3x 1g.34gb |
| mixed-9 | 1x 2g.67gb 5x 1g.34gb |