סקירה כללית על יצירת אשכול

במאמר הזה מוסבר איך ליצור אשכול לעומסי עבודה של AI ב-AI Hypercomputer. באופן ספציפי, במאמר הזה מוסבר על התהליך ועל האפשרויות שצריך לבחור כשמתחילים להשתמש באשכול.

לפני שמתחילים

  • צריך שתהיה לכם עומס עבודה קיים שאתם רוצים לתמוך בו.

  • אתם צריכים להכיר את המינוח הנפוץ לעומסי עבודה של AI ו-ML, כמו אימון מודלים והסקת מסקנות.

הפעלת אשכול

כדי להפעיל אשכול, צריך לבצע את השלבים הבאים:

  1. קביעת עומס העבודה ובחירת סוג המכונה
  2. בחירת אפשרות צריכה וקבלת קיבולת
  3. בחירת אפשרות פריסה
  4. בחירת כלי לניהול תזמור
  5. בחירת מערכת ההפעלה ותמונת האשכול
  6. יצירת האשכול
  7. הקצאת נפח אחסון לעומס העבודה

קביעת עומס העבודה ובחירת סוג המכונה

בוחרים סוג מכונה לעומס העבודה של ה-AI. ‫AI Hypercomputer תומך ביצירת אשכולות באמצעות סדרות המכונות A4X Max,‏ A4X,‏ A4 ו-A3. כדאי לקחת בחשבון את ההמלצות הבאות לגבי השימוש במכונות:

  • לאימון מודלים בסיסיים ולהסקת מסקנות: A4X Max או A4X

  • לאימון מודלים גדולים, לכוונון עדין ולהסקת מסקנות: A4 או A3 Ultra

  • להסקת מסקנות ממודלים מרכזיים ולכוונון עדין: A3 Mega או A3 High ‏ (8 מעבדי GPU)

  • להסקת מסקנות בהצגת מודעות: A3 Edge

מידע מפורט על כל סדרת מכונות זמין במאמר סוגי מכונות עם GPU. מידע מפורט על המלצות לגבי עומסי עבודה לכל מכונה זמין במאמר הגדרות מומלצות.

בחירת אפשרות צריכה וקבלת קיבולת

בוחרים אפשרות צריכה למשאבי ה-GPU בהתאם לזמינות של עומס העבודה ולסוג המכונה שנבחר. לדוגמה, כדי להשתמש בסוגי המכונות A4X Max או A4X, צריך להזמין קיבולת לתאריך ולשעה ספציפיים באמצעות מודל הצריכה של הזמנות עתידיות. האפשרויות הבאות מסכמות את מודלי הצריכה:

  • הזמנות עתידיות: זמינות לסוגי המכונות A4X Max,‏ A4X,‏ A4 ו-A3 Ultra, עם הקצאת משאבים צפופה והנחה של עד 53% על vCPU ו-GPU. הזמנות עתידיות מתאימות לעומסי עבודה שדורשים יציבות למשך תקופה ממושכת, כמו מודלים בסיסיים לאימון מראש או הסקת מסקנות של מודלים בסיסיים מרובי-מארחים. כדי להשתמש באפשרות הצריכה הזו, עליכם לבקש קיבולת מצוות ניהול החשבון שלכם לתאריך ולשעת התחלה עתידיים.

  • שמירת מקום מראש במצב יומן: זמין לסוגי מכונות A4,‏ A3 Ultra,‏ A3 Mega ו-A3 High (מכונות וירטואליות עם 8 יחידות GPU בלבד), עם הקצאת משאבים צפופה והנחה של עד 53% על vCPU ויחידות GPU. הזמנות עתידיות במצב יומן עוזרות לכם להזמין משאבים לעומסי עבודה שפועלים עד 90 ימים ודורשים יציבות, כמו מודלים של אימון מוקדם או כוונון עדין. עם זאת, כדי להשתמש באפשרות הזו, צריך ליצור בקשה להזמנת משאבים לתאריך ולשעה עתידיים, ו Google Cloud לאשר את הבקשה.

  • הפעלה גמישה: זמין לכל סוגי המכונות עם GPU, למעט A4X Max ו-A4X. התכונה Flex-start מאפשרת ליצור אשכולות קצרים וצפופים שנמשכים עד שבעה ימים, ולקבל הנחות של עד 53% על vCPU ו-GPU לסוגי מכונות A2 ואילך. אפשר ליצור אשכולות עם התחלה גמישה ישירות דרך Compute Engine,‏ Cluster Director,‏ Cluster Toolkit או GKE. עם זאת, אשכולות לא זמינים באופן מיידי. Google יוצרת אותם ברגע שהמשאבים זמינים.

  • ‫Spot: זמין לכל סוגי המכונות עם GPU, למעט A4X Max ו-A4X. מכונות וירטואליות מסוג Spot מאפשרות ליצור משאבי מחשוב באופן מיידי על סמך הזמינות, אבל Compute Engine יכול להפסיק את השימוש במכונות וירטואליות (VM) בכל שלב. המחיר של מכונות וירטואליות מסוג Spot הוא המחיר הכי מוזל שאפשר לקבל ב-Compute Engine (בין 61% ל-90%).

מידע נוסף על אפשרויות הצריכה זמין במאמר השוואה בין אפשרויות הצריכה.

בחירת אפשרות פריסה

בהתאם לרמת השליטה שאתם צריכים על פריסת האשכול, אתם יכולים לבחור בין פריסה מנוהלת מאוד לבין פריסה פחות מנוהלת שמאפשרת לכם יותר שליטה על התשתית.

ניהול מתקדם

אם אתם רוצים ש-Google תפרוס ותגדיר את התשתית שלכם, אתם יכולים להשתמש ב-Cluster Director, ב-Cluster Toolkit או ב-GKE.

  • ‫Cluster Director:Google Cloud מוצר שמבצע אוטומציה של ההגדרה והקביעה המורכבות של תצורת האשכולות, ועוזר לכם להגדיר משאבי מחשוב, רשת ואחסון לאשכולות כדי למקסם את הביצועים ולמזער את זמן ההשבתה. ‫Cluster Director מיועד לאדמינים בתחום ה-IT ולחוקרי AI שרוצים להימנע מהתקורה של ניהול אשכול, ולהתמקד בהרצת עומסי העבודה שלהם.

  • ‫Cluster Toolkit: כלי בקוד פתוח שמוצע על ידי Google ומפשט את ההגדרה והפריסה של אשכולות ב-GKE או ב-Compute Engine. אתם משתמשים בתוכניות מוגדרות מראש כדי לפרוס הגדרות נפוצות, כמו סוגי מכונות A4 עם Slurm. אתם יכולים לשנות את תוכניות הפריסה כדי להתאים אישית את הפריסות ואת חבילת התוכנה שלכם.

  • ‫GKE: שירות Kubernetes מנוהל ופלטפורמה לתזמור קונטיינרים עם קוד פתוח. ‫GKE מציע תכונות כמו התאמה אוטומטית לעומס וזמינות גבוהה. היא גם יכולה לתזמן אפליקציות מבוססות-קונטיינרים, לתמוך בחומרה ייעודית ותואמת למערכת האקולוגית של Google Cloud, ולכן היא מתאימה לפריסה ולניהול של עומסי עבודה של AI או ML. אפשר לפרוס אשכולות GKE באמצעות GKE ישירות או באמצעות Cluster Toolkit. אפשר לבחור בין מצב GKE Standard לבין מצב Autopilot.

פחות ניהול, יותר שליטה

כדי לקבל שליטה מדויקת יותר באשכולות ובתוכנה שמותקנת בהם, אפשר ליצור אשכול Compute Engine באמצעות קבוצות מופעי מכונה מנוהלים (MIG) ב-Compute Engine או באמצעות יצירת מופעים בכמות גדולה. לאחר מכן, מתקינים באופן ידני את כל תוכנת המפתח שצריך במופעים.

בחירת כלי לתזמור

מנהל תזמור אוטומטי מאפשר לנהל את האשכולות באופן אוטומטי. בעזרת כלי תזמור, לא צריך לנהל כל מכונת חישוב באשכול. כלי תזמור, כמו Slurm או GKE, מטפל במשימות כמו הוספה לתור של עבודות, הקצאת משאבים, התאמה אוטומטית לעומס (במקרה של GKE) ומשימות אחרות של ניהול אשכולות באופן יומיומי.

  • ‫Slurm: ‏ Slurm הוא כלי לתזמור בקוד פתוח שמשמש בדרך כלל לעומסי עבודה של HPC,‏ AI או ML. כדי להשתמש ב-Slurm, אפשר להשתמש ב-Cluster Toolkit (שכולל תוכניות לאשכולות שמתקינות את Slurm באשכולות באופן אוטומטי), או להתקין את Slurm באשכול Compute Engine באופן ידני.

  • ‫GKE: ‏ GKE הוא שירות מנוהל שמבוסס על Kubernetes, פלטפורמה לתזמור בין קונטיינרים של קוד פתוח. ‫GKE הוא פתרון אידיאלי לפריסה ולניהול של עומסי עבודה של AI או ML, כי הוא מאפשר תזמור של אפליקציות מבוססות-קונטיינרים, הוא תומך בחומרה ייעודית והוא חלק מהמערכת האקולוגית של Google Cloud Google Cloud. אפשר לפרוס אשכולות GKE ישירות או באמצעות Cluster Toolkit.

  • שימוש באורקסטרטור משלכם: אם אתם רוצים להשתמש באורקסטרטורים אחרים, אתם צריכים להשתמש בהם באשכולות של Compute Engine. עם זאת, יצירת אשכול Compute Engine היא האפשרות הכי פחות מנוהלת שמוצעת ב-Google Cloud. אם תבחרו באפשרות הזו, תהיו אחראים להגדיר, לתחזק ולעדכן את המופעים.

בחירת קובץ אימג' של המערכת

בהתאם לשימוש ב-GKE או ב-Compute Engine, בוחרים תמונה שמכילה את מערכת ההפעלה שנבחרה, כמו מערכת הפעלה שמותאמת לקונטיינרים עבור אשכולות GKE, או תמונה של מערכת הפעלה של מאיץ עבור אשכולות Compute Engine. בנוסף, אפשר גם לבחור תמונה של שכבת תוכנה ללמידה עמוקה (DSLS) עבור הקונטיינרים.

מידע נוסף מופיע במאמר תמונות של AI Hypercomputer.

תמונות לאשכולות GKE

כדי ליצור אשכולות GKE, מומלץ להשתמש בתמונות ברירת המחדל של מערכת ההפעלה של הקונטיינר במצבי Standard ו-Autopilot. עם זאת, במצב רגיל, אפשר גם לבחור להשתמש בתמונות זמינות אחרות, כמו Ubuntu.

אם משתמשים ב-Cluster Toolkit כדי לפרוס את האשכול, אפשר להשתמש רק בקובצי אימג' של מערכת הפעלה של קונטיינר, כי אלה קובצי האימג' שמוטמעים בתוכניות הבסיסיות של האשכול. מידע נוסף על כל תמונת צומת זמין במאמר בנושא תמונות צומת במסמכי התיעוד של GKE.

ב-GKE יש גם תמונות קונטיינר של שכבת תוכנה ללמידה עמוקה (DLSL) שמתקינות חבילות כמו NVIDIA CUDA ו-NCCL, וגם מסגרות ML כמו PyTorch, וכך מספקות סביבה מוכנה לשימוש עבור עומסי עבודה של למידה עמוקה. תמונות הקונטיינרים המוכנות מראש של DLSL נבדקות ומאומתות כדי לוודא שהן פועלות בצורה חלקה באשכולות GKE.

קובצי אימג' של מערכת הפעלה לאשכולות Compute Engine

‫AI Hypercomputer מציע תמונות שעברו אופטימיזציה להרצת עומסי עבודה של AI ו-ML באמצעות Compute Engine. בחר את מערכת ההפעלה שאתה הכי מכיר:

  • ‫Rocky Linux 9 accelerator
  • מאיץ Rocky Linux 8
  • ‫Ubuntu 24.04 LTS accelerator
  • ‫Ubuntu 22.04 LTS accelerator

אם אתם משתמשים ב-Cluster Toolkit, תמונות המאיצים האלה כבר כלולות בתוכניות של Cluster Toolkit, כי Cluster Toolkit יוצר תמונות מותאמות אישית שמרחיבות את תמונות מערכת ההפעלה של Ubuntu LTS Accelerator.

מידע נוסף על כל תמונת מערכת הפעלה זמין במאמר פרטים על מערכת ההפעלה במסמכי התיעוד של Compute Engine.

יצירת האשכול

אחרי שבודקים את תהליך יצירת האשכול ומקבלים החלטות ראשוניות לגבי עומס העבודה, יוצרים את האשכול באמצעות אחת מהאפשרויות הבאות:

הקצאת נפח אחסון לעומס העבודה

בוחרים שירות אחסון להקצאה על סמך דרישות הביצועים, העלות וארכיטקטורת האחסון.