החל מיולי 2026, תוספי gIB NCCL משולבים ישירות בקונטיינרים של NVIDIA NGC ללמידה עמוקה, ומספקים חוויה מוכנה לשימוש שמאפשרת להשיג את הביצועים הצפויים לפעולות משותפות בפלטפורמות של מעבדים גרפיים (GPU) בלי צורך בהגדרה או בכוונון ידניים. Google Cloud
סקירה כללית של השילוב
תמונות הבסיס המשולבות של NGC כוללות את פרטי המידע הבאים שנוצרו בתהליך של פיתוח (Artifact):
- תוסף סביבה: מאמת אוטומטית את Google Cloud המיקום ומזהה את פרופיל החומרה הספציפי (כמו H200 או GB200) כדי להחיל באופן דינמי את משתני הסביבה האופטימליים בזמן הריצה.
- תוסף רשת (gIB): מספק ריבוי נתיבים ברמת האורח להעברות נקודה לנקודה עם ביצועים גבוהים ואיזון עומסים משופר ברשתות של Google.
- פלאגין Tuner: מבצע אופטימיזציה דינמית של פעולות תקשורת קולקטיביות, במיוחד עבור Google Cloud טופולוגיות של חומרה בהיקף גדול.
- Profiler plugin (CoMMA): תכונות טלמטריה ופרופילים מתקדמים כדי לזהות מקרים שבהם עומס העבודה לא מתקדם ולזהות תהליכי NCCL תקועים.
התוספים מזהים מתי הם פועלים בפלטפורמות נתמכות של Google Cloud ומגדירים את עצמם באופן אוטומטי, ובמקביל חוזרים לתצורות סטנדרטיות בסביבות לא נתמכות.
התוספים המשולבים של gIB NCCL מבוססים על אותו קוד שהיה זמין בעבר רק כקובצי אימג' לקונטיינרים של Docker או כחבילות .deb ו-.rpm. מידע נוסף על חבילות עצמאיות זמין בהערות המוצר לארכיטקטורות x86 ו-ARM64.
הקונטיינרים של NGC כוללים את הפלאגינים של gIB בגרסה 1.1.2 ואילך.
יתרונות
אם משתמשים בקונטיינרים של NVIDIA NGC עם התוספים המוטמעים Google Cloud , אפשר לצפות לדברים הבאים:
- הפעלה חלקה: ביצועים מיידיים בכל פלטפורמות ה-GPU הנתמכות Google Cloud ללא הגדרה מורכבת.
- ביצועים אופטימליים: זיהוי אוטומטי של סביבה פנימית מבטיח רוחב פס וזמן אחזור אופטימליים כבר מההתחלה.
- אבחון מוכן: לקוח טלמטריה מתקדם מובנה, שעוזר לתמיכה של Google לסייע לכם בצורה טובה יותר.
פלטפורמות נתמכות
הקונטיינרים של NGC עם תוספים של gIB NCCL תומכים בסוגי המכונות הבאים:Google Cloud
- A3 Ultra (H200)
- A4 (B200)
- A4X (GB200)
- A4X Max (GB300)