מידע נוסף
במסמכים הבאים מוסברים המונחים שרלוונטיים לנושאים המתאימים:
הסברים על המונחים
התנאים הבאים חלים על AI Hypercomputer.
מאיץ
מכשיר חומרה ייעודי, כמו GPU או TPU, שנועד לבצע משימות ספציפיות, כמו עומסי עבודה של למידת מכונה, בצורה יעילה יותר ממעבד לשימוש כללי.
חסימה של
אוסף של תת-בלוקים שמחוברים ביניהם באמצעות רשת מהירה ללא חסימה, שמספקת רוחב פס גבוה לכל המכונות המארחות בבלוק.
אשכול אוסף של בלוקים שמחוברים ביניהם באמצעות רשת מהירה. כל אשכול הוא ייחודי באופן גלובלי.
במכונות A4X, A4, A3 Ultra, A3 Mega ו-A3 High (עם 8 מעבדי GPU), אשכול מספק רשת משותפת ללא חסימה לבלוקים של קיבולת האצה. בתוך אשכול, תקשורת בין צמתים (תנועה אופקית) לא חוסמת את כל אוסף הבלוקים.
GPU באשכול קטגוריה
של משפחות מכונות ל-GPU, כולל A4X, A4, A3 Ultra, A3 Mega ו-A3 High (8 מעבדי GPU). מעבדי GPU מקובצים מאפשרים לצוותים לפרוס אלפי מאיצים מחוברים ולשנות את קנה המידה שלהם כמערכת יחידה ומקושרת היטב, באמצעות רשתות מיוחדות ותחזוקה מסונכרנת.
הם מתאימים לעומסי עבודה שדורשים מחשוב, זיכרון וסנכרון מהיר של רשתות. תרחישי שימוש נפוצים כוללים אימון מוקדם של מודלי בסיס עם טריליוני פרמטרים, פרסום מודלי פורצי דרך וסימולציות לגילוי תרופות.
תחזוקה דחופה
נקרא לפעמים תחזוקת חירום. אירוע תחזוקה לא מתוכנן שנגרם בגלל בעיה קריטית בחומרה, בתוכנה או באבטחה.
במקרים של סוגי מכונות מאיצות נתמכות, תחזוקה דחופה מספקת התראה מראש במקום שיבוש מיידי. ההתראה הזו מאפשרת לכם להפסיק את העומסים בצורה מסודרת ולהפעיל את התיקון לפני שהמערכת תסיים את פעולת המכונות הווירטואליות.
מעבד גרפי כללי קטגוריה של משפחות מכונות עם GPU, כולל G2, G4, A2, N1+T4 ו-A3 Edge.
מעבדים גרפיים כלליים מאפשרים לצוותים להטמיע ולהרחיב מאיצי NVIDIA עם אוטונומיה תפעולית מלאה, בלי להסתבך עם המורכבות הארכיטקטונית של אשכולות מתואמים של מחשבי-על. הם אידיאליים לעומסי עבודה שבהם יש עדיפות לזמינות גבוהה, להקצאת משאבים בשירות עצמי ולהתאמה לעומס (scaling) באופן עצמאי. תרחישים נפוצים לדוגמה: הסקת מסקנות בזמן אמת, RAG, יצירת אב טיפוס ואימון מודלים קטנים עד בינוניים.
רשת תשתית רשת מהירה שמספקת רוחב פס גבוה וזמן אחזור נמוך בכל הבלוקים Google Cloud והשירותים באשכול. ה-fabric משתמש בארכיטקטורה של רשת Jupiter. כדי לשפר את הביצועים, המערכת משתמשת ברשת מוגדרת באמצעות תוכנה ובמתגים אופטיים.
צומת או מארח
מכונת שרת פיזית אחת במרכז הנתונים. לכל מארח משויכים משאבי מחשוב, כמו מאיצים. המספר וההגדרה של משאבי המחשוב האלה תלויים במשפחת המכונות.
מכונות של Compute Engine מוקצות על גבי מארח פיזי.
דומיין NVLink
דומיין NVLink, שנקרא גם תת-בלוק, הוא יחידת הקיבולת הבסיסית למכונות A4X Max ו-A4X. דומיין NVLink מורכב מ-18 מכונות מסוג A4X Max או A4X (72 יחידות GPU) שמחוברות באמצעות מערכת NVLink מרובת צמתים.
תת-בלוק
קבוצה של מארחים וציוד קישוריות משויך שנמצאים בבלוק פיזי אחד. בהקשר של מכונות A4X Max ו-A4X, בלוק משנה נקרא גם דומיין NVLink.
סופרבלוק
קיבוץ פיזי של מכונות שמחוברות זו לזו במרכזי נתונים. הצבת מכונות בתוך סופר-בלוק מאפשרת להשיג את קצב העברת הנתונים הקיצוני ברשת ואת זמן האחזור של פחות מאלפית השנייה שנדרשים להרצת עומסי עבודה של אימון עם צימוד הדוק.