משאב מתמשך ב-Vertex AI הוא אשכול שפועל לאורך זמן שאפשר ליצור כדי להריץ משימות אימון ללא שרת ב-Vertex AI. אחרי שמשימת אימון מסתיימת, המשאב הקבוע נשאר זמין להרצת משימות אימון אחרות עד שמוחקים אותו. אתם יכולים להשתמש במשאב קבוע כדי להבטיח את הזמינות של משאבי מחשוב וכדי לקצר את זמן ההפעלה של העבודה שנדרש בדרך כלל ליצירת משאבי מחשוב. משאבים קבועים תומכים בכל המכונות הווירטואליות והמעבדים הגרפיים (GPU) שנתמכים על ידי משימות אימון ללא שרת. בדף הזה מוסבר מתי כדאי להשתמש במשאב מתמשך, ומופיע מידע על חיוב ומכסות.
מתי כדאי להשתמש במשאב קבוע
מומלץ להשתמש במשאבים קבועים בתרחישים הבאים:
- רוצים לוודא שהקיבולת תהיה זמינה לעומסי עבודה קריטיים של למידת מכונה או בעונות שיא. בניגוד למשימות בהתאמה אישית, שבהן שירות ההדרכה משחרר את המשאב אחרי שהמשימה מסתיימת, משאב מתמשך נשאר זמין עד שהוא נמחק.
- אתם שולחים את אותה משימה כמה פעמים ויכולים ליהנות מנתונים ומקובץ תמונה במטמון על ידי הרצת המשימות באותו משאב מתמשך.
- אתם מריצים הרבה משימות אימון קצרות, שזמן האימון בפועל שלהן קצר יותר מזמן ההפעלה של המשימה.
למידע נוסף על מתי כדאי להשתמש במשאב מתמשך ולמה, אפשר לקרוא את הפוסט בבלוג Bringing capacity assurance and faster startup times to Vertex AI Training.
פרטי חיוב
החיוב מתבצע על כל משך הזמן שבו משאב מתמשך נמצא במצב פעיל, בלי קשר לשאלה אם משימה פועלת במשאב המתמשך. על כל מופע במאגר המשאבים הקבוע, החיוב הוא לפי שעת ליבה. לא נגבה תשלום בנפרד על כל המשימות שפועלות במשאב מתמשך. החיוב מתבצע רק על המשאב הקבוע.
אם מגדירים שינוי גודל אוטומטי למשאב מתמשך, משלמים רק על המקרים שהוקצו. לדוגמה, אם min-replica-count מוגדר ל-4, תמיד יוקצו מופעים של 4 וזה הסכום המינימלי שתחויבו עליו. אם עומס העבודה גדל, יכול להיות שמאגר המשאבים יגדל עד 6 כדי לעמוד בביקוש המוגבר. לאחר מכן, תחויבו על 6המופעים שהוקצו עד שמאגר המשאבים יצטמצם שוב. כדי להימנע מתשלום על צמתים בלי פעילות, כדאי להשתמש בהתאמה אוטומטית לעומס למשאב הקבוע, או למחוק אותו כשכבר לא צריך אותו. מידע נוסף על התמחור מופיע בקטע מודלים שאומנו בהתאמה אישית בדף התמחור של Vertex AI.
מכסות
השימוש במשאבים מתמשכים נכלל במכסת האימון, לכן חשוב לוודא שיש לכם מכסה מספקת ליצירת משאבים מתמשכים. מידע נוסף על מכסות זמין במאמר מכסות ומגבלות של אימון.
המאמרים הבאים
- יצירה ושימוש במשאב מתמשך
- הרצת משימות אימון במשאב מתמשך.
- קבלת מידע על משאב קבוע
- הפעלה מחדש של משאב מתמשך
- מחיקת משאב מתמשך.