Gemini Enterprise Agent Platform מספקת שירות אימון מנוהל שעוזר לכם להפעיל אימון של מודלים בהיקף גדול. אתם יכולים להשתמש ב-Gemini Enterprise Agent Platform כדי להריץ אפליקציות אימון שמבוססות על כל מסגרת של למידת מכונה (ML) בתשתית שלGoogle Cloud . בנוסף, ל-Gemini Enterprise Agent Platform יש תמיכה משולבת במסגרות הפופולריות הבאות של למידת מכונה, שמפשטת את תהליך ההכנה להדרכה ולהצגה של מודלים:
בדף הזה מוסבר על היתרונות של אימון בלי שרת (serverless) ב-Gemini Enterprise Agent Platform, על תהליך העבודה ועל אפשרויות האימון השונות שזמינות.
Gemini Enterprise Agent Platform מאפשרת להפעיל הדרכות בקנה מידה גדול
יש כמה אתגרים בהפיכת אימון מודלים לפעולה. האתגרים האלה כוללים את הזמן והעלות שנדרשים לאימון מודלים, את רמת המיומנויות שנדרשת לניהול תשתית המחשוב ואת הצורך לספק אבטחה ברמת הארגון. Gemini Enterprise Agent Platform נותנת מענה לאתגרים האלה ומספקת מגוון יתרונות נוספים.
תשתית מחשוב מנוהלת באופן מלא
|
אימון מודלים ב-Gemini Enterprise Agent Platform הוא שירות מנוהל במלואו שלא דורש ניהול של תשתית פיזית. אתם יכולים לאמן מודלים של למידת מכונה בלי לספק או לנהל שרתים. התשלום הוא רק על משאבי המחשוב שבהם אתם משתמשים. Gemini Enterprise Agent Platform גם מטפל ברישום ביומן, בהוספה לתור ובמעקב של משימות. |
ביצועים גבוהים
|
משימות האימון של Gemini Enterprise Agent Platform מותאמות לאימון מודלים של למידת מכונה, ולכן הן יכולות לספק ביצועים מהירים יותר מאשר הרצה ישירה של אפליקציית האימון באשכול Google Kubernetes Engine (GKE). אפשר גם לזהות צווארי בקבוק בביצועים של משימת האימון ולנפות באגים באמצעות Cloud Profiler. |
אימון מבוזר
|
Reduction Server הוא אלגוריתם all-reduce בפלטפורמת הסוכנים של Gemini Enterprise, שיכול להגדיל את התפוקה ולהפחית את זמן האחזור של אימון מבוזר מרובה צמתים במעבדים גרפיים (GPU) של NVIDIA. האופטימיזציה הזו עוזרת לקצר את הזמן ולצמצם את העלות של השלמת משימות אימון גדולות. |
אופטימיזציה של היפר-פרמטרים
|
משימות כוונון של היפר-פרמטרים מריצות כמה ניסיונות של אפליקציית האימון באמצעות ערכים שונים של היפר-פרמטרים. מגדירים טווח של ערכים לבדיקה, ו-Gemini Enterprise Agent Platform מוצא את הערכים האופטימליים למודל בטווח הזה. |
אבטחה לארגונים
|
Gemini Enterprise Agent Platform מספקת את תכונות האבטחה הארגוניות הבאות:
|
שילובים של פעולות למידת מכונה (MLOps)
|
Gemini Enterprise Agent Platform מספקת חבילה של תכונות וכלים משולבים של MLOps שבהם אפשר להשתמש למטרות הבאות:
|
תהליך העבודה לאימון בלי שרת (serverless)
הדיאגרמה הבאה מציגה סקירה כללית של תהליך העבודה של אימון ללא שרת (serverless) ב-Gemini Enterprise Agent Platform. בקטעים הבאים מפורט כל שלב.
טעינה והכנה של נתוני אימון
כדי להשיג את הביצועים הטובים ביותר ולקבל תמיכה, מומלץ להשתמש באחד מהשירותים הבאים Google Cloud כמקור הנתונים:
- Cloud Storage
- BigQuery
- מערכות קבצים עם רמת ביצועים גבוהה, כמו שיתופי NFS ב-Google Cloud באמצעות שירותים כמו Google Cloud NetApp Volumes או Filestore.
כאן אפשר לראות השוואה בין השירותים האלה.
אפשר גם לציין מערך נתונים מנוהל של פלטפורמת הסוכנים של Gemini Enterprise כמקור הנתונים כשמשתמשים בצינור אימון כדי לאמן את המודל. אימון של מודל בהתאמה אישית ומודל AutoML באמצעות אותו מערך נתונים מאפשר להשוות את הביצועים של שני המודלים.
הכנת בקשת ההדרכה
כדי להכין את אפליקציית האימון לשימוש ב-Gemini Enterprise Agent Platform, צריך לבצע את הפעולות הבאות:
- יישום שיטות מומלצות לקוד אימון ב-Gemini Enterprise Agent Platform.
- קובעים באיזה סוג של קובץ אימג' של קונטיינר רוצים להשתמש.
- אורזים את אפליקציית האימון בפורמט נתמך בהתאם לסוג קובץ האימג' של הקונטיינר שנבחר.
שימוש בשיטות מומלצות בקוד ההדרכה
אפליקציית האימון צריכה להטמיע את השיטות המומלצות לכתיבת קוד אימון ל-Gemini Enterprise Agent Platform. השיטות המומלצות האלה מתייחסות ליכולת של אפליקציית האימון לבצע את הפעולות הבאות:
- גישה אל Google Cloud שירותים
- טוענים את נתוני הקלט.
- הפעלת רישום אוטומטי ביומן למעקב אחר ניסויים.
- ייצוא פריטי מידע שנוצרו בתהליך הפיתוח (Artifact) של המודל.
- משתמשים במשתני הסביבה של Gemini Enterprise Agent Platform.
- מוודאים שיש עמידות להפעלות מחדש של מכונות וירטואליות.
בחירת סוג מאגר
Gemini Enterprise Agent Platform מריץ את אפליקציית האימון שלכם בקובץ אימג' של קונטיינר של Docker. קובץ אימג' של קונטיינר Docker הוא חבילת תוכנה עצמאית שכוללת קוד וכל יחסי התלות, שאפשר להריץ כמעט בכל סביבת מחשוב. אתם יכולים לציין את ה-URI של קובץ אימג' של קונטיינר שנבנה מראש שבו תרצו להשתמש, או ליצור קובץ אימג' של קונטיינר בהתאמה אישית ולהעלות אותו. בקובץ הזה מותקנים מראש האפליקציה והתלות שלכם.
בטבלה הבאה מוצגים ההבדלים בין תמונות קונטיינר מוכנות מראש לבין תמונות קונטיינר בהתאמה אישית:
| מפרטים | קובצי אימג' מוכנים מראש של קונטיינרים | קובצי אימג' של קונטיינרים בהתאמה אישית |
|---|---|---|
| מסגרת ML | כל קובץ אימג' של קונטיינר ספציפי ל-framework של ML. | אפשר להשתמש בכל מסגרת ML או לא להשתמש באף אחת. |
| גרסת מסגרת ML | כל קובץ אימג' של קונטיינר ספציפי לגרסה של מסגרת ML. | אפשר להשתמש בכל גרסה של מסגרת למידת מכונה, כולל גרסאות משניות וגרסאות build יומיות. |
| תלות באפליקציה | יחסי תלות נפוצים של מסגרת למידת המכונה מותקנים מראש. אתם יכולים לציין יחסי תלות נוספים להתקנה באפליקציית האימון. | מבצעים התקנה מראש של התלויות שאפליקציית האימון צריכה. |
| פורמט מסירת האפליקציה |
|
מתקינים מראש את אפליקציית האימון בקובץ האימג' המותאם אישית של הקונטיינר. |
| משך ההגדרה | נמוכה | גבוהה |
| מומלץ ל | אפליקציות לאימון ב-Python שמבוססות על מסגרת למידת מכונה ועל גרסת מסגרת שיש לה קובץ אימג' של קונטיינר מוכן מראש. |
|
אריזת אפליקציית האימון
אחרי שקובעים את סוג קובץ האימג' של קונטיינר שבו רוצים להשתמש, צריך לארוז את אפליקציית האימון באחד מהפורמטים הבאים, בהתאם לסוג קובץ האימג' של קונטיינר:
קובץ Python יחיד לשימוש במאגר שנוצר מראש
כותבים את אפליקציית האימון כקובץ Python יחיד ומשתמשים ב-Agent Platform SDK for Python כדי ליצור מחלקה מסוג
CustomJobאוCustomTrainingJob. קובץ ה-Python נארז בהפצת מקור של Python ומועתק לקובץ אימג' של קונטיינר שנבנה מראש. העברת אפליקציית האימון כקובץ Python יחיד מתאימה ליצירת אב טיפוס. בדרך כלל, אפליקציות אימון בסביבת ייצור מחולקות ליותר מקובץ אחד.הפצה של קוד מקור של Python לשימוש בקונטיינר מוכן מראש
אורזים את אפליקציית האימון בהפצות של קוד מקור ב-Python ומעלים אותן לקטגוריה של Cloud Storage. Gemini Enterprise Agent Platform מתקינה את הפצות המקור בקובץ אימג' של קונטיינר מוכן מראש כשיוצרים משימת אימון.
קובץ אימג' של קונטיינר בהתאמה אישית
יוצרים קובץ אימג' משלכם של קונטיינר Docker עם אפליקציית האימון והתלויות שהותקנו מראש, ומעלים אותו ל-Artifact Registry. אם אפליקציית האימון שלכם כתובה ב-Python, תוכלו לבצע את השלבים האלה באמצעות פקודה אחת של Google Cloud CLI.
הגדרת משימת אימון
משימת אימון ב-Gemini Enterprise Agent Platform מבצעת את הפעולות הבאות:
- הכלי מקצה מכונה וירטואלית אחת (אימון של צומת יחיד) או יותר (אימון מבוזר).
- מריצה את אפליקציית האימון בקונטיינרים במכונות הווירטואליות שהוקצו.
- מחיקת מכונות וירטואליות אחרי שפעולת האימון מסתיימת.
Gemini Enterprise Agent Platform מציעה שלושה סוגים של משימות אימון להפעלת אפליקציית האימון:
-
משימה בהתאמה אישית (
CustomJob) מריצה את אפליקציית האימון. אם משתמשים בקובץ אימג' של קונטיינר שנבנה מראש, פלט הארטיפקטים של המודל מועבר לקטגוריית Cloud Storage שצוינה. במקרה של קובצי אימג' מותאמים אישית של קונטיינרים, אפליקציית האימון יכולה גם להפיק פלט של ארטיפקטים של המודל למיקומים אחרים. -
משימת כוונון של היפר-פרמטרים (
HyperparameterTuningJob) מריצה כמה ניסויים של אפליקציית האימון באמצעות ערכים שונים של היפר-פרמטרים, עד שהיא יוצרת ארטיפקטים של מודל עם ערכי ההיפר-פרמטרים האופטימליים. מציינים את טווח הערכים של ההיפרפרמטרים שרוצים לבדוק ואת המדדים שרוצים לבצע אופטימיזציה שלהם. -
צינור אימון (
CustomTrainingJob) מריץ משימה מותאמת אישית או משימת כוונון של היפר-פרמטרים, ובאופן אופציונלי מייצא את ארטיפקטים של המודל ל-Gemini Enterprise Agent Platform כדי ליצור משאב מודל. אתם יכולים לציין מערך נתונים שמנוהל על ידי פלטפורמת הסוכנים של Gemini Enterprise כמקור הנתונים.
כשיוצרים משימת אימון, מציינים את משאבי המחשוב שבהם רוצים להשתמש כדי להריץ את אפליקציית האימון, ומגדירים את הגדרות הקונטיינר.
הגדרות מחשוב
מציינים את משאבי החישוב שבהם רוצים להשתמש למשימת אימון. Gemini Enterprise Agent Platform תומכת באימון של צומת יחיד, שבו משימת האימון מורצת במכונה וירטואלית אחת, ובאימון מבוזר, שבו משימת האימון מורצת בכמה מכונות וירטואליות.
אלה משאבי המחשוב שאפשר לציין למשימת האימון:
VM machine type
סוגים שונים של מכונות מציעים מעבדים שונים, גודל זיכרון ורוחב פס שונים.
יחידות לעיבוד גרפי (GPU)
אפשר להוסיף יחידת GPU אחת או יותר למכונות וירטואליות מסוג A2 או N1. אם אפליקציית האימון שלכם מיועדת לשימוש ב-GPU, הוספת GPU יכולה לשפר משמעותית את הביצועים.
יחידות לעיבוד טנסורים (TPU)
יחידות TPU מיועדות במיוחד להאצת עומסי עבודה של למידת מכונה. כשמשתמשים ב-TPU VM לאימון, אפשר לציין רק מאגר עובדים אחד. למאגר העובדים הזה יכולה להיות רק רפליקה אחת.
דיסקים לאתחול
אפשר להשתמש בכונני SSD (ברירת מחדל) או בכונני HDD לדיסק האתחול. אם אפליקציית האימון קוראת וכותבת לדיסק, שימוש בכונני SSD יכול לשפר את הביצועים. אפשר גם לציין את הגודל של דיסק האתחול על סמך כמות הנתונים הזמניים שאפליקציית האימון כותבת לדיסק. גודל דיסקי ההפעלה יכול להיות בין 100GiB (ברירת מחדל) ל-64,000GiB. כל המכונות הווירטואליות במאגר העובדים צריכות להשתמש באותו סוג וגודל של דיסק אתחול.
הגדרות של קונטיינרים
הגדרות הקונטיינר שצריך לבצע תלויות בשאלה אם משתמשים בקובץ אימג' של קונטיינר שנבנה מראש או בקובץ אימג' מותאם אישית.
תצורות מוכנות מראש של קונטיינרים:
- מציינים את ה-URI של קובץ אימג' של קונטיינר המוכנה מראש שבה רוצים להשתמש.
- אם אפליקציית האימון שלכם ארוזה כהפצה של מקור Python, מציינים את ה-URI של Cloud Storage שבו נמצאת החבילה.
- מציינים את מודול נקודת הכניסה של אפליקציית ההדרכה.
- אופציונלי: מציינים רשימה של ארגומנטים בשורת הפקודה שיועברו למודול של נקודת הכניסה של אפליקציית האימון.
הגדרות מותאמות אישית של מאגר תגים:
- מציינים את ה-URI של קובץ האימג' של הקונטיינר בהתאמה אישית, שיכול להיות URI מ-Artifact Registry או מ-Docker Hub.
- אופציונלי: אפשר לבטל את ההוראות
ENTRYPOINTאוCMDבקובץ אימג' של קונטיינר.
יצירת משימת אימון
אחרי שמכינים את הנתונים ואת אפליקציית האימון, מריצים את אפליקציית האימון על ידי יצירת אחת ממשימות האימון הבאות:
כדי ליצור את משימת האימון, אפשר להשתמש במסוף Google Cloud , ב-Google Cloud CLI, ב-Agent Platform SDK for Python או ב-Agent Platform API.
(אופציונלי) ייבוא של ארטיפקטים של מודלים ל-Gemini Enterprise Agent Platform
אפליקציית האימון כנראה תוציא פלט של פריט מידע אחד או יותר של המודל למיקום שצוין, בדרך כלל קטגוריה של Cloud Storage. כדי לקבל היקשים ב-Gemini Enterprise Agent Platform מארטיפקטים של מודלים, קודם צריך לייבא את הארטיפקטים של המודלים ל-Gemini Enterprise Agent Platform מרשם המודלים.
בדומה לתמונות של קונטיינרים לאימון, Gemini Enterprise Agent Platform מאפשרת לכם לבחור אם להשתמש בתמונות של קונטיינרים שנוצרו מראש או בתמונות של קונטיינרים בהתאמה אישית להסקת מסקנות. אם יש קובץ אימג' של קונטיינר מוכן מראש להסקת מסקנות עבור ה-ML framework וגרסת ה-framework שלכם, מומלץ להשתמש בקובץ אימג' של קונטיינר מוכן מראש.
המאמרים הבאים
- קבלת מסקנות מהמודל.
- הערכת המודל.
- מומלץ לנסות את המדריך Hello serverless training לקבלת הוראות מפורטות לאימון מודל לסיווג תמונות של TensorFlow Keras ב-Gemini Enterprise Agent Platform.