Vertex AI היא פלטפורמה מאוחדת ופתוחה לפיתוח, לפריסה ולשינוי גודל של מודלים של בינה מלאכותית גנרטיבית ולמידת מכונה (ML), ושל אפליקציות AI. הוא מספק גישה ל-Model Garden, שכולל קטלוג נבחר של יותר מ-200 מודלים – כולל מודלים בסיסיים של Google (כמו Gemini) ומבחר מקיף של מודלים פתוחים ומודלים של שותפים – יחד עם תשתית ה-TPU/GPU הבסיסית. Vertex AI תומך בתהליכי עבודה מתקדמים של AI גנרטיבי, וגם בתהליכי עבודה של הסקת מסקנות מ-AI ל-MLOps. הוא מציע כלים של MLOps מקצה לקצה ואמצעי בקרה ברמת הארגון לניהול, לאבטחה ולתאימות.
יכולות מרכזיות של Vertex AI
Vertex AI כולל כלים ושירותים שתומכים ב-AI גנרטיבי, וגם בהסקת מסקנות על ידי AI ובתהליכי עבודה של למידת מכונה.
יכולות מבוססות-AI גנרטיבי
Vertex AI משלב בין ערכת כלים מקיפה לבין כלים מתקדמים של מודלים בסיסיים מבית Google, שבעזרתם אפשר ליצור סוכני AI גנרטיביים ואפליקציות שמוכנים לייצור, באופן הבא:
יצירת הנחיות: מתחילים עם עיצוב הנחיות ב-Vertex AI Studio. Vertex AI Studio כולל כלים לעיצוב הנחיות ולניהול מודלים, שבעזרתם אפשר ליצור אבות טיפוס, לפתח ולפרוס אפליקציות של AI גנרטיבי.
מודלים: Vertex AI Model Garden הוא מרכז מרכזי שמכיל יותר מ-200 מודלים שמוכנים לשימוש בארגונים מבית Google, משותפים מובילים של צד שלישי (כמו Claude של Anthropic) ומאפשרויות פופולריות בקוד פתוח (כמו Llama).
מבחר המודלים הזה כולל את המודלים הבאים:
מודלים של AI גנרטיבי בסיסיים מבית Google:
- Gemini: יכולות מולטימודאליות לטקסט, לתמונות, לסרטונים ולאודיו; ויכולות חשיבה למודלים, כמו Gemini 3 Flash ו-Gemini 3 Pro (עם Nano Banana).
- Imagen ב-Vertex AI: יצירה ועריכה של תמונות.
- Veo ב-Vertex AI: יצירת סרטונים מטקסט ומתמונות.
מודלים של שותפים ומודלים בקוד פתוח: גישה למבחר מובחר של מודלים מובילים כמו Claude של Anthropic, מודלים של Mistral AI ו-Llama עם ביצועים מעולים ביחס למחיר. המודלים האלה זמינים כממשקי מודל כשירות (MaaS) שמנוהלים במלואם.
התאמה אישית של מודלים: התאמת מודלים לעסק כדי ליצור נכסי AI ייחודיים. השיטות האלה כוללות שימוש בנתונים ארגוניים או בחיפוש Google כדי להקטין את הסיכוי להזיות, ושימוש ב-Vertex AI Training לביצוע כוונון עדין מפוקח (SFT) או כוונון יעיל בפרמטרים (PEFT) של מודלים כמו Gemini. מידע נוסף על התאמה אישית של מודלים זמין במאמר מבוא לכוונון.
הערכות של AI גנרטיבי: הערכה והשוואה אובייקטיביות של הביצועים של מודלים וסוכנים באמצעות שירות ההערכה של AI גנרטיבי. כדי להבטיח בטיחות ותאימות, אפשר להטמיע תכונות הגנה בזמן ריצה כמו הגנה מוגברת על המודל כדי לבדוק באופן יזום ולהגן מפני איומים מתפתחים, כמו החדרת הנחיות וזליגת נתונים.
Vertex AI Agent Builder: Vertex AI Agent Builder הוא מערכת טרנספורמציה מלאה שמבוססת על סוכנים. הוא עוזר לכם ליצור סוכני AI, לנהל אותם ולפרוס אותם. אפשר להשתמש ב-Agent Development Kit (ADK) בקוד פתוח כדי ליצור ולתזמר סוכנים, ואז לפרוס אותם ב-Vertex AI Agent Engine מנוהל ובלי שרתים, לשימוש בהיקף גדול בסביבת ייצור. לכל סוכן מוקצית זהות סוכן (חשבון משתמש לניהול זהויות והרשאות גישה) לצורך אבטחה ומסלול ביקורת ברור.
גישה למידע חיצוני: שיפור התשובות של המודל באמצעות חיבור למקורות מהימנים עם הארקה, אינטראקציה עם ממשקי API חיצוניים באמצעות קריאה לפונקציות ואחזור מידע מבסיסי ידע באמצעות RAG.
אתיקה של בינה מלאכותית ובטיחות: שימוש בתכונות בטיחות מובנות לחסימת תוכן פוגעני ולהבטחת שימוש אחראי ב-AI.
מידע נוסף על AI גנרטיבי ב-Vertex AI זמין במסמכי התיעוד בנושא AI גנרטיבי ב-Vertex AI.
יכולות הסקה מבוססת-AI
Vertex AI מספק כלים ושירותים שמתאימים לכל שלב בתהליך העבודה של למידת מכונה:
הכנת נתונים: איסוף, ניקוי וטרנספורמציה של הנתונים.
- אפשר להשתמש ב-notebooks של Vertex AI Workbench כדי לבצע ניתוח נתונים ראשוני (EDA).
- שילוב עם Cloud Storage ו-BigQuery לגישה לנתונים.
- משתמשים ב-Dataproc Serverless Spark לעיבוד נתונים בקנה מידה גדול.
אימון המודל: אימון המודל ללמידת מכונה.
- בוחרים בין AutoML לאימון ללא קוד לבין אימון בהתאמה אישית לשליטה מלאה.
- ניהול והשוואה של הרצות אימון באמצעות Vertex AI Experiments.
- רישום מודלים מאומנים ב-מרשם המודלים של Vertex AI.
- Vertex AI Training מציע אימון ללא שרתים וגם אשכולות אימון.
- אתם יכולים להשתמש באימון ללא שרת ב-Vertex AI כדי להריץ את קוד האימון המותאם אישית לפי דרישה בסביבה מנוהלת. אפשר לעיין ב[סקירה הכללית של אימון ללא שרת ב-Vertex AI][serverless].
- משתמשים באשכולות אימון של Vertex AI למשימות גדולות שדורשות קיבולת מובטחת באשכולות ייעודיים של מאיצים שמורים. מידע נוסף זמין במאמר סקירה כללית על אשכולות אימון ב-Vertex AI.
- אתם יכולים להשתמש ב-Ray ב-Vertex AI כדי להרחיב את עומסי העבודה של Python ושל למידת מכונה באמצעות מסגרת Ray בקוד פתוח באשכול מנוהל ואינטראקטיבי. סקירה כללית על Ray ב-Vertex AI
- שימוש ב-Vertex AI Vizier כדי להתאים היפר-פרמטרים של מודלים במודלים מורכבים של ML.
הערכה ואיטרציה של המודל: הערכה ושיפור של ביצועי המודל.
- כדי להשוות בין מודלים, אפשר להשתמש במדדים של הערכת מודלים.
- שילוב של הערכות בתהליכי עבודה של Vertex AI Pipelines.
הצגת מודלים: פריסה וקבלת מסקנות מהמודל.
- פריסה להסקת מסקנות אונליין באמצעות קונטיינרים מובנים מראש או מותאמים אישית.
- ביצוע הסקת מסקנות באצווה למערכי נתונים גדולים.
- מומלץ להשתמש בזמן ריצה אופטימלי של TensorFlow כדי להפעיל את TensorFlow בצורה יעילה.
- הבנת מסקנות של מודלים באמצעות Vertex Explainable AI.
- הצגת תכונות מ-Vertex AI Feature Store.
- פריסת מודלים שאומנו באמצעות BigQuery ML.
מעקב אחרי מודלים: מעקב אחרי הביצועים של מודלים שנפרסו לאורך זמן.
- שימוש ב-Vertex AI Model Monitoring כדי לזהות הטיה בין אימון להרצה וסחף של היקשים.
כלי MLOps
אוטומציה, ניהול ומעקב של פרויקטים של ML:
- Vertex AI Pipelines: תזמור ואוטומציה של תהליכי עבודה של למידת מכונה כצינורות עיבוד נתונים שאפשר לעשות בהם שימוש חוזר.
- מרשם המודלים של Vertex AI: ניהול מחזור החיים של מודלים של למידת מכונה, כולל ניהול גרסאות ופריסה.
- אימון ללא שרת ב-Vertex AI: הרצת קוד אימון מותאם אישית לפי דרישה בסביבה מנוהלת באופן מלא
- Vertex AI Model Monitoring: מעקב אחרי מודלים שפרסתם כדי לזהות חלוקת נתונים לא מאוזנת וסחף בנתונים, ולשמור על רמת הביצועים.
- Vertex AI Experiments: מעקב וניתוח של ארכיטקטורות שונות של מודלים ושל היפרפרמטרים.
- Vertex AI Feature Store: ניהול והצגה של נתוני תכונות לאימון מודלים או ליצירת תחזיות בזמן אמת.
- Vertex ML Metadata: מעקב וניהול של מטא-נתונים של ארטיפקטים של למידת מכונה.
- אשכולות אימון ב-Vertex AI: אימון משימות בקנה מידה גדול שדורשות קיבולת מובטחת באשכול ייעודי ושמור של מאיצים.
- Ray ב-Vertex AI: שינוי קנה מידה של עומסי עבודה של Python ושל למידת מכונה באמצעות מסגרת Ray בקוד פתוח באשכול מנוהל ואינטראקטיבי.
המאמרים הבאים
- מידע נוסף על AI גנרטיבי ב-Vertex AI
- מידע על תכונות ה-MLOps של Vertex AI
- ממשקים שאפשר להשתמש בהם כדי ליצור אינטראקציה עם Vertex AI.