Model Garden היא ספרייה של מודלים של AI/ML שעוזרת לכם לגלות, לבדוק, להתאים אישית ולפרוס מודלים ונכסים מ-Google ומשותפים של Google.
היתרונות של Model Garden
כשעובדים עם מודלים של AI, יש ל-Model Garden את היתרונות הבאים:
- כל המודלים הזמינים מקובצים במיקום אחד
- Model Garden מספק תבנית פריסה עקבית לסוגים שונים של מודלים
- Model Garden מספק שילוב מובנה עם חלקים אחרים של Gemini Enterprise Agent Platform, כמו כוונון מודלים, הערכה והצגה
- יכול להיות קשה להפעיל מודלים של AI גנרטיבי – Gemini Enterprise Agent Platform מטפלת בפריסה ובהפעלה של מודלים בשבילכם
עיון במודלים
כדי לראות את רשימת המודלים הזמינים של Gemini Enterprise Agent Platform ושל מודלים בסיסיים בקוד פתוח, מודלים שניתנים להתאמה ומודלים ספציפיים למשימות, עוברים לדף Model Garden במסוףGoogle Cloud .
קטגוריות המודלים שזמינות ב-Model Garden הן:
| קטגוריה | תיאור |
|---|---|
| למודלים בסיסיים | מודלים גדולים שאומנו מראש לביצוע משימות רבות, שאפשר לכוונן או להתאים אישית למשימות ספציפיות באמצעות Agent Studio, Agent Platform API ו-Agent Platform SDK. |
| מודלים שאפשר לבצע בהם כוונון עדין | מודלים שאפשר לבצע בהם התאמה עדינה באמצעות מחברת מותאמת אישית או צינור נתונים. |
| פתרונות ספציפיים למשימות | רוב המודלים המוכנים מראש האלה מוכנים לשימוש. אפשר להתאים אישית הרבה מהם באמצעות נתונים משלכם. |
כדי לסנן מודלים בחלונית המסננים, מציינים את הפרטים הבאים:
- משימות: לוחצים על המשימה שרוצים שהמודל יבצע.
- אוספים של מודלים: לוחצים כדי לבחור מודלים שמנוהלים על ידי Google, שותפים או אתם.
- ספקים: לוחצים על הספק של המודל.
- תכונות: לוחצים על התכונות שרוצים להוסיף למודל.
כדי לקבל מידע נוסף על כל מודל, לוחצים על כרטיס המודל שלו.
סריקת אבטחה של מודלים
Google מבצעת בדיקות מקיפות ובדיקות השוואה (benchmarking) על הקונטיינרים של הצגת המודעות והתאמתן שאנחנו מספקים. בדיקת נקודות חולשה פעילה מוחלת גם על ארטיפקטים של קונטיינרים.
מודלים של צד שלישי משותפים נבחרים עוברים סריקות של נקודות ביקורת במודל כדי לוודא שהם אותנטיים. מודלים של צד שלישי מ-HuggingFace Hub נסרקים ישירות על ידי HuggingFace ועל ידי סורק של צד שלישי שלהם כדי לאתר תוכנות זדוניות, קובצי pickle, שכבות Keras Lambda וסודות. מודלים שסריקות כאלה מזהות כלא בטוחים מסומנים על ידי HuggingFace ונחסמים מפריסה ב-Model Garden. מודלים שנחשבים לחשודים או שיש להם יכולת להריץ קוד מרחוק מסומנים ב-Model Garden, אבל עדיין אפשר לפרוס אותם. מומלץ לבצע בדיקה יסודית של כל מודל חשוד לפני שמפעילים אותו ב-Model Garden.
תמחור
עבור מודלים בקוד פתוח ב-Model Garden, אתם מחויבים על השימוש ב-Gemini Enterprise Agent Platform באופן הבא:
- Model tuning: אתם מחויבים על משאבי המחשוב שבהם נעשה שימוש באותו תעריף כמו באימון מותאם אישית. מידע על תמחור של הדרכות בהתאמה אישית
- Model deployment: אתם מחויבים על משאבי החישוב שמשמשים לפריסת המודל בנקודת קצה. כאן אפשר לראות את התמחור של התחזיות.
- Colab Enterprise: אפשר לעיין בתמחור של Colab Enterprise.
שליטה בגישה למודלים ספציפיים
אתם יכולים להגדיר מדיניות ארגונית של Model Garden ברמת הארגון, התיקייה או הפרויקט כדי לשלוט בגישה למודלים ספציפיים ב-Model Garden. לדוגמה, אתם יכולים לאפשר גישה למודלים ספציפיים שבדקתם ולחסום את הגישה לכל שאר המודלים.
מידע נוסף על Model Garden
מידע נוסף על אפשרויות הפריסה וההתאמות האישיות שאפשר לבצע במודלים ב-Model Garden זמין במקורות המידע שבקטעים הבאים.
פריסה והצגה
מידע נוסף על התאמה אישית של פריסות ועל תכונות מתקדמות של הצגת מודעות
- פריסה של מודל קוד פתוח והצגה שלו באמצעות Python SDK, CLI, REST API או מסוף
- סרטון ב-YouTube בנושא פריסה ושיפור של Gemma 3 ב-Model Garden
- פריסת Gemma ויצירת תחזיות
- הצגת מודלים פתוחים באמצעות קונטיינר Hex-LLM ב-Cloud TPU
- פריסת מודלים של Llama באמצעות מחברת הדרכה של Hex-LLM
- שימוש במטמון של קידומות ובפענוח ספקולטיבי עם Hex-LLM או מחברת הדרכה של vLLM
- הצגת Gemma 2 עם כמה מתאמי LoRA באמצעות HuggingFace DLC ללימוד הסקת מסקנות ב-PyTorch ב-Medium
- שימוש בכינויים מותאמים אישית כדי להכניס לשימוש בסביבת הייצור את PaliGemma ליצירת כיתוב לתמונות באמצעות HuggingFace DLC למדריך היקש של PyTorch ב-לינקדאין
- פריסה והכנסה לשימוש בסביבת הייצור של מודל HuggingFace
- שימוש בקונטיינר של xDiT GPU לצורך יצירת תמונות וסרטונים
- שימוש ב-vLLM כדי להכניס לשימוש בסביבת הייצור מודלים של שפה שמבוססים על טקסט בלבד ומודלים של שפה מרובת מודלים במעבדים גרפיים ל-Cloud
- פריסה והפעלה של מודל שמשתמש במכונות וירטואליות מסוג Spot או במחברת הדרכה בנושא הזמנה ב-Compute Engine
כוונון
מידע נוסף על כוונון מודלים כדי להתאים את התשובות לתרחישים ספציפיים לדוגמה.
- נוטבוק הדרכה לכוונון עדין של Workbench
- מדריך לשיפור הדיוק והערכה של מודלים ב-Notebook
- פריסה וכוונון עדין של Gemma 3 בסרטון ב-YouTube בנושא Model Garden
הערכה
מידע נוסף על הערכת תשובות של מודלים באמצעות Agent Platform
מקורות מידע נוספים
- מחברות Model Garden ספציפיות למודלים ולמסלולים להמרת לקוחות
- מחברות (notebooks) של Gemini Enterprise Agent Platform לפרסום מודלים פתוחים, לכוונון עדין ולהערכה