Model Garden היא ספרייה של מודלים של AI/ML שעוזרת לכם לגלות, לבדוק, להתאים אישית ולפרוס מודלים ונכסים מ-Google ומשותפים של Google.
היתרונות של Model Garden
כשעובדים עם מודלים של AI, Model Garden מספק את היתרונות הבאים:
- כל המודלים הזמינים מקובצים במיקום אחד
- Model Garden מספק תבנית פריסה עקבית לסוגים שונים של מודלים
- Model Garden מספק שילוב מובנה עם חלקים אחרים של Gemini Enterprise Agent Platform, כמו כוונון מודלים, הערכה והצגה
- יכול להיות קשה להפעיל מודלים של AI גנרטיבי – Gemini Enterprise Agent Platform מטפלת בפריסה ובהפעלה של מודלים בשבילכם
עיון במודלים
כדי לראות את רשימת המודלים הזמינים של Gemini Enterprise Agent Platform ושל מודלים בסיסיים בקוד פתוח, מודלים שניתנים להתאמה ומודלים ספציפיים למשימות, עוברים לדף Model Garden במסוףGoogle Cloud .
קטגוריות המודלים שזמינות ב-Model Garden:
| קטגוריה | תיאור |
|---|---|
| למודלים בסיסיים | מודלים גדולים שעברו אימון מראש לביצוע משימות רבות, שאפשר לכוונן או להתאים אישית לביצוע משימות ספציפיות באמצעות Agent Studio, Agent Platform API ו-Agent Platform SDK. |
| מודלים שאפשר לבצע בהם כוונון עדין | מודלים שאפשר לבצע בהם התאמה עדינה באמצעות מחברת בהתאמה אישית או צינור. |
| פתרונות ספציפיים למשימות | רוב המודלים המוכנים מראש האלה מוכנים לשימוש. אפשר להתאים אישית הרבה מהם באמצעות נתונים משלכם. |
כדי לסנן מודלים בחלונית המסננים, מציינים את הפרטים הבאים:
- משימות: לוחצים על המשימה שרוצים שהמודל יבצע.
- אוספים של מודלים: לוחצים כדי לבחור מודלים שמנוהלים על ידי Google, שותפים או אתם.
- ספקים: לוחצים על הספק של המודל.
- תכונות: לוחצים על התכונות שרוצים במודל.
כדי לקבל מידע נוסף על כל מודל, לוחצים על כרטיס המודל שלו.
סריקת אבטחה של מודלים
Google מבצעת בדיקות מקיפות ובדיקות השוואה לקונטיינרים של ההגשה וההתאמה שאנחנו מספקים. בנוסף, מתבצעת סריקה פעילה של נקודות חולשה בארטיפקטים של הקונטיינרים.
מודלים של צד שלישי משותפים של שותפים נבחרים עוברים סריקות של נקודות ביקורת כדי לוודא את האותנטיות שלהם. מודלים של צד שלישי מ-HuggingFace Hub נסרקים ישירות על ידי HuggingFace והסורק של צד שלישי שלהם כדי לאתר תוכנות זדוניות, קובצי pickle, שכבות Keras Lambda וסודות. מודלים שנחשבים לא בטוחים אחרי הסריקות האלה מסומנים על ידי HuggingFace ונחסמים מפריסה ב-Model Garden. מודלים שנחשבים לחשודים או שיש להם יכולת להריץ קוד מרחוק מסומנים ב-Model Garden, אבל עדיין אפשר לפרוס אותם. מומלץ לבדוק היטב כל מודל חשוד לפני שפורסים אותו ב-Model Garden.
תמחור
עבור מודלים בקוד פתוח ב-Model Garden, אתם מחויבים על השימוש ב-Gemini Enterprise Agent Platform באופן הבא:
- שיפור המודל: אתם מחויבים על משאבי ה-Compute שבהם נעשה שימוש באותו תעריף כמו באימון מותאם אישית. אפשר לעיין בתמחור של אימון מותאם אישית.
- Model deployment: אתם מחויבים על משאבי החישוב שמשמשים לפריסת המודל לנקודת קצה. ראו תמחור של תחזיות.
- Colab Enterprise: מידע על התמחור של Colab Enterprise
שליטה בגישה למודלים ספציפיים
אתם יכולים להגדיר מדיניות ארגונית של Model Garden ברמת הארגון, התיקייה או הפרויקט כדי לשלוט בגישה למודלים ספציפיים ב-Model Garden. לדוגמה, אתם יכולים לאפשר גישה למודלים ספציפיים שבדקתם ולחסום גישה לכל השאר.
מידע נוסף על Model Garden
בקטעים הבאים מופיעים קישורים למדריכים, למסמכי עזר, למחברות ולסרטונים ב-YouTube, שבהם אפשר לקבל מידע נוסף על אפשרויות הפריסה וההתאמה האישית של מודלים ב-Model Garden.
פריסה והצגה
מידע נוסף על התאמה אישית של פריסות ועל תכונות מתקדמות של הצגת מודעות
- פריסה והצגה של מודל קוד פתוח באמצעות Python SDK, CLI, REST API או מסוף
- פריסה וכוונון עדין של Gemma 3 בסרטון ב-YouTube בנושא Model Garden
- פריסת Gemma ויצירת תחזיות
- הצגת מודלים פתוחים באמצעות קונטיינר Hex-LLM ב-Cloud TPU
- פריסת מודלים של Llama באמצעות מחברת הדרכה של Hex-LLM
- שימוש במטמון של קידומות ובפענוח ספקולטיבי עם מחברת הדרכה של Hex-LLM או vLLM
- שימוש ב-vLLM כדי להכניס לשימוש בסביבת הייצור מודלים של שפה טקסטואלית בלבד ומודלים מרובי-מודלים במעבדים גרפיים ל-Cloud
- שימוש בקונטיינר של xDiT GPU serving ליצירת תמונות וסרטונים
- הצגת Gemma 2 עם כמה מתאמי LoRA באמצעות HuggingFace DLC ללימוד הסקת מסקנות ב-PyTorch ב-Medium
- שימוש בכינויים מותאמים אישית כדי להכניס לשימוש בסביבת הייצור את PaliGemma ליצירת כיתוב לתמונות באמצעות HuggingFace DLC למדריך היקש של PyTorch ב-לינקדאין
- פריסה והכנסה לשימוש בסביבת הייצור של מודל שמשתמש במכונות וירטואליות מסוג Spot או במחברת הדרכה בנושא מקום שמור ב-Compute Engine
- פריסה והכנסה לשימוש בסביבת הייצור של מודל HuggingFace
כוונון
מידע נוסף על כוונון מודלים כדי להתאים את התשובות לתרחישים ספציפיים לדוגמה.
- נוטבוק הדרכה לכוונון עדין של Workbench
- מדריך לשיפור הדיוק והערכה של מודלים ב-Notebook
- פריסה וכוונון עדין של Gemma 3 בסרטון ב-YouTube בנושא Model Garden
הערכה
מידע נוסף על הערכת תשובות של מודלים באמצעות Agent Platform
מקורות מידע נוספים
- מחברות Model Garden ספציפיות למודלים ולמסלולים להמרת לקוחות
- מחברות (notebooks) של Gemini Enterprise Agent Platform לפרסום מודלים פתוחים, לכוונון עדין ולבדיקה