Model Garden היא ספרייה של מודלים של AI/ML שעוזרת לכם לגלות, לבדוק, להתאים אישית ולפרוס מודלים ונכסים מ-Google ומשותפים של Google.
היתרונות של Model Garden
כשעובדים עם מודלים של AI, יש ל-Model Garden את היתרונות הבאים:
- כל המודלים הזמינים מקובצים במיקום אחד
- Model Garden מספק תבנית פריסה עקבית לסוגים שונים של מודלים
- Model Garden מספק שילוב מובנה עם חלקים אחרים של Vertex AI, כמו כוונון מודלים, הערכה והצגה.
- יכול להיות שיהיה לכם קשה להפעיל מודלים של AI גנרטיבי – Vertex AI מטפל בשבילכם בפריסה ובהפעלה של מודלים
עיון במודלים
כדי לראות את רשימת המודלים הבסיסיים הזמינים של Vertex AI וקוד פתוח, מודלים שניתנים לכוונון ומודלים ספציפיים למשימות, עוברים לדף Model Garden במסוףGoogle Cloud .
קטגוריות המודלים שזמינות ב-Model Garden הן:
| קטגוריה | תיאור |
|---|---|
| למודלים בסיסיים | מודלים גדולים שעברו אימון מראש לביצוע משימות מרובות, שאפשר לכוונן או להתאים אותם למשימות ספציפיות באמצעות Vertex AI Studio, Vertex AI API ו-Vertex AI SDK ל-Python. |
| מודלים שאפשר לבצע בהם כוונון עדין | מודלים שאפשר לבצע בהם התאמה עדינה באמצעות מחברת או צינור נתונים בהתאמה אישית. |
| פתרונות ספציפיים למשימות | רוב המודלים המוכנים מראש האלה מוכנים לשימוש. אפשר להתאים אישית הרבה מהם באמצעות נתונים משלכם. |
כדי לסנן מודלים בחלונית המסננים, מציינים את הפרטים הבאים:
- משימות: לוחצים על המשימה שרוצים שהמודל יבצע.
- אוספים של מודלים: לוחצים כדי לבחור מודלים שמנוהלים על ידי Google, שותפים או אתם.
- ספקים: לוחצים על הספק של המודל.
- תכונות: לוחצים על התכונות שרוצים לכלול במודל.
כדי לקבל מידע נוסף על כל מודל, לוחצים על כרטיס המודל שלו.
רשימת המודלים שזמינים ב-Model Garden מופיעה במאמר מודלים שזמינים ב-Model Garden.
סריקת אבטחה של מודלים
Google מבצעת בדיקות מקיפות ובדיקות השוואה (benchmarking) על הקונטיינרים של ההגשה וההתאמה שאנחנו מספקים. בדיקת נקודות חולשה פעילה מוחלת גם על ארטיפקטים של קונטיינרים.
מודלים של צד שלישי משותפים נסרקים באמצעות נקודות ביקורת של מודלים כדי לוודא שהם אותנטיים. מודלים של צד שלישי מ-HuggingFace Hub נסרקים ישירות על ידי HuggingFace ועל ידי הסורק של צד שלישי שלהם כדי לאתר תוכנות זדוניות, קובצי pickle, שכבות Keras Lambda וסודות. מודלים שסריקות כאלה מזהות כלא בטוחים מסומנים על ידי HuggingFace ונחסמים לפריסה ב-Model Garden. מודלים שנחשבים לחשודים או שיש להם יכולת להריץ קוד מרחוק מסומנים ב-Model Garden, אבל עדיין אפשר לפרוס אותם. מומלץ לבצע בדיקה יסודית של כל מודל חשוד לפני שמפעילים אותו ב-Model Garden.
תמחור
במודלים של קוד פתוח ב-Model Garden, אתם מחויבים על השימוש בפריטים הבאים ב-Vertex AI:
- Model tuning: אתם מחויבים על משאבי החישוב שבהם נעשה שימוש באותו תעריף כמו באימון בהתאמה אישית. מחירון להדרכה בהתאמה אישית
- Model deployment: אתם מחויבים על משאבי ה-Compute שמשמשים לפריסת המודל בנקודת קצה. מידע על תמחור של תחזיות
- Colab Enterprise: מידע על התמחור של Colab Enterprise זמין כאן.
שליטה בגישה למודלים ספציפיים
אתם יכולים להגדיר מדיניות ארגונית של Model Garden ברמת הארגון, התיקייה או הפרויקט כדי לשלוט בגישה למודלים ספציפיים ב-Model Garden. לדוגמה, אתם יכולים לאפשר גישה למודלים ספציפיים שבדקתם ולחסום את הגישה לכל השאר.
מידע נוסף על Model Garden
מידע נוסף על אפשרויות הפריסה וההתאמות האישיות שאפשר לבצע במודלים ב-Model Garden זמין במקורות המידע שבקטעים הבאים, כולל קישורים למדריכים, למסמכי עזר, למחברות ולסרטונים ב-YouTube.
פריסה והצגה
מידע נוסף על התאמה אישית של פריסות ועל תכונות מתקדמות של הצגת מודעות
- פריסה והצגה של מודל קוד פתוח באמצעות Python SDK, CLI, API בארכיטקטורת REST או מסוף
- הטמעה ושיפור של Gemma 3 בסרטון ב-YouTube בנושא Model Garden
- פריסת Gemma ויצירת תחזיות
- הצגת מודלים פתוחים באמצעות קונטיינר Hex-LLM ב-Cloud TPU
- פריסת מודלים של Llama באמצעות מחברת הדרכה של Hex-LLM
- שימוש במטמון של קידומות ובפענוח ספקולטיבי עם Hex-LLM או מחברת הדרכה של vLLM
- שימוש ב-vLLM להפעלת מודלים של שפה מרובת-מודלים ומודלים של שפה שמבוססים על טקסט בלבד במעבדים גרפיים ל-Cloud
- שימוש בקונטיינר להצגת GPU של xDiT ליצירת תמונות וסרטונים
- הצגת Gemma 2 עם כמה מתאמי LoRA באמצעות תוכן שאפשר להוריד (DLC) של HuggingFace להסקת מסקנות ב-PyTorch: מדריך ב-Medium
- שימוש בכינויים מותאמים אישית כדי להפעיל את PaliGemma ליצירת כיתוב לתמונות באמצעות HuggingFace DLC ללימוד מסקנות ב-PyTorch – מדריך ב-LinkedIn
- פריסה והצגה של מודל שמשתמש במכונות וירטואליות מסוג Spot או במחברת הדרכה בנושא הזמנה ב-Compute Engine
- פריסה של מודל HuggingFace והצגה שלו
כוונון
מידע נוסף על כוונון מודלים כדי להתאים את התשובות לתרחישי שימוש ספציפיים.
- מחברת הדרכה לכוונון עדין של Workbench
- מדריך לשיפור הביצועים והערכה של מחברת
- הטמעה ושיפור של Gemma 3 בסרטון ב-YouTube בנושא Model Garden
הערכה
מידע נוסף על הערכת תשובות של מודלים באמצעות Vertex AI
מקורות מידע נוספים
- מחברות Model Garden ספציפיות למודלים ולמסלולי משתמשים
- מחברות פתוחות של Vertex AI לפרסום מודלים, לכוונון עדין ולבדיקה