Model Garden מאפשר לכם לפרוס בעצמכם מודלים פתוחים, מודלים של שותפים ומודלים בהתאמה אישית ב-Gemini Enterprise Agent Platform. בניגוד לפתרונות מודל כשירות (MaaS), שהם serverless ולא דורשים פריסה ידנית, מודלים שפורסים לבד פועלים בצורה מאובטחת בתוך פרויקט Google Cloud ורשת VPC, ומאפשרים לכם שליטה מלאה בסביבת הפריסה.
פריסה עצמית של מודלים פתוחים
מודלים פתוחים מספקים יכולות שעברו אימון מראש למשימות שונות של AI, כולל מודלים של Gemma שמצטיינים בעיבוד מולטי-מודאלי. המודלים האלה זמינים לשימוש חופשי, ואתם יכולים לפרסם את התוצאות שלהם כל עוד אתם פועלים בהתאם לתנאי הרישיון. Gemini Enterprise Agent Platform מציעה מודלים עם משקלים פתוחים ומודלים בקוד פתוח.
כשמשתמשים במודל פתוח עם Gemini Enterprise Agent Platform, משתמשים ב-Gemini Enterprise Agent Platform עבור התשתית. אפשר גם להשתמש במודלים פתוחים עם מוצרי תשתית אחרים, כמו PyTorch או Jax.
מודלים פתוחים של משקלים
מודלים פתוחים רבים נחשבים למודלים גדולים של שפה (LLM) עם משקלים פתוחים. מודלים עם משקלים פתוחים מספקים יותר שקיפות בהשוואה למודלים ללא משקלים פתוחים. המשקלים של מודל הם הערכים המספריים שמאוחסנים בארכיטקטורה של רשת נוירונים של המודל, שמייצגים דפוסים וקשרים שנלמדו מהנתונים שהמודל אומן עליהם. הפרמטרים או המשקלים שאומנו מראש של מודלים עם משקלים פתוחים מתפרסמים. אפשר להשתמש במודל עם משקלים פתוחים להסקת מסקנות ולכוונון. לא תמיד מסופקים פרטים כמו מערך הנתונים המקורי, ארכיטקטורת המודל וקוד האימון.
מודלים של קוד פתוח
מודלים פתוחים שונים ממודלים של AI בקוד פתוח. מודלים פתוחים חושפים לעיתים קרובות את המשקלים ואת הייצוג המספרי הבסיסי של דפוסים שנלמדו, אבל הם לא בהכרח מספקים את קוד המקור המלא או פרטים על האימון. לעומת זאת, במודלים בקוד פתוח, בדרך כלל כל ה-codebase, כולל סקריפטים ונתונים לאימון, זמין לציבור. הגדרת משקלים מאפשרת שקיפות של מודל ה-AI, וכך אפשר להבין את היכולות של המודל בלי לבנות אותו בעצמכם.
מודלים של שותפים שמוטמעים באופן עצמאי
ב-Model Garden אפשר לרכוש ולנהל רישיונות למודלים משותפים שמציעים מודלים קנייניים כאפשרות לפריסה עצמית. אפשר לקבל גישה למודלים האלה דרך Cloud Marketplace. אחרי שיש לכם רישיון, אתם יכולים לבחור אם לפרוס אותו על חומרה לפי דרישה או להשתמש בהנחות הקיימות שלכם תמורת התחייבות לשימוש ובשמירת מקום ב-Compute Engine כדי לנהל את העלויות. כשמשתמשים במודלים של שותפים שמוטמעים באופן עצמאי, מחויבים גם על השימוש במודל וגם על התשתית הבסיסית של Gemini Enterprise Agent Platform.
כדי לבקש שימוש במודל של שותף שהופעל באופן עצמאי:
- עוברים אל מסוף Model Garden.
- מאתרים את מודל השותפות הרלוונטי.
- לוחצים על הפעלה וממלאים את הטופס שמופיע כדי לקבל את הרישיונות הנדרשים לשימוש מסחרי.
מידע נוסף על פריסה ושימוש במודלים של שותפים זמין במאמר פריסת מודל של שותף ושליחת בקשות לחיזוי.
לתשומת ליבכם
כשמשתמשים במודלים של שותפים שמוטמעים באופן עצמאי, חשוב לזכור את הנקודות הבאות:
- ייצוא משקלים: בניגוד למודלים פתוחים מסוימים, אי אפשר לייצא את המשקלים של מודלים של שותפים שמוטמעים באופן עצמאי.
- סוג נקודת הקצה: רק הסוג shared public endpoint נתמך בפריסות האלה.
מידע נוסף על מודלים שמוטמעים באופן עצמאי בפלטפורמת הסוכנים של Gemini Enterprise
- מידע נוסף על משקלים מותאמים אישית זמין במאמר פריסת מודלים עם משקלים מותאמים אישית.
- מידע נוסף על Model Garden זמין במאמר סקירה כללית של Model Garden.
- מידע נוסף על פריסת מודלים זמין במאמר שימוש במודלים ב-Model Garden.
- שימוש במודלים פתוחים של Gemma
- שימוש במודלים פתוחים של Llama
- שימוש במודלים פתוחים של Hugging Face