בדיקת יכולות של מודלים ב-Model Garden

ב-Model Garden יש כמה אפשרויות שמאפשרות לכם לראות ולבדוק במהירות את היכולות של המודלים. במודלים נתמכים, אתם יכולים לנסות סביבות הדגמה או להפעיל אפליקציות הדגמה שנקראות Model Garden Spaces. אתם יכולים לשתף אותן עם אחרים כדי להציג את היכולות של המודל.

‫Playgrounds מבוססים על נקודות קצה (endpoints) של חיזוי אונליין של Gemini Enterprise Agent Platform שהופעלו מראש, ולא כרוכים בתשלום. כשפותחים את כרטיס המודל של מודל נתמך, אפשר להשתמש בחלונית Try out כדי לבדוק במהירות את היכולות של המודל על ידי שליחת הנחייה טקסטואלית. אפשר גם להגדיר כמה מהפרמטרים הנפוצים ביותר, כמו רמת אקראיות ומספר טוקנים של פלט. המגרש הביתי מוגבל לקלט ופלט של טקסט בלבד.

כשמפעילים את Spaces, מקבלים אפליקציית אינטרנט פעילה ומוכנה לשימוש, עם הרבה פחות מאמץ ידני בהשוואה לפריסת מודל ובניית אפליקציה לשימוש בנקודת הקצה של המודל. ‫Model Garden פורס את המודל שבחרתם ב-Gemini Enterprise Agent Platform ופורס את אפליקציית הדוגמה במופע של Cloud Run שמשתמש בנקודת הקצה של המודל שנפרס. האפליקציה יכולה גם להשתמש בנקודות קצה קיימות או בנקודת קצה של MaaS.

לפני שמתחילים

כדי לבצע את ההדרכה הזו, צריך להגדיר פרויקט ב- Google Cloud ולהפעיל את Agent Platform API.

נכנסים לחשבון Google Cloud . אם אתם משתמשים חדשים ב- Google Cloud, צרו חשבון כדי שתוכלו להעריך את הביצועים של המוצרים שלנו בתרחישים מהעולם האמיתי. לקוחות חדשים מקבלים בחינם גם קרדיט בשווי 300$ להרצה, לבדיקה ולפריסה של עומסי העבודה.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

Verify that billing is enabled for your Google Cloud project.

Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs.

Roles required to enable APIs

To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

Enable the APIs

1. אם רוצים לנסות את Model Garden Spaces, צריך לוודא שלחשבון השירות שמשמש כברירת מחדל ב-Compute Engine יש את ההרשאות הנדרשות להפעלת Spaces.

התפקידים הנדרשים

כדי לבדוק את היכולות של מודל ב-Model Garden, צריך לוודא שלכם ולחשבון השירות שמשמש כברירת המחדל של Compute Engine יש את תפקידי ה-IAM הנדרשים.

תפקידים נדרשים למשתמשים

כדי לקבל את ההרשאות שדרושות לבדיקת היכולות של מודלים ב-Model Garden, צריך לבקש מהאדמין להקצות לכם את תפקידי ה-IAM הבאים בפרויקט Google Cloud :

• אדמין Service Usage (roles/serviceusage.serviceUsageAdmin)
• אדמין של Artifact Registry (roles/artifactregistry.admin)
• אדמין של Cloud Run (roles/run.admin)
• אדמין באחסון (roles/storage.admin)
• משתמש ב-Agent Platform (roles/aiplatform.user)

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

תפקידים נדרשים לחשבון השירות שמוגדר כברירת מחדל ב-Compute Engine

חשבון השירות שמוגדר כברירת מחדל ב-Compute Engine משמש להפעלת מרחבים.

כדי לוודא שלחשבון השירות שמוגדר כברירת מחדל ב-Compute Engine יש את ההרשאות שנדרשות להפעלת Spaces, צריך לבקש מהאדמין להקצות לחשבון השירות שמוגדר כברירת מחדל ב-Compute Engine את תפקידי ה-IAM הבאים בפרויקט Google Cloud :

חשוב: צריך להקצות את התפקידים האלה לחשבון השירות שמוגדר כברירת מחדל ב-Compute Engine, ולא לחשבון המשתמש. אם לא תקצו את התפקידים לחשבון המשתמש הנכון, יכול להיות שתקבלו שגיאות הרשאה.

• Agent Platform Service Agent (roles/aiplatform.serviceAgent)
• Cloud Build חשבון שירות (roles/cloudbuild.builds.builder)

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שהאדמין גם יוכל לתת לחשבון השירות שמוגדר כברירת מחדל ב-Compute Engine את ההרשאות שנדרשות באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

איך משתמשים ב-Playground

1. במסוף Google Cloud , עוברים לכרטיס המודל של מודל נתמך, כמו כרטיס המודל Gemma 2.

   מעבר אל Gemma 2

2. בחלונית Try out (התנסות):

   1. בשדה Region (אזור), מאשרים את ברירת המחדל או בוחרים את האזור הרצוי.
   2. בקטע Endpoint, בוחרים באפשרות Demo playground.
   3. בתיבה הנחיה, מזינים Why is the sky blue?.
   4. מרחיבים את הקטע אפשרויות מתקדמות ומציגים את פרמטרים ברירת המחדל.

   

3. לוחצים על שליחה. הפלט מופיע מתחת ללחצן השליחה.

רוצים לנסות את Spaces?

הערה: אפשר להשתמש ב-Spaces רק בפרויקטים שלא משויכים לארגון. במאמר יצירת פרויקט

מוסבר איך ליצור פרויקט בלי ארגון.

כדי להפעיל מודל, פותחים את כרטיס המודל של המודל הנתמך, ובחלונית Try out Spaces לוחצים על מרחב כדי להפעיל אותו. אתם מחויבים על המכונות שמשמשות לפריסה ועל מופע Cloud Run שמארח את האפליקציה.

אתם יכולים להפעיל מרחבים עם מודלים כמו Gemini,‏ Gemma,‏ Llama ו-Stable Diffusion.

השקת Spaces

מפעילים מרחבים כדי לבדוק מודל מתוך אפליקציית Gradio לדוגמה.

1. במסוף Google Cloud , נכנסים ל-Model Garden כדי לראות את כרטיס המודל של מודל מסוים.

   כניסה ל-Model Garden

2. בוחרים את המודל שרוצים להשתמש בו. למודלים נתמכים יש חלונית Try out Spaces, כמו כרטיס המודל Gemma 3.

   מעבר אל Gemma 3

3. לוחצים על rocket_launch הרצה כדי להפעיל מרחב.

   1. אתם יכולים לבחור באפשרות דרישת אימות (באמצעות Identity Aware Proxy) או באפשרות מתן גישה לכולם. מידע נוסף מופיע במאמר הפעלה של ממשקי API לפריסה הראשונה והענקת הרשאות.
   חשוב לדעת: כשמשתמשים באפליקציה, לא מומלץ לכלול מידע רגיש או פרטים אישיים מזהים בהנחיות.
   1. לוחצים על יצירת שירות חדש כדי להתחיל את הפריסה. אפשר לעקוב אחרי סטטוס הפריסה בכרטיס המודל.

4. אחרי שהסטטוס של Spaces משתנה למוכן, לוחצים עליו כדי לראות את פרטי הפריסה.

   כדי להשתמש בהגנה הבסיסית, אפליקציית האינטרנט דורשת מפתח סודי שצריך לצרף לכתובת ה-URL כששולחים הנחיות. המפתח הסודי הזה מופיע בשדה Secret key.

   1. לוחצים על פתיחה כדי להתחיל להשתמש באפליקציה. אפשר לשלוח הנחיות למודל ולראות את התגובות שלו מתוך האפליקציה.

   אפשר לשתף את כתובת ה-URL כדי שאחרים יוכלו לנסות את האפליקציה גם כן.

   1. כדי לסגור את הגישה לאפליקציה, לוחצים על עריכה בשדה בקרת גישה.

   בכרטיסייה Security (אבטחה) של אפליקציית Cloud Run, בוחרים באפשרות Require authentication (נדרש אימות) ולוחצים על Save (שמירה). האפליקציה לא זמינה יותר דרך כתובת ה-URL. ביקורים בכתובת ה-URL מובילים לשגיאה 403 (forbidden).

הסרת המשאבים

כדי לא לצבור חיובים בחשבון Google Cloud על המשאבים שבהם השתמשתם בדף הזה:

מחיקת מרחבים

כדי לנקות את Spaces, צריך למחוק את משאבי המודל ואת משאבי האפליקציה לדוגמה ב-Cloud Run.

מחיקת משאבי מודל

מתוך אפליקציית Gradio, אתם יכולים למחוק נקודות קצה של מודלים כדי לנקות את המשאבים של Gemini Enterprise Agent Platform. לאחר מכן, צריך למחוק את שירות Cloud Run כדי להפסיק ולמחוק את אפליקציית Gradio.

כדי למחוק משאבים ב-Gemini Enterprise Agent Platform באופן ידני, אפשר לעיין במאמר ביטול הפריסה של מודלים ומחיקת משאבים.

מחיקת שירות Cloud Run

מחיקת משאבים שקשורים לשירות, כולל כל הגרסאות של השירות. מחיקת שירות לא כוללת פריטים כמו תמונות קונטיינר מ-Artifact Registry. מידע נוסף זמין במאמר ניהול שירותים במסמכי Cloud Run.

1. במסוף Google Cloud , צופים ברשימת שירותי Cloud Run:

   כניסה ל-Cloud Run

2. מאתרים את השירות שרוצים למחוק ובוחרים אותו.

3. לוחצים על מחיקה מחיקה. הפעולה הזו תמחק את כל הגרסאות של השירות.

מחיקת הפרויקט

הדרך הקלה ביותר לבטל את החיוב היא למחוק את הפרויקט שיצרתם בשביל המדריך הזה.

כדי למחוק את הפרויקט:

זהירות: כשמוחקים פרויקט:

• התוכן של הפרויקט נמחק כולו. אם השתמשתם בפרויקט קיים כדי לתרגל את המשימות במדריך הזה, כשתמחקו אותו תימחק גם כל העבודה שביצעתם באותו פרויקט.
• מאבדים את מזהה הפרויקט בהתאמה אישית. כשיצרתם את הפרויקט, יכולתם לבחור לו מזהה פרויקט בהתאמה אישית כדי להשתמש בו בעתיד. כדי לשמור על כתובות ה-URL שמשתמשות במזהה הפרויקט, כמו appspot.com, צריך למחוק את המשאבים שנבחרו בפרויקט אבל לא את הפרויקט כולו.

אם אתם מתכננים להיעזר בכמה ארכיטקטורות, מדריכים או מדריכים למתחילים, מומלץ להשתמש שוב באותו פרויקט כדי לא לחרוג ממכסות הפרויקטים.

1. במסוף Google Cloud , נכנסים לדף Manage resources.

   כניסה לדף Manage resources

2. ברשימת הפרויקטים, בוחרים את הפרויקט שרוצים למחוק ולוחצים על Delete.
3. כדי למחוק את הפרויקט, כותבים את מזהה הפרויקט בתיבת הדו-שיח ולוחצים על Shut down.

המאמרים הבאים

סקירה כללית של Model Garden