פריסת מודלים עם משקלים מותאמים אישית היא הצעה בגרסת טרום-השקה (Preview). אתם יכולים לשפר מודלים על סמך קבוצה מוגדרת מראש של מודלים בסיסיים, ולפרוס את המודלים המותאמים אישית ב-Gemini Enterprise Agent Platform Model Garden. כדי לפרוס מודלים בהתאמה אישית באמצעות ייבוא משקלים בהתאמה אישית, אתם יכולים להעלות את פריטי המידע שנוצרו בתהליך הפיתוח (artifacts) של המודל לקטגוריה של Cloud Storage בפרויקט שלכם. ב-Agent Platform אפשר לעשות את זה בלחיצה אחת.
אפשר להשתמש ב-VPC Service Controls כדי להגדיר משקלים בהתאמה אישית.
מודלים נתמכים
גרסת טרום-השקה (Public Preview) של פריסת מודלים עם משקלים בהתאמה אישית נתמכת במודלים הבסיסיים הבאים:
| שם המודל | גרסה |
|---|---|
| Llama |
|
| Gemma |
|
| Qwen |
|
| Deepseek |
|
| Mistral ו-Mixtral |
|
| Phi-4 |
|
| OpenAI OSS |
|
מגבלות
אי אפשר לייבא מודלים שעברו קוונטיזציה למשקלים בהתאמה אישית.
קובצי מודלים
אתם צריכים לספק את קובצי המודל בפורמט המשקלים של Hugging Face. איך משתמשים במודלים של Hugging Face
אם לא תספקו את הקבצים הנדרשים, יכול להיות שפריסת המודל תיכשל.
בטבלה הבאה מפורטים סוגי קובצי המודלים, בהתאם לארכיטקטורה של המודל:
| תוכן קובץ המודל | סוג קובץ |
|---|---|
| הגדרת המודל |
|
| משקלי המודל |
|
| אינדקס משקולות |
|
| קובצי Tokenizer |
|
מיקומים
אתם יכולים לפרוס מודלים בהתאמה אישית בכל האזורים משירותי Model Garden.
דרישות מוקדמות
בקטע הזה מוסבר איך לפרוס את המודל בהתאמה אישית.
לפני שמתחילים
- נכנסים לחשבון Google Cloud . אנחנו ממליצים למשתמשים חדשים ב- Google Cloudליצור חשבון כדי שיוכלו להעריך את הביצועים של המוצרים שלנו בתרחישים מהעולם האמיתי. לקוחות חדשים מקבלים בחינם גם קרדיט בשווי 300$ להרצה, לבדיקה ולפריסה של עומסי העבודה.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
Enable the Agent Platform API, if it is not already enabled.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
Verify that billing is enabled for your Google Cloud project.
Enable the Agent Platform API, if it is not already enabled.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.-
מפעילים את Cloud Shell במסוף Google Cloud .
בחלק התחתון של מסוף Google Cloud יתחיל סשן של Cloud Shell ותופיע הודעה של שורת הפקודה. Cloud Shell היא סביבת מעטפת שבה ה-CLI של Google Cloud מותקן ומוגדרים ערכים לפרויקט הקיים. הסשן יופעל תוך כמה שניות.
במדריך הזה אנחנו מניחים שאתם משתמשים ב-Cloud Shell כדי לבצע פעולות ב- Google Cloud. אם אתם רוצים להשתמש במעטפת אחרת במקום ב-Cloud Shell, בצעו את ההגדרות הנוספות הבאות:
-
התקינו את ה-CLI של Google Cloud.
-
אם אתם משתמשים בספק זהויות חיצוני (IdP), קודם אתם צריכים להיכנס ל-CLI של gcloud באמצעות המאגר המאוחד לניהול זהויות.
-
כדי לאתחל את ה-CLI של gcloud, הריצו את הפקודה הבאה:
gcloud init
פריסת המודל בהתאמה אישית
בקטע הזה מוסבר איך לפרוס את המודל בהתאמה אישית.
אם אתם משתמשים בממשק שורת הפקודה (CLI), ב-Python או ב-JavaScript, החליפו את המשתנים הבאים בערך כדי שדוגמאות הקוד יפעלו:
- REGION: האזור שלכם. לדוגמה,
us-central1. - MODEL_GCS: המודל של Google Cloud . לדוגמה,
gs://my-bucket/meta-llama/Llama-3.2-1B-Instruct. - PROJECT_ID: מזהה הפרויקט.
- MODEL_ID: מזהה המודל.
- MACHINE_TYPE: סוג המכונה. לדוגמה:
g2-standard-12. - ACCELERATOR_TYPE: סוג מאיץ החומרה. לדוגמה:
NVIDIA_L4. - ACCELERATOR_COUNT: מספר המאיצים.
PROMPT: פרומפט טקסטואלי.
המסוף
כך פורסים את המודל עם משקלים בהתאמה אישית באמצעות מסוף Google Cloud :
נכנסים לדף Model Garden במסוף Google Cloud .
לוחצים על פריסת מודל עם משקלים מותאמים אישית. מופיע החלון Deploy a model with custom weights.
בקטע Model source:
לוחצים על Browse, בוחרים את הקטגוריה שבה מאוחסן המודל ולוחצים על Select.
אופציונלי: מזינים את שם המודל בשדה שם המודל.
בקטע Deployment settings:
בשדה אזור, בוחרים את האזור ולוחצים על אישור.
בשדה Machine Spec, בוחרים את מפרט המכונה שמשמש לפריסת המודל.
אופציונלי: בשדה Endpoint name, נקודת הקצה של המודל מופיעה כברירת מחדל. אבל אפשר להזין שם אחר בשדה.
אם בפרויקט שלכם נאכף VPC-SC או אם אתם מעדיפים גישה פרטית, בשדה Endpoint access בוחרים באפשרות Private (Private Service Connect). אחרת, בוחרים באפשרות גלוי לכולם.
אם אתם משתמשים ב-Private Service Connect, הזינו בשדה Project IDs את מזהי הפרויקטים שבהם פועלים הלקוחות של השאילתות, או לחצו על Select project IDs כדי להציג תיבת דו-שיח עם מזהי הפרויקטים.
אם לוחצים על Select project IDs:
- מוצאים את הפרויקט שמכיל את הקוד שמנסה לגשת למודל.
- לוחצים על תיבת הסימון של הפרויקט.
- לוחצים על בחירה.
לוחצים על Deploy.
CLI של gcloud
הפקודה הזו מדגימה איך לפרוס את המודל באזור ספציפי.
gcloud ai model-garden models deploy --model=${MODEL_GCS} --region ${REGION}
הפקודה הזו מדגימה איך לפרוס את המודל באזור ספציפי עם סוג המכונה, סוג המאיץ ומספר המאיצים שלו. אם רוצים לבחור הגדרת מכונה ספציפית, צריך להגדיר את כל שלושת השדות.
gcloud ai model-garden models deploy --model=${MODEL_GCS} --machine-type=${MACHINE_TYE} --accelerator-type=${ACCELERATOR_TYPE} --accelerator-count=${ACCELERATOR_COUNT} --region ${REGION}
Python
הדוגמאות האלה דורשות את google-cloud-agentplatform בגרסה 2.7.0 ואילך, ואת pandas ל-client.endpoints: pip install "google-cloud-agentplatform>=2.7.0" pandas.
הקריאה ממתינה עד שהמודל מוגש, ומחזירה את שמות המשאבים של נקודת הקצה והמודל שנפרס. אם מגדירים סוג מכונה, צריך להגדיר גם את סוג המאיץ ואת מספר המאיצים.
import agentplatform
from agentplatform import types
client = agentplatform.Client(
project="PROJECT_ID",
location="REGION",
)
response = client.model_garden.deploy_custom_model(
src="MODEL_GCS",
config=types.DeployCustomModelConfig(
machine_type="MACHINE_TYPE",
accelerator_type="ACCELERATOR_TYPE",
accelerator_count=ACCELERATOR_COUNT,
model_display_name="custom-model",
endpoint_display_name="custom-model-endpoint",
),
)
prediction = client.endpoints.predict(
name=response.endpoint,
instances=[{"prompt": "PROMPT"}],
)
print(prediction.predictions)
לחלופין, לא צריך להעביר הגדרה ל-method deploy_custom_model().
import agentplatform
client = agentplatform.Client(
project="PROJECT_ID",
location="REGION",
)
response = client.model_garden.deploy_custom_model(
src="MODEL_GCS",
)
prediction = client.endpoints.predict(
name=response.endpoint,
instances=[{"prompt": "PROMPT"}],
)
print(prediction.predictions)
curl
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${REGION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${REGION}:deploy" \
-d '{
"custom_model": {
"gcs_uri": "'"${MODEL_GCS}"'"
},
"destination": "projects/'"${PROJECT_ID}"'/locations/'"${REGION}"'",
"model_config": {
"model_user_id": "'"${MODEL_ID}"'",
},
}'
לחלופין, אפשר להשתמש ב-API כדי להגדיר במפורש את סוג המכונה.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${REGION}-aiplatform.googleapis.com/v1beta1/projects/${PROJECT_ID}/locations/${REGION}:deploy" \
-d '{
"custom_model": {
"gcs_uri": "'"${MODEL_GCS}"'"
},
"destination": "projects/'"${PROJECT_ID}"'/locations/'"${REGION}"'",
"model_config": {
"model_user_id": "'"${MODEL_ID}"'",
},
"deploy_config": {
"dedicated_resources": {
"machine_spec": {
"machine_type": "'"${MACHINE_TYPE}"'",
"accelerator_type": "'"${ACCELERATOR_TYPE}"'",
"accelerator_count": '"${ACCELERATOR_COUNT}"'
},
"min_replica_count": 1
}
}
}'
פריסה באמצעות ה-API
VPC Service Controls פועל רק עם נקודת הקצה הייעודית הפרטית.
לכן צריך להגדיר את private_service_connect_config בדוגמת הקוד הבאה, שמראה איך לפרוס באמצעות ה-API:
curl
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://us-central1-aiplatform.googleapis.com/v1beta1/projects/YOUR_PROJECT/locations/us-central1:deploy" \
-d '{
"custom_model": {
"model_id": "test-mg-deploy-092301",
"gcs_uri": "gs://YOUR_GCS_BUCKET"
},
"destination": "projects/YOUR_PROJECT/locations/us-central1",
"endpoint_config": {
"endpoint_display_name": "psc-ep1",
"private_service_connect_config": {
"enablePrivateServiceConnect": true,
"projectAllowlist": ["YOUR_PROJECT"]
}
},
"deploy_config": {
"dedicated_resources": {
"machine_spec": {
"machine_type": "g2-standard-24",
"accelerator_type": "NVIDIA_L4",
"accelerator_count": 2
},
"min_replica_count": 1,
"max_replica_count": 1
}
}
}'
איך מקבלים את מזהה נקודת הקצה ומזהה המודל באמצעות מסוף Google Cloud
אחרי שהפריסה מסתיימת, מבצעים את השלבים הבאים:
נכנסים לדף Model Garden במסוף Google Cloud .
לוחצים על הצגת נקודות הקצה והמודלים שלי.
בעמודה Name בטבלה My endpoints, מסמנים את נקודת הקצה שפרסתם. הדף Details נפתח.
לוחצים על המודל בטבלה Deployed models.
בוחרים בדף פרטי הגרסה. מזהה המודל מוצג בשורה משתני סביבה בטבלה.
הגדרת Private Service Connect
הוספת נקודת קצה חדשה כדי לגשת לממשקי API של Google . אפשר להשתמש בנקודת הקצה הזו בכל האזורים של רשת ה-VPC שבחרתם. כדאי גם להביא בחשבון את הדברים הבאים:
- לקוחות ברשתות שמחוברות לרשת ה-VPC של נקודת הקצה באמצעות קישוריות היברידית יכולים לגשת לנקודת הקצה. מידע נוסף זמין במאמר גישה לממשקי API שלGoogle דרך נקודות קצה (endpoints).
- לקוחות ברשתות VPC מקושרות לא יכולים לגשת לנקודת הקצה.
נקודת קצה (endpoint) להצגת רשימה של חיבורי שירות
דוגמת הקוד הזו מראה איך להציג נקודת קצה (endpoint) כדי לקבל חיבור לשירות.
curl
$ curl \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://us-central1-aiplatform.googleapis.com/v1beta1/projects/YOUR_PROJECT/locations/us-central1/endpoints/YOUR_ENDPOINT_ID"
זו התגובה של נקודת הקצה (endpoint) של הרשימה.
{
"name": "projects/440968033208/locations/us-central1/endpoints/mg-endpoint-2c6ae2be-1491-43fe-b179-cb5a63e2c955",
"displayName": "psc-ep1",
"deployedModels": [
{
"id": "4026753529031950336",
"model": "projects/440968033208/locations/us-central1/models/mg-custom-1758645924",
"displayName": "null-null-null-1758645933",
"createTime": "2025-09-23T16:45:45.169195Z",
"dedicatedResources": {
"machineSpec": {
"machineType": "g2-standard-24",
"acceleratorType": "NVIDIA_L4",
"acceleratorCount": 2
},
"minReplicaCount": 1,
"maxReplicaCount": 1
},
"enableContainerLogging": true,
"privateEndpoints": {
"serviceAttachment": "projects/qdb392d34e2a11149p-tp/regions/us-central1/serviceAttachments/gkedpm-fbbc4061323c91c14ab4d961a2f8b0"
},
"modelVersionId": "1",
"status": {
"lastUpdateTime": "2025-09-23T17:26:10.031652Z",
"availableReplicaCount": 1
}
}
],
"trafficSplit": {
"4026753529031950336": 100
},
"etag": "AMEw9yPIWQYdbpHu6g6Mhpu1_10J062_oR9Jw9txrp8dFFbel7odLgSK8CGIogAUkR_r",
"createTime": "2025-09-23T16:45:45.169195Z",
"updateTime": "2025-09-23T17:13:36.320873Z",
"privateServiceConnectConfig": {
"enablePrivateServiceConnect": true,
"projectAllowlist": [
"ucaip-vpc-s-1605069239-dut-24"
]
}
}
יצירת חיבור לשירות פרטי (PSC)
כדי ליצור חיבור Private Service Connect (PSC):
נכנסים לדף Private Service Connect במסוף Google Cloud . הדף Connected endpoints נפתח.
לוחצים על + קישור נקודת קצה. מופיע הדף Connect endpoint.
בוחרים אפשרות בשדה יעד. אתם יכולים לבחור באפשרות Google APIs, שנותנת גישה לרוב ממשקי ה-API והשירותים של Google , או באפשרות Published service, שנותנת גישה לשירות שפורסם.
בקטע Target details, בוחרים ערך מהרשימה Scope וערך מהרשימה Bundle type.
בקטע Endpoint details:
- נותנים לה שם בשדה Endpoint name.
- בוחרים ערך מהרשימה רשת. בוחרים רשת VPC שנמצאת בפרויקט. אם אתם צריכים ליצור נקודת קצה של PSC בפרויקט שירות שמשתמש ברשת VPC משותפת בפרויקט מארח, השתמשו ב-Google Cloud CLI או שלחו בקשת API.
- בוחרים ערך מרשימת כתובת IP.
מרחיבים את הקטע Service directory.
בוחרים אזור מהרשימה Region.
בוחרים מרחב שמות מהרשימה Namespace.
לוחצים על הוספת נקודת קצה. הטבלה Endpoints מתעדכנת עם שורה לנקודת הקצה החדשה.
יצירת שאילתה
בקטע הזה מוסבר איך ליצור נקודת קצה ציבורית ונקודת קצה פרטית.
שליחת שאילתה לנקודת קצה ציבורית
אחרי פריסת המודל, משקלים מותאמים אישית תומכים בנקודת הקצה הייעודית הציבורית. אתם יכולים לשלוח שאילתות באמצעות ה-API או ה-SDK.
לפני ששולחים שאילתות, צריך לקבל את כתובת ה-URL של נקודת הקצה, את מזהה נקודת הקצה ואת מזהה המודל, שזמינים במסוף Google Cloud .
כדי לקבל את המידע, פועלים לפי השלבים הבאים:
נכנסים לדף Model Garden במסוף Google Cloud .
לוחצים על הצגת נקודות הקצה והמודלים שלי.
בוחרים את האזור שלכם מהרשימה Region.
כדי לקבל את מזהה נקודת הקצה ואת כתובת ה-URL של נקודת הקצה, לוחצים על נקודת הקצה בקטע My endpoints.
מזהה נקודת הקצה מופיע בשדה Endpoint ID.
כתובת ה-URL של נקודת הקצה הציבורית מוצגת בשדה Dedicated endpoint.
כדי לקבל את מזהה המודל, מאתרים את המודל בקטע Deployed models ופועלים לפי השלבים הבאים:
- בשדה Model, לוחצים על שם המודל שנפרס.
- לוחצים על פרטי הגרסה. מזהה המודל מופיע בשדה Model ID.
אחרי שמקבלים את פרטי נקודת הקצה והמודל שנפרס, אפשר להיעזר בדוגמאות הקוד הבאות כדי לשלוח בקשה להסקה, או לעיין במאמר שליחת בקשה להסקה אונליין לנקודת קצה ציבורית ייעודית.
API
דוגמאות הקוד הבאות ממחישות דרכים שונות להשתמש ב-API בהתאם לתרחיש לדוגמה.
השלמת צ'אט (unary)
בבקשה לדוגמה הזו, הודעת צ'אט מלאה נשלחת למודל, והתשובה מתקבלת בחלק אחד אחרי שהיא נוצרת במלואה. זה דומה לשליחת הודעת SMS וקבלת תשובה מלאה אחת.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${ENDPOINT_URL}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}/chat/completions" \
-d '{
"model": "'"${MODEL_ID}"'",
"temperature": 0,
"top_p": 1,
"max_tokens": 154,
"ignore_eos": true,
"messages": [
{
"role": "user",
"content": "How to tell the time by looking at the sky?"
}
]
}'
השלמת צ'אט (סטרימינג)
הבקשה הזו היא גרסת הסטרימינג של בקשת ההשלמה של צ'אט יחיד. כשמוסיפים את "stream": true לבקשה, המודל שולח את התשובה שלו בחלקים תוך כדי שהוא יוצר אותה. האפשרות הזו שימושית ליצירת אפקט של מכונת כתיבה בזמן אמת באפליקציית צ'אט.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \ "https://${ENDPOINT_URL}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}/chat/completions" \
-d '{
"model": "'"${MODEL_ID}"'",
"stream": true,
"temperature": 0,
"top_p": 1,
"max_tokens": 154,
"ignore_eos": true,
"messages": [
{
"role": "user",
"content": "How to tell the time by looking at the sky?"
}
]
}'
חיזוי
הבקשה הזו שולחת הנחיה ישירה כדי לקבל הסקת מסקנות ממודל. השיטה הזו משמשת בדרך כלל למשימות שלא בהכרח קשורות לשיחה, כמו סיכום או סיווג של טקסט.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${ENDPOINT_URL}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}:predict" \
-d '{
"instances": [
{
"prompt": "How to tell the time by looking at the sky?",
"temperature": 0,
"top_p": 1,
"max_tokens": 154,
"ignore_eos": true
}
]
}'
חיזוי גולמי
הבקשה הזו היא גרסת סטרימינג של הבקשה Predict. כשמשתמשים בנקודת הקצה :streamRawPredict וכוללים את "stream": true, הבקשה הזו שולחת הנחיה ישירה ומקבלת את הפלט של המודל כסטרימינג רציף של נתונים בזמן שהם נוצרים, בדומה לבקשה להשלמת צ'אט בסטרימינג.
curl -X POST \
-N \
--output - \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${ENDPOINT_URL}/v1beta1/projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}:streamRawPredict" \
-d '{
"instances": [
{
"prompt": "How to tell the time by looking at the sky?",
"temperature": 0,
"top_p": 1,
"max_tokens": 154,
"ignore_eos": true,
"stream": true
}
]
}'
SDK
בדוגמת הקוד הזו, ה-SDK משמש לשליחת שאילתה למודל ולקבלת תשובה מהמודל.
import agentplatform
client = agentplatform.Client(
project="PROJECT_ID",
location="LOCATION",
)
# Requests to a dedicated endpoint are sent to its dedicated DNS automatically.
response = client.endpoints.predict(
name="projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID",
instances=[{"prompt": "How to tell the time by looking at the sky?"}],
)
print(response.predictions)
שליחת שאילתה לנקודת קצה פרטית
אתם יכולים לבדוק את השאילתה באמצעות Notebook או מכונה וירטואלית בפרויקט המורשה.
בשאילתה לדוגמה הזו, אתם יכולים להחליף את המשתנים בכתובת ה-IP, בפרויקט, במזהה נקודת הקצה ובמזהה המודל (שקיבלתם בשלב הפריסה שלמעלה).
curl
השלמת צ'אט
curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json" 'https://YOUR_IP/v1beta1/projects/YOUR_PROJECT_ID/locations/YOUR_LOCATION/endpoints/YOUR_ENDPOINT_ID/chat/completions' -d '{ "model": "YOUR_MODEL_ID", "max_tokens": 300, "messages": [{ "role": "user", "content": "how to tell the time by looking at sky?" }]}'
חיזוי
curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json" 'https://YOUR_IP/v1beta1/projects/YOUR_PROJECT_ID/locations/YOUR_LOCATION/endpoints/YOUR_ENDPOINT_ID:predict' -d '{
"instances": [
{
"prompt": "Summarize Goog stock performance",
"temperature": 0,
"top_p": 1,
"max_tokens": 154,
"ignore_eos": true
}
]
}'
מידע נוסף על מודלים בפריסה עצמית ב-Gemini Enterprise Agent Platform
- מידע נוסף על נקודות קצה פרטיות ייעודיות לחיזוי אונליין ב-Gemini Enterprise Agent Platform זמין במאמר שימוש בנקודות קצה פרטיות ייעודיות שמבוססות על Private Service Connect להסקת מסקנות אונליין.
- למידע נוסף על מודלים בפריסה עצמית, קראו את הסקירה הכללית על מודלים בפריסה עצמית.
- סקירה כללית על Model Garden
- מידע נוסף על פריסת מודלים זמין במאמר שימוש במודלים ב-Model Garden.
- שימוש במודלים פתוחים של Gemma
- שימוש במודלים פתוחים של Llama
- שימוש במודלים פתוחים של Hugging Face