כוונון עדין מונחה וזיקוק של מודלים פתוחים

בדף הזה מוסבר איך לבצע כוונון מפוקח וכוונון באמצעות זיקוק במודלים פתוחים כמו Llama 3.1. אלא אם צוין אחרת, ההוראות בדף הזה רלוונטיות גם לכוונון מפוקח וגם לכוונון באמצעות זיקוק. באמצעות זיקוק אפשר לכוונן מודל תלמיד קטן יותר באמצעות הפלט של מודל מורה גדול יותר.

מצבי כוונון נתמכים

  • כוונון מפוקח (SFT):
    • כוונון מלא
    • ‫Low-Rank Adaptation ‏(LoRA): מצב כוונון יעיל של פרמטרים שמתאים רק קבוצת משנה של פרמטרים. השיטה הזו חסכונית יותר ודורשת פחות נתוני אימון מאשר כוונון מלא. לעומת זאת, בכוונון מלא יש פוטנציאל לאיכות גבוהה יותר כי כל הפרמטרים מותאמים.
  • כוונון באמצעות זיקוק: בכוונון באמצעות זיקוק משתמשים ב-GenAI SDK, שבו מציינים מודל מורה כדי ליצור תשובות שמשמשות לאחר מכן לכוונון של מודל תלמיד קטן יותר.

תרחישים לדוגמה שמומלץ להשתמש בהם בכוונון באמצעות זיקוק

כוונון באמצעות זיקוק יעיל במיוחד כשהמודל המורה הרבה יותר מיומן מהמודל התלמיד במשימת היעד. היא מומלצת להעברת יכולות חשיבה מורכבות ורב-שלביות ממודל מורה גדול יותר למודל תלמיד קטן יותר, כולל:

  • מתמטיקה וחשיבה כמותית
  • מענה על שאלות בתחומים מדעיים, רפואיים ואחרים שדורשים הסקת מסקנות הדרגתית
  • משימות אחרות שבהן מודל מורה חזק עם התנהגות של "חשיבה" או שרשרת חשיבה (CoT) מפיק באופן עקבי תשובות באיכות גבוהה יותר מאשר מודל התלמיד.

הזיקוק מספק שיפורים קטנים יותר במשימות שבהן מודל התלמיד כבר פועל קרוב למורה, או במשימות אחזור קצרות שבהן נתיב החשיבה של המורה לא מוסיף ערך.

מודלים נתמכים

מודלים נתמכים לכוונון מפוקח (SFT)

  • ‫Gemma 4 E2B IT‏ (google/gemma4@gemma-4-e2b-it)
  • Gemma 4 E4B IT (google/gemma4@gemma-4-e4b-it)
  • ‫Gemma 4 26B A4B IT‏ (google/gemma4@gemma-4-26b-a4b-it)
  • ‫Gemma 4 31B IT‏ (google/gemma4@gemma-4-31b-it)
  • ‫Gemma 3 1B IT‏ (google/gemma3@gemma-3-1b-it)
  • Gemma 3 4B IT (google/gemma3@gemma-3-4b-it)
  • ‫Gemma 3 12B IT‏ (google/gemma3@gemma-3-12b-it)
  • ‫Gemma 3 27B IT‏ (google/gemma3@gemma-3-27b-it)
  • ‫Medgemma 1.5 4B IT‏ (google/medgemma@medgemma-1.5-4b-it)
  • Qwen 3.8 27B (qwen/qwen3.8@qwen3.8-27b)
  • Qwen 3.6 27B (qwen/qwen3-6@qwen3.6-27b)
  • Qwen 3.6 35B A3B (qwen/qwen3-6@qwen3.6-35b-a3b)
  • Qwen 3.5 9B (qwen/qwen3-5@qwen3.5-9b)
  • Qwen 3 4B (qwen/qwen3@qwen3-4b)
  • ‫Qwen 3 8B (qwen/qwen3@qwen3-8b)
  • ‫Qwen 3 14B‏ (qwen/qwen3@qwen3-14b)
  • Qwen 3 32B (qwen/qwen3@qwen3-32b)
  • ‫Llama 3.1 8B‏ (meta/llama3_1@llama-3.1-8b)
  • ‫Llama 3.1 8B Instruct (meta/llama3_1@llama-3.1-8b-instruct)
  • ‫Llama 3.2 1B Instruct (meta/llama3-2@llama-3.2-1b-instruct)
  • ‫Llama 3.2 3B Instruct‏ (meta/llama3-2@llama-3.2-3b-instruct)
  • ‫Llama 3.3 70B Instruct (meta/llama3-3@llama-3.3-70b-instruct)
  • ‫Llama 4 Scout 17B 16E Instruct (meta/llama4@llama-4-scout-17b-16e-instruct)
  • ‫GLM 4.7 Flash‏ (zai-org/glm-4.7-flash@glm-4.7-flash)

מודלים נתמכים לכוונון באמצעות זיקוק

מודלים נתמכים של מורים:

  • ‫GLM 5.2 MaaS‏ (zai-org/glm-5.2-maas)

מודלים נתמכים של תלמידים:

  • Qwen 3 4B (qwen/qwen3@qwen3-4b)
  • ‫Qwen 3 8B (qwen/qwen3@qwen3-8b)
  • ‫Qwen 3 14B‏ (qwen/qwen3@qwen3-14b)
  • Qwen 3 32B (qwen/qwen3@qwen3-32b)
  • ‫Gemma 3 1B IT‏ (google/gemma3@gemma-3-1b-it)
  • Gemma 3 4B IT (google/gemma3@gemma-3-4b-it)
  • ‫Gemma 3 12B IT‏ (google/gemma3@gemma-3-12b-it)
  • ‫Gemma 3 27B IT‏ (google/gemma3@gemma-3-27b-it)

אזורים נתמכים

מומלץ מאוד להשתמש בנקודת קצה (endpoint) גלובלית (global) כדי להפעיל משימות כוונון. היא תבחר אזור נתמך עם קיבולת זמינה ותפעיל משימת כוונון. כשמפעילים משימה מנקודת הקצה הגלובלית, חשוב לשים לב לנקודות הבאות:

  • כשיוצרים משימת כוונון גלובלית, נוצרת משימת כוונון אזורית תואמת (באזור שנבחר). תחויבו במכסה ובתשלום רק על משימת כוונון אחת.
  • משאבי משנה (כמו ניסויים או מודלים של TensorBoard) ייווצרו באזור היעד שנבחר. אפשר לחלץ את המיקום מהשם המלא של המשאב ולשלוח שאילתה באמצעות Vertex AI SDK.

משימות כוונון ספציפיות לאזור עדיין זמינות למשתמשים עם צרכים מתקדמים יותר (כמו כל המשאבים שמוגדרים לאזור אחד):

  • איווה (us-central1)
  • הולנד (europe-west4)
  • אורגון (us-west1)
  • Columbus (us-east5)
  • סינגפור (asia-southeast1)
  • ג'אקארטה (asia-southeast2)

מגבלות

דגם מפרט ערך
Gemma 4 E2B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 E4B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 26B A4B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 31B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 1B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 4B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 12B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 27B IT מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Medgemma 1.5 4B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3.8 27B מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 12288
אמצעי טיפול טקסט
Qwen 3.6 27B מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 12288
אמצעי טיפול טקסט
Qwen 3.6 35B A3B מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 12288
אמצעי טיפול טקסט
Qwen 3.5 9B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 4B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 8B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 14B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 32B מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.1 8B מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.1 8B Instruct מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.2 1B Instruct מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.2 3B Instruct מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
‫Llama 3.3 70B Instruct מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
‫Llama 4 Scout 17B 16E Instruct מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 2048
מודליות טקסט
תמונות*

*אין תמיכה בקבוצות נתונים מעורבות של דוגמאות של טקסט בלבד ודוגמאות של תמונות. אם יש לפחות דוגמה אחת של תמונה במערך הנתונים, כל הדוגמאות של טקסט בלבד יסוננו.
GLM 4.7 Flash מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט

לפני שמתחילים

  1. נכנסים לחשבון Google Cloud . אנחנו ממליצים למשתמשים חדשים ב- Google Cloud ליצור חשבון כדי שיוכלו להעריך את הביצועים של המוצרים שלנו בתרחישים מהעולם האמיתי. לקוחות חדשים מקבלים בחינם גם קרדיט בשווי 300$ להרצה, לבדיקה ולפריסה של עומסי העבודה.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Gemini Enterprise Agent Platform and Cloud Storage APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Gemini Enterprise Agent Platform and Cloud Storage APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

מתקינים את ה-SDK ומייבאים את הספריות של שיטת הכוונון.

כוונון מפוקח (SFT)

מתקינים ומפעילים את Vertex AI SDK ל-Python, ואז מייבאים את הספריות הבאות:

import os
import time
import uuid
import vertexai

vertexai.init(project=PROJECT_ID, location=REGION)

from google.cloud import aiplatform
from vertexai.tuning import sft, SourceModel

כוונון באמצעות זיקוק

מתקינים את ה-SDK הבא:

pip install google-genai

ואז מייבאים את הספריות הבאות:

import os
import time
import uuid

from google import genai
from google.genai import types
client = genai.Client(vertexai=True, project=PROJECT_ID, location=REGION)

הכנת מערך הנתונים לכוונון

כדי לבצע כוונון, צריך קבוצת נתונים לאימון. מומלץ להכין קבוצת נתונים אופציונלית לאימות אם אתם רוצים להעריך את הביצועים של המודל המכוונן.

קבוצת הנתונים צריכה להיות באחד מהפורמטים הנתמכים הבאים של JSON Lines ‏(JSONL), שבהם כל שורה מכילה דוגמה אחת לכוונון.

מעלים את קובצי ה-JSONL ל-Cloud Storage.

מערכי נתונים של טקסט בלבד

השלמת ההנחיה

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

פורמט צ'אט מבוסס-תור

{"messages": [
  {"content": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles.",
    "role": "system"},
  {"content": "Summarize the paper in one paragraph.",
    "role": "user"},
  {"content": " Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ...",
    "role": "assistant"}
]}

GenerateContent

{
"systemInstruction": {
  "parts": [{ "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." }]},
"contents": [
  {"role": "user",
    "parts": [{ "text": "Summarize the paper in one paragraph." }]},
  {"role": "assistant",
    "parts": [{ "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..." }]}
]}

מערכי נתונים מולטי-מודאליים

פורמט צ'אט מבוסס-תור

{"messages": [
  {"role": "user", "content": [
    {"type": "text", "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles."},
    {"type": "image_url", "image_url": {
      "url": "gs://your-gcs-bucket/your-image.jpeg",
      "detail": "low"}}]
  },
  {"role": "assistant", "content": [
    {"type": "text", "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..."}]
  },
  {"role": "user", "content": [
    {"type": "text", "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles."},
    {"type": "image_url", "image_url": {
      "url": "data:image/jpeg;base64,<base64 image>",
      "detail": "low"}}]
  },
  {"role": "assistant", "content": [
    {"type": "text", "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..."}]
  },
]}

GenerateContent

{
"systemInstruction": {
  "parts": [{ "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." }]},
"contents": [
  {"role": "user",
    "parts": [
      {"text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." },
      {"file_data": {
        "mime_type": "image/jpeg", "file_uri": "gs://your-gcs-bucket/your-image.jpeg"}}]
  },
  {"role": "assistant",
    "parts": [{ "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..." }]}
]}

הפורמטים הנתמכים כוללים JPEG,‏ PNG,‏ WEBP ותמונות בקידוד Base64.

שימו לב: אם התמונות מאוחסנות בקטגוריה של Cloud Storage ששונה מהקטגוריה של קובצי ה-JSONL, ודאו שהקציתם את התפקיד Storage Object User‏ (roles/storage.objectUser) ב-IAM בשתי הקטגוריות לשני חשבונות השירות האלה:

  • service-PROJECT_NUMBER@gcp-sa-vertex-moss-ft.iam.gserviceaccount.com
  • service-PROJECT_NUMBER@gcp-sa-aiplatform.iam.gserviceaccount.com

יצירת משימת כוונון

אפשר לכוון את הגיטרה:

  • מודל בסיס נתמך, כמו Llama 3.1
  • מודל עם ארכיטקטורה זהה לאחד ממודלי הבסיס הנתמכים. זה יכול להיות נקודת בקרה של מודל בהתאמה אישית ממאגר כמו Hugging Face, או מודל שעבר כוונון קודם ממשימת כוונון ב-Gemini Enterprise Agent Platform. כך אפשר להמשיך לכוונן מודל שכבר כוונן.

מסוף Cloud (בפיקוח)

  1. אפשר להתחיל את תהליך הכוונון בדרכים הבאות:

    • עוברים לכרטיס המודל, לוחצים על Fine tune ובוחרים באפשרות Managed tuning.

    לכרטיס המודל של Llama 3.1

    או

    • עוברים לדף Tuning ולוחצים על Create tuned model.

    מעבר לכוונון

  2. ממלאים את הפרמטרים ולוחצים על Start tuning.

פעולה זו מתחילה משימת כוונון, שאפשר לראות בדף Tuning בכרטיסייה Managed tuning.

בסיום משימת הכוונון, אפשר לראות את המידע על המודל המכוונן בכרטיסייה Details.

Agent Platform SDK (Supervised)

מחליפים את ערכי הפרמטרים בערכים שלכם, ואז מריצים את הקוד הבא כדי ליצור משימת כוונון:

sft_tuning_job = sft.train(
    source_model=SourceModel(
      base_model="meta/llama3_1@llama-3.1-8b",
      # Optional, folder that is either a custom model checkpoint or previously tuned model
      custom_base_model="gs://{STORAGE-URI}",
    ),
    tuning_mode="FULL", # FULL or PEFT_ADAPTER
    epochs=3,
    train_dataset="gs://{STORAGE-URI}", # JSONL file
    validation_dataset="gs://{STORAGE-URI}", # JSONL file
    output_uri="gs://{STORAGE-URI}",
)

‫GenAI SDK (זיקוק)

מחליפים את ערכי הפרמטרים בערכים שלכם, ואז מריצים את הקוד הבא כדי ליצור משימת כוונון של זיקוק:

tuning_job = client.tunings.tune(
    base_model="qwen/qwen3@qwen3-4b",
    training_dataset=types.TuningDataset(
        gcs_uri="gs://{STORAGE-URI}"
    ),
    config=types.CreateTuningJobConfig(
        method="DISTILLATION",
        base_teacher_model="zai-org/glm-5.2-maas",
        epoch_count=3,
        validation_dataset=types.TuningValidationDataset(
            gcs_uri="gs://{STORAGE-URI}"
        ),
        output_uri="gs://{STORAGE-URI}",
    ),
)

פריטי מידע שנוצרו בתהליך פיתוח (Artifact) של מודל מכוונן

כשהכוונון מסתיים, פריטי המידע שנוצרו מהמודל המכוונן נשמרים בספריית הפלט ב-Cloud Storage.

gs://<output_dir>/
    # (Distillation tuning only) The labeled dataset from teacher model's inference
    -> distillation_labelled_dataset.jsonl

gs://<output_dir>/postprocess/node-0/checkpoints/
    # Final checkpoint
    -> final/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors

    # Intermediate checkpoints
    -> checkpoint-M/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors
    …
    -> checkpoint-N/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors
  • אפשר לשמור עד 10 נקודות שמירה.
  • אם מספר התקופות (E) קטן מ-10, נשמרות בדיוק E נקודות ביקורת (אחת לכל תקופה).
  • נקודות הביקורת בטווח שבין M ל-N מסודרות. שימו לב שהמספרים של נקודות הביקורת לא תמיד עוקבים. לדוגמה, יכול להיות שהנקודות יהיו ממוספרות 1, 3, 5, 10 במקום 1, 2, 3, 4.

פריסת המודל המכוונן

אתם יכולים לפרוס את המודל המכוונן בנקודת קצה (endpoint) של Gemini Enterprise Agent Platform. אפשר גם לייצא את המודל המכוונן מ-Cloud Storage ולפרוס אותו במקום אחר.

כדי לפרוס את המודל המכוונן בנקודת קצה (endpoint) של Gemini Enterprise Agent Platform:

Cloud Console

  1. נכנסים לדף Model Garden ולוחצים על Deploy model with custom weights.

    כניסה ל-Model Garden

  2. ממלאים את הפרמטרים ולוחצים על Deploy.

Agent Platform SDK for Python

פריסת G2 machine באמצעות קונטיינר מוגדר מראש:

from vertexai.preview import model_garden

MODEL_ARTIFACTS_STORAGE_URI = "gs://{STORAGE-URI}/postprocess/node-0/checkpoints/final"

model = model_garden.CustomModel(
    gcs_uri=MODEL_ARTIFACTS_STORAGE_URI,
)

# deploy the model to an endpoint using GPUs. Cost will incur for the deployment
endpoint = model.deploy(
  machine_type="g2-standard-12",
  accelerator_type="NVIDIA_L4",
  accelerator_count=1,
)

קבלת הסקה

אחרי שהפריסה תסתיים, תוכלו לשלוח בקשות לנקודת הקצה באמצעות פרומפטים טקסטואליים. שימו לב: ייקח יותר זמן לעבד את ההנחיות הראשונות.

# Loads the deployed endpoint
endpoint = aiplatform.Endpoint("projects/{PROJECT_ID}/locations/{REGION}/endpoints/{endpoint_name}")

prompt = "Summarize the following article. Article: Preparing a perfect risotto requires patience and attention to detail. Begin by heating butter in a large, heavy-bottomed pot over medium heat. Add finely chopped onions and minced garlic to the pot, and cook until they're soft and translucent, about 5 minutes. Next, add Arborio rice to the pot and cook, stirring constantly, until the grains are coated with the butter and begin to toast slightly. Pour in a splash of white wine and cook until it's absorbed. From there, gradually add hot chicken or vegetable broth to the rice, stirring frequently, until the risotto is creamy and the rice is tender with a slight bite.. Summary:"

# Define input to the prediction call
instances = [
    {
        "prompt": "What is a car?",
        "max_tokens": 200,
        "temperature": 1.0,
        "top_p": 1.0,
        "top_k": 1,
        "raw_response": True,
    },
]

# Request the prediction
response = endpoint.predict(
    instances=instances
)

for prediction in response.predictions:
    print(prediction)

למידע נוסף על קבלת הסקות ממודל שנפרס, ראו קבלת הסקה אונליין.

שימו לב שבמודלים פתוחים מנוהלים משתמשים ב-method‏ chat.completions, ובמודלים פרוסים משתמשים ב-method‏ predict. מידע נוסף על קבלת הסקות ממודלים מנוהלים זמין במאמר ביצוע קריאה למודל Llama.

מגבלות ומכסות

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצה של משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים והמודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent managed OSS model fine-tuning jobs per project.

בנוסף למכסת משימות הכוונון, בכוונון באמצעות זיקוק נעשה שימוש במודל המורה, ולפרויקט צריכה להיות מכסה מספיקה למודל המורה שצוין. מודלים פתוחים שניתנים כשירות (MaaS) משתמשים במכסה דינמית משותפת. כשמשימת כוונון קוראת למודל מורה, היא צורכת מהמכסה המשותפת של הפרויקט למודל הזה. מידע נוסף על מכסות למודלים פתוחים מנוהלים ב-Gemini Enterprise Agent Platform למודל כשירות (MaaS)

תמחור

החיוב על כוונון המודל מתבצע לפי התמחור של כוונון המודל. מספר הטוקנים לאימון מחושב על ידי הכפלת מספר הטוקנים במערך הנתונים לאימון במספר התקופות. בכוונון באמצעות זיקוק, אתם מחויבים גם על הקריאות ל-API שנשלחות למודל המורה כדי ליצור תשובות, על סמך התמחור של מודלים מנוהלים.

אתם מחויבים גם על שירותים קשורים, כמו Cloud Storage ו-Gemini Enterprise Agent Platform Prediction.

מידע ולמידה על Gemini Enterprise Agent Platform, Cloud Storage ושימוש במחשבון עלויות כדי ליצור הערכת עלויות בהתאם לשימוש החזוי.

המאמרים הבאים