כוונון עדין מונחה וזיקוק של מודלים פתוחים

בדף הזה מוסבר איך לבצע כוונון מבוקר וכוונון זיקוק במודלים פתוחים כמו Llama 3.1. אלא אם צוין אחרת, ההוראות בדף הזה רלוונטיות גם לכוונון מפוקח וגם לכוונון באמצעות זיקוק. באמצעות זיקוק אפשר לכוונן מודל קטן יותר של תלמיד באמצעות הפלט של מודל גדול יותר של מורה.

מצבי כוונון נתמכים

  • כוונון מפוקח (SFT):
    • כוונון מלא
    • ‫Low-Rank Adaptation ‏ (LoRA): מצב כוונון יעיל של פרמטרים שמתאים רק קבוצת משנה של פרמטרים. השיטה הזו חסכונית יותר ודורשת פחות נתוני אימון מאשר כוונון מלא. לעומת זאת, בכוונון מלא יש פוטנציאל לאיכות גבוהה יותר כי כל הפרמטרים משתנים.
  • כוונון באמצעות זיקוק: בכוונון באמצעות זיקוק משתמשים ב-GenAI SDK, שבו מציינים מודל מורה כדי ליצור תשובות שמשמשות לאחר מכן לכוונון של מודל תלמיד קטן יותר.

תרחישים לדוגמה שמומלץ להשתמש בהם בכוונון באמצעות זיקוק

כוונון עדין של זיקוק יעיל במיוחד כשהמודל המורה הרבה יותר מיומן מהתלמיד במשימת היעד. מומלץ להשתמש בשיטה הזו כדי להעביר יכולות חשיבה מורכבות ורב-שלביות ממודל מורה גדול יותר למודל תלמיד קטן יותר, כולל:

  • מתמטיקה וחשיבה כמותית
  • מענה על שאלות בתחומים מדעיים, רפואיים ואחרים שדורשים הסקת מסקנות הדרגתית
  • משימות אחרות שבהן מודל מורה חזק עם התנהגות של "חשיבה" או שרשרת חשיבה (CoT) מפיק באופן עקבי תשובות באיכות גבוהה יותר מאשר התלמיד.

הזיקוק מספק שיפורים קטנים יותר במשימות שבהן מודל התלמיד כבר פועל קרוב למורה, או במשימות אחזור קצרות שבהן נתיב החשיבה של המורה לא מוסיף ערך.

מודלים נתמכים

מודלים נתמכים של כוונון מפוקח (SFT)

  • ‫Gemma 4 E2B IT‏ (google/gemma4@gemma-4-e2b-it)
  • Gemma 4 E4B IT (google/gemma4@gemma-4-e4b-it)
  • ‫Gemma 4 26B A4B IT ‏ (google/gemma4@gemma-4-26b-a4b-it)
  • ‫Gemma 4 31B IT‏ (google/gemma4@gemma-4-31b-it)
  • ‫Gemma 3 1B IT‏ (google/gemma3@gemma-3-1b-it)
  • Gemma 3 4B IT (google/gemma3@gemma-3-4b-it)
  • ‫Gemma 3 12B IT‏ (google/gemma3@gemma-3-12b-it)
  • ‫Gemma 3 27B IT‏ (google/gemma3@gemma-3-27b-it)
  • ‫Medgemma 1.5 4B IT‏ (google/medgemma@medgemma-1.5-4b-it)
  • Qwen 3.6 27B (qwen/qwen3-6@qwen3.6-27b)
  • Qwen 3.6 35B A3B (qwen/qwen3-6@qwen3.6-35b-a3b)
  • Qwen 3.5 9B (qwen/qwen3-5@qwen3.5-9b)
  • Qwen 3 4B (qwen/qwen3@qwen3-4b)
  • Qwen 3 8B (qwen/qwen3@qwen3-8b)
  • Qwen 3 14B (qwen/qwen3@qwen3-14b)
  • Qwen 3 32B (qwen/qwen3@qwen3-32b)
  • Llama 3.1 8B (meta/llama3_1@llama-3.1-8b)
  • ‫Llama 3.1 8B Instruct (meta/llama3_1@llama-3.1-8b-instruct)
  • ‫Llama 3.2 1B Instruct (meta/llama3-2@llama-3.2-1b-instruct)
  • ‫Llama 3.2 3B Instruct (meta/llama3-2@llama-3.2-3b-instruct)
  • ‫Llama 3.3 70B Instruct (meta/llama3-3@llama-3.3-70b-instruct)
  • ‫Llama 4 Scout 17B 16E Instruct (meta/llama4@llama-4-scout-17b-16e-instruct)
  • ‫GLM 4.7 Flash‏ (zai-org/glm-4.7-flash@glm-4.7-flash)

מודלים נתמכים לכוונון באמצעות זיקוק

מודלים נתמכים של מורים:

  • DeepSeek R1 0528 MaaS (deepseek-ai/deepseek-r1-0528-maas)
  • ‫DeepSeek V3.2 MaaS‏ (deepseek-ai/deepseek-v3.2-maas)
  • ‫GLM 5.2 MaaS‏ (zai-org/glm-5.2-maas)
  • ‫Kimi K2 Thinking MaaS (moonshotai/kimi-k2-thinking-maas)
  • ‫Qwen 3 Next 80B A3B Thinking MaaS (qwen/qwen3-next-80b-a3b-thinking-maas)

מודלים נתמכים של תלמידים:

  • Qwen 3 4B (qwen/qwen3@qwen3-4b)
  • Qwen 3 8B (qwen/qwen3@qwen3-8b)
  • Qwen 3 14B (qwen/qwen3@qwen3-14b)
  • Qwen 3 32B (qwen/qwen3@qwen3-32b)
  • ‫Gemma 3 1B IT‏ (google/gemma3@gemma-3-1b-it)
  • Gemma 3 4B IT (google/gemma3@gemma-3-4b-it)
  • ‫Gemma 3 12B IT‏ (google/gemma3@gemma-3-12b-it)
  • ‫Gemma 3 27B IT‏ (google/gemma3@gemma-3-27b-it)

אזורים נתמכים

מומלץ מאוד להשתמש בנקודת קצה גלובלית (global) כדי להפעיל משימות כוונון. היא תבחר אזור נתמך עם קיבולת זמינה ותפעיל משימת כוונון. כשמפעילים משימה מנקודת הקצה הגלובלית, חשוב לשים לב לנקודות הבאות:

  • כשיוצרים משימת כוונון גלובלית, נוצרת משימת כוונון אזורית תואמת (באזור שנבחר). החיוב במכסה והחיוב הכספי יהיו רק על משימת כוונון אחת.
  • משאבי משנה (כמו ניסויים או מודלים של TensorBoard) ייווצרו באזור היעד שנבחר. אפשר לחלץ את המיקום מהשם המלא של המשאב ולשלוח שאילתה באמצעות Vertex AI SDK.

משימות כוונון ספציפיות לאזור עדיין זמינות למשתמשים עם צרכים מתקדמים יותר (כמו כל המשאבים שמוגדרים לאזור אחד):

  • איווה (us-central1)
  • הולנד (europe-west4)
  • אורגון (us-west1)
  • Columbus (us-east5)
  • סינגפור (asia-southeast1)
  • ג'אקארטה (asia-southeast2)

מגבלות

דגם מפרט ערך
Gemma 4 E2B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 E4B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 26B A4B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 4 31B IT מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 1B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 4B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 12B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Gemma 3 27B IT מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Medgemma 1.5 4B IT מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3.6 27B מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 12288
מודליות טקסט
Qwen 3.6 35B A3B מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 12288
מודליות טקסט
Qwen 3.5 9B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 4B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 8B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 14B מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Qwen 3 32B מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.1 8B מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.1 8B Instruct מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.2 1B Instruct מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
Llama 3.2 3B Instruct מצבי כוונון כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
‫Llama 3.3 70B Instruct מצבי כוונון כוונון יעיל בפרמטרים
כוונון מלא
אורך הרצף המקסימלי 8192
מודליות טקסט
‫Llama 4 Scout 17B 16E Instruct מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 2048
מודליות טקסט
תמונות*

*אין תמיכה בקבוצות נתונים מעורבות שכוללות גם דוגמאות של טקסט בלבד וגם דוגמאות של תמונות. אם יש לפחות דוגמה אחת של תמונה במערך הנתונים, כל הדוגמאות של טקסט בלבד יסוננו.
GLM 4.7 Flash מצבי כוונון כוונון יעיל בפרמטרים
אורך הרצף המקסימלי 8192
מודליות טקסט

לפני שמתחילים

  1. נכנסים לחשבון Google Cloud . אנחנו ממליצים למשתמשים חדשים ב- Google Cloud ליצור חשבון כדי שיוכלו להעריך את הביצועים של המוצרים שלנו בתרחישים מהעולם האמיתי. לקוחות חדשים מקבלים בחינם גם קרדיט בשווי 300$ להרצה, לבדיקה ולפריסה של עומסי העבודה.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Gemini Enterprise Agent Platform and Cloud Storage APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Gemini Enterprise Agent Platform and Cloud Storage APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

מתקינים את ה-SDK ומייבאים את הספריות של שיטת הכוונון.

כוונון מפוקח (SFT)

מתקינים ומפעילים את Vertex AI SDK ל-Python, ואז מייבאים את הספריות הבאות:

import os
import time
import uuid
import vertexai

vertexai.init(project=PROJECT_ID, location=REGION)

from google.cloud import aiplatform
from vertexai.tuning import sft, SourceModel

כוונון באמצעות זיקוק

מתקינים את ה-SDK הבא:

pip install google-genai

ואז מייבאים את הספריות הבאות:

import os
import time
import uuid

from google import genai
from google.genai import types
client = genai.Client(vertexai=True, project=PROJECT_ID, location=REGION)

הכנת מערך הנתונים לכוונון

כדי לבצע כוונון, צריך קבוצת נתונים לאימון. אם אתם רוצים להעריך את הביצועים של המודל המכוונן, מומלץ להכין קבוצת נתונים אופציונלית לאימות.

קבוצת הנתונים צריכה להיות באחד מהפורמטים הנתמכים הבאים של JSON Lines ‏ (JSONL), שבהם כל שורה מכילה דוגמה אחת לכוונון.

מעלים את קובצי ה-JSONL ל-Cloud Storage.

קבוצות נתונים של טקסט בלבד

השלמת הנחיות

{"prompt": "<prompt text>", "completion": "<ideal generated text>"}

פורמט צ'אט מבוסס-תורות

{"messages": [
  {"content": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles.",
    "role": "system"},
  {"content": "Summarize the paper in one paragraph.",
    "role": "user"},
  {"content": " Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ...",
    "role": "assistant"}
]}

GenerateContent

{
"systemInstruction": {
  "parts": [{ "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." }]},
"contents": [
  {"role": "user",
    "parts": [{ "text": "Summarize the paper in one paragraph." }]},
  {"role": "assistant",
    "parts": [{ "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..." }]}
]}

מערכי נתונים מולטי-מודאליים

פורמט צ'אט מבוסס-תורות

{"messages": [
  {"role": "user", "content": [
    {"type": "text", "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles."},
    {"type": "image_url", "image_url": {
      "url": "gs://your-gcs-bucket/your-image.jpeg",
      "detail": "low"}}]
  },
  {"role": "assistant", "content": [
    {"type": "text", "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..."}]
  },
  {"role": "user", "content": [
    {"type": "text", "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles."},
    {"type": "image_url", "image_url": {
      "url": "data:image/jpeg;base64,<base64 image>",
      "detail": "low"}}]
  },
  {"role": "assistant", "content": [
    {"type": "text", "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..."}]
  },
]}

GenerateContent

{
"systemInstruction": {
  "parts": [{ "text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." }]},
"contents": [
  {"role": "user",
    "parts": [
      {"text": "You are a chatbot that helps with scientific literature and generates state-of-the-art abstracts from articles." },
      {"file_data": {
        "mime_type": "image/jpeg", "file_uri": "gs://your-gcs-bucket/your-image.jpeg"}}]
  },
  {"role": "assistant",
    "parts": [{ "text": "Here is a one paragraph summary of the paper:\n\nThe paper describes PaLM, ..." }]}
]}

הפורמטים הנתמכים כוללים JPEG,‏ PNG,‏ WEBP ותמונות בקידוד Base64.

שימו לב: אם התמונות מאוחסנות בקטגוריה של Cloud Storage שונה מזו של קובצי ה-JSONL, ודאו שהקציתם את התפקיד Storage Object User‏ (roles/storage.objectUser) ב-IAM בשתי הקטגוריות לשני חשבונות השירות האלה:

  • service-PROJECT_NUMBER@gcp-sa-vertex-moss-ft.iam.gserviceaccount.com
  • service-PROJECT_NUMBER@gcp-sa-aiplatform.iam.gserviceaccount.com

יצירת משימת כוונון

אפשר לכוון את הגיטרה:

  • מודל בסיס נתמך, כמו Llama 3.1
  • מודל עם ארכיטקטורה זהה לזו של אחד ממודלי הבסיס הנתמכים. זה יכול להיות נקודת בקרה של מודל בהתאמה אישית ממאגר כמו Hugging Face, או מודל שעבר כוונון קודם במשימת כוונון ב-Gemini Enterprise Agent Platform. כך אפשר להמשיך לכוונן מודל שכבר כוונן.

מסוף Cloud (בפיקוח)

  1. אפשר להתחיל את תהליך הכוונון בדרכים הבאות:

    • עוברים לכרטיס המודל, לוחצים על Fine tune ובוחרים באפשרות Managed tuning.

    לכרטיס המודל של Llama 3.1

    או

    • עוברים לדף Tuning ולוחצים על Create tuned model.

    מעבר לכוונון

  2. ממלאים את הפרמטרים ולוחצים על Start tuning.

פעולת הכוונון מתחילה, ואפשר לראות אותה בדף Tuning בכרטיסייה Managed tuning.

בסיום משימת הכוונון, אפשר לראות את המידע על המודל המכוונן בכרטיסייה Details.

Agent Platform SDK (Supervised)

מחליפים את ערכי הפרמטרים בערכים שלכם, ואז מריצים את הקוד הבא כדי ליצור משימת כוונון:

sft_tuning_job = sft.train(
    source_model=SourceModel(
      base_model="meta/llama3_1@llama-3.1-8b",
      # Optional, folder that is either a custom model checkpoint or previously tuned model
      custom_base_model="gs://{STORAGE-URI}",
    ),
    tuning_mode="FULL", # FULL or PEFT_ADAPTER
    epochs=3,
    train_dataset="gs://{STORAGE-URI}", # JSONL file
    validation_dataset="gs://{STORAGE-URI}", # JSONL file
    output_uri="gs://{STORAGE-URI}",
)

‫GenAI SDK (זיקוק)

מחליפים את ערכי הפרמטרים בערכים משלכם, ואז מריצים את הקוד הבא כדי ליצור משימת כוונון באמצעות זיקוק:

tuning_job = client.tunings.tune(
    base_model="qwen/qwen3@qwen3-4b",
    training_dataset=types.TuningDataset(
        gcs_uri="gs://{STORAGE-URI}"
    ),
    config=types.CreateTuningJobConfig(
        method="DISTILLATION",
        base_teacher_model="qwen/qwen3-next-80b-a3b-thinking-maas",
        epoch_count=3,
        validation_dataset=types.TuningValidationDataset(
            gcs_uri="gs://{STORAGE-URI}"
        ),
        output_uri="gs://{STORAGE-URI}",
    ),
)

פריטי מידע שנוצרו בתהליך פיתוח (Artifact) של מודל מכוונן

בסיום פעולת הכוונון, פריטי המידע של המודל המכוונן נשמרים בספריית הפלט של Cloud Storage.

gs://<output_dir>/
    # (Distillation tuning only) The labeled dataset from teacher model's inference
    -> distillation_labelled_dataset.jsonl

gs://<output_dir>/postprocess/node-0/checkpoints/
    # Final checkpoint
    -> final/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors

    # Intermediate checkpoints
    -> checkpoint-M/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors
    …
    -> checkpoint-N/
        -> model-00001-of-000xx.safetensors
        -> model-000yy-of-000xx.safetensors
  • אפשר לשמור עד 10 נקודות שמירה.
  • אם מספר התקופות (E) קטן מ-10, נשמרות בדיוק E נקודות ביקורת (אחת לכל תקופה).
  • נקודות ביניים בטווח שבין M ל-N מסודרות. שימו לב שלא תמיד יש רצף במספרים של נקודות הביקורת. לדוגמה, יכול להיות שהנקודות יהיו ממוספרות 1, 3, 5, 10 במקום 1, 2, 3, 4.

פריסת המודל המכוונן

אתם יכולים לפרוס את המודל המכוונן בנקודת קצה (endpoint) של Gemini Enterprise Agent Platform. אפשר גם לייצא את המודל המכוונן מ-Cloud Storage ולפרוס אותו במקום אחר.

כדי לפרוס את המודל המכוונן בנקודת קצה של Gemini Enterprise Agent Platform:

Cloud Console

  1. נכנסים לדף Model Garden ולוחצים על Deploy model with custom weights.

    כניסה ל-Model Garden

  2. ממלאים את הפרמטרים ולוחצים על Deploy.

Agent Platform SDK ל-Python

פריסת G2 machine באמצעות קונטיינר מובנה:

from vertexai.preview import model_garden

MODEL_ARTIFACTS_STORAGE_URI = "gs://{STORAGE-URI}/postprocess/node-0/checkpoints/final"

model = model_garden.CustomModel(
    gcs_uri=MODEL_ARTIFACTS_STORAGE_URI,
)

# deploy the model to an endpoint using GPUs. Cost will incur for the deployment
endpoint = model.deploy(
  machine_type="g2-standard-12",
  accelerator_type="NVIDIA_L4",
  accelerator_count=1,
)

קבלת הסקה

אחרי שהפריסה תסתיים, תוכלו לשלוח בקשות לנקודת הקצה באמצעות פרומפטים טקסטואליים. שימו לב: הפרומפטים הראשונים יופעלו לאט יותר.

# Loads the deployed endpoint
endpoint = aiplatform.Endpoint("projects/{PROJECT_ID}/locations/{REGION}/endpoints/{endpoint_name}")

prompt = "Summarize the following article. Article: Preparing a perfect risotto requires patience and attention to detail. Begin by heating butter in a large, heavy-bottomed pot over medium heat. Add finely chopped onions and minced garlic to the pot, and cook until they're soft and translucent, about 5 minutes. Next, add Arborio rice to the pot and cook, stirring constantly, until the grains are coated with the butter and begin to toast slightly. Pour in a splash of white wine and cook until it's absorbed. From there, gradually add hot chicken or vegetable broth to the rice, stirring frequently, until the risotto is creamy and the rice is tender with a slight bite.. Summary:"

# Define input to the prediction call
instances = [
    {
        "prompt": "What is a car?",
        "max_tokens": 200,
        "temperature": 1.0,
        "top_p": 1.0,
        "top_k": 1,
        "raw_response": True,
    },
]

# Request the prediction
response = endpoint.predict(
    instances=instances
)

for prediction in response.predictions:
    print(prediction)

למידע נוסף על קבלת הסקות ממודל שנפרס, ראו קבלת הסקה אונליין.

שימו לב שבמודלים פתוחים מנוהלים משתמשים ב-method‏ chat.completions במקום ב-method‏ predict שמשמשת במודלים פרוסים. מידע נוסף על קבלת הסקות ממודלים מנוהלים זמין במאמר ביצוע קריאה למודל Llama.

מגבלות ומכסות

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצת משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent managed OSS model fine-tuning jobs per project.

בנוסף למכסת משימות הכוונון, בכוונון באמצעות זיקוק נעשה שימוש במודל המורה, ולפרויקט צריכה להיות מכסה מספיקה למודל המורה שצוין. מודלים פתוחים שניתנים כמודל כשירות (MaaS) משתמשים במכסה דינמית משותפת. כשמשימת כוונון קוראת למודל מורה, היא צורכת מהמכסה המשותפת של הפרויקט למודל הזה. מידע נוסף על מכסות למודלים פתוחים מנוהלים ב-Gemini Enterprise Agent Platform ל-MaaS

תמחור

החיוב על כוונון מבוסס על התמחור של כוונון מודלים. מספר הטוקנים לאימון מחושב על ידי הכפלת מספר הטוקנים במערך הנתונים לאימון במספר התקופות. בכוונון זיקוק, תחויבו גם על הקריאות ל-API שבוצעו למודל המורה כדי ליצור תשובות, על סמך התמחור של מודלים מנוהלים.

אתם מחויבים גם על שירותים קשורים, כמו Cloud Storage ו-Gemini Enterprise Agent Platform Prediction.

מידע ולמידה על מחירון של Gemini Enterprise Agent Platform, מחירון של Cloud Storage ושימוש במחשבון העלויות כדי ליצור הערכת עלות המבוססת על השימוש הצפוי שלך.

המאמרים הבאים