מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כוונון מפוקח הוא אפשרות טובה כשיש לכם משימה מוגדרת היטב עם נתונים מתויגים זמינים. השיטה הזו יעילה במיוחד לאפליקציות ספציפיות לדומיין, שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לכוונן סוגי נתונים של טקסט, תמונה, אודיו, וידאו ומסמך. אתם יכולים גם ליצור אפליקציות וסוכנים שמבוססים על Gemini ויכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) מתאים את התנהגות המודל באמצעות מערך נתונים מתויג. בתהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את ההבדל בין התחזיות שלו לבין התוויות בפועל. לדוגמה, היא יכולה לשפר את ביצועי המודל בסוגי המשימות הבאים:

  • סיווג
  • סיכום
  • מענה לשאלות באמצעות חילוץ מידע
  • צ'אט

בפוסט בבלוג Hundreds of organizations are fine-tuning Gemini models מפורטים תרחישי השימוש המובילים לכוונון. הנה כמה מהתרחישים לדוגמה שהם הכי אוהבים.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ב-Gemini.

מודלים נתמכים

המודלים הבאים של Gemini תומכים בכוונון עדין בפיקוח:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מגבלות

כוונון מפוקח הוא לא שירות מכוסה, והוא לא נכלל ביעד למדידת רמת השירות (SLO) של אף הסכם רמת שירות (SLA).

בטבלה הבאה מוצגות המגבלות על מערכי נתונים של כוונון מפוקח:

‫Gemini 3.5 Flash
Gemini 3.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה במספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן רק נקודות קצה במספר אזורים ב-us וב-eu
תמיכה בממשק המשתמש

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה במספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן רק נקודות קצה במספר אזורים ב-us וב-eu
תמיכה בממשק המשתמש

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • אם תפעילו יצירה מבוקרת כשאתם שולחים בקשות להסקת מסקנות למודלי Gemini מכווננים, יכול להיות שאיכות המודל תרד בגלל חוסר התאמה של הנתונים בזמן הכוונון והסקת המסקנות. במהלך הכוונון, לא מתבצעת יצירה מבוקרת, ולכן המודל המכוונן לא יכול לטפל ביצירה מבוקרת בצורה טובה בזמן ההסקה. כוונון מפוקח (SFT) מתאים את המודל בצורה יעילה כדי ליצור פלט מובנה. לכן, לא צריך להחיל יצירה מבוקרת כששולחים בקשות להסקת מסקנות במודלים מכווננים.

תרחישים לדוגמה לשימוש בכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר את הפלט או המשימה הצפויים בצורה ברורה ותמציתית בהנחיה, וההנחיה מפיקה באופן עקבי את הפלט הצפוי. אם אתם רוצים שהמודל ילמד משהו נישתי או ספציפי שחורג מהדפוסים הכלליים, כדאי לשקול כוונון של המודל. לדוגמה, אתם יכולים להשתמש בכוונון מודל כדי ללמד את המודל את הדברים הבאים:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט ספציפי בהתאמה אישית לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישים לדוגמה שקשה להשיג רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מילוליות.

  • סיכום: הסיכום מופיע בפורמט ספציפי. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שמודל הבסיס לא יפיק תשובה כזו באופן טבעי.

  • מענה לשאלות באמצעות חילוץ: השאלה היא לגבי הקשר מסוים, והתשובה היא מחרוזת משנה של ההקשר.

    התשובה "שיא תקופת הקרח האחרונה" היא ביטוי ספציפי מההקשר.

  • צ'אט: אתם צריכים להתאים אישית את התשובה של המודל כדי שיפעל לפי פרסונה, תפקיד או דמות.

אפשר גם לכוונן מודל במצבים הבאים:

  • ההנחיות לא מניבות את התוצאות הצפויות באופן עקבי מספיק.
  • המשימה מורכבת מדי להגדרה בהנחיה. לדוגמה, אתם רוצים שהמודל ישכפל התנהגות שקשה להסביר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה שקשה לנסח בהנחיה.
  • אתם רוצים להקטין את חלון ההקשר על ידי הסרת הדוגמאות.

הגדרת אזור למשימת כוונון

נתוני משתמש, כמו קבוצת הנתונים שעברה טרנספורמציה והמודל שעבר כוונון, מאוחסנים באזור של משימת הכוונון. במהלך הכוונון, יכול להיות שהחישוב יועבר לאזורים אחרים של US או EU כדי להשתמש במאיצים זמינים. העברת הנתונים שקופה למשתמשים.

  • אם אתם משתמשים ב-Google Gen AI SDK, אתם יכולים לציין את האזור באמצעות הגדרת משתנה הסביבה GOOGLE_CLOUD_LOCATION. לדוגמה:

    export GOOGLE_CLOUD_PROJECT=PROJECT_ID
export GOOGLE_CLOUD_LOCATION=us # Use us-central1 for Gemini 2.5 and earlier models
export GOOGLE_GENAI_USE_ENTERPRISE=True

  • אם אתם יוצרים משימת כוונון מפוקח על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, אתם משתמשים בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון פועלת. לדוגמה, בכתובת ה-URL הבאה, מציינים אזור על ידי החלפת שני המופעים של TUNING_JOB_REGION באזור שבו המשימה פועלת.

    ‫Gemini 3 ואילך 

    https://aiplatform.TUNING_JOB_REGION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

    ‫Gemini 2.5 וגרסאות קודמות 

    https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • אם אתם משתמשים בGoogle Cloud מסוף (רק ב-Gemini 2.5 ובמודלים קודמים), אתם יכולים לבחור את שם האזור בשדה הנפתח Region בדף Model details. זה אותו דף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכת מודלים מכווננים

אתם יכולים להעריך מודלים מכווננים בדרכים הבאות:

  • מדדי כוונון ואימות: הערכת המודל המכוונן באמצעות מדדי כוונון ואימות אחרי שמשימת הכוונון מסתיימת.

  • הערכה משולבת עם שירות הערכה ל-AI גנרטיבי (תצוגה מקדימה): מגדירים משימות כוונון כדי להריץ הערכות באופן אוטומטי באמצעות שירות ההערכה ל-AI גנרטיבי במהלך הכוונון. הממשקים, המודלים והאזורים הבאים נתמכים בשילוב של הכוונון עם שירות ההערכה ל-AI גנרטיבי:

    • ממשקים נתמכים: Google Gen AI SDK ו-API בארכיטקטורת REST.

    • מודלים נתמכים: gemini-2.5-pro,‏ gemini-2.5-flash ו-gemini-2.5-flash-lite.

    • אזורים נתמכים: רשימת האזורים הנתמכים מופיעה במאמר אזורים נתמכים.

מכסה

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצה של משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה של Vertex AI ל-AI גנרטיבי כך שיריץ הערכות באופן אוטומטי במהלך הכוונון, כדאי לעיין במכסות של שירות ההערכה של Vertex AI ל-AI גנרטיבי.

תמחור

התמחור של כוונון מפוקח (SFT) ב-Gemini מפורט במאמר התמחור של Gemini Enterprise Agent Platform.

כדי לחשב את מספר הטוקנים לאימון, מכפילים את מספר הטוקנים במערך נתוני האימון במספר התקופות של זמן המערכת. אחרי הכוונון, עדיין חלות עלויות הסקה (בקשת חיזוי) של המודל המכוונן. התמחור של הסקת מסקנות זהה לכל גרסה יציבה של Gemini. מידע נוסף זמין במאמר גרסאות המודלים היציבות הזמינות של Gemini.

אם אתם מגדירים את שירות ההערכה ל-AI גנרטיבי כך שיפעל באופן אוטומטי במהלך הכוונון, ההערכות יחויבו כמשימות חיזוי באצווה. מידע נוסף זמין במאמר תמחור.

המאמרים הבאים