מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כוונון מפוקח הוא אפשרות טובה כשיש לכם משימה מוגדרת היטב עם נתונים מתויגים זמינים. הוא יעיל במיוחד לאפליקציות ספציפיות לתחום שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לשפר את הדיוק של סוגי הנתונים הבאים: טקסט, תמונה, אודיו, וידאו ומסמך. אתם יכולים גם ליצור אפליקציות וסוכנים שמבוססים על Gemini ויכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) משנה את התנהגות המודל באמצעות מערך נתונים עם תוויות. במהלך התהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את הפער בין התחזיות שלו לבין התוויות בפועל. לדוגמה, אפשר לשפר את הביצועים של המודל בסוגי המשימות הבאים:

  • סיווג
  • סיכום
  • מענה לשאלות באמצעות חילוץ מידע
  • צ'אט

בפוסט בבלוג מאות ארגונים מבצעים כוונון עדין של מודלים של Gemini מפורטים תרחישי השימוש העיקריים בכוונון עדין. ריכזנו כאן כמה מהתרחישים האהובים עליהם.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ל-Gemini.

מודלים נתמכים

מודלים של Gemini הבאים תומכים בכוונון מפוקח (SFT):

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מגבלות

כוונון מפוקח הוא לא שירות מכוסה, והוא לא נכלל ביעד למדידת רמת השירות (SLO) של אף הסכם רמת שירות (SLA).

בטבלה הבאה מוצגות המגבלות על קבוצות נתונים של כוונון מפוקח (SFT):

Gemini 3.5 Flash

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודל us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל מכוונן נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודל us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל מכוונן נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים לאימון בקלט ובפלט 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
גודל מקסימלי של מערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • החלת יצירה מבוקרת כששולחים בקשות להסקת מסקנות למודלים של Gemini שעברו התאמה יכולה להוביל לירידה באיכות המודל בגלל חוסר התאמה של הנתונים במהלך ההתאמה והסקת המסקנות. במהלך ההתאמה, לא מופעלת יצירה מבוקרת, ולכן המודל שעבר התאמה לא יכול להתמודד היטב עם יצירה מבוקרת בזמן ההסקה. כוונון מפוקח (SFT) מתאים את המודל בצורה יעילה כדי ליצור פלט מובנה. לכן, אין צורך להחיל יצירה מבוקרת כשמבצעים בקשות הסקה במודלים שעברו כוונון.

תרחישי שימוש לכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר בבירור ובצורה תמציתית את הפלט או המשימה הצפויים בהנחיה, וההנחיה מפיקה באופן עקבי את הפלט הצפוי. אם רוצים שהמודל ילמד משהו נישתי או ספציפי שחורג מדפוסים כלליים, כדאי לשקול לבצע התאמה של המודל. לדוגמה, אתם יכולים להשתמש בכוונון מודל כדי ללמד את המודל:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט מותאם אישית ספציפי לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישי שימוש שקשה לתעד רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מפורטות מדי.

  • סיכום: הסיכום הוא בפורמט מסוים. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שמודל הבסיס לא ייצור באופן טבעי תשובה כזו.

  • מענה לשאלות מתוך הקשר: השאלה היא על הקשר מסוים, והתשובה היא מחרוזת משנה של ההקשר.

    התשובה 'הקרחון האחרון' היא ביטוי ספציפי מההקשר.

  • צ'אט: צריך להתאים אישית את התשובה של המודל כדי שתתאים לאישיות, לתפקיד או לדמות מסוימת.

אפשר גם לכוונן מודל במקרים הבאים:

  • ההנחיות לא מניבות את התוצאות הרצויות באופן עקבי.
  • המשימה מסובכת מדי ואי אפשר להגדיר אותה בהנחיה. לדוגמה, אתם רוצים שהמודל יבצע שיבוט התנהגותי להתנהגות שקשה להגדיר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה מסוימת, שקשה לנסח בהנחיה.
  • רוצים לקצר את חלון ההקשר על ידי הסרת הדוגמאות של פרומפט עם כמה דוגמאות (few-shot).

הגדרת אזור של משימת אופטימיזציה

נתוני משתמש, כמו קבוצת הנתונים שעברה טרנספורמציה והמודל שעבר כוונון, מאוחסנים באזור של משימת הכוונון. במהלך ההתאמה, יכול להיות שהחישוב יועבר לאזורי US או EU אחרים כדי להשתמש במאיצים זמינים. ההעברה מתבצעת בצורה שקופה למשתמשים.

  • אם אתם משתמשים ב-Vertex AI SDK, אתם יכולים לציין את האזור בזמן ההפעלה. לדוגמה:

    import vertexai
vertexai.init(project='myproject', location='us-central1')

  • אם יוצרים משימת כוונון עדין מפוקחת על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, צריך להשתמש בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון תפעל. לדוגמה, בכתובת ה-URL הבאה, מציינים אזור על ידי החלפת שני המופעים של TUNING_JOB_REGION באזור שבו המשימה פועלת.

     https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • אם משתמשים בGoogle Cloud מסוף, אפשר לבחור את שם האזור בשדה הנפתח אזור בדף פרטי המודל. זה אותו דף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכת מודלים מכווננים

אפשר להעריך מודלים שעברו התאמה בדרכים הבאות:

מכסה

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצת משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה של AI גנרטיבי להפעלת הערכות באופן אוטומטי במהלך ההתאמה, כדאי לעיין במכסות של שירות ההערכה של AI גנרטיבי.

תמחור

ניתן למצוא תמחור עבור כוונון מפוקח (SFT) של Gemini כאן: Gemini Enterprise Agent Platform pricing.

מספר טוקני האימון מחושב על ידי הכפלת מספר הטוקנים במערך נתוני האימון במספר התקופות של זמן המערכת. אחרי הכוונון, עדיין חלות עלויות על הסקת מסקנות (בקשת חיזוי) עבור המודל המכוונן. התמחור של הסקת מסקנות זהה לכל גרסה יציבה של Gemini. מידע נוסף זמין במאמר גרסאות המודלים היציבות של Gemini.

אם מגדירים את שירות ההערכה של AI גנרטיבי להפעלה אוטומטית במהלך ההתאמה, החיוב על ההערכות מתבצע כעל משימות של חיזוי באצווה. מידע נוסף על תמחור

המאמרים הבאים