מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כדאי להשתמש בשיטת כוונון מפוקח (SFT) אם יש לכם משימה מוגדרת היטב עם נתונים מסומנים זמינים. הוא יעיל במיוחד לאפליקציות ספציפיות לתחום שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לשפר את הדיוק של סוגי הנתונים הבאים: טקסט, תמונה, אודיו, וידאו ומסמך. אתם יכולים גם ליצור אפליקציות וסוכנים מבוססי Gemini שיכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) משנה את התנהגות המודל באמצעות מערך נתונים עם תוויות. במהלך התהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את הפער בין התחזיות שלו לבין התוויות בפועל. לדוגמה, אפשר לשפר את הביצועים של המודל בסוגי המשימות הבאים:

  • סיווג
  • סיכום
  • מענה לשאלות על סמך מידע שחולץ
  • צ'אט

בפוסט בבלוג מאות ארגונים מבצעים כוונון עדין של מודלים של Gemini מפורטים תרחישי השימוש העיקריים בכוונון עדין. ריכזנו כאן כמה מהתרחישים האהובים עליהם.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ל-Gemini.

מודלים נתמכים

מודלים של Gemini הבאים תומכים בכוונון מפוקח (SFT):

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מגבלות

כוונון מפוקח (SFT) אינו שירות מכוסה והוא אינו נכלל ביעד למדידת רמת השירות (SLO) של אף הסכם רמת שירות (SLA).

בטבלה הבאה מוצגות המגבלות על קבוצות נתונים של כוונון מפוקח (SFT):

Gemini 3.5 Flash

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16
נקודת קצה נתמכת לכוונון מודלים us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל שעבר התאמה נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16
נקודת קצה נתמכת לכוונון מודלים us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל שעבר התאמה נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים לאימון בקלט ובפלט 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
גודל מקסימלי של מערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
הגודל המקסימלי של מערך הנתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • החלת יצירה מבוקרת כששולחים בקשות להסקת מסקנות למודלים של Gemini שעברו התאמה יכולה להוביל לירידה באיכות המודל בגלל חוסר התאמה של הנתונים במהלך ההתאמה והסקת המסקנות. במהלך ההתאמה, לא מופעלת יצירה מבוקרת, ולכן המודל המותאם לא יכול להתמודד היטב עם יצירה מבוקרת בזמן ההסקה. כוונון מפוקח (SFT) מאפשר להתאים אישית את המודל כדי ליצור פלט מובנה. לכן, אין צורך להחיל יצירה מבוקרת כשמבצעים בקשות הסקה במודלים שעברו כוונון.

תרחישי שימוש לכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר בבירור ובצורה תמציתית את הפלט או המשימה הצפויים בהנחיה, וההנחיה מפיקה באופן עקבי את הפלט הצפוי. אם רוצים שהמודל ילמד משהו נישתי או ספציפי שחורג מדפוסים כלליים, כדאי לשקול לבצע התאמה של המודל. לדוגמה, אפשר להשתמש בכוונון מודל כדי ללמד את המודל את הדברים הבאים:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט מותאם אישית ספציפי לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישי שימוש שקשה לתעד רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מפורטות מדי.

  • סיכום: הסיכום הוא בפורמט מסוים. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שמודל הבסיס לא ייצור באופן טבעי תשובה כזו.

  • מענה לשאלות על סמך מידע שחולץ: השאלה היא על הקשר מסוים והתשובה היא מחרוזת משנה של ההקשר.

    התשובה 'הקרחון האחרון' היא ביטוי ספציפי מההקשר.

  • צ'אט: צריך להתאים אישית את התשובה של המודל כדי שתתאים לאישיות, לתפקיד או לדמות מסוימת.

אפשר גם לכוונן מודל במקרים הבאים:

  • ההנחיות לא מניבות את התוצאות הרצויות באופן עקבי.
  • המשימה מסובכת מדי ואי אפשר להגדיר אותה בהנחיה. לדוגמה, אתם רוצים שהמודל יבצע שיבוט התנהגותי להתנהגות שקשה להגדיר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה מסוימת, שקשה לנסח בהנחיה.
  • רוצים לקצר את חלון ההקשר על ידי הסרת הדוגמאות של פרומפט עם כמה דוגמאות (few-shot).

הגדרת אזור של משימת אופטימיזציה

נתוני המשתמשים, כמו מערך הנתונים שעבר טרנספורמציה והמודל המשופר, מאוחסנים באזור של משימת השיפור. במהלך ההתאמה, יכול להיות שהחישוב יועבר לאזורי US או EU אחרים כדי להשתמש במאיצים זמינים. ההעברה מתבצעת בצורה שקופה למשתמשים.

  • אם משתמשים ב-Vertex AI SDK, אפשר לציין את האזור במהלך ההגדרה הראשונית. לדוגמה:

    import vertexai
vertexai.init(project='myproject', location='us-central1')

  • אם יוצרים משימת כוונון עדין מפוקחת על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, צריך להשתמש בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון תפעל. לדוגמה, בכתובת ה-URL הבאה, כדי לציין אזור, מחליפים את שני המקרים של TUNING_JOB_REGION באזור שבו מופעלת העבודה.

     https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • אם משתמשים בGoogle Cloud מסוף, אפשר לבחור את שם האזור בשדה הנפתח אזור בדף פרטי המודל. זה אותו דף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכה של מודלים שעברו התאמה

אפשר להעריך מודלים שעברו התאמה בדרכים הבאות:

  • מדדי כוונון ואימות: הערכת המודל המכוונן באמצעות מדדי כוונון ואימות אחרי השלמת משימת הכוונון.

  • הערכה משולבת באמצעות שירות ההערכה של AI גנרטיבי (גרסת Preview): הגדרת משימות אופטימיזציה להפעלת הערכות באופן אוטומטי באמצעות שירות ההערכה של AI גנרטיבי במהלך האופטימיזציה. הממשקים, המודלים והאזורים הבאים נתמכים בשילוב של כוונון עם שירות ההערכה של AI גנרטיבי:

    • ממשקים נתמכים: Google Gen AI SDK ו-API בארכיטקטורת REST.

    • מודלים נתמכים: gemini-2.5-pro,‏ gemini-2.5-flash ו-gemini-2.5-flash-lite.

    • אזורים נתמכים: רשימת האזורים הנתמכים מופיעה כאן.

מכסה

המכסה נאכפת על מספר משימות ההתאמה האישית שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצת לפחות משימת כוונון אחת. זו מכסה גלובלית, שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה של AI גנרטיבי להפעלת הערכות באופן אוטומטי במהלך ההתאמה, כדאי לעיין במכסות של שירות ההערכה של AI גנרטיבי.

תמחור

ניתן למצוא תמחור עבור כוונון מפוקח (SFT) של Gemini כאן: Gemini Enterprise Agent Platform pricing.

מספר טוקני האימון מחושב על ידי הכפלת מספר הטוקנים במערך נתוני האימון במספר התקופות של זמן המערכת. אחרי הכוונון, עדיין חלות עלויות על הסקת מסקנות (בקשת חיזוי) עבור המודל המכוונן. התמחור של היקש זהה לכל גרסה יציבה של Gemini. מידע נוסף מופיע במאמר בנושא גרסאות יציבות זמינות של מודלים של Gemini.

אם מגדירים את שירות ההערכה של AI גנרטיבי להפעלה אוטומטית במהלך ההתאמה, החיוב על ההערכות מתבצע כעל משימות של חיזוי באצווה. מידע נוסף על תמחור

המאמרים הבאים