מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כדאי להשתמש בשיטת כוונון מפוקח (SFT) כשמגדירים משימה ברורה ויש נתונים מסומנים זמינים. הוא יעיל במיוחד לאפליקציות ספציפיות לתחום שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לשפר את הדיוק של סוגי הנתונים הבאים: טקסט, תמונה, אודיו, וידאו ומסמך. אפשר גם ליצור אפליקציות וסוכנים מבוססי Gemini שיכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) משנה את התנהגות המודל באמצעות מערך נתונים עם תוויות. במהלך התהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את הפער בין התחזיות שלו לבין התוויות בפועל. לדוגמה, היא יכולה לשפר את ביצועי המודל בסוגי המשימות הבאים:

  • סיווג
  • סיכום
  • מענה לשאלות על סמך מידע שחולץ
  • צ'אט

בפוסט בבלוג מאות ארגונים מבצעים כוונון עדין של מודלים של Gemini מפורטים תרחישי השימוש העיקריים בכוונון עדין. ריכזנו כאן כמה מהתרחישים האהובים עליהם.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ל-Gemini.

מודלים נתמכים

מודלים של Gemini הבאים תומכים בכוונון מפוקח (SFT):

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מגבלות

כוונון מפוקח (SFT) אינו שירות מכוסה והוא אינו נכלל ביעד רמת השירות (SLO) של הסכם רמת שירות כלשהו.

בטבלה הבאה מוצגות המגבלות על קבוצות נתונים של כוונון מפוקח (SFT):

Gemini 3.5 Flash

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
גודל מקסימלי של מערך נתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16
נקודת קצה נתמכת לכוונון מודל us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל שעבר התאמה נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
גודל מקסימלי של מערך נתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16
נקודת קצה נתמכת לכוונון מודל us-central1 וגם europe-west4
נקודת קצה נתמכת לפרסום מודל שעבר התאמה נקודות קצה עם מספר אזורים ב-us וב-eu בלבד
תמיכה ב-CMEK לא נתמך

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים בקלט ובפלט לכל דוגמה לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתוני אימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
גודל מקסימלי של מערך נתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1,‏ 2,‏ 4,‏ 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים של קלט ופלט לאימון 131,072
מספר מקסימלי של טוקנים של קלט ופלט זהה למודל Gemini הבסיסי
גודל מקסימלי של מערך נתונים לאימות ‫5,000 דוגמאות או 30% ממספר הדוגמאות לאימון, אם יש יותר מ-1,000 דוגמאות לאימות
הגודל המקסימלי של קובץ מערך הנתונים לאימון ‫1GB ל-JSONL
גודל מקסימלי של מערך נתונים לאימון 10 מיליון דוגמאות של טקסט בלבד או 300,000 דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • החלת יצירה מבוקרת כששולחים בקשות להסקת מסקנות למודלים של Gemini שעברו התאמה יכולה להוביל לירידה באיכות המודל בגלל חוסר התאמה של הנתונים במהלך ההתאמה והסקת המסקנות. במהלך ההתאמה, לא מופעלת יצירה מבוקרת, ולכן המודל המותאם לא יכול להתמודד היטב עם יצירה מבוקרת בזמן ההסקה. כוונון מפוקח (SFT) מאפשר להתאים אישית את המודל כדי ליצור פלט מובנה. לכן, אין צורך להחיל יצירה מבוקרת כשמבצעים בקשות הסקה במודלים שעברו כוונון.

תרחישי שימוש בכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר בבירור ובאופן תמציתי את הפלט או המשימה הצפויים בהנחיה, וההנחיה יוצרת באופן עקבי את הפלט הצפוי. אם רוצים שמודל ילמד משהו נישתי או ספציפי שחורג מדפוסים כלליים, כדאי לשקול כוונון של המודל. לדוגמה, אתם יכולים להשתמש בכוונון מודל כדי ללמד את המודל את הדברים הבאים:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט מותאם אישית ספציפי לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישי שימוש שקשה לתעד רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מפורטות מדי.

  • סיכום: הסיכום הוא בפורמט מסוים. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שמודל בסיסי לא ייצור באופן טבעי תשובה כזו.

  • מענה לשאלות על סמך מידע שחולץ: השאלה היא על הקשר מסוים והתשובה היא מחרוזת משנה של ההקשר.

    התשובה 'הקרחון האחרון' היא ביטוי ספציפי מההקשר.

  • צ'אט: צריך להתאים אישית את התשובה של המודל כדי שתתאים לאישיות, לתפקיד או לדמות מסוימת.

אפשר גם לכוונן מודל במקרים הבאים:

  • ההנחיות לא מניבות את התוצאות הרצויות באופן עקבי.
  • המשימה מורכבת מדי להגדרה בהנחיה. לדוגמה, אתם רוצים שהמודל יבצע שיבוט התנהגותי של התנהגות שקשה להגדיר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה מסוימת, שקשה לנסח בהנחיה.
  • רוצים לצמצם את חלון ההקשר על ידי הסרת הדוגמאות של פרומפט עם כמה דוגמאות (few-shot).

הגדרת אזור גיאוגרפי למשימת אופטימיזציה

נתוני המשתמשים, כמו מערך הנתונים שעבר טרנספורמציה והמודל המשופר, מאוחסנים באזור של משימת השיפור. במהלך ההתאמה, יכול להיות שהחישוב יועבר לאזורי US או EU אחרים כדי להשתמש במאיצים זמינים. ההעברה מתבצעת בצורה שקופה למשתמשים.

  • אם משתמשים ב-Vertex AI SDK, אפשר לציין את האזור במהלך ההגדרה הראשונית. לדוגמה:

    import vertexai
vertexai.init(project='myproject', location='us-central1')

  • אם יוצרים משימת כוונון עדין מפוקחת על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, צריך להשתמש בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון תפעל. לדוגמה, בכתובת ה-URL הבאה, כדי לציין אזור, מחליפים את שני המקרים של TUNING_JOB_REGION באזור שבו מופעלת העבודה.

     https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • אם משתמשים בGoogle Cloud מסוף, אפשר לבחור את שם האזור בשדה הנפתח אזור בדף פרטי המודל. זה אותו הדף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכה של מודלים שעברו התאמה

אפשר להעריך מודלים שעברו התאמה בדרכים הבאות:

  • מדדי כוונון ואימות: אחרי שמשימת הכוונון מסתיימת, אפשר להעריך את המודל המכוונן באמצעות מדדי כוונון ואימות.

  • הערכה משולבת באמצעות שירות ההערכה של AI גנרטיבי (גרסת Preview): הגדרת משימות התאמה להפעלת הערכות באופן אוטומטי באמצעות שירות ההערכה של AI גנרטיבי במהלך ההתאמה. הממשקים, המודלים והאזורים הבאים נתמכים בשילוב של כוונון עם שירות ההערכה של AI גנרטיבי:

    • ממשקים נתמכים: Google Gen AI SDK ו-API בארכיטקטורת REST.

    • מודלים נתמכים: gemini-2.5-pro,‏ gemini-2.5-flash ו-gemini-2.5-flash-lite.

    • אזורים נתמכים: רשימת האזורים הנתמכים מופיעה כאן.

מכסה

המכסה נאכפת על מספר משימות ההתאמה האישית שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצת לפחות משימת כוונון אחת. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה של AI גנרטיבי להפעלת הערכות באופן אוטומטי במהלך ההתאמה, כדאי לעיין במכסות של שירות ההערכה של AI גנרטיבי.

תמחור

כאן אפשר למצוא את התמחור של Gemini supervised fine-tuning (כוונון עדין מפוקח של Gemini).

מספר טוקני האימון מחושב על ידי הכפלת מספר הטוקנים במערך נתוני האימון במספר התקופות של זמן המערכת. אחרי הכוונון, עדיין חלות עלויות על הסקת מסקנות (בקשת חיזוי) עבור המודל המכוונן. התמחור של היקש זהה לכל גרסה יציבה של Gemini. מידע נוסף מופיע במאמר בנושא גרסאות יציבות זמינות של מודלים של Gemini.

אם תגדירו את שירות ההערכה של ה-AI הגנרטיבי כך שיפעל אוטומטית במהלך ההתאמה, החיוב על ההערכות יתבצע כעל משימות של חיזוי באצווה. מידע נוסף על תמחור

המאמרים הבאים