מבוא לכוונון

‫Model tuning הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בצורה מדויקת יותר. כדי לשפר את המודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מופיע סקירה כללית של כוונון מודלים ב-Gemini, תיאור של אפשרויות הכוונון שזמינות ב-Gemini ועזרה בקביעה מתי צריך להשתמש בכל אפשרות כוונון.

היתרונות של כוונון המודל

כוונון מודל הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב לשיפור האיכות והיעילות של המודל. לכוונון מודל יש את היתרונות הבאים:

  • איכות גבוהה יותר למשימות הספציפיות שלכם
  • שיפור העמידות של המודלים
  • זמן אחזור נמוך יותר של מסקנות ועלות נמוכה יותר בגלל הנחיות קצרות יותר

השוואה בין שיפור המודל לעיצוב הנחיות

  • כתיבת הנחיות למודלים של Gemini שעברו אימון מראש: כתיבת הנחיות היא אומנות של יצירת הוראות יעילות כדי להנחות מודלים של AI כמו Gemini ליצירת התוצאות הרצויות. היא כוללת עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, הפורמט הרצוי וכל הקשר רלוונטי. אתם יכולים להשתמש ביכולות של Gemini עם הגדרה מינימלית. האפשרות הזו מתאימה במיוחד ל:
    • נתונים מסומנים מוגבלים: אם יש לכם כמות קטנה של נתונים מסומנים או שאתם לא יכולים להרשות לעצמכם תהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהירה: כשצריך לבדוק במהירות קונספט או לקבל ביצועים בסיסיים בלי להשקיע הרבה כסף בכוונון עדין.
  • כוונון עדין מותאם אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לבצע כוונון עדין של המודלים שלו על מערכי נתונים ספציפיים. כדי ליצור מודל AI שמצטיין בתחום הספציפי שלכם, כדאי לשקול כוונון עדין. התהליך הזה כולל אימון מחדש של מודל הבסיס על מערך נתונים משלכם עם תוויות, והתאמה של המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישים לדוגמה שלכם. התאמה עדינה היא הכי יעילה במקרים הבאים:
    • יש לכם נתונים מתויגים: מערך נתונים גדול לאימון (לפחות 100 דוגמאות), שמאפשר למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: לתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וחיוני להשתמש במודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. לאחר מכן, אפשר לעבור לשיפור הביצועים (אם נדרש) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. הוספת דוגמאות נוספות עשויה להועיל, אבל חשוב לבדוק איפה המודל טועה לפני שמוסיפים עוד נתונים. נתונים איכותיים עם תוויות ברורות חשובים מאוד לביצועים טובים, והם עדיפים על נתונים בכמות גדולה. בנוסף, הנתונים שבהם משתמשים לכוונון עדין צריכים לשקף את ההתפלגות, הפורמט וההקשר של ההנחיות שהמודל ייתקל בהם בסביבת הייצור.

היתרונות של שיפור ההנחיות בהשוואה לעיצוב הנחיות:

  • היא מאפשרת התאמה אישית מעמיקה של המודל ומשפרת את הביצועים במשימות ספציפיות.
  • התאמת המודל לתחביר מותאם אישית, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ומהימנות יותר.
  • יכול לטפל ביותר דוגמאות בבת אחת.
  • כדי לחסוך בעלויות של הסקת מסקנות, כדאי להסיר מהפרומפטים דוגמאות של few-shot והוראות ארוכות.

גישות להתאמה

כוונון יעיל בפרמטרים וכוונון מלא הם שתי גישות להתאמה אישית של מודלים גדולים. לשתי השיטות יש יתרונות והשלכות מבחינת איכות המודל ויעילות השימוש במשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר התאמה יעילה של מודלים גדולים למשימות או לדומיין הספציפיים שלכם. עדכונים של כוונון יעיל בפרמטרים משנים קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך פלטפורמת Gemini Enterprise Agent תומכת בהתאמה ובשימוש במתאמים, אפשר לקרוא את מאמר המידע הבא: Adaptation of Large Foundation Models.

כוונון עדין מלא

עדכון מלא של הכוונון העדין מעדכן את כל הפרמטרים של המודל, ולכן הוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש משאבי מחשוב גבוהים יותר גם לצורך הכוונון וגם לצורך ההצגה, ולכן העלויות הכוללות גבוהות יותר.

כוונון יעיל בפרמטרים לעומת כוונון מלא

כוונון יעיל בפרמטרים חסכוני יותר במשאבים ומשתלם יותר בהשוואה לכוונון מלא. הוא צורך הרבה פחות משאבי מחשוב לצורך אימון. הוא יכול להתאים את המודל מהר יותר עם מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מציעה פתרון ללמידה של כמה משימות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

Agent Platform תומכת בכוונון מפוקח (SFT) כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

התאמה עדינה מפוקחת משפרת את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים לאימון המודל כדי לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה את הפלט שרוצים שהמודל יפיק במהלך ההסקה.

כשמריצים משימת כוונון מפוקח (SFT), המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע הדרוש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת ההתאמה הוא מודל חדש שמשלב את הפרמטרים החדשים שנלמדו עם המודל המקורי.

כדאי להשתמש בשיטה של כוונון מפוקח (SFT) של מודל טקסט אם הפלט של המודל לא מורכב וקל יחסית להגדרה. מומלץ להשתמש בשיטת כוונון מפוקח (SFT) לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום תוכן לא מורכב ולכתיבת שאילתות ספציפיות לדומיין. במודלים של קוד, האפשרות היחידה היא כוונון בפיקוח.

מודלים שתומכים בכוונון מפוקח (SFT)

המודלים הבאים של Gemini תומכים בכוונון בהשגחה:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

למידע נוסף על שימוש בכוונון מפוקח (SFT) עם כל מודל, אפשר לעיין בדפים הבאים: כוונון טקסט, תמונות, אודיו ומסמכים.

שינוי ההעדפות

התאמה אישית של Gemini Enterprise Agent Platform מבוססת על כוונון מפוקח (SFT), ומאפשרת לכם לכוון את מודלי Gemini באמצעות נתוני משוב אנושי.

התאמת ההעדפות מאפשרת למודל ללמוד מהעדפות סובייקטיביות של משתמשים, שקשה להגדיר אותן באמצעות תוויות ספציפיות ושימוש בלבד בשיטת כוונון עדין מפוקחת.

מודלים שתומכים בהתאמת העדפות

המודלים הבאים של Gemini תומכים בהתאמה להעדפות:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על שינוי ההעדפות זמין במאמר מידע על שינוי ההעדפות של מודלים של Gemini.

נקודות ביקורת של כוונון מודל

נקודות ביקורת של כוונון מאפשרות לכם לשמור את התקדמות הכוונון, להשוות את ביצועי נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הטובים ביותר.

מודלים שתומכים בנקודות ביקורת של כוונון

המודלים הבאים של Gemini תומכים בנקודות ביקורת של כוונון:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על שינוי נקודות ביקורת זמין במאמר בנושא שימוש בנקודות ביקורת בהתאמה אישית של Gemini.

כוונון רציף

התאמה רציפה מאפשרת לכם להמשיך להתאים מודל שכבר עבר התאמה או נקודת ביקורת של מודל, על ידי הוספה של עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון מתמשך

המודלים הבאים של Gemini תומכים בכוונון מתמשך:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על כוונון מתמשך זמין במאמר מידע על כוונון מתמשך של מודלים של Gemini.

המאמרים הבאים