מבוא לכוונון

כוונון מודלים הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בדיוק וביעילות גבוהים יותר. כדי לשפר את המודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מופיע סקירה כללית של כוונון מודלים ב-Gemini, תיאור של אפשרויות הכוונון שזמינות ב-Gemini ועזרה בקביעה מתי צריך להשתמש בכל אפשרות כוונון.

היתרונות של כוונון מודלים

כוונון מודלים הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב לשיפור האיכות והיעילות של המודל. כוונון של מודל מספק את היתרונות הבאים:

  • איכות גבוהה יותר למשימות הספציפיות שלכם
  • שיפור העמידות של המודלים
  • זמן אחזור נמוך יותר של מסקנות ועלות נמוכה יותר בגלל הנחיות קצרות יותר

השוואה בין שיפור המודל לבין עיצוב פרומפטים

  • כתיבת הנחיות למודלים של Gemini שעברו אימון מראש: כתיבת הנחיות היא אומנות של יצירת הוראות יעילות כדי להנחות מודלים של AI כמו Gemini ליצור את התוצאות הרצויות. היא כוללת עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, את הפורמט הרצוי ואת ההקשר הרלוונטי. אתם יכולים להשתמש ביכולות של Gemini עם הגדרה מינימלית. היא מתאימה במיוחד ל:
    • נתונים מסומנים מוגבלים: אם יש לכם כמות קטנה של נתונים מסומנים או שאין לכם אפשרות להשקיע בתהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהירה: כשצריך לבדוק במהירות קונספט או לקבל ביצועים בסיסיים בלי להשקיע הרבה כסף בכוונון עדין.
  • כוונון עדין מותאם אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לבצע כוונון עדין של המודלים שלו על מערכי נתונים ספציפיים. כדי ליצור מודל AI שמצטיין בתחום הספציפי שלכם, כדאי לשקול כוונון עדין. התהליך הזה כולל אימון מחדש של מודל הבסיס על מערך נתונים משלכם עם תוויות, והתאמה של המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישים לדוגמה שלכם. התאמה עדינה היא הכי יעילה במקרים הבאים:
    • יש לכם נתונים מתויגים: מערך נתונים גדול לאימון (לפחות 100 דוגמאות), שמאפשר למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: לתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וחיוני להשתמש במודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. לאחר מכן, אפשר לעבור לשיפור הביצועים (אם נדרש) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. הוספת דוגמאות נוספות עשויה להועיל, אבל חשוב לבדוק איפה המודל טועה לפני שמוסיפים עוד נתונים. נתונים באיכות גבוהה עם תוויות ברורות חשובים מאוד לביצועים טובים, והם עדיפים על נתונים בכמות גדולה. בנוסף, הנתונים שבהם משתמשים לכוונון עדין צריכים לשקף את ההתפלגות, הפורמט וההקשר של ההנחיות שהמודל ייתקל בהם בסביבת הייצור.

היתרונות של שיפור ההנחיות בהשוואה לעיצוב הנחיות:

  • היא מאפשרת התאמה אישית מעמיקה של המודל ומשפרת את הביצועים במשימות ספציפיות.
  • התאמת המודל לתחביר מותאם אישית, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ומהימנות יותר.
  • יכולה לטפל ביותר דוגמאות בבת אחת.
  • כדי לחסוך בעלויות של הסקת מסקנות, כדאי להסיר מההנחיות דוגמאות של few-shot והוראות ארוכות

גישות להתאמה

כוונון יעיל בפרמטרים וכוונון עדין מלא הן שתי גישות להתאמה אישית של מודלים גדולים. לשתי השיטות יש יתרונות והשלכות מבחינת איכות המודל ויעילות השימוש במשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר התאמה יעילה של מודלים גדולים למשימות או לדומיין הספציפיים שלכם. עדכונים של כוונון יעיל בפרמטרים משנים קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך פלטפורמת Gemini Enterprise Agent תומכת בהתאמה ובשימוש במתאמים, אפשר לקרוא פרטים נוספים במסמך הטכני הבא: Adaptation of Large Foundation Models.

כוונון עדין מלא

עדכון מלא של המודל משנה את כל הפרמטרים שלו, ולכן הוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש משאבי מחשוב גבוהים יותר גם לצורך הכוונון וגם לצורך ההצגה, ולכן העלויות הכוללות גבוהות יותר.

כוונון יעיל בפרמטרים לעומת כוונון מלא

כוונון יעיל בפרמטרים חסכוני יותר במשאבים ומשתלם יותר בהשוואה לכוונון מלא. הוא צורך הרבה פחות משאבי מחשוב לצורך אימון. הוא יכול להתאים את המודל מהר יותר עם מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מציעה פתרון ללמידה של משימות מרובות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

Agent Platform תומכת בכוונון מפוקח (SFT) כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

כוונון מפוקח (SFT) משפר את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים לאימון המודל כדי לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה את הפלט שאתם רוצים שהמודל יפיק במהלך ההסקה.

כשמריצים משימת כוונון מפוקח (SFT), המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע הדרוש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת ההתאמה הוא מודל חדש שמשלב את הפרמטרים החדשים שנלמדו עם המודל המקורי.

כדאי לבצע כוונון מפוקח (SFT) של מודל טקסט אם הפלט של המודל לא מורכב וקל יחסית להגדרה. מומלץ להשתמש בשיטת כוונון מפוקח (SFT) לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום תוכן לא מורכב ולכתיבת שאילתות ספציפיות לתחום. במודלים של קוד, האפשרות היחידה היא כוונון בפיקוח.

מודלים שתומכים בכוונון מפוקח (SFT)

המודלים הבאים של Gemini תומכים בכוונון מפוקח:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

למידע נוסף על שימוש בכוונון מפוקח (SFT) עם כל מודל, אפשר לעיין בדפים הבאים: כוונון טקסט, תמונות, אודיו ומסמכים.

שינוי ההעדפות

התאמה אישית של Gemini Enterprise Agent Platform מבוססת על כוונון מפוקח (SFT), ומאפשרת לכם לכוון את מודלי Gemini באמצעות נתוני משוב אנושי.

התאמת ההעדפות מאפשרת למודל ללמוד מהעדפות סובייקטיביות של משתמשים, שקשה להגדיר אותן באמצעות תוויות ספציפיות ושימוש בלבד בשיטת כוונון עדין מפוקחת.

מודלים שתומכים בהתאמת העדפות

המודלים הבאים של Gemini תומכים בהתאמה להעדפות:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על שינוי ההעדפות זמין במאמר מידע על שינוי ההעדפות במודלים של Gemini.

התאמה של נקודות ביקורת

נקודות ביקורת של כוונון מאפשרות לכם לשמור את התקדמות הכוונון, להשוות את הביצועים של נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הכי טובים.

מודלים שתומכים בנקודות ביקורת (checkpoint) של כוונון

המודלים הבאים של Gemini תומכים בנקודות ביקורת של כוונון:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על שינוי נקודות ביקורת זמין במאמר בנושא שימוש בנקודות ביקורת בהתאמה אישית של Gemini.

כוונון רציף

כוונון רציף מאפשר לכם להמשיך לכוונן מודל שכבר כוונן או נקודת ביקורת של מודל, על ידי הוספה של עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון מתמשך

המודלים הבאים של Gemini תומכים בכוונון מתמשך:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על כוונון מתמשך זמין במאמר מידע על כוונון מתמשך של מודלים של Gemini.

המאמרים הבאים