מבוא לכוונון

כוונון המודל הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בצורה מדויקת יותר. כדי לכוונן מודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מוסבר איך מכווננים את המודלים של Gemini, אילו אפשרויות כוונון זמינות ל-Gemini ומתי כדאי להשתמש בכל אחת מהן.

היתרונות של כוונון מודלים

כוונון מודלים הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב לשיפור האיכות והיעילות של המודל. היתרונות של כוונון מודלים:

  • איכות גבוהה יותר למשימות ספציפיות
  • מודל חזק יותר
  • חביון נמוך יותר של הסקת מסקנות ועלות נמוכה יותר בגלל הנחיות קצרות יותר

השוואה בין כוונון לעיצוב הנחיות

  • כתיבת הנחיות למודלים של Gemini שעברו אימון מראש: כתיבת הנחיות היא אומנות של יצירת הוראות יעילות כדי להנחות מודלים של AI כמו Gemini ליצירת התוצאות הרצויות. התהליך כולל עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, את הפורמט הרצוי ואת ההקשר הרלוונטי. אתם יכולים להשתמש ביכולות של Gemini עם הגדרה מינימלית. היא מתאימה בעיקר ל:
    • נתונים מתויגים מוגבלים: אם יש לכם כמות קטנה של נתונים מתויגים או שאתם לא יכולים להרשות לעצמכם תהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהירה: כשצריך לבדוק במהירות קונספט או לקבל ביצועים בסיסיים בלי להשקיע הרבה כסף בכוונון עדין.
  • כוונון מותאם אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לכוונן את מודלי Gemini על מערכי הנתונים הספציפיים שלכם. כדי ליצור מודל AI שמצטיין בתחום הספציפי שלכם, כדאי לשקול כוונון עדין. התהליך הזה כולל אימון מחדש של מודל הבסיס על קבוצת נתונים מתויגת משלכם, והתאמת המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישי השימוש שלכם. התאמה עדינה היא הכי יעילה במקרים הבאים:
    • יש לכם נתונים מתויגים: קבוצת נתונים גדולה לאימון (לפחות 100 דוגמאות), שמאפשרת למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: בתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וצריך מודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. אחר כך, עוברים לכוונון עדין (אם צריך) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. למרות שהוספת דוגמאות יכולה להועיל, חשוב לבדוק איפה המודל טועה לפני שמוסיפים עוד נתונים. כדי להשיג ביצועים טובים, חשוב להשתמש בנתונים איכותיים עם תוויות מדויקות. האיכות חשובה יותר מהכמות. בנוסף, הנתונים שבהם משתמשים לכוונון עדין צריכים לשקף את ההתפלגות, הפורמט וההקשר של ההנחיות שהמודל ייתקל בהם בסביבת הייצור.

היתרונות של שיפור ההנחיות בהשוואה לעיצוב הנחיות:

  • היא מאפשרת התאמה אישית מעמיקה של המודל ומשפרת את הביצועים במשימות ספציפיות.
  • להתאים את המודל לתחביר, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ואמינות יותר.
  • יכול לטפל ביותר דוגמאות בבת אחת.
  • חסוך בעלויות היקש על ידי הסרת פרומפטים עם כמה דוגמאות (few-shot) והוראות ארוכות מהפרומפטים.

גישות לכוונון

כוונון יעיל בפרמטרים וכוונון עדין מלא הן שתי גישות להתאמה אישית של מודלים גדולים. לשתי השיטות יש יתרונות והשלכות מבחינת איכות המודל ויעילות השימוש במשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר להתאים ביעילות מודלים גדולים למשימות או לתחום הספציפיים שלכם. עדכוני כוונון יעילים בפרמטרים משנים קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך Gemini Enterprise Agent Platform תומכת בכוונון ובהצגה של מתאמים, אתם יכולים לקרוא את המאמר Adaptation of Large Foundation Models.

כוונון מלא

כוונון עדין מלא מעדכן את כל הפרמטרים של המודל, כך שהוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש יותר משאבי מחשוב גם לכוונון וגם להצגה, מה שמוביל לעלויות כוללות גבוהות יותר.

כוונון יעיל בפרמטרים בהשוואה לכוונון מלא

כוונון יעיל בפרמטרים חסכוני יותר במשאבים ומשתלם יותר בהשוואה לכוונון מלא. הוא משתמש בהרבה פחות משאבי מחשוב לאימון. הוא יכול להתאים את המודל מהר יותר עם מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מציעה פתרון ללמידה מריבוי משימות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

Agent Platform תומכת בכוונון מפוקח (SFT) כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

כוונון מפוקח (SFT) משפר את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים לאימון המודל כדי לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה מה רוצים שהמודל יפיק במהלך ההסקה.

כשמריצים משימת כוונון מפוקח, המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע שנדרש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת ההתאמה הוא מודל חדש שמשלב את הפרמטרים החדשים שנלמדו עם המודל המקורי.

כוונון מפוקח של מודל טקסט הוא אפשרות טובה כשהפלט של המודל לא מורכב וקל יחסית להגדרה. כוונון מפוקח מומלץ לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום תוכן לא מורכב ולכתיבת שאילתות ספציפיות לתחום. במודלים של קוד, האפשרות היחידה היא כוונון בפיקוח.

מודלים שתומכים בכוונון מפוקח (SFT)

המודלים הבאים של Gemini תומכים בכוונון בפיקוח:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

למידע נוסף על השימוש בכוונון מפוקח בכל אחד מהמודלים, קראו את הדפים הבאים: כוונון של סוגי נתונים של טקסט, תמונה, אודיו ומסמך.

שינוי העדפות

כוונון העדפות ב-Gemini Enterprise Agent Platform מתבסס על כוונון מפוקח (SFT) ומאפשר לכם לכוונן את מודלי Gemini באמצעות נתוני משוב אנושי.

כוונון העדפות מאפשר למודל ללמוד מהעדפות סובייקטיביות של משתמשים שקשה להגדיר באמצעות תוויות ספציפיות וכוונון מפוקח בלבד.

מודלים שתומכים בהתאמת העדפות

המודלים הבאים של Gemini תומכים בכוונון לפי העדפות:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מידע נוסף על שינוי ההעדפות זמין במאמר מידע על שינוי ההעדפות של מודלים של Gemini.

נקודות ביקורת של כוונון מודל

נקודות ביקורת של כוונון מודל מאפשרות לכם לשמור את ההתקדמות של הכוונון, להשוות בין הביצועים של נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הכי טובים.

מודלים שתומכים בנקודות ביקורת של שינוי הפרמטרים

המודלים הבאים של Gemini תומכים בנקודות ביקורת של כוונון:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על נקודות ביקורת של כוונון מודל זמין במאמר בנושא שימוש בנקודות ביקורת של כוונון מודל בהתאמה אישית של Gemini.

כוונון רציף

כוונון רציף מאפשר לכם להמשיך לכוונן מודל שכבר כוונן או נקודת ביקורת של מודל, על ידי הוספה של עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון מתמשך

המודלים הבאים של Gemini תומכים בכוונון מתמשך:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על כוונון רציף זמין במאמר מידע על כוונון רציף של מודלים של Gemini.

המאמרים הבאים