מבוא לכוונון

כוונון מודל הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בצורה מדויקת יותר. כדי לכוונן מודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מופיעה סקירה כללית של כוונון מודלים ב-Gemini, תיאור של אפשרויות הכוונון שזמינות ב-Gemini ועזרה בקביעה מתי צריך להשתמש בכל אפשרות כוונון.

היתרונות של כוונון מודלים

כוונון מודל הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב לשיפור האיכות והיעילות של המודל. כוונון של מודל מספק את היתרונות הבאים:

  • איכות גבוהה יותר למשימות הספציפיות שלכם
  • שיפור העמידות של המודלים
  • חביון ועלות נמוכים יותר של הסקת מסקנות, כי ההנחיות קצרות יותר

השוואה בין שיפור המודל לעיצוב הנחיות

  • כתיבת הנחיות למודלים של Gemini שעברו אימון מראש: כתיבת הנחיות היא אומנות של יצירת הוראות יעילות כדי להנחות מודלים של AI כמו Gemini ליצור את התוצאות הרצויות. היא כוללת עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, את הפורמט הרצוי וכל הקשר רלוונטי. אתם יכולים להשתמש ביכולות של Gemini עם הגדרה מינימלית. היא מתאימה בעיקר ל:
    • נתונים מסומנים מוגבלים: אם יש לכם כמות קטנה של נתונים מסומנים או שאין לכם אפשרות להשקיע בתהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהירה: כשצריך לבדוק במהירות קונספט או לקבל ביצועים בסיסיים בלי להשקיע הרבה כסף בכוונון עדין.
  • כוונון עדין מותאם אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לבצע כוונון עדין של המודלים שלו על מערכי נתונים ספציפיים. כדי ליצור מודל AI שמצטיין בתחום הספציפי שלכם, כדאי לשקול כוונון עדין. התהליך כולל אימון מחדש של מודל הבסיס על קבוצת נתונים משלכם עם תוויות, והתאמה של המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישים לדוגמה שלכם. התאמה עדינה היא הכי יעילה במקרים הבאים:
    • יש לכם נתונים מתויגים: מערך נתונים גדול לאימון (לפחות 100 דוגמאות), שמאפשר למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: לתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וחיוני להשתמש במודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. לאחר מכן, אפשר לעבור לשיפור הביצועים (אם נדרש) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. הוספת דוגמאות נוספות עשויה להועיל, אבל חשוב לבדוק איפה המודל טועה לפני שמוסיפים עוד נתונים. נתונים איכותיים עם תוויות ברורות חשובים מאוד לביצועים טובים, והם עדיפים על נתונים בכמות גדולה. בנוסף, הנתונים שבהם משתמשים לכוונון עדין צריכים לשקף את ההתפלגות, הפורמט וההקשר של ההנחיות שהמודל ייתקל בהם בסביבת הייצור.

לכוונון יש את היתרונות הבאים בהשוואה לעיצוב הנחיות:

  • היא מאפשרת התאמה אישית מעמיקה של המודל ומשפרת את הביצועים במשימות ספציפיות.
  • התאמת המודל לתחביר מותאם אישית, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ואמינות יותר.
  • יכולת לטפל ביותר דוגמאות בו-זמנית.
  • חיסכון בעלויות של הסקת מסקנות על ידי הסרת דוגמאות של few-shot והוראות ארוכות בפרומפטים

גישות להתאמה

כוונון יעיל בפרמטרים וכוונון מלא הם שתי גישות להתאמה אישית של מודלים גדולים. לשתי השיטות יש יתרונות והשלכות מבחינת איכות המודל ויעילות השימוש במשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר התאמה יעילה של מודלים גדולים למשימות או לדומיין הספציפיים שלכם. עדכוני כוונון יעילים בפרמטרים מעדכנים קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך Gemini Enterprise Agent Platform תומכת בכוונון מתאמים ובהכנסתם לשימוש בסביבת הייצור, אפשר לקרוא את הסקירה המפורטת הבאה: Adaptation of Large Foundation Models.

כוונון עדין מלא

עדכון מלא של המודל מכוונן את כל הפרמטרים שלו, ולכן הוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש משאבי מחשוב גבוהים יותר גם לצורך הכוונון וגם לצורך ההצגה, ולכן העלויות הכוללות גבוהות יותר.

כוונון יעיל בפרמטרים לעומת כוונון מלא

כוונון יעיל בפרמטרים חסכוני יותר במשאבים ומשתלם יותר בהשוואה לכוונון מלא. הוא צורך הרבה פחות משאבי מחשוב לאימון. הוא יכול להתאים את המודל מהר יותר עם מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מציעה פתרון ללמידה של מודלים לביצוע משימות מרובות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

פלטפורמת הסוכנים תומכת בכוונון עדין בפיקוח כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

התאמה עדינה מפוקחת משפרת את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים לאימון המודל כדי לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה מה רוצים שהמודל יפיק במהלך ההסקה.

כשמריצים משימת כוונון מפוקח (SFT), המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע הדרוש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת הכוונון הוא מודל חדש שמשלב את הפרמטרים החדשים שנלמדו עם המודל המקורי.

כדאי להשתמש בשיטה של כוונון מפוקח (SFT) של מודל טקסט אם הפלט של המודל לא מורכב וקל יחסית להגדרה. מומלץ להשתמש בשיטת כוונון מפוקח (SFT) לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום תוכן לא מורכב ולכתיבת שאילתות ספציפיות לתחום. במודלים של קוד, האפשרות היחידה היא כוונון בפיקוח.

מודלים שתומכים בכוונון מפוקח (SFT)

המודלים הבאים של Gemini תומכים בכוונון בהשגחה:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

למידע נוסף על שימוש בכוונון מפוקח (SFT) עם כל מודל, אפשר לעיין בדפים הבאים: כוונון טקסט, תמונות, אודיו ומסמכים.

שינוי העדפות

התאמה אישית של Gemini Enterprise Agent Platform מבוססת על כוונון מפוקח (SFT), ומאפשרת לכם לכוון את מודלי Gemini באמצעות נתוני משוב אנושי.

התאמת ההעדפות מאפשרת למודל ללמוד מהעדפות סובייקטיביות של משתמשים, שקשה להגדיר אותן באמצעות תוויות ספציפיות ושימוש בלבד בשיטת הכוונון העדין המפוקח.

מודלים שתומכים בהתאמת העדפות

המודלים הבאים של Gemini תומכים בהתאמה להעדפות:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מידע נוסף על שינוי ההעדפות זמין במאמר מידע על שינוי ההעדפות של מודלים של Gemini.

נקודות ביקורת של כוונון מודל

נקודות ביקורת של כוונון מאפשרות לכם לשמור את ההתקדמות בתהליך הכוונון, להשוות את הביצועים של נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הכי טובים.

מודלים שתומכים בנקודות ביקורת של שינוי הפרמטרים

המודלים הבאים של Gemini תומכים בנקודות ביקורת של כוונון:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מידע נוסף על שינוי נקודות ביקורת זמין במאמר בנושא שימוש בנקודות ביקורת בהתאמה אישית של Gemini.

כוונון רציף

כוונון רציף מאפשר לכם להמשיך לכוונן מודל שכבר כוונן או נקודת ביקורת של מודל, על ידי הוספה של עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון מתמשך

המודלים הבאים של Gemini תומכים בכוונון מתמשך:

כדי להרחיב את רשימת המודלים הנתמכים, לוחצים כאן

מידע נוסף על כוונון מתמשך זמין במאמר מידע על כוונון מתמשך של מודלים של Gemini.

המאמרים הבאים