מבוא לכוונון

כוונון מודל הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בדיוק ובדייקנות גבוהים יותר. כדי לשפר את המודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מוסבר על כוונון מודלים של Gemini, מתוארות אפשרויות הכוונון שזמינות ל-Gemini, ומוסבר מתי כדאי להשתמש בכל אפשרות כוונון.

היתרונות של שיפור המודל

כוונון מודל הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב לשיפור האיכות והיעילות של המודל. כוונון המודל מספק את היתרונות הבאים:

  • איכות גבוהה יותר למשימות הספציפיות שלכם
  • שיפור החוסן של המודל
  • זמן אחזור נמוך יותר של מסקנות ועלות נמוכה יותר בגלל הנחיות קצרות יותר

השוואה בין שיפור המודל לעיצוב הנחיות

  • כתיבת הנחיות למודלים של Gemini שעברו אימון מראש: כתיבת הנחיות היא אומנות של יצירת הוראות יעילות להנחיית מודלים של AI כמו Gemini, כדי ליצור את התוצאות הרצויות. היא כוללת עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, את הפורמט הרצוי ואת כל ההקשר הרלוונטי. אתם יכולים להשתמש ביכולות של Gemini עם הגדרה מינימלית. הוא מתאים במיוחד ל:
    • נתונים מסומנים מוגבלים: אם יש לכם כמות קטנה של נתונים מסומנים או שאין לכם אפשרות לבצע תהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהירה: כשצריך לבדוק במהירות קונספט או לקבל נתוני ביצועים בסיסיים בלי להשקיע הרבה כסף בכוונון עדין.
  • כוונון עדין בהתאמה אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לבצע כוונון עדין של המודלים שלו על מערכי הנתונים הספציפיים שלכם. כדי ליצור מודל AI שמצטיין בתחום הספציפי שלכם, כדאי לשקול כוונון עדין. התהליך כולל אימון מחדש של מודל הבסיס על מערך נתונים מתויג משלכם, והתאמה של המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישי השימוש שלכם. התאמה עדינה היא הכי יעילה במקרים הבאים:
    • יש לכם נתונים מתויגים: מערך נתונים גדול מספיק לאימון (לפחות 100 דוגמאות), שמאפשר למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: לתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וחיוני להשתמש במודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. לאחר מכן, עוברים לכוונן עדין (אם נדרש) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. הוספת דוגמאות נוספות עשויה להועיל, אבל חשוב להעריך איפה המודל טועה לפני שמוסיפים עוד נתונים. נתונים באיכות גבוהה עם תוויות ברורות הם חיוניים לביצועים טובים, ועדיפים על נתונים בכמות גדולה. בנוסף, הנתונים שבהם משתמשים לצורך כוונון עדין צריכים לשקף את ההפצה, הפורמט וההקשר של ההנחיות שהמודל ייתקל בהם בסביבת הייצור.

היתרונות של שיפור ההנחיות בהשוואה לעיצוב הנחיות:

  • המודל מאפשר התאמה אישית מעמיקה ומשיג ביצועים טובים יותר במשימות ספציפיות.
  • התאמת המודל לתחביר מותאם אישית, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ומהימנות יותר.
  • יכולות לטפל ביותר דוגמאות בבת אחת.
  • כדי לחסוך בעלויות של הסקת מסקנות, כדאי להסיר מההנחיות דוגמאות של למידה עם מעט דוגמאות והוראות ארוכות

גישות להתאמה

כוונון יעיל בפרמטרים וכוונון עדין מלא הן שתי גישות להתאמה אישית של מודלים גדולים. לכל אחת מהשיטות יש יתרונות והשלכות מבחינת איכות המודל ויעילות השימוש במשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר התאמה יעילה של מודלים גדולים למשימות או לדומיין הספציפיים שלכם. כוונון יעיל בפרמטרים מעדכן קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך Vertex AI תומך בכוונון מתאמים ובמילוי בקשות, אפשר לקרוא את מאמר המידע הבא: Adaptation of Large Foundation Models (התאמה של מודלים גדולים בסיסיים).

כוונון עדין מלא

עדכון מלא של הכוונון העדין מעדכן את כל הפרמטרים של המודל, ולכן הוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש משאבי מחשוב גבוהים יותר גם לצורך הכוונון וגם לצורך ההצגה, ולכן העלויות הכוללות גבוהות יותר.

כוונון יעיל בפרמטרים לעומת כוונון מלא

כוונון יעיל בפרמטרים חסכוני יותר במשאבים ומשתלם יותר בהשוואה לכוונון מלא. האימון שלו דורש הרבה פחות משאבי מחשוב. הוא יכול להתאים את המודל מהר יותר עם מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מספקת פתרון ללמידה של כמה משימות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

‫Vertex AI תומך בכוונון מפוקח (SFT) כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

כוונון מפוקח (SFT) משפר את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים לאימון המודל כדי לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה את הפלט שרוצים שהמודל יפיק במהלך ההסקה.

כשמריצים משימת כוונון מפוקח (SFT), המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע הדרוש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת ההתאמה הוא מודל חדש שמשלב את הפרמטרים החדשים שנלמדו עם המודל המקורי.

כדאי להשתמש בשיטת כוונון מפוקח (SFT) של מודל טקסט כשהפלט של המודל לא מורכב וקל יחסית להגדרה. מומלץ להשתמש בכוונון מפוקח (SFT) לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום של תוכן לא מורכב ולכתיבת שאילתות ספציפיות לדומיין. במודלים של קוד, האפשרות היחידה היא כוונון בפיקוח.

מודלים שתומכים בכוונון מפוקח (SFT)

המודלים הבאים של Gemini תומכים בכוונון מפוקח:

למידע נוסף על שימוש בכוונון מפוקח (SFT) עם כל מודל, אפשר לעיין בדפים הבאים: כוונון טקסט, תמונות, אודיו ומסמכים.

שינוי ההעדפות

התאמה להעדפות ב-Vertex AI מבוססת על כוונון מפוקח (SFT), ומאפשרת לכם לכוונן את מודלי Gemini באמצעות נתונים של משוב אנושי.

התאמת ההעדפות מאפשרת למודל ללמוד מהעדפות סובייקטיביות של משתמשים שקשה להגדיר באמצעות תוויות ספציפיות ושימוש בלבד בשיטת כוונון עדין מפוקח.

מודלים שתומכים בהתאמת העדפות

המודלים הבאים של Gemini תומכים בהתאמה להעדפות:

מידע נוסף על שינוי ההעדפות זמין במאמר מידע על שינוי ההעדפות של מודלים של Gemini.

התאמת נקודות ביקורת

נקודות ביקורת של שיפורים מאפשרות לכם לשמור את התקדמות השיפורים, להשוות את הביצועים של נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הכי טובים.

מודלים שתומכים בנקודות ביקורת של כוונון

המודלים הבאים של Gemini תומכים בנקודות ביקורת של כוונון:

מידע נוסף על נקודות ביקורת של כוונון זמין במאמר שימוש בנקודות ביקורת בכוונון של Gemini.

כוונון רציף

כוונון רציף מאפשר לכם להמשיך לכוונן מודל שכבר כוונן או נקודת ביקורת של מודל, על ידי הוספה של עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון מתמשך

המודלים הבאים של Gemini תומכים בכוונון מתמשך:

מידע נוסף על כוונון מתמשך זמין במאמר מידע על כוונון מתמשך של מודלים של Gemini.

המאמרים הבאים