הוספת דוגמאות ללמידה עם מספר מועט של דוגמאות

אתם יכולים לכלול בהנחיה דוגמאות שמראות למודל איך צריכה להיראות תשובה טובה. המודל מנסה לזהות דפוסים ויחסים מהדוגמאות ומיישם אותם כשהוא יוצר תשובה. הנחיות שמכילות דוגמאות נקראות הנחיות מדוגמאות מעטות, והנחיות שלא מכילות דוגמאות נקראות הנחיות ללא דוגמאות. הנחיות מדוגמאות מעטות משמשות לעיתים קרובות כדי לווסת את הפורמט, הניסוח, ההיקף או הדפוס הכללי של תשובות המודל. כדאי להשתמש בדוגמאות ספציפיות ומגוונות כדי לעזור למודל לצמצם את המיקוד שלו וליצור תוצאות מדויקות יותר.

הוספת דוגמאות של few-shot להנחיות עוזרת להפוך אותן לאמינות ויעילות יותר. עם זאת, תמיד כדאי לצרף לדוגמאות עם מעט נתונים הוראות ברורות. אם לא מספקים הוראות ברורות, המודלים עשויים לזהות דפוסים או קשרים לא מכוונים בדוגמאות, מה שעלול להוביל לתוצאות לא טובות.

הנקודות העיקריות באסטרטגיה הזו הן:

  • הוספת דוגמאות של הנחיות ותשובות להנחיות עוזרת למודל ללמוד איך להגיב.
  • משתמשים בתגי עיצוב שדומים ל-XML כדי לתייג את הדוגמאות.
  • כדאי להתנסות עם מספר ההנחיות שרוצים לכלול. בהתאם למודל, אם יש מעט מדי דוגמאות, הן לא ישפיעו על התנהגות המודל. יותר מדי דוגמאות עלולות לגרום להתאמת יתר של המודל.
  • שימוש בפורמט עקבי בדוגמאות

הנחיות ישירות (Zero-shot) לעומת הנחיות עם כמה דוגמאות (Few-shot)

ההנחיה הבאה היא הנחיית אפס-זריקה שמבקשת מהמודל לחלץ את המפרטים הטכניים מטקסט ולהציג אותם בפורמט JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

נניח שתרצו להשתמש בשמות מפתחות באותיות קטנות. תוכלו לכלול בדוגמה להנחיה דוגמאות שמראות למודל איך לעצב את ה-JSON. בדוגמה הבאה להנחיה עם כמה דוגמאות מוצג פורמט פלט שבו מפתחות ה-JSON הם באותיות קטנות:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

שימו לב שבשימוש לדוגמה, נעשה שימוש בפורמט שדומה ל-XML כדי להפריד בין רכיבי ההנחיה. מידע נוסף על הפורמט האופטימלי של הנחיות עם דוגמאות בפורמט שדומה ל-XML זמין במאמר הנחיות מובנות.

מציאת מספר הדוגמאות האופטימלי

כדי לקבל את התוצאות הרצויות, כדאי להתנסות עם מספר הדוגמאות שאתם מספקים בהנחיה. מודלים כמו Gemini יכולים לזהות דפוסים באמצעות כמה דוגמאות, אבל יכול להיות שתצטרכו להתנסות כדי להבין כמה דוגמאות יובילו לתוצאות הרצויות. יחד עם זאת, אם תכללו יותר מדי דוגמאות, יכול להיות שהמודל יתחיל להתאים יתר על המידה את התשובה לדוגמאות.

המאמרים הבאים