אתם יכולים להשתמש בשמירת מטמון של ההקשר במודלים של Gemini שעברו כוונון עדין כדי לשפר את הביצועים ולהפחית את העלויות של פרומפטים שכוללים כמויות גדולות של הקשר. כששומרים במטמון הקשרים שמשתמשים בהם לעיתים קרובות, לא צריך לשלוח מחדש כמויות גדולות של נתונים עם כל בקשה למודל המותאם.
פעולות הניהול (Read, Update, Delete) של שמירת הקשר במטמון עבור מודלים של Gemini שעברו התאמה נשארות עקביות עם מודלים בסיסיים. רק יצירת תוכן במטמון והסקת מסקנות דורשות התאמה ספציפית, שמפורטת בקטעים הבאים.
דרישות מוקדמות
התאמה עדינה של מודל Gemini: צריך מודל Gemini שעבר התאמה עדינה ופריסה, שמבוסס על מודל בסיסי נתמך (ראו סקירה כללית על שמירת נתוני הקשר במטמון). פרטים על אופן ההתאמה העדינה של מודל Gemini מופיעים במאמר התאמה עדינה של מודל Gemini. כדי לקבל את נקודת הקצה של המודל המכוונן שנפרס, אפשר לעיין במאמר בנושא פריסת מודל שעבר כוונון.
חשוב לוודא שיש לכם את הפרטים הבאים:
- המזהה והגרסה של מודל Gemini שעבר התאמה
- שם המשאב של נקודת הקצה של המודל שעבר כוונון עדין ונפרס
גרסאות נתמכות
מודלים של Gemini שעברו כוונון עדין תומכים בשמירת נתונים במטמון באופן מרומז לגרסאות ספציפיות. רשימה של המודלים הנתמכים והיכולות שלהם זמינה במאמר מודלים של Google.
אין תמיכה בשמירת מטמון מפורשת של מודלים שעברו התאמה אישית.