חלופה גנרטיבית

התכונה מענה גנרטיבי כגיבוי משתמשת במודלים הגדולים של השפה (LLM) הגנרטיבית העדכניים ביותר של Google כדי ליצור תשובות של נציג וירטואלי כשקלט של משתמש קצה לא תואם לכוונת המשתמש או לפרמטר למילוי טופס.

אפשר להגדיר את התכונה באמצעות פרומפט טקסטואלי שמנחה את מודל ה-LLM איך להגיב. אתם יכולים להשתמש בפרומפט טקסטואלי מוגדר מראש או להוסיף פרומפטים משלכם. בעזרת הפרומפט המוגדר מראש, הנציג הווירטואלי יכול לטפל במצבים בסיסיים של שיחה. לדוגמה:

  • לברך את המשתמש ולהיפרד ממנו.
  • אם המשתמש לא הבין משהו, צריך לחזור על מה שהנציג אמר.
  • להמתין על הקו אם המשתמש מבקש זאת.
  • תסכם את השיחה.

אפשר להפעיל מענה גנרטיבי כגיבוי בגורמים שמטפלים באירועים ללא התאמה שמשמשים בתהליכים, בדפים או במהלך מילוי פרמטרים. כשהתכונה 'מענה גנרטיבי כגיבוי' מופעלת לאירוע מסוג 'אין התאמה', בכל פעם שהאירוע הזה מופעל, Dialogflow CX מנסה ליצור תשובה גנרטיבית שתוקרא למשתמש. אם יצירת התגובה תיכשל, תונפק במקומה התגובה הרגילה של הסוכן.

מגבלות

התכונה זמינה בשפות שנתמכות על ידי Gemini API.

הפעלת מענה גנרטיבי כגיבוי

אפשר להפעיל מענה גנרטיבי כגיבוי בסוכן במטפלים באירועים ללא התאמה, שאפשר להשתמש בהם בתהליך, בדף או במילוי בקשה של פרמטרים.

הפעלת מענה גנרטיבי כגיבוי לאירועים ללא התאמה בכל התהליך

  1. עוברים אל מסוף Dialogflow CX.
  2. בוחרים פרויקט.
  3. בוחרים נציג תמיכה ואז בוחרים רצף פעולות.
  4. לוחצים על דף הפתיחה של התהליך כדי להרחיב אותו.
  5. לוחצים על sys.no-match-default בקטע Event handlers (מטפלים באירועים).
  6. בקטע תשובות של סוכן, בוחרים באפשרות הפעלת מענה גנרטיבי כגיבוי.
  7. לוחצים על Save.

הפעלת מענה גנרטיבי כגיבוי לאירועים ספציפיים ללא התאמה

  1. עוברים אל המטפל באירועים No-match (כל אירוע שמתחיל ב-No-match, כמו No-match default,‏ No-match 1 וכן הלאה).
  2. בקטע תשובות של סוכן, בוחרים באפשרות הפעלת מענה גנרטיבי כגיבוי.
  3. לוחצים על Save.

הגדרת מענה גנרטיבי כגיבוי

כמו שצוין קודם, התכונה מענה גנרטיבי כגיבוי מעבירה בקשה למודל שפה גדול (LLM) כדי ליצור את התשובה הגנרטיבית. הבקשה היא הנחיה טקסטואלית שמשלבת שפה טבעית ומידע על המצב הנוכחי של הסוכן ושל השיחה. ההנחיה והתשובה שנוצרה נבדקות מול רשימה של ביטויים אסורים. אם הם מכילים ביטויים אסורים או נחשבים בדרך אחרת ללא בטוחים, הגנרציה תיכשל ותוצג במקומם התגובה הרגילה שנקבעה (בקטע Agent says באותו מילוי).

אפשר להגדיר את התכונה בכמה דרכים:

  1. בוחרים הנחיה מוגדרת מראש.
  2. מגדירים הנחיה מותאמת אישית.
  3. להוסיף או להסיר ביטויים מרשימת הביטויים האסורים.

כשיוצרים פרומפט, אפשר להשתמש במשתני המיקום הבאים בנוסף לתיאור בשפה טבעית של סוג ההקשר שרוצים ליצור:

X פריט
$conversation השיחה בין הסוכן לבין המשתמש, לא כולל ההתבטאות האחרונה של המשתמש.
${conversation USER:"" AI:"" TURNS:} גרסה עם פרמטרים של הפלייס הולדר $conversation. אפשר להתאים אישית את הקידומת של משתמש הקצה (USER), את הקידומת של הסוכן (AI) ואת מספר התפניות הקודמות שרוצים לכלול (TURNS). צריך לציין את כל ערכי הפרמטרים של ה-placeholder. לדוגמה, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}.
$last-user-utterance האמירה האחרונה של המשתמש.
$flow-description תיאור הזרימה של הזרימה הפעילה.
$route-descriptions תיאורי הכוונות של הכוונות הפעילות.

חשוב לוודא שהתיאורים של הכוונות והזרימה טובים.

בחירת פרומפט מוגדר מראש

  1. בהגדרות הסוכן, עוברים לכרטיסייה AI גנרטיבי ואז לכרטיסיית המשנה מעבר חזרה גנרטיבי.
  2. בוחרים אחת מהאפשרויות בתפריט הנפתח תבנית.
  3. לוחצים על Save.

התכונה מספקת שתי הנחיות לתבניות: תבנית ברירת המחדל (שלא מוצגת) ותבנית הדוגמה שיכולה לשמש כהנחיה לכתיבת הנחיות משלכם.

הגדרת פרומפט משלכם

  1. בהגדרות הסוכן, עוברים לכרטיסייה AI גנרטיבי ואז לכרטיסיית המשנה מעבר חזרה גנרטיבי.
  2. בתפריט הנפתח תבנית, בוחרים באפשרות + תבנית חדשה.
  3. מוסיפים שם לתבנית.
  4. מוסיפים פרומפט טקסטואלי.
  5. לוחצים על Save.

אפשר גם להתחיל בעריכת התבנית Example ולשמור אותה כתבנית חדשה:

  1. בתפריט הנפתח תבנית, בוחרים באפשרות דוגמה.
  2. לוחצים על Edit.
  3. עורכים את שם התבנית.
  4. עורכים את הנחיית הטקסט.
  5. לוחצים על Save.

שינוי רשימת הביטויים האסורים

  1. בהגדרות הסוכן, עוברים לכרטיסייה AI גנרטיבי ואז לכרטיסיית המשנה כללי.
  2. בקטע Banned phrases (ביטויים אסורים), בודקים את הביטויים ברשימה, מוסיפים לה ביטויים או מסירים ממנה ביטויים.
  3. לוחצים על Save.

בדיקת מענה גנרטיבי כגיבוי

אפשר לבדוק את התכונה מענה גנרטיבי כגיבוי בסימולטור. בכל פעם שהמשתמש אומר משהו שלא תואם לאף אחד מהרכיבים בתרשים הזרימה או בדף שבו הוגדר אירוע של אי-התאמה ליצירת תגובה גנרטיבית (והיצירה מצליחה), הסוכן יציג את התגובה שנוצרה.

Codelab

אפשר גם לעיין ב-Codelab של מענה גנרטיבי כגיבוי.

פתרון בעיות

כדי לנפות באגים בתכונה, אפשר לבדוק את הנחיית הקלט של מודל השפה הגדול (LLM) שנפתרה בסימולטור של מסוף Dialogflow:

  1. לוחצים על הלחצן תשובה מקורית:

    תגובה מקורית

  2. מאתרים את השדה Generative Fallback Prompt (הנחיה גנרטיבית כגיבוי). קוראים את השדות האלה כטקסט רגיל ובודקים אם הקלט של ה-LLM הגיוני. אם יש ביטוי שמכיל את התו $, צריך לבדוק את הקלט של הסימולטור ולהבהיר אם התו $ בהנחיות הוא מכוון (לדוגמה, $ ב-price is $10 כנראה מכוון, בעוד ש-visit $city כנראה לא מכוון ויכול לרמז על שימוש לרעה או על באג). אם אתם לא בטוחים, אתם יכולים לפנות לתמיכה.

  3. אם אתם משתמשים בתבנית לפרומפט שאינה ברירת המחדל, אבל לא רואים את השדה 'הנחיית חזרה גנרטיבית', פנו לתמיכה.