תגובה חכמה

התכונה 'תשובות חכמות' עוקבת אחרי שיחה בין נציג אנושי לבין משתמש קצה ומציגה הצעות לתשובות לנציג האנושי. ההצעות לתשובות מחושבות על ידי מודל מותאם אישית שאומן על נתוני השיחות שלכם.

במאמר הזה מוסבר איך להשתמש ב-API כדי להטמיע את התכונה 'תשובות חכמות' ולקבל הצעות ממנה. אם אתם מעדיפים, אתם יכולים להשתמש במסוף של Agent Assist כדי להעלות את הנתונים, לאמן מודל ולבדוק את התוצאות של התשובות החכמות בזמן העיצוב. כדי לראות הצעות לתשובה מהירה במהלך זמן הריצה, צריך לקרוא ל-API ישירות. פרטים על אימון מודל ובדיקת הביצועים שלו באמצעות Agent Assist Console זמינים במדריך לתשובה מהירה.

בנוסף, Agent Assist מספק נתוני שיחות שזמינים לציבור, מודל שאומן מראש ורשימת היתרים. אתם יכולים להשתמש במקורות המידע האלה כדי להבין איך התכונה 'תשובות חכמות' פועלת או לבדוק את השילוב לפני שאתם מעלים נתונים משלכם. מידע נוסף מופיע במאמרי העזרה בנושא פורמט נתוני השיחות.

לפני שמתחילים

לפני שמתחילים לקרוא את המדריך הזה, צריך לבצע את הפעולות הבאות:

  1. יוצרים מערך נתונים של שיחות באמצעות נתוני התמלילים שלכם.
  2. אימון מודל של תשובות מהירות באמצעות מערכי הנתונים של השיחות.

פרטים אישיים מזהים ונתונים של ילדים

כששולחים נתונים ל-API הזה, הוא מנסה להסתיר את כל הפרטים האישיים המזהים (PII). אם אתם רוצים לוודא שהמודל לא כולל מידע אישי מזהה (PII), אתם צריכים לבצע סניטציה של הנתונים לפני שאתם שולחים אותם ל-API. מחליפים את המילים שהוסרו ב-placeholder כמו `REDACTED_NUMBER` או `REDACTED_NAME` במקום פשוט להסיר אותן.

בנוסף, אם הנתונים שלכם כוללים מידע שנאסף מילדים, עליכם להסיר את נתוני הילדים לפני שליחתם אל ה-API.

אימון ופריסה של מודל

המודלים של התשובות המהירות ב-Agent Assist מאומנים באמצעות מערכי נתונים של שיחות. מערך נתונים של שיחות מכיל נתוני תמלילים שהעליתם. בקטע הזה מתואר התהליך של יצירת מערך נתונים של שיחות, העלאת נתוני השיחות אליו, אימון מודל ופריסת המודל. אפשר גם לבצע את הפעולות האלה באמצעות מסוף Agent Assist אם אתם מעדיפים לא להפעיל את ה-API ישירות.

יצירת מערך נתונים של שיחות

לפני שמתחילים להעלות תמלילי שיחות, צריך ליצור קודם מערך נתונים של שיחות כדי להוסיף אותם אליו. קוראים לשיטה create במשאב ConversationDataset כדי ליצור מערך נתונים של שיחות.

התשובה מכילה מזהה של מערך נתונים של שיחה.

ייבוא תמלילי שיחות למערך נתוני השיחות

מעלים את נתוני השיחות בצ'אט למערך נתוני השיחות כדי ש-Agent Assist יוכל לעבד אותם. מוודאים שתמליל של כל שיחה הוא בפורמט JSON ומאוחסן בקטגוריה של Cloud Storage. מערך נתונים של שיחות צריך להכיל לפחות 30,000 שיחות, אחרת אימון המודל ייכשל. ככלל, ככל שתנהלו יותר שיחות, כך איכות המודל תהיה טובה יותר. מומלץ להעלות לפחות 3 חודשים של שיחות כדי לכסות כמה שיותר תרחישי שימוש. מספר ההודעות המקסימלי במערך נתונים של שיחות הוא 1,000,000.

מבצעים קריאה ל-importConversationData במשאב ConversationDataset כדי לייבא את השיחות.

שדות חובה:

  • המזהה של קבוצת הנתונים של השיחות שיצרתם קודם.
  • הנתיב inputConfig מוביל לנתוני התמליל של השיחה בקטגוריה של Cloud Storage.

התגובה היא פעולה ממושכת, שאפשר לבצע עליה דגימה כדי לבדוק אם היא הסתיימה.

יצירת מודל שיחה

מבצעים קריאה לשיטה create במשאב ConversationModel כדי ליצור מודל לשיחה. בנוסף, הפעולה הזו יוצרת את רשימת ההיתרים של המודל.

שדות חובה:

  • ב-datasets, מציינים קבוצת נתונים אחת באמצעות מזהה קבוצת הנתונים של השיחות שיצרתם קודם.
  • מגדירים את smartReplyModelMetadata כאובייקט ריק או מאכלסים את השדה כדי לשנות את ברירת המחדל.

התגובה היא פעולה ממושכת, שאפשר לבצע עליה דגימה כדי לבדוק אם היא הסתיימה. אחרי שהפעולה תושלם, מזהה המודל ומזהה רשימת ההיתרים ייכללו במטא-נתונים של הפעולה.

  • מזהה הדגם: name
  • מזהה רשימת ההיתרים: smart_reply_model_metadata.associated_allowlist_info.document

פריסת מודל השיחה

מבצעים קריאה ל-method‏ deploy במשאב ConversationModel כדי לפרוס את מודל השיחה.

שדה חובה:

  • שימוש ב-conversationModels: מזינים את מזהה מודל השיחה שיצרתם קודם.

ניהול רשימת היתרים

לכל מודל יש רשימת היתרים שמשויכת אליו, שנוצרת אוטומטית כשיוצרים מודל שיחה. רשימת ההיתרים מכילה את כל התשובות שנוצרו ממערכי הנתונים של השיחות, שאפשר להציג לסוכן אנושי בזמן הריצה. בקטע הזה מוסבר איך ליצור ולנהל רשימות היתרים. אפשר לבצע את הפעולות האלה גם באמצעות מסוף Agent Assist אם אתם מעדיפים לא לבצע קריאה ישירה ל-API.

ייצוא התוכן של רשימת ההיתרים לקובץ CSV

כשיוצרים מודל, המערכת יוצרת באופן אוטומטי רשימת היתרים שמשויכת למודל החדש. הרשימה הלבנה היא משאב מסוג Document עם מזהה ייחודי. המזהה מוחזר ב-smart_reply_model_metadata.associated_allowlist_info.document כשיוצרים מודל. כדי לבדוק את ההודעות ברשימת ההיתרים ולבצע בהן שינויים, צריך לייצא אותה לקטגוריה של Cloud Storage.

קוראים ל-method‏ export במשאב Document כדי לייצא את המסמך לקובץ CSV בקטגוריה של Cloud Storage. השדה smart_messaging_partial_update הוא אופציונלי, אבל הוא משפיע על האופן שבו תוכלו לעדכן את רשימת ההיתרים הזו בעתיד. אם הערך הוא true, קובץ CSV המיוצא יכלול עמודה עם מזהה ייחודי לכל הודעה. אפשר להשתמש במזהה ההודעה כדי לעדכן רק הודעות ספציפיות במקום את כל המסמך. אם המדיניות smart_messaging_partial_update מוגדרת כ-false או לא מוגדרת, העמודה הנוספת לא תופיע בקובץ, וכל עדכון של רשימת ההיתרים ידרוש עדכון של המסמך כולו.

שדה חובה:

  • הנתיב gcsDestination מוביל לקטגוריה שלכם ב-Cloud Storage.

התגובה היא פעולה ממושכת, שאפשר לבצע עליה דגימה כדי לבדוק אם היא הסתיימה. לאחר מכן, קובץ CSV שציינתם בבקשה יאוכלס במועמדים לתשובה.

בדיקת רשימת ההיתרים

רשימת ההיתרים שנוצרת כוללת תשובות שנוצרו באופן אוטומטי על ידי התכונה 'תשובות חכמות' על סמך נתוני השיחות שלכם. עכשיו אפשר לבדוק ולעדכן את התשובות האלה לפי הצורך. מורידים את הקובץ CSV מהקטגוריה של Cloud Storage, עורכים אותו בהתאם לצרכים ומעלים אותו בחזרה לקטגוריה של Cloud Storage. רק תשובות שנמצאות ברשימת ההיתרים יכולות להיות מוצגות לנציגים אנושיים.

אם אתם עורכים תשובות, מומלץ לערוך רק את האיות והדקדוק, ולא לשנות את המשמעות של ההודעה. ככל שהטקסט הערוך רחוק יותר מהמשמעות במודל, כך קטן הסיכוי שההודעה תוצג.

אפשר גם ליצור הודעות חדשות, אם צריך. בדומה להודעות שנערכו, הסבירות שהודעות שנוצרו יופיעו במהלך זמן הריצה היא נמוכה יותר.

עדכון רשימת ההיתרים

אחרי שמסיימים לעדכן את קובץ CSV, אפשר להשתמש בו כדי לעדכן את המשאב Document. אתם יכולים לבחור לעדכן את כל רשימת ההיתרים או רק הודעות ספציפיות. כדי לעדכן רק הודעות ספציפיות, צריך להגדיר את smart_messaging_partial_update ל-true כשמייצאים את רשימת ההיתרים. אם כבר עשיתם את זה, תוכלו להשתמש בעמודה שנוצרה באופן אוטומטי בקובץ CSV המיוצא כדי לציין את ההודעות שצריך לעדכן.

מבצעים קריאה לשיטה reload במשאב Document כדי לעדכן את רשימת ההיתרים. כדי לעדכן רק הודעות ספציפיות, מגדירים את smart_messaging_partial_update לערך true ב-ReloadDocumentRequest. כדי לעדכן את כל רשימת ההיתרים, משאירים את smart_messaging_partial_update ללא הגדרה או מגדירים אותו ל-false.

שדות חובה:

  • ‫gcsSource הוא הנתיב ב-Cloud Storage לקובץ CSV.
  • ב-name, משתמשים בשם המשאב של רשימת ההיתרים שנוצר כשיצרתם מודל לשיחה.

דוגמה לבקשה:

{
  "name":"projects/project-id/knowledgeBases/knowledge-base-id/documents/allowlist-id",
  "gcsSource" {
      "uri": "gs://revised_smart_reply_allowlist_path"
   }
}

הערכת הביצועים של מודל שאומן

אפשר לבדוק את הביצועים של מודל אחרי שפורסים אותו ויוצרים עבורו רשימת היתרים. אתם צריכים לספק גם מערך נתונים לבדיקה. התשובות שנוצרות על ידי מודל התשובות החכמות שאומן ורשימת ההיתרים המשויכת שלו יושוו להודעות של סוכנים בפועל במערך הנתונים של הבדיקה. מערך הנתונים לבדיקה צריך לכלול נתונים של שיחות מהעולם האמיתי, אבל אסור שהוא יכיל נתונים ממערך הנתונים של השיחות ששימש לאימון המודל. לדוגמה, אם יש לכם נתוני תנועה של שיחות במשך חודש, אתם יכולים להשתמש בנתוני שיחות של 3 שבועות כדי ליצור מערך נתונים של שיחות, ובנתונים של השבוע הנותר כדי ליצור מערך נתונים לבדיקה. מערך נתוני הבדיקה צריך לכלול לפחות 1,000 שיחות, אבל ככלל, מדדי ההערכה יהיו מהימנים יותר אם מערך נתוני הבדיקה יכלול יותר שיחות. פורמט מערך נתוני הבדיקה זהה לפורמט מערך נתוני השיחה.

כדי ליצור הערכה חדשה של מודל, קוראים לשיטה CreateConversationModelEvaluation במשאב ConversationModel. השיטה הזו מחזירה פעולה ממושכת. אפשר לדגום את הפעולה כדי לבדוק את הסטטוס שלה, ואז יוחזר אחד מהערכים הבאים: INITIALIZING, ‏ RUNNING, ‏ SUCCEEDED, ‏ CANCELLED, ‏ FAILED.

שדות חובה:

  • ‫InputDataset: מערך הנתונים של הבדיקה שישמש לבדיקת הביצועים של המודל.
  • ‫allowlist_document: רשימת ההיתרים שמשויכת למודל של תשובה מהירה שרוצים לבדוק.

כשפעולה ממושכת מסתיימת, מוחזר משאב ConversationModelEvaluation. הדוח כולל שני מדדים:

  • ‫allowlist_coverage: אחוז ההודעות של הנציגים במערך נתוני הבדיקה שנכללות ברשימת ההיתרים.
  • ‫recall: אחוז ההודעות של הנציגים במערך נתוני הבדיקה שמופיעות ברשימת ההיתרים וגם ב-3 ההצעות המובילות שמוצגות על ידי מודל התשובה החכמה.

הגדרת פרופיל שיחה

פרופיל שיחה מגדיר קבוצה של פרמטרים ששולטים בהצעות שמוצגות לסוכן במהלך שיחה. בשלבים הבאים יוצרים ConversationProfile עם אובייקט HumanAgentAssistantConfig. אפשר לבצע את הפעולות האלה גם באמצעות מסוף Agent Assist אם אתם מעדיפים לא לבצע קריאה ישירה ל-API.

יצירת פרופיל שיחה

כדי ליצור פרופיל שיחה, מבצעים קריאה ל-method‏ create במשאב ConversationProfile. צריך לספק את מזהה מאגר הידע, מזהה המסמך, מזהה הפרויקט ומזהה המודל.

דוגמה ל-JSON: 
{
  "displayName":"smart_reply_assist",
  "humanAgentAssistantConfig":{
    "humanAgentSuggestionConfig":{
      "featureConfigs":[
        {
          "suggestionFeature": { "type":"SMART_REPLY" },
          "queryConfig": {
            "documentQuerySource":{
              "documents": ["projects/PROJECT_ID/knowledgeBases/KNOWLEDGE_BASE_ID/documents/DOCUMENT_ID"]
              },
                "maxResults": 3
              },
            }
          },
          "conversationModelConfig":{
            "model": "projects/PROJECT_ID/conversationModels/MODEL_ID"
          }
        }
      ]
    }
  }
}

מומלץ להגדיר את הערך SuggestionFeatureConfig.enable_inline_suggestion. אם הערך הזה הוא true, קריאות מאוחרות יותר אל AnalyzeContent יחזירו תגובות עם רשימת הצעות.

התשובה תכלול את המזהה החדש של פרופיל השיחה.

במאמר תשובה מהירה גנרטיבית מוסבר איך להגדיר פרופיל שיחה, לנהל שיחות בזמן ריצה, לבדוק את התוצאות ולשלוח משוב ל-Agent Assist.