生成式備用

生成式備用答覆功能會使用 Google 最新的生成式大型語言模型 (LLM),在使用者輸入內容不符合任何意圖或表單填寫參數時,生成虛擬代理回覆。

這項功能可透過文字提示詞設定,指示 LLM 如何回覆。您可以使用預先定義的文字提示詞,或自行新增提示詞。有了預先定義的提示,虛擬服務專員就能處理基本的對話情境。例如:

  • 向使用者問候及道別。
  • 重複服務專員說過的話,以免使用者不瞭解。
  • 在使用者要求時保留通話。
  • 總結對話內容。

您可以為流程、頁面或參數填入期間使用的不相符事件處理常式啟用生成式備用答覆。如果為無相符事件啟用生成式備用答覆,每當該事件觸發時,Dialogflow CX 就會嘗試生成回覆,並傳回給使用者。如果無法生成回覆,系統會改為提供一般預設的代理回覆。

限制

這項功能支援 Gemini API 支援的語言。

啟用生成式備用答覆

您可以在代理中,為不相符事件處理常式啟用生成式備用答覆,用於流程、頁面或參數執行。

為整個流程的無相符事件啟用生成式備用答覆

  1. 前往 Dialogflow CX 控制台。
  2. 選取專案。
  3. 依序選取代理和流程。
  4. 點選流程的「Start Page」展開。
  5. 按一下「事件處理常式」下方的「sys.no-match-default」。
  6. 在「Agent responses」(代理回覆) 下方,選取「Enable generative fallback」(啟用生成式備用答覆)。
  7. 按一下 [儲存]。

為特定無相符事件啟用生成式備用答覆

  1. 前往目標「不相符」事件處理常式 (任何開頭為「不相符」的事件,例如「不相符預設」、「不相符 1」等)。
  2. 在「Agent responses」(代理回覆) 下方,選取「Enable generative fallback」(啟用生成式備用答覆)。
  3. 按一下 [儲存]。

設定生成式備用答覆

如前所述,生成式備用答覆功能會將要求傳送至大型語言模型,以產生回覆。要求會以文字提示詞的形式呈現,其中包含自然語言,以及代理和對話目前狀態的相關資訊。系統會根據禁用詞組清單,檢查提示和生成的回覆。如果含有任何禁用詞組,或被視為不安全,生成作業就會失敗,系統會改為提供一般預設回覆 (在同一執行作業的「Agent says」(代理說) 下方)。

這項功能有多種設定方式:

  1. 選取預先定義的提示。
  2. 定義自訂提示。
  3. 在禁用詞組清單中新增或移除詞組。

建立提示時,除了以自然語言描述要生成的內容類型外,還可以使用下列預留位置:

X 項目
$conversation 代理和使用者之間的對話,不包括使用者最後一句話。
${conversation USER:"" AI:"" TURNS:} $conversation 預留位置的參數化版本。您可以自訂使用者前置字串 (USER)、代理前置字串 (AI),以及要納入的前幾輪對話數量 (TURNS)。所有預留位置參數值都必須指定。例如:${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}。
$last-user-utterance 使用者最後輸入的內容。
$flow-description 使用中流程的流程說明。
$route-descriptions 有效意圖的意圖說明。

請務必提供良好的流程和意圖說明。

選擇預先定義的提示詞

  1. 在「Agent Settings」(代理設定) 中,依序前往「Generative AI」(生成式 AI) 分頁和「Generative Fallback」(生成式備用答覆) 子標籤。
  2. 在「範本」下拉式選單中選取其中一個選項。
  3. 按一下 [儲存]。

這項功能提供兩個範本提示:「預設」範本 (不會顯示) 和「範例」範本,可做為編寫提示的指南。

自行定義提示

  1. 在「Agent Settings」(代理設定) 中,依序前往「Generative AI」(生成式 AI) 分頁和「Generative Fallback」(生成式備用答覆) 子標籤。
  2. 在「範本」下拉式選單中,選取「+ 新範本」。
  3. 新增「範本名稱」。
  4. 新增文字提示詞。
  5. 按一下 [儲存]。

您也可以先編輯「Example」範本,然後另存為新範本:

  1. 在「Template」(範本) 下拉式選單中,選取「Example」(範例)。
  2. 按一下 [編輯]。
  3. 編輯「Template name」(範本名稱)。
  4. 編輯文字提示詞。
  5. 按一下 [儲存]。

修改禁用詞組清單

  1. 在「Agent Settings」(代理設定) 中,依序前往「Generative AI」(生成式 AI) 分頁和「General」(一般) 子標籤。
  2. 在「Banned phrases」(禁用詞組) 專區中,檢查、新增或移除清單中的詞組。
  3. 按一下 [儲存]。

測試生成式備用答覆

您可以在模擬器中測試生成式備用答覆功能。只要使用者語句導致流程或頁面出現不相符事件,且該事件已設定為產生生成式回覆 (且生成成功),代理就會輸出生成的回覆。

程式碼實驗室

另請參閱生成式備用答覆程式碼實驗室。

疑難排解

如要對這項功能進行偵錯,可以在 Dialogflow 控制台模擬器中,檢查已解析的大型語言模型 (LLM) 輸入提示:

  1. 點選「原始回覆」按鈕:

    原始回覆

  2. 找到「生成式備用答覆提示」欄位。請以純文字形式讀取這些欄位,並檢查 LLM 輸入內容是否合理。如果任何詞組包含 $,請檢查模擬器輸入內容,並釐清提示中的 $ 是否為刻意加入 (例如,price is $10 中的 $ 可能是刻意加入,而 visit $city 則可能不是,且可能暗示濫用或錯誤)。如果不確定,請與支援團隊聯絡。

  3. 如果您使用的是非預設提示詞範本,但看不到「Generative Fallback Prompt」(生成式備用答覆提示詞) 欄位,請聯絡支援團隊。