代理程式設定

代理有許多會影響行為的設定,且每個控制台提供的設定都不同。

Conversational Agents 控制台代理設定

如何存取代理程式設定:

控制台

  1. 開啟 Conversational Agents 控制台。
  2. 選擇專案。
  3. 選取代理程式。
  4. 按一下右上角的「設定」圖示。
  5. 視需要更新設定。
  6. 按一下 [儲存]。

API

請參閱 Agent 類型的 get 和 patch/update 方法。

選取代理參考資料的通訊協定和版本:

通訊協定 V3 V3beta1
REST 代理資源 代理資源
RPC 代理介面 代理介面
C++ AgentsClient 不適用
C# AgentsClient 不適用
Go AgentsClient 不適用
Java AgentsClient AgentsClient
Node.js AgentsClient AgentsClient
PHP 不適用 不適用
Python AgentsClient AgentsClient
小茹 不適用 不適用

以下各子節將說明不同類別的代理程式設定。

一般設定

代理程式的一般設定如下:

  • 顯示名稱

    人類可讀的代理名稱。

  • 時區

    代理的預設時區。

  • 對話開始

    這項設定會決定您的代理要以生成式代理應對手冊或確定性流程展開對話。

  • 代理程式位置

    建立代理時選取的代理區域。

  • 代理鎖定

    • 鎖定代理:指出代理是否已鎖定。無法編輯鎖定的代理。
  • 記錄設定

    • 啟用 Cloud Logging:指出代理是否已啟用 Cloud Logging。

    • 啟用對話記錄:指出是否要讓 Google 收集並儲存遮蓋的使用者查詢,以提升品質。

    • 指定 Cloud Storage URI,用於儲存及播放語音對話: 啟用對話記錄後,您可以提供 Cloud Storage URI,對話音訊就會儲存至這個位置。這個欄位會與音訊匯出 bucket 的進階語音設定同步。您也可以使用「Browse Google cloud storage」(瀏覽 Google Cloud Storage) 按鈕,開啟 bucket 選取面板。

    • 啟用基於同意聲明的使用者輸入內容遮蓋功能:啟用這項設定後,您可以使用特殊工作階段參數,控制是否要從對話記錄和 Cloud Logging 遮蓋使用者輸入內容和參數。工作階段參數預設為 true。如果停用這項設定,系統就不會遮蓋任何內容。

      系統會使用布林值工作階段參數收集使用者同意聲明:$session.params.conversation-redaction。如果啟用這項設定,且工作階段參數設為 false,系統就不會遮蓋任何內容(但仍會套用其他遮蓋策略)。如果啟用這項設定,且工作階段參數設為 true,系統就會遮蓋內容。

      同意聲明要求流程範例如下:首先詢問使用者是否要保留使用者輸入內容,並將回覆與兩個意圖比對,一個是「是意圖」,另一個是「否意圖」。接著,在執行的「yes intent」路徑參數預設中,將工作階段參數設為 false (不遮蓋),並在「no intent」路徑的參數預設中設為 true (遮蓋)。

  • BigQuery Export

    • 啟用 BigQuery 匯出:指出是否啟用 BigQuery 匯出。
    • BigQuery dataset:BigQuery 資料集名稱。
    • BigQuery 資料表:BigQuery 資料表名稱。
  • 意圖建議

    您可以啟用意圖建議。

  • 使用者意見回饋

    您可以啟用這項設定,提供有關代理回覆品質的意見回饋,包括表示喜歡/不喜歡。

  • Git 整合

    使用這項設定新增 Git 整合。

生成式 AI 設定

可用的生成式 AI 設定如下:

  • 一般:

    • 生成式模型選擇

    選取生成式功能要使用的模型。詳情請參閱「模型版本」。

  • 詞元數量上限:

    • 輸入詞元數量限制

      選取生成模型的輸入詞元限制。這是傳送至模型的輸入內容詞元大小上限。視模型而定,一個符記可能介於一個字元和一個字詞之間。較小的權杖限制延遲時間較短,但模型輸入大小有限。詞元限制越大,延遲時間越長,但模型輸入內容大小可以更大。

    • 輸出詞元數量限制

      選取生成模型的輸出詞元限制。這是模型輸出內容的詞元大小上限。視模型而定,一個詞元可能介於一個字元和一個字詞之間。權杖數量限制較小時,延遲時間較短,但模型輸出內容的大小會受限。詞元限制越大,延遲時間越長,但模型輸出內容的大小可能較大。

    • 溫度

      大型語言模型的 Temperature 參數可控制回覆的創意程度。值越低,回覆越可預測。值越高,回覆越有創意或隨機。

    • 脈絡詞元限制

      這項設定會從 LLM 提示中剔除部分過去的回合,避免提示大小隨著代理處理的每個連續回合而增加。這項功能可避免提示大小不必要地增加。

      一般來說,如果不截斷,後續的每個回合都會附加到 LLM 提示詞的「對話記錄」中,無論是否與目前回合相關。這最終可能導致提示的大小隨著每次對話而增加。對話記錄占用的提示越多,可用於少量樣本範例的提示就越少 (因此這些範例可能會遭到捨棄)。最終,提示也可能超出目前的權杖限制。您可以增加權杖大小來因應這種情況,但請注意,提示大小增加也會導致 LLM 回覆延遲時間變長。

      您可以透過內容截斷功能,設定要保留給對話記錄的詞元預算百分比上限。系統會按照時間從最新到最舊的順序,保留對話回合。這項設定可避免超出權杖限制。無論選擇哪種設定,系統都會保留至少兩個對話回合,並按照時間從最新到最舊排序。

      必須先設定權杖限制,才能修改這項設定。

      如果截斷的內容包含部分對話,可能會不小心遺失一些參數。啟用這個選項後,請仔細評估與教戰手冊的互動。

      詞元輸入預算也用於下列項目:

      • 系統指令和範例:自動新增至提示。這項行為無法修改。
      • Playbook 指示和目標:您編寫的任何指示和目標都會完整加入提示。
      • Playbook 少量樣本範例:依序 (預設) 或依您選擇的演算法 (例如規則運算式最佳比對排序) 新增。在納入所有其他項目後,系統會剔除範例,以符合輸入詞元預算。
      • 對話記錄由使用者和代理語句、流程和
    • 禁用詞組

    生成式 AI 禁止使用的詞組清單。如果提示或生成的回覆中出現禁用詞組,生成作業就會失敗。請注意,禁用詞組清單會影響每項查詢和 LLM 呼叫,並增加延遲時間。

    • 安全篩選機制

    針對不同的負責任 AI (RAI) 類別,設定安全篩選器的敏感度等級。內容將依下列四個類別進行評估:

    類別 說明
    仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。
    危險內容 宣傳有害商品、服務和/或活動,或是提供接觸管道
    情色露骨內容 提及性行為和/或其他猥褻情事的內容
    騷擾 針對他人發表含有恐嚇、霸凌、辱罵和/或惡意意圖的言論

    系統會按照有害機率封鎖內容。您可以為每個類別選擇「不封鎖」、「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度等級。

    詳情請參閱「設定安全屬性」。

    • 提示安全性

    您可以勾選「enable prompt security check」(啟用提示詞安全檢查) 設定,啟用提示詞安全檢查。啟用後,代理會拒絕觸發安全篩選器的使用者查詢,包括提示詞注入式攻擊。這類攻擊可能會用於揭露部分代理提示,或提供代理不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。啟用後,您可以提供下列選項:

    • 提示詞安全性設定:您可以選取「Default」採用預設安全性設定,或選取「Customize」,明確指出哪些使用者查詢應視為安全或不安全。
    • 選取生成式模型:這會控制用於分類的 LLM。如果選取「Default」(預設) (建議),系統會為您選擇預設模型,並在有更新、更完善的模型時自動變更。
    • 安全提示:您可以選取「Default」(預設),使用預設安全提示,也可以選取「Customize」(自訂),提供有助於分類惡意使用者查詢的指示。如果選取「Default」,提示可能會自動更新,以提升成效。
    • 輸入門檻:使用者查詢的字元長度下限,達到此長度才會進行安全檢查。簡短查詢較為模糊,可能分類錯誤。任何小於輸入門檻的查詢都會視為本質上安全。
  • 生成式備用答覆:

  • 資料儲存庫:

    請參閱「資料儲存庫代理設定」。

確定性流程

這些設定會套用至這個代理中的所有流程,但機器學習設定會套用至個別流程。如要編輯其他流程專屬設定,請在控制台中前往該流程,然後在該處編輯設定。

  • 意圖訓練:Flows 會使用機器學習 (ML) 演算法,理解使用者輸入內容、比對意圖,並擷取結構化資料。流程會根據您提供的訓練詞組和內建的語言模型進行學習。並根據這項資料建立模型,決定應將哪個意圖與使用者輸入內容進行比對。您可以為代理的每個流程套用專屬的機器學習設定。

    可用的意圖訓練設定如下:

    啟用這項功能後,即使使用者輸入內容有拼寫或文法錯誤,系統仍會比對意圖,就像輸入內容正確一樣。意圖偵測回覆會包含修正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會將其視為「I want an apple」處理。這也適用於同時涉及系統和自訂實體的比對。

    拼字校正功能支援英文、法文、德文、西班牙文和義大利文。所有 Dialogflow CX 區域都支援這項功能。

    警告和最佳做法:

    • 拼寫校正功能無法修正 ASR (自動語音辨識) 錯誤,因此不建議為使用 ASR 輸入內容的代理啟用這項功能。
      • 修正後的輸入內容可能會與錯誤的意圖相符。如要修正這個問題,請將常見的比對錯誤詞組新增至負面範例。
    • 拼字校正會稍微增加代理程式的回應時間。

      • 如果代理是使用特定領域的術語定義,則可能不需要修正。
    • 流程專屬機器學習設定:

      這可能是以下其中一個項目:

      • 進階 NLU:(預設) 進階 NLU 技術。這種 NLU 類型的效果優於標準類型,特別是大型代理和流程。
      • 標準 NLU:標準 NLU 技術。不會再收到品質改善或新功能。
      • 自動訓練

        如果啟用,只要透過控制台更新流程,系統就會訓練流程。如果流程較大,這可能會導致控制台 UI 延遲,因此建議您停用這項設定,並視需要手動訓練大型流程。

      • 分類門檻

        如要篩除偽陽性結果,同時讓代理仍能比對多種自然語言輸入內容,可以調整機器學習分類門檻。這項設定可控管意圖比對所需的最低意圖偵測可信度。

        如果意圖比對的可信度分數低於門檻值,系統就會叫用不相符事件。

        您可以為代理啟用的每種語言,為每個流程設定不同的分類門檻值。這是因為不同語言在不同分類門檻下的成效最佳。如要進一步瞭解如何建立多語言代理,請參閱多語言代理說明文件。

      • 訓練狀態

        指出流程資料自上次更新後,流程是否已訓練。

      • 訓練

        使用這個按鈕手動訓練流程。

    • 語言

      代理支援的語言。代理建立後,即無法變更預設語言。不過,您可以執行下列操作:

      1. 將代理匯出為 JSON 格式。
      2. 將下載的檔案解壓縮。
      3. 找出 agent.json 檔案。
      4. 將 defaultLanguageCode 和 supportedLanguageCodes 欄位更新為所選值。
      5. 將代理還原至步驟 1 的相同或不同代理。
      6. 視需要更新特定語言的訓練詞組和實體值。

      你也可以啟用自動偵測及切換語言功能。

連線能力

  • 自訂酬載範本

    您可以在這個部分建立自訂酬載範本的說明和酬載。

  • 參數定義

    清楚說明哪些工作階段參數會傳送至 Webhook,以及哪些工作階段參數可由 Webhook 回應設定。

  • 用戶端憑證設定

    用於上傳 SSL 憑證。

語音和 IVR

  • 語音選項:

    • Text-to-Speech

    • 語言和語音

      您可以選取語音合成使用的語言和語音。

      如要為代理啟用自訂語音,請從語音名稱下拉式選單中選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂語音名稱必須採用以下格式:projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME。

      你也可以使用語音複製功能。

      • 如果您使用電話閘道,請確認自訂語音專案中的 Dialogflow 服務代理服務帳戶 service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com 已獲授予「AutoML Predictor」角色。
      • 對於一般 API 呼叫,請確認用於呼叫 Dialogflow CX 的服務帳戶,在自訂語音專案中具備「AutoML Predictor」角色。

      • 音高

        控制語音音調的相對高低。

      • 誦讀速度

        控制語音的說話速度。

      • 覆寫要求層級的合成語音設定

        如果啟用,代理設定中指定的合成語音設定,會覆寫 API、合作夥伴整合或對話設定檔中指定的設定。

      • 發音

        使用這些設定,透過 X-SAMPA 語音編碼,為代理提供特定詞組的發音。

    • Speech-to-Text

      • 啟用自動語音調整功能

      請參閱「自動語音調整」。

  • 通話小幫手:請參閱「通話小幫手」。

UI 設定

您可以使用這些設定,自訂 Messenger 和通話隨附使用者介面。

安全性

詳情請參閱「安全性設定」和「存取控管」。

Dialogflow CX 控制台代理設定

如何存取代理程式設定:

控制台

  1. 開啟控制台。
  2. 選擇專案。
  3. 選取代理程式。
  4. 按一下「Agent Settings」(代理程式設定)。
  5. 視需要更新設定。
  6. 按一下 [儲存]。

API

詳情請參閱 Agent 類型的 get 和 patch/update 方法。

選取代理參考資料的通訊協定和版本:

通訊協定 V3 V3beta1
REST 代理資源 代理資源
RPC 代理介面 代理介面
C++ AgentsClient 不適用
C# AgentsClient 不適用
Go AgentsClient 不適用
Java AgentsClient AgentsClient
Node.js AgentsClient AgentsClient
PHP 不適用 不適用
Python AgentsClient AgentsClient
小茹 不適用 不適用

一般設定

代理程式的一般設定如下:

  • 顯示名稱:人類可讀的代理名稱。
  • 時區:代理的預設時區。
  • 預設語言:代理支援的預設語言。代理建立後,即無法變更預設語言。不過,您可以執行下列操作:

    1. 將代理匯出為 JSON 格式。
    2. 將下載的檔案解壓縮。
    3. 找出 agent.json 檔案。
    4. 將 defaultLanguageCode 和 supportedLanguageCodes 欄位更新為所需的值。
    5. 將代理還原至步驟 1 的相同或不同代理。
    6. 視需要更新特定語言的訓練詞組和實體值。
  • 代理鎖定:

    • 鎖定代理:指出代理是否已鎖定。無法編輯鎖定的代理。
  • 記錄功能設定:

    • 啟用 Cloud Logging:指出是否為代理啟用 Cloud Logging。
    • 啟用對話記錄:指出是否要讓 Google 收集並儲存遮蓋的使用者查詢,以提升品質。
    • 啟用依據同意聲明遮蓋使用者輸入內容的功能:

    啟用這項設定後,您可以使用特殊工作階段參數,控制是否要從對話記錄和 Cloud Logging 中遮蓋使用者輸入內容和參數。工作階段參數預設為 true。如果停用這項設定,系統就不會遮蓋任何內容。

    系統會使用布林值工作階段參數收集使用者同意聲明:$session.params.conversation-redaction。如果啟用這項設定,且工作階段參數設為 false,系統就不會遮蓋任何內容(但仍會套用其他遮蓋策略)。如果啟用這項設定,且工作階段參數設為 true,系統就會遮蓋內容。

    舉例來說,同意聲明要求流程可能如下:首先詢問使用者是否要保留使用者輸入內容,並將回覆與兩個意圖比對,一個是「是意圖」,另一個是「否意圖」。接著,在執行中,將「yes intent」路徑的參數預設中的工作階段參數設為 false (不遮蓋),並將「no intent」路徑的參數預設中的工作階段參數設為 true (遮蓋)。

  • BigQuery Export:

    • 啟用 BigQuery 匯出:指出是否啟用 BigQuery 匯出。
    • BigQuery dataset:BigQuery 資料集名稱。
    • BigQuery 資料表:BigQuery 資料表名稱。
  • 意圖建議:您可以啟用意圖建議。

  • 自訂酬載範本:您可以在這個部分建立自訂酬載範本的說明和酬載。

機器學習設定

Dialogflow CX 會使用機器學習 (ML) 演算法,理解使用者輸入內容、比對意圖,並擷取結構化資料。Dialogflow CX 會根據您提供的訓練詞組和 Dialogflow CX 內建的語言模型進行學習。並根據這項資料建立模型,決定應將哪個意圖與使用者輸入內容配對。您可以為代理的每個流程套用專屬的機器學習設定,Dialogflow CX 建立的模型也會因流程而異。

以下是可用的代理層級機器學習設定:

  • 允許機器學習技術修正拼字:

    啟用這項功能後,即使使用者輸入內容有拼寫或文法錯誤,系統仍會比對意圖,就像輸入內容正確一樣。意圖偵測回覆會包含修正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會將其視為「I want an apple」處理。這也適用於同時涉及系統和自訂實體的比對。

    拼字校正功能支援英文、法文、德文、西班牙文和義大利文。這項功能適用於所有 Dialogflow CX 區域。

    警告和最佳做法:

    • 拼寫校正功能無法修正 ASR (自動語音辨識) 錯誤,因此不建議為使用 ASR 輸入內容的代理啟用這項功能。
    • 修正後的輸入內容可能會與錯誤的意圖相符。如要修正這個問題,請將常誤判的詞組新增至負面範例。
    • 拼字校正會稍微增加代理程式的回應時間。
    • 如果代理是使用特定領域的術語定義,則可能不需要修正。

以下是流程專屬的機器學習設定:

  • NLU 類型:

    這可能是以下其中一個項目:

    • 進階 NLU (預設):進階 NLU 技術。這種 NLU 類型的效果比標準類型更好,尤其是大型代理和流程。
    • 標準 NLU:標準 NLU 技術。不會再收到品質改善或新功能。
  • 自動訓練:啟用後,只要透過控制台更新流程,系統就會訓練流程。如果流程較大,這可能會導致控制台 UI 延遲,因此請停用這項設定,並視需要手動訓練大型流程。

  • 分類門檻:

    如要篩除偽陽性結果,同時讓代理仍能比對多種自然語言輸入內容,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的最低意圖偵測信賴度。

    如果意圖比對的可信度分數低於門檻值,系統就會叫用不相符事件。

    您可以為代理啟用的每種語言,為每個流程設定不同的分類門檻值。這是因為不同語言在不同分類門檻的成效最佳。如要進一步瞭解如何建立多語言代理,請參閱多語言代理說明文件。

  • 訓練狀態:指出流程資料上次更新後,流程是否已完成訓練。

  • 訓練 NLU:使用這個按鈕手動訓練流程。

生成式 AI 設定

可用的生成式 AI 設定如下:

  • 一般:

    • 禁用詞組:生成式 AI 禁用的詞組清單。如果提示或生成的回覆中出現禁用詞組,生成作業就會失敗。
    • 安全篩選器:針對不同的負責任 AI (RAI) 類別,設定安全篩選器的敏感度等級。系統會根據下列四個類別評估內容:
    類別 說明
    仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。
    危險內容 宣傳有害商品、服務與活動,或是提供接觸管道
    情色露骨內容 提及性行為或其他猥褻情事的內容
    騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論

    系統會按照有害機率封鎖內容。您可以為每個類別選擇「不封鎖」、「封鎖極少數內容」、「封鎖些許內容」和「封鎖多數內容」,自訂敏感度等級。

    詳情請參閱「設定安全屬性」。

    • 提示安全:您可以勾選「enable prompt security check」(啟用提示安全檢查) 設定,啟用提示安全檢查。啟用後,代理會嘗試防範提示詞注入式攻擊。這類攻擊可能會用來揭露部分代理提示,或提供代理不應提供的回覆。做法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。
  • 生成式虛擬服務專員:

    • 選取生成式模型:選取生成式功能使用的模型。詳情請參閱「模型版本」。
    • 應對手冊背景資訊截斷:從應對手冊提示中剔除部分過去的回合,避免提示大小隨著應對手冊處理的每個連續回合而增加。這項功能可避免提示大小不必要地增加。

    一般來說,如果不截斷,後續的每個回合都會附加到 LLM 提示詞的「對話記錄」中,無論是否與目前回合相關。這最終可能導致提示的大小隨著每次對話而增加。對話記錄占用的提示越多,可用於少量樣本範例的提示就越少 (因此這些範例可能會遭到捨棄)。最終,提示也可能超出目前的權杖限制。您可以增加詞元大小來因應這種情況,但請注意,提示詞大小增加也會導致 LLM 回覆延遲時間變長。

    您可以透過 Playbook 內容截斷功能,設定要保留給對話記錄的詞元預算百分比上限。系統會按照時間從最新到最舊的順序,保留對話回合。這項設定可避免超出權杖限制。無論選擇哪種設定,系統都會保留至少兩輪對話,並依時間由近到遠排序。

    必須先設定權杖限制,才能修改這項設定。

    重要事項:如果參數屬於遭剔除的回合,截斷內容可能會導致部分參數不慎遺失。啟用這個選項後,請仔細評估與教戰手冊的互動。

    詞元輸入預算也用於下列項目:

    • 系統會自動在提示中加入系統指令和範例。這項行為無法修改。
    • Playbook 指示和目標:您編寫的所有指示和目標都會完整加入提示。
    • Playbook 少量樣本範例:依序 (預設) 或依您選擇的演算法 (例如規則運算式最佳比對排序) 新增。在納入所有其他項目後,系統會篩選範例,以符合輸入詞元預算。
    • 對話記錄:由使用者和代理語句、流程和 Playbook 轉換情境、工具呼叫和輸出內容組成,這些內容來自目前 Playbook 依序處理的所有先前輪次,且屬於同一個工作階段。
  • 生成式備用答覆:

  • 資料儲存庫:請參閱「資料儲存庫代理設定」。

語音和 IVR 設定

可用的語音和 IVR 設定如下:

  • Text-to-Speech:

    • 語音選擇:

    您可以選取語音合成使用的語言和語音。

    如要為代理啟用自訂語音,請從語音選取下拉式選單中選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂語音名稱必須採用以下格式:projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME。

    • 如果您使用電話閘道,請確認自訂語音專案中的 Dialogflow 服務代理服務帳戶 service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com 已獲授予「AutoML Predictor」角色。
    • 對於一般 API 呼叫,請確認用於呼叫 Dialogflow CX 的服務帳戶,在自訂語音專案中具備「AutoML 預測工具」角色。
  • Speech-to-Text:

DTMF

請參閱「電話整合的 DTMF」。

多模態

請參閱「通話夥伴」。

共用設定

請參閱「存取控管」。

語言設定

為代理新增其他語言支援。如需完整的語言清單,請參閱語言參考資料。

自動偵測語言

設定語言自動偵測功能後,對話代理會自動偵測使用者使用的語言,並切換至該語言。詳情請參閱語言自動偵測說明文件。

安全性設定

請參閱「安全性設定」。

進階設定

唯一的進階設定是情緒分析。

生成式 AI 應用程式建構工具設定

本節說明代理應用程式可用的設定。

一般

代理應用程式提供下列一般設定:

  • 顯示名稱:人類可讀的代理應用程式名稱。
  • 位置:代理應用程式區域。
  • 應用程式鎖定:啟用後,系統不允許變更代理應用程式。

記錄

代理應用程式提供下列記錄設定:

  • 啟用 Cloud Logging:啟用後,記錄會傳送至 Cloud Logging。
  • 啟用對話記錄:啟用後,系統會提供對話記錄。指出是否要讓 Google 收集及儲存經過遮蓋的使用者查詢,以提升品質。這項設定不會影響是否使用對話記錄生成代理回覆。
  • 啟用 BigQuery Export:啟用後,對話記錄會匯出至 BigQuery。此外,您也必須啟用「Enable Conversation History」(啟用對話記錄) 設定。

生成式 AI

代理應用程式可使用下列生成式 AI 設定:

  • 選取生成式模型:選取代理預設應使用的生成式模型。
  • 輸入詞元限制:選取生成式模型的輸入詞元限制。這是傳送至模型的輸入內容權杖大小上限。視模型而定,一個詞元可能介於一個字元和一個字詞之間。詞元限制較小時,延遲時間較短,但模型輸入內容大小會受限。詞元限制較大時,延遲時間會較長,但模型輸入內容大小可以較大。
  • 輸出詞元限制:選取生成式模型的輸出詞元限制。這是模型輸出內容的詞元大小上限。視模型而定,一個詞元可能介於一個字元和一個字詞之間。詞元限制越小,延遲時間越短,但模型輸出內容的大小會受限。詞元限制越大,延遲時間越長,但模型輸出內容的大小可以越大。
  • 溫度:LLM 的溫度可控制回覆的創意程度。值越低,回覆越可預測。值越高,回覆越有創意或隨機。
  • 禁用詞組:生成式 AI 禁用的詞組清單。如果提示或生成的回覆中出現禁用詞組,代理就會改為傳回備用回覆。
  • 安全篩選器:針對不同的負責任 AI (RAI) 類別,設定安全篩選器的敏感度等級。內容會根據下列四個類別進行評估:

    類別 說明
    仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。
    危險內容 宣傳有害商品、服務與活動,或是提供接觸管道
    情色露骨內容 提及性行為或其他猥褻情事的內容
    騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論

    系統會按照有害機率封鎖內容。您可以自訂敏感度等級,為每個類別選擇「不封鎖」 (停用負責任 AI 技術檢查)、「封鎖極少數內容」 (僅封鎖有害機率高的內容)、「封鎖些許內容」 (有害機率中等和高的內容) 和「封鎖多數內容」 (有害機率低、中、高的內容)。

    詳情請參閱「設定安全屬性」。

  • 提示安全:您可以勾選「enable prompt security check」(啟用提示安全檢查) 設定,啟用提示安全檢查。啟用後,代理會嘗試防範提示詞注入式攻擊。這類攻擊可用於揭露部分代理提示,或提供代理不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。

Git

這些設定可提供 Git 整合功能。按照操作說明設定整合功能。