代理程式有許多設定會影響行為,且每個控制台提供的設定都不盡相同。
Conversational Agents 控制台代理設定
如何存取代理程式設定:
控制台
- 開啟 Conversational Agents 控制台。
- 選擇專案。
- 選取代理程式。
- 按一下右上角的設定圖示。
- 視需要更新設定。
- 按一下 [儲存]。
API
請參閱 Agent 類型的 get 和 patch/update 方法。
為代理程式參照選取通訊協定和版本:
| 通訊協定 | V3 | V3beta1 |
|---|---|---|
| REST | 服務專員資源 | 服務專員資源 |
| RPC | 服務專員介面 | 服務專員介面 |
| C++ | AgentsClient | 不適用 |
| C# | AgentsClient | 不適用 |
| Go | AgentsClient | 不適用 |
| Java | AgentsClient | AgentsClient |
| Node.js | AgentsClient | AgentsClient |
| PHP | 不適用 | 不適用 |
| Python | AgentsClient | AgentsClient |
| 小茹 | 不適用 | 不適用 |
以下小節說明不同類別的代理程式設定。
一般設定
代理程式可使用下列一般設定:
-
代理程式的人類可讀名稱。
-
代理程式的預設時區。
-
這項設定可決定您的代理要以生成式代理應對手冊還是確定性流程開始對話。
-
建立代理程式時選取的代理程式區域。
-
- 鎖定代理程式:指出代理程式是否已鎖定。鎖定的代理程式無法編輯。
-
啟用 Cloud Logging:指出代理程式是否已啟用 Cloud Logging。
啟用對話記錄:指出是否要讓 Google 收集並儲存經過編輯的使用者查詢內容,以提升品質。
指定 Cloud Storage URI,儲存及播放語音對話: 啟用對話記錄後,您可以提供 Cloud Storage URI,對話音訊就會儲存在這個位置。這個欄位會與音訊匯出儲存空間的進階語音設定同步。您也可以選擇使用「Browse Google cloud storage」(瀏覽 Google Cloud Storage) 按鈕,開啟 bucket 選取面板。
啟用以同意聲明為依據的使用者輸入內容遮蓋功能:啟用這項設定後,您就能使用特殊工作階段參數,控管是否要從對話記錄和 Cloud Logging 中遮蓋使用者輸入內容和參數。根據預設,工作階段參數為
true。如果停用這項設定,系統就不會進行遮蓋。系統會使用布林值工作階段參數收集使用者同意聲明:
$session.params.conversation-redaction. 如果啟用這項設定,且工作階段參數設為false,系統就不會進行遮蓋(其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為true,系統就會進行遮蓋。舉例來說,徵求同意聲明的流程可以是:先詢問使用者是否要保留使用者輸入內容,然後將回覆與兩個意圖比對,一個是「是意圖」,另一個是「否意圖」。然後,在執行要求的「yes intent」路徑參數預設中,將工作階段參數設為
false(不進行編輯),在「no intent」路徑的參數預設中,則設為true(進行編輯)。
-
- 啟用 BigQuery 匯出:指出是否已啟用 BigQuery 匯出功能。
- BigQuery 資料集:BigQuery 資料集名稱。
- BigQuery 資料表:BigQuery 資料表名稱。
-
您可以啟用意圖建議。
-
啟用這項設定後,你就能對服務專員的回覆品質提供意見回饋,包括表示喜歡/不喜歡。
-
使用這項設定新增 Git 整合。
生成式 AI 設定
可用的生成式 AI 設定如下:
一般:
選取生成式功能要使用的模型。詳情請參閱模型版本。
詞元數量上限:
-
選取生成式模型的輸入權杖限制。 這是傳送至模型的輸入內容的詞元大小上限。 視模型而定,權杖的長度可能介於一個字元和一個字之間。較小的權杖限制延遲時間較短,但模型輸入大小有限。權杖限制越大,延遲時間就越長,但模型輸入大小可以更大。
-
選取生成模型的輸出權杖限制。 這是模型輸出內容的符記大小上限。 視模型而定,權杖的長度可能介於一個字元和一個字之間。較小的權杖限制延遲時間較短,但模型輸出大小有限。權杖限制越大,延遲就越高,但模型輸出大小可以更大。
-
您可以透過大型語言模型的溫度參數,控制回覆的創意程度。值越低,回覆越可預測。數值越高,回覆就越有創意或隨機。
-
這項設定會從 LLM 提示中刪除部分先前的對話,避免提示大小隨著代理程式處理的每個連續對話回合而增加。這項功能可避免提示大小不必要的成長。
通常,如果沒有截斷,後續每一輪對話都會附加到 LLM 提示的「對話記錄」中,無論是否與當前輪次相關。這最終可能導致提示在每次輪流時變大。如果對話記錄佔用大量提示空間,提示就無法提供足夠的少量樣本範例 (因此可能會捨棄這些範例)。最終,提示也可能會超出目前的權杖限制。您可以增加權杖大小來容納這些內容,但請注意,提示大小增加也會導致 LLM 回應延遲。
您可以設定權杖預算百分比,將該百分比的權杖保留給對話記錄,但不得超過上限。系統會保留對話輪流順序,從最近到最久遠。這項設定可協助您避免超出權杖限制。無論選擇哪種設定,系統都會保留至少兩輪對話,並依時間從最新到最舊排序。
您必須先設定權杖限制,才能修改這項設定。
如果參數屬於遭刪除的輪次,截斷內容可能會導致部分參數意外遺失。啟用這項選項後,請仔細評估劇本互動。
下列項目也會使用權杖輸入預算:
- 系統指令和範例:自動新增至提示。 這項行為無法修改。
- 劇本指示和目標:您撰寫的任何指示和目標都會完整加入提示。
- 應對手冊的少量樣本範例:系統會依預設順序新增範例,或依您選擇的演算法新增範例 (例如規則運算式最佳比對排序)。在納入所有其他項目後,系統會刪減範例,以符合輸入權杖預算。
- 對話記錄包含使用者和服務專員的發言、流程和劇本轉移脈絡、工具呼叫和輸出內容,以及目前劇本先前依序處理的所有回合。
生成式 AI 禁止使用的詞組清單。如果提示或生成的內容含有禁用詞組,系統就會生成失敗。請注意,禁止使用的片語清單會影響每次查詢和 LLM 呼叫,並增加延遲時間。
針對不同的負責任的 AI 技術 (RAI) 類別,設定安全篩選機制的敏感度。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務和/或活動,或是提供接觸管道 情色露骨內容 提及性行為和/或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」、「封鎖多數內容」和「封鎖所有內容」,自訂敏感度等級。
詳情請參閱設定安全屬性。
您可以勾選「enable prompt security check」設定,啟用提示安全檢查。如果啟用這項設定,代理程式會拒絕觸發安全篩選器的使用者查詢,包括提示詞注入攻擊。這類攻擊可能會用來揭露部分 AI 代理提示,或提供 AI 代理不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。啟用後,您可以提供下列選項:
- 提示安全設定:您可以選取「預設」,使用預設安全設定,也可以選取「自訂」,明確指出哪些使用者查詢應視為安全或不安全。
- 選取生成式模型:控制用於分類的 LLM。如果選取「預設」 (建議),系統會為你選擇預設模型,並在推出更新、改良的模型時自動變更。
- 安全提示:您可以選取「預設」,使用預設安全提示,也可以選取「自訂」,提供有助於分類惡意使用者查詢的指示。如果選取「預設」,系統可能會自動更新提示,以提升品質。
- 輸入門檻:使用者查詢的字元數下限,達到這個門檻後,系統才會套用安全檢查。簡短查詢較為模稜兩可,可能遭到誤判。如果查詢小於輸入門檻,系統會視為本質上安全。
-
生成式備用答覆:
-
請參閱「生成式備用答覆:自訂提示」。
-
資料儲存庫:
請參閱「資料儲存庫代理程式設定」。
確定性流程
這些設定會套用至這個代理程式中的所有流程,但機器學習設定除外,因為這類設定是套用至每個流程。如要編輯其他流程專屬設定,請前往控制台中的流程,然後編輯設定。
意圖訓練:流程會使用機器學習 (ML) 演算法瞭解使用者輸入內容、將內容與意圖進行比對,以及擷取結構化資料。流程會從您提供的訓練詞組及流程內建的語言模型學習,然後根據這些資料,建立模型來比對意圖與使用者的輸入內容。您可以為每個代理程式流程套用專屬的機器學習設定。
以下是可用的意圖訓練設定:
如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,系統會視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統與自訂實體的比對。
拼字修正功能支援英文、法文、德文、西班牙文和義大利文。所有 Dialogflow CX 區域都支援這些功能。
警告與最佳做法:
- 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
- 校正後的輸入內容可能符合錯誤意圖。您可以將經常拼錯的詞組新增到排除範例來修正此問題。
拼字校正會稍微增加代理程式的回應時間。
- 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。
流程專屬的機器學習設定:
這可能是以下其中一個項目:
- 進階 NLU:(預設) 進階 NLU 技術。這個 NLU 類型比標準類型更有效,特別是對於大型代理程式和流程。
- 標準 NLU:標準 NLU 技術。不會再收到品質提升或新功能。
-
如果啟用,系統會在透過控制台更新流程時訓練流程。如果流程較大,這可能會導致控制台 UI 延遲,因此您應停用這項設定,並視需要手動訓練大型流程。
-
如要排除偽陽性結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控管意圖比對所需的最低意圖偵測信賴度。
如果意圖比對的信心分數小於門檻值,就會叫用不相符事件。
您可以為代理程式啟用的每種語言,分別設定每個流程的分類門檻值。這是為了配合不同語言在不同分類門檻下的最佳成效。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件。
-
指出流程資料最新更新後,流程是否已接受訓練。
-
使用這個按鈕手動訓練流程。
-
代理程式支援的語言。代理程式建立後,就無法變更預設語言。不過,您可以執行下列操作:
- 將代理程式匯出為 JSON 格式。
- 將下載的檔案解壓縮。
- 找出
agent.json檔案。 - 將
defaultLanguageCode和supportedLanguageCodes欄位更新為所選值。 - 還原代理程式,還原對象可以是步驟 1 中的代理程式,也可以是其他代理程式。
- 視需要更新特定語言的訓練詞組和實體值。
你也可以啟用語言自動偵測和切換功能。
- 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
連線能力
-
在本節中,您可以為自訂酬載範本建立說明和酬載。
-
清楚說明哪些工作階段參數會傳送至 Webhook,以及哪些工作階段參數可由 Webhook 回應設定。
-
用於上傳 SSL 憑證。
語音和 IVR
語音選項:
-
你可以選取用於語音合成的語言和語音。
如要為代理程式啟用「自訂語音」,請從語音名稱下拉式方塊選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂語音名稱必須符合下列格式:
projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME。你也可以使用聲音複製功能。
- 如果使用電話閘道,請確認已在自訂語音專案中,將「AutoML Predictor」授予 Dialogflow 服務代理服務帳戶
service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com。 如要發出一般 API 呼叫,請確認用於呼叫 Dialogflow CX 的服務帳戶已在自訂語音專案中獲派「AutoML Predictor」角色。
-
控制語音音調的相對高低。
-
控制語音的說話速度。
-
啟用後,代理程式設定中指定的合成語音設定,會覆寫 API、合作夥伴整合或對話設定檔中指定的設定。
-
使用這些設定,以 X-SAMPA 語音編碼為代理程式提供特定詞組的發音。
- 如果使用電話閘道,請確認已在自訂語音專案中,將「AutoML Predictor」授予 Dialogflow 服務代理服務帳戶
-
請參閱「自動語音調整」一文。
-
如要瞭解進階語音選項,請參閱「進階語音設定」指南。
-
詳情請參閱「電話整合的 DTMF」。
-
詳情請參閱手動語音適應。
-
通話小幫手:請參閱「通話小幫手」。
使用者介面設定
你可以使用這些設定自訂 Messenger 和通話隨附應用程式的使用者介面。
安全性
Dialogflow CX 主控台服務專員設定
如何存取代理程式設定:
控制台
- 開啟控制台。
- 選擇專案。
- 選取代理程式。
- 按一下「Agent Settings」。
- 視需要更新設定。
- 按一下 [儲存]。
API
詳情請參閱 Agent 類型的 get 和 patch/update 方法。
為代理程式參照選取通訊協定和版本:
| 通訊協定 | V3 | V3beta1 |
|---|---|---|
| REST | 服務專員資源 | 服務專員資源 |
| RPC | 服務專員介面 | 服務專員介面 |
| C++ | AgentsClient | 不適用 |
| C# | AgentsClient | 不適用 |
| Go | AgentsClient | 不適用 |
| Java | AgentsClient | AgentsClient |
| Node.js | AgentsClient | AgentsClient |
| PHP | 不適用 | 不適用 |
| Python | AgentsClient | AgentsClient |
| 小茹 | 不適用 | 不適用 |
一般設定
代理程式可使用下列一般設定:
- 顯示名稱:人類可讀的代理名稱。
- 時區:代理程式的預設時區。
預設語言:代理程式支援的預設語言。建立代理程式後,就無法變更預設語言。不過,您可以執行下列操作:
代理程式鎖定:
- 鎖定代理程式:指出代理程式是否已鎖定。鎖定的代理程式無法編輯。
記錄設定:
- 啟用 Cloud Logging:指出代理程式是否已啟用 Cloud Logging。
- 啟用對話記錄:指出是否要讓 Google 收集並儲存經過編輯的使用者查詢內容,以提升品質。
- 啟用以同意聲明為依據的使用者輸入內容遮蓋功能:
啟用這項設定後,您可以使用特殊工作階段參數,控管是否要從對話記錄和 Cloud Logging 中,遮蓋使用者輸入內容和參數。根據預設,工作階段參數為
true。如果停用這項設定,系統就不會進行遮蓋。系統會使用布林值工作階段參數收集使用者同意聲明:
$session.params.conversation-redaction. 如果啟用這項設定,且工作階段參數設為false,系統就不會進行遮蓋(其他遮蓋策略仍會套用)。如果啟用這項設定,且工作階段參數設為true,系統就會進行遮蓋。舉例來說,要求同意聲明的流程可以是:先詢問使用者是否要保留使用者輸入內容,然後將回覆與兩個意圖比對,一個是「yes intent」,另一個是「no intent」。然後,在「yes intent」路徑的執行要求中,將工作階段參數設為
false(不進行編輯),並在「no intent」路徑的參數預設中,將工作階段參數設為true(進行編輯)。BigQuery 匯出:
- 啟用 BigQuery 匯出:指出是否已啟用 BigQuery 匯出功能。
- BigQuery 資料集:BigQuery 資料集名稱。
- BigQuery 資料表:BigQuery 資料表名稱。
意圖建議:您可以啟用意圖建議。
自訂酬載範本:您可以在這個部分建立自訂酬載範本的說明和酬載。
機器學習設定
Dialogflow CX 會運用機器學習 (ML) 演算法來瞭解使用者輸入內容、將輸入內容與意圖進行比對,以及擷取結構化資料。Dialogflow CX 會從您提供的訓練詞組及 Dialogflow CX 內建的語言模型學習,然後根據這些資料,建立模型來比對意圖與使用者輸入內容。您可以為服務專員的每個流程套用專屬的 ML 設定,且 Dialogflow CX 為每個流程建立的模型都是獨一無二。
以下是可用的全代理程式 ML 設定:
允許機器學習修正拼字:
如果啟用這個選項,而使用者輸入內容出現拼字或文法錯誤,系統會視同正確拼寫,逕行意圖比對。偵測意圖回應將包含更正後的使用者輸入內容。舉例來說,如果使用者輸入「I want an applle」,系統會視為使用者輸入「I want an apple」來處理。這也適用於涉及系統與自訂實體的比對。
拼字修正功能支援英文、法文、德文、西班牙文和義大利文。這項功能適用於所有 Dialogflow CX 區域。
警告與最佳做法:
- 拼字校正無法校正 ASR (自動語音辨識) 錯誤,因此不建議使用 ASR 輸入的代理程式啟用此功能。
- 校正後的輸入內容可能符合錯誤意圖。您可以將經常拼錯的詞組新增到排除範例來修正此問題。
- 拼字校正會稍微增加代理程式的回應時間。
- 如果代理程式使用領域專用術語定義,校正結果可能不盡如人意。
以下是可用的流程專屬 ML 設定:
NLU 類型:
這可能是以下其中一個項目:
- 進階 NLU (預設):進階 NLU 技術。這種 NLU 類型比標準類型更有效,尤其適用於大型代理程式和流程。
- 標準 NLU:標準 NLU 技術。不會再收到品質提升或新功能。
自動訓練:啟用後,系統會在流程透過控制台更新時訓練流程。如果流程較大,這可能會導致控制台 UI 延遲,因此您應停用這項設定,並視需要手動訓練大型流程。
分類門檻:
如要排除偽陽性結果,但仍讓代理程式取得多樣的自然語言輸入內容比對結果,您可以調整機器學習分類門檻。這項設定可控制意圖比對所需的最低意圖偵測信心度。
如果意圖比對的信心分數小於門檻值,系統就會叫用不相符事件。
您可以為代理程式啟用的每種語言,分別設定每個流程的分類門檻值。這是為了配合不同語言在不同分類門檻下的最佳成效。如要進一步瞭解如何建立多語言代理程式,請參閱多語言代理程式說明文件。
訓練狀態:指出流程是否已在最近一次更新流程資料後完成訓練。
訓練 NLU:使用這個按鈕手動訓練流程。
生成式 AI 設定
可用的生成式 AI 設定如下:
一般:
- 禁用詞組:生成式 AI 禁用的詞組清單。如果提示或生成的回覆含有禁用詞組,系統就會生成失敗。
- 安全篩選器:針對不同的負責任的 AI 技術 (RAI) 類別,設定安全篩選器的敏感度。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務與活動,或是提供接觸管道 情色露骨內容 提及性行為或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」、「封鎖些許內容」、「封鎖多數內容」和「封鎖所有內容」,自訂敏感內容的封鎖程度。
詳情請參閱「設定安全屬性」。
- 提示安全性:您可以勾選「啟用提示安全性檢查」設定,啟用提示安全性檢查。啟用後,代理程式會嘗試防範提示詞注入式攻擊。這類攻擊可能會用來揭露部分代理提示,或提供代理不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。
生成式虛擬服務專員:
- 選取生成式模型:選取生成式功能使用的模型。 詳情請參閱模型版本。
- 應對手冊內容截斷:從應對手冊提示中刪除部分先前的對話,避免提示大小隨著應對手冊處理的每個連續對話而增加。這項功能可協助您減少不必要的提示大小增長。
通常,如果沒有截斷,後續每一輪對話都會附加到 LLM 提示的「對話記錄」中,無論是否與當前輪次相關。這最終可能導致提示在每次輪流時變大。如果對話記錄佔用大量提示詞空間,提示詞就無法提供足夠的少量樣本範例 (因此可能會捨棄這些範例)。最終,提示也可能會超出目前的權杖限制。您可以增加權杖大小來容納這些內容,但請注意,提示詞大小增加也會導致 LLM 回覆延遲。
應對手冊內容截斷功能可讓您設定權杖預算的百分比,做為對話記錄的保留上限。系統會保留對話輪流順序,從最近到最久遠。這項設定可協助您避免超出權杖限制。無論選擇哪種設定,系統都會保留至少兩輪對話,並依從新到舊的順序排列。
您必須先設定權杖限制,才能修改這項設定。
重要事項:如果參數屬於已刪除的輪次,截斷內容可能會導致部分參數意外遺失。啟用這項選項後,請仔細評估劇本互動。
下列項目也會使用權杖輸入預算:
- 系統會自動在提示中加入系統指令和範例。 這項行為無法修改。
- 劇本指令和目標:你撰寫的任何指令和目標都會完整加入提示。
- 應對手冊的少量樣本範例,可依序 (預設) 或透過您選擇的演算法 (例如規則運算式最佳比對排序) 新增。在納入所有其他項目後,系統會刪減範例,以符合輸入權杖預算。
- 對話記錄:由使用者和服務專員的發言、流程和劇本轉移脈絡、工具呼叫和輸出內容組成,這些內容來自目前劇本依序處理的所有先前回合。
生成式備用答覆:
- 文字提示詞設定:請參閱「生成式備用答覆:自行定義提示詞」。
資料儲存庫:請參閱資料儲存庫代理設定。
語音和 IVR 設定
以下是可用的語音和 IVR 設定:
Text-to-Speech:
- 語音選擇:
你可以選取用於語音合成的語言和語音。
如要為代理程式啟用自訂語音,請從語音選取下拉式方塊中選取自訂語音選項,並在對應欄位中指定自訂語音名稱。自訂語音名稱必須符合下列格式:
projects/PROJECT_ID/locations/LOCATION/models/MODEL_NAME。- 如果使用電話閘道,請確認已在自訂語音專案中,將「AutoML Predictor」授予 Dialogflow 服務代理服務帳戶
service-PROJECT_NUMBER@gcp-sa-dialogflow.iam.gserviceaccount.com。 - 如果是進行一般 API 呼叫,請務必在自訂語音專案中,將「AutoML Predictor」角色授予用於呼叫 Dialogflow CX 的服務帳戶。
Speech-to-Text:
DTMF
請參閱「電話整合的 DTMF」。
多模態
請參閱「通話幫手」。
共用設定
請參閱「存取控管」。
語言設定
為代理程式新增其他語言支援。如需完整語言清單,請參閱語言參考資料。
自動偵測語言
設定語言自動偵測後,聊天機器人會自動偵測使用者的語言,並切換至該語言。詳情請參閱語言自動偵測說明文件。
安全性設定
請參閱「安全性設定」。
進階設定
唯一的高階設定是情緒分析。
生成式 AI 應用程式建構工具設定
本節說明代理程式應用程式可用的設定。
一般
代理程式應用程式可使用下列一般設定:
- 顯示名稱:代理程式應用程式的人類可讀名稱。
- 位置:服務專員應用程式區域。
- 應用程式鎖定:啟用後,系統會禁止變更代理程式應用程式。
記錄
代理程式應用程式可使用下列記錄設定:
- 啟用 Cloud Logging:啟用後,記錄會傳送至 Cloud Logging。
- 啟用對話記錄:啟用後,即可查看對話記錄。指出是否要讓 Google 收集及儲存經過編輯的 使用者查詢,以提升品質。這項設定不會影響系統是否使用對話記錄生成代理回覆。
- 啟用 BigQuery Export:啟用後,對話記錄會匯出至 BigQuery。此外,也必須啟用「啟用對話記錄」設定。
生成式 AI
代理程式應用程式可使用下列生成式 AI 設定:
- 選取生成模型:選取代理程式應預設使用的生成模型。
- 輸入權杖限制:選取生成模型的輸入權杖限制。這是傳送至模型的輸入內容權杖大小上限。視模型而定,權杖可以是介於一個字元和一個字之間的任何內容。詞元上限越低,延遲時間就越短,但模型輸入大小會受到限制。權杖上限越高,延遲就越高,但模型輸入大小可以更大。
- 輸出權杖限制:選取生成模型的輸出權杖限制。這是模型輸出內容的最大權杖大小。視模型而定,權杖可以是介於一個字元和一個字之間的任何內容。較小的權杖限制延遲時間較短,但模型輸出大小有限。權杖上限越高,延遲時間就越長,但模型輸出大小可以更大。
- 溫度:LLM 的溫度可控制回覆的創意程度。值越低,回覆越可預測。數值越高,回覆就越有創意或隨機。
- 禁用詞組:生成式 AI 禁用的詞組清單。如果提示或生成的回覆中出現禁用詞組,代理程式會改為傳回備用回覆。
安全篩選器:針對不同的負責任的 AI 技術 (RAI) 類別,設定安全篩選器的敏感度。我們會根據下列四個類別評估內容:
類別 說明 仇恨言論 針對特定身分和/或受保護特質發表負面或有害言論。 危險內容 宣傳有害商品、服務與活動,或是提供接觸管道 情色露骨內容 提及性行為或其他猥褻情事的內容 騷擾 針對他人發表含有恐嚇、霸凌、辱罵或惡意意圖的言論 系統會按照有害機率封鎖內容。您可以為每個類別選擇「封鎖極少數內容」 (停用 RAI 檢查)、「封鎖些許內容」 (僅封鎖有害機率高的內容)、「封鎖多數內容」 (封鎖有害機率中等和高的內容) 和「封鎖多數內容」 (封鎖有害機率低、中和高的內容),自訂敏感度等級。
詳情請參閱設定安全屬性。
提示安全性:您可以勾選「啟用提示安全性檢查」設定,啟用提示安全性檢查。啟用後,代理程式會嘗試防止提示詞注入攻擊。這類攻擊可能會揭露部分代理提示,或提供代理不應提供的回覆。方法是傳送額外的 LLM 提示,檢查使用者查詢是否可能含有惡意內容。
Git
這些設定提供 Git 整合功能。按照操作說明設定整合功能。