本文說明如何為 Gemini Enterprise 啟用 Model Armor。Model Armor 是一項 Google Cloud 服務，可主動篩選 Gemini Enterprise 助理提供的提示和回覆，提升 AI 應用程式的安全性。Gemini Enterprise 現成資料儲存庫 (包括 Google 資料來源和第三方資料來源) 的資料，也會使用為使用者提示詞設定的相同 Model Armor 範本進行篩選。篩選這類內容有助於防範各種風險，並確保採用負責任的 AI 做法。
所有 Gemini Enterprise 版本都支援 Model Armor，無須額外付費。
Model Armor 不會移除或變更個人識別資訊 (PII)，也不會遮蓋私密資料。不過，如果 Gemini Enterprise 助理的回覆觸發 Sensitive Data Protection 偵測工具，Gemini Enterprise 會封鎖該回覆。
Model Armor 會根據範本的強制執行類型，處理使用者查詢或 Gemini Enterprise 助理回覆中的潛在問題。詳情請參閱「定義強制執行類型」。
如果強制執行類型為「Inspect and block」(檢查並封鎖)，Gemini Enterprise 會封鎖要求並顯示錯誤訊息。使用控制台建立 Model Armor 範本時，這是預設的強制執行類型。
如果強制執行類型為「Inspect only」(僅檢查)，Gemini Enterprise 不會封鎖要求或回覆。
如果 Model Armor 篩選服務無法使用，您可以將 Gemini Enterprise 設為採取下列其中一種行為：
| 模式 | 說明 |
|---|---|
| 允許使用者互動 | 在這個模式下，如果 Model Armor 篩選服務無法使用，Gemini Enterprise 會允許要求和回覆通過，不主動篩選，確保與使用者持續通訊。不過，這有時可能會顯示未經篩選的訊息，或提供未經篩選查詢的答案。 |
| 封鎖所有使用者互動 | 在這個模式下，如果 Model Armor 篩選服務無法使用，Gemini Enterprise 會封鎖所有要求和回覆，包括合法要求和回覆。 |
事前準備
請確認您和服務帳戶已獲派必要角色：
如要在 Gemini Enterprise 啟用 Model Armor，您必須具備 Gemini Enterprise 管理員 (
roles/discoveryengine.agentspaceAdmin) 角色。如要建立 Model Armor 範本，您必須具備 Model Armor 管理員角色 (
roles/modelarmor.admin)。如要呼叫 Model Armor API，您必須具備 Model Armor 使用者角色 (
roles/modelarmor.user)。
- 如果 Model Armor 範本與 Gemini Enterprise 應用程式位於不同專案，範本的專案必須將 Model Armor 使用者角色 (
roles/modelarmor.user) 授予 Gemini Enterprise 應用程式的服務帳戶。服務帳戶 ID 為service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com，其中PROJECT_NUMBER是 Gemini Enterprise 應用程式的專案編號。
確認您已建立 Gemini Enterprise 應用程式。如要建立，請參閱「建立應用程式」。
建立 Model Armor 範本
建議您設定兩個不同的 Model Armor 範本：一個用於使用者提示詞，另一個用於回覆。使用者提示和回覆有不同的風險剖析和目標：
- 使用者提示詞範本：著重於防止傳送或上傳惡意輸入內容、提示詞注入、越獄嘗試和機密資料。這個範本也會篩選 Gemini Enterprise 現成連接器的資料，例如 Jira 和 Microsoft 365 聯合連接器 (適用於 SharePoint、OneDrive、Teams 和 Outlook)。雖然使用者輸入內容也可能含有有害內容，但 Gemini 內建使用者提示詞安全檢查功能，因此您可以停用使用者提示詞範本的負責任 AI 篩選器。
- 回覆輸出內容範本：著重於防止回覆傳回或洩漏私密資料、生成有害或不符合品牌形象的內容，或傳回惡意網址。
如要進一步瞭解如何建立範本，請參閱「建立 Model Armor 範本」。
設定考量
為 Gemini Enterprise 應用程式建立 Model Armor 範本時，請考量下列設定：
您可以在一個專案中集中建立 Model Armor 範本，並在不同專案中重複使用。如果使用跨專案範本，請務必按照「事前準備」一節所述，設定跨專案權限。
在「Regions」(區域) 欄位中，選取「Multi-region」(多區域)。下表說明如何將 Model Armor 範本區域對應至 Gemini Enterprise 應用程式區域：
Gemini Enterprise 應用程式多區域 Model Armor 多區域 全球 - US (多個美國區域)
- EU (多個歐盟區域)
US (多個美國區域) US (多個美國區域) EU (多個歐盟區域) EU (多個歐盟區域) Google 不建議在 Gemini Enterprise 應用程式的 Model Armor 範本中設定 Cloud Logging。這項設定可能會向具備私人記錄檢視者 (
roles/logging.privateLogViewer) IAM 角色的使用者公開機密資料。請改用下列選項：如要記錄通過 Model Armor 範本的資料，可以將記錄重新轉送至 BigQuery 等安全儲存空間，這類儲存空間提供更嚴格的存取控管機制。詳情請參閱「將記錄檔轉送至支援的目的地」。
您可以設定資料存取稽核記錄，分析及回報 Model Armor 產生的要求和回覆篩選判定結果。詳情請參閱「設定稽核記錄」。
請勿對回覆啟用提示詞注入和越獄偵測篩選器。提示詞注入和越獄攻擊較常出現在使用者提示詞中。對回應啟用這項篩選器，可能會增加偽陽性，並造成不必要的延遲。
使用 Model Armor 範本設定 Gemini Enterprise 應用程式
下列步驟說明如何將 Model Armor 範本新增至 Gemini Enterprise 應用程式。
控制台
前往 Google Cloud 控制台的「Gemini Enterprise」頁面。
按一下要設定的應用程式名稱。
依序點選「設定」>「Google 助理」。
如要啟用 Model Armor，請按一下「啟用 Model Armor」。
在「Model Armor template for user prompts」(使用者提示詞 Model Armor 範本) 和「Model Armor templates for response outputs」(回覆輸出內容 Model Armor 範本)，輸入您建立的 Model Armor 範本資源名稱。
如要在 Model Armor 處理失敗時禁止使用者互動，請將「Allow user interactions during Model Armor processing failure」(允許使用者在 Model Armor 處理失敗時互動) 切換鈕設為關閉。詳情請參閱「Model Armor 無法使用時，Gemini Enterprise 支援的兩種模式」。
點選「儲存並發布」。
REST
執行下列指令，將 Model Armor 範本新增至 Gemini Enterprise 應用程式：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
"customerPolicy": {
"modelArmorConfig": {
"userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
"responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
"failureMode": "FAIL_MODE"
}
}
}'
更改下列內容：
PROJECT_ID：專案 ID。ENDPOINT_LOCATION：API 要求適用的多區域。請指定下列其中一個值：us適用於美國多區域eu代表歐盟多區域global適用於全域位置
LOCATION：資料儲存庫的多區域：global、us或euAPP_ID：要設定的應用程式 ID。QUERY_PROMPT_TEMPLATE：Model Armor 範本的資源名稱，用於篩選使用者提示和現成連接器的資料。
如要取得資源名稱，請按照「查看 Model Armor 範本」說明文件中的步驟操作，並複製資源名稱值。RESPONSE_PROMPT_TEMPLATE：您建立的 Model Armor 範本資源名稱。您可以使用在相同或不同專案中建立的 Model Armor 範本。FAIL_MODE：Model Armor 無法使用時的作業模式：FAIL_CLOSED或FAIL_OPEN。
如果未定義FAIL_MODE，系統會預設採用FAIL_CLOSED模式，在 Model Armor 處理失敗時，封鎖與 Gemini Enterprise 助理的所有互動。詳情請參閱「Model Armor 無法使用時，Gemini Enterprise 支援的兩種模式」。
測試 Model Armor 範本是否已啟用
設定 Model Armor 範本後，請測試 Gemini Enterprise 應用程式是否會根據 Model Armor 篩選器中設定的信賴水準，主動篩選及封鎖使用者提示詞和 Gemini Enterprise 助理的回覆。
如果 Model Armor 範本設為「Inspect and block」(檢查並封鎖) 違反政策的要求，系統會顯示下列違反政策訊息：
控制台
舉例來說，您會看到違反政策的訊息：
REST
JSON 回應，包含下列內容：
answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]
從 Gemini Enterprise 應用程式移除 Model Armor 範本
如要從 Gemini Enterprise 應用程式中移除 Model Armor 範本，請使用 Google Cloud 控制台或 REST API。
控制台
如要從 Gemini Enterprise 應用程式中移除 Model Armor 範本，請按照下列步驟操作：
前往 Google Cloud 控制台的「Gemini Enterprise」頁面。
按一下要設定的應用程式名稱。
依序點選「設定」>「Google 助理」。
如要關閉 Model Armor，請將「Enable Model Armor」(啟用 Model Armor) 切換鈕設為關閉。
點選「儲存並發布」。
REST
如要從 Gemini Enterprise 應用程式中移除 Model Armor 範本，請執行下列指令：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
"customerPolicy": {
"modelArmorConfig": {
}
}
}'
更改下列內容：
PROJECT_ID：專案 ID。PROJECT_NUMBER： Google Cloud 專案的編號。ENDPOINT_LOCATION：API 要求適用的多區域。請指定下列其中一個值：us適用於美國多區域eu代表歐盟多區域global適用於全域位置
LOCATION：資料儲存庫的多區域：global、us或eu。APP_ID：要設定的應用程式 ID。
設定稽核記錄
Model Armor 可寫入資料存取稽核記錄，您可以使用這些記錄，分析及回報 Model Armor 產生的要求和回覆篩選判定結果。這些記錄不含使用者查詢或 Gemini Enterprise 助理的回覆，因此可安全用於報表和數據分析。詳情請參閱「Model Armor 的稽核記錄」。
如要存取這些記錄，您必須具備私人記錄檢視者 (roles/logging.privateLogViewer) IAM 角色。
啟用資料存取稽核記錄
如要啟用資料存取稽核記錄，請按照下列步驟操作：
在 Google Cloud 控制台，依序前往「IAM & Admin」(IAM 與管理) >「Audit Logs」(稽核記錄)。
選取「Model Armor API」。
在「Permission type」部分，選取「Data read」權限類型。
按一下 [儲存]。
檢查資料存取稽核記錄
如要查看資料存取稽核記錄，請按照下列步驟操作：
前往 Google Cloud 控制台的「Logs Explorer」。
在記錄中搜尋下列方法名稱：
methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt"查看篩選後的使用者要求。google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse查看已篩選的回覆。
使用 Model Armor 的注意事項
搭配 Gemini Enterprise 使用 Model Armor 時，請注意下列事項：
| 去識別化和遮蓋 |
Model Armor 使用 Sensitive Data Protection 範本掃描提示或回覆時，會檢查內容是否符合範本中定義的偵測工具條件。雖然 Sensitive Data Protection 支援依據範本設定進行去識別化，但 Model Armor 不會將去識別化或遮蓋的資料傳回 Gemini Enterprise。如果內容觸發 Sensitive Data Protection 的任何偵測工具，且違規處置類型為 INSPECT_AND_BLOCK，Gemini Enterprise 會封鎖要求或回覆，而非去識別化。 |
|---|---|
| 詞元數量上限和配額 | 搭配 Gemini Enterprise 使用 Model Armor 時，沒有詞元限制。不過，Model Armor 評估作業的總處理量，仍會間接受到 Gemini Enterprise 系統配額和 Model Armor API 頻率限制的規範。 |
| 服務水準協議 | Gemini Enterprise 提供服務水準協議。 如果 Gemini Enterprise 設定為使用 Model Armor，無論是採用失敗開啟還是失敗關閉模式，遭封鎖的查詢都不會視為違反服務水準協議。 |
| 法規遵循 | Gemini Enterprise 和 Model Armor 均提供多項法規遵循認證。兩者搭配使用時，有效的法規遵循認證是這兩項產品的共同子集。Google 建議您查看這兩項產品的法規遵循認證，確保符合法規要求。 |
| 文件和圖片審查 |
除了文字提示詞外，Model Armor 整合功能也支援文件 (例如 PDF) 和圖片。Model Armor 整合功能只會在您將下列檔案上傳至 Gemini Enterprise 助理時，篩選這些檔案：
|
| 現成的連接器 | 系統會使用為使用者提示詞設定的 Model Armor 範本，篩選 Gemini Enterprise 現成連接器的資料。包括 Jira 等連接器，以及 SharePoint、OneDrive、Teams 和 Outlook 的 Microsoft 365 聯合連接器。 |
| 篩選互動和代理 |
如果 Model Armor 範本設為篩選使用者要求，Gemini Enterprise 只會篩選與下列代理的互動：
|