本文說明如何為 Gemini Enterprise 啟用 Model Armor。Model Armor 是一項 Google Cloud 服務，可主動篩選 Gemini Enterprise 助理提供的提示詞和回覆，提高 AI 應用程式的安全性。這有助於防範各種風險，並確保以負責任的方式使用 AI。所有 Gemini Enterprise 版本都支援 Model Armor，不需額外付費。
Model Armor 對使用者查詢或 Gemini Enterprise 助理回覆中潛在問題的回應，會受到範本的強制執行類型控管。詳情請參閱「定義強制執行類型」。
如果強制執行類型為「檢查並封鎖」，Gemini Enterprise 會封鎖要求並顯示錯誤訊息。使用控制台建立 Model Armor 範本時，這是預設的強制執行類型。
如果強制執行類型為「僅檢查」，Gemini Enterprise 就不會封鎖要求或回應。
如果 Model Armor 篩選服務無法使用，您可以將 Gemini Enterprise 設為採取下列其中一種做法：
| 模式 | 說明 |
|---|---|
| 允許使用者互動 | 如果 Model Armor 篩選服務無法使用，Gemini Enterprise 就能在這個模式下允許要求和回覆通過，不會主動篩選，確保與使用者持續通訊。不過，這有時可能會顯示未經過濾的訊息，或提供未經過濾查詢的答案。 |
| 封鎖所有使用者互動 | 在這個模式下，如果 Model Armor 篩選服務無法使用，Gemini Enterprise 會封鎖所有要求和回應，包括正當要求。 |
事前準備
請確認您和 Gemini Enterprise 服務帳戶已獲派必要角色：
如要在 Gemini Enterprise 中啟用 Model Armor，您需要 Discovery Engine 管理員 (
roles/discoveryengine.admin) 角色。如要建立 Model Armor 範本，您需要 Model Armor 管理員角色 (
roles/modelarmor.admin)。如要呼叫 Model Armor API，您需要 Model Armor 使用者角色 (
roles/modelarmor.user)。
確認您已建立 Gemini Enterprise 應用程式。如要建立，請參閱「建立應用程式」。
建立 Model Armor 範本
您可以為使用者提示和助理的回覆建立並使用相同的 Model Armor 範本，也可以建立兩個不同的 Model Armor 範本。詳情請參閱「建立 Model Armor 範本」。
為 Gemini Enterprise 應用程式建立 Model Armor 範本時，請考慮下列設定：
在「Regions」(區域) 欄位中選取「Multi-region」(多區域)。下表說明如何將 Model Armor 範本區域對應至 Gemini Enterprise 應用程式區域：
Gemini Enterprise 應用程式多區域 Model Armor 多區域 全球 - 美國 (多個美國地區)
- 歐盟 (多個歐盟區域)
美國 (多個美國地區) 美國 (多個美國地區) 歐盟 (多個歐盟區域) 歐盟 (多個歐盟區域) Google 不建議在 Gemini Enterprise 應用程式的 Model Armor 範本中設定 Cloud Logging。這項設定可能會將私密資料公開給具有私密記錄檢視者 (
roles/logging.privateLogViewer) IAM 角色的使用者。請改用下列選項：如要記錄通過 Model Armor 範本的資料，您可以將記錄重新導向至 BigQuery 等安全儲存空間，這類儲存空間提供更嚴格的存取權控管。詳情請參閱「將記錄檔傳送至支援的目的地」。
您可以設定「資料存取」稽核記錄，分析及回報 Model Armor 生成的要求和回應篩選判定結果。詳情請參閱「設定稽核記錄」。
使用 Model Armor 範本設定 Gemini Enterprise 應用程式
下列步驟說明如何將 Model Armor 範本新增至 Gemini Enterprise 應用程式。
控制台
前往 Google Cloud 控制台的 Gemini Enterprise 頁面。
按一下要設定的應用程式名稱。
依序點選「設定」「Google 助理」。
如要開啟 Model Armor，請按一下「啟用 Model Armor」。
如果是使用者提示詞 Model Armor 範本和回覆輸出內容 Model Armor 範本，請輸入您建立的 Model Armor 範本資源名稱。
如要在 Model Armor 處理失敗時禁止使用者互動，請點選「允許使用者在 Model Armor 處理失敗時互動」切換鈕，將其設為關閉。詳情請參閱這篇文章，瞭解 Model Armor 無法使用時，Gemini Enterprise 支援的兩種模式。
按一下 Save and publish。
REST
如要將 Model Armor 範本新增至 Gemini Enterprise 應用程式，請執行下列指令：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
"customerPolicy": {
"modelArmorConfig": {
"userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
"responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
"failureMode": "FAIL_MODE"
}
}
}'
更改下列內容：
PROJECT_ID：專案 ID。ENDPOINT_LOCATION：API 要求的適用多區域。指派下列其中一個值：us-美國多區域- 歐盟多區域：
eu- global-，即可查看全球位置
LOCATION：資料儲存庫的多區域：global、us或euAPP_ID：要設定的應用程式 ID。QUERY_PROMPT_TEMPLATE：您建立的 Model Armor 範本的資源名稱。
如要取得資源名稱，請按照「查看 Model Armor 範本」一文中的步驟操作，並複製資源名稱值。RESPONSE_PROMPT_TEMPLATE：您建立的 Model Armor 範本的資源名稱。FAIL_MODE：Model Armor 無法使用時的運作模式：FAIL_CLOSED或FAIL_OPEN。
如果未定義FAIL_MODE，系統會預設使用FAIL_CLOSE模式。在這種模式下，如果 Model Armor 處理失敗，系統會封鎖所有與 Gemini Enterprise 助理的互動。詳情請參閱這篇文章，瞭解 Model Armor 無法使用時，Gemini Enterprise 支援的兩種模式。
測試是否已啟用 Model Armor 範本
設定 Model Armor 範本後，請測試 Gemini Enterprise 應用程式是否會根據 Model Armor 過濾器中設定的信賴度，主動篩選並封鎖使用者提示詞和 Gemini Enterprise 助理的回覆。
如果 Model Armor 範本設定為檢查並封鎖違反政策的要求，系統會顯示下列政策違規訊息：
控制台
舉例來說，您會看到以下政策違規訊息：
REST
JSON 回應，其中包含：
answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]
從 Gemini Enterprise 應用程式中移除 Model Armor 範本
如要從 Gemini Enterprise 應用程式中移除 Model Armor 範本，請使用Google Cloud 控制台或 REST API。
控制台
如要從 Gemini Enterprise 應用程式中移除 Model Armor 範本，請按照下列步驟操作：
前往 Google Cloud 控制台的 Gemini Enterprise 頁面。
按一下要設定的應用程式名稱。
依序點選「設定」「Google 助理」。
如要關閉 Model Armor，請將「啟用 Model Armor」切換鈕設為關閉。
按一下 Save and publish。
REST
如要從 Gemini Enterprise 應用程式移除 Model Armor 範本，請執行下列指令：
curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
"customerPolicy": {
"modelArmorConfig": {
}
}
}'
更改下列內容：
PROJECT_ID：專案 ID。PROJECT_NUMBER：您的 Google Cloud 專案編號。ENDPOINT_LOCATION：API 要求的適用多區域。指派下列其中一個值：us-美國多區域- 歐盟多區域：
eu- global-，即可查看全球位置
LOCATION：資料儲存庫的多區域：global、us或eu。APP_ID：要設定的應用程式 ID。
設定稽核記錄
Model Armor 可以寫入資料存取稽核記錄，您可使用這些記錄分析及回報 Model Armor 產生的要求和回應篩選結果。這些記錄不含使用者查詢或 Gemini Enterprise 助理的回覆，因此可安心用於報表和分析。詳情請參閱「Model Armor 的稽核記錄」。
如要存取這些記錄，您必須具備私密記錄檢視者 (roles/logging.privateLogViewer) IAM 角色。
啟用資料存取稽核記錄
如要啟用資料存取稽核記錄，請按照下列步驟操作：
在 Google Cloud 控制台中，依序前往「IAM & Admin」(IAM 與管理) >「稽核記錄」。
選取「Model Armor API」。
在「權限類型」部分，選取「資料讀取」權限類型。
按一下 [儲存]。
檢查資料存取稽核記錄
如要檢查資料存取稽核記錄，請按照下列步驟操作：
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在記錄中搜尋下列方法名稱：
methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt"查看已篩選的使用者要求。google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse查看已篩選的回覆。
使用 Model Armor 的注意事項
將 Model Armor 與 Gemini Enterprise 搭配使用時，請注意下列事項：
| 權杖 | 使用 Model Armor 的 Gemini Enterprise 應用程式權杖限制，取決於 Model Armor 中設定的特定篩選器。如要進一步瞭解這些限制，請參閱 Model Armor 說明文件中的適用權杖限制。 |
|---|---|
| 服務水準協議 | Gemini Enterprise 提供服務水準協議。 如果 Gemini Enterprise 設定為使用 Model Armor，無論是使用「fail-open」或「fail-closed」模式，遭封鎖的查詢都不會計入服務水準協議違規事項。 |
| 法規遵循 | Gemini Enterprise 和 Model Armor 都提供各種法規遵循認證。如果同時使用這兩項產品，有效的法規遵循認證就是兩項產品的共同子集。Google 建議您查看這兩項產品的法規遵循認證，確保符合您的法規要求。 |
| 文件審查 | 如果 Model Armor 範本已設定為篩選使用者要求，系統就會篩選要求中包含的文件。當您在要求中新增文件時，系統會進行審查。如果文件違反設定範本中的政策，系統會捨棄該文件，且不會將其納入要求。 如需支援的文件類型清單，請參閱「文件篩選」。 |