將 Model Armor 與 Gemini Enterprise 整合

將 Model Armor 與 Gemini Enterprise 整合，即可篩選使用者傳送給 AI 代理的提示，以及 AI 代理的回覆，防範提示詞注入、有害內容和敏感資料外洩等風險。整合設定完成後，就會套用至所有使用者互動。

事前準備

建立 Model Armor 範本，並確保該範本與 Gemini Enterprise 位於同一個 Google Cloud專案。範本和 Gemini Enterprise 執行個體的位置必須相符。如要進一步瞭解支援的位置，請參閱「Model Armor 位置」和「Gemini Enterprise 位置」。

必要的角色

將 Model Armor 與 Gemini Enterprise 整合前，請確認您具備所需角色。

如要取得建立及管理 Model Armor 範本所需的權限，請要求管理員授予您 Model Armor 範本的「Model Armor 管理員」 (roles/modelarmor.admin) IAM 角色。如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和組織的存取權」。

您或許也能透過自訂角色或其他預先定義的角色，取得必要權限。

啟用整合功能

如要啟用 Gemini Enterprise 和 Model Armor，安全管理員必須在 Model Armor 中建立政策，然後 Gemini Enterprise 管理員將這些政策套用至 Gemini Enterprise 執行個體。

  1. 建立 Model Armor 範本。
  2. 在 Gemini Enterprise 中啟用及設定 Model Armor。

限制和注意事項

將 Model Armor 與 Gemini Enterprise 整合時，請注意下列限制和考量事項：

  • 去識別化和遮蓋：當 Model Armor 使用 Sensitive Data Protection 範本掃描提示或回覆時，會檢查內容是否符合範本中定義的 infoType 偵測工具條件。雖然 Sensitive Data Protection 支援根據範本設定進行去識別化，但 Model Armor 不會將去識別化或遮蓋的資料傳回 Gemini Enterprise。如果內容觸發 Sensitive Data Protection 的任何 infoType 偵測器，且強制執行類型為 INSPECT_AND_BLOCK，Gemini Enterprise 會封鎖要求或回覆，而非去識別化。

  • 文件和圖片審查：除了文字提示，這項整合功能也支援文件 (例如 PDF) 和圖片。只有在您將下列檔案上傳至 Gemini Enterprise 助理時，整合服務才會篩選這些檔案：

    • 你直接上傳的圖片。
    • 直接上傳的其他檔案和文件中包含的圖片。

    如果文件中的檔案或圖片違反您設定的政策，系統會捨棄整個檔案或文件，並將其排除在要求之外。

  • 經過篩選的代理和互動：篩選功能適用於 Gemini Enterprise 助理、員工建立的代理 (使用 Agent Designer 在 Gemini Enterprise 應用程式中建立)，以及 Google 建立的代理。系統不會篩選與貴機構自訂代理程式 (例如 ADK、A2A 和 Dialogflow) 的互動。

  • 符記限制和配額：雖然搭配 Gemini Enterprise 使用 Model Armor 時沒有直接的符記限制，但 Model Armor 評估的總輸送量會受到 Gemini Enterprise 系統配額和 Model Armor API 頻率限制的控管。

  • 服務水準協議 (SLA)：Gemini Enterprise 提供服務水準協議。如果 Gemini Enterprise 設定為使用 Model Armor，無論是使用「fail-open」或「fail-closed」模式，遭封鎖的查詢都不會計入服務水準協議違規。

  • 法規遵循：Gemini Enterprise 和 Model Armor 皆通過多項法規遵循認證。如果同時使用這兩項產品，有效的法規遵循認證就是兩項產品的共同子集。請查看這兩項產品的法規遵循認證，確認符合您的法規要求。

運作方式

設定整合後，Gemini Enterprise 會透過 Model Armor API 傳送使用者輸入內容和助理輸出內容，並使用所選範本進行篩選。Gemini Enterprise 會使用服務代理向 Model Armor 進行驗證。Model Armor 會根據範本中定義的篩選器設定做出回應，Gemini Enterprise 則會根據這些設定封鎖或允許要求/回覆。

舉例來說，Gemini Enterprise 可能會偵測到含有個人識別資訊的要求，並將其傳送至 Model Armor 進行篩選。如果 Model Armor 範本設定為封鎖個人識別資訊 (PII)，Gemini Enterprise 就會封鎖要求。

記錄

Model Armor 會在 Cloud Logging 中，為清理要求及其回應產生平台記錄。您必須具備私密記錄檢視者 (roles/logging.privateLogViewer) IAM 角色，才能查看 Model Armor 稽核記錄。如要進一步瞭解自動產生的稽核記錄，請參閱「Model Armor 稽核記錄」。

如要記錄清除作業，請將 templateMetadata.logSanitizeOperations 欄位設為 true。詳情請參閱「在範本中設定記錄」。

後續步驟