本文說明如何查看支援的 AI 代理,在 Model Armor 中的內容安全洞察資料。
Model Armor 會篩選要求和回覆,找出安全風險,例如間接提示詞注入式攻擊、敏感資料外洩,以及生成或提供有害內容。詳情請參閱「Model Armor」。
您可以在下列層級查看 Model Armor 作業結果:
事前準備
- 登入 Google Cloud 帳戶。如果您未曾使用過 Google Cloud,歡迎建立帳戶,親自體驗實際使用我們產品的成效。新客戶還能獲得價值 $300 美元的免費抵免額,用於執行、測試及部署工作負載。
Enable the Model Armor API, if it is not already enabled.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.Enable the Model Armor API, if it is not already enabled.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.- 在專案中為一或多個閘道設定 Model Armor。
- 如要監控與 Google Cloud MCP 伺服器通訊的代理,請設定 Model Armor 與 MCP 伺服器。
- 為代理設定追蹤。
必要的角色
如要取得監控內容安全違規事項所需的權限,請要求管理員在專案中授予您下列 IAM 角色:
- 觀測能力檢視存取者 (
roles/observability.viewAccessor) - Observability Analytics 使用者 (
roles/observability.analyticsUser) - 記錄檢視器 (
roles/logging.viewer) - 記錄檔檢視存取者 (
roles/logging.viewAccessor)
如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和組織的存取權」。
這些預先定義的角色具備監控內容安全違規所需的權限。如要查看確切的必要權限,請展開「Required permissions」(必要權限) 部分:
所需權限
必須具備下列權限,才能監控內容安全違規事項:
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
支援的代理
「Security」(安全性) 分頁會填入 Model Armor 洞察資料,但僅限下列代理:
- 部署在 Agent Runtime 的代理,並由已設定 Model Armor 的閘道管理。
- 部署在 Agent Runtime 中,並與Google Cloud MCP 伺服器通訊的代理。
- 在已設定 Model Armor 底限的專案中,透過 Agent Runtime 部署的代理。
查看專案中支援的 AI 代理內容洞察資料 (頂層檢視畫面)
如要查看專案中所有支援 AI 代理的內容安全性深入分析,請按照下列步驟操作:
- 前往 Google Cloud 控制台的 Gemini Enterprise Agent Platform「Security」(安全性) 分頁。
- 選取專案。
如果「Security」(安全性) 分頁未顯示內容安全洞察,且專案中有支援的 AI 代理,請確認您已為代理設定追蹤功能。
查看 AI 代理的內容洞察 (代理層級檢視畫面)
如要查看支援代理的內容安全性深入分析,請按照下列步驟操作:
- 前往 Google Cloud 控制台的「Agent Registry」頁面。
- 選取專案。
- 按一下代理程式名稱。
- 按一下 [Security] (安全性) 分頁標籤。
查看標記或封鎖的互動次數
在「安全性」分頁中,查看互動次數,包括標記和封鎖的互動。「安全性」分頁會顯示下列指標:
- 互動總數:Model Armor 分析的提示詞和回覆總數。
- 標記的互動:違反 Model Armor 範本或底限設定中設定政策的互動次數。
- 已封鎖的互動:如果您在
INSPECT_AND_BLOCK模式中設定 Model Armor,系統會封鎖的互動次數。這些互動違反底限設定或範本,因此遭到封鎖。
監控內容安全性違規事項
在「Violations over time」(違規情形變化趨勢) 圖表中,監控偵測到的違規情形數量變化。
偵測到的違規事項分為以下幾類:
- 提示詞注入和越獄:內容違規,表示提示詞含有惡意指令或越獄嘗試。詳情請參閱「提示詞注入和越獄偵測」。
- 惡意網址:內容違規,表示存在惡意網址。詳情請參閱「惡意網址偵測」。
- 負責任的 AI:安全篩選器偵測到的違規內容,例如騷擾和仇恨言論。如需負責任 AI 類別的完整清單,請參閱「負責任 AI 安全性篩選器」。
- 機密資料:涉及機密資訊類型或您定義的自訂資訊類型的內容違規。詳情請參閱「Sensitive Data Protection」。
如要進一步瞭解這些偵測工具,請參閱「Model Armor 篩選器」。
找出違規次數最多的代理
前往頂層「Security」分頁。
「安全性」分頁會顯示違規次數最多的前 10 名代理。清單會顯示每個代理的 ID,以及偵測到的違規次數。
如要查看清單中特定代理的 Model Armor 洞察資料,請前往代理登錄檔,依代理 ID 搜尋代理。然後前往該代理的代理層級「Security」(安全性) 分頁。
使用 SQL 查詢及分析遙測資料
如要查詢及分析 Model Armor 的遙測資料,請使用 Observability Analytics,這項工具提供 SQL 查詢介面。
- 前往頂層「Security」分頁。
- 針對要查詢的檢視畫面,依序點選 「More chart options」(更多圖表選項) >「Explore in Observability Analytics」(在 Observability Analytics 中探索)。
如需 Observability Analytics 的一般使用說明,請參閱「使用 Observability Analytics 查詢及分析遙測資料」。
將違規資料下載為 PNG 或 CSV 檔案
如要將違規資料下載為 PNG 或 CSV 檔案,請按照下列步驟操作:
- 在「安全性」分頁的「違規情形變化趨勢」檢視畫面中,選取要下載資料的時間範圍。
- 依序按一下「更多圖表選項」圖示 >「下載」。
- 按一下「下載 PNG」或「下載 CSV」,即可下載所需格式的資料。
在記錄檔探索工具中查看非結構化安全性記錄項目
如要在記錄檔探索工具中查詢原始文字安全性記錄項目,可以使用 logName 欄位搜尋 Model Armor 清理內容結果。
如要查詢這些記錄,請完成下列步驟:
前往 Google Cloud 控制台的「Logs Explorer」頁面。
點選「Show query」(顯示查詢) 切換鈕。
將下列內容貼入查詢欄位:
logName="projects/PROJECT_ID/logs/modelarmor.googleapis.com%2Fsanitize_operations"
將
PROJECT_ID替換為 Google Cloud 專案 ID。點選「執行查詢」。
如要進一步瞭解記錄篩選器和更新時間範圍對結果的影響,請參閱閘道監控頁面上的記錄更新警告。