查看 AI 安全性

AI Protection 提供多種工具，可讓您查看機構或專案的 AI 資產清單、調查安全性發現項目，以及審查風險和威脅的建議緩解措施。本指南說明如何使用 AI 安全性資訊主頁和「素材資源」頁面管理 AI 安全性。

Security Command Center 服務層級會決定 AI 安全性資訊主頁，以及「資產」頁面「AI 資源」分頁中可用的功能。 如要瞭解各服務層級提供的功能，請參閱「AI Protection 總覽」。

事前準備

  • 設定 AI Protection。
  • 授予使用者必要的 Identity and Access Management (IAM) 角色，讓他們存取「AI 安全性」資訊主頁和「資產」> AI 資源分頁。詳情請參閱「必要的角色」。

使用 AI 安全資訊主頁

您可以在 AI Security 資訊主頁中，查看機構或專案的 AI 資產清單，並檢視建議的風險和威脅緩解措施。

存取 AI 安全性資訊主頁

如要存取 AI 安全性資訊主頁，請前往 Google Cloud 控制台的「風險 總覽」>「AI 安全性」頁面：

前往「AI 安全防護」

詳情請參閱「AI 安全性資訊主頁」。

瞭解 AI 系統的風險管理

這個專區會找出 AI 系統的潛在風險，並顯示 AI 資產中的主要風險。

如要查看特定問題的圖表和詳細資料，請按一下該問題。

查看 AI 威脅

這個專區會醒目顯示 AI 資源最近遭受的威脅。

您可以在這個專區執行下列操作：

  • 如要查看 AI 資源的所有威脅，請按一下「查看全部」。
  • 如要查看特定威脅的詳細資訊，請點選該威脅。

以視覺化方式呈現 AI 資產

本節提供 AI 資產清單的視覺摘要，包括使用生成式 AI 的專案、有效自訂模型 (以及適用於 Premium 和 Enterprise (已淘汰) 服務層級的 Gemini 模型)，以及用於訓練第三方模型的資料集。

您可以在這個專區執行下列操作：

  • 如要查看商品目錄的詳細資料，請按一下視覺化圖表中的任一節點。
  • 如要查看個別資產的詳細清單，請按一下工具提示。這份清單包含自訂模型或 Gemini 模型 (適用於 Premium 和 Enterprise (已淘汰) 服務層級)。
  • 如要查看模型詳細資料，請按一下模型。這個檢視畫面會顯示詳細資料，例如模型代管端點和訓練資料集。如果啟用 Sensitive Data Protection，資料集檢視畫面也會指出資料集是否含有機密資料。

查看 AI 架構發現項目摘要

本節有助於評估 AI 安全政策和資料安全性政策產生的發現項目。包括下列資訊卡：

  • 發現項目：這個專區會顯示 AI 安全性政策和資料安全性政策產生的發現項目摘要，例如 Gemini model detected 和 Gemini model not protected by Model Armor (與 Gemini 模型相關的發現項目適用於 Premium 和 Enterprise (已淘汰) 服務層級)。

    • 如要查看所有發現項目，請按一下「查看所有發現項目」。
    • 如要查看特定類別的結果，請按一下該類別旁的結果計數。
    • 如要查看個別發現項目的詳細資料，請按一下該項目。

  • Vertex AI 資料集內的私密/機密資料：顯示 Sensitive Data Protection 報告中，與資料集內私密/機密資料相關的摘要。詳情請參閱 Gemini Enterprise Agent Platform 簡介。

檢查 Model Armor 發現項目

這個部分會顯示 Model Armor 掃描的提示詞和回覆總數，以及偵測到的問題數量。圖表也會提供特定問題類型的摘要統計資料，例如提示詞注入、越獄嘗試和敏感資料洩露。

對於代理工作負載，您可以在 Agent Gateway 上設定 Model Armor，篩選傳送至代理程式和從代理程式傳送的提示詞和回覆。

這張圖表會使用 Model Armor 發布至 Cloud Monitoring 的指標。詳情請參閱 Model Armor 總覽。

查看 Agent Platform 安全漏洞評估結果

Agent Platform 漏洞評估產生的發現項目包含密碼的位置和類型資訊，但不包含密碼值。

如要查看 Agent Platform 安全漏洞評估生成的發現項目，請按照下列步驟操作：

  1. 前往 Google Cloud 控制台的 Security Command Center「發現項目」頁面。

    前往「發現項目」

  2. 選取 Google Cloud 專案或機構。
  3. 在「快速篩選器」部分的「類別」子部分，選取「祕密」。查詢結果會更新，只顯示相符的發現項目。
  4. 如要查看特定發現項目的詳細資料，請按一下「類別」欄中的發現項目名稱。系統會開啟發現項目的詳細資料面板，並顯示「摘要」分頁。
  5. 在「摘要」分頁的「偵測到」部分下方，查看「說明」，然後按一下下列連結，瞭解更多詳細資料：
    • 檔案：查看密鑰的所在位置資訊。
    • 查看密鑰詳細資料：查看系統識別的密鑰類型。

檢查 AI 資源

除了 AI 安全性資訊主頁，您也可以在Google Cloud 控制台的「資產」頁面，使用「AI 資源」分頁，檢查及查詢機構或專案的 AI 資產清單。

「AI 資源」分頁提供已探索到的 AI 系統和資產詳細檢視畫面，並可進行篩選，包括：

  • 模型
  • 端點
  • 資料來源
  • 管道
  • 代理
  • Model Context Protocol (MCP) 伺服器
  • Notebooks

您可以使用「AI 資源」分頁執行下列操作：

  • 掌握 AI 庫存：查看機構或專案中所有有效 AI 資產的完整清單，並依專案、位置或資源類型篩選。
  • 執行安全性調查：檢查特定 AI 資產的完整中繼資料、變更記錄和相關聯的 IAM 政策。
  • 查看相關發現項目：快速查看與特定 AI 資產相關的所有安全性發現項目，評估風險暴露程度，並判斷必要的補救步驟。

如要進一步瞭解如何在控制台中查看及篩選 AI 資產，請參閱「檢查 Security Command Center 監控的資產」。

後續步驟