AI Protection 總覽

AI Protection 可協助您管理 Google Cloud 環境中 AI 工作負載的資安態勢。您可以透過這項服務，掌握 AI 庫存、偵測威脅，並降低 AI 系統的風險。

在組織和專案層級啟用 Security Command Center，即可使用 AI Protection。 Google Cloud 控制台中的「AI Security」資訊主頁會根據啟用範圍，顯示所有專案和資源的匯總資料，或所選專案的資料。

AI Protection 的功能

AI Protection 可協助您管理 AI 系統元件面臨的威脅和風險。服務級別會決定可用的功能，包括：

  • 評估 AI 資產庫存：瞭解 AI 系統和資產。
  • 找出安全漏洞 (Premium 和 Enterprise (已淘汰) 服務級別)：找出透過 Agent Runtime 部署的代理工作負載中，有哪些軟體安全漏洞 (CVE) 和明文 Secret。
  • 找出風險 (Premium 和 Enterprise (已淘汰) 服務級別)：根據攻擊路徑模擬和預先定義的安全圖譜規則，找出風險及其對生態系統的影響，並將代理和 MCP 伺服器視為高價值資源。
  • 偵測權限過高的代理：偵測獲得過多權限的 Agent Runtime 代理。
  • 管理法規遵循：主動驗證部署項目中的 AI 資產是否符合相關安全標準。Standard 服務級別包含 Security Essentials 的基準安全發現項目，而 Premium 和 Enterprise 服務級別則包含進階架構法規遵循。
  • 偵測及管理威脅：及時偵測並因應 AI 系統和資產的潛在威脅。

AI Protection 應用實例

AI Protection 可協助組織識別及減輕與 AI 系統和機密資料相關的威脅和風險，進而強化安全性。以下用途範例說明不同組織如何使用 AI Protection：

  • 金融服務機構：客戶財務資料

    某大型金融服務機構使用 AI 模型處理機密財務資料。

    • 挑戰：使用 AI 模型處理高度敏感的財務資料，會帶來多項風險，包括資料侵害、訓練或推論期間資料竊取，以及基礎 AI 基礎架構中的安全漏洞。
    • 用途：AI Protection 會持續監控 AI 工作流程中的可疑活動、偵測未經授權的資料存取行為和異常模型行為、執行機密資料分類，並協助您遵循 PCI DSS 和 GDPR 等法規。

  • 醫療照護服務供應商：病患隱私和法規遵循

    某大型醫療服務供應商管理電子健康記錄，並使用 AI 進行診斷和治療規劃，處理受保護的健康資訊 (PHI)。

    • 挑戰：AI 模型分析的 PHI 受到《健康保險流通與責任法案》(HIPAA) 等嚴格法規所規範。相關風險包括因設定錯誤而意外洩漏 PHI，或針對 AI 系統發動惡意攻擊，竊取病患資料。
    • 用途：AI Protection 可找出並警告可能違反 HIPAA 的行為、偵測模型或使用者未經授權存取 PHI 的情況、標記易受攻擊和可能設定錯誤的 AI 服務，以及監控資料外洩情形。

  • 製造業和機器人公司：專屬智慧財產

    某間專精於先進機器人和自動化技術的製造公司，高度仰賴 AI 最佳化調整生產線和機器人控制，並將重要的智慧財產 (IP) 嵌入 AI 演算法和製造資料。

    • 挑戰：專屬 AI 演算法和敏感的營運資料容易遭內部人員或外部攻擊者竊取，可能導致競爭劣勢或營運中斷。
    • 用途：AI Protection 會監控 AI 模型和程式碼存放區，防範未經授權的存取行為、偵測訓練完成的模型是否遭竊、找出異常的資料存取模式，並標記 AI 開發環境中的安全漏洞，防止智慧財產遭竊。

AI Protection 的偵測服務

以下各節說明啟用 AI Protection 後，會建立發現項目的規則和偵測服務。Security Command Center 的服務級別和啟用範圍 (組織層級或專案層級)，會決定 Security Command Center 支援的偵測服務和建立的發現項目。Security Command Center 會自動啟用部分偵測服務，但其他服務必須手動設定。詳情請參閱「設定 AI Protection」。

AI Discovery 服務

這項內建服務會使用 Cloud Monitoring 資料探索 AI 模型，並判斷模型是否受到 Model Armor 保護。在標準服務級別中，AI Discovery 不支援偵測 Gemini 模型。

如要瞭解這項服務建立的發現項目，請參閱「AI Discovery 服務發現項目」。

Compliance Manager 架構

AI Protection 使用 Security Command Center 在偵測模式中自動部署的 Compliance Manager 架構。

Compliance Manager 內建架構

AI Protection 包含下列架構。啟用 AI 防護功能後，Security Command Center 會自動在組織或專案中啟用這些架構。

視服務層級而定，您可以設定其他法規遵循管理工具架構和雲端控管機制。如要進一步瞭解 Compliance Manager，請參閱「Compliance Manager」。

Compliance Manager 自訂架構

您可以複製服務層級提供的內建架構，建立自訂架構。

  • 自訂：您可以在自訂架構中新增或移除雲端控管機制，以符合安全性政策。
  • 指定套用：您可以將自訂架構套用至特定組織、資料夾或專案。舉例來說，您可以對特定資料夾套用特定管轄區控制項，確保資料保留在特定地理區域內。
  • 限制：無法將 AI 防護架構指派給應用程式。

Gemini Enterprise Agent Platform 資產的 Event Threat Detection 規則

Event Threat Detection 可偵測涉及 Gemini Enterprise Agent Platform 資產的多項潛在威脅，例如異常的服務帳戶活動、私密資訊權限變更，以及代理身分濫用。

適用於 AI 資產的發現項目類別包括：

  • 持續性：新 AI API 方法
  • 持續性：AI 服務的新地理區域
  • 提權：AI 管理員活動出現異常服務帳戶模擬者
  • 提權：AI 資料存取出現異常服務帳戶模擬者
  • 提權：AI 管理員活動出現異常多步驟服務帳戶委派情況
  • 提權：AI 資料存取出現異常多步驟服務帳戶委派情況
  • 提權：AI 管理員活動出現異常服務帳戶模擬者
  • 初始存取：AI 服務中的休眠服務帳戶活動
  • Persistence：IAM 異常授權給代理身分
  • 憑證存取：在 Google Cloud以外的地方使用代理身分憑證
  • 持續性：敏感 AI 權限新增至自訂角色
  • 持續性：AI 代理授予敏感角色
  • 持續性：將敏感角色授予外部 AI 代理
  • 規避防禦：將專案層級的 TokenCreator 角色授予 AI 代理
  • 規避防禦機制：將資料夾層級的 TokenCreator 角色授予 AI 代理
  • 規避防禦機制：將組織層級的權杖建立者角色授予 AI 代理

如要查看適用於 AI 資產的 Event Threat Detection 發現項目完整清單，請參閱「Event Threat Detection 總覽」。

Agent Runtime 的 Agent Platform Threat Detection

Agent Platform Threat Detection (預先發布版) 可針對部署至 Agent Runtime 的代理，提供執行階段威脅偵測功能。這項服務會監控執行中的代理程式，找出潛在攻擊，並在 Security Command Center 中產生發現項目。

Agent Platform Threat Detection 會為 Agent Runtime 產生發現項目，包括下列類別：

  • 指揮與控制：偵測到隱寫術工具
  • 憑證存取：尋找 Google Cloud 憑證
  • 憑證存取：GPG 金鑰偵查
  • 憑證存取：搜尋私密金鑰或密碼
  • 規避防禦機制：Base64 ELF 檔案指令列
  • 規避防禦：已執行 Base64 編碼的 Python 指令碼
  • 規避防禦機制：已執行 Base64 編碼的殼層指令碼
  • 規避防禦機制：在容器中啟動程式碼編譯器工具
  • 執行：容器中的 Netcat 遠端執行程式碼
  • 執行：可能透過 CUPS 執行任意指令 (CVE-2024-47177)
  • 執行：偵測到可能的遠端指令執行作業
  • 執行：在不允許 HTTP Proxy 的環境執行程式
  • 執行：偵測到 Socat 反向殼層
  • 執行：載入了可疑的 OpenSSL 共用物件
  • 竊取：在容器中啟動遠端檔案複製工具
  • 影響：偵測惡意指令列
  • 影響：從磁碟移除大量資料
  • 影響：使用 Stratum 通訊協定的可疑加密貨幣挖礦活動
  • 提權：濫用 Sudo 來提權 (CVE-2019-14287)
  • 提權：Polkit 本機提權安全漏洞 (CVE-2021-4034)
  • 提權：Sudo 存在提權風險 (CVE-2021-3156)
  • 執行：執行惡意 Python
  • 執行：容器跳脫
  • 執行：Kubernetes 攻擊工具執行作業
  • 執行：本機偵察工具執行作業
  • 影響：已執行惡意指令碼
  • 影響：偵測到惡意網址
  • 執行：非預期的子殼層

進一步瞭解 Agent Platform Threat Detection。

Agent Platform 安全漏洞評估

Agent Platform 安全漏洞評估 (預先發布版) 可找出 Gemini Enterprise Agent Platform 容器映像檔中的安全漏洞和明文密鑰，例如憑證、金鑰、存取權杖或憑證。

詳情請參閱「偵測服務」中的「Agent Platform 安全漏洞評估」。

Notebook Security Scanner

Notebook Security Scanner (預先發布版) 會掃描 Colab Enterprise 筆記本，偵測 Python 套件中的安全漏洞。

詳情請參閱「偵測服務」中的「Notebook Security Scanner」。

Sensitive Data Protection

Sensitive Data Protection 探索服務是一項全代管 Google Cloud服務，可協助您探索、分類及保護機密資料。您可以使用 Sensitive Data Protection，判斷是否儲存了機密或個人識別資訊 (PII)。

詳情請參閱「偵測服務」中的「Sensitive Data Protection 發現項目」。

Model Armor

啟用 Model Armor 並設定 Model Armor，與一或多個 AI 相關元件整合後，即可在 Security Command Center 中調查 Model Armor 發現項目。

在 Security Command Center Standard 服務層級，AI Protection 不支援 Gemini 模型。

如要設定 Model Armor，請參閱「建立及管理範本」。

Risk Engine

Risk Engine 是 Security Command Center 的一項功能，可評估雲端部署項目的風險暴露程度、為安全漏洞發現項目和高價值資源指派受攻擊風險分數，並繪製潛在攻擊者可能採取的路徑，以取得高價值資源。

詳情請參閱「偵測服務」中的「風險引擎」。

AI Protection 支援的資源

AI Protection 會使用下列機制探索資產：

  • 宣告式 AI 資產：AI 生命週期管理工具 (例如 Gemini Enterprise Agent Platform) 追蹤的資產。
  • 推論 AI 資產：處理 AI 資料或工作負載的一般用途資產 (例如運算和儲存資產)。
  • 模型即服務 (僅限 API)：以程式輔助方式呼叫第一方或第三方 AI 模型的資產。

本節定義 AI Protection 可協助保護的支援 AI 項目和資產。

  • Gemini Enterprise 和 Agent Search 應用程式：這些 AI 系統可感知環境、做出決策，並採取行動來達成特定目標。
  • 端點：AI 應用程式工作負載的範圍，從旨在提高員工生產力的內部工具，到旨在提升使用者體驗和推動業務的消費者導向解決方案。例如 AI 代理、虛擬助理、對話式 AI 聊天機器人和個人化推薦。AI Protection 會在「資產」頁面的「AI 資源」分頁中，將這些端點識別為 Agent Platform 端點。
  • 資料來源：支援的資料來源包括 BigQuery 資料表、Cloud Storage、Agent Platform 資料集和 Gemini Enterprise 資料儲存庫。
  • 模型：AI Protection 會將 AI 模型分為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。相關示例包括：
    • Gemini (適用於 Premium 和 Enterprise (已淘汰) 服務級別)
    • Llama
    • 翻譯模型
    • 針對特定任務自訂模型
  • AI 資產：AI 資產有助於機器學習作業管道，並由 AI 工作負載使用。AI 素材資源類型包括：
  • Model Context Protocol (MCP) 伺服器：AI Protection 會識別 Agent Registry 中編錄的 MCP 伺服器。如要使用這項功能，您必須在託管 MCP 伺服器的每個專案中設定 App Hub API。

服務層級異動的影響

如果將服務級別從 Premium 或 Enterprise 降級為 Standard，AI Protection 功能會受到下列影響：

  • 偵測服務：Security Command Center 會停用 Standard 方案不支援的偵測服務和 Compliance Manager 架構。詳情請參閱「在法規遵循管理工具中管理服務層級」。
  • 調查功能：您無法使用進階調查功能，例如 AI 資產的攻擊路徑模擬、代理安全漏洞評估，以及偵測權限過高的代理。
  • 發現項目失效：Standard 級別不支援的 Compliance Manager 架構所建立的發現項目會失效。詳情請參閱「在法規遵循管理工具中管理服務層級」。

如果重新升級至 Premium 或 Enterprise 級別，Security Command Center 會還原進階功能，但不會自動復原降級期間移除的任何架構部署作業。您必須手動重新部署架構。

後續步驟