AI Protection 總覽

AI Protection 可提供環境中 AI 安全性的檢視畫面，協助您偵測威脅並降低 AI 資產的風險，進而管理 AI 工作負載的資安態勢。 Google Cloud 本文將簡要介紹 AI 保護功能，包括優點和幾個重要概念。

如要在組織和專案層級啟用 Security Command Center，即可使用 AI Protection。

在機構層級啟用 Security Command Center 後，控制台頁面中的「AI Security」(AI 安全性)資訊主頁和「AI Security」(AI 安全性)檢視畫面，會顯示機構內所有專案和資源的匯總資料。

在專案層級啟用 Security Command Center 時，控制台頁面的「AI Security」資訊主頁和檢視畫面會顯示與所選專案中資源相關的資料。

AI Protection 的功能

AI Protection 可協助您管理 AI 系統元件的威脅和風險。服務層級會決定可用的功能，包括：

  • 評估 AI 資產庫存：瞭解您的 AI 系統和資產。
  • 找出安全漏洞 (Premium 和 Enterprise (已淘汰) 服務層級)：找出以 Agent Runtime 部署的代理式工作負載中的軟體安全漏洞 (CVE) 和純文字密碼。
  • 找出風險 (Premium 和 Enterprise (已淘汰) 服務層級)： 根據攻擊路徑模擬和預先定義的安全圖表規則，找出風險及其對生態系統的影響，並將代理程式和 MCP 伺服器視為高價值資源。
  • 偵測權限過高的代理：偵測獲得過多權限的 Agent Runtime 代理。
  • 管理法規遵循情形：主動確認部署作業中的 AI 資產是否符合相關安全標準。標準服務層級包含基本安全性發現項目和安全性基本功能，而進階和企業服務層級則包含進階架構法規遵循。
  • 偵測及管理威脅：及時偵測並回應 AI 系統和資產的潛在威脅。

AI Protection 的用途

AI Protection 可識別並減輕與 AI 系統和敏感資料相關的威脅和風險，協助機構提升安全性。以下用途範例說明 AI Protection 如何在不同機構中發揮作用：

  • 金融服務機構：客戶財務資料

    大型金融服務機構使用 AI 模型處理敏感的財務資料。

    • 挑戰：使用 AI 模型處理高度敏感的財務資料會帶來多項風險，包括資料侵害、訓練或推論期間資料竊取，以及基礎 AI 基礎架構中的安全漏洞。
    • 用途：AI Protection 會持續監控 AI 工作流程中的可疑活動，偵測未經授權的資料存取權和異常模型行為，執行機密資料分類，並協助您提升 PCI DSS 和 GDPR 等法規的合規程度。

  • 醫療服務提供者：病患隱私權和法規遵循

    某大型醫療服務提供者管理電子健康記錄，並使用 AI 進行診斷和制定治療計畫，因此會處理受保護的健康資訊 (PHI)。

    • 挑戰：AI 模型分析的 PHI 受到《健康保險流通與責任法案》(HIPAA) 等嚴格法規規範。風險包括因設定錯誤而意外洩漏 PHI，或是針對 AI 系統發動惡意攻擊，以竊取病患資料。
    • 用途：AI 保護功能可找出並警告可能違反《健康保險流通與責任法案》(HIPAA) 的行為，偵測模型或使用者未經授權存取受保護健康資訊 (PHI) 的情況，標記可能設定錯誤的 AI 服務，以及監控資料外洩情形。

  • 製造業和機器人公司：專有智慧財產

    這家製造公司專門生產先進的機器人和自動化設備，因此非常依賴 AI 來最佳化生產線和機器人控制，而重要的智慧財產權 (IP) 則內嵌在 AI 演算法和製造資料中。

    • 挑戰：專屬 AI 演算法和敏感的營運資料容易遭內部人員或外部攻擊者竊取，可能導致競爭劣勢或營運中斷。
    • 用途：AI Protection 會監控 AI 模型和程式碼存放區，防範未經授權的存取行為，偵測訓練完成的模型是否遭竊，以及異常的資料存取模式，並標記 AI 開發環境中的安全漏洞，防止 IP 遭竊。

AI Protection 的偵測服務

啟用 AI Protection 功能後，系統會根據下列規則和偵測服務建立發現項目。Security Command Center 服務層級和啟用範圍 (組織層級或專案層級) 決定了 Security Command Center 支援的偵測服務，以及建立的調查結果。Security Command Center 會自動啟用部分偵測服務，但您必須手動設定其他服務。詳情請參閱「設定 AI Protection」。

AI 探索服務

這項內建服務會使用 Cloud Monitoring 資料探索 AI 模型，並判斷 Model Armor 是否保護模型。在「標準」服務層級中，AI 探索功能不支援偵測 Gemini 模型。

如要瞭解這項服務建立的調查結果，請參閱「AI 探索服務調查結果」。

Compliance Manager 框架

AI Protection 會使用 Compliance Manager 架構，而 Security Command Center 會以偵測模式自動部署這些架構。

Compliance Manager 內建架構

AI 保護功能包含下列架構。啟用 AI Protection 功能後，Security Command Center 會自動在機構或專案中啟用這些框架。

視服務層級而定，您可以設定額外的法規遵循管理員架構和雲端控制項。如要進一步瞭解 Compliance Manager，請參閱「Compliance Manager」。

Compliance Manager 自訂架構

您可以複製服務層級提供的內建架構，建立自訂架構。

  • 自訂：您可以在自訂架構中新增或移除雲端控制項，以符合安全性政策。
  • 指定套用：您可以將自訂架構套用至特定機構、資料夾或專案。舉例來說，您可以對特定資料夾套用特定管轄區的控制項，確保資料保留在特定地理區域內。
  • 限制：您無法將 AI Protection 框架指派給應用程式。

Gemini Enterprise Agent Platform 資產的 Event Threat Detection 規則

Event Threat Detection 會偵測多種與 Gemini Enterprise Agent Platform 資產相關的潛在威脅，例如異常的服務帳戶活動、私密資訊權限變更，以及代理身分濫用情形。

適用於 AI 資產的類別包括：

  • 持續性：新 AI API 方法
  • 持續性：AI 服務的新地理區域
  • 權限提升：AI 管理員活動出現異常服務帳戶模擬者
  • 權限提升：AI 資料存取出現異常服務帳戶模擬者
  • 權限提升：AI 管理員活動出現異常多步驟服務帳戶委派情況
  • 權限提升：AI 資料存取出現異常多步驟服務帳戶委派情況
  • 權限提升：AI 管理員活動出現異常服務帳戶模擬者
  • 初始存取權：AI 服務中的休眠服務帳戶活動
  • 持續性：將 IAM 異常授權授予代理程式身分
  • 憑證存取：在 Google Cloud外部使用代理身分憑證
  • 持續性：敏感 AI 權限新增至自訂角色
  • 持續性：AI 代理授予敏感角色
  • 持續性：將敏感角色授予外部 AI 代理
  • 規避防禦措施：將專案層級的 TokenCreator 角色授予 AI 代理
  • 規避防禦機制：將資料夾層級的 TokenCreator 角色授予 AI 代理
  • 規避防禦措施：將組織層級的權杖建立者角色授予 AI 代理

如要查看適用於 AI 資產的完整 Event Threat Detection 發現項目清單，請參閱「Event Threat Detection 總覽」。

Agent Runtime 的 Agent Platform Threat Detection

Agent Platform Threat Detection (預先發布版) 可偵測部署至 Agent Runtime 的代理程式在執行階段受到的威脅。這項服務會監控執行中的代理程式，找出潛在攻擊並在 Security Command Center 中產生發現項目。

Agent Platform Threat Detection 會為 Agent Runtime 生成發現事項，包括下列類別：

  • 惡意中繼站：偵測到隱寫術工具
  • 憑證存取：尋找「憑證」 Google Cloud
  • 憑證存取：GPG 金鑰偵察
  • 憑證存取權：搜尋私密金鑰或密碼
  • 規避防禦機制：Base64 ELF 檔案指令列
  • 規避防禦措施：已執行 Base64 編碼的 Python 指令碼
  • 規避防禦機制：已執行 Base64 編碼的殼層指令碼
  • 規避防禦機制：在容器中啟動程式碼編譯器工具
  • 執行：容器中的 Netcat 遠端程式碼執行作業
  • 執行：可能透過 CUPS 執行任意指令 (CVE-2024-47177)
  • 執行：偵測到可能的遠端指令執行作業
  • 執行：在禁止使用 HTTP Proxy 的環境中執行程式
  • 執行：偵測到 Socat 反向殼層
  • 執行作業：載入了可疑的 OpenSSL 共用物件
  • 外洩：在容器中啟動遠端檔案複製工具
  • 影響：偵測惡意指令列
  • 影響：從磁碟移除大量資料
  • 影響：使用 Stratum 通訊協定的可疑加密貨幣挖礦活動
  • 權限提升：濫用 Sudo 來提權 (CVE-2019-14287)
  • 提權：Polkit 本機提權安全漏洞 (CVE-2021-4034)
  • 提權：Sudo 存在提權風險 (CVE-2021-3156)
  • 執行：已執行惡意 Python
  • 執行：容器跳脫
  • 執行：Kubernetes 攻擊工具執行作業
  • 執行：本機偵察工具執行作業
  • 影響：可執行惡意指令碼
  • 影響：偵測到惡意網址
  • 執行：非預期的子殼層

進一步瞭解 Agent Platform Threat Detection。

Agent Platform 安全漏洞評估

Agent Platform 安全漏洞評估 (預先發布版) 會找出 Gemini Enterprise Agent Platform 容器映像檔中的安全漏洞和明文密碼，例如憑證、金鑰、存取權杖或憑證。

詳情請參閱「偵測服務」中的「Agent Platform 安全漏洞評估」。

Notebook Security Scanner

Notebook Security Scanner (預先發布版) 會掃描 Colab Enterprise 筆記本，偵測 Python 套件中的安全漏洞。

如需相關資訊，請參閱「偵測服務」中的「Notebook Security Scanner」。

Sensitive Data Protection

Sensitive Data Protection 探索服務是一項全代管 Google Cloud服務，可協助您探索、分類及保護機密資料。您可以透過 Sensitive Data Protection 判斷是否儲存機密或個人識別資訊 (PII)。

詳情請參閱「偵測服務」中的「Sensitive Data Protection 發現項目」。

Model Armor

啟用 Model Armor 並設定 Model Armor，與一或多個 AI 相關元件整合後，您就能在 Security Command Center 中調查 Model Armor 發現項目。

在 Security Command Center Standard 服務層級，AI Protection 不支援 Gemini 模型。

如要設定 Model Armor，請參閱「建立及管理範本」。

風險引擎

風險引擎是 Security Command Center 的一項功能，可評估雲端部署作業的風險暴露程度、為安全漏洞發現項目和高價值資源指派受攻擊風險分數，以及繪製潛在攻擊者可能採取的路徑，以便取得高價值資源。

詳情請參閱「偵測服務」中的「風險引擎」。

AI Protection 支援的資源

AI Protection 會透過下列機制探索資產：

  • 聲明式 AI 資產：AI 生命週期管理工具 (例如 Gemini Enterprise Agent Platform) 追蹤的資產。
  • 推斷的 AI 資產：處理 AI 資料或工作負載的一般用途資產 (例如運算和儲存資產)。
  • 模型即服務 (僅限 API)：可程式輔助呼叫第一方或第三方 AI 模型的資產。

本節將說明 AI Protection 支援的 AI 資源和資產，以及這項功能可協助保護的項目。

  • Gemini Enterprise 和 Agent Search 應用程式：這些是 AI 系統，可感知環境、做出決策並採取行動，以達成特定目標。
  • 端點：AI 應用程式工作負載的範圍很廣，從旨在提升員工生產力的內部工具，到專為提升使用者體驗和促進業務成長的消費者導向解決方案，應有盡有。例如 AI 代理程式、虛擬助理、對話式 AI 聊天機器人和個人化推薦內容。AI Protection 功能會在「素材資源」頁面的「AI 資源」分頁中，將這些項目識別為 「Agent Platform 端點」。
  • 資料來源：支援的資料來源包括 BigQuery 資料表、Cloud Storage、Agent Platform 資料集和 Gemini Enterprise 資料存放區。
  • 模型：AI Protection 會將 AI 模型識別為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。例如：
    • Gemini (適用於 Premium 和 Enterprise (已淘汰) 服務層級)
    • Llama
    • 翻譯模型
    • 用於特定工作的自訂模型
  • AI 資產：AI 資產有助於機器學習作業管線，並供 AI 工作負載使用。AI 資源類型包括：
  • Model Context Protocol (MCP) 伺服器：AI Protection 會識別Agent Registry 中編目的 MCP 伺服器。如要使用這項功能，您必須在每個代管 MCP 伺服器的專案中設定 App Hub API。

服務層級異動的影響

如果將服務層級從 Premium 或 Enterprise 降級至 Standard，降級會對 AI Protection 功能造成以下影響：

  • 偵測服務：Security Command Center 會停用 Standard 方案不支援的偵測服務和 Compliance Manager 架構。詳情請參閱「在 Compliance Manager 中管理服務層級」。
  • 調查功能：您將無法使用進階調查功能，例如 AI 資產的攻擊路徑模擬、代理程式安全漏洞評估，以及偵測權限過高的代理程式。
  • 發現項目會失效：如果法規遵循管理員架構不支援標準層級，系統會停用該架構建立的發現項目。詳情請參閱「在 Compliance Manager 中管理服務層級」。

如果升級回 Premium 或 Enterprise 方案，Security Command Center 會還原進階功能，但不會自動復原降級期間移除的任何架構部署作業。您必須手動重新部署架構。

後續步驟