AI Protection 可協助您管理 Google Cloud 環境中 AI 工作負載的資安態勢。您可以透過這項服務,掌握 AI 庫存、偵測威脅,並降低 AI 系統的風險。
在組織和專案層級啟用 Security Command Center,即可使用 AI Protection。根據啟用範圍, Google Cloud 控制台中的「AI Security」資訊主頁會顯示所有專案和資源的匯總資料,或所選專案的資料。
AI Protection 的功能
AI Protection 可協助您管理 AI 系統元件面臨的威脅和風險。服務級別會決定可用的功能,包括:
- 評估 AI 資產庫存:瞭解 AI 系統和資產。
- 找出安全漏洞 (Premium 和 Enterprise (已淘汰) 服務級別):找出透過 Agent Runtime 部署的代理工作負載中的軟體安全漏洞 (CVE) 和明文密鑰。
- 找出風險 (Premium 和 Enterprise (已淘汰) 服務級別):根據攻擊路徑模擬和預先定義的安全圖譜規則,找出風險及其對生態系統的影響,並將代理和 MCP 伺服器視為高價值資源。
- 偵測權限過高的代理:偵測授予過多權限的 Agent Runtime 代理。
- 管理法規遵循:主動驗證部署項目中的 AI 資產是否符合相關安全標準。Standard 服務級別包含 Security Essentials 的基準安全發現項目,而 Premium 和 Enterprise 服務級別則包含進階架構法規遵循。
- 偵測及管理威脅:及時偵測並因應 AI 系統和資產的潛在威脅。
AI Protection 應用實例
AI Protection 可協助組織識別及減輕與 AI 系統和機密資料相關的威脅和風險,進而強化安全性。以下用途範例說明不同組織如何使用 AI Protection:
金融服務機構:客戶財務資料
某大型金融服務機構使用 AI 模型處理機密財務資料。
- 挑戰:使用 AI 模型處理高度敏感的財務資料,會帶來多項風險,包括資料侵害、訓練或推論期間資料竊取,以及基礎 AI 基礎架構中的安全漏洞。
- 用途:AI Protection 會持續監控 AI 工作流程中的可疑活動、偵測未經授權的資料存取行為和異常模型行為、分類機密資料,並協助您遵循 PCI DSS 和 GDPR 等法規。
醫療照護服務供應商:病患隱私和法規遵循
某大型醫療服務提供者管理電子健康記錄,並使用 AI 進行診斷和治療規劃,處理受保護的健康資訊 (PHI)。
- 挑戰:AI 模型分析的 PHI 受到《健康保險流通與責任法案》(HIPAA) 等嚴格法規所規範。相關風險包括因設定錯誤而意外洩漏 PHI,或針對 AI 系統發動惡意攻擊,竊取病患資料。
- 用途:AI Protection 可找出並警告可能違反 HIPAA 的行為、偵測模型或使用者未經授權存取 PHI 的情況、標記易受攻擊和可能設定錯誤的 AI 服務,以及監控資料外洩情形。
製造業和機器人公司:專屬智慧財產
某間專精於先進機器人和自動化技術的製造公司,高度仰賴 AI 最佳化生產線和機器人控制,其 AI 演算法和製造資料中,內含重要的智慧財產。
- 挑戰:專屬 AI 演算法和敏感的營運資料容易遭內部人員或外部攻擊者竊取,可能導致競爭劣勢或營運中斷。
- 用途:AI Protection 會監控 AI 模型和程式碼存放區,防範未經授權的存取行為、偵測訓練完成的模型是否遭竊,以及異常的資料存取模式,並標記 AI 開發環境中的安全漏洞,防止 IP 遭竊。
AI Protection 的偵測服務
以下各節說明啟用 AI Protection 時,會建立發現項目的規則和偵測服務。Security Command Center 的服務級別和啟用範圍 (組織層級或專案層級),會決定 Security Command Center 支援的偵測服務和建立的發現項目。Security Command Center 會自動啟用部分偵測服務,但其他服務必須手動設定。詳情請參閱「設定 AI Protection」。
AI Discovery 服務
這項內建服務會使用 Cloud Monitoring 資料探索 AI 模型,並判斷 Model Armor 是否保護模型。在標準服務級別中,AI Discovery 不支援偵測 Gemini 模型。
如要瞭解這項服務建立的發現項目,請參閱「AI Discovery 服務發現項目」。
Compliance Manager 架構
AI Protection 會使用 Security Command Center 在偵測模式中自動部署的 Compliance Manager 架構。
Compliance Manager 內建架構
AI Protection 包含下列架構。啟用 AI 防護功能後,Security Command Center 會自動在組織或專案中啟用這些架構。
Security Essentials 架構適用於 Standard、Premium 和 Enterprise 服務級別。
Google 建議採用的 AI 基礎功能 - Gemini Enterprise Agent Platform 適用於 Premium 和 Enterprise 服務級別。
視服務級別而定,您可以設定其他法規遵循管理員架構和雲端控管機制。如要進一步瞭解 Compliance Manager,請參閱「Compliance Manager」。
Compliance Manager 自訂架構
您可以複製服務層級提供的內建架構,建立自訂架構。
- 自訂:您可以在自訂架構中新增或移除雲端控制項,以符合安全性政策。
- 指定套用:您可以將自訂架構套用至特定組織、資料夾或專案。舉例來說,您可以對特定資料夾套用特定管轄區控制項,確保資料保留在特定地理區域內。
- 限制:無法將 AI 防護架構指派給應用程式。
Gemini Enterprise Agent Platform 資產的 Event Threat Detection 規則
Event Threat Detection 可偵測涉及 Gemini Enterprise Agent Platform 資產的多種潛在威脅,例如異常的服務帳戶活動、私密資訊權限變更,以及代理身分濫用。
適用於 AI 資產的發現項目類別包括:
-
Credential Access: AI Agent Anomalous Access to Metadata Service -
Defense Evasion: Folder Level TokenCreator Role Granted to AI Agent -
Defense Evasion: Organization Level TokenCreator Role Granted to AI Agent -
Defense Evasion: Project Level TokenCreator Role Granted to AI Agent -
Discovery: AI Agent Service Account Self-Investigation -
Discovery: AI Agent Unauthorized Service Account API Call -
Discovery: Evidence of Port Scanning from AI Agent -
Exfiltration: AI Agent Initiated BigQuery Data Exfiltration to External Table -
Exfiltration: AI Agent Initiated BigQuery Data Extraction -
Exfiltration: AI Agent Initiated BigQuery VPC Perimeter Violation -
Exfiltration: AI Agent Initiated CloudSQL Exfiltration to External Bucket -
Exfiltration: AI Agent Initiated CloudSQL Exfiltration to Public Bucket -
Impact: Gemini Discovery Engine API Document Import by External User -
Impact: Gemini Discovery Engine API Document Import from External Resource -
Impact: Gemini Discovery Engine API Document Import VPC Perimeter Violation -
Initial Access: AI Agent Identity Excessive Permission Denied Actions -
Initial Access: Dormant Service Account Activity in AI Service -
Persistence: External Access Granted to Gemini Discovery Engine API Apps -
Persistence: New AI API Method -
Persistence: New Geography for AI Service -
Persistence: Sensitive AI Permission Added to Custom Role -
Persistence: Sensitive Role Granted by AI Agent -
Persistence: Sensitive Role Granted to External AI Agent -
Privilege Escalation: AI Agent Cross-Project Access Token Generation -
Privilege Escalation: AI Agent Cross-Project OpenID Token Generation -
Privilege Escalation: AI Agent Token Generation Using Implicit Delegation -
Privilege Escalation: AI Agent Token Generation Using signJwt -
Privilege Escalation: Anomalous Impersonation of Service Account for AI Admin Activity -
Privilege Escalation: Anomalous Multistep Service Account Delegation for AI Admin Activity -
Privilege Escalation: Anomalous Multistep Service Account Delegation for AI Data Access -
Privilege Escalation: Anomalous Service Account Impersonator for AI Admin Activity -
Privilege Escalation: Anomalous Service Account Impersonator for AI Data Access
如要查看適用於 AI 資產的 Event Threat Detection 發現項目完整清單,請參閱「Event Threat Detection 總覽」。
Agent Runtime 適用的 Agent Platform Threat Detection
Agent Platform Threat Detection (預先發布版) 可針對部署至 Agent Runtime 的代理,提供執行階段威脅偵測功能。這項服務會監控執行中的代理程式,找出潛在攻擊,並在 Security Command Center 中產生發現項目。
Agent Platform Threat Detection 會為 Agent Runtime 產生發現項目,包括下列類別:
-
Command and Control: Steganography Tool Detected -
Credential Access: Find Google Cloud Credentials -
Credential Access: GPG Key Reconnaissance -
Credential Access: Search Private Keys or Passwords -
Defense Evasion: Base64 ELF File Command Line -
Defense Evasion: Base64 Encoded Python Script Executed -
Defense Evasion: Base64 Encoded Shell Script Executed -
Defense Evasion: Launch Code Compiler Tool In Container -
Execution: Added Malicious Binary Executed -
Execution: Added Malicious Library Loaded -
Execution: Added Malicious Skill Executed -
Execution: Added Malicious Skill Loaded -
Execution: Built in Malicious Binary Executed -
Execution: Container Escape -
Execution: Fileless Execution in /memfd: -
Execution: Kubernetes Attack Tool Execution -
Execution: Local Reconnaissance Tool Execution -
Execution: Malicious Python Executed -
Execution: Modified Malicious Binary Executed -
Execution: Modified Malicious Library Loaded -
Execution: Modified Malicious Skill Executed -
Execution: Modified Malicious Skill Loaded -
Execution: Netcat Remote Code Execution in Container -
Execution: Possible Arbitrary Command Execution through CUPS (CVE-2024-47177) -
Execution: Possible Remote Command Execution Detected -
Execution: Program Run with Disallowed HTTP Proxy Env -
Execution: Socat Reverse Shell Detected -
Execution: Suspicious OpenSSL Shared Object Loaded -
Exfiltration: Launch Remote File Copy Tools in Container -
Impact: Detect Malicious Cmdlines -
Impact: Remove Bulk Data from Disk -
Impact: Suspicious crypto mining activity using the Stratum Protocol -
Malicious Script Executed -
Malicious URL Observed -
Privilege Escalation: Attempt to Abuse Sudo For Privilege Escalation (CVE-2019-14287) -
Privilege Escalation: Polkit Local Privilege Escalation Vulnerability (CVE-2021-4034) -
Privilege Escalation: Sudo Potential Privilege Escalation (CVE-2021-3156) -
Reverse Shell -
Unexpected Child Shell
進一步瞭解 Agent Platform Threat Detection。
Agent Platform 安全漏洞評估
Agent Platform 安全漏洞評估 (預先發布版) 可找出 Gemini Enterprise Agent Platform 容器映像檔中的安全漏洞和明文密鑰,例如憑證、金鑰、存取權杖或憑證。
詳情請參閱「偵測服務」中的「Agent Platform 安全漏洞評估」。
Notebook Security Scanner
Notebook Security Scanner (預先發布版) 會掃描 Colab Enterprise 筆記本,偵測 Python 套件中的安全漏洞。
詳情請參閱「偵測服務」中的「Notebook Security Scanner」。
Sensitive Data Protection
Sensitive Data Protection 探索服務是一項全代管 Google Cloud服務,可協助您探索、分類及保護機密資料。您可以使用 Sensitive Data Protection,判斷是否儲存了機密或個人識別資訊 (PII)。
詳情請參閱「偵測服務」中的「Sensitive Data Protection 發現項目」。
Model Armor
啟用 Model Armor 並設定 Model Armor,與一或多個 AI 相關元件整合後,即可在 Security Command Center 中調查 Model Armor 發現項目。
在 Security Command Center Standard 服務層級,AI Protection 不支援 Gemini 模型。
如要設定 Model Armor,請參閱「建立及管理範本」。
Risk Engine
Risk Engine 是 Security Command Center 的一項功能,可評估雲端部署項目的風險暴露程度、為安全漏洞發現項目和高價值資源指派受攻擊風險分數,並繪製潛在攻擊者可能採取的路徑,以取得高價值資源。
詳情請參閱「偵測服務」中的「風險引擎」。
AI Protection 支援的資源
AI Protection 會使用下列機制探索資產:
- 宣告式 AI 資產:AI 生命週期管理工具 (例如 Gemini Enterprise Agent Platform) 追蹤的資產。
- 推論 AI 資產:處理 AI 資料或工作負載的一般用途資產 (例如運算和儲存資產)。
- 模型即服務 (僅限 API):以程式輔助方式呼叫第一方或第三方 AI 模型的資產。
本節定義 AI Protection 可協助保護的 AI 項目和資產。
- Gemini Enterprise 和 Agent Search 應用程式:這些 AI 系統可感知環境、做出決策,並採取行動來達成特定目標。
- 端點:AI 應用程式工作負載的範圍,從旨在提高員工生產力的內部工具,到旨在提升使用者體驗和推動業務的消費者導向解決方案。例如 AI 代理、虛擬助理、對話式 AI 聊天機器人和個人化推薦。AI Protection 會在「資產」頁面的「AI 資源」分頁中,將這些端點識別為代理平台端點。
- 資料來源:支援的資料來源包括 BigQuery 資料表、Cloud Storage、Agent Platform 資料集和 Gemini Enterprise 資料儲存庫。
- 模型:AI Protection 會將 AI 模型識別為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。相關示例包括:
- AI 資產:AI 資產會用於機器學習作業管道,並由 AI 工作負載使用。AI 資產類型包括:
- Model Context Protocol (MCP) 伺服器:AI Protection 會識別 Agent Registry 中編錄的 MCP 伺服器。如要使用這項功能,您必須在託管 MCP 伺服器的每個專案中設定 App Hub API。
服務層級異動的影響
如果將服務級別從 Premium 或 Enterprise 降級為 Standard,AI Protection 功能會受到下列影響:
- 偵測服務:Security Command Center 會停用 Standard 方案不支援的偵測服務和 Compliance Manager 架構。詳情請參閱「在法規遵循管理工具中管理服務級別」。
- 調查功能:您無法使用進階調查功能,例如 AI 資產的攻擊路徑模擬、代理安全漏洞評估,以及偵測權限過高的代理。
- 發現項目失效:Standard 級不支援的 Compliance Manager 架構所建立的發現項目會失效。詳情請參閱「在法規遵循管理工具中管理服務級別」。
如果升級回 Premium 或 Enterprise 級別,Security Command Center 會還原進階功能,但不會自動復原降級期間移除的任何架構部署作業。您必須手動重新部署架構。