AI Protection 可偵測威脅，並協助您降低 AI 資產清單的風險，進而管理 AI 工作負載的安全防護機制。本文將概略說明 AI 保護功能，包括優點和幾個重要概念。如要在機構層級啟用 Security Command Center，即可使用 AI Protection。
如果使用進階和企業服務層級，在機構層級啟用 Security Command Center 後，AI 保護功能有助於全面掌握整個 Google Cloud 環境的 AI 安全性。 Google Cloud 控制台中的 AI Protection 資訊主頁會顯示一組一致的小工具和功能，以及從機構內所有專案和資源匯總的資料。
AI Protection 的功能
AI Protection 可透過下列方式，協助您管理 AI 系統的威脅和風險：
- 評估 AI 資產清單：使用 AI Security 資訊主頁和「AI 資源」分頁，評估及瞭解 AI 系統和 AI 資產，包括：
- 找出安全漏洞：找出使用 Agent Runtime 部署的代理式工作負載中的軟體安全漏洞 (CVE)。
- 找出風險：根據攻擊路徑模擬和預先定義的安全圖形規則，找出代理程式風險及其對生態系統的影響，並將代理程式和 MCP 伺服器視為高價值資源。
- 偵測權限過高的代理：偵測獲授權限過高的 Agent Runtime 代理。(預覽)
- 管理風險和法規遵循：主動管理 AI 資產的風險，並確認 AI 部署作業符合相關安全標準。
- 降低法律和財務風險：減少與安全漏洞和法規不符相關的財務、聲譽和法律風險。
- 偵測及管理威脅：及時偵測及因應 AI 系統和資產的潛在威脅。
- 查看單一資訊主頁：透過單一集中式資訊主頁，管理所有 AI 相關風險和威脅。
AI Protection 功能適用情境
AI Protection 可協助機構辨識並降低與 AI 系統和機密資料相關的威脅和風險，進而強化安全防護機制。以下用途範例說明不同機構如何使用 AI 防護功能：
金融服務機構：客戶財務資料
大型金融服務機構使用 AI 模型處理敏感的財務資料。
- 挑戰：使用 AI 模型處理高度敏感的財務資料會帶來多種風險，包括資料外洩、訓練或推論期間資料遭竊，以及基礎 AI 基礎架構中的安全漏洞。
- 用途：AI Protection 會持續監控 AI 工作流程中的可疑活動，偵測未經授權的資料存取權和異常模型行為，執行機密資料分類，並協助您提升 PCI DSS 和 GDPR 等法規的遵循程度。
醫療服務提供者：病患隱私權和法規遵循
某大型醫療服務供應商管理電子健康記錄，並使用 AI 進行診斷和治療規劃，處理受保護的健康資訊 (PHI)。
- 挑戰：AI 模型分析的 PHI 受到《健康保險流通與責任法案》等嚴格法規的約束。風險包括因設定錯誤或惡意攻擊而意外洩漏受保護的健康資訊，這類攻擊會以 AI 系統中的病患資料為目標。
- 用途：AI 保護功能可識別並警示潛在的《健康保險流通與責任法案》違規行為，偵測模型或使用者未經授權存取受保護健康資訊的行為，標記易受攻擊和可能設定錯誤的 AI 服務，以及監控資料外洩情形。
製造和機器人公司：專屬智慧財產權
這家製造公司專門生產先進的機器人和自動化設備，因此非常依賴 AI 技術來提升生產線和機器人控制的效率，而重要的智慧財產權 (IP) 則嵌入在 AI 演算法和製造資料中。
- 挑戰：專有 AI 演算法和敏感的作業資料容易遭內部威脅或外部攻擊者竊取，可能導致競爭劣勢或作業中斷。
- 用途：AI Protection 會監控 AI 模型和程式碼存放區的未授權存取行為，偵測訓練模型遭竊的嘗試和異常資料存取模式，並標記 AI 開發環境中的安全漏洞，防止智慧財產遭竊。
Gemini Enterprise Agent Platform 資產的 Event Threat Detection 規則
Event Threat Detection 會偵測涉及 Gemini Enterprise Agent Platform 資產的幾項潛在威脅，例如異常的服務帳戶活動、私密資訊權限變更，以及代理功能身分濫用。
適用於 AI 資產的類別包括：
- 持續性：新 AI API 方法
- 持續性：AI 服務的新地理區域
- 權限提升：AI 管理員活動出現異常服務帳戶模擬者
- 權限提升：AI 資料存取出現異常服務帳戶模擬者
- 權限提升：AI 管理員活動出現異常多步驟服務帳戶委派情況
- 權限提升：AI 資料存取出現異常多步驟服務帳戶委派情況
- 權限提升：AI 管理員活動出現異常服務帳戶模擬者
- 初始存取權：AI 服務中的休眠服務帳戶活動
- 持續性：將身分與存取權管理異常授權授予代理身分
- 憑證存取：在 Google Cloud外部使用代理身分憑證
- 持續性：敏感 AI 權限新增至自訂角色
- 持續性：AI 代理授予敏感角色
- 持續性：將敏感角色授予外部 AI 代理
- 規避防禦措施：將專案層級的 TokenCreator 角色授予 AI 代理
- 規避防禦機制：將資料夾層級的 TokenCreator 角色授予 AI 代理
- 規避防禦機制：將機構層級的 TokenCreator 角色授予 AI 代理
如需適用於 AI 資產的完整 Event Threat Detection 發現項目清單，請參閱「偵測服務」。
Agent Runtime 的 Agent Platform Threat Detection
Agent Platform Threat Detection 可為部署至 Agent Runtime 的代理程式提供執行階段威脅偵測功能。這項服務會監控執行中的代理程式，找出潛在攻擊並在 Security Command Center 中產生發現項目。
Agent Platform Threat Detection 可為 Agent Runtime 生成發現事項，包括下列類別：
- 惡意中繼站：偵測到隱寫術工具
- 憑證存取：尋找「憑證」 Google Cloud
- 憑證存取：GPG 金鑰偵察
- 憑證存取權：搜尋私密金鑰或密碼
- 規避防禦機制：Base64 ELF 檔案指令列
- 規避防禦措施：已執行 Base64 編碼的 Python 指令碼
- 規避防禦機制：已執行 Base64 編碼的殼層指令碼
- 規避防禦機制：在容器中啟動程式碼編譯器工具
- 執行：容器中的 Netcat 遠端程式碼執行作業
- 執行：可能透過 CUPS 執行任意指令 (CVE-2024-47177)
- 執行：偵測到可能的遠端指令執行作業
- 執行：在禁止使用 HTTP Proxy 的環境中執行程式
- 執行作業：偵測到 Socat 反向殼層
- 執行作業：載入了可疑的 OpenSSL 共用物件
- 外洩：在容器中啟動遠端檔案複製工具
- 影響：偵測惡意指令列
- 影響：從磁碟移除大量資料
- 影響：使用 Stratum 通訊協定的可疑加密貨幣挖礦活動
- 權限提升：濫用 Sudo 來提權 (CVE-2019-14287)
- 權限提升：Polkit 本機提權安全漏洞 (CVE-2021-4034)
- 提權：Sudo 存在提權風險 (CVE-2021-3156)
- 執行：已執行惡意 Python
- 執行：容器跳脫
- 執行：Kubernetes 攻擊工具執行作業
- 執行：本機偵查工具執行作業
- 影響：已執行惡意指令碼
- 影響：偵測到惡意網址
- 執行：非預期的子殼層
如需 Agent Platform Threat Detection 發現項目的完整清單，請參閱「偵測服務」。
AI 保護架構
AI Protection 使用的架構包含特定雲端控制項，這些控制項會以偵測模式自動部署。偵測模式： 雲端控管機制會套用至定義的資源，以進行監控。系統偵測到違規行為並產生快訊。您可以使用架構和雲端控制選項，定義 AI Protection 需求，並將這些需求套用至 Google Cloud 環境。AI Protection 包含預設框架，其中定義了 AI Protection 的建議基準控制項。啟用 AI 保護功能後，系統會自動以偵測模式將預設架構套用至 Google Cloud 機構。
如有需要，您可以複製架構，建立自訂 AI 保護架構。您可以將雲端控管機制新增至自訂架構，並將自訂架構套用至機構、資料夾或專案。舉例來說，您可以建立自訂架構，對特定資料夾套用特定管轄區的控管措施，確保這些資料夾中的資料留在特定地理區域。
預設 AI Protection 架構中的雲端控管
如要進一步瞭解 AI 保護機制架構使用的雲端控制項，請參閱「Google 建議的 AI 基礎功能 - Vertex AI」。
AI Protection 支援的功能領域
本節將說明 AI Protection 功能可協助保護的功能領域。
- AI 工作負載：AI 應用程式工作負載的範圍很廣，從旨在提升員工生產力的內部工具，到為提升使用者體驗和推動業務而設計的消費者解決方案，都屬於此類。例如 AI 代理程式、虛擬助理、對話式 AI 聊天機器人和個人化推薦內容。
- AI 代理：AI 代理是一種 AI 系統，可感知環境、做出決策，並採取行動來達成特定目標。
- AI 模型：AI 模型分為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。例如 Gemini、Llama、翻譯模型，以及用於特定工作的自訂模型。
- AI 資產：AI 資產有助於機器學習作業管道，並供 AI 工作負載使用。AI 資產類型包括：
- 聲明式 AI 資產：Gemini Enterprise Agent Platform 等 AI 生命週期管理工具會追蹤這些資產。
- 推斷的 AI 資產：用於處理 AI 資料或工作負載的一般用途資產，例如運算和儲存空間資產。
- 模型即服務 (僅限 API)：可程式輔助呼叫第一方或第三方 AI 模型的資產。
- 影子 AI 資源：未經授權或未受管理的 AI 資產和工作負載。Security Command Center 的 Google Cloud 控制台不支援影子 AI 資源。