AI Protection 可偵測威脅，並協助您降低 AI 資產清單的風險，進而管理 AI 工作負載的安全防護機制。本文將概略說明 AI 保護功能，包括優點和幾項重要概念。
AI Protection 的功能
AI Protection 提供多項功能，協助您管理 AI 系統的威脅和風險，包括：
- 評估 AI 資源：評估及瞭解 AI 系統和 AI 資產，包括模型和資料集。
- 管理風險和法規遵循：主動管理 AI 資產的風險，並確認 AI 部署作業符合相關安全標準。
- 降低法律和財務風險：減少與安全漏洞和法規不符相關的財務、聲譽和法律風險。
- 偵測及管理威脅：及時偵測並因應 AI 系統和資產的潛在威脅。
- 查看單一資訊主頁：透過單一集中式資訊主頁，管理所有 AI 相關風險和威脅。
AI 保護功能適用情境
AI Protection 可協助機構辨識並降低與 AI 系統和機密資料相關的威脅和風險，進而強化安全防護機制。以下用例說明 AI 防護功能在不同機構的用途：
金融服務機構：客戶財務資料
某大型金融服務機構使用 AI 模型處理敏感的財務資料。
- 挑戰：使用 AI 模型處理高度敏感的財務資料會帶來多項風險，包括資料外洩、訓練或推論期間資料遭竊，以及基礎 AI 基礎架構中的安全漏洞。
- 用途：AI 保護功能會持續監控 AI 工作流程中的可疑活動，偵測未經授權的資料存取和異常模型行為，執行機密資料分類，並協助您提升 PCI DSS 和 GDPR 等法規的遵循程度。
醫療服務提供者：病患隱私權和法規遵循
某大型醫療服務供應商管理電子病歷，並使用 AI 進行診斷和治療規劃，處理受保護的健康資訊 (PHI)。
- 挑戰：AI 模型分析的 PHI 受到《健康保險流通與責任法案》等嚴格法規的約束。風險包括因設定錯誤或惡意攻擊而意外洩漏受保護的健康資訊，這類攻擊會以 AI 系統為目標，竊取病患資料。
- 用途：AI 保護功能可識別並警示潛在的《健康保險流通與責任法案》違規行為，偵測模型或使用者未經授權存取受保護健康資訊的行為，標記可能設定錯誤的 AI 服務，以及監控資料外洩情形。
製造和機器人公司：專屬智慧財產
這家製造公司專門生產先進的機器人和自動化設備，因此非常依賴 AI 技術來提升生產線和機器人控制系統的效能，而重要的智慧財產權 (IP) 則內建於 AI 演算法和製造資料中。
- 挑戰：專有 AI 演算法和敏感的作業資料容易遭內部威脅或外部敵人竊取，可能導致競爭劣勢或作業中斷。
- 用途：AI Protection 會監控 AI 模型和程式碼存放區的未授權存取行為、偵測竊取已訓練模型和異常資料存取模式的嘗試，並標記 AI 開發環境中的安全漏洞，防止智慧財產遭竊。
Vertex AI 資產的 Event Threat Detection 規則
下列 Event Threat Detection 規則會對 Vertex AI 資產執行偵測：
- 持續性：新 AI API 方法
- 持續性：AI 服務的新地理區域
- 權限提升：有人冒用服務帳戶，並出現異常的 AI 管理員活動
- 權限提升：AI 資料存取出現異常服務帳戶模擬者
- 權限提升：AI 管理員活動出現異常多步驟服務帳戶委派情況
- 權限提升：AI 資料存取出現異常多步驟服務帳戶委派情況
- 權限提升：AI 管理員活動出現異常服務帳戶模擬者
- 初始存取權：AI 服務中的休眠服務帳戶活動
如要進一步瞭解 Event Threat Detection，請參閱「Event Threat Detection 總覽」。
AI 保護架構
AI Protection 包含架構，其中有特定雲端控制項會以偵測模式自動部署。偵測模式： 雲端控管機制會套用至定義的資源，以進行監控。系統偵測到違規行為並產生快訊。您可以使用架構和雲端控管機制定義 AI 保護需求，並將這些需求套用至 Google Cloud 環境。AI Protection 包含預設架構，其中定義了 AI Protection 的建議基準控管措施。啟用 AI 保護功能後，系統會自動將預設架構套用至偵測模式下的 Google Cloud 機構。
如有需要，您可以複製架構來建立自訂 AI 保護架構。您可以將雲端控管機制新增至自訂架構，並將自訂架構套用至機構、資料夾或專案。舉例來說，您可以建立自訂架構，將特定管轄區控管措施套用至特定資料夾，確保這些資料夾中的資料留在特定地理區域。
預設 AI 保護架構中的雲端控制項
下列雲端控制項是預設 AI 保護架構的一部分。
| 雲端控管機制名稱 | 說明 |
|---|---|
封鎖 Vertex AI Workbench 執行個體的預設虛擬私有雲網路 |
請勿在預設虛擬私有雲網路中建立 Workbench 執行個體，以免使用權限過於寬鬆的預設防火牆規則。 |
禁止在 JupyterLab 控制台中下載檔案 |
請勿允許從 Workbench 執行個體的 JupyterLab 控制台下載檔案，以降低資料竊取風險，並防範惡意軟體散布。 |
封鎖 Vertex AI 執行階段範本的網際網路存取權 |
請勿在 Colab Enterprise 執行階段範本中允許網際網路存取權，以減少外部受攻擊面，並防範潛在的資料外洩事件。 |
封鎖 Vertex AI Workbench 執行個體的公開 IP 位址 |
請勿允許 Workbench 執行個體使用外部 IP 位址，以減少網際網路曝光度，並降低未經授權存取的風險。 |
封鎖 Vertex AI Workbench 執行個體的 Root 存取權 |
請勿允許 Workbench 執行個體存取根目錄，以免未經授權修改重要系統檔案，或安裝惡意軟體。 |
為 Vertex AI Workbench 執行個體啟用自動升級功能 |
啟用 Workbench 執行個體自動升級功能，確保能使用最新功能、架構更新和安全修補程式。 |
為 Vertex AI 自訂工作啟用 CMEK |
在 Vertex AI 自訂訓練作業中，要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管作業輸入和輸出內容的加密作業。 |
為 Vertex AI 資料集啟用 CMEK |
為 Vertex AI 資料集啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和金鑰管理作業。 |
為 Vertex AI 端點啟用 CMEK |
為 Vertex AI 端點啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管已部署模型的加密作業，以及控管資料存取權。 |
為 Vertex AI Featurestore 啟用 CMEK |
為 Vertex AI 特徵商店啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和存取權。 |
為 Vertex AI 超參數調整工作啟用 CMEK |
在超參數調整作業中要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管模型訓練資料和作業設定的加密作業。 |
為 Vertex AI 中繼資料儲存庫啟用 CMEK |
為 Vertex AI 中繼資料存放區啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管中繼資料加密作業和存取權。 |
為 Vertex AI Models 啟用 CMEK |
為 Vertex AI 模型啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密和金鑰管理作業。 |
為 Vertex AI Notebook 執行階段範本啟用 CMEK |
為 Colab Enterprise 執行階段範本啟用客戶自行管理的加密金鑰 (CMEK)，確保執行階段環境和相關資料安全無虞。 |
為 Vertex AI TensorBoard 啟用 CMEK |
為 Vertex AI TensorBoard 啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管實驗資料和模型視覺化內容的加密作業。 |
為 Vertex AI 訓練管道啟用 CMEK |
在 Vertex AI 訓練管道中，要求使用客戶自行管理的加密金鑰 (CMEK)，進一步控管訓練資料和產生成品的加密作業。 |
為 Vertex AI Workbench 執行個體啟用 CMEK |
為 Vertex AI Workbench 執行個體啟用客戶自行管理的加密金鑰 (CMEK)，進一步控管資料加密事宜。 |
為 Vertex AI Workbench 執行個體啟用「刪除到垃圾桶」功能 |
為 Workbench 執行個體啟用「刪除到垃圾桶」中繼資料功能，提供重要的復原安全網，防止資料遭誤刪。 |
為 Vertex AI 執行階段範本啟用閒置關機功能 |
在 Colab Enterprise 執行階段範本中啟用自動閒置關機功能，即可最佳化雲端成本、改善資源管理，並提升安全性。 |
為 Vertex AI Workbench 執行個體啟用完整性監控功能 |
在 Workbench 執行個體上啟用完整性監控功能，持續根據可信的基準驗證 VM 的啟動完整性。 |
為 Vertex AI 執行階段範本啟用安全啟動功能 |
在 Colab Enterprise 執行階段範本中啟用安全啟動，有助於防範未經授權的程式碼執行作業，並保護作業系統完整性。 |
為 Vertex AI Workbench 執行個體啟用安全啟動功能 |
為 Workbench 執行個體啟用安全啟動功能，有助於防止未經授權或惡意的軟體在啟動程序中執行。 |
在 Vertex AI Workbench 執行個體上啟用 vTPM |
在 Workbench 執行個體上啟用虛擬信任平台模組 (vTPM)，保護啟動程序並進一步控管加密作業。 |
限制 Vertex AI Workbench 執行個體使用預設服務帳戶 |
限制 Workbench 執行個體使用權限過於寬鬆的預設服務帳戶，降低未經授權存取 Google Cloud服務的風險。 |
AI Protection 支援的功能領域
本節定義 AI 保護功能可協助保護的功能領域。
- AI 工作負載：AI 應用程式工作負載的範圍很廣，從旨在提升員工生產力的內部工具，到為提升使用者體驗和推動業務而設計的消費者解決方案，都屬於此類。例如 AI 代理程式、虛擬助理、對話式 AI 聊天機器人，以及個人化推薦內容。
- AI 模型：AI 模型分為基礎 AI 模型、微調 AI 模型、標準第一方 AI 模型和自訂 AI 模型。例如 Gemini、Llama、翻譯模型，以及用於特定工作的自訂模型。
- AI 資產：AI 資產有助於機器學習作業管道，並供 AI 工作負載使用。AI 素材資源類型包括：
- 宣告式 AI 資產：Vertex AI 等 AI 生命週期管理工具會追蹤這些資產。
- 推論的 AI 資產：用於處理 AI 資料或工作負載的一般用途資產，例如運算和儲存資產。
- 模型即服務 (僅限 API)：可程式輔助呼叫第一方或第三方 AI 模型的資產。
使用 AI 安全性資訊主頁
AI 安全性資訊主頁會全面顯示貴機構的 AI 資產清單，並建議可行的風險和威脅管理措施。
存取 AI 安全性資訊主頁
如要存取 AI 安全性資訊主頁，請前往 Google Cloud 控制台的「風險總覽」>「AI 安全性」。
詳情請參閱「AI 安全性資訊主頁」。
瞭解 AI 系統的風險管理
本節提供與 AI 系統相關的潛在風險資訊。您可以查看 AI 資產中的主要風險。
按一下任一問題，即可開啟詳細資料窗格，查看問題的視覺化呈現方式。
查看 AI 威脅
本節提供與 AI 系統相關聯的威脅洞察資訊。您可以查看與 AI 資源相關的近期前 5 大威脅。
你可以在這個頁面進行下列操作：
- 按一下「查看全部」，即可查看與 AI 資源相關的威脅。
- 按一下任一威脅，即可查看威脅的詳細資料。
以圖像呈現 AI 資產
您可以在資訊主頁上查看 AI 資源的視覺化呈現方式，瞭解涉及生成式 AI 的專案摘要、目前使用的第一方和第三方模型，以及用於訓練第三方模型的資料集。
你可以在這個頁面進行下列操作：
- 如要查看商品目錄詳細資料頁面，請按一下視覺化圖表中的任一節點。
- 如要查看個別資產的詳細清單 (例如基礎模型和自建模型)，請按一下工具提示。
- 如要開啟模型的詳細資料檢視畫面，請按一下模型。這個檢視畫面會顯示詳細資料，例如模型代管的端點，以及用於訓練模型的資料集。如果啟用 Sensitive Data Protection，資料集檢視畫面也會顯示資料集是否含有任何機密資料。
查看 AI 架構發現項目摘要
本節說明如何評估及管理 AI 架構和資料安全性政策產生的發現項目。這個部分包含以下項目：
- 發現項目：這個部分會顯示 AI 安全性政策和資料安全性政策生成的發現項目摘要。按一下「查看所有發現項目」，或按一下各發現項目類別的計數，即可查看發現項目詳細資料頁面。按一下發現項目，即可顯示該項目的其他資訊。
- Vertex AI 資料集內的私密/機密資料：這個部分會根據 Sensitive Data Protection 報告的資料集私密/機密資料，顯示發現項目的摘要。詳情請參閱 Vertex AI 簡介。
檢查 Model Armor 發現項目
圖表顯示 Model Armor 掃描的提示詞或回覆總數，以及 Model Armor 偵測到的問題數量。此外，還會顯示偵測到的各種問題 (例如提示注入、越獄偵測和機密資料偵測) 的摘要統計資料。
這項資訊是根據 Model Armor 發布至 Cloud Monitoring 的指標填入。詳情請參閱 Model Armor 總覽
後續步驟
- 瞭解如何設定 AI 保護功能。
- 如要評估風險，請存取資訊主頁資料。