這項原則屬於Google Cloud Well-Architected Framework的安全性支柱，提供建議協助您保護 AI 系統。這些建議符合 Google 的安全 AI 架構 (SAIF)，提供實用方法來解決 AI 系統的安全性和風險問題。SAIF 是一項概念架構，旨在提供業界標準，確保以負責任的方式建構及部署 AI。
原則總覽
為確保 AI 系統符合安全性、隱私權和法規遵循要求，您必須採用全方位的策略，從初始設計到部署和營運都納入考量。
Google 運用 AI 強化安全措施，例如識別威脅、自動執行安全工作，以及提升偵測能力，同時在關鍵決策中保留人工介入迴路。
Google 強調以協作方式提升 AI 安全性。這項做法包括與客戶、業界和政府合作，強化 SAIF 指南，並提供實用、可行的資源。
落實這項原則的建議分為以下幾節：
安全使用 AI 的建議
如要安全使用 AI，您需要基礎安全控管機制和 AI 專屬安全控管機制。本節提供建議總覽，確保 AI 和機器學習部署作業符合貴組織的安全性、隱私權和法規遵循要求。如要概略瞭解 Google Cloud中 AI 和機器學習工作負載專屬的架構原則和建議，請參閱 Well-Architected Framework 中的「AI 和機器學習觀點」一文。
明確定義 AI 使用目標和需求
這項建議與下列重點領域相關：
- 雲端管理、風險與法規遵循
- AI 和機器學習安全性
這項建議符合 SAIF 要素，即根據相關業務程序評估 AI 系統風險。設計及開發 AI 系統時，請務必瞭解貴組織的特定業務目標、風險和法規遵循要求。
保護資料安全，避免遺失或不當處理
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
這項建議符合下列 SAIF 元素：
- 為 AI 生態系統奠定完善安全基礎。這項要素包括資料收集、儲存、存取控管，以及防範資料中毒。
- 評估 AI 系統風險。強調資料安全性，以支援業務目標和法規遵循。
確保 AI 管道安全無虞，並能抵禦竄改行為
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
這項建議符合下列 SAIF 元素：
- 為 AI 生態系統奠定完善安全基礎。保護程式碼和模型構件，是建立安全 AI 系統的重要環節。
- 調整控管機制，加快意見回饋循環。由於這對緩解和事件應變至關重要，請追蹤資產和管道執行作業。
使用安全的工具和構件，在安全的系統上部署應用程式
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
在 AI 應用程式中使用安全系統和經過驗證的工具和構件，符合 SAIF 的要素，即為 AI 生態系統和供應鏈奠定完善安全基礎。您可以按照下列步驟，採行這項最佳化建議：
- 為機器學習訓練和部署作業建構安全環境
- 使用經過驗證的容器映像檔
- 套用軟體構件供應鏈級別 (SLSA) 指南
保護及監控輸入內容
這項建議與下列重點領域相關：
- 記錄、稽核與監控
- 資安營運
- AI 和機器學習安全性
這項建議符合 SAIF 元素，即擴大偵測和應變機制，將 AI 納入組織的威脅防禦範圍。為避免發生問題，請務必管理生成式 AI 系統的提示、監控輸入內容，以及控管使用者存取權。
AI 治理建議
本節中的所有建議都與下列重點領域相關：雲端治理、風險和法規遵循。
Google Cloud 提供一組強大的工具和服務，可用於建構負責任且符合倫理的 AI 系統。我們也提供政策、程序和倫理考量架構，可做為開發、部署及使用 AI 系統的指引。
如建議所述，Google 的 AI 治理做法遵循下列原則：
- 公平性
- 透明度
- 可靠性
- 隱私權
- 安全性
使用公平性指標
Gemini Enterprise Agent Platform 可以在資料收集或訓練後評估過程中偵測偏誤。Agent Platform 提供模型評估指標，例如資料偏誤和模型偏誤，協助您評估模型偏誤。
這些指標與不同類別 (例如種族、性別和階級) 的公平性有關。不過，解讀統計偏差並非易事，因為類別之間的差異不一定是偏誤或危害信號所致。
使用可解釋 AI
如要瞭解 AI 模型如何做出決策，請使用特徵歸因等可解釋性技術。可解釋性有助於找出模型邏輯中可能隱藏的潛在偏誤。
舉例來說，您可以在 BigQuery ML 中生成特徵型解釋，並在 Agent Platform 中生成表格解釋。
追蹤資料歷程
追蹤 AI 系統所用資料的來源和轉換作業。這項追蹤功能可協助您瞭解資料歷程，並找出潛在的偏誤或錯誤來源。
資料歷程是 Knowledge Catalog 的功能，可以追蹤資料在系統的移動情形，包括來源、傳遞目的地和採用的轉換作業。
建立當責機制
明確劃分 AI 系統開發、部署和成果的責任歸屬。
使用 Cloud Logging 記錄 AI 系統的重要事件和決策。記錄檔提供稽核追蹤記錄，可協助您瞭解系統效能，並找出可改善之處。
使用 Error Reporting 系統性分析 AI 系統發生的錯誤。這項分析可揭露模式，指出潛在偏誤或模型需要進一步調整的部分。
實作差異化隱私
在模型訓練期間，加入雜訊到資料中，使個別資料點難以識別，但仍能讓模型有效學習。您可以使用 BigQuery 中的 SQL，透過差異化私密匯總轉換查詢結果。