Google Cloud Well-Architected Framework のセキュリティの柱におけるこの原則では、AI システムを保護するうえで役に立つ推奨事項が示されています。これらの推奨事項は、Google のセキュア AI フレームワーク（SAIF）に沿っています。このフレームワークは、AI システムのセキュリティとリスクに関する懸念に対処するための実用的なアプローチを提供します。SAIF は、責任を持って AI を構築、デプロイするための業界全体の標準を提供することを目的とした概念フレームワークです。
原則の概要
AI システムがセキュリティ、プライバシー、コンプライアンスの要件を満たすようにするには、初期設計からデプロイと運用に至るまで、包括的な戦略を採用する必要があります。
Google は AI を使用して、脅威の特定、セキュリティ タスクの自動化、検出機能の向上などのセキュリティ対策を強化しながら、重要な意思決定には人間が関与するようにしています。
Google は、AI セキュリティの推進において、コラボレーションを重視したアプローチを強調しています。このアプローチでは、お客様、業界、政府と連携して SAIF ガイドラインを強化し、実用的で実践可能なリソースを提供します。
この原則を実装するための推奨事項は、次のセクションにグループ化されています。
AI を安全に使用するための推奨事項
AI を安全に使用するには、基本的なセキュリティ管理と AI 固有のセキュリティ管理の両方が必要です。このセクションでは、AI と ML のデプロイが組織のセキュリティ、プライバシー、コンプライアンスの要件を満たすようにするための推奨事項の概要について説明します。 Google Cloudの AI ワークロードと ML ワークロードに固有のアーキテクチャ原則と推奨事項の概要について、Well-Architected Framework の AI と ML の視点を確認する。
AI の使用に関する明確な目標と要件を定義する
この推奨事項は、次の重点分野に関連しています。
- クラウドのガバナンス、リスク、コンプライアンス
- AI と ML のセキュリティ
この推奨事項は、周囲のビジネス プロセスにおける AI システムのリスクをコンテキスト化することに関する SAIF 要素に沿っています。AI システムを設計して進化させる際には、特定のビジネスの目標、リスク、コンプライアンス要件を理解することが重要です。
データを安全に保ち、損失や不正使用を防止する
この推奨事項は、次の重点分野に関連しています。
- インフラストラクチャのセキュリティ
- Identity and Access Management
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
この推奨事項は、次の SAIF 要素に沿ったものです。
- 強固なセキュリティ基盤を AI エコシステムまで拡大する。この要素には、データの収集、保存、アクセス制御、データ ポイズニングからの保護が含まれます。
- AI システムのリスクをコンテキスト化する。ビジネスの目標とコンプライアンスをサポートするために、データ セキュリティを重視します。
AI パイプラインの安全性を確保し、改ざんに対して堅牢性を維持する
この推奨事項は、次の重点分野に関連しています。
- インフラストラクチャのセキュリティ
- Identity and Access Management
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
この推奨事項は、次の SAIF 要素に沿ったものです。
- 強固なセキュリティ基盤を AI エコシステムまで拡大する。安全な AI システムを構築するための重要な要素として、コードとモデル アーティファクトを保護します。
- 制御を適応させてフィードバック ループを高速化する。これは、緩和とインシデント対応に重要であるため、アセットとパイプラインの実行を追跡します。
安全なツールとアーティファクトを使用して安全なシステムにアプリをデプロイする
この推奨事項は、次の重点分野に関連しています。
- インフラストラクチャのセキュリティ
- Identity and Access Management
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
AI ベースのアプリケーションで安全なシステムと検証済みのツールとアーティファクトを使用することは、強固なセキュリティ基盤を AI エコシステムとサプライ チェーンに拡大するという SAIF 要素に沿っています。この推奨事項は、次の手順で対応できます。
- ML のトレーニングとデプロイのための安全な環境を実装する
- 検証済みのコンテナ イメージを使用する
- ソフトウェア アーティファクトのためのサプライチェーン レベル（SLSA）ガイドラインを適用する
入力を保護してモニタリングする
この推奨事項は、次の重点分野に関連しています。
- ロギング、監査、モニタリング
- セキュリティ運用
- AI と ML のセキュリティ
この推奨事項は、検出機能と対応機能を拡張して組織の脅威対策に AI を取り込むという SAIF 要素に沿ったものです。問題を回避するには、生成 AI システムのプロンプトを管理し、入力をモニタリングして、ユーザー アクセスを制御することが重要です。
AI ガバナンスに関する推奨事項
このセクションのすべての推奨事項は、クラウドのガバナンス、リスク、コンプライアンスという重点分野に関連しています。
Google Cloud には、責任ある倫理的な AI システムの構築に使用できる、堅牢なツールとサービスが用意されています。また、AI システムの開発、デプロイ、使用をガイドするポリシー、手順、倫理的な考慮事項のフレームワークも提供しています。
Google の推奨事項に反映されているように、Google の AI ガバナンスのアプローチは、次の原則に基づいています。
- 公平さ
- 透明性
- 説明責任
- プライバシー
- セキュリティ
公平性インジケーターを使用する
Gemini Enterprise Agent Platform は、データの収集またはトレーニング後の評価プロセス中にバイアスを検出できます。Agent Platform には、モデルのバイアスの評価に役立つデータバイアスやモデルバイアスなどのモデル評価指標が用意されています。
これらの指標は、人種、性別、階級などのさまざまなカテゴリにわたる公平性に関連しています。ただし、カテゴリ間の差異がバイアスの結果や有害性のシグナルではない可能性があるため、統計的な偏差を解釈することは簡単な作業ではありません。
Explainable AI を使用する
AI モデルがどのように決定を行っているのかを理解するには、特徴アトリビューションなどの説明可能性の手法を使用します。説明可能性は、モデルのロジックに潜む潜在的なバイアスを特定するのに役立ちます。
たとえば、BigQuery ML で特徴ベースの説明を生成し、Agent Platform で表形式の説明を生成できます。
データリネージを追跡する
AI システムで使用されるデータの発生元と変換を追跡します。このトラッキングは、データの流れを把握し、バイアスやエラーの原因を特定するのに役立ちます。
データリネージは Knowledge Catalog の機能で、システム内でのデータの移動（データの送信元、データの送信先、データに適用された変換）を追跡できます。
説明責任を確立する
AI システムの開発、デプロイ、結果に対する責任を明確にします。
Cloud Logging を使用して、AI システムによって行われた主要なイベントと決定をログに記録します。ログは監査証跡を提供し、システムのパフォーマンスを把握して改善すべき領域を特定するのに役立ちます。
Error Reporting を使用して、AI システムで発生したエラーを体系的に分析します。この分析により、潜在的なバイアスや、モデルのさらなる改良が必要な領域を示すパターンを明らかにできます。
差分プライバシーを実装する
モデルのトレーニング中に、データにノイズを追加して、個々のデータポイントを特定しにくくしながら、モデルが効果的に学習できるようにします。BigQuery の SQL を使用すると、差分プライベート集計でクエリの結果を変換できます。