Well-Architected Framework のセキュリティの柱におけるこの原則では、AI システムを保護するうえで役に立つ推奨事項が示されています。Google Cloud これらの 推奨事項は、AI システムのセキュリティとリスクに関する懸念に対処するための実践的なアプローチを提供する Google の セキュア AI フレームワーク（SAIF）に沿ったものです。SAIF は、責任を持って AI を構築、デプロイするための業界全体の標準を提供することを目的としたコンセプト フレームワークです。
原則の概要
AI システムがセキュリティ、プライバシー、コンプライアンスの要件を満たすようにするには、初期設計からデプロイ、運用に至るまで、包括的な戦略を採用する必要があります。この包括的な 戦略は、 SAIF の 6 つの中核要素を適用することで実現できます。
Google は、AI を使用して、脅威の特定、セキュリティ タスクの自動化、検出機能の改善などのセキュリティ対策を強化しています。重要な決定については、人間が関与しています。
Google は、AI セキュリティの推進に共同アプローチを重視しています。このアプローチでは、お客様、業界、政府と連携して SAIF ガイドラインを強化し、実践的で実用的なリソースを提供します。
この原則を実装するための推奨事項は、次のセクションにまとめられています。
AI を安全に使用するための推奨事項
AI を安全に使用するには、基本的なセキュリティ コントロールと AI 固有のセキュリティ コントロールの両方が必要です。このセクションでは、AI と ML のデプロイが組織のセキュリティ、プライバシー、コンプライアンスの要件を満たすようにするための推奨事項の概要について説明します。 の AI ワークロードと ML ワークロードに固有のアーキテクチャ原則と推奨事項の概要について、 Well-Architected Framework の AI と ML の視点 を確認する。 Google Cloud
AI の使用に関する明確な目標と要件を定義する
この推奨事項は、次の 重点分野に関連しています。
- クラウドのガバナンス、リスク、コンプライアンス
- AI と ML のセキュリティ
この推奨事項は、周囲のビジネス プロセスにおける AI システムのリスクをコンテキスト化するという SAIF の要素に沿ったものです。AI システムを設計、進化させる際は、具体的なビジネス目標、リスク、コンプライアンス要件を理解することが重要です。
データを安全に保ち、損失や不正使用を防止する
この推奨事項は、次の 重点分野に関連しています。
- インフラストラクチャのセキュリティ
- ID とアクセスの管理
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
この推奨事項は、次の SAIF 要素に沿ったものです。
- 強固なセキュリティ基盤を AI エコシステムまで拡大する。この要素には、データの収集、保存、アクセス制御、データポイズニングからの保護が含まれます。
- AI システムのリスクをコンテキスト化する。ビジネス目標とコンプライアンスをサポートするために、データ セキュリティを重視します。
AI パイプラインの安全性を確保し、改ざんに対して堅牢性を維持する
この推奨事項は、次の 重点分野に関連しています。
- インフラストラクチャのセキュリティ
- ID とアクセスの管理
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
この推奨事項は、次の SAIF 要素に沿ったものです。
- 強固なセキュリティ基盤を AI エコシステムまで拡大する。安全な AI システムを確立するための重要な要素として、コードとモデルのアーティファクトを保護します。
- フィードバック ループを高速化するためにコントロールを適応させる。緩和とインシデント対応に重要であるため、アセットとパイプラインの実行を追跡します。
安全なツールとアーティファクトを使用して安全なシステムにアプリをデプロイする
この推奨事項は、次の 重点分野に関連しています。
- インフラストラクチャのセキュリティ
- ID とアクセスの管理
- データ セキュリティ
- アプリケーションのセキュリティ
- AI と ML のセキュリティ
AI ベースのアプリケーションで安全なシステムと検証済みのツールとアーティファクトを使用することは、強固なセキュリティ基盤を AI エコシステムとサプライ チェーンに拡大するという SAIF の要素に沿ったものです。この推奨事項は、次の手順で対応できます。
- ML のトレーニングとデプロイのための安全な環境を実装する
- 検証済みのコンテナ イメージを使用する
- ソフトウェア アーティファクトのサプライ チェーン レベル（SLSA） ガイドラインを適用する
入力を保護してモニタリングする
この推奨事項は、次の 重点分野に関連しています。
- ロギング、監査、モニタリング
- セキュリティ運用
- AI と ML のセキュリティ
この推奨事項は、検出と対応を拡張して AI を企業の脅威領域に含めるという SAIF の要素に沿ったものです。問題を回避するには、生成 AI システムのプロンプトを管理し、入力をモニタリングし、ユーザー アクセスを制御することが重要です。
AI ガバナンスに関する推奨事項
このセクションの推奨事項はすべて、次の 重点分野に関連しています。 クラウドのガバナンス、リスク、コンプライアンス。
Google Cloud には、責任ある倫理的な AI システムを構築するために使用できる堅牢なツールとサービスのセットが用意されています。また、AI システムの開発、デプロイ、使用をガイドできるポリシー、手順、倫理的考慮事項のフレームワークも提供しています。
推奨事項に反映されているように、AI ガバナンスに対する Google のアプローチは、次の原則に基づいています。
- 公平さ
- 透明性
- 説明責任
- プライバシー
- セキュリティ
公平性インジケーターを使用する
Vertex AI は、データの収集中またはトレーニング後の評価プロセス中にバイアスを検出できます。Vertex AI には、モデルのバイアスの評価に役立つ、 モデル評価指標 （データバイアスやモデルバイアスなど）が用意されています。
これらの指標は、人種、性別、階級などのさまざまなカテゴリの公平性に関連しています。ただし、カテゴリ間の違いがバイアスや危害の兆候の結果ではない可能性があるため、統計的な偏差を解釈するのは簡単ではありません。
Vertex Explainable AI を使用する
AI モデルがどのように意思決定を行うかを理解するには、Vertex Explainable AI を使用します。この機能は、モデルのロジックに隠されている可能性のあるバイアスを特定するのに役立ちます。
この説明可能性機能は、特徴ベースの説明を提供する BigQuery ML と Vertex AIに統合されています。説明可能性は、BigQuery ML で利用することも、 Vertex AI にモデルを登録してそこで利用することもできます。
データリネージを追跡する
AI システムで使用されるデータの発生元と変換を追跡します。 この追跡により、データの流れを把握し、バイアスやエラーの潜在的な原因を特定できます。
データリネージ は Knowledge Catalog の機能で、システム内でのデータの移動（データの送信元、データの送信先、データに適用された変換）を追跡できます。
説明責任を確立する
AI システムの開発、デプロイ、結果に対する明確な責任を確立します。
Cloud Logging を使用して、AI システムによって行われた重要なイベントと決定を記録します。ログは監査証跡を提供し、システムのパフォーマンスを把握し、改善すべき領域を特定するのに役立ちます。
Error Reporting を使用して、AI システムによって発生したエラーを体系的に分析します。この分析により、根本的なバイアスやモデルのさらなる改善が必要な領域を示すパターンを明らかにできます。
差分プライバシーを実装する
モデルのトレーニング中に、 ノイズを追加 して、個々のデータポイントを特定しにくくしながら、 モデルが効果的に学習できるようにします。BigQuery の SQLを使用すると、クエリの結果を、差分プライベート 集計で変換できます。