AI 保護には、組織の AI アセット インベントリを可視化し、セキュリティの検出結果を調査し、リスクと脅威に対する軽減策を確認するためのツールが用意されています。このガイドでは、AI セキュリティ ダッシュボードと [アセット] ページを使用して AI セキュリティを管理する方法について説明します。
始める前に
- AI 保護を構成する。
- [**AI セキュリティ**] ダッシュボードと [**アセット > AI リソース**] タブにアクセスするユーザーに必要な Identity and Access Management（IAM）ロールを付与します。詳細については、必要な ロールをご覧ください。
AI セキュリティ ダッシュボードを使用する
AI セキュリティ ダッシュボードを使用すると、組織の AI アセット インベントリを可視化し、リスクと脅威に対する軽減策を確認できます。
AI Security ダッシュボードにアクセスする
AI セキュリティ ダッシュボードにアクセスするには、 Google Cloud コンソールで [リスク の概要 > AI セキュリティ] ページに移動します。
セクションの IAM ロールのいずれかが必要です。
詳細については、AI セキュリティ ダッシュボードをご覧ください。
AI システムのリスク管理について
このセクションでは、AI システムに対する潜在的なリスクを特定し、AI インベントリの最もリスクの高い問題を表示します。
特定の問題の可視化と詳細を表示するには、その問題をクリックします。
AI に対する脅威を表示する
このセクションでは、AI リソースに対する最新の脅威をハイライト表示します。
このセクションでは、次の操作を行うことができます。
- AI リソースに対するすべての脅威を表示するには、[すべて表示] をクリックします。
- 特定の脅威の詳細を表示するには、その脅威をクリックします。
AI インベントリを可視化する
このセクションでは、生成 AI を使用するプロジェクト、アクティブなファーストパーティ モデルとサードパーティ モデル、サードパーティ モデルのトレーニングに使用されるデータセットなど、AI アセット インベントリの概要を視覚的に示します。
このセクションでは、次の操作を行うことができます。
- インベントリの詳細を表示するには、可視化のノードをクリックします。
- 個々のアセット（Gemini モデルやカスタムビルド モデルなど）の詳細なリストを表示するには、ツールチップをクリックします。
- モデルの詳細を表示するには、モデルをクリックします。このビューには、モデルがホストされているエンドポイントやトレーニング データセットなどの詳細が表示されます。Sensitive Data Protection が有効になっている場合、データセット ビューには、データセットにセンシティブ データが含まれているかどうかも表示されます。
AI フレームワークの検出結果の概要を確認する
このセクションでは、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果を評価できます。次のカードが含まれています。
検出結果: このセクションには、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果の概要（
Gemini model detectedやGemini model not protected by Model Armorなど）が表示されます。- すべての検出結果を表示するには、[すべての検出結果を表示] をクリックします。
- 特定のカテゴリの検出結果を表示するには、そのカテゴリの横にある検出結果の数クリックします。
- 個々の検出結果の詳細を表示するには、その検出結果をクリックします。
Vertex AI データセット内のセンシティブ データ: Sensitive Data Protection によって報告された、データセット内のセンシティブ データに関連する検出結果の概要が表示されます。詳細については、Gemini Enterprise Agent Platform の 概要をご覧ください。
Model Armor の検出結果を調べる
このセクションには、Model Armor によってスキャンされたプロンプトとレスポンスの合計数と、検出された問題の数がグラフで表示されます。 グラフには、プロンプト インジェクション、ジェイルブレイクの試行、センシティブ データ漏洩など、特定の問題タイプの要約統計情報も表示されます。
エージェント ワークロードの場合は、エージェント ゲートウェイ（プレビュー）で Model Armor を構成して、エージェントとの間で送受信されるプロンプトと レスポンスをスクリーニングできます。
このグラフでは、Model Armor が Cloud Monitoring に公開する指標を使用します。詳細については、Model Armor の概要をご覧ください。
AI リソースを検査する
AI セキュリティ ダッシュボードに加えて、コンソールの [アセット] ページで [AI リソース] タブを使用して、組織の AI アセット インベントリを検査してクエリを実行できます。Google Cloud
[AI リソース] タブには、検出された AI システムとアセットの詳細なフィルタ可能なビューが表示されます。これには次のものが含まれます。
[AI リソース] タブは、次の目的で使用できます。
- AI インベントリを把握する: プロジェクト、ロケーション、リソース タイプでフィルタされた、組織全体のアクティブな AI アセットの包括的なリストを表示します。
- セキュリティ調査を実施する: 特定の AI アセットの完全なメタデータ、変更 履歴、関連する IAM ポリシーを調べます。
- 関連する検出結果を調べる: 特定の AI アセットに関連付けられているすべてのセキュリティ検出結果をすばやく表示して、リスク エクスポージャーを評価し、必要な修復手順を決定します。
コンソールで AI アセットを表示してフィルタする方法について詳しくは、 Security Command Center でモニタリングされているアセットを検査するをご覧ください。
次のステップ
- AI 保護の詳細を確認する。
- AI 保護を構成する方法を学習する。
- リスクを評価するために、ダッシュボードのデータにアクセスする。