AI 保護には、組織またはプロジェクトの AI アセット インベントリを可視化し、セキュリティ検出結果を調査し、リスクと脅威に対する提案された軽減策を確認するためのツールが用意されています。このガイドでは、AI セキュリティ ダッシュボードと [アセット] ページを使用して AI セキュリティを管理する方法について説明します。
Security Command Center のサービスティアによって、[AI セキュリティ] ダッシュボードと [アセット] ページの [AI リソース] タブで使用できる機能が決まります。各サービスティアで使用できる機能については、AI 保護の概要をご覧ください。
始める前に
- AI 保護を構成する。
- AI セキュリティ ダッシュボードと [アセット > AI リソース] タブにアクセスするユーザーに必要な Identity and Access Management（IAM）ロールを付与します。詳細については、必要なロールをご覧ください。
AI セキュリティ ダッシュボードを使用する
AI セキュリティ ダッシュボードでは、組織またはプロジェクトの AI アセット インベントリを可視化し、リスクと脅威に対する提案された軽減策を確認できます。
AI Security ダッシュボードにアクセスする
AI セキュリティ ダッシュボードにアクセスするには、 Google Cloud コンソールで [リスクの概要] > [AI セキュリティ] ページに移動します。
詳細については、AI セキュリティ ダッシュボードをご覧ください。
AI システムのリスク管理について
このセクションでは、AI システムの潜在的なリスクを特定し、AI インベントリの最もリスクの高い問題を表示します。
特定の問題の可視化と詳細を表示するには、問題をクリックします。
AI に対する脅威を表示する
このセクションでは、AI リソースに対する最新の脅威を確認できます。
このセクションでは、次の操作を行うことができます。
- AI リソースに対するすべての脅威を表示するには、[すべて表示] をクリックします。
- 特定の脅威に関する詳細情報を表示するには、その脅威をクリックします。
AI インベントリを可視化する
このセクションでは、生成 AI を使用するプロジェクト、アクティブなカスタムモデル（Premium と Enterprise（非推奨）サービスティアの Gemini モデル）、サードパーティ モデルのトレーニングに使用されるデータセットなど、AI アセット インベントリの概要を視覚的に確認できます。
このセクションでは、次の操作を行うことができます。
- インベントリの詳細を表示するには、可視化のノードをクリックします。
- 個々のアセットの詳細なリストを表示するには、ツールチップをクリックします。このリストには、カスタムビルド モデルまたは Gemini モデル（Premium サービスティアと Enterprise（非推奨）サービスティアで利用可能）が含まれます。
- モデルの詳細を表示するには、モデルをクリックします。このビューには、モデルがホストされているエンドポイントやトレーニング データセットなどの詳細が表示されます。Sensitive Data Protection が有効になっている場合、データセット ビューには、データセットにセンシティブ データが含まれているかどうかも表示されます。
AI フレームワークの検出結果の概要を確認する
このセクションでは、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果を評価する方法について説明します。次のカードが含まれます。
検出結果: このセクションには、AI セキュリティ ポリシーとデータ セキュリティ ポリシーによって生成された検出結果の概要が表示されます（
Gemini model detectedやGemini model not protected by Model Armorなど。Gemini モデルに関連する検出結果は、Premium サービスティアと Enterprise（非推奨）サービスティアで利用できます）。- すべての検出結果を表示するには、[すべての検出結果を表示] をクリックします。
- 特定のカテゴリの検出結果を表示するには、そのカテゴリの横にある検出結果の数値をクリックします。
- 個々の検出結果の詳細を表示するには、検出結果をクリックします。
Vertex AI データセット内のセンシティブ データ: Sensitive Data Protection によって報告された、データセット内のセンシティブ データに関連する検出結果の概要が表示されます。詳細については、Gemini Enterprise Agent Platform の概要をご覧ください。
Model Armor の検出結果を調べる
このセクションには、Model Armor によってスキャンされたプロンプトとレスポンスの合計数と、検出された問題の数のグラフが表示されます。グラフには、プロンプト インジェクション、ジェイルブレイクの試行、センシティブ データ漏洩など、特定の問題タイプの要約統計情報も表示されます。
エージェント ワークロードの場合、Agent Gateway で Model Armor を構成して、エージェントとの間でやり取りされるプロンプトとレスポンスをスクリーニングできます。
このグラフでは、Model Armor が Cloud Monitoring に公開する指標を使用します。詳細については、Model Armor の概要をご覧ください。
Agent Platform の脆弱性評価の検出結果を確認する
Agent Platform Vulnerability Assessment によって生成された検出結果には、シークレットの場所とタイプに関する情報が含まれますが、シークレットの値は含まれません。
Agent Platform の脆弱性評価で生成された検出結果を確認するには、次の操作を行います。
-
Google Cloud コンソールで、Security Command Center の [検出結果] ページに移動します。
- Google Cloud プロジェクトまたは組織を選択します。
- [クイック フィルタ] セクションの [クラス] サブセクションで、[シークレット] を選択します。クエリ結果が更新され、一致する検出結果のみが表示されます。
- 特定の検出結果の詳細を表示するには、[カテゴリ] 列にある検出結果の名前をクリックします。検出結果の詳細パネルが開き、[概要] タブが表示されます。
- [概要] タブの [検出された内容] セクションで、[説明] を確認し、次のリンクをクリックして詳細を確認します。
- ファイル: シークレットが検出された場所に関する情報を確認します。
- シークレットの詳細を表示: 識別されたシークレットのタイプを確認します。
AI リソースを検査する
AI セキュリティ ダッシュボードに加えて、Google Cloud コンソールの [アセット] ページで [AI リソース] タブを使用して、組織またはプロジェクトの AI アセット インベントリを検査してクエリできます。
[AI リソース] タブには、検出された AI システムとアセットの詳細なフィルタリング可能なビューが表示されます。これには次のものが含まれます。
- モデル
- エンドポイント
- データソース
- パイプライン
- エージェント
- Model Context Protocol（MCP）サーバー
- ノートブック
[AI リソース] タブでは、次の操作を行えます。
- AI インベントリを理解する: 組織またはプロジェクト全体でアクティブな AI アセットの包括的なリストを表示します。このリストは、プロジェクト、ロケーション、リソースタイプでフィルタできます。
- セキュリティ調査を実施する: 特定の AI アセットの完全なメタデータ、変更履歴、関連する IAM ポリシーを調べます。
- 関連する検出結果を確認する: 特定の AI アセットに関連するすべてのセキュリティ検出結果をすばやく表示して、リスクの露出を評価し、必要な修復手順を決定します。
コンソールで AI アセットを表示してフィルタリングする方法の詳細については、Security Command Center でモニタリングされているアセットを検査するをご覧ください。
次のステップ
- 詳しくは、AI 保護についての説明をご覧ください。
- AI 保護を構成する。
- AI セキュリティ ダッシュボードを使用してリスクを評価する。