Google Cloud サービスとの Model Armor の統合

Model Armor は、さまざまな Google Cloud サービスと統合されています。

• Google Kubernetes Engine（GKE）とサービス拡張機能
• Vertex AI
• Google Agentspace

GKE と Service Extensions

Model Armor は、Service Extensions を介して GKE と統合できます。サービス拡張機能を使用すると、内部（Google Cloud サービス）または外部（ユーザー管理）サービスを統合してトラフィックを処理できます。GKE 推論ゲートウェイなどのアプリケーション ロードバランサでサービス拡張機能を構成して、GKE クラスタとの間のトラフィックをスクリーニングできます。これにより、AI モデルとのすべてのやり取りが Model Armor で保護されていることを確認します。詳細については、GKE との統合をご覧ください。

Vertex AI

プレビュー版

この機能は、 サービス固有の規約の対象となります。 pre-GA の機能は「現状のまま」で提供されるものであり、サポートが制限されることがあります。 詳細については、リリース ステージの説明をご覧ください。

Model Armor は、フロア設定またはテンプレートを使用して、Vertex AI に直接統合できます。この統合により、Gemini モデルのリクエストとレスポンスがスクリーニングされ、フロア設定に違反するリクエストとレスポンスがブロックされます。この統合により、Vertex AI の Gemini API 内で generateContent メソッドのプロンプトとレスポンスが保護されます。プロンプトとレスポンスのサニタイズ結果を可視化するには、Cloud Logging を有効にする必要があります。詳細については、Vertex AI との統合をご覧ください。

Google Agentspace

Model Armor は、テンプレートを使用して Google Agentspace と直接統合できます。Google Agentspace は、ユーザーとエージェント間のやり取りと基盤となる LLM を Model Armor を介してルーティングします。つまり、ユーザーやエージェントからのプロンプトと、LLM によって生成されたレスポンスは、ユーザーに提示される前に Model Armor によって検査されます。詳細については、Google Agentspace との統合をご覧ください。

始める前に

API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

コンソール

1. Enable the Model Armor API.

   Roles required to enable APIs

   To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

   Enable the API

2. Model Armor を有効にするプロジェクトを選択します。

gcloud

始める前に、Google Cloud CLI で Model Armor API を使用して、次の処理を行います。

1. In the Google Cloud console, activate Cloud Shell.

   Activate Cloud Shell

   At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

2. 次のコマンドを実行して、Model Armor サービスの API エンドポイントを設定します。

   gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

   LOCATION は、Model Armor を使用するリージョンに置き換えます。

次のコマンドを実行して、Model Armor を有効にします。

  gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID
   

PROJECT_ID は、プロジェクトの ID に置き換えます。

Model Armor を統合する際のオプション

Model Armor には次の統合オプションがあります。各オプションには、異なる機能が用意されています。

統合オプション	ポリシーの適用者/検出器	検出を構成する	検査のみ	検査してブロック	モデルとクラウドの対象範囲
REST API	検出項目	テンプレートのみを使用する	○	○	すべてのモデルとすべてのクラウド
Vertex AI（プレビュー）	インライン適用	フロア設定またはテンプレートを使用する	○	○	Google Cloudでの Gemini（ストリーミング以外）
Google Kubernetes Engine	インライン適用	テンプレートのみを使用する	○	○	Google Cloudの OpenAI 形式のモデル
Google Agentspace	インライン適用	テンプレートのみを使用する	○	○	すべてのモデルとすべてのクラウド

REST API 統合オプションの場合、Model Armor はテンプレートを使用する検出器としてのみ機能します。つまり、ポリシー違反の可能性を積極的に防止するのではなく、事前定義されたテンプレートに基づいて特定して報告します。Model Armor API と統合すると、アプリケーションはその出力を使用して、提供されたセキュリティ評価の結果に基づいてアクションをブロックまたは許可できます。Model Armor API は、API トラフィックに関連する潜在的な脅威やポリシー違反に関する情報を返します。特に AI/LLM のインタラクションの場合に役立ちます。アプリケーションは Model Armor API を呼び出し、レスポンスで受信した情報を使用して、事前定義されたカスタム ロジックに基づいて意思決定を行い、アクションを実行できます。

Vertex AI 統合オプションを使用すると、Model Armor はフロア設定またはテンプレートを使用してインライン適用を行います。つまり、Model Armor は、アプリケーション コードを変更することなく、プロセスに直接介入してポリシーを積極的に適用します。

Vertex AI と同様に、GKE 統合オプションと Google Agentspace 統合オプションでも、テンプレートを使用したインライン適用のみが提供されます。つまり、Model Armor は、アプリケーション コードを変更することなく、推論ゲートウェイ内だけでなく、Google Agentspace インスタンス内のユーザーまたはエージェントのインタラクションにもポリシーを直接適用できます。

Model Armor と Google Agentspace の統合では、最初のユーザー プロンプトと最終的なエージェントまたはモデルのレスポンスのみがサニタイズされます。最初のユーザー プロンプトと最終的なレスポンス生成の間に行われる中間ステップは、この統合の対象外です。

フィードバックを送信