Google Cloud サービスとの Model Armor のインテグレーション

Model Armor は、さまざまな Google Cloud サービスと統合されています。

Google Kubernetes Engine（GKE）と Service Extensions
Vertex AI
Gemini Enterprise

GKE と Service Extensions

Model Armor は、Service Extensions を介して GKE と統合できます。Service Extensions を使用すると、内部（Google Cloud サービス）または外部（ユーザー管理）サービスを統合してトラフィックを処理できます。GKE 推論ゲートウェイなどのアプリケーションロードバランサでサービス拡張機能を構成して、GKE クラスタとの間のトラフィックをスクリーニングできます。これにより、AI モデルとのすべてのやり取りが Model Armor で保護されます。詳細については、GKE とのインテグレーションをご覧ください。

Vertex AI

Model Armor は、フロア設定またはテンプレートを使用して、Vertex AI に直接統合できます。このインテグレーションにより、Gemini モデルのリクエストとレスポンスがスクリーニングされ、フロア設定に違反するリクエストとレスポンスがブロックされます。このインテグレーションにより、Vertex AI の Gemini API 内で generateContent メソッドのプロンプトとレスポンスが保護されます。プロンプトとレスポンスのサニタイズ結果を可視化するには、Cloud Logging を有効にする必要があります。詳細については、Vertex AI とのインテグレーションをご覧ください。

Gemini Enterprise

Model Armor は、テンプレートを使用して Gemini Enterprise と直接統合できます。Gemini Enterprise は、ユーザーとエージェント間のやり取りと基盤となる LLM を Model Armor を介してルーティングします。つまり、ユーザーやエージェントからのプロンプトと、LLM によって生成されたレスポンスは、ユーザーに提示される前に Model Armor によって検査されます。詳細については、Gemini Enterprise とのインテグレーションをご覧ください。

始める前に

API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

コンソール

Enable the Model Armor API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.
Enable the API
Model Armor を有効にするプロジェクトを選択します。

gcloud

始める前に、Google Cloud CLI で Model Armor API を使用して、次の処理を行います。

In the Google Cloud console, activate Cloud Shell.

Activate Cloud Shell

At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.
次のコマンドを実行して、Model Armor サービスの API エンドポイントを設定します。
```
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
```
LOCATION は、Model Armor を使用するリージョンに置き換えます。

次のコマンドを実行して、Model Armor を有効にします。

  gcloud services enable modelarmor.googleapis.com --project=PROJECT_ID

PROJECT_ID は、プロジェクトの ID に置き換えます。

Model Armor を統合する際のオプション

Model Armor には、次のインテグレーションオプションがあります。各オプションには、異なる機能が用意されています。

インテグレーションオプション	ポリシーの適用者/検出機能	検出を構成する	検査のみ	検査してブロック	モデルとクラウドの対象範囲
REST API	検出項目	テンプレートのみを使用する	はい	はい	すべてのモデルとすべてのクラウド
Vertex AI（プレビュー）	インライン適用	フロア設定またはテンプレートを使用する	はい	はい	Google Cloudの Gemini（ストリーミングなし）
Google Kubernetes Engine	インライン適用	テンプレートのみを使用する	はい	はい	Google Cloudの OpenAI 形式のモデル
Gemini Enterprise	インライン適用	テンプレートのみを使用する	はい	はい	すべてのモデルとすべてのクラウド

REST API インテグレーションオプションの場合、Model Armor はテンプレートを使用する検出機能としてのみ機能します。つまり、ポリシー違反の可能性を積極的に防止するのではなく、事前定義されたテンプレートに基づいて特定して報告します。Model Armor API と統合すると、アプリケーションはその出力を使用して、提供されたセキュリティ評価の結果に基づいてアクションをブロックまたは許可できます。Model Armor API は、API トラフィックに関連する潜在的な脅威やポリシー違反に関する情報を返します。特に AI/LLM インタラクションの場合に役立ちます。アプリケーションは Model Armor API を呼び出し、レスポンスで受信した情報を使用して、事前定義されたカスタムロジックに基づいて意思決定を行い、アクションを実行できます。

Vertex AI インテグレーションオプションを使用すると、Model Armor はフロア設定またはテンプレートを使用してインライン適用を行います。つまり、Model Armor は、アプリケーションコードを変更することなく、プロセスに直接介入してポリシーを積極的に適用します。

Vertex AI と同様に、GKE 統合オプションと Gemini Enterprise インテグレーションオプションでも、テンプレートのみを使用してインライン適用が可能です。つまり、Model Armor は、アプリケーションコードを変更することなく、推論ゲートウェイ内だけでなく、Gemini Enterprise インスタンス内のユーザーまたはエージェントのインタラクションにもポリシーを直接適用できます。

Model Armor と Gemini Enterprise のインテグレーションでは、最初のユーザープロンプトと最終的なエージェントまたはモデルのレスポンスのみがサニタイズされます。最初のユーザープロンプトと最終的なレスポンス生成の間に行われる中間ステップは、このインテグレーションの対象外です。