Model Armor を Gemini Enterprise と統合すると、AI エージェントに送られるユーザー プロンプトや、エージェントからのレスポンスをスクリーニングできるようになり、プロンプト インジェクション、有害なコンテンツ、機密データの漏洩などのリスクを軽減できます。統合が設定されると、すべてのユーザー操作に適用されます。
始める前に
Model Armor テンプレートを作成し、Gemini Enterprise と同じ Google Cloudプロジェクトにあることを確認します。テンプレートのロケーションと Gemini Enterprise インスタンスのロケーションが一致している必要があります。サポートされているロケーションの詳細については、Model Armor のロケーションと Gemini Enterprise のロケーションをご覧ください。
必要なロール
Model Armor を Gemini Enterprise と統合する前に、必要なロールがあることを確認してください。
Model Armor テンプレートの作成と管理に必要な権限を取得するには、Model Armor テンプレートに対する Model Armor 管理者 （roles/modelarmor.admin）IAM ロールを付与するよう管理者に依頼してください。ロールの付与については、プロジェクト、フォルダ、組織に対するアクセス権の管理をご覧ください。
必要な権限は、カスタムロールや他の事前定義ロールから取得することもできます。
統合を有効にする
Model Armor で Gemini Enterprise を有効にするには、セキュリティ管理者が Model Armor でポリシーを作成し、Gemini Enterprise 管理者がこれらのポリシーを Gemini Enterprise インスタンスに適用します。
制限事項と考慮事項
Model Armor を Gemini Enterprise と統合する場合は、次の制限事項と考慮事項を考慮してください。
- 匿名化とマスキング: Model Armor がプロンプトまたはレスポンスのスキャンに Sensitive Data Protection テンプレートを使用する場合、Model Armor は、コンテンツがテンプレートで定義された infoType 検出機能の条件と一致するかどうかを確認します。Sensitive Data Protection はテンプレート構成に基づく匿名化をサポートしていますが、Model Armor は匿名化またはマスキングされたデータを Gemini Enterprise に渡しません。コンテンツが Sensitive Data Protection の infoType 検出器をトリガーし、適用タイプが
INSPECT_AND_BLOCKの場合、Gemini Enterprise はリクエストまたはレスポンスを匿名化するのではなく、ブロックします。 ドキュメントと画像のスクリーニング: テキスト プロンプトに加えて、ドキュメント（PDF など）と画像もサポートしています。統合では、Gemini Enterprise アシスタントにアップロードされた場合にのみ、次のファイルがスクリーニングされます。
- 直接アップロードした画像。
- 他のファイルやドキュメントに含まれている画像を直接アップロードした場合。
ドキュメント内のファイルまたは画像が構成されたポリシーに違反している場合、ファイルまたはドキュメント全体が破棄され、リクエストから除外されます。
スクリーニングされたエージェントとやり取り: スクリーニングは、Gemini Enterprise アシスタント、従業員が作成したエージェント（Gemini Enterprise アプリで Workflow Builder を使用して作成）、Google が作成したエージェントに適用されます。組織のカスタム エージェント（ADK、A2A、Dialogflow など）とのやり取りは審査されません。
トークン上限と割り当て: Gemini Enterprise で Model Armor を使用する場合、トークン上限は直接設定されませんが、Model Armor 評価の合計スループットは Gemini Enterprise システムの割り当てと Model Armor API のレート上限に則って制御されます。
サービスレベル契約（SLA）: Gemini Enterprise にはサービスレベル契約が用意されています。Gemini Enterprise が Model Armor を使用するように構成されている場合、フェイル オープン モードとフェイル クローズ モードのどちらが使用されているかに関係なく、ブロックされたクエリは SLA 違反としてカウントされません。
コンプライアンス: Gemini Enterprise と Model Armor はどちらも、さまざまなコンプライアンス認証を提供しています。両方を組み合わせて使用する場合、有効なコンプライアンス認証は両方のプロダクトの共通サブセットになります。両方のプロダクトのコンプライアンス認証を確認し、規制要件を満たしていることを確認します。
仕組み
統合を構成すると、Gemini Enterprise は、選択したテンプレートを使用してスクリーニングを行うために、ユーザー入力とアシスタント出力を Model Armor API を介してルーティングします。Gemini Enterprise は、サービス エージェントを使用して Model Armor に対して認証を行います。Model Armor は、テンプレートで定義されたフィルタ構成に基づいて応答します。Gemini Enterprise は、リクエストまたはレスポンスをブロックするか、許可するかを決定します。
たとえば、Gemini Enterprise は個人を特定できる情報を含むリクエストを検出し、審査のために Model Armor に転送します。個人情報（PII）をブロックするように Model Armor テンプレートが構成されている場合、Gemini Enterprise にリクエストをブロックするように指示します。
ロギング
Model Armor は、サニタイズ リクエストとそのレスポンスのプラットフォーム ログを Cloud Logging に生成します。Model Armor 監査ログを表示するには、プライベート ログ閲覧者（roles/logging.privateLogViewer）の IAM ロールが必要です。自動生成された監査ログの詳細については、Model Armor の監査ロギングをご覧ください。
サニタイズ オペレーションをログに記録するには、templateMetadata.logSanitizeOperations フィールドを true に設定します。詳細については、テンプレートでロギングを構成するをご覧ください。