Model Armor を Apigee と統合することで、AI アプリケーションのセキュリティを強化できます。AI アプリケーションの前に Apigee を API ゲートウェイとして使用すると、Model Armor の機能を使用して、アプリケーションに送信される入力と受信されるレスポンスの両方をスクリーニングしてサニタイズできます。
概要
Model Armor ポリシーを Apigee API プロキシに統合して、AI アプリケーションの制御と保護を強化できます。たとえば、Apigee を使用してトークンレベルの割り当てを適用し、ユーザーまたはアプリケーションの 1 日あたりの最大トークン数を制限できます。トークンの使用をきめ細かく制御するには、LLMTokenQuota と PromptTokenLimit を使用します。これらのポリシーは、消費量の急増を防ぐことで、費用の管理、不正使用の防止、トラフィックの安定化に役立ちます。
制限事項
Model Armor を Apigee と統合する場合は、次の制限事項を考慮してください。
- リージョン別の可用性: Model Armor は、すべてのリージョンで利用できるわけではありません。Apigee と Model Armor が同じリージョンで構成されていることを確認します。Apigee と Model Armor を異なるリージョンで構成することは可能ですが、異なるリージョンを使用すると、リージョン間のネットワーク トラバーサルによってレイテンシが追加される可能性があります。パフォーマンスを最適化するには、これらをまったく同じリージョンで構成します。
- Quota: トラフィック量が多い場合は、Model Armor の割り当ての増加が必要になることがあります。調整をリクエストするには、割り当ての調整をリクエストするをご覧ください。デフォルトの割り当てを超える割り当てが必要な場合は、Cloud カスタマーケアにお問い合わせください。他のサービスとの Model Armor 統合に関連する割り当てについては、割り当てを管理するをご覧ください。
- トークン上限: Model Armor には、プロンプトとレスポンスの処理に関するトークン上限があります。この上限はフィルタによって異なります。これらの上限を超えるコンテンツは、完全にスキャンされない可能性があります。
始める前に
- プロジェクトで Model Armor API を有効にします。
- Google Cloud プロジェクトで課金が有効になっていることを確認します。
- Apigee インスタンスで中間環境または包括的環境が使用可能であることを確認します。Model Armor ポリシーは、中間環境と包括的環境にデプロイできます。
- アクティブな Apigee 組織がプロビジョニングされていることを確認します。
Apigee で Model Armor ポリシーを作成して使用するには、特定のロールが必要です。必要なロールについては、Apigee のロールをご覧ください。
仕組み
この統合では、主に次の 2 つの Apigee ポリシーを使用します。
SanitizeUserPrompt: このポリシーを API プロキシのリクエスト フローに追加します。すべての受信リクエストを傍受し、AI アプリケーションに到達する前に Model Armor に送信して検査します。詳細については、SanitizeUserPromptポリシーをご覧ください。SanitizeModelResponse: このポリシーをレスポンス フローに追加します。AI アプリケーションからのレスポンスをインターセプトし、Model Armor に送信して検査してから、レスポンスをクライアントに送信します。詳細については、SanitizeModelResponseポリシーをご覧ください。
Model Armor は、有効な Model Armor テンプレートで定義されたルールに照らしてコンテンツを評価します。Apigee は、検出結果と設定された適用タイプに基づいて、リクエストまたはレスポンスを許可、ブロック、編集します。リクエストまたはレスポンスが編集されている場合は、フロー変数を使用して編集されたデータを抽出し、LLM に渡します。
まず、Apigee コンソールの組み込みの Model Armor を使用したプロキシ プロキシ テンプレートを使用します。このテンプレートは、オプションの SanitizeUserPrompt 構成と SanitizeModelResponse 構成を自動的に追加します。
Model Armor ポリシーを使用して Apigee API プロキシを作成する
- API プロキシをデプロイするサービス アカウントを作成します。
- Apigee API プロキシを作成します。
SanitizeUserPromptとSanitizeModelResponseの XML を編集します。Model Armor を機能させるには、これらのポリシーの XML を編集する必要があります。- API プロキシに Google 認証を追加する。
- API プロキシをデプロイする。
- Model Armor ポリシーをテストする。
構成と使用方法の詳細については、Apigee Model Armor ポリシーの使用を開始するをご覧ください。