Model Armor を Apigee と統合する

Model Armor を Apigee と統合することで、AI アプリケーションのセキュリティを強化できます。 AI アプリケーションの前に Apigee を API ゲートウェイとして使用すると、Model Armor の機能を使用して、アプリケーションに送信される入力と受信するレスポンスの両方をスクリーニングしてサニタイズできます。

概要

Model Armor ポリシーを Apigee API プロキシに統合して、AI アプリケーションの制御と保護を強化できます。 たとえば、Apigee を使用してトークンレベルの割り当てを適用し、ユーザーまたはアプリケーションを 1 日あたりのトークンの最大数に制限できます。トークンの使用状況を正確に制御するには、 LLMTokenQuota と PromptTokenLimit を使用します。これらのポリシーは、消費量の急増を防ぐことで、費用を管理し、不正使用を阻止し、トラフィックを安定させるのに役立ちます。

制限事項

Model Armor を Apigee と統合する際は、次の制限事項を考慮してください。

  • ご利用いただけるリージョン: Model Armor は一部のリージョンではご利用いただけません。Apigee と Model Armor が同じリージョンで構成されていることを確認してください。Model Armor のロケーションをご覧ください。
  • Quota: トラフィック量が多い場合は、割り当ての増加が必要になることがあります Model Armor の。調整をリクエストするには、 割り当ての調整をリクエストするをご覧ください。 デフォルトの割り当てを超える場合は、Cloud カスタマーケアにお問い合わせください。 Model Armor と他のサービスとの統合に関連する割り当てについては、割り当てを管理するをご覧ください。
  • トークン上限: Model Armor には、トークン上限 プロンプトとレスポンスの処理に関するがあり、フィルタによって異なります。これらの上限を超えるコンテンツは完全にスキャンされない可能性があります。

始める前に

仕組み

この統合では、次の 2 つの主要な Apigee ポリシーを使用します。

  • SanitizeUserPrompt: このポリシーを API プロキシのリクエスト フローに追加します。受信したすべてのリクエストを傍受し、AI アプリケーションに到達する前に Model Armor に送信して検査します。 詳細については、SanitizeUserPrompt ポリシーをご覧ください。
  • SanitizeModelResponse: このポリシーをレスポンス フローに追加します。AI アプリケーションからのレスポンスを傍受し、クライアントにレスポンスを送信する前に Model Armor に送信して検査します。詳細については、 SanitizeModelResponse ポリシーをご覧ください。

Model Armor は、有効な Model Armor テンプレートで定義されたルールに照らしてコンテンツを評価します。検出結果と設定された 適用タイプに基づいて、 Apigee はリクエストまたはレスポンスを許可、ブロック、または編集します。 リクエストまたはレスポンスが編集された場合は、 フロー変数 を使用して編集されたデータを抽出し、LLM に渡します。

まず、Apigee コンソールで組み込みの Proxy with Model Armor プロキシ テンプレートを使用します。このテンプレートでは、オプションの SanitizeUserPrompt 構成と SanitizeModelResponse 構成が自動的に追加されます。

Model Armor ポリシーを使用して Apigee API プロキシを作成する

  1. API プロキシをデプロイするサービス アカウントを作成します。
  2. Apigee API プロキシを作成します。
  3. SanitizeUserPrompt と SanitizeModelResponse の XML を編集します Model Armor が機能するには、これらのポリシーの XML を編集する必要があります。
  4. API プロキシに Google 認証を追加します。
  5. API プロキシをデプロイします。
  6. Model Armor ポリシーをテストします。

構成と使用方法の詳細については、 Apigee Model Armor ポリシーの使用を開始するをご覧ください。