サービス レート制限ポリシーを構成する

このドキュメントでは、Secure Web Proxy のサービス レート制限 ポリシー を構成して、トラフィックの過負荷からシステムを保護し、下り(外向き)ウェブ トラフィックの 費用を管理する方法について説明します。

始める前に

  • Secure Web Proxy の概要 とサービス レート制限ポリシーの概要 のページを確認します。

  • 次の APIを有効にします。

    • ネットワーク セキュリティ API(networksecurity.googleapis.com)
    • Network Services API(networkservices.googleapis.com)

    API を有効にするには、次のコマンドを実行します。

    gcloud services enable \
        networksecurity.googleapis.com \
        networkservices.googleapis.com
    
  • ユーザー アカウントに、Secure Web Proxy リソースを構成するために必要な管理 ロールと権限があることを 確認します。

  • ポリシーを作成するには、Secure Web Proxy インスタンスがアクティブになっている必要があります。 詳細については、Secure Web Proxy インスタンスをデプロイするをご覧ください。

  • 省略可: クライアント証明書 ID(CLIENT_CERT_COMMON_NAME など)に基づいてレート制限ポリシーを作成するには、 フロントエンドの相互 TLS (mTLS)を構成します。

サービス レート制限ポリシーを設定する

サービス レート制限ポリシーを作成するには、YAML ファイルで構成を定義し、そのファイルを Secure Web Proxy にインポートします。

  1. my-rate-limit-policy.yaml ファイルを作成し、ポリシー パラメータを指定します。

    次の例では、下り(外向き)トラフィックの Secure Web Proxy ゲートウェイ上のエージェントごとに、大規模言語モデル(LLM)プロバイダ(foo.com)に送信されるリクエスト数を 1 分あたり 100 リクエストに制限します。各エージェントは、クライアント証明書の共通名で識別されます。

      name: "projects/ PROJECT_ID /locations/ LOCATION /rateLimitPolicies/test-policy"
      description: "Simple agent for LLM rate limiting."
      httpRules:
      # Match on the provider host name.
      - to:
          destination:
            hosts:
            - exact: "foo.com"
    
        # default RPM bucket
        rateLimitActions:
        - rateLimitBucket: "rl_default_rpm_limit"
    
      rateLimitBuckets:
      - name: "rl_default_rpm_limit"
        # Identify client by its client cert name
        keys:
        - keyType: PRINCIPAL
          principalType: CLIENT_CERT_COMMON_NAME
        defaultLimit:
          countLimit:
            count: 100
            interval: 1
            intervalUnit: MINUTES
    
      targets:
      - resource: "projects/ PROJECT_ID /locations/ LOCATION /gateways/ GATEWAY_NAME "
    

    次のように置き換えます。

    • PROJECT_ID: プロジェクト Google Cloud の ID
    • LOCATION: Secure Web Proxy インスタンスのリージョン(例: us-central1)
    • GATEWAY_NAME: Secure Web Proxy ゲートウェイ インスタンスの名前
  2. 次のコマンドを使用して、レート制限ポリシー YAML ファイルをインポートします。

    gcloud alpha network-security rate-limit-policies import test-policy \
      --source=my-rate-limit-policy.yaml \
      --location=LOCATION
    

    LOCATION は、Secure Web Proxy インスタンスのリージョンに置き換えます。

次のステップ