Ratenbegrenzungsrichtlinien für Dienste konfigurieren

Vorschau

Dieses Produkt oder Feature unterliegt den "Nutzungsbedingungen für Pre-GA-Angebote" im Abschnitt "Allgemeine Dienstbedingungen" der Dienstspezifischen Nutzungsbedingungen. Pre-GA-Produkte und -Features sind "im Ist-Zustand" verfügbar und bieten möglicherweise nur eingeschränkten Support. Weitere Informationen finden Sie unter den Beschreibungen der Startphase.

In diesem Dokument wird beschrieben, wie Sie Richtlinien zur Ratenbegrenzung für Dienste für Secure Web Proxy konfigurieren, um Ihre Systeme vor Traffic-Überlastungen zu schützen und die Kosten für ausgehenden Webtraffic zu verwalten.

Hinweis

• Lesen Sie die Übersichtsseiten zu Secure Web Proxy und Richtlinien zur Ratenbegrenzung für Dienste.

• Aktivieren Sie folgende APIs:

  • Network Security API (networksecurity.googleapis.com)
  • Network Services API (networkservices.googleapis.com)

  Aktivieren Sie die APIs mit folgendem Befehl:

  gcloud services enable \
      networksecurity.googleapis.com \
      networkservices.googleapis.com
  

• Prüfen Sie, ob Ihr Nutzerkonto die erforderlichen Administrator rollen und ‑berechtigungen zum Konfigurieren von Secure Web Proxy-Ressourcen hat.

• Eine Secure Web Proxy-Instanz muss aktiv sein, bevor Sie eine Richtlinie erstellen können. Weitere Informationen finden Sie unter Secure Web Proxy Instanz bereitstellen.

• Optional: Wenn Sie eine Richtlinie zur Ratenbegrenzung basierend auf Clientzertifikat identitäten (z. B. CLIENT_CERT_COMMON_NAME) erstellen möchten, stellen Sie sicher, dass Sie gegenseitige TLS (mTLS) für das Frontend konfigurieren.

Richtlinie zur Ratenbegrenzung für Dienste einrichten

Wenn Sie eine Richtlinie zur Ratenbegrenzung für Dienste erstellen möchten, definieren Sie die Konfiguration in einer YAML-Datei und importieren Sie diese Datei dann in Secure Web Proxy.

1. Erstellen Sie die Datei my-rate-limit-policy.yaml und geben Sie die Richtlinienparameter an.

   Im folgenden Beispiel wird die Anzahl der Anfragen, die an einen Anbieter von Large Language Models (LLMs) (foo.com) gesendet werden, für jeden Agenten auf einem Secure Web Proxy-Gateway für ausgehenden Traffic auf 100 Anfragen pro Minute begrenzt. Jeder Agent wird durch den allgemeinen Namen in seinem Clientzertifikat identifiziert.

     name: "projects/ PROJECT_ID /locations/ LOCATION /rateLimitPolicies/test-policy"
     description: "Simple agent for LLM rate limiting."
     httpRules:
     # Match on the provider host name.
     - to:
         destination:
           hosts:
           - exact: "foo.com"
   
       # default RPM bucket
       rateLimitActions:
       - rateLimitBucket: "rl_default_rpm_limit"
   
     rateLimitBuckets:
     - name: "rl_default_rpm_limit"
       # Identify client by its client cert name
       keys:
       - keyType: PRINCIPAL
         principalType: CLIENT_CERT_COMMON_NAME
       defaultLimit:
         countLimit:
           count: 100
           interval: 1
           intervalUnit: MINUTES
   
     targets:
     - resource: "projects/ PROJECT_ID /locations/ LOCATION /gateways/ GATEWAY_NAME "
   

   Ersetzen Sie Folgendes:

   • PROJECT_ID: ID Ihres Google Cloud Projekts
   • LOCATION: Region Ihrer Secure Web Proxy-Instanz, z. B. us-central1
   • GATEWAY_NAME: Name Ihrer Secure Web Proxy-Gateway-Instanz

2. Importieren Sie die YAML-Datei für die Richtlinie zur Ratenbegrenzung mit dem folgenden Befehl:

   gcloud alpha network-security rate-limit-policies import test-policy \
     --source=my-rate-limit-policy.yaml \
     --location=LOCATION
   

   Ersetzen Sie LOCATION durch die Region Ihrer Secure Web Proxy-Instanz.

Nächste Schritte

• Logeintrag für eine Richtlinie zur Ratenbegrenzung für Dienste
• Logbenachrichtigungen für gedrosselten Traffic konfigurieren