서비스 비율 제한 정책 구성

이 문서에서는 트래픽 과부하로부터 시스템을 보호하고 아웃바운드 웹 트래픽 비용을 관리하기 위해 Secure Web Proxy에 서비스 비율 제한 정책을 구성하는 방법을 설명합니다.

시작하기 전에

  • 보안 웹 프록시 개요 및 서비스 속도 제한 정책 개요 페이지를 검토합니다.

  • 다음 API를 사용 설정합니다.

    • 네트워크 보안 API (networksecurity.googleapis.com)
    • Network Services API (networkservices.googleapis.com)

    API를 사용 설정하려면 다음 명령어를 실행하세요.

    gcloud services enable \
        networksecurity.googleapis.com \
        networkservices.googleapis.com
    
  • 사용자 계정에 Secure Web Proxy 리소스를 구성하는 데 필요한 관리 역할 및 권한이 있는지 확인합니다.

  • 정책을 만들려면 Secure Web Proxy 인스턴스가 활성 상태여야 합니다. 자세한 내용은 Secure Web Proxy 인스턴스 배포를 참조하세요.

  • 선택사항: 클라이언트 인증서 ID (예: CLIENT_CERT_COMMON_NAME)를 기반으로 속도 제한 정책을 만들려면 프런트엔드 상호 TLS (mTLS)를 구성해야 합니다.

서비스 비율 제한 정책 설정

서비스 속도 제한 정책을 만들려면 YAML 파일에서 구성을 정의한 후 해당 파일을 보안 웹 프록시로 가져옵니다.

  1. my-rate-limit-policy.yaml 파일을 만든 후 정책 매개변수를 지정합니다.

    다음 예에서는 아웃바운드 트래픽을 위해 Secure Web Proxy 게이트웨이의 각 에이전트에 대해 대규모 언어 모델 (LLM) 제공업체 (foo.com)로 전송되는 요청 수를 분당 100개 요청으로 제한합니다. 각 에이전트는 클라이언트 인증서의 일반 이름으로 식별됩니다.

      name: "projects/ PROJECT_ID /locations/ LOCATION /rateLimitPolicies/test-policy"
      description: "Simple agent for LLM rate limiting."
      httpRules:
      # Match on the provider host name.
      - to:
          destination:
            hosts:
            - exact: "foo.com"
    
        # default RPM bucket
        rateLimitActions:
        - rateLimitBucket: "rl_default_rpm_limit"
    
      rateLimitBuckets:
      - name: "rl_default_rpm_limit"
        # Identify client by its client cert name
        keys:
        - keyType: PRINCIPAL
          principalType: CLIENT_CERT_COMMON_NAME
        defaultLimit:
          countLimit:
            count: 100
            interval: 1
            intervalUnit: MINUTES
    
      targets:
      - resource: "projects/ PROJECT_ID /locations/ LOCATION /gateways/ GATEWAY_NAME "
    

    다음을 바꿉니다.

    • PROJECT_ID: 프로젝트 Google Cloud ID
    • LOCATION: Secure Web Proxy 인스턴스의 리전(예: us-central1)
    • GATEWAY_NAME: Secure Web Proxy 게이트웨이 인스턴스의 이름
  2. 다음 명령어를 사용하여 속도 제한 정책 YAML 파일을 가져옵니다.

    gcloud alpha network-security rate-limit-policies import test-policy \
      --source=my-rate-limit-policy.yaml \
      --location=LOCATION
    

    LOCATION을 Secure Web Proxy 인스턴스의 리전으로 바꿉니다.

다음 단계