GKE용 Agent Gateway 개요

Google Kubernetes Engine(GKE)에 자율 AI 에이전트를 배포하면 해당 워크로드가 모델 컨텍스트 프로토콜(MCP) 서버, SaaS API, 기타 에이전트와 같은 외부 리소스에 연결됩니다.

AI 에이전트는 사용자 프롬프트를 기반으로 실행 경로를 동적으로 결정하므로 네트워크 종속 항목이 실시간으로 변경됩니다. Agent Gateway는 이러한 동적 에이전트 트래픽을 보호, 관리, 모니터링하는 중앙 집중식 거버넌스 모델을 제공합니다.

이 문서는 GKE 인프라를 관리하고 보호하는 플랫폼 엔지니어와 GKE에서 AI 에이전트를 빌드하고 배포하는 개발자를 대상으로 합니다.

Agent Gateway를 사용해야 하는 이유

GKE용 Agent Gateway는 Fleet 전체의 모든 에이전트 상호작용에 거버넌스 및 액세스 정책을 중앙에서 시행하여 자체 관리형 GKE 호스팅 에이전트를 관리하는 일관된 사용자 환경을 제공합니다.

  • 시맨틱 컨텍스트 적용: 제로 트러스트 원칙을 적용합니다. 게이트웨이는 방화벽 규칙을 넘어 모든 상호작용의 시맨틱 컨텍스트, 인텐트, 페이로드 콘텐츠(프롬프트/대답)를 고려합니다.
  • 복합 승인: 'ID 필수 요소'를 해결합니다. 보안 모델은 복합 승인을 처리하여 에이전트가 사용자를 대신하여 작업을 수행할 때마다 에이전트의 ID(코드가 신뢰할 수 있는가?)와 사용자의 ID(사용자에게 권한이 있는가?)를 모두 검증하는 정책을 적용할 수 있습니다.
  • AI 가드레일: 프롬프트 인젝션, 탈옥, 데이터 무단 반출로부터 워크로드를 보호하기 위해 게이트웨이가Google Cloud Model Armor와 통합됩니다. 확장 프로그램 바인딩을 사용하면 요청 및 응답 정제 템플릿을 게이트웨이에 연결하여 페이로드가 에이전트 또는 외부 대상에 도달하기 전에 평가할 수 있습니다.
  • 자동 암호화: 게이트웨이는 사이드카 없는 GKE 앰비언트 프록시 및 기타 네트워킹 서비스를 사용하여 게이트웨이와 에이전트 워크로드 간의 mTLS 핸드셰이크, TLS 종료, 검사를 자동화하므로 코드 변경이나 커스텀 인증서 관리가 필요하지 않습니다.
  • 턴키 모니터링 가능성: 관리형 에이전트는 실행 경로, 스택 트레이스, 속성, 단계별 입력 및 출력을 표시하는 대화형 폭포식 구조 트레이스가 포함된 세션 추적을 비롯한 풍부한 원격 분석을 자동으로 표시합니다.

주요 개념

GKE에서 Agent Gateway를 사용하려면 다음 개념과 제품을 이해하는 것이 중요합니다.

  • GKE 주변 프록시: GKE 네트워킹을 간소화하는 사이드카 없는 서비스 메시 데이터 영역입니다. 상호 TLS(mTLS)를 자동화하고 아웃바운드 에이전트 트래픽을 가로채는 데 사용합니다.
  • 보안 웹 프록시(SWP): 에이전트의 아웃바운드 트래픽에 보안 정책을 적용하고 TLS 검사를 수행하는 데 사용되는 투명한 전달 프록시입니다.
  • GKE 게이트웨이: 인바운드 클라이언트-에이전트 트래픽에 대한 애플리케이션 부하 분산기를 프로비저닝하는 데 사용되는 Kubernetes Gateway API의 GKE 구현입니다.
  • Model Armor: 프롬프트 인젝션 및 데이터 무단 반출을 방지하기 위해 수신 프롬프트와 발신 응답을 정제하는 데 사용되는 AI 보안 서비스입니다.
  • IAP(Identity-Aware Proxy): 중앙 승인 레이어를 설정하는 서비스로, 여기서는 Secure Web Proxy를 통해 이그레스하는 트래픽에 액세스 정책을 시행하는 데 사용됩니다.
  • 에이전트 ID: 에이전트에 할당된 안전한 워크로드 바인딩 SPIFFE ID로, 인증 및 액세스 제어에 사용됩니다.
  • Agent Registry: 조직의 모든 승인된 에이전트, 모델 컨텍스트 프로토콜(MCP) 서버, 도구의 중앙 디렉터리입니다.
  • 확장 프로그램 바인딩: 맞춤설정 가능한 승인 및 콘텐츠 보안 확장 프로그램(예: Model Armor)을 Agent Gateway에 연결하여 페이로드를 평가하는 데 사용되는 메커니즘입니다.

작동 방식

Google Cloud 네트워킹 서비스로 Agent Gateway를 구성하여 인그레스 및 이그레스 트래픽 패턴 전반에서 특정 에이전트형 상호작용 흐름을 보호합니다.

  • 이그레스(에이전트에서 어디로든): 에이전트의 아웃바운드 요청을 외부 서비스, 도구, 기타 에이전트로 안전하게 라우팅합니다.Google Cloud Secure Web Proxy(SWP)를 통해 트래픽을 가로채고 리디렉션하도록 GKE 앰비언트 프록시를 구성합니다. SWP는 보안 정책을 시행하고, TLS 검사를 수행하며, 액세스 결정을Google Cloud IAP(Identity-Aware Proxy) 또는 커스텀 확장 프로그램에 위임할 수 있게 해줍니다.
  • 인그레스(클라이언트-에이전트 또는 MCP 서버): 외부 클라이언트와 Google 호스팅 서비스가 GKE 클러스터의 자체 관리형 에이전트와 상호작용하는 방식을 관리합니다. 표준 Google Cloud애플리케이션 부하 분산기(GKE 게이트웨이)를 프로비저닝하고 Kubernetes 커스텀 리소스를 사용하여 포괄적인 가드레일을 적용합니다. GCPAuthzPolicy를 사용하여 ID, 메타데이터, MCP 도구 RBAC 제어를 시행하고, GCPExtensionBinding를 사용하여 페이로드 평가 및 위임된 가드레일(예: Model Armor)을 시행합니다.

지원되는 버전 및 리전

클러스터는 빠른 출시 채널에서 제공되는 GKE 버전 1.37.2-gke.1042000 이상을 실행해야 합니다.

또한 다음 리전에서만 GKE용 Agent Gateway를 사용할 수 있습니다.

  • europe-west1
  • us-central1

Agent Gateway를 사용해야 하는 경우

GKE 클러스터에 자체 관리형 AI 에이전트를 배포하고 다음 중 하나를 수행해야 하는 경우 Agent Gateway를 사용하세요.

  • 에이전트가 사용자, 다른 에이전트, 외부 도구 및 서비스와 상호작용하는 방식을 보호하고 관리합니다.
  • 개발자의 작업 속도를 늦추지 않으면서 엄격한 보안 상황을 유지하세요.
  • 에이전트의 성능, 동작, 상태를 모니터링합니다.
  • 상호 TLS(mTLS) 및 TLS 검사를 포함한 복잡한 네트워킹 작업을 자동화합니다.
  • 프롬프트 정제와 같은 AI 관련 가드레일을 적용합니다.

기본 요건 및 요구사항

인그레스 또는 이그레스 거버넌스를 구성하기 전에 다음 기본 요건을 완료하세요.

  1. 필요한 API를 사용 설정합니다.

    gcloud services enable \
        agentregistry.googleapis.com \
        certificatemanager.googleapis.com \
        gkehub.googleapis.com \
        iap.googleapis.com \
        modelarmor.googleapis.com \
        networksecurity.googleapis.com \
        networkservices.googleapis.com \
        privateca.googleapis.com \
        serviceextensions.googleapis.com
    
  2. 앰비언트 네트워킹용으로 구성된 새 GKE 클러스터를 만듭니다. 클러스터는 빠른 출시 채널에서 제공되는 GKE 버전 1.37.2-gke.1042000 이상을 실행해야 합니다.

    필요한 모든 기능이 사용 설정된 Standard 클러스터를 만들려면 다음 명령어를 실행합니다.

    gcloud beta container clusters create CLUSTER_NAME \
        --machine-type=e2-standard-4 \
        --enable-ambient-networking \
        --enable-dataplane-v2 \
        --enable-fleet \
        --gateway-api=standard \
        --location=LOCATION \
        --release-channel=rapid \
        --workload-pool=PROJECT_ID.svc.id.goog
    

    다음을 바꿉니다.

    • CLUSTER_NAME: 클러스터 이름입니다.
    • LOCATION: 클러스터의 리전 또는 영역입니다.
    • PROJECT_ID: Google Cloud 프로젝트 ID입니다.
  3. 클러스터와 통신하도록 kubectl을 구성합니다.

    gcloud container clusters get-credentials CLUSTER_NAME \
        --location=LOCATION
    

    다음을 바꿉니다.

    • CLUSTER_NAME: 클러스터 이름입니다.
    • LOCATION: 클러스터의 리전 또는 영역입니다.

다음 단계