Agent Gateway는 Google Cloud 에이전트 거버넌스를 위한 거버넌스 및 보안 시행 레이어입니다. 관리형 런타임, 컨테이너 플랫폼, Infrastructure as a Service (IaaS) 가상 머신, 크로스 클라우드 환경 전반에서 모든 에이전트 상호작용을 위한 소프트웨어 정의 네트워크 진입 및 종료 지점 역할을 합니다.
Agent Gateway는 엔터프라이즈 보안 및 플랫폼 관리자에게 모든 에이전트 상호작용(인간 사용자와 에이전트 간, 에이전트와 모델 컨텍스트 프로토콜(MCP) 도구 간, 자율 에이전트 간)에 대해 일관된 최소 권한 보안 상황을 적용할 수 있는 기능을 제공합니다.
핵심 거버넌스 구성요소
다음 에이전트 플랫폼 구성요소는 함께 작동하여 통합 에이전트 거버넌스 아키텍처를 제공합니다.
에이전트 ID (요청한 사람): 각 에이전트에 고유하고 안전한 ID (SPIFFE ID)를 할당합니다. 이 ID는 인증, 액세스 제어, 감사를 위한 에이전트의 디지털 서명 역할을 합니다.
에이전트 ID는 mTLS 및 DPoP를 사용하여 엔드 투 엔드 암호화 인증을 시행하는 컨텍스트 인식 액세스를 통해 보안 강화를 기본으로 설정하여 보호됩니다.
에이전트 레지스트리 (승인된 대상): 조직에서 승인된 모든 에이전트, 도구, 모델 컨텍스트 프로토콜 (MCP) 서버, 엔드포인트 (예: 필수 Google Cloud API)의 중앙 디렉터리 역할을 합니다. Agent Gateway는 이 디렉터리를 사용하여 연결을 허용하기 전에 권한을 확인합니다.
정책 (허용되는 작업): 특정 리소스에 도달할 수 있는 에이전트와 전달이 허용되는 콘텐츠를 제어하는 다양한 에이전트 보안 및 거버넌스 정책을 구현할 수 있습니다.
- IAM 통합 액세스 정책: 에이전트의 ID를 에이전트 레지스트리의 승인된 도구 및 엔드포인트에 연결하는 액세스 규칙입니다. 기본적으로 명시적인 IAM 정책에서 액세스 권한을 부여하지 않는 한 모든 연결이 차단됩니다.
- Model Armor: 게이트웨이에 연결된 콘텐츠 보안 필터입니다. Model Armor는 사용자 프롬프트와 도구 응답을 실시간으로 스캔하여 프롬프트 인젝션 공격, 민감한 정보 유출, 유해한 콘텐츠를 차단합니다.
- 시맨틱 거버넌스 정책: 에이전트가 도구를 사용하는 방식을 제어하는 쉬운 언어로 작성된 규칙입니다. 런타임에 비즈니스 규칙을 적용하여 에이전트가 안전하지 않은 도구 조합을 실행하는 등 의도하지 않은 작업을 수행하지 못하도록 방지합니다.
- 토큰 관리 정책: 대규모 언어 모델 (LLM) 토큰 사용량을 모니터링하고 기여도를 분석하며 에이전트와 애플리케이션 전반에 공유 토큰 예산을 적용하여 토큰 소비가 급증하고 예상치 못한 비용이 발생하는 것을 방지하는 정책입니다.
- 커스텀 승인 엔진: 서비스 확장 프로그램을 사용하여 승인 결정을 서드 파티 시스템에 위임할 수 있는 커스텀 승인 확장 프로그램입니다.
내부적으로 이러한 모든 정책 유형은 서비스 확장을 통해 관리되는 승인 정책 또는 확장 프로그램 바인딩을 사용하여 적용됩니다.
Agent Gateway(정책이 적용되는 위치): 클라이언트-에이전트 및 에이전트-모든 위치 간의 네트워크 트래픽에 대한 기본 진입 및 종료 지점 역할을 하며 게이트웨이를 통과하는 모든 트래픽에 보안 및 거버넌스 정책을 적용합니다. 자세한 내용은 Agent Gateway에서 정책을 시행하는 방법을 참조하세요.
에이전트 모니터링 가능성: Agent Gateway는 네트워크 계층에서 모든 에이전트 상호작용에 대한 모니터링 가능성 원격 분석을 생성하고 이를 Agent Observability로 내보내 에이전트 작업에 대한 포괄적인 이해를 제공합니다.
주요 이점
Agent Gateway는 이기종 컴퓨팅 런타임에서 대규모로 AI 에이전트를 운영하는 데 따르는 보안, 규정 준수, 네트워킹 복잡성을 해결합니다.
AI 개발자:
- 간소화된 혁신: 기본 VPC 라우팅, Envoy 구성 또는 mTLS 인증서 순환을 관리하지 않고 에이전트 로직을 빌드하는 데 집중할 수 있습니다.
- 프로토콜 중재: 엔터프라이즈 거버넌스 표준을 준수하면서 모델 컨텍스트 프로토콜 (MCP), 에이전트 간 (A2A), REST 또는 gRPC를 사용하여 에이전트를 원활하게 연결합니다.
- 프레임워크 제약 없음: 모든 런타임 환경에서 표준 AI 프레임워크 또는 커스텀 클라이언트로 빌드된 에이전트를 지원합니다.
- 보안 전송 및 ID: mTLS 핸드셰이크를 자동으로 종료하고 Agent Platform의 에이전트 ID 인증 관리자와 통합되어 OAuth 2.0 핸드셰이크 및 워크로드 아이덴티티 제휴 (WIF)를 투명하게 처리합니다.
기업 보안팀 및 플랫폼 관리자:
- 모든 런타임에 걸친 중앙 집중식 거버넌스: 관리형 런타임, Google Kubernetes Engine (GKE) 클러스터, Cloud Run 서비스,Google Cloud 이외의 Kubernetes 클러스터 전반에서 통합 액세스 정책, 도구 RBAC, 안전 가드레일을 정의하고 적용합니다.
- AI 보안 가드레일: Model Armor와 같은 통합 안전 제공업체를 사용하여 인바운드 프롬프트와 아웃바운드 도구 페이로드를 가로채고 정제하여 프롬프트 인젝션, 탈옥, 민감한 정보 유출을 차단합니다.
- 경계 보안 및 데이터 무단 반출 방지: 비공개 가상 프라이빗 클라우드 (VPC) 네트워크 연결을 통해 트래픽을 전달하여 엄격한 VPC 서비스 제어 경계 규칙을 적용합니다.
- 엔드 투 엔드 모니터링 가능성: 완전한 감사 가능성을 위해 Cloud Logging 및 Cloud Trace에서 보강된 레이어 7 및 레이어 8 OpenTelemetry trace 및 액세스 로그를 캡처합니다.
제어되는 액세스 경로
Agent Gateway는 클라이언트-에이전트 (인그레스) 및 에이전트-모든 위치 (이그레스)라는 두 가지 기본 제어 액세스 경로를 지원합니다.
클라이언트-에이전트 (인그레스): 클라이언트 (예: 웹 애플리케이션, 개발자 CLI, 외부 시스템)와 호스팅된 에이전트 또는 MCP 도구 간의 통신을 보호합니다. 게이트웨이는 프런트엔드 정책 시행 지점 역할을 하며, 수신되는 사용자 인증 정보를 인증하고 프롬프트를 검사합니다.
에이전트에서 다른 위치로 (이그레스): 에이전트가 외부 도구, 원격 MCP 서버, SaaS API 또는 다운스트림 에이전트로 시작하는 아웃바운드 요청을 제어합니다. 워크로드 바인딩 ID, 대상 레지스트리 규정 준수, Identity and Access Management (IAM) 액세스 정책, 페이로드 정제를 적용합니다.
배포 모델
다양한 AI 애플리케이션 아키텍처를 지원하기 위해 Agent Gateway는 게이트웨이 프록시 인프라가 프로비저닝, 관리, 에이전트 워크로드와 통합되는 위치와 방법을 결정하는 유연한 배포 모델을 제공합니다. 에이전트가 완전 관리형 Google Cloud런타임, 자체 관리형 Kubernetes 클러스터, 가상 머신, 크로스 클라우드 환경 중 어디에서 실행되든 Agent Gateway는 인프라 제어 환경설정 및 네트워크 경계 요구사항에 맞춤설정된 배포 옵션을 제공합니다.
배포 모델 요약
| 에이전트 호스트 환경 | 지원되는 배포 모델 | 프록시 인프라 | 문서 |
|---|---|---|---|
| Agent Runtime 및 Gemini Enterprise | Google Cloud의 Agent Gateway (Google 관리) |
해당 사항 없음 (Google 관리) | 개요 설정 |
| GKE | Google Cloud의 Agent Gateway (자체 관리형) |
클라이언트-에이전트: GKE Gateway API 클러스터 간 및 외부 연결을 위한 Agent-to-Anywhere: Secure Web Proxy 포드 간 연결을 위한 Agent-to-Anywhere: 앰비언트 네트워킹 |
출시 예정 |
| Cloud Run | Google Cloud의 Agent Gateway (자체 관리형) |
클라이언트에서 에이전트로: 애플리케이션 부하 분산기 Agent-to-Anywhere: Secure Web Proxy |
출시 예정 |
| 크로스 클라우드 환경(Google Cloud아님) | 크로스 클라우드용 Agent Gateway | 환경의 자체 관리형 Envoy 프록시 | 출시 예정 |
Google Cloud의 Agent Gateway
Google Cloud 의 Agent Gateway는 Agent Runtime, Gemini Enterprise, GKE, Cloud Run을 비롯한 Google Cloud 컴퓨팅 환경에서 실행되는 에이전트와 MCP 서버를 관리합니다. 호스트 환경에 따라 Google에서 게이트웨이 프록시 인프라를 관리하거나, 개발자가 자체 프로젝트에서 관리하는 프록시 및 부하 분산 리소스에 Agent Gateway를 연결합니다. 모든 Google Cloud 런타임에서 동일한 중앙 컨트롤 플레인을 사용하여 에이전트 ID, 에이전트 레지스트리 항목, 액세스 정책을 관리합니다.
Agent Runtime 및 Gemini Enterprise용
Agent Gateway는 Google Cloud내에서 직접 호스팅되는 완전 관리형의 유지보수가 필요 없는 게이트웨이 인프라를 제공합니다. Agent Runtime 및 Gemini Enterprise에서 실행되는 에이전트에 맞게 특별히 최적화되어 있습니다.
- 아키텍처 및 인프라: Google은 게이트웨이 관리 서비스와 프록시 인프라를 모두 완전히 관리합니다. 조직에 프록시 설정, 컨테이너 관리 또는 수동 유지보수 오버헤드가 필요하지 않습니다.
- 주요 기능: 유지보수가 필요 없는 기본 제공 mTLS 종료, IAP 액세스 정책, Model Armor 프롬프트 스캔 및 DLP, 시맨틱 거버넌스 정책을 제공합니다.
- 기본 사용 사례: 네트워크 인프라를 관리하지 않고도 포괄적인 거버넌스를 원하는 Google Cloud 에서 서버리스 AI 에이전트를 빌드하는 엔터프라이즈팀에 적합합니다.
설정 세부정보는 Agent Platform의 Agent Gateway 개요를 참조하세요.
GKE의 경우
Agent Gateway는 Agent Platform 거버넌스를 자체 GKE 클러스터에서 실행하는 에이전트 및 MCP 서버로 확장합니다. 플랫폼팀은 Kubernetes 네이티브 리소스와 Google Kubernetes Engine 게이트웨이 API를 사용하여 거버넌스를 구성합니다. Agent Runtime에서 에이전트를 제어하는 동일한 에이전트 ID, 에이전트 레지스트리, 정책이 GKE의 에이전트에도 적용됩니다.
- 아키텍처 및 인프라: 자체 프로젝트에서 프록시 인프라를 실행합니다.
- Client-to-Agent: 클라이언트 트래픽은 리전 애플리케이션 부하 분산기인 GKE 게이트웨이를 통해 클러스터로 들어갑니다.
- Agent-to-Anywhere: GKE 앰비언트 네트워킹은 사이드카 없이 아웃바운드 에이전트 트래픽을 Secure Web Proxy로 리디렉션하며, 트래픽이 클러스터를 떠나기 전에 정책이 적용됩니다. 클러스터 내의 에이전트 간 트래픽은 네임스페이스별로 실행되는 계층 7 앰비언트 프록시에 의해 제어됩니다.
- 주요 기능: Kubernetes 기반 정책 구성, 각 에이전트의 SPIFFE ID를 사용하는 ID 기반 액세스 제어, Model Armor의 프롬프트 및 대답 검사, 아웃바운드 에이전트 트래픽의 TLS 검사, 확장 프로그램 바인딩을 통한 커스텀 정책 엔진.
- 기본 사용 사례: GKE에서 에이전트를 실행하고 이미 사용 중인 Kubernetes 도구를 사용하여 인바운드, 아웃바운드, 클러스터 내 에이전트 트래픽을 제어하려는 플랫폼 및 보안팀
GKE 에이전트에 대한 Agent Gateway 지원이 곧 출시될 예정입니다. 기능 및 시기는 변경될 수 있습니다. 사전 체험판을 요청하려면 프리뷰에 가입하세요.
Cloud Run용
Agent Gateway는 Cloud Run에 배포하는 에이전트 및 MCP 서버로 Agent Platform 거버넌스를 확장합니다. 프로젝트에서 이미 관리하고 있는Google Cloud 네트워킹 인프라에 Agent Gateway를 연결합니다. Secure Web Proxy는 에이전트의 아웃바운드 트래픽을 제어하고 애플리케이션 부하 분산기는 에이전트로의 인바운드 트래픽을 제어합니다. Agent Gateway는 에이전트 코드를 변경하지 않고도 에이전트 및 호출자 ID를 기반으로 두 경로 모두에 정책을 적용합니다.
아키텍처 및 인프라: 자체 프로젝트에서 프록시 인프라를 실행합니다.
- Client-to-Agent: 클라이언트-에이전트 트래픽의 경우 클라이언트는 리전 애플리케이션 부하 분산기를 통해 에이전트에 도달합니다. 이 부하 분산기는 인터넷 클라이언트의 경우 외부이고 VPC 네트워크의 클라이언트의 경우 내부입니다. Agent Gateway는 부하 분산기에 연결되어 있으므로 요청이 에이전트에 도달하기 전에 모든 인바운드 요청을 인증하고 확인합니다.
- Agent-to-Anywhere: 에이전트에서 어디로든 트래픽의 경우 Cloud Run 앰비언트 네트워킹이 에이전트 컨테이너의 아웃바운드 트래픽을 가로챕니다. 그런 다음 에이전트의 ID를 전달하는 상호 인증 (mTLS) 터널을 통해 직접 VPC 이그레스를 통해 해당 트래픽을 정책 시행 지점 역할을 하는 VPC 네트워크의 보안 웹 프록시 인스턴스로 전달합니다.
Secure Web Proxy 및 부하 분산기 리소스를 만들고 관리하며 VPC 네트워크, 인증서, 네트워크 경계를 제어합니다.
주요 기능: 도구, 모델, API에 대한 아웃바운드 호출을 위한 ID 기반 액세스 정책, IAP (Identity-Aware Proxy)를 통한 인바운드 호출자의 인증 및 승인, 양방향의 프롬프트, 응답, 도구 페이로드에 대한 Model Armor 검사, 사용자가 제어하는 인증 기관을 통한 아웃바운드 트래픽의 TLS 검사, 확장 프로그램 바인딩을 통한 커스텀 정책 엔진을 사용하여 여러 Cloud Run 서비스에 적용되는 하나의 중앙 정책 집합입니다.
기본 사용 사례: Cloud Run에서 에이전트를 실행하고 인바운드 및 아웃바운드 에이전트 트래픽의 중앙 집중식 거버넌스가 필요한 보안 및 플랫폼팀 여기에는 애플리케이션 런타임과 별개인 인프라에 보안 시행이 필요한 조직과 검사를 위해 허브 앤 스포크 VPC 네트워크를 통해 트래픽을 라우팅하는 조직이 포함됩니다.
Cloud Run 에이전트에 대한 Agent Gateway 지원이 곧 출시될 예정입니다. 기능 및 시기는 변경될 수 있습니다. 사전 체험판을 요청하려면 프리뷰에 가입하세요.
크로스 클라우드용 Agent Gateway
크로스 클라우드용 Agent Gateway는 Agent Platform 거버넌스를 Amazon EKS, Azure AKS, Red Hat OpenShift 또는 자체 데이터 센터의 클러스터와 같이 Google Cloud외부의 Kubernetes 클러스터에서 실행되는 에이전트로 확장합니다. Google Cloud에서 거버넌스를 중앙에서 관리하고 정책은 자체 클러스터 내에서 시행됩니다.
- 아키텍처 및 인프라: Google Cloud 에이전트 ID, 레지스트리 항목, 정책을 정의하는 관리 영역을 호스팅합니다. 경량의 Envoy 기반 Agent Gateway와 지원 구성요소를 Kubernetes 클러스터에 배포합니다. 게이트웨이로의 에이전트 트래픽 라우팅을 포함하여 클러스터의 네트워킹은 사용자가 담당합니다. 에이전트 트래픽은 환경에 유지됩니다. Model Armor 검사와 같이 구성한 정책 검사만Google Cloud를 호출합니다.
- 주요 기능: 에이전트에서 모든 위치로의 트래픽 거버넌스, 워크로드 아이덴티티 제휴를 통한 에이전트 ID 사용자 인증 정보에 대한 Kubernetes 워크로드 사용자 인증 정보 교환, Model Armor와 같이 중앙에서 정의하는 정책 시행 또한 에이전트 레지스트리 및 에이전트 모니터링 가능성 (액세스 로그 및 trace)을 Google Cloud외부의 에이전트로 확장합니다.
- 기본 사용 사례: 여러 클라우드 또는 자체 데이터 센터에서 에이전트를 실행하고 모든 에이전트에 대해 하나의 거버넌스 정책, 하나의 레지스트리, 하나의 에이전트 활동 뷰를 원하는 기업
크로스 클라우드용 Agent Gateway가 곧 출시될 예정입니다. 기능 및 시기는 변경될 수 있습니다. 사전 체험판을 요청하려면 프리뷰에 가입하세요.
지원 프로토콜
Agent Gateway는 다음을 포함한 모든 배포 모델에서 표준 HTTP 기반 에이전트형 통신 프로토콜을 지원합니다.
- 모델 컨텍스트 프로토콜 (MCP): 서버 전송 이벤트 (SSE) 또는 HTTP POST 요청을 통한 아웃바운드 및 인바운드 MCP 도구 호출을 제어합니다.
- 에이전트 간 (A2A): 에이전트 간 위임 및 작업 실행 API를 제어합니다.
- REST 및 gRPC: GKE, Cloud Run, 크로스 클라우드 배포 전반에서 HTTP/1.1 및 HTTP/2 (gRPC) 트래픽을 지원합니다.
MCP 트래픽의 경우 Agent Gateway는 JSON-RPC 요청을 검사하여 도구 이름과 메서드 속성을 추출하므로 모든 배포 모델에서 세분화된 도구 액세스 정책을 사용할 수 있습니다. 자세한 내용은 MCP 속성을 기반으로 한 승인을 참조하세요.
제한사항
- 각 Agent Gateway 인스턴스는 Agent Registry에 등록된 리소스를 최대 5,000개까지 관리할 수 있습니다.
- 선택한 배포 모델 및 기능과 관련된 제한사항에 대해 알아보려면 다음 페이지를 검토하세요.
API 및 gcloud 참조
Agent Gateway에 사용할 수 있는 메서드에 대한 자세한 내용은 다음 참조 주제를 확인하세요.
- gcloud 참조:
gcloud network-services agent-gateways - REST API 참조: agentGateways
다음 단계
Codelab: Agent Platform으로 에이전트 워크로드 관리
Gemini Enterprise Agent Platform에서 Agent Gateway를 사용하여 에이전트형 워크로드를 제어하는 방법을 알아봅니다.