Standard PayGo

표준 사용한 만큼만 지불 (표준 PayGo)은 Gemini 모델 제품군을 포함한 Gemini Enterprise Agent Platform의 생성형 AI 모델 제품군을 사용하기 위한 소비 옵션입니다.

표준 PayGo를 사용하면 선불 약정 없이 소비하는 리소스에 대해서만 비용을 지불할 수 있습니다. 공유 용량에서 워크로드를 확장할 수 있도록 사용한 만큼만 지불하는 표준 요금제에는 사용량 등급 시스템이 통합되어 있습니다. Agent Platform은 30일 동안 적격한 Agent Platform 서비스에 대한 총 지출을 기준으로 조직의 우선순위 처리량 기준점을 동적으로 조정합니다. 조직의 지출이 증가하면 공유 용량 풀 내에서 우선순위가 더 높은 처리량 기준점이 있는 상위 등급으로 자동 승격됩니다. 표준 PayGo는 공유 리소스에서 실행되며 경합이 심한 기간에는 전용 용량을 예약하거나 보장된 처리량을 제공하지 않습니다. 표준 PayGo보다 일관된 성능이 필요한 워크로드의 경우 우선적 PayGo를 고려하세요. 전용 및 보장 용량은 프로비저닝된 처리량을 참조하세요.

사용 등급 및 처리량

사용한 만큼만 지불하는 각 표준 사용량 등급은 분당 토큰 수 (TPM)로 측정되는 조직 수준의 우선순위 지정 처리량 기준을 정의합니다. 등급의 TPM 기준점까지의 요청은 초과 버스트 트래픽보다 먼저 공유 용량에 대한 우선 이용 권한을 받지만, 처리량과 가용성은 여전히 공유 풀의 실시간 수요에 따라 달라지며 보장되지 않습니다. 처리량 기준점은 global 엔드포인트로 전송되는 요청에 적용됩니다. global 엔드포인트를 사용하면 전 세계 처리량 용량 풀에 액세스할 수 있고 가용성이 가장 높은 위치로 요청을 동적으로 라우팅할 수 있으므로 권장됩니다.

멀티 리전 엔드포인트 (예: aiplatform.us.rep.googleapis.com 및 aiplatform.eu.rep.googleapis.com의 us 및 eu)는 머신러닝 처리를 특정 관할권 경계로 제한합니다. 멀티 리전 엔드포인트는 해당 지역 내의 여러 데이터 센터에 걸쳐 용량을 풀링하지만 별도의 리전 용량 풀에서 작동하며 global 엔드포인트의 전 세계 처리량 용량을 공유하지 않습니다. 단일 리전 엔드포인트 (예: us-central1 또는 us-east5)는 단일 데이터 센터 클러스터로 제한되며 용량 헤드룸이 가장 낮습니다. 워크로드가 엄격한 데이터 레지던시 요구사항을 따르지 않는 경우 global 엔드포인트를 사용하여 등급의 전체 우선순위 처리량 기준점을 사용하고 여유 공간을 극대화하세요. 멀티 리전 엔드포인트 구성에 대한 자세한 내용은 멀티 리전 엔드포인트를 참조하세요.

트래픽이 등급의 TPM 기준점으로 엄격하게 제한되지 않습니다. 공유 용량에 여유가 있으면 Agent Platform은 이 기준점을 초과하는 트래픽을 기회적으로 처리합니다. Agent Platform 전반에서 수요가 많은 기간에는 등급 기준점 내의 트래픽보다 초과 버스트 트래픽이 먼저 제한되며, 모든 공유 풀 트래픽에서 지연 시간이 길어지거나 429 오류가 발생할 수 있습니다. 제한을 최소화하려면 매분마다 트래픽을 최대한 균등하게 분산하고 초 단위로 급증하는 요청을 보내지 않도록 합니다. 분당 평균 사용량이 등급의 TPM 기준점 이내인 경우에도 순간 트래픽이 높으면 제한이 발생할 수 있습니다.

표준 사용한 만큼만 지불에서는 다음 등급을 사용할 수 있습니다.

모델 제품군 등급 고객 지출 (30일) 트래픽 TPM (조직 수준)
Gemini Pro 및 Argon 모델
(Gemini 4 Argon 및 Gemini 4 Argon Cyber Permissive 포함)
등급 1 $10~$250 500,000
등급 2 $250~$2,000 1,000,000
등급 3 $2,000~$50,000 2,000,000
등급 4 $50,000 초과 10,000,000
커스텀 등급 자세한 내용은 영업팀에 문의하세요.
Gemini Flash 및 Flash-Lite 모델 등급 1 10~250달러 2,000,000
등급 2 $250~$2,000 4,000,000
등급 3 $2,000~$50,000 10,000,000
등급 4 > $50,000 50,000,000
커스텀 등급 자세한 내용은 영업팀에 문의하세요.

모델 계열에 표시된 처리량 기준점은 해당 계열 내의 각 모델에 독립적으로 적용됩니다. 예를 들어 등급 3의 조직은 Gemini 3.5 Flash에 대해 우선순위가 지정된 처리량 기준점이 10,000,000TPM입니다. 한 모델의 기준점에 대한 사용량은 다른 모델의 처리량에 영향을 미치지 않습니다. 등급별로 별도의 분당 요청 수 (RPM) 한도는 없습니다. 멀티모달 입력이 포함된 Gemini 요청에는 해당 시스템 비율 제한이 적용됩니다.

사용 등급 작동 방식

사용 등급은 30일 동안 조직에서 적격한 Agent Platform 서비스에 지출한 총 금액에 따라 자동으로 결정됩니다. 조직의 지출이 증가하면 시스템은 우선순위가 높은 처리량 기준점이 있는 더 높은 등급으로 승격합니다.

지출 계산

이 계산에는 모든 Gemini 모델 제품군의 예측부터 Agent Platform CPU, GPU, TPU 인스턴스, 프로비저닝된 처리량과 같은 약정 기반 SKU에 이르기까지 다양한 서비스가 포함됩니다.

지출 계산에 포함된 SKU에 대해 자세히 알아보려면 클릭하세요.

다음 표에는 총 지출 계산에 포함된 Google Cloud SKU 카테고리가 나와 있습니다.

카테고리 포함된 SKU 설명
Gemini 모델 일괄, 긴 컨텍스트, 조정, '사고' 변형을 포함한 모든 형식 (텍스트, 이미지, 오디오, 동영상)의 예측을 위한 모든 Gemini 모델 제품군 (Pro, Flash, Lite 버전의 2.0, 2.5, 3.0 등)
Gemini 모델 기능 모든 형식 및 모델 버전에 걸쳐 캐싱, 캐싱 스토리지, 우선순위 등급과 같은 기능과 관련된 모든 Gemini SKU
Agent Platform CPU 모든 CPU 기반 인스턴스 계열(예: C2, C3, E2, N1, N2 및 그 변형)의 온라인 및 일괄 예측
Agent Platform GPU 모든 NVIDIA GPU 가속 인스턴스(예: A100, H100, H200, B200, L4, T4, V100, RTX 시리즈)의 온라인 및 일괄 예측
Agent Platform TPU 모든 TPU 기반 인스턴스 (예: TPU-v5e 및 v6e)의 온라인 및 일괄 예측
관리 및 수수료 다양한 Agent Platform 예측 인스턴스와 연결된 모든 '관리 수수료' SKU
프로비저닝된 처리량 프로비저닝된 처리량의 모든 약정 기반 SKU
기타 서비스 'Google 검색 도구를 사용한 Gemini용 LLM 그라운딩'과 같은 특수 서비스

사용 등급 확인

조직의 사용량 등급을 확인하려면 Google Cloud 콘솔의 Agent Platform 대시보드로 이동합니다. 대시보드에서 사용 등급을 보려면 프로젝트에 대한 Agent Platform 뷰어 역할(roles/aiplatform.viewer)과 결제 계정에 대한 결제 계정 뷰어 역할(roles/billing.viewer)이 필요합니다.

Agent Platform 대시보드로 이동

지출 확인

Agent Platform 지출을 검토하려면Google Cloud 콘솔에서 Cloud Billing으로 이동합니다. 지출은 조직 수준에서 집계됩니다.

Cloud Billing으로 이동

리소스 소진 (429) 오류

429 오류가 발생하더라도 고정 할당량에 도달했다는 의미는 아닙니다. 특정 공유 리소스에 대한 일시적인 높은 경합을 나타냅니다. 이 동적 환경의 가용성은 빠르게 변경될 수 있으므로 지수 백오프 재시도 전략을 구현하여 이러한 오류를 처리합니다.

재시도 전략 외에도 엔드포인트 선택을 평가합니다.

  • global 엔드포인트 (권장): global 엔드포인트는 Google의 전 세계 데이터 센터 전반에서 요청을 동적으로 라우팅하여 전역 처리량을 풀링하고 현지화된 급증을 완화합니다. 이렇게 하면 가용성이 극대화되고 429 오류가 발생할 가능성이 크게 줄어듭니다.
  • 멀티 리전 엔드포인트 (예: us 및 eu): 멀티 리전 엔드포인트는 특정 지리적 경계 내의 여러 데이터 센터에서 용량을 풀링합니다. 단일 리전보다 더 큰 용량을 제공하지만 전 세계 용량에 액세스하지는 않습니다. 애플리케이션이 멀티 리전 엔드포인트를 사용하고 사용량이 많은 기간에 429 오류가 발생하는 경우 데이터 거버넌스 정책에서 민감하지 않거나 일반적인 워크로드를 global 엔드포인트로 라우팅할 수 있는지 평가하거나 우선순위 사용한 만큼만 지불 또는 프로비저닝된 처리량을 고려하세요.
  • 단일 리전 엔드포인트 (예: us-central1): 단일 리전 엔드포인트는 특정 클러스터 위치로 제한되며 부하 경합 시 429 오류가 발생할 가능성이 가장 높습니다. 지연 시간에 민감한 컴퓨팅 리소스와 함께 배치해야 하는 경우가 아니라면 처리량이 높은 표준 종량제 워크로드를 단일 리전 엔드포인트에 고정하지 마세요.

최상의 결과를 얻으려면 global 엔드포인트 사용을 트래픽 평활화와 결합하세요. 초 단위로 급증하는 요청을 보내지 마세요. 평균 분당 사용량이 등급의 우선순위 처리량 기준점 내에 있더라도 순간 트래픽이 높으면 제한이 발생할 수 있습니다. API 호출을 더 균등하게 분산하면 시스템이 부하를 예측 가능하게 관리하고 전반적인 성능을 개선하는 데 도움이 됩니다. 리소스 소진 오류를 처리하는 방법에 관한 자세한 내용은 복원력이 우수한 LLM 애플리케이션 빌드 및 429 오류 줄이기 및 오류 코드 429를 참조하세요.

지원되는 모델

다음 정식 버전(GA) Gemini 모델과 해당 지도 미세 조정 모델은 사용량 등급이 있는 표준 사용한 만큼만 지불을 지원합니다.

클릭하여 지원되는 모델 펼치기

다음 GA Gemini 모델도 Standard PayGo를 지원하지만 사용량 등급은 이러한 모델에 적용되지 않습니다.

이 등급은 프리뷰 모델에는 적용되지 않습니다. 가장 정확한 최신 정보는 각 모델의 공식 문서를 참고하세요.

처리량 및 성능 모니터링

조직의 실시간 토큰 소비를 모니터링하려면 Cloud Monitoring의 측정항목 탐색기로 이동합니다.

측정항목 탐색기로 이동

모델 엔드포인트 트래픽 모니터링에 대한 자세한 내용은 모델 모니터링을 참조하세요.

사용량 등급은 조직 수준에서 적용됩니다. 조직의 여러 프로젝트에서 처리량을 차트로 표시하도록 모니터링 가능성 범위를 설정하는 방법은 다중 프로젝트 쿼리의 모니터링 가능성 범위 구성을 참조하세요.

다음 단계

리소스

제품별 제한사항을 제외한 Agent Platform과 관련된 할당량 및 한도입니다.

개요

Google Cloud 에서 Google Cloud 프로젝트가 사용할 수 있는 리소스의 양을 제한하는 방법과 하드웨어, 소프트웨어, 네트워크 구성요소를 비롯한 다양한 리소스 유형에 할당량이 적용되는 방법을 알아봅니다.