Standard PayGo

표준 종량제 (Standard PayGo)는 Gemini 모델 제품군을 비롯한 Gemini Enterprise Agent Platform의 생성형 AI 모델 제품군을 사용하는 소비 옵션입니다.

표준 PayGo를 사용하면 선불 재정 약정 없이 소비한 리소스에 대해서만 비용을 지불할 수 있습니다. 공유 용량에서 워크로드를 확장할 수 있도록 표준 사용한 만큼만 지불 요금제에는 사용량 등급 시스템이 포함되어 있습니다. Agent Platform은 지난 30일 동안의 적격한 Agent Platform 서비스에 대한 총 지출을 기준으로 조직의 우선순위가 지정된 처리량 기준을 동적으로 조정합니다. 조직의 지출이 증가하면 공유 용량 풀 내에서 우선순위가 높은 처리량 기준이 적용되는 상위 등급으로 자동 승격됩니다. Standard PayGo는 공유 리소스에서 실행되며 경합이 심한 기간 동안 전용 용량을 예약하거나 보장된 처리량을 제공하지 않습니다. 표준 PayGo보다 일관된 성능이 필요한 워크로드의 경우 우선적 PayGo를 고려하세요. 전용 및 보장된 용량은 프로비저닝된 처리량을 참고하세요.

사용량 등급 및 처리량

각 표준 사용한 만큼만 지불 사용량 등급은 조직 수준의 우선순위가 지정된 처리량 임곗값을 정의하며, 이는 분당 토큰 수 (TPM)로 측정됩니다. 최대 등급의 TPM 임계치까지의 요청은 초과 버스트 트래픽보다 먼저 공유 용량에 대한 우선 이용 권한을 부여받지만 처리량과 가용성은 여전히 공유 풀의 실시간 수요에 따라 달라지며 보장되지 않습니다. 처리량 기준은 global 엔드포인트로 전송된 요청에 적용됩니다. global 엔드포인트를 사용하는 것이 좋습니다. 전 세계 처리량 용량 풀에 액세스할 수 있고 가용성이 가장 높은 위치로 요청을 동적으로 라우팅하기 때문입니다.

멀티 리전 엔드포인트 (예: aiplatform.us.rep.googleapis.com 및 aiplatform.eu.rep.googleapis.com의 us 및 eu)는 머신러닝 처리를 특정 관할권 경계로 제한합니다. 멀티 리전 엔드포인트는 해당 지역 내 여러 데이터 센터의 용량을 풀링하지만 별도의 리전 용량 풀에서 작동하며 global 엔드포인트의 전 세계 처리량 용량을 공유하지 않습니다. 단일 리전 엔드포인트 (예: us-central1 또는 us-east5)는 단일 데이터 센터 클러스터로 제한되며 용량 여유가 가장 낮습니다. 워크로드에 엄격한 데이터 레지던시 요구사항이 적용되지 않는 경우 global 엔드포인트를 사용하여 등급의 전체 우선순위 지정된 처리량 기준점을 사용하고 헤드룸을 최대화하세요. 멀티 리전 엔드포인트 구성에 대한 자세한 내용은 멀티 리전 엔드포인트를 참고하세요.

트래픽이 등급의 TPM 기준에 엄격하게 제한되지 않습니다. 여유 공유 용량이 있는 경우 Agent Platform은 이 기준점을 초과하는 트래픽을 기회에 따라 처리합니다. 에이전트 플랫폼 전반에서 수요가 많은 기간에는 티어 기준점 내 트래픽보다 초과 버스트 트래픽이 제한되며 모든 공유 풀 트래픽에서 지연 시간이 길어지거나 429 오류가 발생할 수 있습니다. 제한을 최소화하려면 매분 트래픽을 최대한 균등하게 분산하고 급격한 초 단위 급증으로 요청을 보내지 마세요. 순간 트래픽이 높으면 분당 평균 사용량이 등급의 TPM 기준치를 충족하더라도 스로틀링이 발생할 수 있습니다.

Standard PayGo에서 사용할 수 있는 등급은 다음과 같습니다.

모델 제품군 등급 고객 지출 (30일) 트래픽 TPM (조직 수준)
Gemini Pro 모델 등급 1 10~250달러 500,000
등급 2 $250~$2,000 1,000,000
등급 3 $2,000~$50,000 2,000,000
등급 4 50,000달러 초과 10,000,000
맞춤 등급 자세한 내용은 영업팀에 문의하세요.
Gemini Flash 및 Flash-Lite 모델 등급 1 10~250달러 2,000,000
등급 2 $250~$2,000 4,000,000
등급 3 $2,000~$50,000 10,000,000
등급 4 50,000달러 초과 50,000,000
맞춤 등급 자세한 내용은 영업팀에 문의하세요.

모델 계열에 표시된 처리량 기준점은 해당 계열 내의 각 모델에 독립적으로 적용됩니다. 예를 들어 3단계 조직의 경우 Gemini 3.5 Flash의 우선순위가 지정된 처리량 기준이 10,000,000 TPM입니다. 한 모델의 기준에 대한 사용량은 다른 모델의 처리량에 영향을 미치지 않습니다. 등급별로 별도의 분당 요청 수 (RPM) 한도는 없습니다. 멀티모달 입력이 포함된 Gemini 요청에는 해당 시스템 비율 제한이 적용됩니다.

사용량 등급 작동 방식

사용 등급은 30일 동안의 조직의 적격한 Agent Platform 서비스 총 지출에 따라 자동으로 결정됩니다. 조직의 지출이 증가하면 시스템에서 우선순위가 높은 처리량 기준액이 적용되는 상위 등급으로 승격합니다.

비용 계산

이 계산에는 모든 Gemini 모델 제품군의 예측부터 Agent Platform CPU, GPU, TPU 인스턴스, 프로비저닝된 처리량과 같은 약정 기반 SKU까지 다양한 서비스가 포함됩니다.

지출 계산에 포함된 SKU에 대해 자세히 알아보려면 클릭하세요.

다음 표에는 총 지출 계산에 포함되는 Google Cloud SKU의 카테고리가 나와 있습니다.

카테고리 포함된 SKU 설명
Gemini 모델 일괄, 긴 컨텍스트, 조정, '생각' 변형을 비롯한 모든 형식 (텍스트, 이미지, 오디오, 동영상)의 예측을 위한 모든 Gemini 모델 제품군 (예: Pro, Flash, Lite 버전의 2.0, 2.5, 3.0)
Gemini 모델 기능 모든 모달리티와 모델 버전에서 캐싱, 캐싱 스토리지, 우선순위 등급과 같은 기능에 관련된 모든 Gemini SKU
Agent Platform CPU 모든 CPU 기반 인스턴스 계열(예: C2, C3, E2, N1, N2 및 변형)의 온라인 및 일괄 예측
Agent Platform GPU 모든 NVIDIA GPU 가속 인스턴스(예: A100, H100, H200, B200, L4, T4, V100, RTX 시리즈)에서 온라인 및 일괄 예측
Agent Platform TPU 모든 TPU 기반 인스턴스 (예: TPU-v5e 및 v6e)의 온라인 및 일괄 예측
관리 및 수수료 다양한 Agent Platform 예측 인스턴스와 연결된 모든 '관리 수수료' SKU
프로비저닝된 처리량 프로비저닝된 처리량의 모든 약정 기반 SKU
기타 서비스 'Google 검색 도구를 사용하는 Gemini의 LLM 그라운딩'과 같은 전문 서비스

사용 등급 확인

조직의 사용량 등급을 확인하려면 Google Cloud 콘솔의 Agent Platform 대시보드로 이동합니다. 대시보드에서 사용량 등급을 보려면 프로젝트에 대한 Agent Platform 뷰어 역할(roles/aiplatform.viewer)과 결제 계정에 대한 결제 계정 뷰어 역할(roles/billing.viewer)이 있어야 합니다.

Agent Platform 대시보드로 이동

지출 확인

Agent Platform 지출을 검토하려면Google Cloud 콘솔에서 Cloud Billing으로 이동하세요. 지출은 조직 수준에서 집계됩니다.

Cloud Billing으로 이동

리소스 소진 (429) 오류

429 오류가 발생해도 고정 할당량에 도달했음을 나타내지는 않습니다. 특정 공유 리소스에 대한 일시적인 높은 경합을 나타냅니다. 이 동적 환경의 가용성은 빠르게 변경될 수 있으므로 이러한 오류를 처리하기 위해 지수 백오프 재시도 전략을 구현하세요.

재시도 전략 외에도 엔드포인트 선택을 평가하세요.

  • global 엔드포인트 (권장): global 엔드포인트는 Google의 전 세계 데이터 센터 전체에서 요청을 동적으로 라우팅하여 전역 처리량 용량을 풀링하고 로컬 스파이크를 완화합니다. 이렇게 하면 가용성이 극대화되고 429 오류가 발생할 가능성이 크게 줄어듭니다.
  • 멀티 리전 엔드포인트 (예: us, eu): 멀티 리전 엔드포인트는 특정 지리적 경계 내의 여러 데이터 센터에 걸쳐 용량을 풀링합니다. 단일 리전보다 큰 용량을 제공하지만 전 세계 용량에 액세스하지는 않습니다. 애플리케이션에서 멀티 리전 엔드포인트를 사용하고 피크 기간에 429 오류가 발생하는 경우 데이터 거버넌스 정책에서 민감하지 않은 워크로드나 일반 워크로드를 global 엔드포인트로 라우팅할 수 있는지 평가하거나 우선순위 종량제 또는 프로비저닝된 처리량을 고려하세요.
  • 단일 리전 엔드포인트 (예: us-central1): 단일 리전 엔드포인트는 특정 클러스터 위치로 제한되며 부하 경합 시 429 오류가 발생할 가능성이 가장 높습니다. 지연 시간에 민감한 컴퓨팅 리소스와 공동 배치해야 하는 경우가 아니라면 높은 처리량의 표준 종량제 워크로드를 단일 리전 엔드포인트에 고정하지 마세요.

최상의 결과를 얻으려면 global 엔드포인트 사용과 트래픽 스무딩을 결합하세요. 초 단위의 급격한 2단계 스파이크로 요청을 보내지 마세요. 분당 평균 사용량이 등급의 우선순위가 지정된 처리량 기준을 충족하더라도 순간 트래픽이 높으면 제한이 발생할 수 있습니다. API 호출을 더 균등하게 분산하면 시스템에서 부하를 예측 가능하게 관리하고 전반적인 성능을 개선할 수 있습니다. 리소스 소진 오류를 처리하는 방법에 관한 자세한 내용은 탄력적인 LLM 애플리케이션 빌드 및 429 오류 감소 및 오류 코드 429를 참고하세요.

지원되는 모델

다음 정식 버전(GA) Gemini 모델과 해당 감독 기반 미세 조정 모델은 사용량에 따른 요금제의 표준 종량제를 지원합니다.

클릭하여 지원되는 모델 펼치기

다음 GA Gemini 모델도 표준 종량제를 지원하지만 이러한 모델에는 사용량 등급이 적용되지 않습니다.

이러한 등급은 미리보기 모델에는 적용되지 않습니다. 가장 정확한 최신 정보는 각 모델의 공식 문서를 참고하세요.

처리량 및 성능 모니터링

조직의 실시간 토큰 소비량을 모니터링하려면 Cloud Monitoring의 측정항목 탐색기로 이동하세요.

측정항목 탐색기로 이동

모델 엔드포인트 트래픽 모니터링에 대한 자세한 내용은 모델 모니터링을 참고하세요.

사용량 등급은 조직 수준에서 적용됩니다. 조직의 여러 프로젝트에서 처리량을 차트로 표시하도록 관측 가능성 범위를 설정하는 방법은 다중 프로젝트 쿼리를 위한 관측 가능성 범위 구성을 참고하세요.

다음 단계

리소스

제품별 제한사항을 제외한 Agent Platform 관련 할당량 및 한도입니다.

개요

Google Cloud 에서 Google Cloud 프로젝트가 사용할 수 있는 리소스의 양을 제한하는 방법과 할당량이 하드웨어, 소프트웨어, 네트워크 구성요소를 비롯한 다양한 리소스 유형에 적용되는 방법을 알아봅니다.