PayGo padrão

O pagamento por uso padrão (PayGo padrão) é uma opção de consumo para usar o pacote de modelos de IA generativa da Gemini Enterprise Agent Platform, incluindo a família de modelos do Gemini.

O PayGo padrão permite que você pague apenas pelos recursos consumidos, sem exigir compromissos financeiros iniciais. Para ajudar a escalonar cargas de trabalho na capacidade compartilhada, o PayGo padrão incorpora um sistema de níveis de uso. A Agent Platform ajusta dinamicamente o limite de capacidade de processamento priorizada da sua organização com base no gasto total em serviços qualificados da Agent Platform durante um período de 30 dias. À medida que os gastos da sua organização aumentam, ela é promovida automaticamente para níveis mais altos com limites de capacidade de processamento priorizada mais altos no pool de capacidade compartilhada. O PayGo padrão é executado em recursos compartilhados e não reserva capacidade dedicada nem fornece capacidade de processamento garantida durante períodos de alta disputa. Para cargas de trabalho que exigem um desempenho mais consistente do que o PayGo padrão, considere o PayGo prioritário. Para capacidade dedicada e garantida, consulte Capacidade de processamento provisionada.

Níveis de uso e capacidade de processamento

Cada nível de uso do PayGo padrão define um limite de capacidade de processamento priorizada no nível da organização, medido em tokens por minuto (TPM). As solicitações até o limite de TPM do seu nível recebem acesso prioritário à capacidade compartilhada antes do tráfego de burst em excesso, embora a capacidade de processamento e a disponibilidade ainda dependam da demanda em tempo real no pool compartilhado e não sejam garantidas. Os limites de capacidade de processamento se aplicam a solicitações enviadas ao endpoint global. Usar o endpoint global é uma prática recomendada porque ele fornece acesso a um pool mundial de capacidade de processamento e encaminha dinamicamente suas solicitações para o local com mais disponibilidade.

Os endpoints multirregionais (como us e eu em aiplatform.us.rep.googleapis.com e aiplatform.eu.rep.googleapis.com) restringem o tratamento de aprendizado de máquina a limites jurisdicionais específicos. Embora os endpoints multirregionais agrupem a capacidade em vários data centers nessa região geográfica, eles operam em pools de capacidade regionais separados e não compartilham a capacidade de processamento mundial do endpoint global. Os endpoints de região única (por exemplo, us-central1 ou us-east5) são restritos a um único cluster de data center e têm a menor capacidade. Se suas cargas de trabalho não estiverem sujeitas a requisitos rigorosos de residência de dados, use o endpoint global para usar o limite de capacidade de processamento priorizada total do seu nível e maximizar a capacidade. Para mais informações sobre como configurar endpoints multirregionais, consulte Endpoints multirregionais.

O tráfego não é estritamente limitado ao limite de TPM do seu nível. Quando a capacidade compartilhada disponível está disponível, a Agent Platform veicula o tráfego que excede esse limite de forma oportunista. Durante períodos de alta demanda na Agent Platform, o tráfego de burst em excesso é limitado antes do tráfego dentro dos limites de nível, e todo o tráfego do pool compartilhado pode apresentar maior latência ou erros 429. Para minimizar a limitação, suavize o tráfego da maneira mais uniforme possível a cada minuto e evite enviar solicitações em picos acentuados de segundo nível. O tráfego instantâneo alto pode levar à limitação, mesmo que o uso médio por minuto esteja dentro do limite de TPM do seu nível.

Os seguintes níveis estão disponíveis no PayGo padrão:

Família do modelo Nível Gasto do cliente (30 dias) TPM de tráfego (nível da organização)
Modelos Gemini Pro e Argon
(inclui o Gemini 4 Argon e o Gemini 4 Argon Cyber Permissive)		 Nível 1 US$ 10 a US$ 250 500.000
Nível 2 US$ 250 a US$ 2.000 1.000.000
Nível 3 US$ 2.000 a US$ 50.000 2.000.000
Nível 4 Acima de US$ 50.000 10.000.000
Nível personalizado Entre em contato com sua equipe de vendas para mais informações
Modelos Gemini Flash e Flash-Lite Nível 1 US$ 10 a US$ 250 2.000.000
Nível 2 US$ 250 a US$ 2.000 4.000.000
Nível 3 US$ 2.000 a US$ 50.000 10.000.000
Nível 4 Acima de US$ 50.000 50.000.000
Nível personalizado Entre em contato com sua equipe de vendas para mais informações

O limite de capacidade de processamento mostrado para uma família de modelos se aplica de forma independente a cada modelo dessa família. Por exemplo, uma organização no nível 3 tem um limite de capacidade de processamento priorizada de 10.000.000 TPM para o Gemini 3.5 Flash. O uso em relação ao limite de um modelo não afeta a capacidade de processamento de outros modelos. Não há um limite separado de solicitações por minuto (RPM) para cada nível. As solicitações do Gemini com entradas multimodais estão sujeitas aos limites de taxa do sistema correspondentes.

Como os níveis de uso funcionam

O nível de uso é determinado automaticamente pelo gasto total da sua organização em serviços qualificados da Agent Platform durante um período de 30 dias. À medida que os gastos da sua organização aumentam, o sistema promove você a um nível mais alto com limites de capacidade de processamento priorizada mais altos.

Cálculo de gastos

Esse cálculo inclui uma ampla variedade de serviços, desde previsões em todas as famílias de modelos do Gemini até instâncias de CPU, GPU e TPU da Agent Platform, além de SKUs baseadas em compromisso, como a capacidade de processamento provisionada.

Clique para saber mais sobre as SKUs incluídas no cálculo de gastos.

A tabela a seguir lista as categorias de Google Cloud SKUs que estão incluídas no cálculo do gasto total.

Categoria Descrição das SKUs incluídas
Modelos do Gemini Todas as famílias de modelos do Gemini (como 2.0, 2.5 e 3.0 nas versões Pro, Flash e Lite) para previsões em todas as modalidades (texto, imagem, áudio, vídeo), incluindo variações em lote, de contexto longo, ajustadas e de "pensamento"
Recursos do modelo do Gemini Todas as SKUs do Gemini relacionadas a recursos como armazenamento em cache, armazenamento em cache e níveis de prioridade, em todas as modalidades e versões de modelo
CPU da Agent Platform Previsões on-line e predição em lote em todas as famílias de instâncias baseadas em CPU (como C2, C3, E2, N1, N2 e variantes)
GPU da Agent Platform Previsões on-line e em lote em todas as instâncias aceleradas por GPU NVIDIA (como A100, H100, H200, B200, L4, T4, V100 e série RTX)
TPU da Agent Platform Previsões on-line e predição em lote em todas as instâncias baseadas em TPU (como TPU-v5e e v6e)
Gerenciamento e taxas Todas as SKUs de "taxa de gerenciamento" associadas a várias instâncias de previsão da Agent Platform
Capacidade de processamento provisionada Todas as SKUs baseadas em compromisso para capacidade de processamento provisionada
Outros serviços Serviços especializados, como "LLM Grounding for Gemini... with ferramenta Pesquisa Google"

Verificar o nível de uso

Para verificar o nível de uso da sua organização, acesse o painel da Agent Platform no Google Cloud console. Para conferir o nível de uso no painel, você precisa do papel de leitor da Agent Platform (roles/aiplatform.viewer) no projeto e do papel de leitor da conta de faturamento (roles/billing.viewer) na conta de faturamento.

Acessar o painel da Agent Platform

Verificar gastos

Para revisar os gastos da Agent Platform, acesse o Cloud Billing no Google Cloud console. Os gastos são agregados no nível da organização.

Acessar o Cloud Billing

Erros de recurso esgotado (429)

Se você receber um erro 429, isso não indica que você atingiu uma cota fixa. Ele indica uma alta disputa temporária por um recurso compartilhado específico. Implemente uma estratégia de nova tentativa de espera exponencial para lidar com esses erros, porque a disponibilidade nesse ambiente dinâmico pode mudar rapidamente.

Além de uma estratégia de nova tentativa, avalie a escolha do endpoint:

  • Endpoint global (recomendado): o endpoint global encaminha dinamicamente solicitações em toda a frota mundial de data centers do Google, agrupando a capacidade de processamento global e suavizando picos localizados. Isso oferece a maior disponibilidade e reduz significativamente a probabilidade de erros 429.
  • Endpoints multirregionais (como us e eu): os endpoints multirregionais agrupam a capacidade em vários data centers dentro de um limite geográfico específico. Embora ofereçam maior capacidade do que uma única região, eles não acessam a capacidade mundial. Se o aplicativo usar um endpoint multirregional e apresentar erros 429 durante os períodos de pico, avalie se as políticas de governança de dados permitem o encaminhamento de cargas de trabalho não sensíveis ou gerais para o endpoint global ou considere PayGo prioritário ou capacidade de processamento provisionada.
  • Endpoints de região única (como us-central1): os endpoints de região única são restritos a um local de cluster específico e têm a maior probabilidade de apresentar erros 429 em disputa de carga. Evite fixar cargas de trabalho de PayGo padrão de alta capacidade de processamento em endpoints de região única, a menos que seja necessário para a colocalização com recursos de computação sensíveis à latência.

Para melhores resultados, combine o uso do endpoint global com a suavização de tráfego. Evite enviar solicitações em picos acentuados de segundo nível, porque o tráfego instantâneo alto pode levar à limitação, mesmo que o uso médio por minuto esteja dentro do limite de capacidade de processamento priorizada do seu nível. Distribuir as chamadas de API de maneira mais uniforme ajuda o sistema a gerenciar a carga de forma previsível e melhora o desempenho geral. Para mais informações sobre como lidar com erros de recurso esgotado, consulte Criar aplicativos de LLM resilientes e Reduzir erros 429 e Código do erro 429.

Modelos compatíveis

Os seguintes modelos do Gemini disponibilidade geral (GA) e os modelos ajustados supervisionados correspondentes oferecem suporte ao PayGo padrão com níveis de uso:

Clique para expandir os modelos compatíveis

Os seguintes modelos do Gemini GA também oferecem suporte ao PayGo padrão, mas os níveis de uso não se aplicam a esses modelos:

Esses níveis não se aplicam a modelos de pré-lançamento. Consulte a documentação oficial específica de cada modelo para obter as informações mais precisas e atualizadas.

Monitorar a capacidade de processamento e o desempenho

Para monitorar o consumo de tokens em tempo real da sua organização, acesse o Metrics Explorer no Cloud Monitoring.

Acessar o Metrics Explorer

Para mais informações sobre como monitorar o tráfego de endpoints de modelos, consulte Monitorar modelos.

Os níveis de uso são aplicados no nível da organização. Para informações sobre como definir o escopo de observabilidade para representar a capacidade de processamento em vários projetos da sua organização, consulte Configurar escopos de observabilidade para consultas de vários projetos queries.

A seguir

Recurso

Cotas e limites relacionados à Agent Platform, excluindo limitações específicas do produto.

Visão geral

Saiba como Google Cloud restringe a quantidade de um recurso que seu Google Cloud projeto pode usar e como as cotas se aplicam a uma variedade de tipos de recursos, incluindo hardware, software e componentes de rede.