PayGo padrão

O pagamento por uso padrão (PayGo padrão) é uma opção de consumo para usar o pacote de modelos de IA generativa da Gemini Enterprise Agent Platform, incluindo a família de modelos do Gemini.

Com o PayGo padrão, você paga apenas pelos recursos que consome, sem precisar de compromissos financeiros iniciais. Para ajudar a escalonar as cargas de trabalho na capacidade compartilhada, o PayGo padrão incorpora um sistema de níveis de uso. A Agent Platform ajusta dinamicamente o limite de capacidade de processamento priorizado da sua organização com base no gasto total em serviços qualificados da Agent Platform em um período contínuo de 30 dias. À medida que os gastos da sua organização aumentam, ela é promovida automaticamente para níveis mais altos com limites de capacidade de processamento priorizados mais altos no pool de capacidade compartilhada. O PayGo padrão é executado em recursos compartilhados e não reserva capacidade dedicada nem fornece capacidade de processamento garantida durante períodos de alta concorrência. Para cargas de trabalho que exigem um desempenho mais consistente do que o PayGo padrão, considere o PayGo prioritário. Para capacidade dedicada e garantida, consulte Capacidade de Processamento Provisionada.

Níveis de uso e capacidade de processamento

Cada nível de uso do PayGo padrão define um limite de capacidade priorizada no nível da organização, medido em tokens por minuto (TPM). As solicitações até o limite de TPM do seu nível recebem acesso prioritário à capacidade compartilhada antes do tráfego de pico em excesso, embora a capacidade de processamento e a disponibilidade ainda dependam da demanda em tempo real em todo o pool compartilhado e não sejam garantidas. Os limites de capacidade de processamento se aplicam às solicitações enviadas ao endpoint global. O uso do endpoint global é uma prática recomendada porque ele fornece acesso a um pool mundial de capacidade de processamento e encaminha dinamicamente suas solicitações para o local com maior disponibilidade.

Os endpoints multirregionais (como us e eu em aiplatform.us.rep.googleapis.com e aiplatform.eu.rep.googleapis.com) restringem o processamento de machine learning a limites jurisdicionais específicos. Embora os endpoints multirregionais agrupem a capacidade em vários data centers nessa região, eles operam em pools de capacidade regionais separados e não compartilham a capacidade de processamento mundial do endpoint global. Os endpoints de região única (por exemplo, us-central1 ou us-east5) são restritos a um único cluster de data center e têm a menor capacidade de headroom. Se as cargas de trabalho não estiverem sujeitas a requisitos rígidos de residência de dados, use o endpoint global para usar todo o limite de capacidade de processamento priorizado do seu nível e maximizar o headroom. Para mais informações sobre como configurar endpoints multirregionais, consulte Endpoints multirregionais.

Seu tráfego não é limitado estritamente ao limite de TPM do seu nível. Quando há capacidade compartilhada disponível, a Agent Platform atende ao tráfego que excede esse limite de forma oportunista. Durante períodos de alta demanda na plataforma de agentes, o excesso de tráfego de burst é limitado antes do tráfego dentro dos limites de nível, e todo o tráfego do pool compartilhado pode apresentar maior latência ou erros 429. Para minimizar a limitação, suavize o tráfego o máximo possível ao longo de cada minuto e evite enviar solicitações em picos acentuados de segundo nível. O tráfego instantâneo alto pode levar à limitação, mesmo que o uso médio por minuto esteja dentro do limite de TPM do seu nível.

Os seguintes níveis estão disponíveis no PayGo Standard:

Família do modelo Nível Gastos do cliente (30 dias) TPM de tráfego (nível da organização)
Modelos Gemini Pro e Argon
(inclui o Gemini 4 Argon e o Gemini 4 Argon Cyber Permissive)		 Nível 1 US$ 10 - US$ 250 500.000
Nível 2 US$ 250 a US$ 2.000 1.000.000
Nível 3 US$ 2.000 a US$ 50.000 2.000.000
Nível 4 > US$ 50.000 10.000.000
Nível personalizado Entre em contato com sua equipe de vendas para mais informações.
Modelos Gemini Flash e Flash Lite Nível 1 US$ 10 - US$ 250 2.000.000
Nível 2 US$ 250 a US$ 2.000 4.000.000
Nível 3 US$ 2.000 a US$ 50.000 10.000.000
Nível 4 > US$ 50.000 50.000.000
Nível personalizado Entre em contato com sua equipe de vendas para mais informações.

O limite de capacidade de processamento mostrado para uma família de modelos se aplica de forma independente a cada modelo dentro dessa família. Por exemplo, uma organização no nível 3 tem um limite de capacidade de processamento priorizado de 10.000.000 TPM para o Gemini 3.5 Flash. O uso em relação ao limite de um modelo não afeta a capacidade de processamento de outros modelos. Não há um limite separado de solicitações por minuto (RPM) para cada nível. As solicitações do Gemini com entradas multimodais estão sujeitas aos limites de taxa do sistema correspondentes.

Como funcionam os níveis de uso

Seu nível de uso é determinado automaticamente pelo gasto total da sua organização em serviços qualificados da Agent Platform em um período contínuo de 30 dias. À medida que os gastos da sua organização aumentam, o sistema promove você para um nível mais alto com limites de capacidade de processamento priorizados mais altos.

Cálculo de gasto

Esse cálculo inclui uma ampla variedade de serviços, desde previsões em todas as famílias de modelos do Gemini até instâncias de CPU, GPU e TPU da Agent Platform, além de SKUs baseadas em compromisso, como a Capacidade de Processamento Provisionada.

Clique para saber mais sobre as SKUs incluídas no cálculo de gastos.

A tabela a seguir lista as categorias de SKUs doGoogle Cloud que estão incluídas no cálculo do gasto total.

Categoria Descrição das SKUs incluídas
Modelos do Gemini Todas as famílias de modelos do Gemini (como 2.0, 2.5 e 3.0 nas versões Pro, Flash e Lite) para previsões em todas as modalidades (texto, imagem, áudio, vídeo), incluindo variações em lote, de contexto longo, ajustadas e de "raciocínio"
Recursos do modelo do Gemini Todas as SKUs do Gemini relacionadas a recursos como armazenamento em cache, armazenamento em cache e níveis de prioridade, em todas as modalidades e versões de modelo
CPU da plataforma de agentes Predições on-line e em lote em todas as famílias de instâncias baseadas em CPU (como C2, C3, E2, N1, N2 e as variantes delas)
GPU da plataforma de agentes Predições on-line e em lote em todas as instâncias aceleradas por GPU NVIDIA (como as séries A100, H100, H200, B200, L4, T4, V100 e RTX)
TPU da plataforma de agentes Previsões on-line e predição em lote em todas as instâncias baseadas em TPU (como TPU-v5e e v6e)
Gerenciamento e taxas Todas as SKUs de "Taxa de gerenciamento" associadas a várias instâncias de previsão da Agent Platform
Capacidade de Processamento Provisionada Todas as SKUs baseadas em compromisso para capacidade de processamento provisionada
Outros Serviços Serviços especializados, como "Embasamento de LLM para o Gemini… com a ferramenta Pesquisa Google"

Verificar o nível de uso

Para verificar o nível de uso da sua organização, acesse o painel da plataforma de agentes no console do Google Cloud . Para conferir o nível de uso no painel, você precisa do papel de Leitor da Agent Platform (roles/aiplatform.viewer) no projeto e do papel de Leitor da conta de faturamento (roles/billing.viewer) na conta de faturamento.

Acessar o painel da Agent Platform

Verificar gastos

Para analisar seus gastos com a Agent Platform, acesse o Cloud Billing no console doGoogle Cloud . Os gastos são agregados no nível da organização.

Acessar o Cloud Billing

Erros de recurso esgotado (429)

Se você receber um erro 429, isso não indica que você atingiu uma cota fixa. Ele indica uma alta contenção temporária para um recurso compartilhado específico. Implemente uma estratégia de nova tentativa de espera exponencial para lidar com esses erros, porque a disponibilidade nesse ambiente dinâmico pode mudar rapidamente.

Além de uma estratégia de repetição, avalie sua escolha de endpoint:

  • Endpoint global (recomendado): o endpoint global encaminha solicitações de forma dinâmica pela frota mundial de data centers do Google, agrupando a capacidade de processamento global e suavizando picos localizados. Isso oferece a maior disponibilidade e reduz significativamente a probabilidade de erros 429.
  • Endpoints multirregionais (como us e eu): os endpoints multirregionais reúnem capacidade em vários data centers dentro de um limite geográfico específico. Embora ofereçam maior capacidade do que uma única região, eles não acessam a capacidade mundial. Se o aplicativo usa um endpoint multirregional e apresenta erros 429 durante períodos de pico, avalie se as políticas de governança de dados permitem rotear cargas de trabalho não sensíveis ou gerais para o endpoint global ou considere PayGo prioritário ou Capacidade de processamento provisionada.
  • Endpoints de região única (como us-central1): os endpoints de região única são restritos a um local de cluster específico e têm a maior probabilidade de apresentar erros 429 sob contenção de carga. Evite fixar cargas de trabalho de alta capacidade de processamento do PayGo Standard em endpoints de região única, a menos que seja necessário para colocation com recursos de computação sensíveis à latência.

Para melhores resultados, combine o uso do endpoint global com a suavização de tráfego. Evite enviar solicitações em picos acentuados de segundo nível, porque o tráfego instantâneo alto pode levar à limitação, mesmo que o uso médio por minuto esteja dentro do limite de capacidade de processamento priorizado do seu nível. Distribuir as chamadas de API de maneira mais uniforme ajuda o sistema a gerenciar a carga de forma previsível e melhora o desempenho geral. Para mais informações sobre como lidar com erros de esgotamento de recursos, consulte Criar aplicativos de LLM resilientes e reduzir erros 429 e Código de erro 429.

Modelos compatíveis

Os seguintes modelos do Gemini com disponibilidade geral (GA) e os modelos correspondentes com ajuste supervisionado são compatíveis com o PayGo padrão com níveis de uso:

Clique para abrir os modelos compatíveis

Os seguintes modelos do Gemini em GA também são compatíveis com o PayGo Standard, mas os níveis de uso não se aplicam a eles:

Esses níveis não se aplicam aos modelos de pré-lançamento. Consulte a documentação oficial específica de cada modelo para ver as informações mais precisas e atualizadas.

Monitorar a capacidade de processamento e o desempenho

Para monitorar o consumo de tokens em tempo real da sua organização, acesse o Metrics Explorer no Cloud Monitoring.

Acessar o Metrics Explorer

Para mais informações sobre como monitorar o tráfego de endpoints de modelo, consulte Monitorar modelos.

Os níveis de uso se aplicam no nível da organização. Para saber como definir o escopo de observabilidade para gerar gráficos de capacidade em vários projetos da sua organização, consulte Configurar escopos de observabilidade para consultas em vários projetos.

A seguir

Recurso

Cotas e limites relacionados à Agent Platform, exceto limitações específicas do produto.

Visão geral

Saiba como o Google Cloud restringe a quantidade de um recurso que seu projeto do Google Cloud pode usar e como as cotas se aplicam a uma variedade de tipos de recursos, incluindo hardware, software e componentes de rede.