Nesta seção, explicamos os conceitos de unidade de escala da IA generativa (GSU) e taxas de burndown. A capacidade de processamento provisionada é calculada e precificada usando unidades de escala da IA generativa (GSUs) e taxas de burndown.
GSU e taxa de burndown
Uma unidade de escala de IA generativa (GSU, na sigla em inglês) é uma medida de capacidade de processamento para comandos e respostas. Esse valor especifica a capacidade de provisionamento de um modelo.
Uma taxa de burndown é uma proporção que converte as unidades de entrada e saída (como tokens, caracteres ou imagens) em tokens de entrada por segundo, caracteres de entrada por segundo ou imagens de entrada por segundo, respectivamente. Essa proporção representa a capacidade de processamento e é usada para produzir uma unidade padrão em todos os modelos.
Modelos diferentes usam quantidades diferentes de capacidade de processamento. Para informações sobre o valor mínimo de montante da compra e os incrementos de GSU para cada modelo, consulte Modelos compatíveis e taxas de burndown neste documento.
Esta equação demonstra como a capacidade de processamento é calculada:
inputs_per_query = inputs_across_modalities_converted_using_burndown_rates
outputs_per_query = outputs_across_modalities_converted_using_burndown_rates
throughput_per_second = (inputs_per_query + outputs_per_query) * queries_per_second
A capacidade de processamento calculada por segundo determina quantas GSUs você precisa para seu caso de uso.
Considerações importantes
Para ajudar você a planejar suas necessidades de capacidade de processamento provisionada, analise as seguintes considerações importantes:
As solicitações são priorizadas.
Os clientes da capacidade de processamento provisionada são priorizados e atendidos antes das solicitações sob demanda.
A capacidade de processamento não se acumula.
A capacidade de processamento não utilizada não se acumula nem é transferida para o mês seguinte.
A capacidade de processamento provisionada é medida em tokens por segundo, caracteres por segundo ou imagens por segundo.
A capacidade de processamento provisionada não é medida apenas com base em consultas por minuto (QPM). Ela é medida com base no tamanho da consulta para seu caso de uso, no tamanho da resposta e no QPM.
A capacidade de processamento provisionada é específica para um projeto, região, modelo e versão.
A capacidade de processamento provisionada é atribuída a uma combinação específica de projeto-região-modelo-versão. O mesmo modelo chamado de uma região diferente não será contabilizado na sua cota de capacidade de processamento provisionada e não será priorizado em relação às solicitações sob demanda.
O armazenamento em cache de contexto
A capacidade de processamento provisionada oferece suporte ao armazenamento em cache implícito e explícito. Para informações sobre modelos e limites compatíveis, consulte O armazenamento em cache de contexto.
O armazenamento em cache implícito é ativado em todos os Google Cloud projetos por padrão. Ele reduz o custo e a latência durante as ocorrências em cache. Os tokens em cache são cobrados com um desconto em relação aos tokens de entrada padrão quando ocorre uma ocorrência em cache. O armazenamento em cache explícito oferece mais controle e garante um desconto quando os caches explícitos são referenciados. Para saber como criar um cache de contexto para o armazenamento em cache explícito, consulte Criar um cache de contexto. Para conferir os descontos específicos do modelo, consulte Visão geral do armazenamento em cache de contexto. Para a capacidade de processamento provisionada, o desconto é aplicado por uma taxa de burndown reduzida.
Por exemplo, o Gemini 2.5 Pro tem as seguintes taxas de burndown para tokens de texto de entrada e tokens em cache:
1 token de texto de entrada = 1 token
1 token de texto em cache de entrada = 0,1 token
O envio de 1.000 tokens de entrada para esse modelo resulta em um burndown da capacidade de processamento provisionada de 1.000 tokens de entrada por segundo. No entanto, se você enviar 1.000 tokens em cache para o Gemini 2.5 Pro, isso resultará em um burndown da capacidade de processamento provisionada de 100 tokens por segundo.
Observação: isso pode levar a uma capacidade de processamento maior para consultas semelhantes em que os tokens não estão em cache e o desconto de cache não é aplicado.
Para conferir as taxas de burndown dos modelos com suporte na capacidade de processamento provisionada, consulte Modelos e taxas de burndown compatíveis.
Entender o burndown da API Gemini Live
A capacidade de processamento provisionada oferece suporte ao Gemini 2.5 Flash com a API Gemini Live. Para entender como calcular o burndown ao usar a API Gemini Live, consulte Calcular a capacidade de processamento da API Gemini Live.
Para mais informações sobre como usar a capacidade de processamento provisionada para o Gemini 2.5 Flash com a API Gemini Live, consulte Capacidade de processamento provisionada para a API Gemini Live.
Exemplo de estimativa das suas necessidades de capacidade de processamento provisionada
Para estimar suas necessidades de capacidade de processamento provisionada, use a ferramenta de estimativa no Google Cloud console. O exemplo a seguir ilustra o processo de estimativa da quantidade de capacidade de processamento provisionada para o modelo. A região não é considerada nos cálculos de estimativa.
Esta tabela mostra as taxas de burndown do Gemini 3.6 Flash que você pode usar para seguir o exemplo.
| Modelo | Capacidade de processamento por GSU | Unidades | Incremento mínimo de compra de GSU | Taxas de burndown |
|---|---|---|---|---|
| Gemini 3.6 Flash | 675 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagem de entrada = 1 token 1 token de vídeo de entrada = 1 token 1 token de áudio de entrada = 1 token 1 token de armazenamento em cache de texto de entrada = 0,1 token 1 token de armazenamento em cache de imagem de entrada = 0,1 token 1 token de armazenamento em cache de vídeo de entrada = 0,1 token 1 token de armazenamento em cache de áudio de entrada = 0,1 token 1 token de resposta de texto de saída = 5 tokens |
Reúna os requisitos. Neste exemplo, seu requisito é verificar se você pode oferecer suporte a 10 consultas por segundo (QPS) de uma consulta com uma entrada de 1.000 tokens de texto e 500 tokens de áudio para receber uma saída de 300 tokens de resposta de texto usando
gemini-3.6-flash.Para calcular a capacidade de processamento do seu caso de uso específico, use as taxas de burndown do modelo selecionado.
Calcule sua capacidade de processamento. Multiplique as entradas pelas taxas de burndown para chegar ao total de tokens de entrada:
$\text{1.000} \times (\text{1 token por token de texto de entrada}) + \text{500} \times (\text{1 token por token de áudio de entrada}) = \text{1.500}$ tokens de entrada ajustados de burndown por consulta.
Multiplique as saídas pelas taxas de burndown para chegar ao total de tokens de saída:
$\text{300} \times (\text{5 tokens por token de resposta de texto de saída}) = \text{1.500}$ tokens de saída ajustados de burndown por consulta.
Adicione todos os totais:
$\text{1.500 tokens de entrada ajustados de burndown} + \text{1.500 tokens de saída ajustados de burndown} = \text{3.000}$ tokens totais por consulta.
Multiplique o número total de tokens pelo QPS para chegar à capacidade de processamento total por segundo:
$\text{3.000 tokens totais por consulta} \times \text{10 QPS} = \text{30.000}$ tokens totais por segundo.
Calcule as GSUs necessárias. As GSUs são o total de tokens por segundo dividido pela capacidade de processamento por segundo por GSU da tabela de burndown:
$\text{30.000 tokens totais por segundo} \div \text{675 de capacidade de processamento por segundo por GSU} = \text{44,44}$ GSUs.
O incremento mínimo de compra de GSU para
gemini-3.6-flashé 1, então você vai precisar de 45 GSUs para garantir sua carga de trabalho.