Il pagamento a consumo standard (PayGo standard) è un'opzione di consumo per l'utilizzo della suite di modelli di AI generativa di Gemini Enterprise Agent Platform, inclusa la famiglia di modelli Gemini.
PayGo standard ti consente di pagare solo per le risorse che utilizzi, senza richiedere impegni finanziari iniziali. Per facilitare la scalabilità dei workload sulla capacità condivisa, Standard PayGo incorpora un sistema di livelli di utilizzo. Agent Platform regola dinamicamente la soglia di throughput con priorità della tua organizzazione in base alla spesa totale per i servizi Agent Platform idonei in un periodo di 30 giorni. Man mano che la spesa della tua organizzazione aumenta, viene automaticamente promossa a livelli superiori con soglie di throughput con priorità più elevata all'interno del pool di capacità condivisa. Standard PayGo viene eseguito su risorse condivise e non prenota capacità dedicata né fornisce un throughput garantito durante i periodi di elevata contesa. Per i workload che richiedono prestazioni più coerenti rispetto a PayGo standard, prendi in considerazione PayGo prioritario. Per una capacità dedicata e garantita, consulta Throughput riservato.
Livelli di utilizzo e throughput
Ogni livello di utilizzo Standard PayGo definisce una soglia di throughput con priorità a livello di organizzazione, misurata in token al minuto (TPM). Le richieste fino alla soglia TPM del tuo livello ricevono l'accesso prioritario alla capacità condivisa prima del traffico in burst in eccesso, anche se il throughput e la disponibilità dipendono comunque dalla domanda in tempo reale nel pool condiviso e non sono garantiti. Le soglie di velocità effettiva si applicano alle richieste inviate all'endpoint global. L'utilizzo dell'endpoint global è una best practice perché fornisce l'accesso a un pool mondiale di capacità di throughput e instrada dinamicamente le richieste alla località con la maggiore disponibilità.
Gli endpoint multiregionali (come us e eu su aiplatform.us.rep.googleapis.com e aiplatform.eu.rep.googleapis.com) limitano l'elaborazione del machine learning a confini giurisdizionali specifici.
Sebbene gli endpoint multiregionali raggruppino la capacità in più data center all'interno di quell'area geografica, operano da pool di capacità regionali separati e non condividono la capacità di throughput mondiale dell'endpoint global.
Gli endpoint a singola regione (ad esempio us-central1 o us-east5) sono limitati a un singolo cluster di data center e hanno il margine di capacità più basso. Se i tuoi workload non sono soggetti a requisiti rigorosi di residenza dei dati, utilizza l'endpoint global per utilizzare la soglia di throughput con priorità completa del tuo livello e massimizzare l'headroom. Per saperne di più sulla configurazione degli endpoint multiregionali, consulta Endpoint multiregionali.
Il traffico non è limitato rigorosamente alla soglia di TPM del tuo livello. Quando è disponibile capacità condivisa di riserva, Agent Platform gestisce il traffico che supera questa soglia in modo opportunistico. Durante i periodi di domanda elevata su Agent Platform, il traffico in burst in eccesso viene limitato prima del traffico entro le soglie del livello e tutto il traffico del pool condiviso può subire una latenza più elevata o errori 429. Per ridurre al minimo la limitazione, distribuisci il traffico nel modo più uniforme possibile nel corso di ogni minuto ed evita di inviare richieste con picchi improvvisi a livello di secondo.
Un traffico istantaneo elevato può causare una limitazione anche se l'utilizzo medio al minuto rientra nella soglia TPM del tuo livello.
In Standard PayGo sono disponibili i seguenti livelli:
| Famiglia di modelli | Livello | Spesa del cliente (30 giorni) | TPM del traffico (a livello di organizzazione) |
|---|---|---|---|
| Modelli Gemini Pro e Argon (include Gemini 4 Argon e Gemini 4 Argon Cyber Permissive) |
Livello 1 | 10-250 $ | 500.000 |
| Livello 2 | 250-2000 $ | 1.000.000 | |
| Livello 3 | 2000 $-50.000 $ | 2.000.000 | |
| Livello 4 | > 50.000 $ | 10.000.000 | |
| Livello personalizzato | Contatta il team di vendita per ulteriori informazioni | ||
| Modelli Gemini Flash e Flash-Lite | Livello 1 | 10-250 $ | 2.000.000 |
| Livello 2 | 250-2000 $ | 4.000.000 | |
| Livello 3 | 2000 $-50.000 $ | 10.000.000 | |
| Livello 4 | > 50.000 $ | 50.000.000 | |
| Livello personalizzato | Contatta il team di vendita per ulteriori informazioni | ||
La soglia di throughput mostrata per una famiglia di modelli si applica in modo indipendente a ciascun modello di quella famiglia. Ad esempio, un'organizzazione nel livello 3 ha una soglia di throughput con priorità di 10.000.000 TPM per Gemini 3.5 Flash. L'utilizzo rispetto alla soglia di un modello non influisce sulla velocità effettiva di altri modelli. Non esiste un limite di richieste al minuto (RPM) separato per ogni livello. Le richieste di Gemini con input multimodali sono soggette ai limiti di frequenza del sistema corrispondenti.
Come funzionano i livelli di utilizzo
Il tuo livello di utilizzo viene determinato automaticamente in base alla spesa totale della tua organizzazione per i servizi Agent Platform idonei in un periodo di 30 giorni. Man mano che la spesa della tua organizzazione aumenta, il sistema ti promuove a un livello superiore con soglie di throughput con priorità più alta.
Calcolo della spesa
Questo calcolo include un'ampia gamma di servizi, dalle previsioni su tutte le famiglie di modelli Gemini alle istanze di CPU, GPU e TPU di Agent Platform, nonché gli SKU basati su impegni, come il throughput riservato.
Fai clic per scoprire di più sugli SKU inclusi nel calcolo della spesa.
La tabella seguente elenca le categorie di SKUGoogle Cloud incluse nel calcolo della spesa totale.
| Categoria | Descrizione degli SKU inclusi |
|---|---|
| Modelli Gemini | Tutte le famiglie di modelli Gemini (come 2.0, 2.5 e 3.0 nelle versioni Pro, Flash e Lite) per le previsioni in tutte le modalità (testo, immagine, audio, video), incluse le varianti batch, con contesto lungo, ottimizzate e "thinking" |
| Funzionalità del modello Gemini | Tutti gli SKU Gemini correlati per funzionalità come Caching, Caching Storage e Priority Tier, in tutte le modalità e versioni del modello |
| CPU della piattaforma agente | Previsioni online e in batch su tutte le famiglie di istanze basate su CPU (come C2, C3, E2, N1, N2 e le relative varianti) |
| GPU Agent Platform | Previsioni online e in batch su tutte le istanze con accelerazione GPU NVIDIA (come le serie A100, H100, H200, B200, L4, T4, V100 e RTX) |
| TPU Agent Platform | Previsioni online e in batch su tutte le istanze basate su TPU (come TPU-v5e e v6e) |
| Gestione e commissioni | Tutti gli SKU "Commissione di gestione" associati a varie istanze di previsione di Agent Platform |
| Throughput riservato | Tutti gli SKU basati sull'impegno per il throughput riservato |
| Altri servizi | Servizi specializzati come "LLM Grounding for Gemini… with strumento della Ricerca Google" |
Verifica il livello di utilizzo
Per verificare il livello di utilizzo della tua organizzazione, vai alla dashboard della piattaforma agente nella console Google Cloud .
Per visualizzare il livello di utilizzo nella dashboard, devi disporre del
ruolo Visualizzatore piattaforma agente
(roles/aiplatform.viewer) nel progetto e del
ruolo Visualizzatore account di fatturazione
(roles/billing.viewer) nell'account di fatturazione.
Vai alla dashboard di Agent Platform
Verifica la spesa
Per esaminare la spesa per Agent Platform, vai alla fatturazione Cloud nella consoleGoogle Cloud . La spesa viene aggregata a livello di organizzazione.
Errori relativi all'esaurimento delle risorse (429)
Se ricevi un errore 429, non significa che hai raggiunto una quota fissa.
Indica un'elevata contesa temporanea per una risorsa condivisa specifica.
Implementa una strategia di ripetizione con backoff esponenziale per gestire questi errori, poiché la disponibilità in questo ambiente dinamico può cambiare rapidamente.
Oltre a una strategia di ripetizione, valuta la scelta dell'endpoint:
- Endpoint
global(consigliato): l'endpointglobalinstrada dinamicamente le richieste attraverso il parco di data center di Google in tutto il mondo, raggruppando la capacità di throughput globale e attenuando i picchi localizzati. In questo modo, si ottiene la massima disponibilità e si riduce notevolmente la probabilità di errori429. - Endpoint multiregionali (come
useeu): gli endpoint multiregionali raggruppano la capacità in più data center all'interno di un confine geografico specifico. Sebbene offrano una capacità maggiore rispetto a una singola regione, non accedono alla capacità mondiale. Se la tua applicazione utilizza un endpoint multiregionale e riscontra errori429durante i periodi di picco, valuta se le tue policy di governance dei dati consentono il routing di workload non sensibili o generali all'endpointglobalo prendi in considerazione PayGo con priorità o Throughput riservato. - Endpoint a regione singola (come
us-central1): gli endpoint a regione singola sono limitati a una località del cluster specifica e hanno la massima probabilità di riscontrare errori429in caso di conflitto di carico. Evita di assegnare workload Standard PayGo con throughput elevato a endpoint a regione singola, a meno che non sia necessario per la collocazione con risorse di computing sensibili alla latenza.
Per risultati ottimali, combina l'utilizzo dell'endpoint global con la
regolazione del traffico. Evita di inviare richieste con picchi improvvisi a livello di secondo, perché un traffico istantaneo elevato può portare alla limitazione, anche se l'utilizzo medio al minuto rientra nella soglia di throughput con priorità del tuo livello. La distribuzione più uniforme delle chiamate API aiuta il sistema a gestire il carico in modo prevedibile e migliora le prestazioni complessive. Per ulteriori informazioni su come gestire gli errori di esaurimento delle risorse, consulta Crea applicazioni LLM resilienti e riduci gli errori 429 e Codice di errore 429.
Modelli supportati
I seguenti modelli Gemini in disponibilità generale (GA) e i corrispondenti modelli con fine-tuning supervisionato supportano PayGo standard con livelli di utilizzo:
Fai clic per espandere i modelli supportati
Anche i seguenti modelli Gemini GA supportano Standard PayGo, ma i livelli di utilizzo non si applicano a questi modelli:
- Gemini Nano Banana 2.1
- Gemini 3.1 Flash Image
- Gemini 3.1 Flash-Lite Image
- Gemini 3 Pro Image
- Gemini 2.5 Flash Image
Questi livelli non si applicano ai modelli di anteprima. Per informazioni più accurate e aggiornate, consulta la documentazione ufficiale specifica di ogni modello.
Monitora il throughput e le prestazioni
Per monitorare il consumo di token in tempo reale della tua organizzazione, vai a Metrics Explorer in Cloud Monitoring.
Per saperne di più sul monitoraggio del traffico degli endpoint del modello, consulta Monitora i modelli.
I livelli di utilizzo si applicano a livello di organizzazione. Per informazioni su come impostare l'ambito di osservabilità per tracciare il throughput in più progetti della tua organizzazione, consulta Configura gli ambiti di osservabilità per le query su più progetti.
Passaggi successivi
Quote e limiti di Agent Platform
Quote e limiti relativi ad Agent Platform, escluse le limitazioni specifiche del prodotto.
Quote di Google Cloud
Scopri come Google Cloud limita la quantità di una risorsa che il tuo progetto Google Cloud può utilizzare e come le quote si applicano a una serie di tipi di risorse, inclusi hardware, software e componenti di rete.