Le tabelle seguenti mostrano i modelli che supportano il throughput riservato, il throughput per ogni unità di scalabilità dell'AI generativa (GSU) e i tassi di consumo per ogni modello.
Modelli Google
Il throughput riservato supporta solo i modelli che chiami direttamente
dal tuo progetto utilizzando l'ID modello specifico e non un alias del modello. Per utilizzare il throughput riservato per effettuare chiamate API a un modello, devi utilizzare l'ID versione del modello specifico (ad esempio gemini-2.0-flash-001) e non un alias della versione del modello.
Anche se il Throughput riservato garantisce la capacità per le richieste del modello, non include né bypassa le quote per altri strumenti che potresti utilizzare, ad esempio Grounding. A seconda delle dimensioni del tuo workload, potresti dover richiedere una quota aggiuntiva per questi strumenti separatamente.
Inoltre, il Throughput riservato non supporta i modelli chiamati da altri prodotti Gemini Enterprise Agent Platform, come Vertex AI Agents e Agent Search. Ad esempio, se effettui chiamate API a Gemini 3.5 Flash mentre utilizzi la ricerca dell'agente, l'ordine di Provisioned Throughput per Gemini 3.5 Flash non garantirà le chiamate effettuate dalla ricerca dell'agente.
Il Throughput riservato non supporta le chiamate di previsioni in batch.
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di burndown per i modelli Google che supportano il throughput riservato. Il throughput al secondo è definito come l'input del prompt e l'output generato in tutte le richieste al secondo.
Per scoprire quanti token richiede il tuo workload, fai riferimento al tokenizzatore SDK o all'API countTokens.
| Modello | Throughput al secondo per GSU | Unità | Incremento minimo di acquisto di GSU | Tassi di esaurimento |
|---|---|---|---|---|
|
Ultima versione supportata: |
260 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,05 token 1 token di memorizzazione nella cache dell'immagine di input = 0,05 token 1 token di memorizzazione nella cache del video di input = 0,05 token 1 token di memorizzazione nella cache dell'audio di input = 0,05 token 1 token di testo di risposta/ragionamento di output = 5 token |
|
Gemini 4 Argon Cyber Permissive Ultima versione supportata: |
260 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,05 token 1 token di memorizzazione nella cache delle immagini di input = 0,05 token 1 token di memorizzazione nella cache dei video di input = 0,05 token 1 token di memorizzazione nella cache dell'audio di input = 0,05 token 1 token di testo di risposta/ragionamento di output = 5 token |
|
Ultima versione supportata: |
1350 | Token | 1 |
1 token di testo di input = 1 token 1 token audio di input = 4 token 1 token immagine / video di input = 1,4 token 1 token di testo di output = 6 token 1 token audio di output = 16 token 1 token video di output = 1,4 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
670 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di testo di output (risposta e ragionamento) = 6 token 1 token di video di output = 12 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
3360 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 9 token |
|
Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) Ultima versione supportata: |
4030 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 120 token |
|
Ultima versione supportata: |
500 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 60 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di testo di risposta di output = 5 token 1 token di testo di ragionamento di output = 5 token 1 token di immagine di output = 20 token |
|
Ultima versione supportata: |
2015 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 120 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di testo di output = 6 token |
|
Ultima versione supportata: |
4030 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 2 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,2 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token |
|
Ultima versione supportata: |
500 | Token | 1 |
Meno di o uguale a 200.000 token di input: 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di cache di input = 0,1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token Più di 200.000 token di input: 1 token di testo di input = 2 token 1 token di immagine di input = 2 token 1 token di video di input = 2 token 1 token di audio di input = 2 token 1 token di cache di input = 0,2 token 1 token di testo di risposta di output = 9 token 1 token di testo di ragionamento di output = 9 token |
|
Ultima versione supportata: |
2015 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 2 token 1 token di memorizzazione nella cache di testo, immagine e video di input = 0,1 token 1 token di memorizzazione nella cache di audio di input = 0,2 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token |
|
Ultima versione supportata: |
650 | Token | 1 |
Meno di 200.000 token di input: 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di testo di risposta di output = 8 token 1 token di testo di ragionamento di output = 8 token Più di 200.000 token di input: 1 token di testo di input = 2 token 1 token di immagine di input = 2 token 1 token di video di input = 2 token 1 token di audio di input = 2 token 1 token di testo di risposta di output = 12 token 1 token di testo di ragionamento di output = 12 token |
|
Ultima versione supportata: |
2690 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 9 token 1 token di immagine di output = 100 token |
|
Ultima versione supportata: |
2690 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 4 token 1 token di testo di risposta di output = 9 token 1 token di testo di ragionamento di output = 9 token |
|
Ultima versione supportata (GA): Ultima versione supportata (anteprima): |
8070 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 3 token 1 token di testo di risposta di output = 4 token 1 token di testo di ragionamento di output = 4 token |
|
Gemini 2.5 Flash con audio nativo dell'API Gemini Live Ultima versione supportata: |
1620 | Token | 1 |
1 token di testo di input = 1 token 1 token audio di input = 6 token 1 token video di input = 6 token 1 token di immagine di input = 6 token 1 token di memoria della sessione di input = 1 token 1 token di testo di output = 4 token 1 token audio di output = 24 token |
|
Ultima versione supportata: |
0,02 | Immagini | 1 |
1 immagine al secondo = 0,02 token |
Ultima versione supportata: |
0,0350 | Secondi di video (720p) | 1 | 1 secondo di video di output (720p) = 1 secondo di video di output |
| Secondi di video e audio (720p) | 1 | 1 secondo di video e audio di output (720p) = 1,75 secondi di video di output | ||
| Secondi di video (1080p) | 1 | 1 secondo di video di output (1080p) = 1,75 secondi di video di output (720p) | ||
| Secondi di video e audio (1080p) | 1 | 1 secondo di video e audio di output (1080p) = 2,33 secondi di video di output (720p) | ||
Ultima versione supportata: |
0,0040 | Secondi di video | 1 | 1 secondo di video di output = 1 secondo di video di output |
| Secondi di video+audio | 1 | 1 secondo di video + audio di output = 2 secondi di video di output | ||
Ultima versione supportata: |
0,01 | Secondi di video (720p) | 1 | 1 secondo di video di output (720p) = 1 secondo di video di output |
| Secondi di video e audio (720p) | 1 | 1 secondo di video e audio di output (720p) = 1,30 secondi di video di output | ||
| Secondi di video (1080p) | 1 | 1 secondo di video di output (1080p) = 1,30 secondi di video di output (720p) | ||
| Secondi di video e audio (1080p) | 1 | 1 secondo di video e audio di output (1080p) = 1,60 secondi di video di output (720p) | ||
| Secondi di video (4K) | 1 | 1 secondo di video di output (4K) = 3,40 secondi di video di output (720p) | ||
| Secondi di video e audio (4K) | 1 | 1 secondo di video e audio di output (4K) = 4 secondi di video di output (720p) | ||
Ultima versione supportata: |
0,0040 | Secondi di video | 1 | 1 secondo di video di output = 1 secondo di video di output |
| Secondi di video+audio | 1 | 1 secondo di video+audio di output = 2 secondi di video di output | ||
Ultima versione supportata: |
0,01 | Secondi di video (720p) | 1 | 1 secondo di video di output (720p) = 1 secondo di video di output |
| Secondi di video e audio (720p) | 1 | 1 secondo di video e audio di output (720p) = 1,30 secondi di video di output | ||
| Secondi di video (1080p) | 1 | 1 secondo di video di output (1080p) = 1,30 secondi di video di output (720p) | ||
| Secondi di video e audio (1080p) | 1 | 1 secondo di video e audio di output (1080p) = 1,60 secondi di video di output (720p) |
Per informazioni sulle funzionalità e sui limiti di input o output di un modello, consulta la documentazione del modello.
Puoi eseguire l'upgrade a nuovi modelli man mano che diventano disponibili. Per informazioni su disponibilità e date di ritiro dei modelli, consulta Modelli Google.
Per saperne di più sulle località supportate, consulta Località disponibili.
Modelli di partner
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di esaurimento per i modelli partner che supportano il throughput riservato. I modelli Claude vengono misurati in token al secondo, ovvero il totale dei token di input e output in tutte le richieste al secondo.
| Modello | Throughput per GSU (token/sec) | Acquisto minimo di GSU | Incremento dell'acquisto di GSU | Tassi di burn down |
|---|---|---|---|---|
| Claude Haiku 5.5 di Anthropic su Google Cloud | 10.417 | 1 | 1 | 100.000 token di input o meno: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 minuti = 1,25 token 1 token di scrittura nella cache di 1 ora = 2 token 1 successo della cache token = 0,1 token Più di 100.000 token di input: 1 token di input = 5 token 1 token di output = 25 token 1 token di scrittura nella cache di 5 minuti = 6,25 token 1 token di scrittura nella cache di 1 ora = 10 token 1 successo della cache token = 0,5 token |
| Claude Sonnet 5.5 di Anthropic su Google Cloud | 525 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 ora = 2 token 1 token di successo della cache = 0,05 token |
| Claude Opus 5.5 di Anthropic su Google Cloud | 261 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 ora = 2 token 1 token di successo della cache = 0,05 token |
| Claude Fable 5.1 di Anthropic su Google Cloud | 105 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 token di successo della cache = 0,025 token |
| Claude Opus 5 di Anthropic su Google Cloud | 210 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 token di successo della cache = 0,1 token |
| Claude Sonnet 5 di Anthropic su Google Cloud | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Fable 5 di Anthropic su Google Cloud | 105 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.8 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.7 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Sonnet 4.6 di Anthropic su Google Cloud | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.6 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.5 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Sonnet 4.5 di Anthropic su Google Cloud | 350 | 25 | 1 | Meno di 200.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 scrittura nella cache 5 m = 1,25 token 1 scrittura nella cache 1 ora = 2 token 1 successo della cache = 0,1 token Almeno 200.000 token di input: 1 token di input = 2 token 1 token di output = 7,5 token 1 scrittura nella cache 5 m = 2,5 token 1 scrittura nella cache 1 ora = 4 token 1 successo della cache = 0,2 token |
| Claude Opus 4.1 di Anthropic su Google Cloud | 70 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Haiku 4.5 di Anthropic su Google Cloud | 1050 | 8 | 1 | Meno di 200.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 minuti = 1,25 token 1 token di scrittura nella cache di 1 ora = 2 token 1 token di successo della cache = 0,1 token |
| Claude Opus 4 di Anthropic su Google Cloud | 70 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Sonnet 4 di Anthropic su Google Cloud | 350 | 25 | 1 | Meno di 200.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache 5m = 1,25 token 1 token di scrittura nella cache 1h = 2 token 1 token di successo della cache = 0,1 token Maggiore o uguale a 200.000 token di input: 1 token di input = 2 token 1 token di output = 7,5 token 1 token di scrittura nella cache 5m = 2,5 token 1 token di scrittura nella cache 1h = 4 token 1 token di successo della cache = 0,2 token |
| Claude 3.7 Sonnet di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache 5m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3.5 Sonnet v2 di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache 5m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3.5 Haiku di Anthropic su Google Cloud (deprecato) | 2000 | 10 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude 3 Opus di Anthropic su Google Cloud | 70 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache 5m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3 Haiku di Anthropic su Google Cloud (deprecato) | 4200 | 5 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache 5 m = 1,25 token 1 token di scrittura della cache 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude 3.5 Sonnet di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache da 5 m = 1,25 token 1 token di successo della cache = 0,1 token |
Per informazioni sulle località supportate, consulta Disponibilità delle regioni di Anthropic Claude. Per ordinare il Throughput riservato per i modelli Anthropic, contatta il tuo Google Cloud rappresentante dell'account.
Modelli aperti
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di esaurimento per i modelli aperti che supportano il throughput riservato.
| Modello | Throughput per GSU (token/sec) | Acquisto minimo di GSU | Incremento dell'acquisto di GSU | Tassi di burn down |
|---|---|---|---|---|
|
Ultima versione supportata: |
3360 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1680 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: Il supporto del throughput riservato per questo modello viene fatturato con gli stessi SKU dei modelli Google, ma è soggetto alle funzionalità dei modelli aperti. |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1680 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1400 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 1 token |
|
Ultima versione supportata: |
2800 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
4035 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 3 token |
|
Ultima versione supportata: |
3360 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
11.205 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
14.405 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
4035 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1010 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 8 token |
|
Ultima versione supportata: |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 8 token |
|
Ultima versione supportata: |
1685 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1010 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 3 token |
Funzionalità disponibili per Google e modelli aperti
La tabella seguente elenca le funzionalità disponibili con il Throughput riservato per i modelli Google e i modelli open source:
| Capacità | Modelli Google | Modelli aperti (anteprima) |
|---|---|---|
| Ordina tramite la console Google Cloud | Sì | Sì |
| Supporta gli endpoint globali | Consulta la sezione Supporto del modello di endpoint globale. | Consulta Supporto dei modelli di endpoint globali. |
| Supporta i modelli con fine-tuning supervisionato | Sì | No |
| Supporta l'utilizzo delle chiavi API | Sì | No |
| Integrato con la memorizzazione nella cache del contesto implicito | Sì | Non applicabile |
| Integrazione con la memorizzazione nella cache del contesto esplicito | Sì | Non applicabile |
| Elaborazione ML | Disponibile in regioni specifiche. Per maggiori dettagli, consulta Throughput riservato a zona singola. | Non applicabile |
| Termini dell'ordine disponibili | 1 settimana, 1 mese, 3 mesi e 1 anno | 1 settimana, 1 mese, 3 mesi e 1 anno |
| Modificare l'ordine dalla console | Sì | No |
| Stati dell'ordine: in attesa di revisione, approvato, attivo, scaduto | Sì | Sì |
| Trasferimento automatico delle eccedenze al pagamento a consumo | Sì | Sì |
| Controllo delle intestazioni API: utilizza "dedicato" per utilizzare solo il Throughput riservato o "condiviso" per utilizzare solo il pagamento a consumo | Sì | Sì |
| Monitoring: metriche, dashboard e avvisi | Sì | Sì |
Supporto del modello di endpoint globale
La portata con Throughput riservato supporta l'endpoint globale per i modelli Google e i modelli aperti.
Il traffico che supera la quota di Throughput riservato utilizza l'endpoint globale per impostazione predefinita.
Per assegnare il throughput riservato all'endpoint globale di un modello,
seleziona global come regione quando effettui un ordine di throughput riservato.
Modelli Google con supporto degli endpoint globali
La tabella seguente elenca i modelli Google per i quali il throughput riservato supporta l'endpoint globale:
| Modello | Ultima versione del modello supportata |
|---|---|
| Gemini 4 Argon | gemini-4-argon |
| Gemini 4 Argon Cyber Permissive | gemini-4-argon-cyber-permissive |
| Gemini 3.8 Flash Cyber | gemini-3.8-flash-cyber |
| Gemini 3.8 Flash | gemini-3.8-flash |
| Gemini Omni 1.1 Flash anteprima | gemini-omni-1.1-flash-preview |
| Gemini 3.7 Flash | gemini-3.7-flash |
| Gemini 3.6 Flash | gemini-3.6-flash |
| Gemini 3.5 Flash-Lite | gemini-3.5-flash-lite |
| Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) | gemini-3.1-flash-lite-image |
| Immagine di Gemini 3 Pro | gemini-3-pro-image |
| Gemini Nano Banana 2.1 | gemini-nano-banana-2.1 |
| Gemini 3.1 Flash Image | gemini-3.1-flash-image |
| Gemini 3.5 Flash | gemini-3.5-flash |
| Gemini 3.1 Flash-Lite | gemini-3.1-flash-lite |
| Gemini 3.1 Pro (anteprima) | gemini-3.1-pro-preview |
| Gemini 3 Flash (anteprima) | gemini-3-flash-preview |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash Image | gemini-2.5-flash-image |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.5 Flash-Lite | gemini-2.5-flash-lite |
Modelli aperti con supporto degli endpoint globali
La tabella seguente elenca i modelli aperti per i quali il throughput riservato supporta l'endpoint globale:
| Modello | Ultima versione del modello supportata |
|---|---|
| DeepSeek-OCR | deepseek-ocr-maas |
| DeepSeek-V3.2 | deepseek-v3.2-maas |
| Kimi K2 Thinking | kimi-k2-thinking-maas |
| MiniMax M2 | minimax-m2-maas |
| OpenAI gpt-oss 120B | gpt-oss-120b-maas |
| Qwen3-Next-80B Instruct | qwen3-next-80b-a3b-instruct-maas |
| Qwen3-Next-80B Thinking | qwen3-next-80b-a3b-thinking-maas |
| GLM 4.7 | glm-4.7-maas |
| GLM 5 | glm-5-maas |
Supporto per il modello con fine-tuning supervisionato
Per i modelli Google che supportano il fine-tuning supervisionato è supportato quanto segue:
Il Throughput riservato può essere applicato sia ai modelli di base sia alle versioni con fine-tuning supervisionato di questi modelli.
Gli endpoint dei modelli ottimizzati con supervisione e il numero di modelli di base corrispondenti vengono conteggiati ai fini della stessa quota di throughput riservato.
Ad esempio, il Throughput riservato acquistato per
gemini-3.1-flash-liteper un progetto specifico assegna la priorità alle richieste effettuate da versioni con fine-tuning supervisionato digemini-3.1-flash-litecreate all'interno di quel progetto. Utilizza l'intestazione appropriata per controllare il comportamento del traffico.
A partire da Gemini 3, i tassi di consumo per l'inferenza del modello ottimizzato sono più elevati rispetto all'inferenza del modello di base. Questo premio è proporzionale al premio per l'inferenza ottimizzata per il modello. Ad esempio, se l'inferenza ottimizzata costa il 50% in più rispetto all'inferenza del modello di base, il tasso di consumo per l'inferenza ottimizzata sarà superiore del 50%. In questo caso, se l'inferenza del modello di base di 1 token di testo di input era 1 token, l'inferenza del modello ottimizzato di 1 token di testo di input sarebbe 1,5 token.
Prima di Gemini 3, gli endpoint dei modelli con fine-tuning supervisionato e il modello di base corrispondente vengono conteggiati ai fini della stessa quota di throughput riservato con gli stessi tassi di consumo.