Il throughput riservato a zona singola ti consente di riservare il throughput in regioni specifiche in cui è disponibile una sola zona. Questa opzione offre prestazioni prevedibili per i modelli Gemini nei casi d'uso in cui è richiesta l'elaborazione di ML.
Per visualizzare l'elenco dei modelli e delle regioni supportati, consulta la pagina Deployment ed endpoint. Per l'elenco delle regioni e dei modelli che supportano l'elaborazione di ML, consulta la pagina Elaborazione di ML.
Funzionalità del throughput riservato a zona singola
Questa sezione descrive le funzionalità principali del throughput riservato a zona singola:
I prezzi e le unità sono coerenti con il throughput riservato standard: il throughput riservato a zona singola utilizza la stessa misura di throughput (GSU), gli stessi prezzi e gli stessi termini del throughput riservato standard.
Il throughput riservato a zona singola supporta l'elaborazione di ML nella regione: tutte le richieste vengono elaborate nella regione acquistata, incluso il traffico che supera la quantità di throughput acquistata. Questo traffico viene fatturato alla tariffa a pagamento a consumo utilizzando la capacità del buffer nella regione.
Puoi controllare i costi per l'utilizzo in eccesso: puoi controllare il traffico di overflow utilizzando le stesse intestazioni del throughput riservato standard.
Puoi monitorare l'ordine: puoi monitorare l'ordine del throughput riservato a zona singola utilizzando le funzionalità di monitoraggio del throughput riservato esistenti.
Limitazioni
Il throughput riservato a zona singola presenta le seguenti limitazioni:
Il throughput riservato a zona singola non è un servizio coperto ed è escluso dal l'accordo sul livello del servizio di inferenza online di Gemini sulla piattaforma dell'agente Gemini Enterprise.
Il throughput riservato a zona singola non si integra con le richieste batch o il fine-tuning e non li supporta.
Nelle regioni senza elaborazione di ML, la latenza per il throughput riservato a zona singola potrebbe essere superiore a quella del throughput riservato standard o pagamento a consumo.
Acquistare il throughput riservato a zona singola
Per assistenza con l'acquisto del throughput riservato a zona singola, contatta il tuo Google Cloud account representative.