In den folgenden Tabellen sind die Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen, der Durchsatz für jede Maßeinheit generativer KI (GSU) sowie die Abnahmeraten für jedes Modell.
Google-Modelle
Der bereitgestellte Durchsatz unterstützt nur Modelle, die Sie direkt aus Ihrem Projekt mit der spezifischen Modell-ID und nicht mit einem Modellalias aufrufen. Wenn Sie den bereitgestellten Durchsatz für API-Aufrufe an ein Modell verwenden möchten, müssen Sie die spezifische Modellversions-ID (z. B. gemini-2.0-flash-001) und nicht einen Modellversions-Alias verwenden.
Der bereitgestellte Durchsatz garantiert zwar Kapazität für Ihre Modellanfragen, umfasst aber keine Kontingente für andere Tools, die Sie möglicherweise verwenden, wie z. B. Fundierung, und umgeht diese auch nicht. Je nach Größe Ihrer Arbeitslast müssen Sie möglicherweise für diese Tools separat ein zusätzliches Kontingent anfordern.
Außerdem unterstützt der bereitgestellte Durchsatz keine Modelle, die von anderen Gemini Enterprise Agent Platform-Produkten aufgerufen werden, z. B. Agent Conversation auf der Gemini Enterprise Agent Platform und Agent Search auf der Gemini Enterprise Agent Platform. Wenn Sie beispielsweise API-Aufrufe an Gemini 3.5 Flash senden, während Sie die Agentensuche verwenden, werden die von der Agentensuche ausgeführten Aufrufe nicht durch Ihre Bestellung für bereitgestellten Durchsatz für Gemini 3.5 Flash abgedeckt.
Der bereitgestellte Durchsatz unterstützt keine Batchvorhersageaufrufe.
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für Google-Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen. Der Durchsatz pro Sekunde wird als Prompt-Eingabe und generierte Ausgabe für alle Anfragen pro Sekunde definiert.
Im SDK-Tokenizer oder in der countTokens API erfahren Sie mehr zu den für Ihre Arbeitslast erforderlichen Tokens.
| Modell | Durchsatz pro Sekunde und GSU | Einheiten | Mindestkaufsteigerung für GSUs | Abnahmeraten |
|---|---|---|---|---|
|
Neueste unterstützte Version: |
345 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Reasoning-Text-Token = 5 Token Ab dem 12. Januar 2027 (standardmäßig): 1 Eingabetext-Cache-Schreibtoken = 1,25 Token 1 Eingabebild-Cache-Schreibtoken = 1,25 Token 1 Eingabevideo-Cache-Schreibtoken = 1,25 Token 1 Eingabeaudio-Cache-Schreibtoken = 1,25 Token |
|
Neueste unterstützte Version: |
685 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Reasoning-Text-Token = 5 Token Ab dem 12. Januar 2027 (standardmäßig): 1 Eingabetext-Cache-Schreibtoken = 1,25 Token 1 Eingabebild-Cache-Schreibtoken = 1,25 Token 1 Eingabevideo-Cache-Schreibtoken = 1,25 Token 1 Eingabeaudio-Cache-Schreibtoken = 1,25 Token |
|
Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Begründungstext-Token = 5 Token |
|
Gemini 4 Carbon für Cybersicherheit Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Begründungstext-Token = 5 Token |
|
Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Begründungstext-Token = 5 Token |
|
Gemini 4 Argon Cyber Permissive Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,05 Token 1 Eingabebild-Cache-Lesetoken = 0,05 Token 1 Eingabevideo-Cache-Lesetoken = 0,05 Token 1 Eingabeaudio-Cache-Lesetoken = 0,05 Token 1 Ausgabeantwort-/Begründungstext-Token = 5 Token |
|
Neueste unterstützte Version: |
1.350 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabeaudio-Token = 4 Tokens 1 Eingabebild-/-video-Token = 1,4 Tokens 1 Ausgabetext-Token = 6 Tokens 1 Ausgabeaudio-Token = 16 Tokens 1 Ausgabevideo-Token = 1,4 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetextantwort-Token = 5 Token |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetextantwort-Token = 5 Token |
|
Neueste unterstützte Version: |
685 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Ausgabetext-Token (Antwort und Begründung) = 6 Tokens 1 Ausgabevideo-Token = 8 Tokens |
|
Neueste unterstützte Version: |
670 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Ausgabetext-Token (Antwort und Begründung) = 6 Tokens 1 Ausgabevideo-Token = 12 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetextantwort-Token = 5 Token |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetextantwort-Token = 5 Token |
|
Neueste unterstützte Version: |
3.360 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetext-Antworttoken = 9 Token |
|
Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) Neueste unterstützte Version: |
4.030 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Ausgabeantworttext-Token = 6 Tokens 1 Ausgabeschlussfolgerungstext-Token = 6 Tokens 1 Ausgabebild-Token = 120 Tokens |
|
Neueste unterstützte Version: |
500 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Ausgabeantworttext-Token = 6 Tokens 1 Ausgabeargumentationstext-Token = 6 Tokens 1 Ausgabebild-Token = 60 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Ausgabeantworttext-Token = 5 Tokens 1 Ausgabeargumentationstext-Token = 5 Tokens 1 Ausgabebild-Token = 20 Tokens |
|
Neueste unterstützte Version: |
2.015 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Ausgabeantworttext-Token = 6 Tokens 1 Ausgabeschlussfolgerungstext-Token = 6 Tokens 1 Ausgabebild-Token = 120 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Cache-Lesetoken = 0,1 Token 1 Eingabebild-Cache-Lesetoken = 0,1 Token 1 Eingabevideo-Cache-Lesetoken = 0,1 Token 1 Eingabeaudio-Cache-Lesetoken = 0,1 Token 1 Ausgabetext-Token = 6 Tokens |
|
Neueste unterstützte Version: |
4030 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 2 Tokens 1 Eingabetext-Cache-Lesetoken = 0,1 Tokens 1 Eingabebild-Cache-Lesetoken = 0,1 Tokens 1 Eingabevideo-Cache-Lesetoken = 0,1 Tokens 1 Eingabeaudio-Cache-Lesetoken = 0,2 Tokens 1 Ausgabeantworttext-Token = 6 Tokens 1 Ausgabeargumentationstext-Token = 6 Tokens |
|
Neueste unterstützte Version: |
500 | Tokens | 1 |
Weniger als oder gleich 200.000 Eingabetokens: 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Eingabeaudiotoken = 1 Token 1 Eingabecachetoken = 0,1 Token 1 Ausgabeantworttexttoken = 6 Tokens 1 Ausgabeargumentationstexttoken = 6 Tokens Mehr als 200.000 Eingabetokens: 1 Eingabetexttoken = 2 Tokens 1 Eingabebildtoken = 2 Tokens 1 Eingabevideotoken = 2 Tokens 1 Eingabeaudiotoken = 2 Tokens 1 Eingabecachetoken = 0,2 Tokens 1 Ausgabeantworttexttoken = 9 Tokens 1 Ausgabeargumentationstexttoken = 9 Tokens |
|
Neueste unterstützte Version: |
2015 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 2 Tokens 1 Token zum Lesen des Cache für Eingabetext, ‑bild, ‑video = 0,1 Token 1 Token zum Lesen des Cache für Eingabeaudio = 0,2 Token 1 Ausgabeantworttext-Token = 6 Tokens 1 Ausgabeargumentationstext-Token = 6 Tokens |
|
Neueste unterstützte Version: |
650 | Tokens | 1 |
Weniger als oder gleich 200.000 Eingabetokens: 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Eingabeaudiotoken = 1 Token 1 Ausgabeantworttexttoken = 8 Tokens 1 Ausgabeargumentationstexttoken = 8 Tokens Mehr als 200.000 Eingabetokens: 1 Eingabetexttoken = 2 Tokens 1 Eingabebildtoken = 2 Tokens 1 Eingabevideotoken = 2 Tokens 1 Eingabeaudiotoken = 2 Tokens 1 Ausgabeantworttexttoken = 12 Tokens 1 Ausgabeargumentationstexttoken = 12 Tokens |
|
Neueste unterstützte Version: |
2.690 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Ausgabetext-Token = 9 Tokens 1 Ausgabebild-Token = 100 Tokens |
|
Neueste unterstützte Version: |
2690 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 4 Tokens 1 Ausgabeantworttext-Token = 9 Tokens 1 Ausgabeargumentationstext-Token = 9 Tokens |
|
Neueste unterstützte Version (GA): Neueste unterstützte Version (Vorabversion): |
8.070 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 3 Tokens 1 Ausgabeantworttext-Token = 4 Tokens 1 Ausgabeargumentationstext-Token = 4 Tokens |
|
Gemini 2.5 Flash mit nativen Audiofunktionen der Gemini Live API Neueste unterstützte Version: |
1.620 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabeaudio-Token = 6 Tokens 1 Eingabevideo-Token = 6 Tokens 1 Eingabebild-Token = 6 Tokens 1 Eingabesitzungsspeicher-Token = 1 Token 1 Ausgabetext-Token = 4 Tokens 1 Ausgabeaudio-Token = 24 Tokens |
|
Neueste unterstützte Version: |
0,02 | Bilder | 1 |
1 Bild pro Sekunde = 0,02 Tokens |
Neueste unterstützte Version: |
0,0350 | Videosekunden (720p) | 1 | 1 (720p) Ausgabevideosekunde = 1 Ausgabevideosekunde |
| Video- und Audiosekunden (720p) | 1 | 1 Video- und Audiosekunde der Ausgabe (720p) = 1,75 Videosekunden der Ausgabe | ||
| Videosekunden (1080p) | 1 | 1 Videosekunde der Ausgabe (1080p) = 1,75 Videosekunden der Ausgabe (720p) | ||
| Video- und Audiosekunden (1080p) | 1 | 1 (1080p) Video- und Audiosekunde der Ausgabe = 2,33 (720p) Videosekunden der Ausgabe | ||
Neueste unterstützte Version: |
0,0040 | Videosekunden | 1 | 1 Videosekunde der Ausgabe = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden | 1 | 1 Video- und Audiosekunde der Ausgabe = 2 Videosekunden der Ausgabe | ||
Neueste unterstützte Version: |
0,01 | Videosekunden (720p) | 1 | 1 (720p) Ausgabevideosekunde = 1 Ausgabevideosekunde |
| Video- und Audiosekunden (720p) | 1 | 1 (720p) Video- und Audiosekunde der Ausgabe = 1,30 Videosekunden der Ausgabe | ||
| Videosekunden (1080p) | 1 | 1 Videosekunde der Ausgabe (1080p) = 1,30 Videosekunden der Ausgabe (720p) | ||
| Video- und Audiosekunden (1080p) | 1 | 1 (1080p) Video- und Audiosekunde der Ausgabe = 1,60 (720p) Videosekunden der Ausgabe | ||
| Videosekunden (4K) | 1 | 1 Videosekunde der Ausgabe (4K) = 3,40 Videosekunden der Ausgabe (720p) | ||
| Video- und Audiosekunden (4K) | 1 | 1 (4K) Video- und Audiosekunde der Ausgabe = 4 (720p) Videosekunden der Ausgabe |
Informationen zu den Funktionen eines Modells und zu den Limits für Ein- und Ausgaben finden Sie in der Dokumentation zum Modell.
Sie können auf neue Modelle upgraden, sobald diese verfügbar sind. Informationen zur Verfügbarkeit von Modellen und zu den Terminen für die Einstellung finden Sie unter Google-Modelle.
Weitere Informationen zu unterstützten Standorten finden Sie unter Verfügbare Standorte.
Partnermodelle
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für Partnermodelle aufgeführt, die Bereitgestellten Durchsatz unterstützen. Claude-Modelle werden in Tokens pro Sekunde gemessen. Dieser Wert wird als Summe der Eingabe- und Ausgabetokens für alle Anfragen pro Sekunde definiert.
| Modell | Durchsatz pro GSU (Tokens/Sek.) | Mindestbestellmenge für GSUs | GSU-Kaufsteigerung | Abnahmeraten |
|---|---|---|---|---|
| Anthropic Claude Haiku 5.5 in Google Cloud | 10.417 | 1 | 1 | 100.000 Eingabetokens oder weniger: 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token Mehr als 100.000 Eingabetokens: 1 Eingabetoken = 5 Tokens 1 Ausgabetoken = 25 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 6,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 10 Tokens 1 Cache-Treffer-Token = 0,5 Token |
| Anthropic Claude Sonnet 5.5 von Anthropic in Google Cloud | 525 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,05 Token |
| Anthropic Claude Opus 5.5 von Anthropic in Google Cloud | 261 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,05 Token |
|
Claude Fable 5.2 von Anthropic in Google Cloud Der schnelle Modus ( |
131 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,025 Token |
| Anthropic Claude Fable 5.1 von Anthropic in Google Cloud | 105 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,025 Token |
| Anthropic Claude Opus 5 von Anthropic in Google Cloud | 210 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Sonnet 5 von Anthropic in Google Cloud | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Fable 5 von Anthropic in Google Cloud | 105 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Opus 4.8 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Opus 4.7 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Sonnet 4.6 von Anthropic in Google Cloud | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Opus 4.6 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Anthropic Claude Opus 4.5 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Sonnet 4.5 von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | Weniger als 200.000 Eingabetokens: 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token Größer als oder gleich 200.000 Eingabetokens: 1 Eingabetoken = 2 Tokens 1 Ausgabetoken = 7,5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 2,5 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 4 Tokens 1 Cache-Treffer-Token = 0,2 Token |
| Anthropic Claude Haiku 4.5 von Anthropic in Google Cloud | 1.050 | 8 | 1 | Weniger als 200.000 Eingabetokens: 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3.7 Sonnet von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3.5 Sonnet v2 von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3.5 Haiku von Anthropic in Google Cloud (eingestellt) | 2.000 | 10 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude 3 Opus von Anthropic in Google Cloud | 70 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3 Haiku von Anthropic in Google Cloud (eingestellt) | 4.200 | 5 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude 3.5 Sonnet von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
Informationen zu unterstützten Standorten finden Sie unter Verfügbarkeit von Anthropic Claude-Regionen. Wenn Sie Provisioned Throughput für Anthropic-Modelle bestellen möchten, wenden Sie sich an Ihren Google Cloud -Kundenbetreuer.
Offene Modelle
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für offene Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen.
| Modell | Durchsatz pro GSU (Tokens/Sek.) | Mindestbestellmenge für GSUs | GSU-Kaufsteigerung | Abnahmeraten |
|---|---|---|---|---|
|
Neueste unterstützte Version: Die Unterstützung für den bereitgestellten Durchsatz für dieses Modell wird unter denselben SKUs wie Google-Modelle abgerechnet, unterliegt jedoch den Funktionen offener Modelle. |
6.725 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
2.800 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
4.035 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 3 Tokens |
|
Neueste unterstützte Version: |
11.205 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
Verfügbare Funktionen für Google- und offene Modelle
In der folgenden Tabelle sind die Funktionen aufgeführt, die mit dem bereitgestellten Durchsatz für Google-Modelle und offene Modelle verfügbar sind:
| Funktion | Google-Modelle | Offene Modelle (Vorabversion) |
|---|---|---|
| Über die Google Cloud Console bestellen | Ja | Ja |
| Unterstützt globale Endpunkte | Weitere Informationen finden Sie unter Modellunterstützung für globale Endpunkte. | Weitere Informationen finden Sie unter Modellunterstützung für globale Endpunkte. |
| Unterstützt Modelle mit überwachter Feinabstimmung | Ja | Nein |
| Unterstützt die Verwendung von API-Schlüsseln | Ja | Nein |
| In das implizite Kontext-Caching eingebunden | Ja | Nicht zutreffend |
| In explizites Kontext-Caching eingebunden | Ja | Nicht zutreffend |
| ML-Verarbeitung | In bestimmten Regionen verfügbar. Weitere Informationen finden Sie unter Bereitgestellter Durchsatz für eine einzelne Zone. | Nicht zutreffend |
| Verfügbare Bestellbedingungen | 1 Woche, 1 Monat, 3 Monate und 1 Jahr | 1 Woche, 1 Monat, 3 Monate und 1 Jahr |
| Reihenfolge über die Console ändern | Ja | Nein |
| Bestellstatus | Ausstehende Überprüfung, Genehmigt, Abgelehnt, Aktiv, Abgebrochen, Beendet, Abgelaufen | Überprüfung ausstehend, Genehmigt, Abgelehnt, Aktiv, Abgelaufen |
| Überschreitungen werden standardmäßig auf „Pay as you go“ übertragen. | Ja | Ja |
| API-Header-Steuerung: Verwenden Sie „dedicated“, um nur den bereitgestellten Durchsatz zu verwenden, oder „shared“, um nur „Pay as you go“ zu verwenden. | Ja | Ja |
| Monitoring: Messwerte, Dashboards und Benachrichtigungen | Ja | Ja |
Unterstützung globaler Endpunktmodelle
Der bereitgestellte Durchsatz unterstützt den globalen Endpunkt für Google-Modelle und offene Modelle.
Traffic, der das Kontingent für den bereitgestellten Durchsatz überschreitet, verwendet standardmäßig den globalen Endpunkt.
Wenn Sie dem globalen Endpunkt eines Modells Bereitgestellten Durchsatz zuweisen möchten, wählen Sie global als Region aus, wenn Sie eine Bestellung für Bereitgestellten Durchsatz aufgeben.
Google-Modelle mit Unterstützung für globale Endpunkte
In der folgenden Tabelle sind die Google-Modelle aufgeführt, für die der globale Endpunkt mit Provisioned Throughput unterstützt wird:
| Modell | Aktuelle unterstützte Modellversion |
|---|---|
| Gemini 4 Neon | gemini-4-neon |
| Gemini 4 Hydrogen | gemini-4-hydrogen |
| Gemini 4 Carbon | gemini-4-carbon |
| Gemini 4 Carbon für Cybersicherheit | gemini-4-carbon-cyber-permissive |
| Gemini 4 Argon | gemini-4-argon |
| Gemini 4 Argon Cyber Permissive | gemini-4-argon-cyber-permissive |
| Gemini 3.8 Flash Cyber | gemini-3.8-flash-cyber |
| Gemini 3.8 Flash | gemini-3.8-flash |
| Gemini Omni 1.2 Flash | gemini-omni-1.2-flash |
| Gemini Omni 1.1 Flash Vorabversion | gemini-omni-1.1-flash-preview |
| Gemini 3.7 Flash | gemini-3.7-flash |
| Gemini 3.6 Flash | gemini-3.6-flash |
| Gemini 3.5 Flash-Lite | gemini-3.5-flash-lite |
| Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) | gemini-3.1-flash-lite-image |
| Gemini 3 Pro Image | gemini-3-pro-image |
| Gemini Nano Banana 2.1 | gemini-nano-banana-2.1 |
| Gemini 3.1 Flash Image | gemini-3.1-flash-image |
| Gemini 3.5 Flash | gemini-3.5-flash |
| Gemini 3.1 Flash-Lite | gemini-3.1-flash-lite |
| Gemini 3.1 Pro Vorabversion | gemini-3.1-pro-preview |
| Gemini 3 Flash Vorabversion | gemini-3-flash-preview |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash Image | gemini-2.5-flash-image |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.5 Flash-Lite | gemini-2.5-flash-lite |
Offene Modelle mit Unterstützung für globale Endpunkte
In der folgenden Tabelle sind die offenen Modelle aufgeführt, für die der globale Endpunkt von Bereitgestellter Durchsatz unterstützt wird:
| Modell | Aktuelle unterstützte Modellversion |
|---|---|
| OpenAI gpt-oss 120B | gpt-oss-120b-maas |
Unterstützung für überwachte, feinabgestimmte Modelle
Der bereitgestellte Durchsatz, den Sie für ein Google-Basismodell erwerben, gilt auch für überwachte, feinabgestimmte Versionen dieses Modells, die das Kontingent des Basismodells gemeinsam nutzen. Dies gilt für Google-Modelle, die die überwachte Feinabstimmung unterstützen:
- Der bereitgestellte Durchsatz kann sowohl auf Basismodelle als auch auf überwachte, feinabgestimmte Versionen dieser Basismodelle angewendet werden.
- Endpunkte für überwachte, feinabgestimmte Modelle und das entsprechende Basismodell werden auf dasselbe Kontingent für den bereitgestellten Durchsatz angerechnet. Beispielsweise werden bei einem bereitgestellten Durchsatz, der für
gemini-3.1-flash-litefür ein bestimmtes Projekt erworben wurde, Anfragen priorisiert, die von überwachten, feinabgestimmten Versionen vongemini-3.1-flash-litestammen, die in diesem Projekt erstellt wurden. Verwenden Sie den entsprechenden Header, um das Traffic-Verhalten zu steuern.
Die Burn-Down-Raten für die Inferenz des abgestimmten Modells können höher sein als für die Inferenz des Basismodells. Wenn für das Modell ein Preisaufschlag für die Inferenz des abgestimmten Modells gilt, enthält die Burn-Down-Rate einen Preisaufschlag, der direkt proportional dazu ist. Wenn die Inferenz des abgestimmten Modells beispielsweise 50 % mehr kostet als die Inferenz des Basismodells, ist die Burn-Down-Rate für die Inferenz des abgestimmten Modells um 50 % höher: 1 Eingabetext-Token verbraucht 1 Token für das Basismodell und 1, 5 Tokens für das abgestimmte Modell.