In den folgenden Tabellen sind die Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen, der Durchsatz für jede Maßeinheit für generative KI (GSU) sowie die Abnahmeraten für jedes Modell.
Google-Modelle
Der bereitgestellte Durchsatz wird nur für Modelle unterstützt, die Sie direkt aus Ihrem Projekt mit der spezifischen Modell-ID und nicht mit einem Modellalias aufrufen. Wenn Sie den bereitgestellten Durchsatz für API-Aufrufe an ein Modell verwenden möchten, müssen Sie die spezifische Modellversions-ID (z. B. gemini-2.0-flash-001) und nicht einen Modellversions-Alias verwenden.
Der bereitgestellte Durchsatz garantiert zwar die Kapazität für Ihre Modellanfragen, umfasst aber keine Kontingente für andere Tools, die Sie möglicherweise verwenden, z. B. Grounding, und umgeht diese auch nicht. Je nach Größe Ihrer Arbeitslast müssen Sie möglicherweise zusätzliches Kontingent für diese Tools separat anfordern.
Außerdem wird Bereitgestellter Durchsatz nicht für Modelle unterstützt, die von anderen Gemini Enterprise Agent Platform-Produkten wie Vertex AI Agents und Agent Search aufgerufen werden. Wenn Sie beispielsweise API-Aufrufe an Gemini 3.5 Flash ausführen, während Sie Agent Search verwenden, wird durch Ihre Bestellung für bereitgestellten Durchsatz für Gemini 3.5 Flash nicht garantiert, dass die von Agent Search ausgeführten Aufrufe erfolgreich sind.
Der bereitgestellte Durchsatz unterstützt keine Batch-Vorhersageaufrufe.
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für Google-Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen. Der Durchsatz pro Sekunde wird als Eingabezeichen des Prompts und als generierte Ausgabe für alle Anfragen pro Sekunde definiert.
Im SDK-Tokenizer oder in der countTokens API erfahren Sie mehr zu den für Ihre Arbeitslast erforderlichen Tokens.
| Modell | Sekundengenauer Durchsatz pro GSU | Einheiten | Mindestkaufsteigerung für GSUs | Abnahmeraten |
|---|---|---|---|---|
|
Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,05 Token 1 Eingabebild-Caching-Token = 0,05 Token 1 Eingabevideo-Caching-Token = 0,05 Token 1 Eingabeaudio-Caching-Token = 0,05 Token 1 Ausgabeantwort-/Reasoning-Text-Token = 5 Token |
|
Gemini 4 Argon Cyber Permissive Neueste unterstützte Version: |
260 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,05 Token 1 Eingabebild-Caching-Token = 0,05 Token 1 Eingabevideo-Caching-Token = 0,05 Token 1 Eingabeaudio-Caching-Token = 0,05 Token 1 Ausgabeantwort-/Reasoning-Text-Token = 5 Token |
|
Neueste unterstützte Version: |
1.350 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabe-Audio-Token = 4 Tokens 1 Eingabe-Bild-/Video-Token = 1,4 Tokens 1 Ausgabetext-Token = 6 Tokens 1 Ausgabe-Audio-Token = 16 Tokens 1 Ausgabe-Video-Token = 1,4 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Eingabeaudio-Caching-Token = 0,1 Token 1 Ausgabetext-Antwort-Token = 5 Token |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabe-Audio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Eingabe-Audio-Caching-Token = 0,1 Token 1 Ausgabetext-Antwort-Token = 5 Token |
|
Neueste unterstützte Version: |
670 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Ausgabetext-Token (Antwort und Begründung) = 6 Tokens 1 Ausgabevideo-Token = 12 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Eingabeaudio-Caching-Token = 0,1 Token 1 Ausgabetext-Antwort-Token = 5 Token |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Eingabeaudio-Caching-Token = 0,1 Token 1 Ausgabetext-Antwort-Token = 5 Token |
|
Neueste unterstützte Version: |
3.360 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabeaudio-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Eingabeaudio-Caching-Token = 0,1 Token 1 Ausgabetext-Antwort-Token = 9 Token |
|
Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) Neueste unterstützte Version: |
4.030 | Tokens | 1 |
1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Ausgabetexttoken für Antwort = 6 Tokens 1 Ausgabetexttoken für Begründung = 6 Tokens 1 Ausgabebildtoken = 120 Tokens |
|
Neueste unterstützte Version: |
500 | Tokens | 1 |
1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Ausgabetexttoken für Antwort = 6 Tokens 1 Ausgabetexttoken für Begründung = 6 Tokens 1 Ausgabebildtoken = 60 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabetext-Caching-Token = 0,1 Token 1 Eingabebild-Caching-Token = 0,1 Token 1 Eingabevideo-Caching-Token = 0,1 Token 1 Ausgabeantworttext-Token = 5 Token 1 Ausgabeschlussfolgerungstext-Token = 5 Token 1 Ausgabebild-Token = 20 Token |
|
Neueste unterstützte Version: |
2.015 | Tokens | 1 |
1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Ausgabetexttoken für Antwort = 6 Tokens 1 Ausgabetexttoken für Begründung = 6 Tokens 1 Ausgabebildtoken = 120 Tokens |
|
Neueste unterstützte Version: |
675 | Tokens | 1 |
1 Token für Eingabetext = 1 Token 1 Token für Eingabebild = 1 Token 1 Token für Eingabevideo = 1 Token 1 Token für Eingabeaudio = 1 Token 1 Token für Eingabetext-Caching = 0,1 Token 1 Token für Eingabebild-Caching = 0,1 Token 1 Token für Eingabevideo-Caching = 0,1 Token 1 Token für Eingabeaudio-Caching = 0,1 Token 1 Token für Ausgabetext = 6 Token |
|
Neueste unterstützte Version: |
4030 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabe-Audio-Token = 2 Tokens 1 Eingabetext-Caching-Token = 0,1 Tokens 1 Eingabebild-Caching-Token = 0,1 Tokens 1 Eingabevideo-Caching-Token = 0,1 Tokens 1 Eingabe-Audio-Caching-Token = 0,2 Tokens 1 Ausgabetext-Token = 6 Tokens 1 Ausgabe-Begründungstext-Token = 6 Tokens |
|
Neueste unterstützte Version: |
500 | Tokens | 1 |
Weniger als oder gleich 200.000 Eingabetokens 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Eingabeaudiotoken = 1 Token 1 Eingabe-Cache-Token = 0,1 Tokens 1 Ausgabetexttoken für Antwort = 6 Tokens 1 Ausgabetexttoken für Begründung = 6 Tokens Mehr als 200.000 Eingabetokens 1 Eingabetexttoken = 2 Tokens 1 Eingabebildtoken = 2 Tokens 1 Eingabevideotoken = 2 Tokens 1 Eingabeaudiotoken = 2 Tokens 1 Eingabe-Cache-Token = 0,2 Tokens 1 Ausgabetexttoken für Antwort = 9 Tokens 1 Ausgabetexttoken für Begründung = 9 Tokens |
|
Neueste unterstützte Version: |
2015 | Tokens | 1 |
1 Token für Eingabetext = 1 Token 1 Token für Eingabebild = 1 Token 1 Token für Eingabevideo = 1 Token 1 Token für Audioeingabe = 2 Tokens 1 Token für das Caching von Eingabetext, ‑bild oder ‑video = 0,1 Tokens 1 Token für das Caching von Audioeingabe = 0,2 Tokens 1 Token für Antworttextausgabe = 6 Tokens 1 Token für Textausgabe zur Begründung = 6 Tokens |
|
Neueste unterstützte Version: |
650 | Tokens | 1 |
Weniger als oder gleich 200.000 Eingabetokens: 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Eingabevideotoken = 1 Token 1 Eingabeaudiotoken = 1 Token 1 Ausgabeantworttexttoken = 8 Tokens 1 Ausgabeargumentationstexttoken = 8 Tokens Mehr als 200.000 Eingabetokens: 1 Eingabetexttoken = 2 Tokens 1 Eingabebildtoken = 2 Tokens 1 Eingabevideotoken = 2 Tokens 1 Eingabeaudiotoken = 2 Tokens 1 Ausgabeantworttexttoken = 12 Tokens 1 Ausgabeargumentationstexttoken = 12 Tokens |
|
Neueste unterstützte Version: |
2.690 | Tokens | 1 |
1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 9 Tokens 1 Ausgabebildtoken = 100 Tokens |
|
Neueste unterstützte Version: |
2690 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabe-Audio-Token = 4 Tokens 1 Ausgabetext-Token für Antwort = 9 Tokens 1 Ausgabetext-Token für Begründung = 9 Tokens |
|
Neueste unterstützte Version (GA): Neueste unterstützte Version (Vorabversion): |
8.070 | Tokens | 1 |
1 Eingabetext-Token = 1 Token 1 Eingabebild-Token = 1 Token 1 Eingabevideo-Token = 1 Token 1 Eingabe-Audio-Token = 3 Tokens 1 Ausgabetext-Token = 4 Tokens 1 Ausgabetext-Token für die Begründung = 4 Tokens |
|
Gemini 2.5 Flash mit nativen Audiofunktionen der Gemini Live API Neueste unterstützte Version: |
1.620 | Tokens | 1 |
1 Eingabetexttoken = 1 Token 1 Eingabeaudiotoken = 6 Tokens 1 Eingabevideotoken = 6 Tokens 1 Eingabebildtoken = 6 Tokens 1 Eingabesitzungsspeichertoken = 1 Token 1 Ausgabetexttoken = 4 Tokens 1 Ausgabeaudiotoken = 24 Tokens |
|
Neueste unterstützte Version: |
0,02 | Bilder | 1 |
1 Bild pro Sekunde = 0,02 Tokens |
Neueste unterstützte Version: |
0,0350 | Videosekunden (720p) | 1 | 1 Videosekunde der Ausgabe (720p) = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden (720p) | 1 | 1 (720p) Video- und Audiosekunde der Ausgabe = 1,75 Videosekunden der Ausgabe | ||
| Videosekunden (1080p) | 1 | 1 Videosekunde in 1080p = 1,75 Videosekunden in 720p | ||
| Video- und Audiosekunden (1080p) | 1 | 1 (1080p) Ausgabe-Video- und Audiosekunde = 2,33 (720p) Ausgabe-Videosekunden | ||
Neueste unterstützte Version: |
0,0040 | Videosekunden | 1 | 1 Videosekunde der Ausgabe = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden | 1 | 1 Ausgabe-Video- und ‑Audiosekunde = 2 Ausgabe-Videosekunden | ||
Neueste unterstützte Version: |
0,01 | Videosekunden (720p) | 1 | 1 Videosekunde der Ausgabe (720p) = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden (720p) | 1 | 1 (720p) Video- und Audiosekunde der Ausgabe = 1,30 Videosekunden der Ausgabe | ||
| Videosekunden (1080p) | 1 | 1 Videosekunde der Ausgabe (1080p) = 1,30 Videosekunden der Ausgabe (720p) | ||
| Video- und Audiosekunden (1080p) | 1 | 1 Video- und Audiosekunde der Ausgabe (1080p) = 1,60 Videosekunden der Ausgabe (720p) | ||
| Videosekunden (4K) | 1 | 1 Videosekunde in 4K = 3,40 Videosekunden in 720p | ||
| Video- und Audiosekunden (4K) | 1 | 1 Video- und Audiosekunde der Ausgabe (4K) = 4 Videosekunden der Ausgabe (720p) | ||
Neueste unterstützte Version: |
0,0040 | Videosekunden | 1 | 1 Videosekunde der Ausgabe = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden | 1 | 1 Ausgabe-Video- und ‑Audiosekunde = 2 Ausgabe-Videosekunden | ||
Neueste unterstützte Version: |
0,01 | Videosekunden (720p) | 1 | 1 Videosekunde der Ausgabe (720p) = 1 Videosekunde der Ausgabe |
| Video- und Audiosekunden (720p) | 1 | 1 (720p) Video- und Audiosekunde der Ausgabe = 1,30 Videosekunden der Ausgabe | ||
| Videosekunden (1080p) | 1 | 1 Videosekunde der Ausgabe (1080p) = 1,30 Videosekunden der Ausgabe (720p) | ||
| Video- und Audiosekunden (1080p) | 1 | 1 Video- und Audiosekunde der Ausgabe (1080p) = 1,60 Videosekunden der Ausgabe (720p) |
Informationen zu den Funktionen eines Modells und zu den Ein- oder Ausgabelimits finden Sie in der Dokumentation des jeweiligen Modells.
Sie können auf neue Modelle upgraden, sobald sie verfügbar sind. Informationen zur Verfügbarkeit von Modellen und zu den Terminen für die Einstellung finden Sie unter Google-Modelle.
Weitere Informationen zu unterstützten Standorten finden Sie unter Verfügbare Standorte.
Partnermodelle
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für Partnermodelle aufgeführt, die Bereitgestellten Durchsatz unterstützen. Claude-Modelle werden in Tokens pro Sekunde gemessen. Dieser Wert wird als Summe der Eingabe- und Ausgabetokens für alle Anfragen pro Sekunde definiert.
| Modell | Durchsatz pro GSU (Tokens/Sek.) | Mindestkaufbetrag für GSUs | GSU-Kaufsteigerung | Abnahmeraten |
|---|---|---|---|---|
| Claude Haiku 5.5 von Anthropic in Google Cloud | 10.417 | 1 | 1 | 100.000 Eingabetokens oder weniger: 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token Mehr als 100.000 Eingabetokens: 1 Eingabetoken = 5 Tokens 1 Ausgabetoken = 25 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 6,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 10 Tokens 1 Cache-Treffer-Token = 0,5 Token |
| Claude Sonnet 5.5 von Anthropic in Google Cloud | 525 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Mio.Tokens) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Std.) = 2 Tokens 1 Cache-Treffer = 0,05 Tokens |
| Claude Opus 5.5 von Anthropic in Google Cloud | 261 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,05 Token |
| Claude Fable 5.1 von Anthropic in Google Cloud | 105 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,025 Tokens |
| Claude Opus 5 von Anthropic in Google Cloud | 210 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Sonnet 5 von Anthropic in Google Cloud | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Fable 5 von Anthropic in Google Cloud | 105 | 1 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Opus 4.8 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude Opus 4.7 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude Sonnet 4.6 von Anthropic in Google Cloud | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude Opus 4.6 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Opus 4.5 von Anthropic in Google Cloud | 210 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude Sonnet 4.5 von Anthropic in Google Cloud | 350 | 25 | 1 | Weniger als 200.000 Eingabetokens: 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token Mehr als oder gleich 200.000 Eingabetokens: 1 Eingabetoken = 2 Tokens 1 Ausgabetoken = 7,5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 2,5 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 4 Tokens 1 Cache-Treffer-Token = 0,2 Token |
| Claude Opus 4.1 von Anthropic in Google Cloud | 70 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Haiku 4.5 von Anthropic in Google Cloud | 1.050 | 8 | 1 | Weniger als 200.000 Eingabetokens 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Mio.Tokens) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude Opus 4 von Anthropic in Google Cloud | 70 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude Sonnet 4 von Anthropic in Google Cloud | 350 | 25 | 1 | Weniger als 200.000 Eingabetokens 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token Mindestens 200.000 Eingabetokens 1 Eingabetoken = 2 Tokens 1 Ausgabetoken = 7,5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 2,5 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 4 Tokens 1 Cache-Treffer = 0,2 Token |
| Claude 3.7 Sonnet von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3.5 Sonnet v2 von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3.5 Haiku von Anthropic in Google Cloud (eingestellt) | 2.000 | 10 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang für 5 Mio.Tokens = 1,25 Tokens 1 Cache-Schreibvorgang für 1 Mio.Tokens = 2 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3 Opus von Anthropic in Google Cloud | 70 | 35 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer-Token = 0,1 Token |
| Claude 3 Haiku von Anthropic in Google Cloud (eingestellt) | 4.200 | 5 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Schreibvorgang (1 Stunde) = 2 Tokens 1 Cache-Treffer = 0,1 Token |
| Claude 3.5 Sonnet von Anthropic in Google Cloud (eingestellt) | 350 | 25 | 1 | 1 Eingabetoken = 1 Token 1 Ausgabetoken = 5 Tokens 1 Cache-Schreibvorgang (5 Minuten) = 1,25 Tokens 1 Cache-Treffer = 0,1 Token |
Informationen zu unterstützten Standorten finden Sie unter Verfügbarkeit: Anthropic Claude-Region. Wenn Sie Bereitgestellten Durchsatz für Anthropic-Modelle bestellen möchten, wenden Sie sich an Ihren Google Cloud Kundenbetreuer.
Offene Modelle
In der folgenden Tabelle sind der Durchsatz, die Kaufsteigerung und die Abnahmerate für offene Modelle aufgeführt, die Bereitgestellten Durchsatz unterstützen.
| Modell | Durchsatz pro GSU (Tokens/Sek.) | Mindestkaufbetrag für GSUs | GSU-Kaufsteigerung | Abnahmeraten |
|---|---|---|---|---|
|
Neueste unterstützte Version: |
3.360 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
1.680 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: Die Unterstützung für bereitgestellten Durchsatz für dieses Modell wird unter denselben SKUs wie Google-Modelle abgerechnet, unterliegt jedoch den Funktionen für offene Modelle. |
6.725 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
1.680 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
1.400 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 1 Token |
|
Neueste unterstützte Version: |
2.800 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
4.035 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Eingabebildtoken = 1 Token 1 Ausgabetexttoken = 3 Tokens |
|
Neueste unterstützte Version: |
3.360 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
11.205 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
14.405 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
4.035 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
1.010 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
6.725 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 8 Tokens |
|
Neueste unterstützte Version: |
6.725 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 8 Tokens |
|
Neueste unterstützte Version: |
1.685 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 4 Tokens |
|
Neueste unterstützte Version: |
1.010 | 1 | 1 | 1 Eingabetexttoken = 1 Token 1 Ausgabetexttoken = 3 Tokens |
Verfügbare Funktionen für Google- und offene Modelle
In der folgenden Tabelle sind die Funktionen aufgeführt, die mit dem bereitgestellten Durchsatz für Google-Modelle und offene Modelle verfügbar sind:
| Funktion | Google-Modelle | Offene Modelle (Vorabversion) |
|---|---|---|
| Über die Google Cloud Console bestellen | Ja | Ja |
| Unterstützt globale Endpunkte | Weitere Informationen finden Sie unter Unterstützung von globalen Endpunktmodellen. | Weitere Informationen finden Sie unter Unterstützung von globalen Endpunktmodellen. |
| Unterstützt überwacht feinabgestimmte Modelle | Ja | Nein |
| Unterstützt die Verwendung von API-Schlüsseln | Ja | Nein |
| Einbindung in implizites Kontext-Caching | Ja | Nicht zutreffend |
| Einbindung in explizites Kontext-Caching | Ja | Nicht zutreffend |
| ML-Verarbeitung | In bestimmten Regionen verfügbar. Weitere Informationen finden Sie unter Bereitgestellter Durchsatz für eine einzelne Zone. | Nicht zutreffend |
| Verfügbare Bestellbedingungen | 1 Woche, 1 Monat, 3 Monate und 1 Jahr | 1 Woche, 1 Monat, 3 Monate und 1 Jahr |
| Reihenfolge über die Console ändern | Ja | Nein |
| Bestellstatus: Ausstehende Überprüfung, Genehmigt, Aktiv, Abgelaufen | Ja | Ja |
| Überschreitungen werden standardmäßig auf die „Pay as you go“-Abrechnung übertragen | Ja | Ja |
| API-Header-Steuerung: Verwenden Sie „dedicated“, um nur bereitgestellten Durchsatz zu verwenden, oder „shared“, um nur Pay-as-you-go zu verwenden. | Ja | Ja |
| Monitoring: Messwerte, Dashboards und Benachrichtigungen | Ja | Ja |
Unterstützung von Modellen für globale Endpunkte
Der bereitgestellte Durchsatz unterstützt den globalen Endpunkt für Google-Modelle und Open-Source-Modelle.
Traffic, der das Kontingent für den bereitgestellten Durchsatz überschreitet, verwendet standardmäßig den globalen Endpunkt.
Wenn Sie den bereitgestellten Durchsatz dem globalen Endpunkt eines Modells zuweisen möchten, wählen Sie beim Aufgeben einer Bestellung für den bereitgestellten Durchsatz die Region global aus.
Google-Modelle mit Unterstützung für globale Endpunkte
In der folgenden Tabelle sind die Google-Modelle aufgeführt, für die Bereitgestellter Durchsatz den globalen Endpunkt unterstützt:
| Modell | Aktuelle unterstützte Modellversion |
|---|---|
| Gemini 4 Argon | gemini-4-argon |
| Gemini 4 Argon Cyber Permissive | gemini-4-argon-cyber-permissive |
| Gemini 3.8 Flash Cyber | gemini-3.8-flash-cyber |
| Gemini 3.8 Flash | gemini-3.8-flash |
| Gemini Omni 1.1 Flash Vorschau | gemini-omni-1.1-flash-preview |
| Gemini 3.7 Flash | gemini-3.7-flash |
| Gemini 3.6 Flash | gemini-3.6-flash |
| Gemini 3.5 Flash-Lite | gemini-3.5-flash-lite |
| Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) | gemini-3.1-flash-lite-image |
| Gemini 3 Pro Image | gemini-3-pro-image |
| Gemini Nano Banana 2.1 | gemini-nano-banana-2.1 |
| Gemini 3.1 Flash Image | gemini-3.1-flash-image |
| Gemini 3.5 Flash | gemini-3.5-flash |
| Gemini 3.1 Flash-Lite | gemini-3.1-flash-lite |
| Gemini 3.1 Pro Vorschau | gemini-3.1-pro-preview |
| Gemini 3 Flash Vorabversion | gemini-3-flash-preview |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash Image | gemini-2.5-flash-image |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.5 Flash-Lite | gemini-2.5-flash-lite |
Offene Modelle mit Unterstützung für globale Endpunkte
In der folgenden Tabelle sind die offenen Modelle aufgeführt, für die Bereitgestellter Durchsatz den globalen Endpunkt unterstützt:
| Modell | Aktuelle unterstützte Modellversion |
|---|---|
| DeepSeek-OCR | deepseek-ocr-maas |
| DeepSeek-V3.2 | deepseek-v3.2-maas |
| Kimi K2 Thinking | kimi-k2-thinking-maas |
| MiniMax M2 | minimax-m2-maas |
| OpenAI gpt-oss 120B | gpt-oss-120b-maas |
| Qwen3-Next-80B Instruct | qwen3-next-80b-a3b-instruct-maas |
| Qwen3-Next-80B Thinking | qwen3-next-80b-a3b-thinking-maas |
| GLM 4.7 | glm-4.7-maas |
| GLM 5 | glm-5-maas |
Unterstützung für Modelle mit überwachter Feinabstimmung
Folgendes wird für Google-Modelle, die die überwachte Feinabstimmung unterstützen, unterstützt:
Der bereitgestellte Durchsatz kann sowohl auf Basismodelle als auch auf überwachte, feinabgestimmte Versionen dieser Basismodelle angewendet werden.
Endpunkte für überwacht feinabgestimmte Modelle und das entsprechende Basismodell werden auf dasselbe Kontingent für bereitgestellten Durchsatz angerechnet.
Beispiel: Der für
gemini-3.1-flash-litefür ein bestimmtes Projekt gekaufte bereitgestellte Durchsatz priorisiert Anfragen, die von überwachten, feinabgestimmten Versionen vongemini-3.1-flash-litestammen, die in diesem Projekt erstellt wurden. Verwenden Sie den entsprechenden Header, um das Traffic-Verhalten zu steuern.
Ab Gemini 3 sind die Burn-Down-Raten für die Inferenz von feinabgestimmten Modellen höher als für die Inferenz von Basismodellen. Dieser Aufpreis ist proportional zum Aufpreis für die optimierte Inferenz für das Modell. Wenn beispielsweise für die Inferenz mit einem feinabgestimmten Modell 50% mehr berechnet werden als für die Inferenz mit dem Basismodell, ist die Burn-Down-Rate für die Inferenz mit dem feinabgestimmten Modell 50 % höher. Wenn in diesem Fall die Inferenz des Basismodells für 1 Eingabetexttoken 1 Token betrug, beträgt die Inferenz des optimierten Modells für 1 Eingabetexttoken 1, 5 Tokens.
Vor Gemini 3 wurden Endpunkte für überwacht feinabgestimmte Modelle und das entsprechende Basismodell mit denselben Burn-Down-Raten auf dasselbe Kontingent für bereitgestellten Durchsatz angerechnet.