Auf dieser Seite finden Sie Details, die Sie vor dem Abonnieren von Bereitgestellter Durchsatz beachten sollten, die Berechtigungen, die Sie zum Aufgeben oder Ansehen einer Bestellung von Bereitgestellter Durchsatz benötigen, sowie eine Anleitung zum Aufgeben und Ansehen Ihrer Bestellungen für Standard-Bereitgestellter Durchsatz.
Wenn Sie Single Zone Bereitgestellter Durchsatz kaufen möchten, wenden Sie sich an IhrenGoogle Cloud Kundenbetreuer. Weitere Informationen zum bereitgestellten Durchsatz für eine einzelne Zone finden Sie unter Bereitgestellter Durchsatz für eine einzelne Zone.
Was Sie vor dem Kauf beachten sollten
Die folgenden Informationen sollen Ihnen bei der Entscheidung helfen, ob Sie Bereitgestellten Durchsatz kaufen möchten:
Sie können Ihre Bestellung nicht mitten in der Laufzeit stornieren.
Der Kauf von Bereitgestelltem Durchsatz ist eine Zusicherung. Das bedeutet, dass Sie die Bestellung nicht während der Laufzeit stornieren können. Sie können die Anzahl der gekauften GSUs jedoch erhöhen. Wenn Sie versehentlich eine Zusicherung erwerben oder ein Problem mit Ihrer Konfiguration auftritt, wenden Sie sich an IhrenGoogle Cloud Kundenbetreuer.
Sie können Ihr Abo automatisch verlängern.
Wenn Sie Ihre Bestellung aufgeben, können Sie festlegen, ob Ihr Abo am Ende der Laufzeit automatisch verlängert werden soll oder auslaufen soll. Unter bestimmten Umständen können Sie auch das Verhalten bei der automatischen Verlängerung Ihrer Bestellung ändern. Informationen zu Szenarien, in denen Sie eine Bestellung nicht ändern können, finden Sie unter Wann Sie eine Bestellung nicht ändern können.
Sie können Monatsabos so konfigurieren, dass sie jeden Monat automatisch verlängert werden. Bei wöchentlichen Laufzeiten ist keine automatische Verlängerung möglich.
Weitere Informationen finden Sie unter Bestellung für standardmäßigen bereitgestellten Durchsatz ändern. Sie können sich auch an Ihren Google Cloud Kundenbetreuer wenden.
Sie können das Verhalten bei der automatischen Verlängerung, das Modell, die Modellversion oder die Region innerhalb einer Frist ändern.
Nachdem Sie Ihr Projekt, Ihre Region, Ihr Modell, Ihre Modellversion und das Verhalten bei automatischer Verlängerung ausgewählt haben und Ihre Bestellung genehmigt und aktiviert wurde, wird Bereitgestellter Durchsatz aktiviert, sofern Kapazität verfügbar ist. Sie können das Verhalten bei der automatischen Verlängerung, das Modell, die Modellversion oder die Region ändern, indem Sie Ihre bestehende Bestellung für bereitgestellten Durchsatz über die Google Cloud Console ändern.
Alle Änderungen werden in wirtschaftlich angemessener Weise bearbeitet und in der Regel innerhalb von 10 Arbeitstagen nach der ursprünglichen Anfrage umgesetzt.
Modelländerungen sind auf einen bestimmten Publisher beschränkt. Sie können beispielsweise die Modellzuweisung von Bereitgestellter Durchsatz von Google Gemini 2.0 Pro zu Google Gemini 2.0 Flash ändern, aber nicht von Google Gemini 2.0 Flash zu Claude 3.5 Sonnet v2 von Anthropic.
Standardmäßig wird die Überschreitung gemäß dem Preismodell „Pay as you go“ abgerechnet.
Wenn Ihr Durchsatz den bestellten Bereitgestellten Durchsatz übersteigt, werden Überschreitungen verarbeitet und als standardmäßiges „Pay-as-you-go“ abgerechnet. Sie können Überschreitungen pro Anfrage steuern. Weitere Informationen finden Sie unter Bereitgestellten Durchsatz verwenden.
Informationen zu den Preisen finden Sie unter Bereitgestellter Durchsatz.
Bereitgestellter Durchsatz für Vorschau-Modelle kaufen
Sie können Bereitgestellten Durchsatz für Google-Modelle in der Vorabversion erwerben, sofern noch keine allgemein verfügbare Version des Modells veröffentlicht wurde.
Wenn Sie eine aktive Bestellung für bereitgestellten Durchsatz für ein Modell in der Vorabversion haben und eine allgemein verfügbare Version des Modells veröffentlicht wird, haben Sie folgende Möglichkeiten:
Verschieben Sie die Bestellung zur allgemein verfügbaren Version des Modells. Nachdem Sie Ihre Bestellung auf das allgemein verfügbare Modell umgestellt haben, können Sie nicht mehr zum Vorschau-Modell zurückkehren. Weitere Informationen zum Ändern einer Bestellung finden Sie unter Bestellung für bereitgestellten Durchsatz ändern.
Alternativ können Sie den bereitgestellten Durchsatz für die Vorabversion eines Modells weiterhin verwenden, solange die Vorabversion stabil ist. Weitere Informationen zu stabilen und eingestellten Modellen finden Sie unter Modellversionen und Lebenszyklus.
Rollen und Berechtigungen
Die folgende Rolle gewährt vollen Zugriff auf die Verwaltung des bereitgestellten Durchsatzes der Gemini Enterprise Agent Platform:
roles/aiplatform.provisionedThroughputAdmin: Sie können auf Bereitgestellter Durchsatz-Ressourcen der Gemini Enterprise Agent Platform zugreifen.
Diese Rolle umfasst die folgenden Berechtigungen:
| Berechtigungen | Beschreibung |
|---|---|
aiplatform.provisionedThroughputs.create |
Reichen Sie eine neue Bestellung für Bereitgestellten Durchsatz ein. |
aiplatform.provisionedThroughputs.get |
Eine bestimmte Bestellung von Bereitgestellter Durchsatz ansehen |
aiplatform.provisionedThroughputs.list |
Alle Bestellungen von Bereitgestelltem Durchsatz ansehen. |
aiplatform.provisionedThroughputs.update |
Bestellung für bereitgestellten Durchsatz ändern |
aiplatform.provisionedThroughputs.cancel |
Ausstehende Bestellungen oder Updates stornieren |
Planen Ihrer Bestellung von bereitgestelltem Durchsatz
Beachten Sie bei der Planung Ihrer Bestellungen für bereitgestellten Durchsatz Folgendes.
Kontingente
Wenn Ihr QPM-Wert voraussichtlich 30.000 überschreitet, können Sie für das Standardkontingent des Agent Platform-Systems eine Kontingentanpassung anfordern und so Ihre Bestellung von bereitgestelltem Durchsatz maximieren. Verwenden Sie dafür folgende Informationen:
- Service (Dienst): Die Agent Platform API.
- Name:
Online prediction requests per minute per region - Diensttyp: Ein Kontingent.
- Dimensionen: Die Region, in der Sie bereitgestellten Durchsatz bestellt haben.
- Wert: Dies ist das von Ihnen ausgewählte Limit für den Onlinevorhersagetraffic.
Bestellbearbeitung
Bestellungen für bereitgestellten Durchsatz werden basierend auf der Größe der Bestellung und der verfügbaren Kapazität verarbeitet. Je nach Anzahl der angeforderten GSUs und der verfügbaren Kapazität kann es einige Minuten bis einige Wochen dauern, bis Ihre Bestellung bearbeitet wird. Wenn Sie eine Bestellung für bereitgestellten Durchsatz aufgeben, können Sie mit dem Schätzungstool für Skalierungseinheiten der generativen KI die Anzahl der GSUs berechnen, die Sie kaufen müssen. Nachdem Sie sich den Kostenvoranschlag angesehen haben, können Sie entweder fortfahren oder die Anzahl der zu kaufenden GSUs ändern.
Mehrere ausstehende Bestellungen
Sie können bis zu sieben Google-Modellbestellungen für dasselbe Modell und dieselbe Region einreichen, auch wenn sich eine frühere Bestellung im Status „Genehmigt“ oder „Ausstehend“ befindet, sofern die geplante Startzeit für jede Bestellung mehr als eine Stunde nach der geplanten Startzeit einer anderen Bestellung liegt. Wenn eine Bestellung ohne Startzeit eingereicht wurde, können Sie keine weitere nicht geplante Bestellung einreichen.
Standardbestellung für Bereitgestellten Durchsatz aufgeben
So kaufen Sie Standard-Bereitgestellten Durchsatz: Wenn Sie Unterstützung beim Kauf von Single Zone Bereitgestellter Durchsatz benötigen, wenden Sie sich an Ihren Google Cloud Kundenbetreuer.
Rufen Sie in der Google Cloud Console die Seite Bereitgestellter Durchsatz auf.
Wenn Sie eine neue Bestellung aufgeben möchten, klicken Sie auf Neue Bestellung.
Geben Sie den Namen einer Bestellung ein.
Wählen Sie das Modell aus.
Wählen Sie die Region aus.
Klicken Sie auf Schätztool.
Führen Sie im Bereich Schätzungstool für Skalierungseinheiten der generativen KI die folgenden Schritte aus, um die Anzahl der benötigten GSUs zu schätzen.
- Wählen Sie Ihr Modell aus.
Geben Sie basierend auf dem ausgewählten Modell die Details ein, um die Anzahl der benötigten GSUs zu schätzen. Informationen zu den Mindest- und Kaufinkrementen für GSU für die einzelnen Modelle finden Sie unter Unterstützte Modelle. Informationen zu den Funktionen eines Modells und zu den Eingabe- oder Ausgabebeschränkungen finden Sie in der Dokumentation des Modells.
Geben Sie für die Modelle Gemini 3 Pro, Gemini 2.5 Pro, Gemini 2.5 Flash und Gemini 2.5 Flash-Lite Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Eingabevideotokens pro Anfrage
- Eingabeaudiotokens pro Anfrage
- Durchschnittliche Cache-Treffer in %
- Tokens für Ausgabeantworttext pro Anfrage
- Tokens für Ausgabebegründungstext pro Anfrage
Geben Sie für das Modell Gemini 3 Pro Image Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Tokens für Ausgabeantworttext pro Anfrage
- Tokens für Ausgabebegründungstext pro Anfrage
- Ausgabebildtokens pro Anfrage
Geben Sie für das Modell Gemini 2.5 Flash Image Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Tokens für Ausgabeantworttext pro Anfrage
- Ausgabebildtokens pro Anfrage
Geben Sie für das Modell Gemini 2.5 Flash mit nativem Audio der Gemini Live API Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Eingabevideotokens pro Anfrage
- Eingabeaudiotokens pro Anfrage
- (Im Cache gespeicherte) Tokens für den Sitzungsarbeitsspeicher pro Abfrage
- Tokens für Ausgabeantworttext pro Anfrage
- Ausgabeaudiotokens pro Anfrage
Geben Sie für die Gemini 2.5 Flash mit Gemini Live API Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Eingabevideotokens pro Anfrage
- Eingabeaudiotokens pro Anfrage
- (Im Cache gespeicherte) Tokens für den Sitzungsarbeitsspeicher pro Abfrage
- Tokens für Ausgabeantworttext pro Anfrage
- Ausgabeaudiotokens pro Anfrage
Geben Sie für die Modelle Gemini 2.0 Flash und Gemini 2.0 Flash-Lite Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage
- Eingabevideotokens pro Anfrage
- Eingabeaudiotokens pro Anfrage
- Ausgabetexttokens pro Anfrage
Geben Sie für die Modelle Veo 3 und Veo 3 Fast Folgendes ein:
- Häufigkeit: Geben Sie an, wie oft Ausgaben generiert werden sollen (in Sekunden). Dies ist nicht die Latenz.
- Videosekunden der Ausgabe pro Anfrage: Geben Sie die insgesamt angeforderten Videosekunden ein. Beispiel: 12 Sekunden entsprechen der Summe von
3x4oder2x6Videosekunden. - Video- und Audiosekunden der Ausgabe pro Anfrage: Geben Sie die insgesamt angeforderten Video- und Audiosekunden ein. Beispiel: 12 Sekunden für die Summe von
3x4oder2x6Video- und Audiosekunden.
Geben Sie für offene Modelle Folgendes ein:
- Geschätzte Anzahl der Anfragen pro Sekunde, die eine Zusicherung erfordern
- Eingabetokens pro Anfrage
- Eingabebildtokens pro Anfrage (für offene Modelle, die Bildeingaben unterstützen)
- Tokens für Ausgabeantworttext pro Anfrage
Sehen Sie sich im Bereich Geschätzte GSUs und monatliche Preise die geschätzte Anzahl der benötigten GSUs und die Preise an.
Klicken Sie auf Berechnet verwenden.
Optional: Ändern Sie die Anzahl von Skalierungseinheiten der generativen KI (GSUs) pro Monat.
Wählen Sie die Laufzeit aus. Die Gebühren für die Laufzeit sind während der Laufzeit nicht kündbar und gelten unabhängig von der tatsächlichen Nutzung oder der Außerbetriebnahme des Modells. Google empfiehlt, das zugewiesene Modell vor dem Datum der Außerbetriebnahme des Modells zu ändern. Die automatische Verlängerung für verworfene Modelle wird von Google nicht proaktiv beendet.
Folgende Optionen sind verfügbar:
- 1 Woche (nur für Google-Modelle verfügbar)
- 1 Monat
- 3 Monate
- 1 Jahr
Optional: Wählen Sie das Startdatum und die Startzeit für den Zeitraum aus.
Sie können ein Startdatum und eine Startzeit innerhalb von zwei Wochen nach der Bestellung angeben. Wenn Sie kein Startdatum und keine Startzeit angeben, wird die Bestellung verarbeitet, sobald die Kapazität verfügbar ist. Die Bearbeitung der gewünschten Startdaten und ‑zeiten erfolgt in wirtschaftlich angemessener Weise. Es kann nicht garantiert werden, dass Bestellungen bis zu diesen Terminen erfüllt sind. Dies ist erst dann sicher, wenn der Bestellstatus auf Genehmigt gesetzt ist.
Wenn das von Ihnen angegebene Startdatum zu nah am aktuellen Datum liegt, wird Ihre Bestellung möglicherweise erst nach dem gewünschten Startdatum genehmigt und aktiviert. In diesem Fall wird das Enddatum basierend auf der Dauer des ausgewählten Zeitraums ab dem Aktivierungsdatum angepasst. Informationen zum Abbrechen einer ausstehenden Bestellung finden Sie unter Bestellung für bereitgestellten Standarddurchsatz ändern.
Geben Sie in der Liste Verlängerung an, ob der Auftrag am Ende der Laufzeit automatisch verlängert werden soll. Sie können die Verlängerungsoption nur angeben, wenn Sie 1 Monat, 3 Monate oder 1 Jahr als Laufzeit auswählen.
Klicken Sie auf Weiter.
Prüfen Sie im Abschnitt Bestätigen und senden die Preis- und Durchsatzschätzungen für Ihre Bestellung. Lesen Sie die im Formular aufgeführten und verlinkten Nutzungsbedingungen.
Geben Sie zur Bestätigung und zum Senden Ihrer Bestellung
CONFIRMin das Feld Kaufbestätigung ein und klicken Sie dann auf Bestellung senden.Die Bearbeitung einer Bestellung kann je nach Bestellgröße und verfügbarer Kapazität einige Minuten bis einige Wochen dauern. Nachdem die Bestellung bearbeitet wurde, ändert sich ihr Status in der Google Cloud -Konsole in Aktiv. Die Bestellung wird erst abgerechnet, wenn sie aktiv wird.
Standardbestellung für Bereitgestellten Durchsatz ändern
Sie können Ihre Bestellungen für bereitgestellten Durchsatz über die Google Cloud Console ändern. Das ist jedoch nur möglich, wenn der Status Ihrer Bestellung und alle bestehenden Bedingungen dies zulassen. Das Ändern von Bestellungen ist nur für Onlinebestellungen von Google-Modellen möglich, die über die Console aufgegeben wurden. Wenn Sie Änderungen an Offlinebestellungen oder Bestellungen für offene Modelle vornehmen möchten, wenden Sie sich an Ihren Google Cloud -Kundenbetreuer. Sie können Bestellungen für Bereitgestellten Durchsatz für Google-Modelle nicht in offene Modelle ändern.
Wenn Sie die Google Cloud Konsole verwenden, um Ihr Modell oder Ihre Modellversion zu ändern, wird das Modell oder die Modellversion der bestehenden Bestellung aktualisiert, das Enddatum des Abos bleibt jedoch gleich.
Sie können für Ihren Änderungsantrag ein Startdatum und eine Startzeit innerhalb der nächsten zwei Wochen angeben. Wenn Sie kein Startdatum und keine Startzeit angeben, wird die Änderungsanfrage verarbeitet, sobald die Kapazität verfügbar ist. Die Bearbeitung der gewünschten Startdaten und ‑zeiten erfolgt in wirtschaftlich angemessener Weise. Es kann nicht garantiert werden, dass Bestelländerungen bis zu diesen Terminen erfüllt sind. Dies ist erst dann sicher, wenn der Änderungsstatus auf Genehmigt gesetzt ist.
Wenn das von Ihnen angegebene Startdatum zu nah am aktuellen Datum liegt, wird Ihr Änderungsauftrag möglicherweise erst nach dem gewünschten Startdatum genehmigt und aktiviert. Informationen zum Stornieren eines ausstehenden Änderungsauftrags finden Sie in der folgenden Tabelle.
In der folgenden Tabelle wird beschrieben, wie Sie Ihre Bestellungen für bereitgestellten Durchsatz mit der Google Cloud -Konsole ändern.
| Bestellstatus | Aktion | Hinweis | Schritte in der Google Cloud Console |
|---|---|---|---|
| Überprüfung steht aus | Sie können Ihre Bestellung stornieren. |
Wenn du weitere Änderungen an deiner Bestellung vornehmen möchtest, storniere die ausstehende Bestellung und gib eine neue auf. Wenn Sie mehrere Modelle haben, kann für jedes Modell nur eine ausstehende Auftragsüberarbeitung vorhanden sein. |
So brechen Sie Ihre ausstehende Bestellung in der Google Cloud Console ab:
|
| Genehmigt | Sie können Ihre Bestellung nicht ändern. | Die Bestellung wartet auf die Aktivierung. Derzeit können Sie keine Änderungen an Ihrer Bestellung vornehmen. | Nicht zutreffend |
| Aktiv |
Die folgenden Änderungen können Sie nur vornehmen, wenn die Bestellung nicht innerhalb der nächsten fünf Tage abläuft oder automatisch verlängert wird:
|
Sie können eine aktive Bestellung nicht ändern, wenn sie in weniger als fünf Tagen abläuft und nicht für die automatische Verlängerung eingerichtet ist. | So ändern Sie Ihre aktive Bestellung in der Google Cloud Console:
|
Bestellung aufteilen
Sie können eine aktive Bestellung in zwei Bestellungen aufteilen, wobei Modell, Region, Laufzeit, Ablaufzeit und Verlängerungsrichtlinie gleich bleiben, um Teilmigrationen zu ermöglichen.
So teilen Sie eine Bestellung auf:
Rufen Sie in der Google Cloud Console die Seite Bestellungen für bereitgestellten Durchsatz auf.
Klicken Sie auf eine Bestell‑ID.
Klicken Sie auf der Seite Bestelldetails auf die Schaltfläche Aufteilen.
Geben Sie einen Namen für die Bestellung für die aufgeteilte Bestellung ein, die Sie erstellen.
Geben Sie die Anzahl der GSUs ein, die aus der ursprünglichen Bestellung in diese neue Bestellung verschoben werden sollen.
In der Tabelle Zusammenfassung der Änderungen sehen Sie, wie sich diese Aktion auf Ihre bestehende Bestellung auswirkt.
Klicken Sie auf Änderungen einreichen.
Die Seite „Auftragsübersicht“ wird geöffnet. Auf der Seite „Auftragsübersicht“ wird der neue aufgeteilte Auftrag mit dem Status Genehmigt angezeigt.
Innerhalb von 10 Minuten wechselt die aufgeteilte Bestellung in den Status Aktiv und die GSU-Anzahl der ursprünglichen Bestellung wird um die Anzahl der GSUs reduziert, die in der neu erstellten Bestellung aktiviert wurden. Durch diese Änderung kommt es weder zu einem Verlust von Diensten noch zu einer Erhöhung der Abrechnungsgebühren.
Wann kann eine Bestellung nicht geändert werden?
Sie können eine Bestellung für bereitgestellten Durchsatz in der Google Cloud -Konsole nicht ändern oder stornieren, wenn eine der folgenden Bedingungen zutrifft:
Modellbeschränkungen:Die Bestellung bezieht sich auf ein Modell, das keine Änderungen unterstützt.
Bestellstatus:Der Bestellstatus ist nicht
Active.Läuft in weniger als fünf Tagen ab:Der Bestellstatus ist
Active, aber die Bestellung läuft in weniger als fünf Tagen ab und ist nicht für die automatische Verlängerung konfiguriert.Vorhandene Anfrage zur Änderung der Bestellung:Es gibt eine vorhandene Anfrage zur Änderung der Bestellung, die entweder ausstehend oder genehmigt ist.
Bestellstatus prüfen
Nachdem Sie Ihre Bestellung für Bereitgestellten Durchsatz eingereicht haben, kann der Bestellstatus einen der folgenden Werte haben:
- Überprüfung ausstehend: Sie haben Ihre Bestellung aufgegeben. Da die Genehmigung von der verfügbaren Kapazität zur Bereitstellung Ihrer Bestellung abhängt, wird Ihre Bestellung noch geprüft und genehmigt. Weitere Informationen zum Status Ihrer ausstehenden Bestellung erhalten Sie von Ihrem Google Cloud -Kundenbetreuer.
- Genehmigt: Google hat Ihre Bestellung genehmigt. Die Bestellung wartet auf die Aktivierung. Nachdem die Bestellung genehmigt wurde, können Sie keine Änderungen mehr vornehmen.
- Aktiv: Google hat Ihre Bestellung aktiviert und die Abrechnung beginnt.
- Abgelaufen: Ihre Bestellung ist abgelaufen.
Standardbestellungen für Bereitgestellten Durchsatz ansehen
So rufen Sie Ihre Bestellungen für Bereitgestellten Durchsatz auf:
Rufen Sie in der Google Cloud Console die Seite „Bereitgestellter Durchsatz“ auf.
Wählen Sie die Region aus. Ihre Bestellliste wird angezeigt.