Mit Bereitgestelltem Durchsatz für eine einzelne Zone können Sie Durchsatz in bestimmten Regionen reservieren, in denen nur eine Zone verfügbar ist. Diese Option bietet eine vorhersehbare Leistung für Gemini-Modelle in Anwendungsfällen, in denen ML-Verarbeitung erforderlich ist.
Eine Liste der unterstützten Modelle und Regionen finden Sie unter Bereitstellungen und Endpunkte. Eine Liste der Regionen und Modelle, die ML-Verarbeitung unterstützen, finden Sie unter ML-Verarbeitung.
Funktionen von Bereitgestelltem Durchsatz für eine einzelne Zone
In diesem Abschnitt werden die wichtigsten Funktionen von Bereitgestellter Durchsatz für eine einzelne Zone beschrieben:
Preise und Einheiten entsprechen dem Standard-Bereitgestellten Durchsatz: Bereitgestellter Durchsatz für eine einzelne Zone verwendet dieselbe Maßeinheit für den Durchsatz (GSUs), dieselben Preise und dieselben Bedingungen wie der Standard-Bereitgestellte Durchsatz.
Bereitgestellter Durchsatz für eine einzelne Zone unterstützt die ML-Verarbeitung in der Region: Alle Anfragen werden in der gekauften Region verarbeitet, einschließlich des Traffics, der den gekauften Durchsatz übersteigt. Dieser Traffic wird zum Pay as you go-Preis mit der Pufferkapazität in der Region abgerechnet.
Sie haben die Kontrolle über die Überschreitungen: Sie können den Überlauftraffic steuern mit denselben Headern wie beim Standard-Bereitgestellter Durchsatz.
Sie können Ihre Bestellung überwachen: Sie können Ihre Bestellung für Provisioned Throughput für eine einzelne Zone mit den vorhandenen Überwachungsfunktionen für Provisioned Throughput überwachen.
Beschränkungen
Für Bereitgestellter Durchsatz für eine einzelne Zone gelten die folgenden Einschränkungen:
Bereitgestellter Durchsatz für eine einzelne Zone ist kein abgedeckter Dienst und ist vom Service Level Agreement für die Online-Inferenz von Gemini auf der Gemini Enterprise Agent Platform ausgeschlossen.
Bereitgestellter Durchsatz für eine einzelne Zone lässt sich nicht in Batchanfragen oder die Feinabstimmungeinbinden und unterstützt diese auch nicht.
In Regionen ohne ML-Verarbeitung kann die Latenz für Bereitgestellten Durchsatz für eine einzelne Zone höher sein als für Standard-Bereitgestellten Durchsatz oder Pay as you go.
Bereitgestellter Durchsatz für eine einzelne Zone kaufen
Wenn Sie Hilfe beim Kauf von Bereitgestelltem Durchsatz für eine einzelne Zone benötigen, wenden Sie sich an Ihren Kundenbetreuer Google Cloud .