Auf dieser Seite wird erläutert, was bereitgestellter Durchsatz ist und wann er verwendet werden sollte.
Einführung in den bereitgestellten Durchsatz
Bereitgestellter Durchsatz ist ein Abonnement mit festen Kosten und fester Laufzeit, das in verschiedenen Laufzeiten verfügbar ist und Durchsatz für unterstützte generative KI-Modelle auf der Gemini Enterprise Agent Platform reserviert. Um Ihren Durchsatz zu reservieren, müssen Sie das Modell und verfügbare Standorte angeben, an denen das Modell ausgeführt wird.
Wann sollte Bereitgestellter Durchsatz verwendet werden?
Wenn einer der folgenden Punkte auf Ihren Anwendungsfall zutrifft, sollten Sie Bereitgestellter Durchsatz verwenden:
- Sie entwickeln generative KI-Produktionsanwendungen in Echtzeit, z. B. Chatbots und Agenten.
- Ihre kritischen Arbeitslasten erfordern durchgehend einen hohen Durchsatz. Die Durchsatzmessung hängt vom Modell ab.
- Sie möchten Nutzern Ihrer Anwendungen eine konsistente und vorhersehbare Erfahrung bieten.
- Sie möchten deterministische Kosten für generative KI, indem Sie einen festen monatlichen oder wöchentlichen Preis zahlen und die Kontrolle über Überschreitungen behalten.
Bereitgestellter Durchsatz ist eine von mehreren Möglichkeiten, Ihre Modelle für generative KI zu verwenden. Weitere Informationen zu allen Nutzungsoptionen finden Sie unter Nutzungsoptionen.
Nächste Schritte
- Unterstützte Modelle mit bereitgestelltem Durchsatz.