Durchsatzkontingent

Die Gemini Enterprise Agent Platform bietet verschiedene Möglichkeiten, den Durchsatz für generative KI-Modelle zu verwalten, um Kosten und Leistung in Einklang zu bringen. In diesem Dokument werden die verfügbaren Optionen beschrieben: ein flexibles „Pay as you go“-Modell und reservierte Kapazität für einen vorhersehbaren Durchsatz.

Kontingente für verwaltete Modelle

Die Agent Platform bietet zwei Möglichkeiten, den Durchsatz für die verwalteten generativen KI-Modelle auf der Gemini Enterprise Agent Platform zu verwalten. So können Sie Kosten, Flexibilität und Leistung aufeinander abstimmen. Sie können entweder ein „Pay as you go“-Modell verwenden oder eine bestimmte Durchsatzmenge zu einem Festpreis reservieren.

Pay as you go

Für das Standardmodell „Pay as you go“ verwendet die Agent Platform Standard-Pay-as-you-go (Standard-PayGo). Mit PayGo zahlen Sie nur für die Ressourcen, die Sie verbrauchen, ohne dass finanzielle Vorabzusicherungen erforderlich sind. Es gibt zusätzliche PayGo-Optionen, die sich in Kosten und Leistung unterscheiden. Weitere Informationen finden Sie unter Priority PayGo oder Flex PayGo.

Reservierte Kapazität

Für kritische Produktionsanwendungen, die eine konsistente Leistung und vorhersehbare Kosten erfordern, können Sie den bereitgestellten Durchsatz verwenden. Der bereitgestellte Durchsatz ist ein Abo mit festen Kosten, bei dem eine bestimmte Menge an Durchsatz für Ihre Modelle an einem ausgewählten Standort reserviert wird.

Kontingente für Dienste mit generativer KI

Die Gemini Enterprise Agent Platform bietet eine Reihe von Diensten für generative KI, z. B. Modellabstimmung, Modellbewertung, Batch-Vorhersage, Einbettungen und Retrieval-Augmented Generation. Weitere Informationen zu den Kontingenten für diese Dienste finden Sie unter Kontingente und Systemlimits für Generative AI auf der Agent Platform.

Nächste Schritte