Offene Modelle der Gemini Enterprise Agent Platform für MaaS

Die Gemini Enterprise Agent Platform unterstützt eine ausgewählte Liste von offenen Modellen als verwaltete Modelle. Diese offenen Modelle können mit der Gemini Enterprise Agent Platform als Model as a Service (MaaS) verwendet werden und werden als verwaltete API angeboten. Wenn Sie ein verwaltetes offenes Modell verwenden, senden Sie Ihre Anfragen weiterhin an Endpunkte der Gemini Enterprise Agent Platform. Verwaltete offene Modelle sind serverlos, sodass Sie keine Infrastruktur bereitstellen oder verwalten müssen.

Verwaltete offene Modelle können mithilfe von Model Garden gefunden werden. Sie können Modelle auch mit Model Garden bereitstellen. Weitere Informationen finden Sie unter KI-Modelle in Model Garden entdecken.

Bevor Sie offene Modelle verwenden können, müssen Sie Nutzern Zugriff auf offene Modelle gewähren.

Offene Modelle

Die folgenden offenen Modelle werden als verwaltete APIs in Gemini Enterprise Agent Platform Model Garden (MaaS) angeboten:

Modellname Modalität Beschreibung Kurzanleitung
DeepSeek-V4.1-Flash Sprache, Vision, Code Das multimodale Mixture-of-Experts-Modell von DeepSeek für agentische und Coding-Aufgaben mit einem Kontextfenster von 1 Million Tokens. Modellkarte
Gemma 4 26B A4B IT Sprache, Vision Die Familie der offenen Modelle von Google, die von Google DeepMind entwickelt wurden. Modellkarte
GLM 5.2 Sprache, Code Das Modell von GLM für langfristige agentische und Programmieraufgaben mit einem Kontextfenster von 1 Million Tokens. Modellkarte
gpt-oss 120B Sprache Ein 120B-Modell, das bei Aufgaben, die logisches Denken erfordern, eine hohe Leistung bietet. Modellkarte
Llama 4 Maverick 17B-128E Sprache, Vision Das größte Llama 4-Modell mit Programmier-, Reasoning- und Bildfunktionen. Llama 4 Maverick 17B-128E ist ein multimodales Modell, das die Mixture-of-Experts-Architektur (MoE) und Early Fusion verwendet. Modellkarte
Llama 4 Scout 17B-16E Sprache, Vision Llama 4 Scout 17B-16E liefert für seine Größenklasse leistungsstarke Ergebnisse und übertrifft andere offene und proprietäre Modelle in mehreren Benchmarks. Llama 4 Scout 17B-16E ist ein multimodales Modell, das die Mixture-of-Experts-Architektur (MoE) und Early Fusion verwendet. Modellkarte

Die folgenden offenen Einbettungsmodelle werden als verwaltete APIs in Gemini Enterprise Agent Platform Model Garden (MaaS) angeboten:

Modellname Beschreibung Ausgabedimensionen Maximale Sequenzlänge Unterstützte Textsprachen Kurzanleitung
multilingual-e5-small Teil der E5-Familie von Modellen für Texteinbettungen. Die kleine Variante enthält 12 Ebenen. Bis zu 384 512 Tokens Unterstützte Sprachen Modellkarte
multilingual-e5-large Teil der E5-Familie von Modellen für Texteinbettungen. Die große Variante enthält 24 Ebenen. Bis zu 1.024 512 Tokens Unterstützte Sprachen Modellkarte

Einhaltung regulatorischer Anforderungen für offene Modelle

Die Zertifizierungen für Generative KI auf der Gemini Enterprise Agent Platform gelten weiterhin, wenn offene Modelle als verwaltete API über die Gemini Enterprise Agent Platform verwendet werden. Wenn Sie Details zu den Modellen selbst benötigen, finden Sie zusätzliche Informationen in der jeweiligen Modellkarte oder Sie können sich an den jeweiligen Modell-Publisher wenden.

Ihre Daten werden in der ausgewählten Region oder Multiregion für offene Modelle auf der Gemini Enterprise Agent Platform gespeichert. Die Regionalisierung der Datenverarbeitung kann jedoch variieren. Eine detaillierte Liste der Verpflichtungen zur Datenverarbeitung für offene Modelle finden Sie unter Datenstandort für offene Modelle.

Kundenprompts und Modellantworten werden bei Verwendung der Gemini Enterprise API, einschließlich offener Modelle, nicht an Dritte weitergegeben. Google verarbeitet Kundendaten nur gemäß den Anweisungen des Kunden. Weitere Informationen finden Sie im Zusatz zur Verarbeitung von Cloud-Daten.

Kontext-Caching

Mit dem Kontext-Caching können Sie die Kosten und die Latenz von Anfragen an Open Models reduzieren, die wiederkehrende Inhalte enthalten. Diese Option ist nur aktiviert, wenn Sie Pay-as-you-go-Traffic verwenden. Andere Traffic-Typen wie „Bereitgestellter Durchsatz“ und „Batch“ werden nicht unterstützt.

Der unterstützte Caching-Typ ist implizites Caching. Das ist automatisches Caching, das standardmäßig in allen Google Cloud -Projekten aktiviert ist und bei Cache-Treffern einen Rabatt von 90 % auf im Cache gespeicherte Tokens im Vergleich zu Standardeingabe-Tokens bietet. Bei dieser Art von Caching werden die Caches nicht explizit definiert und aufgerufen. Stattdessen ruft unser Backend die Daten aus diesen Caches ab, sobald wiederholter Kontext erkannt wird.

Unterstützte Modelle

  • qwen3-coder-480b-a35b-instruct-maas
  • kimi-k2-thinking-maas
  • minimax-m2-maas
  • gpt-oss-20b-maas
  • deepseek-v3.1-maas
  • deepseek-v3.2-maas
  • deepseek-v4.1-flash-maas
  • gemma-4-26b-a4b-it-maas
  • glm-5-maas
  • glm-5.2-maas

Das Feld cachedContentTokenCount in den Metadaten Ihrer Antwort gibt die Anzahl der Tokens im im Cache gespeicherten Teil Ihrer Eingabe an. Caching-Anfragen müssen mindestens 4.096 Tokens enthalten (dieser Mindestwert kann sich während der Vorabversion ändern).

Wenn diese Option aktiviert ist, werden implizite Kosteneinsparungen durch Cache-Treffer automatisch an Sie weitergegeben. Cache-Treffer sind nicht garantiert und hängen von den gesendeten Anfragen und anderen Faktoren ab. So erhöhen Sie die Wahrscheinlichkeit eines impliziten Cache-Treffers:

  • Platzieren Sie große und allgemeine Inhalte am Anfang des Prompts.
  • Senden Sie Anfragen mit einem ähnlichen Präfix in kurzer Zeit.

Nächste Schritte