Offene Modelle der Gemini Enterprise Agent Platform für MaaS

Die Gemini Enterprise Agent Platform unterstützt eine kuratierte Liste offener Modelle als verwaltete Modelle. Diese offenen Modelle können mit der Gemini Enterprise Agent Platform als Model as a Service (MaaS) verwendet werden und werden als verwaltete API angeboten. Wenn Sie ein verwaltetes offenes Modell verwenden, senden Sie Ihre Anfragen weiterhin an die Endpunkte der Gemini Enterprise Agent Platform. Verwaltete offene Modelle sind serverlos, sodass Sie keine Infrastruktur bereitstellen oder verwalten müssen.

Verwaltete offene Modelle können mithilfe von Model Garden gefunden werden. Sie können Modelle auch mit Model Garden bereitstellen. Weitere Informationen finden Sie unter KI Modelle in Model Garden entdecken.

Bevor Sie offene Modelle verwenden können, müssen Sie Nutzern Zugriff auf offene Modelle gewähren.

Offene Modelle

Die folgenden offenen Modelle werden als verwaltete APIs im Gemini Enterprise Agent Platform Model Garden (MaaS) angeboten:

Modellname Modalität Beschreibung Kurzanleitung
DeepSeek-OCR Sprache, Vision Ein umfassendes OCR-Modell (Optical Character Recognition), das komplexe Dokumente analysiert und versteht. Es eignet sich hervorragend für anspruchsvolle OCR-Aufgaben. Modellkarte
DeepSeek R1 (0528) Sprache Eine Version des DeepSeek R1-Modells von DeepSeek. Modellkarte
DeepSeek-V3.1 Sprache Das Hybridmodell von DeepSeek, das sowohl den Denkmodus als auch den Nicht-Denkmodus unterstützt. Modellkarte
DeepSeek-V3.2 Sprache Das Modell von DeepSeek, das eine hohe Recheneffizienz mit überlegener Schlussfolgerungs- und Agentenleistung kombiniert. Modellkarte
DeepSeek-V4.1-Flash Sprache, Vision, Code Das multimodale Mixture-of-Experts-Modell von DeepSeek für agentische und Programmieraufgaben mit einem Kontextfenster von 1 Million Tokens. Modellkarte
Gemma 4 26B A4B IT Sprache Die Familie offener Modelle von Google, die von Google DeepMind entwickelt wurden. Modellkarte
GLM 4.7 Sprache, Code Das GLM-Modell, das für Core- oder Vibe-Coding, die Nutzung von Tools und komplexe Schlussfolgerungen entwickelt wurde. Modellkarte
GLM 5 Sprache, Code Das GLM-Modell, das auf komplexe Systempflege und langfristige agentische Aufgaben ausgerichtet ist. Modellkarte
GLM 5.2 Sprache, Code Das GLM-Modell für langfristige agentische und Programmieraufgaben mit einem Kontextfenster von 1 Million Tokens. Modellkarte
gpt-oss 120B Sprache Ein 120B-Modell, das eine hohe Leistung bei Schlussfolgerungsaufgaben bietet. Modellkarte
gpt-oss 20B Sprache Ein 20B-Modell, das für Effizienz und Bereitstellung auf Consumer- und Edge-Hardware optimiert ist. Modellkarte
Kimi K2 Thinking Sprache Ein Open-Source-Modell für Denkagenten, das Schritt für Schritt Schlussfolgerungen zieht und Tools verwendet, um komplexe Probleme zu lösen. Modellkarte
Llama 3.3 Sprache Llama 3.3 ist ein reines Textmodell mit 70 Milliarden Parametern, das für Anweisungen optimiert wurde und im Vergleich zu Llama 3.1 70B und Llama 3.2 90B eine verbesserte Leistung bietet, wenn es für reine Textanwendungen verwendet wird. Darüber hinaus erreicht Llama 3.3 70B bei einigen Anwendungen die Leistung von Llama 3.1 405B. Modellkarte
Llama 4 Maverick 17B-128E Sprache, Vision Das größte und leistungsstärkste Llama 4-Modell mit Programmier-, Schlussfolgerungs- und Bildfunktionen. Llama 4 Maverick 17B-128E ist ein multimodales Modell, das die Mixture-of-Experts-Architektur (MoE) und die frühe Fusion verwendet. Modellkarte
Llama 4 Scout 17B-16E Sprache, Vision Llama 4 Scout 17B-16E liefert für seine Größenklasse eine hohe Leistung und übertrifft andere offene und proprietäre Modelle in mehreren Benchmarks. Llama 4 Scout 17B-16E ist ein multimodales Modell, das die Mixture-of-Experts-Architektur (MoE) und die frühe Fusion verwendet. Modellkarte
MiniMax M2 Sprache, Code Entwickelt für agentische und codebezogene Aufgaben mit starken Fähigkeiten bei der Planung und Ausführung komplexer Tool-Aufrufe. Modellkarte
Qwen3 235B Sprache Ein Open-Weights-Modell mit einer „Hybrid Thinking“-Funktion, mit der zwischen methodischem Schlussfolgern und schnellen Gesprächen gewechselt werden kann. Modellkarte
Qwen3 Coder Sprache, Code Ein Open-Weights-Modell, das für anspruchsvolle Softwareentwicklungsaufgaben entwickelt wurde. Modellkarte
Qwen3-Next-80B Instruct Sprache, Code Ein Modell aus der Qwen3-Next-Modellfamilie, das speziell für die Ausführung bestimmter Befehle entwickelt wurde. Modellkarte
Qwen3-Next-80B Thinking Sprache, Code Ein Modell aus der Qwen3-Next-Modellfamilie, das speziell für komplexe Problemlösungen und tiefgehende Schlussfolgerungen entwickelt wurde. Modellkarte

Die folgenden offenen Einbettungsmodelle werden als verwaltete APIs im Gemini Enterprise Agent Platform Model Garden (MaaS) angeboten:

Modellname Beschreibung Ausgabedimensionen Maximale Sequenzlänge Unterstützte Textsprachen Kurzanleitung
multilingual-e5-small Teil der E5-Familie von Modellen für Texteinbettungen. Die kleine Variante enthält 12 Ebenen. Bis zu 384 512 Tokens Unterstützte Sprachen Modellkarte
multilingual-e5-large Teil der E5-Familie von Modellen für Texteinbettungen. Die große Variante enthält 24 Ebenen. Bis zu 1.024 512 Tokens Unterstützte Sprachen Modellkarte

Einhaltung regulatorischer Anforderungen für offene Modelle

Die Zertifizierungen für generative KI in der Gemini Enterprise Agent Platform gelten weiterhin, wenn offene Modelle als verwaltete API mit der Gemini Enterprise Agent Platform verwendet werden. Wenn Sie Details zu den Modellen selbst benötigen, finden Sie weitere Informationen in der jeweiligen Modellkarte oder Sie können sich an den jeweiligen Modellherausgeber wenden.

Ihre Daten werden im Ruhezustand in der ausgewählten Region oder Multi-Region für offene Modelle in der Gemini Enterprise Agent Platform gespeichert. Die Regionalisierung der Datenverarbeitung kann jedoch variieren. Eine detaillierte Liste der Verpflichtungen zur Datenverarbeitung für offene Modelle finden Sie unter Datenstandort für offene Modelle.

Kundenprompts und Modellantworten werden bei Verwendung der Gemini Enterprise API, einschließlich offener Modelle, nicht an Dritte weitergegeben. Google verarbeitet Kundendaten nur gemäß den Anweisungen des Kunden. Weitere Informationen finden Sie in unserem Zusatz zur Verarbeitung von Cloud-Daten.

Kontext-Caching

Mit dem Kontext-Caching können Sie die Kosten und die Latenz von Anfragen an offene Modelle reduzieren, die wiederholte Inhalte enthalten. Diese Funktion ist nur bei der nutzungsabhängigen Abrechnung des Traffics aktiviert und unterstützt keine anderen Traffic-Typen wie bereitgestellten Durchsatz und Batch.

Der unterstützte Caching-Typ ist das implizite Caching. Dabei werden Daten automatisch in allen Google Cloud Projekten standardmäßig im Cache gespeichert. Bei Cache-Treffern erhalten Sie einen Rabatt von 90% auf die Kosten für die im Cache gespeicherten Tokens im Vergleich zu den Kosten für Standard-Eingabetokens . Bei dieser Art von Caching müssen Sie die Caches nicht explizit definieren und aufrufen. Stattdessen ruft unser Backend Daten aus diesen Caches ab, sobald wiederholter Kontext erkannt wird.

Unterstützte Modelle

  • qwen3-coder-480b-a35b-instruct-maas
  • kimi-k2-thinking-maas
  • minimax-m2-maas
  • gpt-oss-20b-maas
  • deepseek-v3.1-maas
  • deepseek-v3.2-maas
  • deepseek-v4.1-flash-maas
  • gemma-4-26b-a4b-it-maas
  • glm-5-maas
  • glm-5.2-maas

Das cachedContentTokenCount Feld in den Metadaten Ihrer Antwort gibt die Anzahl der Tokens im im Cache gespeicherten Teil Ihrer Eingabe an. Caching-Anfragen müssen mindestens 4.096 Tokens enthalten. Dieser Mindestwert kann sich während der Vorschau ändern.

Wenn diese Option aktiviert ist, werden die Kosteneinsparungen durch implizite Cache-Treffer automatisch an Sie weitergegeben. Cache-Treffer sind nicht garantiert und hängen von den gesendeten Anfragen und anderen Faktoren ab. So erhöhen Sie die Wahrscheinlichkeit eines impliziten Cache-Treffers:

  • Platzieren Sie große und häufig verwendete Inhalte am Anfang Ihres Prompts.
  • Senden Sie Anfragen mit einem ähnlichen Präfix in kurzer Zeit.

Nächste Schritte