Übersicht über selbst bereitgestellte Modelle

Mit Model Garden können Sie offene, Partner- und benutzerdefinierte Modelle auf der Gemini Enterprise Agent Platform selbst bereitstellen und verwenden. Im Gegensatz zu Model-as-a-Service-Angeboten (MaaS), die serverlos sind und keine manuelle Bereitstellung erfordern, werden selbst bereitgestellte Modelle sicher in Ihrem Google Cloud Projekt und VPC-Netzwerk ausgeführt. So haben Sie die vollständige Kontrolle über die Bereitstellungsumgebung.

Offene Modelle selbst bereitstellen

Offene Modelle bieten vortrainierte Funktionen für verschiedene KI-Aufgaben, einschließlich Gemma-Modelle, die sich durch eine hervorragende multimodale Verarbeitung auszeichnen. Diese Modelle sind kostenlos verfügbar und Sie können ihre Ausgaben veröffentlichen, solange Sie die Lizenzbedingungen einhalten. Die Gemini Enterprise Agent Platform bietet sowohl offene Gewichtungsmodelle als auch Open-Source-Modelle.

Wenn Sie ein offenes Modell mit der Gemini Enterprise Agent Platform verwenden, nutzen Sie die Gemini Enterprise Agent Platform für Ihre Infrastruktur. Sie können offene Modelle auch mit anderen Infrastrukturprodukten wie PyTorch oder Jax verwenden.

Offene Gewichtungsmodelle

Viele offene Modelle werden als offene Large Language Models (LLM) betrachtet. Offene Gewichtungsmodelle bieten mehr Transparenz als Modelle, die nicht gewichtet sind. Die Gewichtungen eines Modells sind die numerischen Werte, die in der neuronalen Netzwerkarchitektur des Modells gespeichert sind und erlernte Muster und Beziehungen aus den Daten darstellen, mit denen ein Modell trainiert wird. Die vortrainierten Parameter oder Gewichtungen von offenen Gewichtungsmodellen werden freigegeben. Sie können ein offenes Gewichtungsmodell für Inferenz und Feinabstimmung verwenden. Details wie das ursprüngliche Dataset, die Modellarchitektur und der Trainingscode werden nicht immer angegeben.

Open-Source-Modelle

Offene Modelle unterscheiden sich von Open-Source-KI-Modellen. Offene Modelle geben zwar oft die Gewichtungen und die grundlegende numerische Darstellung der gelernten Muster an, enthalten aber nicht unbedingt den vollständigen Quellcode oder Trainingsdetails. Bei Open-Source-Modellen hingegen ist in der Regel die gesamte Codebasis, einschließlich Trainingsskripts und -daten, öffentlich verfügbar. Wenn Sie Gewichtungen angeben, erhalten Sie eine gewisse Transparenz in Bezug auf das KI-Modell. So können Sie die Funktionen des Modells nachvollziehen, ohne es selbst erstellen zu müssen.

Selbst bereitgestellte Partnermodelle

Mit Model Garden können Sie Modelllizenzen von Partnern erwerben und verwalten, die proprietäre Modelle als Option zur Selbstbereitstellung anbieten. Sie können über Cloud Marketplace auf diese Modelle zugreifen. Nachdem Sie eine Lizenz erworben haben, können Sie die Bereitstellung auf On-Demand-Hardware ausführen oder Ihre vorhandenen Compute Engine-Reservierungen und Rabatte für zugesicherte Nutzung verwenden, um die Kosten zu verwalten. Bei selbst bereitgestellten Partnermodellen werden Ihnen sowohl die Modellnutzung als auch die zugrunde liegende Gemini Enterprise Agent Platform-Infrastruktur in Rechnung gestellt.

So fordern Sie die Nutzung eines selbst bereitgestellten Partnermodells an:

  1. Rufen Sie die Model Garden Console auf.
  2. Suchen Sie das entsprechende Partnermodell.
  3. Klicken Sie auf Aktivieren und füllen Sie das angegebene Formular aus, um die erforderlichen Lizenzen für die kommerzielle Nutzung zu erhalten.

Weitere Informationen zum Bereitstellen und Verwenden von Partnermodellen finden Sie unter Partnermodell bereitstellen und Vorhersageanfragen stellen.

Hinweise

Beachten Sie bei der Verwendung von selbst bereitgestellten Partnermodellen Folgendes:

  • Gewichtungsexport:Im Gegensatz zu einigen offenen Modellen können Sie die Gewichtungen von selbst bereitgestellten Partnermodellen nicht exportieren.
  • Endpunkttyp: Für diese Bereitstellungen wird nur der Typ freigegebener öffentlicher Endpunkt unterstützt.

Weitere Informationen zu selbst bereitgestellten Modellen in der Gemini Enterprise Agent Platform