Eigenständig bereitgestellte Modelle

Mit Model Garden können Sie offene, Partner- und benutzerdefinierte Modelle in Vertex AI selbst bereitstellen und bereitstellen. Im Gegensatz zu Model-as-a-Service (MaaS)-Angeboten, die serverlos sind und keine manuelle Bereitstellung erfordern, werden selbst bereitgestellte Modelle sicher in Ihrem Google Cloud Projekt und VPC-Netzwerk ausgeführt. So haben Sie die volle Kontrolle über die Bereitstellungsumgebung.

Offene Modelle mit Selbstbereitstellung

Offene Modelle bieten vortrainierte Funktionen für verschiedene KI-Aufgaben, einschließlich Gemini-Modelle, die sich durch eine hervorragende multimodale Verarbeitung auszeichnen. Diese Modelle sind kostenlos verfügbar und Sie können ihre Ausgaben veröffentlichen, sofern Sie die Lizenzbedingungen einhalten. Vertex AI bietet sowohl Modelle mit offenen Gewichten als auch Open-Source-Modelle.

Wenn Sie ein offenes Modell mit Vertex AI verwenden, verwenden Sie Vertex AI für Ihre Infrastruktur. Sie können offene Modelle auch mit anderen Infrastrukturprodukten wie PyTorch oder Jax verwenden.

Offene Gewichtungsmodelle

Viele offene Modelle werden als Large Language Models (LLMs) mit offenen Gewichten betrachtet. Offene Modelle bieten mehr Transparenz als Modelle, die nicht gewichtet sind. Die Gewichtungen eines Modells sind die numerischen Werte, die in der neuronalen Netzwerkarchitektur des Modells gespeichert sind und erlernte Muster und Beziehungen aus den Daten darstellen, mit denen ein Modell trainiert wird. Die vortrainierten Parameter oder Gewichtungen von offenen Gewichtungsmodellen werden freigegeben. Sie können ein offenes Gewichtungsmodell für Inferenz und Feinabstimmung verwenden. Details wie das ursprüngliche Dataset, die Modellarchitektur und der Trainingscode werden nicht immer angegeben.

Open-Source-Modelle

Offene Modelle unterscheiden sich von Open-Source-KI-Modellen. Offene Modelle geben zwar oft die Gewichtungen und die grundlegende numerische Darstellung der gelernten Muster an, enthalten aber nicht unbedingt den vollständigen Quellcode oder Trainingsdetails. Bei Open-Source-Modellen hingegen ist in der Regel die gesamte Codebasis, einschließlich Trainingsskripts und ‑daten, öffentlich verfügbar. Wenn Sie Gewichtungen angeben, erhalten Sie eine gewisse Transparenz in Bezug auf das KI-Modell. So können Sie die Funktionen des Modells nachvollziehen, ohne es selbst erstellen zu müssen.

Partnermodelle mit Selbstbereitstellung

In Model Garden können Sie Modelllizenzen von Partnern erwerben und verwalten, die proprietäre Modelle als Option zur Selbstbereitstellung anbieten. Sie können über Cloud Marketplace auf diese Modelle zugreifen. Nachdem Sie eine Lizenz haben, können Sie die Bereitstellung auf On-Demand-Hardware vornehmen oder Ihre vorhandenen Compute Engine-Reservierungen und Rabatte für zugesicherte Nutzung verwenden, um die Kosten zu verwalten. Bei selbst bereitgestellten Partnermodellen werden Ihnen sowohl die Modellnutzung als auch die zugrunde liegende Vertex AI-Infrastruktur in Rechnung gestellt.

So fordern Sie die Nutzung eines selbst bereitgestellten Partnermodells an:

  1. Rufen Sie die Model Garden-Konsole auf.
  2. Suchen Sie das entsprechende Partnermodell.
  3. Klicken Sie auf Aktivieren und füllen Sie das bereitgestellte Formular aus, um die erforderlichen Lizenzen für die kommerzielle Nutzung zu erhalten.

Weitere Informationen zum Bereitstellen und Verwenden von Partnermodellen finden Sie unter Partnermodell bereitstellen und Vorhersageanfragen stellen.

Hinweise

Beachten Sie bei der Verwendung von Partnermodellen mit Selbstbereitstellung Folgendes:

  • Gewichtsexport:Im Gegensatz zu einigen offenen Modellen können Sie die Gewichte von selbst bereitgestellten Partnermodellen nicht exportieren.
  • Endpunkttyp:Für diese Bereitstellungen wird nur der Typ freigegebener öffentlicher Endpunkt unterstützt.

Weitere Informationen zu selbst bereitgestellten Modellen in Vertex AI