KI-Remote-Modelle in AlloyDB registrieren und aufrufen

Mit der Verwaltung von Modellendpunkten in AlloyDB for PostgreSQL können Sie Remote-KI-Modelle registrieren, Modellmetadaten in Ihrem Datenbankcluster verwalten und Vorhersagen aufrufen oder Einbettungen mithilfe von SQL-Abfragen generieren. Wenn Sie die Schemas für die Modellendpunktverwaltung, die unterstützten Modellanbieter, die Authentifizierungsmethoden und die SQL-Funktionstypen kennen, können Sie Foundation Models und benutzerdefinierte Endpunkte leichter in Ihre Datenbankarbeitslasten einbinden.

Informationen zum Registrieren von Remote-Modellendpunkten bei AlloyDB Omni finden Sie unter Remote-KI-Modelle in AlloyDB Omni registrieren und aufrufen.

Übersicht

Die Modellendpunktverwaltung ist eine AlloyDB AI-Funktion, die Funktionen und Operatoren enthält, mit denen Sie Metadaten von KI-Modellen registrieren und verwalten können. Sie können einen Modellendpunkt registrieren, Metadaten für Modellendpunkte in Ihrem Datenbankcluster verwalten und über SQL-Abfragen Aufrufe an die Remote-Modellendpunkte senden.

Die Modellendpunktverwaltung bietet die Erweiterung google_ml_integration, die Funktionen enthält, mit denen Sie die Metadaten zu KI-Modellen bei AlloyDB registrieren können. Diese registrierten Metadaten werden verwendet, um Vektoreinbettungen zu generieren oder Vorhersagen aufzurufen.

KI-Funktionen umfassen eine Reihe von Funktionen, die auf der Verwaltung von Modellendpunkten (Vorabversion) basieren. Außerdem werden KI-Operatoren unterstützt, mit denen Sie Formulierungen in natürlicher Sprache mit SQL-Abfragen kombinieren können, z. B. ai.if() für Filter und Joins, ai.rank() für die Sortierung und ai.generate() für die Generierung von Zusammenfassungen Ihrer Daten. Außerdem werden multimodale und Ranking-Modelle der Gemini Enterprise Agent Platform unterstützt.

Hier sind einige Beispiele für Modelltypen, die Sie mit der Modellendpunktverwaltung registrieren können:

  • Agent Platform-Modelle zur Texteinbettung und generische Modelle
  • Multimodales Modell der Agent Platform
  • Agent Platform-Ranking-Modelle
  • Einbettungsmodelle von Drittanbietern wie Hugging Face oder OpenAI
  • Vom Kunden gehostete Texteinbettungsmodelle, einschließlich selbst gehosteter Modelle oder Modelle, die über private Endpunkte verfügbar sind
  • Generische Modelle mit einer JSON-basierten API, z. B. das auf Hugging Face gehostete facebook/bart-large-mnli-Modell, das gemini-3.5-flash-lite-Modell aus Model Garden oder claude-Modelle von Anthropic

Anwendungsfälle

Sie können die registrierten Modellendpunkte aufrufen, um mit vorhandenen Daten in Ihrer Datenbank zu interagieren und Einbettungen oder Vorhersagen zu generieren. Hier sind einige Anwendungsfälle:

  • Echtzeit-Inferenz mit Transaktionsanwendung: Bietet Echtzeitempfehlungen basierend auf dem aktuellen Browserverlauf und dem Inhalt des Einkaufswagens des Nutzers.
  • Stimmung erkennen und Zusammenfassungen generieren: Für eine Datenbank mit Kundenrezensionen werden Zusammenfassungen generiert oder die wichtigste Stimmung für jede Rezension ermittelt.
  • Intelligente Such- und Abrufsysteme: Erstellen Sie Suchsysteme für eine Datenbank mit interner Wissensdatenbank und fragen Sie sie mit KI-gestützten SQL-Operatoren anstelle von Suchbegriffen ab.
  • Personalisierte Nutzererfahrung: Optimieren Sie eine Content-Plattform, um die angezeigten Inhalte für jeden Nutzer basierend auf seinen bisherigen Interaktionen dynamisch zu personalisieren.

Weitere Informationen zu AlloyDB AI-Anwendungsfällen finden Sie unter AlloyDB AI-Anwendungsfälle.

Funktionsweise

Mit der Modellendpunktverwaltung können Sie einen Modellendpunkt registrieren, der die folgenden Anforderungen erfüllt:

  • Modelleingabe und -ausgabe unterstützen das JSON-Format.
  • Das Modell kann über das REST-Protokoll aufgerufen werden.

Wenn Sie einen Modellendpunkt bei der Modellendpunktverwaltung registrieren, wird jeder Endpunkt mit einer eindeutigen Modell-ID registriert, die Sie als Referenz für das Modell angegeben haben.

Sie können die Modellendpunkt-ID verwenden, um Modelle für Folgendes abzufragen:

  • Einbettungen generieren, um Text-Prompts in numerische Vektoren zu übersetzen. Sie können generierte Einbettungen als Vektordaten speichern, wenn die Erweiterung vector in der Datenbank aktiviert ist. Weitere Informationen finden Sie unter Einbettungen mit pgvector abfragen und indexieren.

  • Multimodale Einbettungen generieren, um multimodale Daten wie Text, Bilder und Videos in Einbettungen zu übersetzen. (Vorabversion)

  • Eine Liste von Elementen in einer Abfrage anhand von Kriterien in natürlicher Sprache bewerten oder einstufen.

  • Vorhersagen mit SQL aufrufen.

Wichtige Konzepte

Bevor Sie die Modellendpunktverwaltung verwenden, sollten Sie sich mit den Konzepten vertraut machen, die für die Verbindung mit den Modellen und deren Verwendung erforderlich sind.

Schemas

Ihre Anwendungen können über die Erweiterung google_ml_integration auf die Modellendpunktverwaltung zugreifen. Die Erweiterung google_ml_integration enthält Funktionen in den Schemas public, google_ml und ai. Alle Funktionen sind im Schema google_ml enthalten. Bestimmte Funktionen sind in den Schemas public und ai verfügbar.

Weitere Informationen zu Schemas finden Sie unter Schemas.

Modellanbieter

Modellanbieter gibt die unterstützten Anbieter für das Modell-Hosting an. Das Festlegen des Modellanbieters ist optional, hilft aber bei der Verwaltung von Modellendpunkten, da der Anbieter identifiziert und Header für unterstützte Modelle automatisch formatiert werden.

Weitere Informationen zu Modellanbietern finden Sie unter Modellanbieter.

Modelltyp

Modelltyp gibt den Typ des KI-Modells an. Die Erweiterung unterstützt Texteinbettung, multimodale Einbettung, Large Language Model (LLM), Neusortierung, Zeitreihenprognosen und generische Modelltypen. Die unterstützten Modelltypen, die Sie bei der Registrierung eines Modellendpunkts festlegen können, sind text_embedding, generic, llm, reranking, multimodal_embedding und ts_forecasting.

Das Festlegen des Modelltyps ist optional, wenn Sie generische Modellendpunkte registrieren, da generic der Standardmodelltyp ist.

Weitere Informationen zum Modelltyp finden Sie unter Modelltyp.

Authentifizierung

Authentifizierungstypen geben den Authentifizierungstyp an, den Sie verwenden können, um mit der Erweiterung google_ml_integration eine Verbindung zur Modellendpunktverwaltung herzustellen. Die Authentifizierung ist optional und nur erforderlich, wenn Sie sich für den Zugriff auf Ihr Modell authentifizieren müssen.

Weitere Informationen zur Authentifizierung finden Sie unter Authentifizierung.

Vorhersagefunktionen

Vorhersagefunktionen sind SQL-Funktionen, mit denen Sie über Ihre AlloyDB-Datenbank mit KI-Modellen interagieren können. Mit diesen Funktionen können Sie Standard-SQL-Abfragen verwenden, um Daten an einen Modellendpunkt zu senden und Einbettungen oder Vorhersagen zu generieren.

Weitere Informationen zu Vorhersagefunktionen finden Sie unter Vorhersagefunktionen.

Operatorfunktionen

Die Erweiterung google_ml_integration enthält die folgenden Operatorfunktionen, die das Standard-Gemini-Modell verwenden, um Abfragen mit KI-basierten SQL-Operatoren auszuführen.

Weitere Informationen zu Operatorfunktionen finden Sie unter Operatorfunktionen.

Transformationsfunktionen

Transformationsfunktionen ändern die Eingabe in ein Format, das das Modell versteht, und konvertieren die Modellantwort in das Format, das die Vorhersagefunktion erwartet. Die Transformationsfunktionen werden verwendet, wenn der Modellendpunkt text_embedding ohne integrierte Unterstützung registriert wird. Die Signatur der Transformationsfunktionen hängt von der vom Modell erwarteten Eingabe ab.

Weitere Informationen zu Transformationsfunktionen finden Sie unter Transformationsfunktionen.

Funktion zum Generieren von HTTP-Headern

Die Funktion zum Generieren von HTTP-Headern generiert die Ausgabe in JSON-Schlüssel/Wert-Paaren, die als HTTP-Header verwendet werden. Die Signatur der Vorhersagefunktion definiert die Signaturen der Header-Generierungsfunktion.

Weitere Informationen zur Funktion zum Generieren von HTTP-Headern finden Sie unter Funktion zum Generieren von HTTP-Headern.

Nächste Schritte