AlloyDB AI ist eine Reihe von Funktionen, die in AlloyDB Omni enthalten sind und mit denen Sie generative KI-Anwendungen für Unternehmen erstellen können. Weitere Informationen zu den KI-/ML-Funktionen von AlloyDB finden Sie unter Generative KI-Anwendungen erstellen.
Mit AlloyDB Omni mit AlloyDB AI können Sie Remote-ML-Modelle mit der Erweiterung google_ml_integration abfragen, um mit Onlinevorhersagen und Texteinbettungen zu arbeiten, die aus ML-Modellen generiert werden. AlloyDB Omni mit AlloyDB AI kann auch Vektoreinbettungen aus anderen Inhalten wie z. B. einem Bild verarbeiten, wenn Sie die google_ml.predict_row-Schnittstelle verwenden und die Übersetzung selbst in der Abfrage vornehmen.
Google Cloud einrichten, um Remote-Modelle abzufragen
Wenn Sie Vertex AI-Modelle abfragen möchten, müssen Sie ein AlloyDB Omni-Dienstkonto mit Vertex AI konfigurieren, bevor Sie AlloyDB Omni installieren.
So richten Sie ein Dienstkonto zum Abfragen von Remote-Modellen ein:
Erstellen Sie ein Dienstkonto mitGoogle Cloud. Sie gewähren diesem Dienstkonto in einem späteren Schritt Berechtigungen für den Zugriff auf Vertex AI.
Erstellen Sie einen Dienstkontoschlüssel, speichern Sie ihn im JSON-Format in der Datei
private-key.jsonund laden Sie ihn herunter.Kopieren Sie den von Ihnen erstellten Dienstkontoschlüssel nach KEY_PATH. Der Schlüsselpfad sollte ein Pfad auf Ihrem Host sein, auf den der Nutzer, der AlloyDB Omni ausführt, zugreifen kann und der ihm gehört.
Aktivieren Sie die Vertex AI API in Ihrem Google Cloud -Projekt.
gcloud services enable aiplatform.googleapis.com
Fügen Sie dem entsprechenden Projekt und Dienstkonto Vertex AI-IAM-Berechtigungen (Identity and Access Management) hinzu.
gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:SERVICE_ACCOUNT_ID" \ --role="roles/aiplatform.user"Ersetzen Sie Folgendes:
PROJECT_ID: ID Ihres Google Cloud -Projekts.SERVICE_ACCOUNT_ID: ID des Dienstkontos, das Sie in Schritt 1 erstellt haben. Dazu gehört das vollständige Suffix@PROJECT_ID.iam.gserviceaccount.com. Beispiel:my-service@my-project.iam.gserviceaccount.com.
- Installieren Sie das AlloyDB Omni-RPM-Paket.
AlloyDB AI für AlloyDB Omni konfigurieren
Nachdem Sie das AlloyDB Omni-RPM-Paket installiert haben, führen Sie die folgenden Schritte aus, um AlloyDB AI einzubinden:
Führen Sie alle Schritte aus, die unter Google Cloud einrichten, um Remote-Modelle abzufragen aufgeführt sind.
Verschieben Sie den Dienstkontoschlüssel in das Datenverzeichnis von AlloyDB Omni.
sudo mv KEY_PATH DATA_DIR/private-key.jsonErsetzen Sie die folgenden Variablen:
KEY_PATH: Pfad zu Ihrer Dienstkonto-Schlüsseldatei.DATA_DIR: Der Pfad des Hostverzeichnisses, in dem Ihre Daten gespeichert sind.
Legen Sie den Inhaber des Dienstkontoschlüssels auf
postgresund seine Berechtigungen auf600fest.sudo chown postgres:postgres DATA_DIR/private-key.json sudo chmod 600 DATA_DIR/private-key.jsonAktualisieren Sie die AlloyDB Omni-Konfiguration, indem Sie der Datei
postgresql.confdie folgenden Optionen hinzufügen:sudo tee -a DATA_DIR/postgresql.conf << EOF omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = 'DATA_DIR/private-key.json' EOFStarten Sie den AlloyDB Omni-Dienst neu.
sudo systemctl restart alloydbomni18
Verbinden über psql
Führen Sie den folgenden Befehl aus, um eine Verbindung zur AlloyDB Omni-Datenbank herzustellen:
sudo -u postgres /usr/lib/postgresql/18/bin/psql -U postgresAlloyDB Omni mit AlloyDB AI-Installation prüfen
Geben Sie Folgendes ein, um zu prüfen, ob die Installation erfolgreich war und die Modellvorhersage verwendet wird:
CREATE EXTENSION IF NOT EXISTS google_ml_integration CASCADE;
SELECT array_dims(embedding('text-embedding-005', 'AlloyDB AI')::real[]);
Die Ausgabe sieht dann ungefähr so aus:
array_dims
------------
[1:768]
(1 row)
In der vorherigen Abfrage generiert der embedding()-Aufruf Einbettungen für den Eingabetext AlloyDB AI.
array_dims gibt die Dimensionen des Arrays zurück, das von embedding() zurückgegeben wird.
Da das text-embedding-005-Modell eine Ausgabe mit 768 Dimensionen zurückgibt, ist die Ausgabe [768].
Nächste Schritte
- AlloyDB Omni ausführen und eine Verbindung dazu herstellen
- AlloyDB Omni verwalten
- Remote-KI-Modelle registrieren und aufrufen