Metadaten aus PostgreSQL importieren

Mit Knowledge Catalog (ehemals Dataplex Universal Catalog) können Sie Metadaten aus PostgreSQL-Datenbanken über einen verwalteten Connector importieren. Anschließend können Sie diese Datenbank-Assets in einem einheitlichen Katalog suchen, entdecken und verwalten und Ressourcenkontext für LLM-Arbeitslasten (Large Language Model) abrufen.

Dieser Connector unterstützt PostgreSQL-Instanzen, die lokal, in Cloud SQL oder in anderen Cloud-Umgebungen gehostet werden. Weitere Informationen zur Funktionsweise von Connectors finden Sie unter Informationen zu Metadaten-Connectors.

Hinweis

Bevor Sie Metadaten aus PostgreSQL importieren können, müssen Sie die folgenden Aufgaben ausführen:

  1. Weisen Sie die erforderlichen Rollen und Berechtigungen zu.
  2. Aktivieren Sie die Dataplex API und die BigQuery Data Transfer Service API.
  3. Erfüllen Sie die Voraussetzungen für PostgreSQL.
  4. Netzwerkvoraussetzungen erfüllen

IAM-Rollen und -Berechtigungen

Zum Erstellen und Verwalten eines Knowledge Catalog-Connector-Jobs benötigen Sie IAM-Rollen (Identity and Access Management), die Berechtigungen für Knowledge Catalog und BigQuery Data Transfer Service gewähren.

Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Konfigurieren eines PostgreSQL-Connectors benötigen:

Außerdem müssen Sie dem Dienst-Agent für BigQuery Data Transfer Service (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) die Berechtigung dataplex.entryGroups.import oder die Rolle Dataplex Entry Group Importer (roles/dataplex.entryGroupImporter) zuweisen. Sie können diese Rolle entweder auf Projekt- oder auf Eintragsgruppenebene zuweisen.

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff verwalten.

APIs aktivieren

Aktivieren Sie die Dataplex API und die BigQuery Data Transfer Service API.

APIs aktivieren

PostgreSQL-Voraussetzungen

Prüfen Sie, ob Sie die Voraussetzungen für PostgreSQL-Übertragungen erfüllen. Weitere Informationen finden Sie in der BigQuery Data Transfer Service-Dokumentation unter Voraussetzungen für PostgreSQL.

Zusätzlich zu den Voraussetzungen für BigQuery Data Transfer Service muss Ihre PostgreSQL-Datenbank die folgenden Anforderungen für die Metadatenextraktion erfüllen:

  • Mindestversion: PostgreSQL-Version 15 oder höher.
  • Erforderliche Mindestberechtigungen: Das Extraktionstool benötigt bestimmte Berechtigungen, um Metadaten zu erfassen.

Führen Sie die folgenden SQL-Anweisungen aus, um diese Berechtigungen zu gewähren:

  1. Gewähren Sie der Datenbank Zugriff:

    GRANT CONNECT ON DATABASE DATABASE_NAME TO USERNAME;

  2. Gewähren Sie die Nutzung des Schemas:

    GRANT USAGE ON SCHEMA SCHEMA_NAME TO USERNAME;

  3. Weisen Sie dem Nutzer die erforderlichen Leserollen zu:

    GRANT pg_read_all_data TO USERNAME;
GRANT pg_read_all_settings TO USERNAME;
GRANT pg_read_all_stats TO USERNAME;

Ersetzen Sie Folgendes:

  • DATABASE_NAME: der Name der PostgreSQL-Datenbank, auf die Sie zugreifen möchten.
  • USERNAME: der Datenbanknutzer, den Sie konfigurieren möchten.
  • SCHEMA_NAME: der Name des Schemas, auf das Sie zugreifen möchten.

Netzwerkvoraussetzungen

Ein Netzwerkanhang für die Verbindung über Private Service Connect ist erforderlich, wenn Sie eine sichere Verbindung zu externen Datenbanken oder Cloud-Datenquellen von Drittanbietern mit einer privaten IP-Adresse in einem privaten Netzwerk herstellen, damit BigQuery Data Transfer Service auf Ihre Datenbank zugreifen kann.

Wenn Sie über eine öffentliche IP-Adresse eine Verbindung zu einer lokalen Umgebung oder einer in der Cloud gehosteten Instanz herstellen, ist kein Netzwerkanhang erforderlich.

PostgreSQL-Connector konfigurieren

Konfigurieren Sie einen PostgreSQL-Connector über die Google Cloud Console oder die API.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Knowledge Catalog auf.

    Zu Knowledge Catalog

  1. Klicken Sie im Navigationsmenü im Bereich Verwalten auf Connectors.
  2. Klicken Sie auf Verbindung hinzufügen.
  3. Wählen Sie in der Liste Connectors die Karte PostgreSQL aus.
  4. Geben Sie im Abschnitt Details zur Datenquelle Verbindungsdetails für Ihre PostgreSQL-Instanz an:
    • Wählen Sie unter Netzwerkanhang bei Bedarf einen vorhandenen Netzwerkanhang aus oder erstellen Sie einen.
    • Geben Sie den Host, den Port, den Datenbanknamen, den Nutzernamen und das Passwort ein.
    • Wenn Sie TLS verwenden, wählen Sie einen TLS-Modus aus und geben Sie ein vertrauenswürdiges PEM-Zertifikat an.
    • Klicken Sie unter Zu importierende PostgreSQL-Metadatenobjekte auf Durchsuchen, um Objekte auszuwählen.
  5. Im Abschnitt Zieleinstellungen:
    • Klicken Sie auf Durchsuchen und wählen Sie eine vorhandene Knowledge Catalog-Eintragsgruppe aus, um die importierten Metadaten zu speichern, oder klicken Sie auf Neue Eintragsgruppe erstellen.
    • Wählen Sie aus, ob Sie die Berechtigungen für die Eintragsgruppe jetzt oder später festlegen möchten. Wir empfehlen, die Berechtigungen so festzulegen, dass Nutzer die importierten Metadaten aufrufen können. Wenn Sie dem BigQuery Data Transfer Service-Dienst-Agent (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) auf Projektebene nicht die Rolle Dataplex Entry Group Importer (roles/dataplex.entryGroupImporter) oder die Berechtigung dataplex.entryGroups.import zugewiesen haben, müssen Sie sie auf Ebene der Eintraggruppe zuweisen.
  6. Geben Sie im Abschnitt Konfigurationsname für Connector als Anzeigename einen Namen für den Metadatenimportjob ein.
  7. Konfigurieren Sie im Abschnitt Zeitplanoptionen die Häufigkeit für den Metadatenimportjob. Wenn Sie On-Demand auswählen, wird der Job nur ausgeführt, wenn Sie ihn manuell auslösen.
  8. Optional: Konfigurieren Sie im Abschnitt Benachrichtigungsoptionen E‑Mail- oder Pub/Sub-Benachrichtigungen für Jobfehler.
  9. Optional: Konfigurieren Sie im Abschnitt Erweiterte Optionen die Verschlüsselungseinstellungen. Wenn Sie einen kundenverwalteten Verschlüsselungsschlüssel (CMEK) auswählen, wird der Schlüssel zum Verschlüsseln aller temporären Daten verwendet, die vor dem Start der Knowledge Catalog-Metadatenimportjobs bereitgestellt werden. Er wird nicht zum Verschlüsseln der Metadaten in der Ziel-Eintragsgruppe des Knowledge Catalog verwendet.
  10. Klicken Sie auf Speichern.

REST

Verwenden Sie die Methode projects.locations.transferConfigs.create. Konfigurieren Sie in der Ressource TransferConfig die folgenden Felder:

  • Setzen Sie das Feld dataSourceId auf "postgresql".
  • Geben Sie im Feld metadataDestination für das Objekt dataplexConfiguration den Ressourcenpfad der Knowledge Catalog-Zieleintragsgruppe an: projects/<var>PROJECT_ID</var>/locations/<var>LOCATION</var>/entryGroups/<var>ENTRY_GROUP_ID</var>

Nachdem Sie den Job erstellt haben, plant Knowledge Catalog die erste Ausführung gemäß Ihrer Konfiguration. Sie können sie aber auch manuell starten.

PostgreSQL-Metadaten suchen und ansehen

  1. Rufen Sie in der Google Cloud Console die Seite Knowledge Catalog Suchen auf.

    Zur Suche

  2. Im Bereich Filter können Sie mithilfe der Abschnitte Projekt, System und Typ-Aliasse nach PostgreSQL-Assets filtern. Wählen Sie im Bereich System die Option Importierter Kontext aus. Wenn Sie diesen Filter auswählen, wird der Unterabschnitt Verwaltete Connectors geöffnet. Wählen Sie PostgreSQL aus, um nach allen PostgreSQL-Metadaten zu filtern.

  3. Über das Suchfeld können Sie Suchanfragen ausführen. Sie können eine Suche mit Suchbegriffen oder in natürlicher Sprache durchführen. Wenn Sie beispielsweise alle PostgreSQL-Tabellen über die Stichwortsuche aufrufen möchten, geben Sie system=POSTGRESQL AND type=TABLE ein.

    Weitere Informationen zur Suche nach Ressourcen finden Sie unter Ressourcen in Knowledge Catalog suchen. Weitere Informationen zu den Ausdrücken, die Sie im Suchfeld verwenden können, finden Sie unter Suchsyntax für Knowledge Catalog.

  4. Sie können auch die LookupContext API verwenden, um LLM-Kontext für bestimmte PostgreSQL-Ressourcen abzurufen.

Nächste Schritte