Importer des métadonnées depuis PostgreSQL

Knowledge Catalog (anciennement Dataplex Universal Catalog) vous permet d'importer des métadonnées à partir de bases de données PostgreSQL à l'aide d'un connecteur géré. Vous pouvez ensuite rechercher, découvrir et gérer ces éléments de base de données dans un catalogue unifié, et récupérer le contexte des ressources pour les charges de travail de grands modèles de langage (LLM).

Ce connecteur est compatible avec les instances PostgreSQL hébergées sur site, dans Cloud SQL ou dans d'autres environnements cloud. Pour en savoir plus sur le fonctionnement des connecteurs, consultez À propos des connecteurs de métadonnées.

Avant de commencer

Avant de pouvoir importer des métadonnées depuis PostgreSQL, effectuez les tâches suivantes :

  1. Accordez les rôles et autorisations requis.
  2. Activez l'API Dataplex et l'API du service de transfert de données BigQuery.
  3. Répondez aux conditions préalables pour PostgreSQL.
  4. Remplissez les conditions préalables de mise en réseau.

Rôles et autorisations IAM

Pour créer et gérer un job de connecteur Knowledge Catalog, vous devez disposer de rôles IAM (Identity and Access Management) qui accordent des autorisations pour Knowledge Catalog et le service de transfert de données BigQuery.

Pour obtenir les autorisations nécessaires pour configurer un connecteur PostgreSQL, demandez à votre administrateur de vous accorder les rôles IAM suivants :

De plus, vous devez accorder à l'agent de service du service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) l'autorisation dataplex.entryGroups.import ou le rôle Importateur de groupes d'entrées Dataplex (roles/dataplex.entryGroupImporter). Vous pouvez attribuer ce rôle au niveau du projet ou du groupe d'entrées.

Pour en savoir plus sur l'attribution de rôles, consultez la section Gérer les accès.

Activer les API

Activez l'API Dataplex et l'API Service de transfert de données BigQuery.

Activer les API

Prérequis pour PostgreSQL

Assurez-vous de remplir les conditions préalables pour les transferts PostgreSQL. Pour en savoir plus, consultez les conditions préalables pour PostgreSQL dans la documentation du service de transfert de données BigQuery.

En plus des conditions préalables du service de transfert de données BigQuery, votre base de données PostgreSQL doit répondre aux exigences suivantes pour l'extraction des métadonnées :

  • Version minimale : PostgreSQL version 15 ou ultérieure.
  • Autorisations minimales requises : l'outil d'extraction nécessite des autorisations spécifiques pour collecter les métadonnées.

Pour accorder ces autorisations, exécutez les instructions SQL suivantes :

  1. Accordez l'accès à la base de données :

    GRANT CONNECT ON DATABASE DATABASE_NAME TO USERNAME;

  2. Accordez l'utilisation du schéma :

    GRANT USAGE ON SCHEMA SCHEMA_NAME TO USERNAME;

  3. Attribuez les rôles de lecture requis à l'utilisateur :

    GRANT pg_read_all_data TO USERNAME;
GRANT pg_read_all_settings TO USERNAME;
GRANT pg_read_all_stats TO USERNAME;

Remplacez les éléments suivants :

  • DATABASE_NAME : nom de la base de données PostgreSQL à laquelle vous souhaitez accéder.
  • USERNAME : utilisateur de base de données que vous souhaitez configurer.
  • SCHEMA_NAME : nom du schéma auquel vous souhaitez accéder.

Conditions préalables de mise en réseau

Un rattachement de réseau pour la connexion via Private Service Connect est requis lors de la connexion sécurisée à des bases de données externes ou à des sources de données cloud tierces avec une adresse IP privée au sein d'un réseau privé, afin de permettre au service de transfert de données BigQuery d'accéder à votre base de données.

Si vous vous connectez à un environnement sur site ou à une instance hébergée dans le cloud à l'aide d'une adresse IP publique, aucun rattachement de réseau n'est requis.

Configurer un connecteur PostgreSQL

Configurez un connecteur PostgreSQL à l'aide de la console Google Cloud ou de l'API.

Console

  1. Dans la console Google Cloud , accédez à la page Knowledge Catalog.

    Accéder à Knowledge Catalog

  1. Dans le menu de navigation, dans la section Gérer, cliquez sur Connecteurs.
  2. Cliquez sur Ajouter une connexion.
  3. Dans la liste Connecteurs, sélectionnez la fiche PostgreSQL.
  4. Dans la section Détails de la source de données, fournissez les informations de connexion de votre instance PostgreSQL :
    • Pour Rattachement de réseau, sélectionnez un rattachement de réseau existant si nécessaire, ou créez-en un.
    • Saisissez l'hôte, le port, le nom de la base de données, le nom d'utilisateur et le mot de passe.
    • Si vous utilisez TLS, sélectionnez un mode TLS et fournissez un certificat PEM de confiance.
    • Pour Objets de métadonnées PostgreSQL à importer, cliquez sur Parcourir pour sélectionner des objets.
  5. Dans la section Paramètres de destination :
    • Cliquez sur Parcourir et sélectionnez un groupe d'entrées Knowledge Catalog existant pour stocker les métadonnées importées, ou cliquez sur Créer un groupe d'entrées.
    • Choisissez de définir les autorisations sur le groupe d'entrées maintenant ou plus tard. Nous vous recommandons de définir des autorisations afin que les utilisateurs puissent afficher les métadonnées importées. Si vous n'avez pas attribué le rôle Importateur de groupes d'entrées Dataplex (roles/dataplex.entryGroupImporter) ou l'autorisation dataplex.entryGroups.import à l'agent de service du service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) au niveau du projet, vous devez l'attribuer au niveau du groupe d'entrées.
  6. Dans la section Nom de la configuration du connecteur, sous Nom à afficher, saisissez un nom pour le job d'importation des métadonnées.
  7. Dans la section Options de programmation, configurez la fréquence du job d'importation des métadonnées. Si vous sélectionnez À la demande, le job ne s'exécute que lorsque vous le déclenchez manuellement.
  8. Facultatif : dans la section Options de notification, configurez les notifications par e-mail ou Pub/Sub en cas d'échec de la tâche.
  9. Facultatif : Dans la section Options avancées, configurez les paramètres de chiffrement. Si vous sélectionnez une clé de chiffrement gérée par le client (CMEK), notez qu'elle est utilisée pour chiffrer toutes les données temporaires stockées avant de lancer les jobs d'importation de métadonnées Knowledge Catalog. Elle n'est pas utilisée pour chiffrer les métadonnées dans le groupe d'entrées Knowledge Catalog de destination.
  10. Cliquez sur Enregistrer.

REST

Utilisez la méthode projects.locations.transferConfigs.create. Dans la ressource TransferConfig, configurez les champs suivants :

  • Définissez le champ dataSourceId sur "postgresql".
  • Dans le champ metadataDestination, renseignez l'objet dataplexConfiguration avec le chemin d'accès à la ressource du groupe d'entrées Knowledge Catalog cible : projects/<var>PROJECT_ID</var>/locations/<var>LOCATION</var>/entryGroups/<var>ENTRY_GROUP_ID</var>

Une fois le job créé, Knowledge Catalog planifie la première exécution en fonction de votre configuration, ou vous pouvez la démarrer manuellement.

Rechercher et afficher des métadonnées PostgreSQL

  1. Dans la console Google Cloud , accédez à la page Rechercher de Knowledge Catalog.

    Accéder à la recherche

  2. Dans le panneau Filtres, vous pouvez filtrer les éléments PostgreSQL à l'aide des sections Projet, Système et Alias de type. Dans la section Système, sélectionnez Contexte importé. La sélection de ce filtre ouvre une sous-section Connecteurs gérés. Sélectionnez PostgreSQL pour filtrer toutes les métadonnées PostgreSQL.

  3. Vous pouvez utiliser le champ de recherche pour effectuer des requêtes de recherche. Vous pouvez effectuer une recherche par mot clé ou en langage naturel. Par exemple, pour afficher toutes les tables PostgreSQL via une recherche par mot clé, saisissez system=POSTGRESQL AND type=TABLE.

    Pour en savoir plus sur la recherche de ressources, consultez Rechercher des ressources dans Knowledge Catalog. Pour en savoir plus sur les expressions que vous pouvez utiliser dans le champ de recherche, consultez Syntaxe de recherche pour Knowledge Catalog.

  4. Vous pouvez également utiliser l'API LookupContext pour récupérer le contexte LLM pour des ressources PostgreSQL spécifiques.

Étapes suivantes