Importer des métadonnées depuis PostgreSQL

Ce document explique comment importer des métadonnées de PostgreSQL dans Knowledge Catalog (anciennement Dataplex Universal Catalog) à l'aide d'un connecteur Knowledge Catalog.

Ce connecteur est compatible avec les instances PostgreSQL hébergées sur site, dans Cloud SQL ou dans d'autres environnements cloud.

Avant de commencer

Avant de pouvoir importer des métadonnées de PostgreSQL, effectuez les tâches suivantes :

  1. Attribuez les rôles et autorisations requis.
  2. Activez les API Knowledge Catalog et BigQuery Data Transfer Service.
  3. Respectez les conditions préalables de PostgreSQL.
  4. Respectez les conditions préalables de mise en réseau.

Rôles et autorisations IAM

Pour créer et gérer une tâche de connecteur Knowledge Catalog, vous avez besoin de rôles Identity and Access Management (IAM) qui accordent des autorisations pour Knowledge Catalog et Service de transfert de données BigQuery.

Pour obtenir les autorisations nécessaires pour configurer un connecteur PostgreSQL, demandez à votre administrateur de vous accorder les rôles IAM suivants :

Vous devez également accorder à l'agent de service Service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) l'autorisation dataplex.entryGroups.import ou le rôle importateur de groupe d'entrées Dataplex (roles/dataplex.entryGroupImporter). Vous pouvez accorder ce rôle au niveau du projet ou du groupe d'entrées.

Pour en savoir plus sur l'attribution de rôles, consultez la section Gérer les accès.

Activer les API

Activez les API Knowledge Catalog et BigQuery Data Transfer Service.

Activer les API

Conditions préalables de PostgreSQL

Assurez-vous de respecter les conditions préalables pour les transferts PostgreSQL. Pour en savoir plus, consultez la section Conditions préalables de PostgreSQL dans la documentation Service de transfert de données BigQuery.

Conditions préalables de mise en réseau

Un rattachement de réseau pour la connexion via Private Service Connect est requis lorsque vous vous connectez de manière sécurisée à des bases de données externes ou à des sources de données cloud tierces avec une adresse IP privée dans un réseau privé, afin de permettre au Service de transfert de données BigQuery d'accéder à votre base de données.

Si vous vous connectez à un environnement sur site ou à une instance hébergée dans le cloud à l'aide d'une adresse IP publique, un rattachement de réseau n'est pas requis.

Configurer un connecteur PostgreSQL

  1. Dans la Google Cloud console, accédez à la page Knowledge Catalog.

    Accéder à Knowledge Catalog

  2. Dans le menu de navigation, dans la section Gérer, cliquez sur Connecteurs.

  3. Cliquez sur Ajouter une connexion.

  4. Dans la liste Connecteurs, sélectionnez la fiche PostgreSQL.

  5. Dans la section Data source details (Détails de la source de données), fournissez les informations de connexion pour votre instance PostgreSQL :

    • Sous Network attachment (Rattachement de réseau), sélectionnez un rattachement de réseau existant si nécessaire, ou créez-en un.
    • Saisissez le Host (Hôte), le Port, le Database name (Nom de la base de données), le Username (Nom d'utilisateur) et le Password (Mot de passe).
    • Si vous utilisez TLS, sélectionnez un TLS Mode (Mode TLS) et fournissez un Trusted PEM Certificate (Certificat PEM approuvé).
    • Pour PostgreSQL metadata objects to import (Objets de métadonnées PostgreSQL à importer), cliquez sur Browse (Parcourir) pour sélectionner objets.

  6. Dans la section Destination settings (Paramètres de destination) :

    • Cliquez sur Browse (Parcourir) et sélectionnez un Knowledge Catalog entry group (Groupe d'entrées Knowledge Catalog) existant pour stocker les métadonnées importées, ou cliquez sur Create new entry group (Créer un groupe d'entrées).
    • Choisissez si vous souhaitez définir les autorisations sur le groupe d'entrées maintenant ou plus tard. Nous vous recommandons de définir des autorisations afin que les utilisateurs puissent afficher les métadonnées importées. Si vous n'avez pas accordé le rôle importateur de groupe d'entrées Dataplex (roles/dataplex.entryGroupImporter) ou l'autorisation dataplex.entryGroups.import à l'agent de service Service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) au niveau du projet, vous devez l'accorder au niveau du groupe d'entrées.

  7. Dans la section Connector config name (Nom de la configuration du connecteur), sous Display name (Nom à afficher), saisissez un nom pour la tâche d'importation de métadonnées.

  8. Dans la section Schedule options (Options de programmation), configurez la fréquence de la tâche d'importation de métadonnées. Si vous sélectionnez On-demand (À la demande), la tâche ne s'exécute que lorsque vous la déclenchez manuellement.

  9. Facultatif : dans la section Notification options (Options de notification), configurez les notifications par e-mail ou Pub/Sub en cas d'échec de la tâche.

  10. Facultatif : dans la section Advanced options (Options avancées), configurez les paramètres de chiffrement. Si vous sélectionnez une clé de chiffrement gérée par le client (CMEK), notez que la clé est utilisée pour chiffrer toutes les données transitoires mises en scène avant de démarrer les tâches d'importation de métadonnées Knowledge Catalog. Elle n'est pas utilisée pour chiffrer les métadonnées dans le groupe d'entrées Knowledge Catalog de destination.

  11. Cliquez sur Enregistrer.

Une fois la tâche créée, Knowledge Catalog planifie la première exécution en fonction de votre configuration. Vous pouvez également la démarrer manuellement.

Étape suivante