Importer des métadonnées depuis MySQL

Ce document explique comment importer des métadonnées de MySQL dans Knowledge Catalog (anciennement Dataplex Universal Catalog) à l'aide d'un connecteur Knowledge Catalog.

Ce connecteur est compatible avec les instances MySQL hébergées sur site, dans Cloud SQL ou dans d'autres environnements cloud.

Avant de pouvoir importer des métadonnées depuis MySQL, effectuez les tâches suivantes :

  1. Attribuez les rôles et autorisations requis.
  2. Activez les API Knowledge Catalog et Service de transfert de données BigQuery.
  3. Respectez les conditions préalables de MySQL.
  4. Respectez les conditions préalables de mise en réseau.

Rôles et autorisations IAM

Pour créer et gérer une tâche de connecteur Knowledge Catalog, vous avez besoin de rôles Identity and Access Management (IAM) qui accordent des autorisations pour Knowledge Catalog et Service de transfert de données BigQuery.

Pour obtenir les autorisations nécessaires à la configuration d'un connecteur MySQL, demandez à votre administrateur de vous attribuer les rôles IAM suivants :

De plus, vous devez accorder à l'agent de service Service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) l'autorisation dataplex.entryGroups.import ou le rôle importateur de groupe d'entrées Dataplex (roles/dataplex.entryGroupImporter). Vous pouvez accorder ce rôle au niveau du projet ou du groupe d'entrées.

Pour en savoir plus sur l'attribution de rôles, consultez la section Gérer les accès.

Activer les API

Activez les API Knowledge Catalog et Service de transfert de données BigQuery.

Activer les API

Conditions préalables de MySQL

Assurez-vous de respecter les conditions préalables pour les transferts MySQL. Pour en savoir plus, consultez les conditions préalables de MySQL dans la documentation du Service de transfert de données BigQuery.

En plus des conditions préalables du Service de transfert de données BigQuery, votre base de données MySQL doit répondre aux exigences suivantes pour l'extraction des métadonnées :

  • Version minimale : MySQL version 8.0 ou ultérieure.
  • Autorisations minimales requises : l'outil d'extraction nécessite des autorisations spécifiques pour interroger correctement INFORMATION_SCHEMA et collecter des métadonnées.

Ces autorisations garantissent la couverture des métadonnées suivantes :

  • Informations sur l'instance et la base de données : configurations du nom d'hôte, du port, de la version et du schéma.
  • Tables et colonnes : structure de base, types de données et métadonnées opérationnelles, telles que les tailles et le nombre de lignes.
  • Index et partitions : index secondaires, méthodes de partitionnement et expressions.
  • Vues : structures et définitions de tables virtuelles.
  • Routines : procédures stockées, fonctions et leurs paramètres.
  • Contraintes : contraintes détaillées de clé primaire, de clé étrangère, uniques et de vérification.
  • Déclencheurs : définitions de déclencheurs et timing des événements.

Pour accorder ces autorisations, exécutez les scripts SQL suivants.

  1. Créez l'utilisateur :

    CREATE USER 'USERNAME'@'%'
IDENTIFIED BY 'PASSWORD';

  2. Accordez l'accès aux métadonnées. Vous pouvez accorder l'accès à une seule base de données cible ou à toutes les bases de données de l'instance.

    Pour accorder l'accès à une seule base de données ou à un seul schéma cible :

    GRANT SELECT, SHOW VIEW, REFERENCES, EXECUTE, TRIGGER
ON DATABASE_NAME.*
TO 'USERNAME'@'%';

    Vous pouvez également accorder l'accès à toutes les bases de données de l'instance :

    GRANT SELECT, SHOW VIEW, REFERENCES, EXECUTE, TRIGGER
ON *.*
TO 'USERNAME'@'%';

  3. Autorisez l'outil d'extraction à lister toutes les bases de données disponibles sur l'instance :

    GRANT SHOW DATABASES ON *.* TO 'USERNAME'@'%';

  4. Appliquez les modifications :

    FLUSH PRIVILEGES;

Conditions préalables de mise en réseau

Un rattachement de réseau pour la connexion via Private Service Connect est requis lorsque vous vous connectez de manière sécurisée à des bases de données externes ou à des sources de données cloud tierces avec une adresse IP privée dans un réseau privé, afin de permettre au Service de transfert de données BigQuery d'accéder à votre base de données.

Si vous vous connectez à un environnement sur site ou à une instance hébergée dans le cloud à l'aide d'une adresse IP publique, aucun rattachement de réseau n'est requis.

Configurer un connecteur MySQL

  1. Dans la Google Cloud console, accédez à la page Knowledge Catalog.

    Accéder à Knowledge Catalog

  2. Dans le menu de navigation, dans la section Gérer, cliquez sur Connecteurs.

  3. Cliquez sur Ajouter une connexion.

  4. Dans la liste Connecteurs, sélectionnez la fiche MySQL.

  5. Dans la section Data source details (Détails de la source de données), fournissez les informations de connexion pour votre instance MySQL :

    • Sous Network attachment (Rattachement de réseau), sélectionnez un rattachement de réseau existant si nécessaire, ou créez-en un.
    • Saisissez le Host (Hôte), le Port, le Database name (Nom de la base de données), le Username (Nom d'utilisateur) et le Password (Mot de passe).
    • Si vous utilisez TLS, sélectionnez un TLS Mode (Mode TLS) et fournissez un Trusted PEM Certificate (Certificat PEM approuvé).
    • Pour MySQL metadata objects to import (Objets de métadonnées MySQL à importer), cliquez sur Browse (Parcourir) pour sélectionner des objets.

  6. Dans la section Destination settings (Paramètres de destination) :

    • Cliquez sur Browse (Parcourir) et sélectionnez un Knowledge Catalog entry group (Groupe d'entrées Knowledge Catalog) existant pour stocker les métadonnées importées, ou cliquez sur Create new entry group (Créer un groupe d'entrées).
    • Choisissez si vous souhaitez définir les autorisations sur le groupe d'entrées maintenant ou plus tard. Définissez les autorisations afin que les utilisateurs puissent afficher les métadonnées importées. Si vous n'avez pas accordé le rôle importateur de groupe d'entrées Dataplex (roles/dataplex.entryGroupImporter) ou l'autorisation dataplex.entryGroups.import à l'agent de service Service de transfert de données BigQuery (service-PROJECT_NUMBER@gcp-sa-bigquerydatatransfer.iam.gserviceaccount.com) au niveau du projet, vous devez l'accorder au niveau du groupe d'entrées.

  7. Dans la section Connector config name (Nom de la configuration du connecteur), sous Display name (Nom à afficher), saisissez le nom de la tâche d'importation des métadonnées.

  8. Dans la section Schedule options (Options de programmation), configurez la fréquence de la tâche d'importation des métadonnées. Si vous sélectionnez On-demand (À la demande), la tâche ne s'exécute que lorsque vous la déclenchez manuellement.

  9. Facultatif : dans la section Notification options (Options de notification), configurez les notifications par e-mail ou Pub/Sub en cas d'échec de la tâche.

  10. Facultatif : dans la section Advanced options (Options avancées), configurez les paramètres de chiffrement. Si vous sélectionnez une clé de chiffrement gérée par le client (CMEK), notez que la clé est utilisée pour chiffrer toutes les données transitoires mises en scène avant le démarrage des tâches d'importation des métadonnées Knowledge Catalog. Elle n'est pas utilisée pour chiffrer les métadonnées dans le groupe d'entrées Knowledge Catalog de destination.

  11. Cliquez sur Enregistrer.

Une fois la tâche créée, Knowledge Catalog planifie la première exécution en fonction de votre configuration. Vous pouvez également la démarrer manuellement.

Étape suivante