Procéder au profilage de vos données
Ce document explique comment utiliser les analyses de profil de données pour mieux comprendre vos données. BigQuery utilise Dataplex Universal Catalog pour analyser les caractéristiques statistiques de vos données, telles que les valeurs moyennes, les valeurs uniques et les valeurs maximales. Dataplex Universal Catalog utilise également ces informations pour recommander des règles pour les vérifications de la qualité des données.
Pour en savoir plus sur le profilage de données, consultez la page À propos du profilage de données.
Avant de commencer
Enable the Dataplex API.
Roles required to enable APIs
To enable APIs, you need the Service Usage Admin IAM
role (roles/serviceusage.serviceUsageAdmin), which
contains the serviceusage.services.enable permission. Learn how to grant
roles.
Rôles requis
Pour obtenir les autorisations nécessaires pour créer et gérer des analyses de profils de données, demandez à votre administrateur de vous accorder les rôles IAM suivants sur votre ressource, comme le projet ou la table :
-
Pour créer, exécuter, mettre à jour et supprimer des analyses de profil de données :
Rôle Éditeur Dataplex DataScan (
roles/dataplex.dataScanEditor) sur le projet contenant l'analyse de données. -
Pour autoriser Dataplex Universal Catalog à exécuter des analyses de profilage des données sur les données BigQuery, accordez les rôles suivants au compte de service Dataplex Universal Catalog :
Rôle Utilisateur de job BigQuery (
roles/bigquery.jobUser) sur le projet exécutant l'analyse ; rôle Lecteur de données BigQuery (roles/bigquery.dataViewer) sur les tables analysées. -
Pour exécuter des analyses de profilage des données pour les tables externes BigQuery qui utilisent des données Cloud Storage :
accordez au compte de service Dataplex Universal Catalog les rôles Lecteur des objets Storage (
roles/storage.objectViewer) et Lecteur de buckets Storage (ancienne version) (roles/storage.legacyBucketReader) sur le bucket Cloud Storage. -
Pour afficher les résultats, les jobs et l'historique des analyses de profilage des données :
Rôle Lecteur Dataplex DataScan (
roles/dataplex.dataScanViewer) sur le projet contenant l'analyse de données. -
Pour exporter les résultats d'analyse du profil de données vers une table BigQuery :
Rôle Éditeur de données BigQuery (
roles/bigquery.dataEditor) sur la table. -
Pour publier les résultats de l'analyse du profil de données dans Dataplex Universal Catalog :
Rôle Éditeur de catalogue Dataplex (
roles/dataplex.catalogEditor) sur le groupe d'entrées@bigquery. -
Pour afficher les résultats publiés de l'analyse du profil de données dans BigQuery, dans l'onglet Profil de données :
Rôle Lecteur de données BigQuery (
roles/bigquery.dataViewer) sur la table.
Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.
Vous pouvez également obtenir les autorisations requises avec des rôles personnalisés ou d'autres rôles prédéfinis.
Autorisations requises
Si vous utilisez des rôles personnalisés, vous devez accorder les autorisations IAM suivantes :
- Pour créer, exécuter, mettre à jour et supprimer des analyses de profil de données :
dataplex.datascans.createsur un projet : créer unDataScandataplex.datascans.updatesur l'analyse des données : mettre à jour la description d'uneDataScandataplex.datascans.deletesur l'analyse de données : supprimer undataplex.datascans.deleteDataScandataplex.datascans.runsur l'analyse de données : exécutez uneDataScan.dataplex.datascans.getsur l'analyse de données : afficher les détails de l'analyseDataScan, à l'exception des résultatsdataplex.datascans.listsur le projet : liste desDataScandataplex.dataScanJobs.getsur le job d'analyse de données : lire les ressources de job DataScandataplex.dataScanJobs.listsur l'analyse de données : liste les ressources de job DataScan dans un projet
- Pour autoriser Dataplex Universal Catalog à exécuter des analyses de profilage des données sur les données BigQuery :
bigquery.jobs.createsur le projet : exécuter des jobsbigquery.tables.getsur une table : obtenir les métadonnées de la tablebigquery.tables.getDatasur le tableau : obtenir les données du tableau
- Pour exécuter des analyses de profil de données pour les tables externes BigQuery qui utilisent des données Cloud Storage :
storage.buckets.getsur le bucket : lire les métadonnées du bucketstorage.objects.getsur l'objet : lire les données de l'objet
- Pour afficher les résultats, les jobs et l'historique des analyses de profilage de données :
dataplex.datascans.getDatasur l'analyse de données : affichez les détails de l'analyseDataScan, y compris les résultats.dataplex.datascans.listsur le projet : liste desDataScandataplex.dataScanJobs.getsur le job d'analyse de données : lire les ressources de job DataScandataplex.dataScanJobs.listsur l'analyse de données : liste les ressources de job DataScan dans un projet
- Pour exporter les résultats d'une analyse de profil de données vers une table BigQuery :
bigquery.tables.createsur l'ensemble de données : créer des tableauxbigquery.tables.updateDatasur table : écrire des données dans des tables
- Pour publier les résultats de l'analyse du profil de données dans Dataplex Universal Catalog :
dataplex.entryGroups.useDataProfileAspectsur le groupe d'entrées : permet aux analyses de profilage des données Dataplex Universal Catalog d'enregistrer leurs résultats dans Dataplex Universal Catalog- Vous devez également disposer de l'une des autorisations suivantes :
bigquery.tables.updatesur une table : mettre à jour les métadonnées de la tabledataplex.entries.updatesur l'entrée : mettre à jour les entrées
- Pour afficher les résultats de profil de données publiés pour une table dans BigQuery ou Dataplex Universal Catalog :
bigquery.tables.getsur une table : obtenir les métadonnées de la tablebigquery.tables.getDatasur le tableau : obtenir les données du tableau
Si une table utilise la sécurité au niveau des lignes de BigQuery, Dataplex Universal Catalog ne peut analyser que les lignes visibles par le compte de service Dataplex Universal Catalog. Pour autoriser Dataplex Universal Catalog à analyser toutes les lignes, ajoutez son compte de service à un filtre de ligne où le prédicat est TRUE.
Si une table utilise la sécurité au niveau des colonnes de BigQuery, Dataplex Universal Catalog doit avoir accès aux colonnes protégées pour pouvoir les analyser. Pour accorder l'accès, attribuez au compte de service Dataplex Universal Catalog le rôle Lecteur détaillé Data Catalog (roles/datacatalog.fineGrainedReader) sur tous les tags avec stratégie utilisés dans la table. Un utilisateur qui crée ou met à jour une analyse des données doit également disposer des autorisations sur les colonnes protégées.
Attribuer des rôles au compte de service Dataplex Universal Catalog
Pour exécuter des analyses de profilage des données, Dataplex Universal Catalog utilise un compte de service qui nécessite des autorisations pour exécuter des jobs BigQuery et lire les données des tables BigQuery. Pour attribuer les rôles requis, procédez comme suit :
Récupérez l'adresse e-mail du compte de service Dataplex Universal Catalog. Si vous n'avez jamais créé d'analyse de profilage des données ni d'analyse de la qualité des données dans ce projet, exécutez la commande
gcloudsuivante pour générer l'identité de service :gcloud beta services identity create --service=dataplex.googleapis.comLa commande renvoie l'adresse e-mail du compte de service, qui est au format suivant :
service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com.Si le compte de service existe déjà, vous pouvez trouver son adresse e-mail en affichant les comptes principaux portant le nom Dataplex sur la page IAM de la console Google Cloud .
Attribuez au compte de service le rôle Utilisateur de job BigQuery (
roles/bigquery.jobUser) sur votre projet. Ce rôle permet au compte de service d'exécuter des jobs BigQuery pour l'analyse.gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.jobUser"Remplacez les éléments suivants :
PROJECT_ID: ID de votre projet Google Cloud .service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: adresse e-mail du compte de service Dataplex Universal Catalog.
Attribuez au compte de service le rôle Lecteur de données BigQuery (
roles/bigquery.dataViewer) pour chaque table que vous souhaitez profiler. Ce rôle accorde un accès en lecture seule aux tables.gcloud bigquery tables add-iam-policy-binding DATASET_ID.TABLE_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.dataViewer"Remplacez les éléments suivants :
DATASET_ID: ID de l'ensemble de données contenant la table.TABLE_ID: ID de la table à profiler.service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com: adresse e-mail du compte de service Dataplex Universal Catalog.Créer une analyse de profilage de données
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur Créer une analyse de profilage de données.
Facultatif : Saisissez un nom à afficher.
Saisissez un ID. Consultez les conventions d'attribution de noms pour les ressources.
Facultatif : saisissez une description.
Dans le champ Table, cliquez sur Parcourir. Choisissez la table à analyser, puis cliquez sur Sélectionner.
Pour les tables des ensembles de données multirégionaux, choisissez une région dans laquelle créer l'analyse de données.
Pour parcourir les tables organisées dans les lacs Dataplex Universal Catalog, cliquez sur Parcourir les lacs Dataplex.
Dans le champ Champ d'application, sélectionnez Incrémentiel ou Intégralité des données.
- Si vous choisissez des données incrémentielles, sélectionnez pour le champ Colonne de code temporel une colonne de votre table BigQuery (de type
DATEouTIMESTAMP) qui augmente à mesure que de nouveaux enregistrements sont ajoutés et qui permet d'identifier de nouveaux enregistrements. Pour les tables partitionnées sur une colonne de typeDATEouTIMESTAMP, nous vous recommandons d'utiliser la colonne de partition comme champ de code temporel.
- Si vous choisissez des données incrémentielles, sélectionnez pour le champ Colonne de code temporel une colonne de votre table BigQuery (de type
Facultatif : Pour filtrer vos données, effectuez l'une des opérations suivantes :
Pour filtrer par ligne, cochez la case Filtrer les lignes. Saisissez une expression SQL valide pouvant être utilisée dans une clause
WHEREen syntaxe GoogleSQL. Exemple :col1 >= 0.Le filtre peut être une combinaison de conditions SQL sur plusieurs colonnes. Exemple :
col1 >= 0 AND col2 < 10.Pour filtrer par colonne, cochez la case Filtrer les colonnes.
Pour inclure des colonnes dans l'analyse de profilage, cliquez sur Parcourir dans le champ Inclure des colonnes. Sélectionnez les colonnes à inclure, puis cliquez sur Sélectionner.
Pour exclure des colonnes de l'analyse de profilage, dans le champ Exclure des colonnes, cliquez sur Parcourir. Sélectionnez les colonnes à exclure, puis cliquez sur Sélectionner.
Pour appliquer l'échantillonnage à l'analyse de profilage des données, sélectionnez un pourcentage d'échantillonnage dans la liste Taille d'échantillonnage. Choisissez un pourcentage compris entre 0 et 100 %, avec un maximum de trois chiffres après la virgule.
Pour les ensembles de données plus volumineux, choisissez un pourcentage d'échantillonnage plus faible. Par exemple, pour une table de 1 Po, si vous saisissez une valeur comprise entre 0,1 et 1 %, le profil de données échantillonne entre 1 et 10 To de données.
Vous devez disposer d'au moins 100 enregistrements dans les données échantillonnées pour obtenir un résultat.
Pour les analyses de données incrémentielles, l'analyse de profilage des données applique l'échantillonnage au dernier incrément.
Facultatif : Publiez les résultats de l'analyse de profilage des données sur les pages BigQuery et Dataplex Universal Catalog de laGoogle Cloud console pour la table source. Cochez la case Publier les résultats dans BigQuery et Dataplex Catalog.
Vous pouvez consulter les derniers résultats d'analyse dans l'onglet Profil de données des pages BigQuery et Dataplex Universal Catalog pour la table source. Pour permettre aux utilisateurs d'accéder aux résultats d'analyse publiés, consultez la section Accorder l'accès aux résultats d'analyse de profilage de données de ce document.
L'option de publication peut ne pas être disponible dans les cas suivants :
- Vous ne disposez pas des autorisations requises pour cette table.
- Une autre analyse de la qualité des données est configurée pour publier les résultats.
Dans la section Planification, choisissez l'une des options suivantes :
Répétition : exécutez l'analyse de profilage des données selon une planification horaire, quotidienne, hebdomadaire, mensuelle ou personnalisée. Spécifiez la fréquence et l'heure d'exécution de l'analyse. Si vous choisissez "Personnalisée", utilisez le format cron pour spécifier la planification.
À la demande : exécutez l'analyse de profilage des données à la demande.
Cliquez sur Continuer.
Facultatif : exportez les résultats de l'analyse vers une table BigQuery standard. Dans la section Exporter les résultats d'analyse dans une table BigQuery, procédez comme suit :
Dans le champ Sélectionnez un ensemble de données BigQuery, cliquez sur Parcourir. Sélectionnez un ensemble de données BigQuery dans lequel stocker les résultats de l'analyse de profilage des données.
Dans le champ Table BigQuery, spécifiez la table dans laquelle stocker les résultats de l'analyse de profilage des données. Si vous utilisez une table existante, assurez-vous qu'elle est compatible avec le schéma de la table d'exportation. Si la table spécifiée n'existe pas, Dataplex Universal Catalog la crée pour vous.
Facultatif : Ajoutez des étiquettes. Les étiquettes sont des paires clé/valeur qui vous permettent de regrouper des objets associés ou de les combiner à d'autres Google Cloud ressources.
Pour créer l'analyse, cliquez sur Créer.
Si vous définissez la planification sur "À la demande", vous pouvez également exécuter l'analyse maintenant en cliquant sur Exécuter l'analyse.
gcloud
Pour créer une analyse de profilage des données, utilisez la commande
gcloud dataplex datascans create data-profile.Si les données source sont organisées dans un lac Dataplex Universal Catalog, incluez le flag
--data-source-entity:gcloud dataplex datascans create data-profile DATASCAN \ --location=LOCATION \ --data-source-entity=DATA_SOURCE_ENTITY
Si les données source ne sont pas organisées dans un lac Dataplex Universal Catalog, incluez le flag
--data-source-resource:gcloud dataplex datascans create data-profile DATASCAN \ --location=LOCATION \ --data-source-resource=DATA_SOURCE_RESOURCE
Remplacez les variables suivantes :
DATASCAN: nom de l'analyse de profilage des données.LOCATION: Google Cloud région dans laquelle créer l'analyse de profilage des données.DATA_SOURCE_ENTITY: entité Dataplex Universal Catalog contenant les données pour l'analyse de profilage des données. Exemple :projects/test-project/locations/test-location/lakes/test-lake/zones/test-zone/entities/test-entity.DATA_SOURCE_RESOURCE: nom de la ressource contenant les données pour l'analyse de profilage des données. Exemple ://bigquery.googleapis.com/projects/test-project/datasets/test-dataset/tables/test-table.
C#
C#
Avant d'essayer cet exemple, suivez les instructions de configuration pour C# décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour C#.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Accéder
Go
Avant d'essayer cet exemple, suivez les instructions de configuration pour Go décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Go.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Java
Java
Avant d'essayer cet exemple, suivez les instructions de configuration pour Java décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Java.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Python
Python
Avant d'essayer cet exemple, suivez les instructions de configuration pour Python décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Python.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Ruby
Ruby
Avant d'essayer cet exemple, suivez les instructions de configuration pour Ruby décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Ruby.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
REST
Pour créer une analyse de profilage de données, utilisez la méthode
dataScans.create.Créer plusieurs analyses de profilage des données
Vous pouvez configurer des analyses de profilage de données pour plusieurs tables d'un ensemble de données BigQuery en même temps à l'aide de la console Google Cloud .
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur Créer une analyse de profilage de données.
Sélectionnez l'option Plusieurs analyses de profilage des données.
Saisissez un préfixe d'ID. Dataplex Universal Catalog génère automatiquement des ID d'analyse en utilisant le préfixe fourni et des suffixes uniques.
Saisissez une Description pour toutes les analyses de profilage des données.
Dans le champ Ensemble de données, cliquez sur Parcourir. Sélectionnez un ensemble de données dans lequel choisir des tables. Cliquez sur Sélectionner.
Si l'ensemble de données est multirégional, sélectionnez une région dans laquelle créer les analyses de profilage des données.
Configurez les paramètres communs pour les analyses :
Dans le champ Champ d'application, sélectionnez Incrémentiel ou Intégralité des données.
Pour appliquer l'échantillonnage aux analyses de profilage des données, sélectionnez un pourcentage d'échantillonnage dans la liste Taille d'échantillonnage.
Choisissez un pourcentage compris entre 0 et 100 %, avec un maximum de trois chiffres après la virgule.
Facultatif : Publiez les résultats de l'analyse de profilage des données sur les pages BigQuery et Dataplex Universal Catalog de laGoogle Cloud console pour la table source. Cochez la case Publier les résultats dans BigQuery et Dataplex Catalog.
Vous pouvez consulter les derniers résultats d'analyse dans l'onglet Profil de données des pages BigQuery et Dataplex Universal Catalog pour la table source. Pour permettre aux utilisateurs d'accéder aux résultats d'analyse publiés, consultez la section Accorder l'accès aux résultats d'analyse de profilage de données de ce document.
Dans la section Planification, choisissez l'une des options suivantes :
Répétition : exécutez l'analyse de profilage des données selon une planification horaire, quotidienne, hebdomadaire, mensuelle ou personnalisée. Spécifiez la fréquence et l'heure d'exécution des analyses. Si vous choisissez "Personnalisée", utilisez le format cron pour spécifier la planification.
À la demande : exécutez les analyses de profilage des données à la demande.
Cliquez sur Continuer.
Pour l'option Choisir des tables, cliquez sur Parcourir. Choisissez une ou plusieurs tables à analyser, puis cliquez sur Sélectionner.
Cliquez sur Continuer.
Facultatif : exportez les résultats de l'analyse vers une table BigQuery standard. Dans la section Exporter les résultats d'analyse dans une table BigQuery, procédez comme suit :
Dans le champ Sélectionnez un ensemble de données BigQuery, cliquez sur Parcourir. Sélectionnez un ensemble de données BigQuery dans lequel stocker les résultats de l'analyse de profilage des données.
Dans le champ Table BigQuery, spécifiez la table dans laquelle stocker les résultats de l'analyse de profilage des données. Si vous utilisez une table existante, assurez-vous qu'elle est compatible avec le schéma de la table d'exportation. Si la table spécifiée n'existe pas, Dataplex Universal Catalog la crée pour vous.
Dataplex Universal Catalog utilise la même table de résultats pour toutes les analyses de profilage des données.
Facultatif : Ajoutez des étiquettes. Les étiquettes sont des paires clé/valeur qui vous permettent de regrouper des objets associés ou de les combiner à d'autres ressources Google Cloud .
Pour créer les analyses, cliquez sur Créer.
Si vous définissez la planification sur "À la demande", vous pouvez également exécuter les analyses maintenant en cliquant sur Exécuter l'analyse.
Exécuter une analyse de profilage des données
Console
-
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
- Cliquez sur l'analyse de profilage des données à exécuter.
- Cliquez sur Exécuter maintenant.
gcloud
Pour exécuter une analyse de profilage des données, utilisez la commande
gcloud dataplex datascans run:gcloud dataplex datascans run DATASCAN \ --location=LOCATION
Remplacez les variables suivantes :
DATASCAN: nom de l'analyse de profilage des données.LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.
C#
C#
Avant d'essayer cet exemple, suivez les instructions de configuration pour C# décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour C#.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Accéder
Go
Avant d'essayer cet exemple, suivez les instructions de configuration pour Go décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Go.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Java
Java
Avant d'essayer cet exemple, suivez les instructions de configuration pour Java décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Java.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Python
Python
Avant d'essayer cet exemple, suivez les instructions de configuration pour Python décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Python.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Ruby
Ruby
Avant d'essayer cet exemple, suivez les instructions de configuration pour Ruby décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Ruby.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
REST
Pour exécuter une analyse de profilage des données, utilisez la méthode
dataScans.run.Afficher les résultats d'analyse de profilage de données
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur le nom d'une analyse de profilage de données.
La section Vue d'ensemble affiche des informations sur les jobs les plus récents, y compris la date d'exécution de l'analyse, le nombre d'enregistrements de table analysés et l'état du job.
La section Configuration de l'analyse de profilage des données affiche des informations sur l'analyse.
Pour afficher des informations détaillées sur un job, comme les colonnes de la table analysée, des statistiques sur les colonnes trouvées lors de l'analyse et les journaux de job, cliquez sur l'onglet Historique des jobs. Cliquez ensuite sur un ID de job.
gcloud
Pour afficher les résultats d'un job d'analyse de profilage des données, utilisez la commande
gcloud dataplex datascans jobs describe:gcloud dataplex datascans jobs describe JOB \ --location=LOCATION \ --datascan=DATASCAN \ --view=FULL
Remplacez les variables suivantes :
JOB: ID du job d'analyse de profilage des données.LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.DATASCAN: nom de l'analyse de profilage des données à laquelle appartient le job.--view=FULL: pour afficher le résultat du job d'analyse, spécifiezFULL.
C#
C#
Avant d'essayer cet exemple, suivez les instructions de configuration pour C# décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour C#.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Accéder
Go
Avant d'essayer cet exemple, suivez les instructions de configuration pour Go décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Go.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Java
Java
Avant d'essayer cet exemple, suivez les instructions de configuration pour Java décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Java.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Python
Python
Avant d'essayer cet exemple, suivez les instructions de configuration pour Python décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Python.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Ruby
Ruby
Avant d'essayer cet exemple, suivez les instructions de configuration pour Ruby décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Ruby.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
REST
Pour afficher les résultats d'une analyse de profilage des données, utilisez la méthode
dataScans.get.Afficher les résultats publiés
Si les résultats de l'analyse de profilage des données sont publiés sur les pages BigQuery et Dataplex Universal Catalog de la console Google Cloud , vous pouvez consulter les derniers résultats de l'analyse dans l'onglet Profil de données de la table source.
Dans la console Google Cloud , accédez à la page "BigQuery".
Dans le panneau de gauche, cliquez sur Explorer :

Si le volet de gauche n'apparaît pas, cliquez sur Développer le volet de gauche pour l'ouvrir.
Dans le volet Explorateur, cliquez sur Ensembles de données, puis sur votre ensemble de données.
Cliquez sur Présentation > Tables, puis sélectionnez la table dont vous souhaitez afficher les résultats de l'analyse du profil de données.
Cliquez sur l'onglet Profil de données.
Les derniers résultats publiés s'affichent.
Afficher le job d'analyse de profilage des données le plus récent
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur le nom d'une analyse de profilage de données.
Cliquez sur l'onglet Résultats du dernier job.
Lorsqu'au moins une exécution a été effectuée avec succès, l'onglet Résultats du dernier job fournit des informations sur le job le plus récent. Cet onglet recense les colonnes de la table analysée et les statistiques sur les colonnes trouvées lors de l'analyse.
gcloud
Pour afficher la dernière analyse de profilage des données réussie, utilisez la commande
gcloud dataplex datascans describe:gcloud dataplex datascans describe DATASCAN \ --location=LOCATION \ --view=FULL
Remplacez les variables suivantes :
DATASCAN: nom de l'analyse de profilage des données pour laquelle vous souhaitez afficher le job le plus récent.LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.--view=FULL: pour afficher le résultat du job d'analyse, spécifiezFULL.
REST
Pour afficher le job d'analyse le plus récent, utilisez la méthode
dataScans.get.Afficher l'historique des résultats d'analyse
Dataplex Universal Catalog enregistre l'historique des analyses de profilage des données pour les 300 derniers jobs ou l'année écoulée, selon la première échéance.
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur le nom d'une analyse de profilage de données.
Cliquez sur l'onglet Historique des jobs.
L'onglet Historique des jobs fournit des informations sur les anciens jobs, comme le nombre d'enregistrements analysés dans chaque job, l'état du job et l'heure à laquelle le job a été exécuté.
Pour afficher des informations détaillées sur un job, cliquez sur l'un des jobs de la colonne ID de job.
gcloud
Pour afficher l'historique des jobs d'analyse de profilage des données, utilisez la commande
gcloud dataplex datascans jobs list:gcloud dataplex datascans jobs list \ --location=LOCATION \ --datascan=DATASCAN
Remplacez les variables suivantes :
LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.DATASCAN: nom de l'analyse de profilage des données pour laquelle vous souhaitez afficher les jobs.
C#
C#
Avant d'essayer cet exemple, suivez les instructions de configuration pour C# décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour C#.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Accéder
Go
Avant d'essayer cet exemple, suivez les instructions de configuration pour Go décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Go.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Java
Java
Avant d'essayer cet exemple, suivez les instructions de configuration pour Java décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Java.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Python
Python
Avant d'essayer cet exemple, suivez les instructions de configuration pour Python décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Python.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Ruby
Ruby
Avant d'essayer cet exemple, suivez les instructions de configuration pour Ruby décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Ruby.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
REST
Pour afficher l'historique des jobs d'analyse de profilage des données, utilisez la méthode
dataScans.jobs.list.Afficher les analyses de profil de données pour une table
Pour afficher les analyses de profilage des données qui s'appliquent à une table spécifique, procédez comme suit :
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Filtrez la liste par nom de table et type d'analyse.
Accorder l'accès aux résultats d'analyse de profilage de données
Pour permettre aux utilisateurs de votre organisation d'afficher les résultats d'analyse, procédez comme suit :
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur l'analyse de la qualité des données dont vous souhaitez partager les résultats.
Cliquez sur l'onglet Autorisations.
Procédez comme suit :
- Pour accorder l'accès à un compte principal, cliquez sur Accorder l'accès. Accordez le rôle Lecteur de données Dataplex DataScan au compte principal associé.
- Pour supprimer l'accès d'un compte principal, sélectionnez le compte principal pour lequel vous souhaitez supprimer le rôle Lecteur de données Dataplex DataScan. Cliquez sur > Supprimer l'accès, puis confirmez lorsque vous y êtes invité.
Gérer les analyses de profilage des données pour une table spécifique
Les étapes décrites dans ce document expliquent comment gérer les analyses de profilage des données dans votre projet à l'aide de la page BigQuery Curation des métadonnées > Qualité et profilage des données dans la consoleGoogle Cloud .
Vous pouvez également créer et gérer des analyses de profilage de données lorsque vous travaillez avec une table spécifique. Dans la console Google Cloud , sur la page BigQuery de la table, utilisez l'onglet Profil de données. Procédez comme suit :
Dans la console Google Cloud , accédez à la page BigQuery.
Dans le volet Explorateur (à gauche), cliquez sur Ensembles de données, puis sur votre ensemble de données. Cliquez ensuite sur Présentation > Tables, puis sélectionnez la table dont vous souhaitez afficher les résultats de l'analyse du profil de données.
Cliquez sur l'onglet Profil de données.
Selon que la table comporte ou non une analyse de profilage des données dont les résultats sont publiés, vous pouvez effectuer les opérations suivantes :
Les résultats de l'analyse de profilage de données sont publiés : les derniers résultats de l'analyse publiée s'affichent sur la page.
Pour gérer les analyses de profilage des données de ce tableau, cliquez sur Analyse de profilage des données, puis sélectionnez l'une des options suivantes :
Créer une analyse : créez une analyse de profilage des données. Pour en savoir plus, consultez la section Créer une analyse de profilage de données de ce document. Lorsque vous créez une analyse à partir de la page d'informations d'une table, celle-ci est présélectionnée.
Exécuter : exécutez l'analyse.
Modifier la configuration d'analyse : modifiez les paramètres, y compris le nom à afficher, les filtres, la taille de l'échantillon et la planification.
Gérer les autorisations d'analyse : contrôlez qui peut accéder aux résultats de l'analyse. Pour en savoir plus, consultez la section Accorder l'accès aux résultats d'analyse de profilage des données de ce document.
Afficher l'historique des résultats : affichez des informations détaillées sur les jobs d'analyse de profilage des données précédents. Pour en savoir plus, consultez les sections Afficher les résultats d'analyse de profilage de données et Afficher l'historique des résultats d'analyse de ce document.
Afficher toutes les analyses : affichez la liste des analyses de profilage des données qui s'appliquent à ce tableau.
Les résultats de l'analyse du profilage de données ne sont pas publiés : cliquez sur le menu à côté de Profil de données rapide, puis sélectionnez l'une des options suivantes :
Personnaliser le profilage des données : créez une analyse de profilage des données. Pour en savoir plus, consultez la section Créer une analyse de profilage de données de ce document. Lorsque vous créez une analyse à partir de la page d'informations d'une table, celle-ci est présélectionnée.
Afficher les profils précédents : affichez la liste des analyses de profilage des données qui s'appliquent à cette table.
Mettre à jour une analyse de profilage des données
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur le nom d'une analyse de profilage de données.
Cliquez sur Modifier, puis modifiez les valeurs.
Cliquez sur Enregistrer.
gcloud
Pour mettre à jour une analyse de profilage des données, utilisez la commande
gcloud dataplex datascans update data-profile:gcloud dataplex datascans update data-profile DATASCAN \ --location=LOCATION \ --description=DESCRIPTION
Remplacez les variables suivantes :
DATASCAN: nom de l'analyse de profilage des données à mettre à jour.LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.DESCRIPTION: nouvelle description de l'analyse de profilage des données.
C#
C#
Avant d'essayer cet exemple, suivez les instructions de configuration pour C# décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour C#.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Accéder
Go
Avant d'essayer cet exemple, suivez les instructions de configuration pour Go décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Go.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Java
Java
Avant d'essayer cet exemple, suivez les instructions de configuration pour Java décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Java.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Python
Python
Avant d'essayer cet exemple, suivez les instructions de configuration pour Python décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Python.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
Ruby
Ruby
Avant d'essayer cet exemple, suivez les instructions de configuration pour Ruby décrites dans le guide de démarrage rapide de Dataplex Universal Catalog à l'aide des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence de l'API Dataplex Universal Catalog pour Ruby.
Pour vous authentifier auprès de Dataplex Universal Catalog, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local.
REST
Pour modifier une analyse de profilage de données, utilisez la méthode
dataScans.patch.Supprimer une analyse de profilage des données
Console
Dans la console Google Cloud , sur la page Curation des métadonnées de BigQuery, accédez à l'onglet Qualité et profilage des données.
Cliquez sur l'analyse que vous souhaitez supprimer.
Cliquez sur Supprimer, puis confirmez l'opération lorsque vous y êtes invité.
gcloud
Pour supprimer une analyse de profilage des données, utilisez la commande
gcloud dataplex datascans delete:gcloud dataplex datascans delete DATASCAN \ --location=LOCATION --async
Remplacez les variables suivantes :
DATASCAN: nom de l'analyse de profilage des données à supprimer.LOCATION: Google Cloud région dans laquelle l'analyse de profilage des données a été créée.
REST
Pour supprimer une analyse de profilage des données, utilisez la méthode
dataScans.delete.Étapes suivantes
- Apprenez à explorer vos données et générer des insights.
- En savoir plus sur la gouvernance des données dans BigQuery
- Découvrez comment analyser vos données pour détecter les problèmes de qualité.
- Découvrez comment examiner les données d'une table et créer des requêtes avec l'explorateur de tables.