Ce document liste les quotas qui s'appliquent à Dataplex Universal Catalog.
Google Cloud utilise des quotas pour garantir l'équité et réduire les pics d'utilisation et de disponibilité des ressources. Un quota limite la quantité d'une ressourceGoogle Cloud que votre projet Google Cloud peut utiliser. Les quotas s'appliquent à différents types de ressources, y compris les composants matériels, logiciels et réseau. Par exemple, ils peuvent limiter le nombre d'appels d'API à un service, le nombre d'équilibreurs de charge utilisés simultanément par votre projet ou le nombre de projets que vous pouvez créer. Ils protègent la communauté des utilisateurs deGoogle Cloud en empêchant la surcharge des services. Les quotas vous aident également à gérer vos propres ressources Google Cloud .
Le système Cloud Quotas permet d'effectuer les opérations suivantes :
- Surveiller votre consommation de produits et services Google Cloud
- Limiter votre consommation de ces ressources
- Demander des modifications de la valeur du quota et automatiser les ajustements de quota
Dans la plupart des cas, lorsque vous tentez d'utiliser une ressource plus que son quota ne le permet, le système bloque l'accès à la ressource et la tâche que vous essayez d'effectuer échoue.
Les quotas s'appliquent généralement au niveau du projet Google Cloud . Votre utilisation d'une ressource dans un projet n'affecte pas votre quota disponible dans un autre projet. Dans un projet Google Cloud , les quotas sont partagés entre toutes les applications et adresses IP.
Pour en savoir plus, consultez la présentation des quotas Cloud.
Des limites système s'appliquent également aux ressources Dataplex Universal Catalog. Elles ne peuvent pas être modifiées.
Dataplex Universal Catalog applique des quotas sur le nombre de requêtes API au cours d'une période spécifique et sur le nombre de ressources pouvant être créées dans un projet. Les quotas vous protègent contre les pics d'utilisation imprévus et les services surchargés. En savoir plus sur les raisons pour lesquelles les quotas sont appliqués
Vos besoins en quota peuvent augmenter à mesure que vous utilisez Dataplex Universal Catalog. Si un quota n'est pas suffisant pour répondre à vos besoins ou si vous prévoyez une augmentation de l'utilisation, vous pouvez demander une augmentation de quota.
Quotas pour les requêtes de l'API Dataplex
L'API Dataplex applique des quotas pour la gestion des ressources et pour les requêtes de recherche Dataplex Universal Catalog à différents niveaux, quelle que soit leur origine. Cela inclut les requêtes provenant directement des appels d'API, des bibliothèques clientes, de Google Cloud CLI et de la console Google Cloud .
Les quotas suivants s'appliquent aux requêtes Dataplex Universal Catalog :
| Quota | Par défaut |
|---|---|
| Requêtes de lecture pour les entrées et les aspects par projet, par région et par minute | 6000 |
| Requêtes d'écriture pour les entrées et les aspects par projet, par région et par minute | 1500 |
| Requêtes de lecture pour les types d'aspects, les types d'entrées et les groupes d'entrées par projet, par utilisateur et par minute | 100 |
| Requêtes de lecture pour les types d'aspects, les types d'entrées et les groupes d'entrées par projet et par minute | 200 |
| Requêtes d'écriture pour les types d'aspects, les types d'entrées et les groupes d'entrées par projet, par utilisateur et par minute | 10 |
| Requêtes d'écriture pour les types d'aspects, les types d'entrées et les groupes d'entrées par projet et par minute | 20 |
| Requêtes de recherche par projet, par utilisateur et par minute | 900 |
| Requêtes de recherche par projet et par minute | 1200 |
| Requêtes de recherche par organisation et par minute | 2400 |
| Requêtes de recherche par organisation et par jour | 345600 |
| Requêtes de lecture pour les jobs de métadonnées par projet, par région et par minute | 400 |
| Requêtes de lecture pour les jobs de métadonnées par projet, par utilisateur, par région et par minute | 200 |
| Requêtes d'écriture pour les jobs de métadonnées par projet, par région et par minute | 20 |
| Requêtes d'écriture pour les jobs de métadonnées par projet, par utilisateur, par région et par minute | 10 |
| Quantité de métadonnées exportées par les jobs d'exportation de métadonnées, par organisation et par jour | 10 Go |
|
Quantité de métadonnées analysées pour l'exportation par les jobs d'exportation de métadonnées, par organisation et par jour Ce quota évalue le volume total de métadonnées existant dans l'organisation, les projets ou les groupes d'entrées qui sont dans le champ d'application du job d'exportation de métadonnées. |
100 Go |
Pour chaque requête Dataplex Universal Catalog listée dans le tableau suivant, un quota est appliqué à la fois au niveau du projet et au niveau du projet par utilisateur.
| Quota | Exemples |
|---|---|
| Requêtes de lecture pour la gestion des ressources | Obtenir un lac, lister les zones |
| Requêtes d'écriture pour la gestion des ressources | Créer un lac, supprimer un élément |
| Obtenir des demandes de métadonnées | Obtenir une entité, obtenir une partition |
| Lister les requêtes de métadonnées | Lister les entités, lister les partitions |
| Requêtes d'écriture pour les métadonnées | Mettre à jour une entité, supprimer une partition |
| Requêtes de lecture pour les ressources de tâches et de jobs | Obtenir une tâche, lister les jobs |
| Requêtes d'écriture pour les ressources de tâches et de jobs | Créer une tâche, annuler un job |
| Définir les demandes de stratégie IAM | Définir une stratégie IAM |
Quotas pour les requêtes de l'API Data Lineage
L'API Data Lineage applique des quotas pour les éléments suivants :
- Requêtes de lecture qui ne renvoient que les données
- Requêtes d'écriture qui créent ou modifient les données
- Créer Open Lineage
Les quotas suivants s'appliquent aux requêtes sur l'origine des données :
| Quota | Valeur par défaut |
|---|---|
| Requêtes de lecture par projet, par utilisateur, par région et par minute | 1000 |
| Requêtes d'écriture par projet, par utilisateur, par région et par minute | 6000 |
| Requêtes Open Lineage par projet, par utilisateur, par région et par minute | 3000 |
Quotas pour les ressources
Le quota de ressources est appliqué au niveau de chaque projet pour les types de ressources suivants : lac, zone, élément, tâche à la demande, tâche récurrente. Vous pouvez vérifier votre utilisation actuelle du quota Dataplex Universal Catalog sur la page Quotas de la console Google Cloud .
Demander une augmentation du quota
Dans la console Google Cloud , accédez à la page Quotas.
Sélectionnez le quota que vous souhaitez augmenter.
Cliquez sur Autres actions > Modifier le quota.
Saisissez la nouvelle valeur de quota et une description de la demande.
Cliquez sur Suivant.
Saisissez les coordonnées.
Cliquez sur Envoyer la requête.
Pour ajuster la plupart des quotas, utilisez la console Google Cloud . Pour en savoir plus, consultez Demander un ajustement de quota.
Dépendances des quotas
Votre utilisation de Dataplex Universal Catalog peut impliquer d'autres produits Google Cloud . Par exemple, la découverte de données nécessite d'appeler les API Cloud Storage et/ou BigQuery pour interagir avec les ressources sous-jacentes. Ces produits ont des quotas qui s'appliquent au niveau de chaque projet, y compris des quotas associés à l'utilisation de Dataplex Universal Catalog.
Pages de quotas d'autres produits que vous pouvez utiliser avec Dataplex Universal Catalog :
Cette liste n'est pas exhaustive.
Limites
Les limites suivantes s'appliquent à Dataplex Universal Catalog :
| Limite | Valeur |
|---|---|
| Taille d'une requête pour l'entrée et les aspects (y compris l'aspect schéma) | 2 Mo |
| Longueur d'un ID d'entrée | 4 000 caractères |
| Longueur d'un nom complet dans une entrée | 4 000 caractères |
| Longueur du nom à afficher de la source d'une entrée | 500 caractères |
| Longueur de la description de la source d'une entrée | 2 000 caractères |
| Longueur de la ressource de la source d'une entrée | 4 000 caractères |
| Longueur du système de la source d'une entrée | 64 caractères |
| Longueur de la plate-forme de la source d'une entrée | 64 caractères |
| Longueur des étiquettes de la source d'une entrée | 128 caractères pour chaque clé et valeur |
| Taille du contenu JSON dans un aspect (sauf l'aspect schéma) | 120 Ko |
| Taille totale d'une entrée | 5 Mo |
| Nombre maximal d'aspects dans une entrée | 10 000 |
| Longueur du nom à afficher du type d'entrée, du type d'aspect et du groupe d'entrées | 256 |
| Longueur de la description du type d'entrée, du type d'aspect et du groupe d'entrées | 1 024 |
| Longueur du nom de champ dans un modèle de type d'aspect | 63 |
| Nombre maximal de types d'aspects requis dans un type d'entrée | 20 |
| Nombre maximal de valeurs d'énumération dans un modèle de type d'aspect | 1 024 |
| Nombre maximal d'éléments dans les résultats de recherche Dataplex Universal Catalog | 500 |