Présentation du stockage Google Cloud Observability

Ce document explique comment Google Cloud Observability stocke vos données de télémétrie. Il explique comment Cloud Logging, Cloud Monitoring et Cloud Trace stockent les données. Ce document fournit également une présentation des buckets d'observabilité.

Données des journaux

Les données des journaux résident dans des buckets de journaux, qui sont les conteneurs utilisés par Logging pour stocker vos données de journaux. Chaque Google Cloud projet, compte de facturation, dossier et organisation contient des buckets de journaux nommés _Required et _Default.

Par défaut, les données des journaux résident dans le Google Cloud projet, le compte de facturation, le dossier, ou l'organisation où elles sont générées. Toutefois, vous pouvez configurer Logging pour acheminer les données des journaux de la ressource où elles sont générées vers un autre emplacement, comme un autre projet ou un bucket de journaux centralisé. Pour en savoir plus, consultez Stocker des entrées de journal et Acheminer des entrées de journal.

Cloud Logging vous permet de régionaliser vos données de journaux :

  • Les règles d'administration peuvent limiter les emplacements des nouveaux buckets de journaux et exiger que les buckets de journaux utilisent des clés de chiffrement gérées par le client (CMEK) personnalisées.

  • Pour les organisations et les dossiers, les paramètres de ressource par défaut de Cloud Logging vous permettent de configurer les éléments suivants :

    • L'emplacement des nouveaux buckets de journaux _Required et _Default.
    • La clé KMS permettant de chiffrer vos données de journaux.
    • La configuration du récepteur par défaut.

    Les descendants de la hiérarchie des ressources héritent automatiquement de ces paramètres, sauf s'ils configurent également des paramètres de ressource par défaut. Supposons, par exemple, que vous configurez les paramètres de ressource par défaut de Cloud Logging pour une organisation. Tous les dossiers et projets de la hiérarchie des ressources de l'organisation héritent alors automatiquement de ces paramètres. Toutefois, si vous définissez les paramètres de ressource par défaut de Cloud Logging pour un dossier de cette organisation, les paramètres au niveau du dossier sont utilisés.

    Les paramètres de ressource par défaut de Cloud Logging ne s'appliquent qu'aux nouvelles ressources, et non aux ressources existantes. Pour en savoir plus, consultez Configurer les paramètres de ressource par défaut de Cloud Logging.

Données de métriques

Les données de métriques résident dans le Google Cloud projet où elles sont générées.

Pour en savoir plus sur les stratégies de stockage des données utilisées par Monitoring, consultez Résidence des données pour Monitoring.

Données de trace

Les données de trace résident dans un bucket d'observabilité nommé dans le même Google Cloud projet où elles sont générées. Le nom du bucket est _Trace. La section suivante décrit les buckets d'observabilité. Pour en savoir plus sur le format de stockage de étendues individuelles, consultez Schéma de trace.

Vous pouvez contrôler l'emplacement de stockage de vos données de trace et qui gère les clés de chiffrement en configurant les paramètres par défaut des buckets d'observabilité. Par exemple, vous pouvez utiliser ces paramètres pour une organisation afin d'exiger que les nouveaux buckets d'observabilité de l'organisation utilisent des CMEK. Pour en savoir plus, consultez la section Résidence des données pour les buckets d'observabilité sur cette page.

Modèle de stockage d'observabilité

Le modèle de stockage de l'API Observability repose sur l'architecture suivante :

Buckets d'observabilité
Un bucket d'observabilité est l'entité de gestion des ensembles de données, qui stockent les données. Un bucket d'observabilité se trouve dans un emplacement spécifique et dispose d'une règle de conservation des données. Lorsqu'un Google Cloud service utilise l' API Observability pour stocker ses données, le système crée un bucket d'observabilité en fonction du nom du service, un ensemble de données pour stocker les données et une vue pour fournir un accès en lecture aux données stockées. Par exemple, pour le service Cloud Trace, le système nomme le bucket créé par le système _Trace, l'ensemble de données Spans, et la vue _AllSpans. Pour en savoir plus sur la structure d'un bucket d'observabilité, consultez Bucket.
Ensembles de données
Un ensemble de données stocke des données. Le système crée automatiquement un ensemble de données lorsqu'il crée un bucket d'observabilité, qui gère l'ensemble de données. Par exemple, lorsque le système crée le bucket _Trace, il crée également un ensemble de données nommé Spans, qui stocke vos données de trace. Pour en savoir plus sur la structure d'un ensemble de données, consultez Dataset.
Vues sur les ensembles de données
Chaque ensemble de données héberge une ou plusieurs vues. Une vue fournit un accès en lecture à un sous-ensemble d'entrées de l'ensemble de données. Le système crée une vue lorsqu'il crée un ensemble de données. Cette vue inclut toutes les données de l'ensemble de données. Le nom de la vue dépend du service. Par exemple, pour le service Cloud Trace, le système crée une vue nommée _AllSpans sur l'ensemble de données Spans. Pour en savoir plus sur la structure d'une vue, consultez View.
Liens sur les ensembles de données

Chaque ensemble de données peut contenir au maximum un lien. Lorsque vous créez un lien pour un ensemble de données, le système crée un ensemble de données BigQuery associé. Vous pouvez ensuite interroger les données de votre ensemble de données à l'aide de BigQuery ou d'autres services qui utilisent l'API BigQuery. Pour en savoir plus sur la structure d'un lien, consultez Link.

Le système ne crée pas automatiquement de liens sur les ensembles de données.

Par exemple, vos données de trace résident dans un ensemble de données nommé Spans. Cet ensemble de données est un enfant du bucket d'observabilité nommé _Trace. Sur l'Spans ensemble de données, le système crée la vue nommée _AllSpans. Cette vue inclut toutes les données de l'ensemble de données.

Résidence des données pour les buckets d'observabilité

Si vous devez respecter des exigences réglementaires ou de conformité pour stocker vos données dans des emplacements spécifiques ou utiliser des CMEK, nous vous recommandons de configurer les paramètres par défaut des buckets d'observabilité :

  • Pour les organisations, les dossiers et les projets, les paramètres par défaut des buckets d'observabilité vous permettent de configurer les éléments suivants :

    • Un emplacement de stockage par défaut.
    • Pour chaque emplacement, une clé Cloud Key Management Service par défaut.

    Les descendants de la hiérarchie des ressources utilisent automatiquement ces paramètres, à l'exception de ceux pour lesquels vous avez configuré des paramètres par défaut.

    Les paramètres par défaut des buckets d'observabilité ne s'appliquent qu'aux nouvelles ressources, et non aux ressources existantes. Pour en savoir plus, consultez Définir des valeurs par défaut pour les buckets d'observabilité.

Les paramètres par défaut des buckets d'observabilité ne s'appliquent pas aux buckets de journaux, qui stockent les données de journaux. Pour savoir comment définir l'emplacement par défaut ou exiger des CMEK pour les buckets de journaux, consultez Configurer les paramètres de ressource par défaut de Cloud Logging.

Limites

Vous ne pouvez pas effectuer les opérations suivantes :

  • Modifier ni supprimer des buckets d'observabilité.
  • Créer, supprimer ni modifier des ensembles de données.
  • Créer, supprimer ni modifier des vues.
  • Utiliser la Google Cloud console pour afficher la liste des buckets, des ensembles de données, des vues ou des liens.

Étape suivante