Descripción general del almacenamiento de Google Cloud Observability

Google Cloud Observability almacena y organiza los datos de telemetría de Cloud Logging, Cloud Monitoring y Cloud Trace en contenedores de almacenamiento estructurados. Comprender el modelo de almacenamiento te ayuda a configurar la residencia de datos, aplicar políticas de encriptación y conectar la telemetría a servicios de análisis como BigQuery.

Datos de registros

Los datos de registros residen en buckets de registros, que son los contenedores que Logging usa para almacenar tus datos de registros. Cuando el sistema crea un proyecto, una cuenta de facturación, una carpeta o una organización deGoogle Cloud , Cloud Logging crea buckets de registros llamados _Required y _Default en el recurso:

De forma predeterminada, los datos de registro residen en el proyecto, la cuenta de facturación, la carpeta o la organización de Google Cloud donde se originan los datos. Sin embargo, puedes configurar el registro para enrutar los datos de registro desde el recurso en el que se originan a otra ubicación, como otro proyecto o un bucket de registros centralizado. Para obtener más información, consulta Almacena entradas de registro y Enruta entradas de registro.

Cloud Logging te permite regionalizar tus datos de registro de la siguiente manera:

  • Las políticas de la organización pueden restringir las ubicaciones de los buckets de registros nuevos y exigir que los buckets de registros usen CMEK.

  • En el caso de las organizaciones y las carpetas, la configuración predeterminada de los recursos de Cloud Logging te permite configurar lo siguiente:

    • Ubicación de los nuevos buckets de registros _Required y _Default
    • La clave de Cloud Key Management Service para encriptar tus datos de registro
    • Configuración del receptor predeterminado

    Los elementos secundarios de la jerarquía de recursos heredan automáticamente estos parámetros de configuración, a menos que también configuren parámetros de configuración predeterminados del recurso. Por ejemplo, si configuras parámetros de configuración de recursos predeterminados para Cloud Logging en una organización, todas las carpetas y los proyectos de la jerarquía de recursos de la organización heredan automáticamente esos parámetros de configuración. Sin embargo, si estableces la configuración predeterminada de recursos para Cloud Logging en una carpeta de esa organización, se usará la configuración a nivel de la carpeta.

    La configuración predeterminada de recursos de Cloud Logging solo se aplica a los recursos nuevos, no a los existentes. Para obtener más información, consulta Configura los parámetros de configuración predeterminados de los recursos para Cloud Logging.

Datos de métricas

Los datos de métricas residen en el proyecto Google Cloud en el que se originan los datos.

Para obtener información sobre las políticas de almacenamiento, consulta Residencia de datos para Monitoring.

Datos de seguimiento

Los datos de seguimiento se almacenan en un conjunto de datos que administra el bucket de observabilidad llamado _Trace. Para contener el conjunto de datos, debe existir el bucket _Trace. El bucket _Trace se puede crear de forma automática o manual:

  • Creación automática: El sistema crea automáticamente el bucket en respuesta a la recepción de datos de seguimiento de una aplicación o un servicio de Google Cloud . El sistema usa la configuración predeterminada aplicable para los buckets de observabilidad para determinar la ubicación y la clave de encriptación del bucket. Si no definiste la configuración predeterminada, el sistema seleccionará una ubicación compatible y el bucket usará la encriptación predeterminada de Google.

    Los datos de seguimiento que generan Cloud Run Functions, Cloud Run y App Engine no hacen que el sistema cree el bucket de observabilidad. Los tramos de estos servicios solo se almacenan cuando existe el bucket de observabilidad.

  • Creación manual: Puedes usar la API de Observability para crear el bucket _Trace antes de que tu proyecto Google Cloud reciba datos de seguimiento. Debes proporcionar la ubicación del bucket. Puedes proporcionar una clave de Cloud Key Management Service:

    • Si proporcionas una clave, el sistema la usará para encriptar los datos almacenados.
    • Si no proporcionas una clave de Cloud KMS, la clave de encriptación se determinará según la configuración predeterminada que se aplique al recurso principal del bucket. Si la configuración predeterminada especifica una clave de Cloud KMS, esa clave encripta los datos almacenados. De lo contrario, se usa la encriptación predeterminada de Google.

Cuando se crea el bucket _Trace, el sistema también crea un conjunto de datos llamado Spans para el bucket y una vista llamada _AllSpans en el conjunto de datos. Esa vista incluye todos los datos del conjunto de datos.

Para obtener más información, consulta lo siguiente:

Modelo de almacenamiento de observabilidad

El modelo de almacenamiento de la API de Observability se basa en la siguiente arquitectura:

Buckets de observabilidad
Un bucket de observabilidad es la entidad de administración de los conjuntos de datos, que almacenan datos. Un bucket de observabilidad se encuentra en una ubicación específica y tiene una política de retención de datos. Cuando un servicio de Google Cloud usa la API de Observability para almacenar sus datos, el sistema crea un bucket de observabilidad basado en el nombre del servicio, un conjunto de datos para almacenar datos y una vista para proporcionar acceso de lectura a los datos almacenados. Por ejemplo, para el servicio de Cloud Trace, el sistema nombra el bucket creado por el sistema _Trace, el conjunto de datos Spans y la vista _AllSpans. Para obtener información sobre la estructura de un bucket de observabilidad, consulta Bucket.
Conjuntos de datos
Un conjunto de datos almacena datos. El sistema crea automáticamente un conjunto de datos cuando crea un bucket de observabilidad, que administra el conjunto de datos. Por ejemplo, cuando el sistema crea el bucket _Trace, también crea un conjunto de datos llamado Spans, que almacena tus datos de seguimiento. Para obtener información sobre la estructura de un conjunto de datos, consulta Dataset.
Vistas en conjuntos de datos
Cada conjunto de datos aloja una o más vistas. Una vista proporciona acceso de lectura a un subconjunto de entradas en el conjunto de datos. El sistema crea una vista cuando crea un conjunto de datos. Esa vista incluye todos los datos del conjunto de datos. El nombre de la vista depende del servicio. Por ejemplo, para el servicio de Cloud Trace, el sistema crea una vista llamada _AllSpans en el conjunto de datos Spans. Para obtener información sobre la estructura de una vista, consulta View.
Vínculos en conjuntos de datos

Cada conjunto de datos puede contener un vínculo como máximo. Cuando creas un vínculo para un conjunto de datos, el sistema crea un conjunto de datos vinculado de BigQuery. Luego, puedes consultar los datos de tu conjunto de datos con BigQuery o con otros servicios que usen la API de BigQuery. Para obtener información sobre la estructura de un vínculo, consulta Link.

El sistema no crea vínculos automáticamente en los conjuntos de datos.

Por ejemplo, tus datos de seguimiento residen en un conjunto de datos Spans dentro del bucket de observabilidad _Trace. El sistema crea una vista _AllSpans en este conjunto de datos que incluye todos los tramos almacenados.

Residencia de datos para los buckets de observabilidad

Si tienes requisitos normativos o de cumplimiento para almacenar tus datos en ubicaciones específicas o usar claves de encriptación administradas por el cliente (CMEK), te recomendamos que configures tanto las políticas de la organización como los parámetros de configuración predeterminados para los buckets de observabilidad.

En el caso de las organizaciones, las carpetas y los proyectos, la configuración predeterminada de los buckets de observabilidad te permite configurar lo siguiente:

  • Ubicación de almacenamiento predeterminada
  • Para cada ubicación, una clave predeterminada de Cloud Key Management Service

El sistema usa la configuración predeterminada de dos maneras diferentes:

  • Cuando el sistema crea automáticamente un bucket de observabilidad, usa la configuración predeterminada para determinar la ubicación y la clave de encriptación del bucket. Si no definiste la configuración predeterminada, el sistema selecciona la ubicación y el bucket usa la encriptación predeterminada de Google.

  • Cuando inicias la creación de un bucket de observabilidad con una solicitud a la API, proporcionas la ubicación. Sin embargo, el sistema usa automáticamente la clave de Cloud KMS definida por la configuración predeterminada para encriptar los datos, a menos que los argumentos de la solicitud a la API especifiquen la clave.

Dado que el bucket de observabilidad siempre tiene un proyecto como bucket principal, cuando creas un bucket, el sistema primero busca la configuración predeterminada a nivel del proyecto. Si no existen, el sistema busca la configuración predeterminada en los ancestros del elemento superior. Por ejemplo, si defines la configuración predeterminada para una carpeta, esa configuración se aplicará a los elementos secundarios de la carpeta, excepto a aquellos que tengan configurada la configuración predeterminada.

También puedes usar políticas de la organización para restringir las ubicaciones de los nuevos buckets de observabilidad, exigir el uso de CMEK o restringir las claves de Cloud KMS que se pueden usar para la encriptación. Si configuras políticas de la organización que requieren el uso de CMEK, debes configurar los parámetros de configuración predeterminados para los buckets de observabilidad. De lo contrario, fallará el aprovisionamiento de los buckets de observabilidad creados por el sistema.

Para obtener más información, consulta Cómo establecer valores predeterminados para los buckets de observabilidad.

Limitaciones

No puedes hacer lo siguiente:

  • Modificar o borrar buckets de observabilidad
  • Crear, borrar o modificar conjuntos de datos
  • Crear, borrar o modificar vistas
  • Usa la consola de Google Cloud para enumerar buckets, conjuntos de datos, vistas o vínculos.

¿Qué sigue?