Acerca de los conectores de metadatos

Los conectores de Knowledge Catalog (anteriormente, Dataplex Universal Catalog) te permiten importar metadatos técnicos, operativos, empresariales y semánticos de fuentes de datos de terceros a tu catálogo. Puedes programar ejecuciones recurrentes para mantener tu catálogo sincronizado con tus sistemas de origen, de modo que puedas descubrir, buscar y administrar recursos externos en un solo lugar.

Fuentes de datos compatibles

Puedes importar metadatos de las siguientes fuentes con los conectores de Knowledge Catalog:

  • dbt Core
  • Oracle
  • MySQL
  • PostgreSQL
  • SQL Server

Integraciones con socios de administración de datos

Puedes integrar Knowledge Catalog con otras plataformas empresariales de catalogación y administración de datos. Estas integraciones ayudan a garantizar que los metadatos sean detectables y coherentes en todo el panorama de datos de tu organización, lo que te permite enriquecer los metadatos en Knowledge Catalog o ver los metadatos de Knowledge Catalog en herramientas de terceros.

Los siguientes socios proporcionan integraciones para Knowledge Catalog:

Cómo funciona

Los conectores de Knowledge Catalog usan integraciones y parámetros de configuración de transferencia precompilados que administra el Servicio de transferencia de datos de BigQuery para conectarse a tu fuente de datos, extraer metadatos automáticamente y asignarlos a entradas dentro de un grupo de entradas de Knowledge Catalog que especifiques.

Los conectores extraen los siguientes tipos de metadatos:

  • Metadatos técnicos: Definiciones de esquema, tipo de datos y nombre de columna.
  • Metadatos operativos: Marcas de tiempo de creación y modificación, linaje, estadísticas de uso y resultados de calidad de los datos.
  • Metadatos empresariales: Etiquetas, propietarios y anotaciones.
  • Metadatos semánticos: Dimensiones, mediciones, métricas, consultas de referencia y relaciones.

Después de configurar un conector, Knowledge Catalog programa las ejecuciones de importación de metadatos en el programa que especifiques, lo que garantiza que el catálogo se mantenga sincronizado con el sistema de origen. Cada vez que se ejecuta una importación de metadatos, se realiza un reemplazo completo de las entradas del grupo de entradas de destino administrado por esa configuración. Los objetos de metadatos que ya no están presentes en la fuente se quitan del grupo de entradas y se agregan objetos nuevos. Los objetos del grupo de entrada que no se importan con la configuración del conector no se ven afectados.

Puedes configurar y administrar estos parámetros desde la página Conectores en la sección Knowledge Catalog de la consola de Google Cloud .

Terminología

En esta documentación, se usan los siguientes términos:

  • Configuración de importación de metadatos: Es la configuración de una tarea programada o on demand que usa el Servicio de transferencia de datos de BigQuery para extraer metadatos de una fuente y cargarlos en Knowledge Catalog.
  • Ejecución: Es una sola instancia de ejecución de una configuración de importación de metadatos.
  • Grupo de entradas: Es un recurso de Knowledge Catalog que contiene entradas de metadatos. Cuando configuras un conector, designas un grupo de entradas como el destino de los metadatos importados.
  • Entrada: Es un recurso de Knowledge Catalog que representa un recurso de datos, como una tabla o una vista.

Precios

No se aplican cargos adicionales de Knowledge Catalog ni del Servicio de transferencia de datos de BigQuery por importar metadatos con conectores.

Se aplican cargos estándar para otros usos de Knowledge Catalog (como el almacenamiento de metadatos). Para obtener más información, consulta Precios de Knowledge Catalog.

Limitaciones

  • Solo se importan los metadatos, no los datos subyacentes de las tablas o vistas de origen. Para transferir los datos subyacentes, puedes usar el Servicio de transferencia de datos de BigQuery.
  • Cada ejecución reemplaza por completo las entradas administradas por el conector en el grupo de entradas de destino. No se admiten las actualizaciones incrementales de metadatos.
  • El historial de ejecuciones se conserva durante 90 días.

¿Qué sigue?