Acerca de los conectores de metadatos

En este documento, se describe cómo usar los conectores de Knowledge Catalog (anteriormente, Dataplex Universal Catalog) para importar metadatos de fuentes de datos externas de terceros a Knowledge Catalog.

Los conectores de Knowledge Catalog aprovechan el Servicio de transferencia de datos de BigQuery para proporcionar integraciones prediseñadas que extraen automáticamente metadatos de los sistemas fuente y los asignan a entradas dentro de un grupo de entradas de Knowledge Catalog.

Los conectores extraen los siguientes tipos de metadatos:

  • Metadatos técnicos: Definiciones de esquema, tipo de datos y nombre de columna
  • Metadatos operativos: Marcas de tiempo de creación y modificación, linaje, estadísticas de uso y resultados de calidad de los datos
  • Metadatos empresariales: Etiquetas, propietarios y anotaciones
  • Metadatos semánticos: Dimensiones, medidas, métricas/KPIs, búsquedas de referencia y relaciones.

Después de configurar un conector, Knowledge Catalog programa ejecuciones de importación de metadatos según el programa que especifiques, lo que garantiza que el catálogo se mantenga sincronizado con el sistema de origen.

Fuentes de datos compatibles

Puedes importar metadatos de las siguientes fuentes con los conectores de Knowledge Catalog:

  • dbt Core
  • Oracle
  • MySQL
  • PostgreSQL
  • SQL Server

Integraciones con socios de administración de datos

Puedes integrar Knowledge Catalog con otras plataformas empresariales de administración y catalogación de datos. Estas integraciones ayudan a garantizar que los metadatos sean detectables y coherentes en todo el panorama de datos de tu organización, lo que te permite enriquecer los metadatos en Knowledge Catalog o ver los metadatos de Knowledge Catalog en herramientas de terceros.

Los siguientes socios proporcionan integraciones para Knowledge Catalog:

Cómo funciona

Los conectores de Knowledge Catalog usan configuraciones de transferencia administradas por el Servicio de transferencia de datos de BigQuery para conectarse a tu fuente de datos, extraer metadatos y transferirlos a un grupo de entradas de Knowledge Catalog que especifiques.

Cada vez que se ejecuta una importación de metadatos, se realiza una sobrescritura completa de las entradas del grupo de entrada de destino que administra esa configuración. Los objetos de metadatos que ya no están presentes en la fuente se quitan del grupo de entradas y se agregan objetos nuevos. Los objetos del grupo de entradas que no se importaron con la configuración del conector no se ven afectados.

Puedes configurar y administrar estos parámetros de configuración desde la página Connectors en la sección Knowledge Catalog de la consola de Google Cloud .

Terminología

En esta documentación, se usan los siguientes términos:

  • Configuración de importación de metadatos: Es la configuración de una tarea programada o a pedido que usa el Servicio de transferencia de datos de BigQuery para extraer metadatos de una fuente y cargarlos en Knowledge Catalog.
  • Ejecución: Es una sola instancia de ejecución de una configuración de importación de metadatos.
  • Grupo de entradas: Es un recurso de Knowledge Catalog que contiene entradas de metadatos. Cuando configuras un conector, designas un grupo de entrada como destino de los metadatos importados.
  • Entrada: Es un recurso en Knowledge Catalog que representa un recurso de datos, como una tabla o una vista.

Precios

Knowledge Catalog ni el Servicio de transferencia de datos de BigQuery aplican cargos adicionales por importar metadatos con conectores.

Se aplican cargos estándar por el uso de otras funciones de Knowledge Catalog (como el almacenamiento de metadatos). Para obtener más información, consulta los precios de Knowledge Catalog.

Limitaciones

  • Solo se importan los metadatos, no los datos subyacentes de las tablas o vistas de origen. Para transferir los datos subyacentes, puedes usar el Servicio de transferencia de datos de BigQuery.
  • Cada ejecución sobrescribe por completo las entradas administradas por el conector en el grupo de entradas de destino. No se admiten las actualizaciones incrementales de metadatos.
  • El historial de ejecución se conserva durante 90 días.

¿Qué sigue?