Usa Apache Beam y SpannerIO para conectarte a Spanner Omni

Apache Beam es un modelo unificado de código abierto para definir canalizaciones de procesamiento paralelo de datos de transmisión y por lotes. En este documento, se describe cómo usar el conector SpannerIO dentro de una canalización de Apache Beam para leer o escribir en bases de datos de Spanner Omni.

Antes de comenzar

Para conectar SpannerIO a Spanner Omni, asegúrate de cumplir con los siguientes requisitos:

  • Inicializa una base de datos en tu entorno de Spanner Omni.

  • Usa la versión 2.69.0 o posterior de Apache Beam.

  • Configura las credenciales de autenticación para tu entorno.

Configura SpannerIO para conectarte a Spanner Omni

Para conectar SpannerIO a Spanner Omni, debes configurar SpannerConfig con los detalles de tu base de datos y los parámetros de conexión. Ten en cuenta que SpannerIO solo admite comunicaciones de texto sin formato cuando se conecta a Spanner Omni.

Para configurar la conexión, haz lo siguiente:

  1. Especifica la instancia y el extremo de la base de datos de Spanner Omni.

  2. Habilita la compatibilidad experimental con el host usando el método withExperimentalHost.

  3. Configura la canalización para usar un canal de texto sin formato.

En el siguiente ejemplo, se muestra cómo crear un objeto SpannerConfig para Spanner Omni:

SpannerConfig spannerConfig =
    SpannerConfig.create()
        .withDatabaseId("DATABASE_ID")
        // Define the Spanner Omni endpoint
        .withExperimentalHost("http://ENDPOINT")
        // SpannerIO supports only plain-text connections
        .withUsingPlainTextChannel(true);