Crea uno stream AlloyDB utilizzando il flusso automatizzato

Puoi replicare i dati da un cluster AlloyDB per PostgreSQL in BigQuery direttamente dalla pagina di riepilogo del cluster utilizzando il flusso di configurazione dello stream automatizzato in Datastream. Datastream semplifica la configurazione configurando automaticamente la connessione Virtual Private Cloud (VPC), le impostazioni del database di origine e le risorse del flusso.

Datastream crea lo stream dall'istanza principale nel cluster AlloyDB primario, anche se il deployment include cluster o istanze secondari. Per utilizzare il flusso automatizzato, per l'istanza principale deve essere abilitato l'accesso privato ai servizi e devono essere utilizzate le interfacce Private Service Connect.

Livello senza costi

Datastream ti consente di eseguire lo streaming da AlloyDB per PostgreSQL a BigQuery utilizzando il Livello senza costi, che fornisce fino a 100 GiB di dati Change Data Capture senza costi ogni mese. Per saperne di più, consulta i prezzi di Datastream.

Prima di iniziare

  1. Abilita le API Datastream, Connettività di rete e Compute Engine.
  2. Assicurati di disporre delle autorizzazioni IAM (Identity and Access Management) necessarie per creare e gestire le risorse Datastream. Per ulteriori dettagli, vedi la sezione di seguito.
  3. Crea e configura un cluster AlloyDB per PostgreSQL di origine per la replica. Per saperne di più, consulta Configura un database AlloyDB per PostgreSQL per CDC.

  4. Ti consigliamo di abilitare la replica logica per il cluster prima di creare lo stream. Se non abiliti la replica logica, Datastream la abilita per te, il che riavvia l'istanza di origine.

    Per informazioni sull'attivazione della replica logica per un cluster AlloyDB per PostgreSQL, consulta Configura un database AlloyDB per PostgreSQL per CDC.

  5. Assicurati che il cluster di origine sia configurato per utilizzare l'accesso privato ai servizi.

Autorizzazioni obbligatorie

Per utilizzare il flusso di creazione automatica dei flussi, devi disporre dei seguenti ruoli o autorizzazioni Identity and Access Management (IAM):

  • serviceusage.services.enable, compute.networkAdmin per abilitare le API richieste ed eseguire le attività di configurazione della rete.
  • alloydb.admin per le attività di configurazione di cluster e istanze.
  • datastream.admin per le attività di amministrazione eseguite da Datastream per tuo conto.

Assicurati che tutti gli schemi e le tabelle nel database selezionato siano concessi al ruolo postgres o alloydbsuperuser. Poiché il flusso automatico include per impostazione predefinita tutti gli schemi e le tabelle del database, la creazione dello stream non va a buon fine se l'utente creato automaticamente non dispone delle autorizzazioni per uno schema o una tabella.

Se scegli di personalizzare le impostazioni dello stream, l'utente amministratore del database deve disporre anche delle autorizzazioni GRANT per lo schema che vuoi replicare e di alcune autorizzazioni aggiuntive per le attività amministrative e strutturali all'interno del database di origine. Connettiti al database di origine ed esegui questo comando:

  GRANT alloydbsuperuser TO "USER_NAME";
  ALTER ROLE "USER_NAME" CREATEROLE;
  GRANT SELECT on ALL TABLES IN SCHEMA "SCHEMA_NAME" to "USER_NAME" WITH GRANT OPTION;
  ALTER DEFAULT PRIVILEGES
  IN SCHEMA "SCHEMA_NAME"
  GRANT SELECT ON TABLES TO "USER_NAME" WITH GRANT OPTION;
  GRANT CREATE ON DATABASE "DATABASE_NAME" TO "USER_NAME";

Tabelle future

Le tabelle future vengono aggiunte automaticamente allo stream solo se vengono create dall'utente i cui dettagli dell'account fornisci per l'autenticazione durante il flusso automatizzato. Se una tabella futura viene creata da un altro utente, quest'ultimo deve concedere esplicitamente all'utente Datastream Reader l'autorizzazione SELECT sulla tabella.

Crea e avvia lo stream

Per creare e avviare uno stream, segui questi passaggi:

Console

  1. Vai alla pagina Panoramica dei cluster AlloyDB per PostgreSQL di origine.

    Vai ad AlloyDB per PostgreSQL

  2. Fai clic sul cluster principale da cui vuoi trasmettere i dati.

  3. Crea e avvia lo stream automaticamente in uno dei seguenti modi:

    • Nella pagina Dettagli cluster, in Replica dei dati, fai clic su Avvia stream.
    • Nella sezione Integrazioni, fai clic su Avvia stream in Replica i dati in BigQuery.
    • Nella scheda Launchpad, in Integrazione perfetta con altri prodottiGoogle Cloud , fai clic su Replica i dati in BigQuery.

  4. Viene visualizzato il riquadro Avvia flusso per replicare i dati.

  5. In Impostazioni stream, esamina le impostazioni predefinite per lo stream che crei.

  6. Puoi modificare il database di origine espandendo il menu a discesa corrispondente e selezionando un valore diverso.

  7. Se è tutto pronto per creare e avviare lo stream, fai clic su Avvia stream.

Se devi modificare le impostazioni dello stream, fai clic su Personalizza.

Personalizza le impostazioni del flusso

Quando fai clic su Personalizza, viene visualizzata la pagina Personalizza le impostazioni del flusso. Assicurati di disporre delle autorizzazioni necessarie per personalizzare le impostazioni dello stream.

Inizia

  1. Nella pagina Inizia, fornisci il nome dello stream nel campo Nome stream. Il campo ID stream viene compilato automaticamente.

  2. Nella sezione Fornisci i dettagli dell'account utente dell'istanza, seleziona il metodo di autenticazione:

    • Autenticazione database IAM: questa opzione è disponibile se al tuo utente è assegnata l'identità dell'entità Identity and Access Management (IAM). Per saperne di più, consulta Entità IAM. Se selezioni questa opzione, devi concedere manualmente il ruolo alloydbsuperuser e l'autorizzazione CREATEROLE al tuo utente:

      1. Nella console Google Cloud , vai alla pagina Cluster AlloyDB per PostgreSQL.

      Vai ad AlloyDB per PostgreSQL

      1. Seleziona il cluster AlloyDB per PostgreSQL.
      2. Nel menu di navigazione, fai clic su AlloyDB per PostgreSQL Studio e accedi.
      3. Nel riquadro Explorer, esegui la seguente query per il tuo utente:
    GRANT alloydbsuperuser TO "USER_NAME";
ALTER ROLE "USER_NAME" CREATEROLE;
    • Autenticazione del database integrata: fornisci il nome utente e la password di un utente con il ruolo alloydbsuperuser. Se l'utente non ha il ruolo alloydbsuperuser, segui i passaggi descritti nella sezione Autenticazione del database IAM per concederlo manualmente. Se selezioni l'autenticazione del database integrata, assicurati anche che l'utente disponga delle autorizzazioni GRANT per le tabelle che vuole replicare.

  3. Esamina i dettagli aggiuntivi dello stream, come regione, crittografia ed etichette. Espandi la sezione Dettagli aggiuntivi del flusso per applicare le modifiche, se necessario.

  4. Fai clic su Continua.

Configura origine

  1. Nella pagina Configura origine, seleziona il database da cui vuoi replicare i dati.

  2. L'elenco Oggetti selezionati seleziona tutti gli oggetti disponibili per impostazione predefinita. Gli oggetti nell'elenco sono quelli per cui disponi delle autorizzazioni necessarie per lo streaming. Per cambiare gli oggetti selezionati, modifica le selezioni nell'elenco.

  3. Esamina le configurazioni avanzate del flusso, come la modalità di backfill e il numero massimo di connessioni di backfill contemporanee. Espandi la sezione Configurazioni avanzate dello stream per applicare le modifiche, se necessario.

  4. Fai clic su Continua.

Configura destinazione

  1. Nella pagina Configura destinazione, modifica le impostazioni di destinazione di BigQuery, se necessario. Per saperne di più, consulta Configura le informazioni sulla destinazione dello stream.

Crea e avvia lo stream

  1. Fai clic su Crea e avvia per creare e avviare il flusso o su Crea senza avviare per creare il flusso e avviarlo in un secondo momento in Datastream.

  2. Riceverai una notifica relativa alle attività eseguite automaticamente per te:

    • Datastream crea le risorse Virtual Private Cloud richieste, come un intervallo di indirizzi IP interni, una subnet e un collegamento di rete.
    • Datastream configura le tabelle per CDC, imposta gli slot di replica, imposta una pubblicazione per tutte le tabelle nel database e crea un utente Datastream dedicato.
    • Datastream crea una configurazione di connettività privata e profili di connessione di origine e destinazione.

  3. Conferma di voler creare e avviare lo stream.

Monitora lo stream

Puoi monitorare i dettagli di base dello stream dalla pagina di riepilogo dell'istanza di origine nella console Google Cloud . La pagina mostra informazioni come lo stato dello stream, il nome dello stream, il set di dati BigQuery di destinazione e l'identificatore del progetto di destinazione.

Dalla pagina di riepilogo, puoi anche eseguire azioni come l'avvio o la messa in pausa dello stream. Per informazioni di monitoraggio più granulari, fai clic sul nome dello stream per andare a Datastream.

Elimina lo stream

Quando elimini uno stream creato utilizzando il flusso automatico, alcune risorse, come lo slot di replica PostgreSQL, vengono eliminate automaticamente. Tuttavia, esistono risorse che devi eliminare manualmente:

  • La pubblicazione. La pubblicazione viene creata utilizzando l'utente amministratore del database e può essere eliminata solo dal proprietario, quindi per impostazione predefinita dall'utente che l'ha creata.
  • L'utente Datastream Reader.
  • I profili di connessione di origine e destinazione di Datastream
  • Le risorse di connettività privata.
  • Tutte le risorse di rete create durante il flusso automatizzato, come la subnet e il collegamento di rete.

Passaggi successivi