Puoi modificare un connettore per aggiornarne la configurazione, ad esempio modificando gli argomenti da cui legge o a cui scrive, modificando le trasformazioni dei dati o regolando le impostazioni di gestione degli errori.
Per aggiornare un connettore in un cluster Connect, puoi utilizzare la console Google Cloud , gcloud CLI, la libreria client Managed Service per Apache Kafka o l'API Managed Kafka. Non puoi utilizzare l'API Apache Kafka open source per aggiornare i connettori.
Prima di iniziare
Prima di aggiornare un connettore, esamina la sua configurazione esistente e comprendi il potenziale impatto di eventuali modifiche apportate.
Ruoli e autorizzazioni richiesti per aggiornare un connettore
Per ottenere le autorizzazioni
necessarie per modificare un connettore,
chiedi all'amministratore di concederti il ruolo IAM
Editor connettore Kafka gestito (roles/managedkafka.connectorEditor) nel progetto contenente il cluster Connect.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito contiene le autorizzazioni necessarie per modificare un connettore. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per modificare un connettore sono necessarie le seguenti autorizzazioni:
-
Concedi l'autorizzazione di aggiornamento del connettore sul cluster Connect principale:
managedkafka.connectors.update - Concedi l'autorizzazione per elencare i connettori nel cluster di connessione principale: questa autorizzazione è necessaria solo per aggiornare un connettore utilizzando la console Google Cloud
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Proprietà modificabili di un connettore
Le proprietà modificabili di un connettore dipendono dal suo tipo. Ecco un riepilogo delle proprietà modificabili per i tipi di connettore supportati:
Connettore di origine MirrorMaker 2.0
- Nomi o regex degli argomenti separati da virgole: gli argomenti da
replicare.
Per saperne di più sulla proprietà, consulta Nomi degli argomenti.
- Configurazione: impostazioni di configurazione aggiuntive per
il connettore.
Per saperne di più sulla proprietà, consulta la sezione Configurazione.
- Policy di riavvio attività: la policy per il riavvio delle attività del connettore non riuscite.
Per saperne di più sulla proprietà, consulta Policy di riavvio del task.
Connettore di sink BigQuery
- Argomenti: gli argomenti Kafka da cui trasmettere i dati.
Per saperne di più sulla proprietà, consulta Argomenti.
- Set di dati: il set di dati BigQuery in cui archiviare i dati.
Per saperne di più sulla proprietà, consulta Dataset.
- Configurazione: impostazioni di configurazione aggiuntive per il connettore.
Per saperne di più sulla proprietà, consulta la sezione Configurazione.
- Policy di riavvio attività: la policy per il riavvio delle attività del connettore non riuscite.
Per saperne di più sulla proprietà, consulta Policy di riavvio dell'attività.
Connettore di sink Cloud Storage
- Argomenti: gli argomenti Kafka da cui trasmettere i dati.
Per saperne di più sulla proprietà, consulta Argomenti.
- Bucket Cloud Storage:
Il bucket Cloud Storage in cui archiviare i dati.
Per saperne di più sulla proprietà, consulta Bucket.
- Configurazione: impostazioni di configurazione aggiuntive per il connettore.
Per saperne di più sulla proprietà, consulta Configurazione.
- Policy di riavvio attività: la policy per il riavvio delle attività del connettore non riuscite.
Per saperne di più sulla proprietà, consulta Policy di riavvio dell'attività.
Connettore di origine Pub/Sub
- Sottoscrizione Pub/Sub: la sottoscrizione Pub/Sub da cui ricevere i messaggi.
- Argomento Kafka: l'argomento Kafka a cui trasmettere i messaggi.
- Configurazione: impostazioni di configurazione aggiuntive per il connettore. Per saperne di più, vedi Configura il connettore.
- Policy di riavvio attività: la policy per il riavvio delle attività del connettore non riuscite. Per saperne di più, consulta le norme sul riavvio delle attività.
Connettore di sink Pub/Sub
- Argomenti: gli argomenti Kafka da cui trasmettere i messaggi.
Per saperne di più sulla proprietà, consulta Argomenti.
- Argomento Pub/Sub: l'argomento Pub/Sub a cui inviare i messaggi.
Per saperne di più sulla proprietà, consulta Argomento Pub/Sub.
- Configurazione: impostazioni di configurazione aggiuntive per il connettore.
Per saperne di più sulla proprietà, consulta Configurazione.
- Policy di riavvio attività: la policy per il riavvio delle attività del connettore non riuscite.
Per saperne di più sulla proprietà, consulta Policy di riavvio dell'attività.
Aggiorna un connettore
L'aggiornamento di un connettore potrebbe causare un'interruzione temporanea del flusso di dati durante l'applicazione delle modifiche.
Console
Nella console Google Cloud , vai alla pagina Connetti cluster.
Fai clic sul cluster Connect che ospita il connettore da aggiornare.
Viene visualizzata la pagina Dettagli cluster di connessione.
Nella scheda Risorse, individua il connettore nell'elenco e fai clic sul relativo nome.
Viene visualizzata la pagina Dettagli connettore.
Fai clic su Modifica.
Aggiorna le proprietà richieste per il connettore. Le proprietà disponibili variano a seconda del tipo di connettore.
Fai clic su Salva.
gcloud
-
Nella console Google Cloud , attiva Cloud Shell.
Nella parte inferiore della console Google Cloud viene avviata una sessione di Cloud Shell e viene visualizzato un prompt della riga di comando. Cloud Shell è un ambiente shell con Google Cloud CLI già installata e con valori già impostati per il progetto corrente. L'inizializzazione della sessione può richiedere alcuni secondi.
Utilizza il comando
gcloud managed-kafka connectors updateper aggiornare un connettore:Puoi aggiornare la configurazione di un connettore utilizzando il flag
--configscon coppie chiave-valore separate da virgole o il flag--config-filecon un percorso a un file JSON o YAML.Ecco la sintassi che utilizza il flag
--configscon coppie chiave-valore separate da virgole.gcloud managed-kafka connectors update CONNECTOR_ID \ --location=LOCATION \ --connect-cluster=CONNECT_CLUSTER_ID \ --configs=KEY1=VALUE1,KEY2=VALUE2...Ecco la sintassi che utilizza il flag
--config-filecon un percorso a un file JSON o YAML.gcloud managed-kafka connectors update CONNECTOR_ID \ --location=LOCATION \ --connect-cluster=CONNECT_CLUSTER_ID \ --config-file=PATH_TO_CONFIG_FILESostituisci quanto segue:
- CONNECTOR_ID: obbligatorio. L'ID del connettore che vuoi aggiornare.
- LOCATION: obbligatorio. La posizione del cluster di connessione contenente il connettore.
- CONNECT_CLUSTER_ID: obbligatorio. L'ID del cluster Connect contenente il connettore.
- KEY1=VALUE1,KEY2=VALUE2...: Proprietà di configurazione da aggiornare separate da virgole. Ad esempio,
tasks.max=2,value.converter.schemas.enable=true. - PATH_TO_CONFIG_FILE: il percorso di un file JSON o YAML contenente le proprietà di configurazione da aggiornare. Ad esempio,
config.json.
Comando di esempio che utilizza
--configs:gcloud managed-kafka connectors update test-connector \ --location=us-central1 \ --connect-cluster=test-connect-cluster \ --configs=tasks.max=2,value.converter.schemas.enable=trueComando di esempio che utilizza
--config-file. Di seguito è riportato un file di esempio denominatoupdate_config.yaml:tasks.max: 3 topic: updated-test-topicDi seguito è riportato un comando di esempio che utilizza il file:
gcloud managed-kafka connectors update test-connector \ --location=us-central1 \ --connect-cluster=test-connect-cluster \ --config-file=update_config.yaml
Vai
Prima di provare questo esempio, segui le istruzioni di configurazione di Go in Installa le librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API Go di Managed Service per Apache Kafka.
Per eseguire l'autenticazione in Managed Service per Apache Kafka, configura le Credenziali predefinite dell'applicazione(ADC). Per saperne di più, vedi Configura ADC per un ambiente di sviluppo locale.
Java
Prima di provare questo esempio, segui le istruzioni di configurazione di Java in Installare le librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API Java di Managed Service per Apache Kafka.
Per eseguire l'autenticazione in Managed Service per Apache Kafka, configura le Credenziali predefinite dell'applicazione. Per saperne di più, consulta Configura ADC per un ambiente di sviluppo locale.
Python
Prima di provare questo esempio, segui le istruzioni di configurazione di Python in Installare le librerie client. Per saperne di più, consulta la documentazione di riferimento dell'API Python di Managed Service per Apache Kafka.
Per eseguire l'autenticazione in Managed Service per Apache Kafka, configura le Credenziali predefinite dell'applicazione. Per saperne di più, vedi Configura ADC per un ambiente di sviluppo locale.
You can also update the connector's task restart policy without
including the configuration, by using the `--task-restart-min-backoff`
and `--task-restart-max-backoff` flags. For example:
```sh
gcloud managed-kafka connectors update test-connector \
--location=us-central1 \
--connect-cluster=test-connect-cluster \
--task-restart-min-backoff="60s" \
--task-restart-max-backoff="90s"