Scalabilità dei cluster Dataproc

Dopo aver creato un cluster Dataproc, puoi regolare ("scalare") il cluster aumentando o diminuendo il numero di nodi worker primari o secondari (scalabilità orizzontale) nel cluster. Puoi scalare un cluster Dataproc in qualsiasi momento, anche quando i job sono in esecuzione sul cluster. Non puoi modificare il tipo di macchina di un cluster esistente (scalabilità verticale ). Per scalare verticalmente, crea un cluster utilizzando un tipo di macchina supportato, quindi esegui la migrazione dei job al nuovo cluster.

Utilizza la scalabilità automatica di Dataproc. Anziché scalare manualmente i cluster, attiva la scalabilità automatica per consentire a Dataproc di impostare il numero "corretto" di worker per i tuoi workload.

Puoi scalare un cluster Dataproc per:

1. Aumentare il numero di worker per velocizzare l'esecuzione di un job.
2. Diminuire il numero di worker per risparmiare denaro (vedi Ritiro gestito automaticamente come opzione da utilizzare quando riduci le dimensioni di un cluster per evitare di perdere il lavoro in corso).
3. Aumentare il numero di nodi per espandere lo spazio di archiviazione Hadoop Distributed File System (HDFS) disponibile.

Nota: non puoi scalare un cluster a nodo singolo.

Poiché i cluster possono essere scalati più di una volta, potresti voler aumentare o diminuire le dimensioni del cluster contemporaneamente e poi diminuire o aumentare le dimensioni in un secondo momento.

Rimozione dei worker: se rimuovi i worker dal cluster, assicurati che le nuove dimensioni del cluster siano sufficienti a gestire il tuo workload. In caso contrario, il completamento dei job potrebbe richiedere molto tempo o potrebbero smettere di rispondere.

Utilizzare la scalabilità

Esistono tre modi per scalare il cluster Dataproc:

1. Utilizza lo strumento a riga di comando in gcloud CLI.gcloud
2. Modifica la configurazione del cluster nella Google Cloud console.
3. Utilizza l'API REST.

I nuovi worker aggiunti a un cluster utilizzeranno lo stesso tipo di macchina dei worker esistenti. Ad esempio, se un cluster viene creato con worker che utilizzano il tipo di macchina n1-standard-8, anche i nuovi worker utilizzeranno il tipo di macchina n1-standard-8.

Nota: Dataproc non supporta la modifica delle dimensioni dei worker (vCPU, memoria, disco permanente) quando aggiungi worker a un cluster.

Puoi scalare il numero di worker primari o il numero di worker secondari (prerilasciabili) o entrambi. Ad esempio, se scali solo il numero di worker prerilasciabili, il numero di worker primari rimane invariato.

gcloud

Configurazione di gcloud CLI: devi configurare gcloud CLI per utilizzare Google Cloud CLI.

Per scalare un cluster con gcloud dataproc clusters update, esegui il seguente comando:

gcloud dataproc clusters update cluster-name \
    --region=region \
    [--num-workers and/or --num-secondary-workers]=new-number-of-workers

dove cluster-name è il nome del cluster da aggiornare e new-number-of-workers è il numero aggiornato di nodi worker primari e/o secondari. Ad esempio, per scalare un cluster denominato "dataproc-1" in modo che utilizzi cinque nodi worker primari, esegui il seguente comando.

gcloud dataproc clusters update dataproc-1 \
    --region=region \
    --num-workers=5
...
Waiting on operation [operations/projects/project-id/operations/...].
Waiting for cluster update operation...done.
Updated [https://dataproc.googleapis.com/...].
clusterName: my-test-cluster
...
  masterDiskConfiguration:
    bootDiskSizeGb: 500
  masterName: dataproc-1-m
  numWorkers: 5
  ...
  workers:
  - my-test-cluster-w-0
  - my-test-cluster-w-1
  - my-test-cluster-w-2
  - my-test-cluster-w-3
  - my-test-cluster-w-4
...

API REST

Vedi clusters.patch.

Esempio

PATCH /v1/projects/project-id/regions/us-central1/clusters/example-cluster?updateMask=config.worker_config.num_instances,config.secondary_worker_config.num_instances
{
  "config": {
    "workerConfig": {
      "numInstances": 4
    },
    "secondaryWorkerConfig": {
      "numInstances": 2
    }
  },
  "labels": null
}

Consenti alla console di creare la richiesta di aggiornamento del cluster.: Puoi fare clic sul link REST equivalente nella parte inferiore della Google Cloud pagina Dettagli cluster→Configurazione di Dataproc della console per consentire alla console di creare una richiesta API REST PATCH equivalente.

Console

Dopo aver creato un cluster, puoi scalarlo aprendo la pagina Dettagli cluster del cluster da Google Cloud console Cluster, quindi facendo clic sul pulsante Modifica nella scheda Configurazione. Inserisci un nuovo valore per il numero di nodi worker e/o nodi worker prerilasciabili (aggiornati rispettivamente a "5" e "2" nello screenshot seguente). Fai clic su Salva per aggiornare il cluster.

In che modo Dataproc seleziona i nodi del cluster da rimuovere

Nei cluster creati con le versioni delle immagini 1.5.83+, 2.0.57+, e 2.1.5+, quando si riducono le dimensioni di un cluster, Dataproc tenta di ridurre al minimo l'impatto della rimozione dei nodi sulle applicazioni YARN in esecuzione rimuovendo prima i nodi inattivi, non integri e inattivi, quindi rimuovendo i nodi con il minor numero di master di applicazioni YARN e container in esecuzione.

Ritiro gestito automaticamente

Quando riduci le dimensioni di un cluster, il lavoro in corso potrebbe essere interrotto prima del completamento. Se utilizzi Dataproc v 1.2 o versioni successive, puoi utilizzare il ritiro gestito automaticamente, che incorpora il ritiro gestito automaticamente dei nodi YARN per completare il lavoro in corso su un worker prima che venga rimosso dal cluster Cloud Dataproc.

Nota: un worker non viene rimosso da un cluster finché le applicazioni YARN in esecuzione non sono terminate.

Ritiro gestito automaticamente e worker secondari

Il gruppo di worker prerilasciabili (secondari) continua a eseguire il provisioning o l'eliminazione dei worker per raggiungere le dimensioni previste anche dopo che un'operazione di scalabilità del cluster è stata contrassegnata come completata. Se tenti di ritirare in modo gestito un worker secondario e ricevi un messaggio di errore simile al seguente:

"Il gruppo di worker secondari non può essere modificato al di fuori di Dataproc. Se hai creato o aggiornato di recente questo cluster, attendi qualche minuto prima di ritirarlo in modo gestito per consentire a tutte le istanze secondarie di unirsi al cluster o di lasciarlo. Dimensioni previste del gruppo di worker secondari: x, dimensioni effettive: y",

attendi qualche minuto, quindi ripeti la richiesta di ritiro gestito.

Nota:

• Puoi ritirare forzatamente i worker prerilasciabili in qualsiasi momento.
• Puoi ritirare in modo gestito i worker primari in qualsiasi momento.

Utilizzare il ritiro gestito automaticamente

Il ritiro gestito automaticamente di Dataproc incorpora il ritiro gestito automaticamente dei nodi YARN per completare il lavoro in corso su un worker prima che venga rimosso dal cluster Cloud Dataproc. Per impostazione predefinita, il ritiro gestito automaticamente è disabilitato. Puoi abilitarlo impostando un valore di timeout quando aggiorni il cluster per rimuovere uno o più worker dal cluster.

gcloud

Quando aggiorni un cluster per rimuovere uno o più worker, utilizza il comando gcloud dataproc clusters update con il flag --graceful-decommission-timeout. I valori di timeout (stringa) possono essere un valore di "0s" (valore predefinito; ritiro forzato, non gestito decommissioning) o una durata positiva rispetto all'ora corrente (ad esempio, "3s"). La durata massima è di 1 giorno.

Durate: specifica una durata di ritiro gestito come numero intero non negativo con uno dei seguenti suffissi in minuscolo: "s", "m", "h" o "d" per secondi, minuti, ore o giorni, rispettivamente. La durata massima per il ritiro gestito è "1d" (un giorno). Se il suffisso viene omesso, si presuppone che siano secondi.

gcloud dataproc clusters update cluster-name \
    --region=region \
    --graceful-decommission-timeout="timeout-value" \
    [--num-workers and/or --num-secondary-workers]=decreased-number-of-workers \
    ... other args ...

API REST

Vedi clusters.patch.gracefulDecommissionTimeout. I valori di timeout (stringa) possono essere "0" (valore predefinito; ritiro forzato, non gestito) o una durata in secondi (ad esempio, "3s"). La durata massima è di 1 giorno.

Console

Dopo aver creato un cluster, puoi selezionare il ritiro gestito automaticamente di un cluster aprendo la pagina Dettagli cluster del cluster da la pagina Google Cloud console Cluster, quindi facendo clic sul pulsante Modifica nella scheda Configurazione. Nella sezione Ritiro gestito automaticamente, seleziona Utilizza il ritiro gestito automaticamente, quindi seleziona un valore di timeout. Fai clic su Salva per aggiornare il cluster.

Annullare un'operazione di riduzione delle dimensioni con ritiro gestito

Nei cluster Dataproc creati con le versioni delle immagini 2.0.57+ o 2.1.5+, puoi eseguire il comando gcloud dataproc operations cancel o inviare una richiesta operations.cancel dell'API Dataproc per annullare un'operazione di riduzione delle dimensioni con ritiro gestito.

Puoi ottenere il nome della risorsa, incluso l'ID, di un'operazione di riduzione delle dimensioni eseguendo gcloud dataproc operations list o inviando una richiesta operations.list dell'API Dataproc.

Quando annulli un'operazione di riduzione delle dimensioni con ritiro gestito:

• I worker nello stato DECOMMISSIONING vengono riattivati e diventano ACTIVE al termine dell'annullamento dell'operazione.

• Se l'operazione di riduzione delle dimensioni include aggiornamenti delle etichette, gli aggiornamenti potrebbero non essere applicati.

Nota: l'annullamento di un'operazione di riduzione delle dimensioni è asincrono. Dataproc fa il possibile per annullare l'operazione, ma la riuscita dell'annullamento non è garantita.

Per verificare lo stato della richiesta di annullamento, puoi eseguire il gcloud dataproc operations describe comando o inviare una richiesta dell'API Dataproc operations.get. Se l'operazione di annullamento va a buon fine, lo stato dell'operazione interna viene contrassegnato come CANCELLED.