"Managed Service for Apache Spark" è il nuovo nome del prodotto precedentemente noto come "Dataproc on Compute Engine" (deployment del cluster) e "Google Cloud Serverless for Apache Spark" (deployment serverless).

Cluster a nodo singolo

I cluster a nodo singolo sono cluster Managed Service per Apache Spark con un solo nodo. Questo singolo nodo funge da master e worker per il tuo cluster Managed Service per Apache Spark. Sebbene i cluster a singolo nodo abbiano un solo nodo, la maggior parte dei concetti e delle funzionalità di Managed Service per Apache Spark sono comunque applicabili, ad eccezione di quelli elencati di seguito.

Esistono diverse situazioni in cui i cluster Managed Service per Apache Spark a nodo singolo possono essere utili, tra cui:

Provare nuove versioni di Spark e Hadoop o altri componenti open source
Creazione di dimostrazioni proof of concept (PoC)
Data science leggera
Trattamento dati non critico su piccola scala
Formazione relativa all'ecosistema Spark e Hadoop

Semantica del cluster a nodo singolo

Le seguenti semantiche si applicano ai cluster Managed Service per Apache Spark a un singolo nodo:

I cluster a nodo singolo sono configurati come i cluster Managed Service per Apache Spark multinodo e includono servizi come HDFS e YARN.
I cluster a nodo singolo vengono segnalati come nodi master per le azioni di inizializzazione.
I cluster a nodo singolo mostrano 0 worker perché il singolo nodo funge da master e da worker.
Ai cluster a un solo nodo vengono assegnati nomi host che seguono il pattern clustername-m. Puoi utilizzare questo nome host per eseguire SSH o connetterti a una UI web sul nodo.
I cluster a nodo singolo non possono essere sottoposti ad upgrade a cluster multi-nodo. Una volta creati, i cluster a nodo singolo sono limitati a un solo nodo. Allo stesso modo, i cluster multinodo non possono essere ridotti a cluster a nodo singolo.

Limitazioni

I cluster a nodo singolo non sono consigliati per l'elaborazione parallela di dati su larga scala. Se superi le risorse di un cluster a un singolo nodo, è consigliabile un cluster Managed Service per Apache Spark multi-nodo.
I cluster a nodo singolo non sono disponibili con alta disponibilità poiché nel cluster è presente un solo nodo.
I cluster a nodo singolo non possono utilizzare le VM preemptible.

Crea un cluster a nodo singolo

Comando g-cloud

Puoi creare un cluster Managed Service per Apache Spark a nodo singolo utilizzando lo strumento a riga di comando gcloud. Per creare un cluster a un solo nodo, passa il flag --single-node al comando gcloud dataproc clusters create.

gcloud dataproc clusters create cluster-name \
    --region=region \
    --single-node \
    ... other args

API REST

Puoi creare un cluster a nodo singolo tramite l'API REST Managed Service for Apache Spark utilizzando una richiesta clusters.create. Quando effettui questa richiesta, devi:

Aggiungi la proprietà "dataproc:dataproc.allow.zero.workers":"true" a SoftwareConfig della richiesta del cluster.
Non inviare valori per workerConfig e secondaryWorkerConfig (vedi ClusterConfig).

Console

Puoi creare un cluster a nodo singolo selezionando "Nodo singolo (1 master, 0 worker)" nella sezione Tipo di cluster del riquadro Configura cluster nella pagina Crea un cluster di Managed Service for Apache Spark.