Componente Trino facoltativo di Managed Service per Apache Spark

Puoi installare componenti aggiuntivi come Trino quando crei un cluster Managed Service for Apache Spark utilizzando la funzionalità Componenti facoltativi. Questa pagina descrive come installare facoltativamente il componente Trino su un cluster Managed Service for Apache Spark.

Trino è un motore di query SQL distribuito in open source. Il server Trino e la UI web sono disponibili per impostazione predefinita sulla porta 8060 (o sulla porta 7778 se è abilitato Kerberos) sul primo nodo master del cluster.

Per impostazione predefinita, Trino su Managed Service for Apache Spark è configurato per funzionare con Hive, BigQuery, Memory, TPCH e TPCDS connettori.

Dopo aver creato un cluster con il componente Trino, puoi eseguire query:

• Da un terminale locale con il gcloud dataproc jobs submit trino comando.
• Da una finestra del terminale sul primo nodo master del cluster utilizzando la trino CLI (interfaccia a riga di comando). Per maggiori dettagli, consulta Utilizzare Trino con Managed Service for Apache Spark.

Installare il componente

Installa il componente quando crei un cluster Managed Service for Apache Spark.

Per la versione del componente inclusa in ogni release dell'immagine di Managed Service for Apache Spark, consulta Versioni di Managed Service for Apache Spark supportate.

Google Cloud Console

1. Nella Google Cloud console, apri la pagina Crea cluster.
2. Fai clic su Configurazione aggiuntiva per espandere la sezione.
3. Modifica Componenti facoltativi.
4. Nel riquadro visualizzato, seleziona la casella di controllo per Trino, quindi fai clic su Salva.

gcloud CLI

Per creare un cluster Managed Service for Apache Spark che includa il componente Trino, utilizza il comando gcloud dataproc clusters create con il flag --optional-components.

gcloud dataproc clusters create CLUSTER_NAME \
    --optional-components=TRINO \
    --region=region \
    --enable-component-gateway \
    ... other flags
    

Note:

• CLUSTER_NAME: il nome del cluster.
• REGION: una regione di Compute Engine in cui si troverà il cluster.

Configurare le proprietà

Aggiungi il --properties flag al gcloud dataproc clusters create comando per impostare trino, trino-jvm e trino-catalog proprietà di configurazione.

• Proprietà dell'applicazione: utilizza le proprietà del cluster con il trino: prefisso per configurare le proprietà dell'applicazione Trino, ad esempio --properties="trino:join-distribution-type=AUTOMATIC".
• Proprietà di configurazione della JVM: utilizza le proprietà del cluster con il trino-jvm: prefisso per configurare le proprietà della JVM per i processi Java del coordinatore e dei worker Trino, ad esempio --properties="trino-jvm:XX:+HeapDumpOnOutOfMemoryError".
• Creare nuovi cataloghi e aggiungere proprietà del catalogo: Utilizza trino-catalog:catalog-name.property-name per configurare i cataloghi Trino.

  Esempio: il seguente flag `properties` può essere utilizzato con il comando `gcloud dataproc clusters create` per creare un cluster Trino con un catalogo Hive "prodhive". Verrà creato un file prodhive.properties in per abilitare il catalogo prodhive./usr/lib/trino/etc/catalog/

  --properties="trino-catalog:prodhive.connector.name=hive,trino-catalog:prodhive.hive.metastore.uri=thrift://localhost:9000"

API REST

Il componente Trino può essere specificato tramite l'API Dataproc utilizzando SoftwareConfig.Component come parte di una clusters.create.

Utilizzando l' API Dataproc v1, imposta la proprietà EndpointConfig.enableHttpPortAccess su true come parte della richiesta clusters.create per consentire la connessione alla UI web di Trino utilizzando il gateway dei componenti.