Terminologia

La seguente terminologia viene spesso utilizzata quando si lavora con AI Hypercomputer.

Block
Una raccolta di blocchi secondari interconnessi con un'infrastruttura non bloccante, che fornisce connettività a larghezza di banda elevata tra tutti gli host.

Cluster
Una raccolta di blocchi interconnessi da un'infrastruttura di rete ad alta velocità. Ogni cluster è univoco a livello globale. Per le macchine A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPU), un cluster fornisce un'infrastruttura di rete comune e non bloccante per i blocchi di capacità dell'acceleratore. All'interno di un cluster, la rete da est a ovest non è bloccante per l'intera raccolta di blocchi.

Dense deployment
Una richiesta di risorse che alloca le risorse dell'acceleratore fisicamente vicine tra loro per ridurre al minimo gli hop di rete e ottimizzare per la latenza più bassa.

Network fabric
Un'infrastruttura di rete fornisce connettività a larghezza di banda elevata e bassa latenza tra tutti i blocchi e i Google Cloud servizi di un cluster. Jupiter è l'architettura di rete dei data center di Google che utilizza il networking software-defined e gli switch di circuiti ottici per evolvere la rete e ottimizzarne le prestazioni.

Node or host
Una singola macchina server fisica nel data center. Ogni host ha risorse di calcolo associate, come gli acceleratori. Il numero e la configurazione di queste risorse di calcolo dipendono dalla famiglia di macchine. Le istanze di Compute Engine vengono sottoposte a provisioning su un host fisico.

Un dominio NVLink, chiamato anche blocco secondario, è l'unità di capacità principale per le macchine A4X Max e A4X. Un dominio NVLink è costituito da 18 istanze A4X Max o A4X (72 GPU) connesse da un sistema NVLink multi-nodo.

Sub-block
Un gruppo di host e hardware di connettività associato che si trovano su un singolo rack fisico. Nel contesto delle macchine A4X Max e A4X, un blocco secondario è chiamato anche dominio NVLink.

Ulteriori informazioni

I seguenti documenti forniscono ulteriori spiegazioni della terminologia pertinente agli argomenti corrispondenti: