Terminologia

La seguente terminologia viene spesso utilizzata quando si lavora con AI Hypercomputer.

Blocca
Una raccolta di blocchi secondari interconnessi con un tessuto non bloccante, che fornisce connettività a larghezza di banda elevata tra tutti gli host.

Cluster
Una raccolta di blocchi interconnessi da una struttura di rete ad alta velocità. Ogni cluster è univoco a livello globale. Per le macchine A4X, A4, A3 Ultra, A3 Mega e A3 High (8 GPU), un cluster fornisce una struttura di rete comune e non bloccante per i blocchi di capacità dell'acceleratore. All'interno di un cluster, il networking da est a ovest non è bloccante per l'intera raccolta di blocchi.

Deployment denso
Una richiesta di risorse che alloca le risorse dell'acceleratore fisicamente vicine tra loro per ridurre al minimo gli hop di rete e ottimizzare per la latenza più bassa.

Infrastruttura di rete
Un fabric di rete fornisce connettività a larghezza di banda elevata e bassa latenza in tutti i blocchi e i servizi di un cluster. Google Cloud Jupiter è l'architettura di rete dei data center di Google che utilizza il networking software-defined e gli switch di circuiti ottici per far evolvere la rete e ottimizzarne le prestazioni.

Nodo o host
Una singola macchina server fisica nel data center. A ogni host sono associate risorse di calcolo, come gli acceleratori. Il numero e la configurazione di queste risorse di calcolo dipendono dalla famiglia di macchine. Le istanze Compute Engine vengono sottoposte a provisioning su un host fisico.

Un dominio NVLink, chiamato anche sottoblocco, è l'unità di base di capacità per le macchine A4X Max e A4X. Un dominio NVLink è costituito da 18 istanze A4X Max o A4X (72 GPU) collegate da un sistema NVLink multi-nodo.

Blocco secondario
Un gruppo di host e hardware di connettività associato che si trovano su un singolo rack fisico. Nel contesto delle macchine A4X Max e A4X, un sottoblocco è anche denominato dominio NVLink.

Ulteriori informazioni

I seguenti documenti forniscono ulteriori spiegazioni della terminologia pertinente agli argomenti corrispondenti: