Profili di rete RDMA

Questa pagina fornisce una panoramica dei profili di rete Remote Direct Memory Access (RDMA) in Google Cloud.

Panoramica

I profili di rete RDMA consentono di creare reti Virtual Private Cloud (VPC) che forniscono una comunicazione RDMA a bassa latenza e larghezza di banda elevata tra la memoria o le GPU delle VM create nella rete.

I profili di rete RDMA sono utili per l'esecuzione di carichi di lavoro di AI. Per saperne di più sull'esecuzione dei carichi di lavoro di AI in Google Cloud, consulta la panoramica di AI Hypercomputer.

Puoi creare i seguenti tipi di reti VPC utilizzando i profili di rete RDMA:

Tipo di rete VPC Nome risorsa profilo di rete Protocollo Tipo di NIC supportato Tipi di macchine supportati
Rete VPC Falcon (anteprima) ZONE-vpc-falcon RDMA su trasporto Falcon IRDMA
Rete VPC RoCE ZONE-vpc-roce RDMA over Converged Ethernet v2 (RoCE v2) MRDMA

Zone supportate

I profili di rete RDMA sono disponibili in un insieme limitato di zone. Puoi creare una rete VPC Falcon o una rete VPC RoCE solo in una zona in cui è disponibile il profilo di rete corrispondente.

Per visualizzare le zone supportate, consulta Elenca profili di rete.

In alternativa, puoi visualizzare le zone supportate per il tipo di macchina che intendi creare nella rete. I profili di rete RDMA sono disponibili nelle stesse zone dei tipi di macchine supportati. Per ulteriori informazioni, consulta le seguenti risorse:

Specifiche

Le reti VPC create con un profilo di rete RDMA hanno le seguenti specifiche:

  • Vincolo zonale. Le risorse che utilizzano una rete VPC con un profilo di rete RDMA sono limitate alla stessa zona del profilo di rete RDMA associato alla rete VPC durante la creazione della rete. Questo limite zonale ha i seguenti effetti:

    • Tutte le istanze con interfacce di rete nella rete VPC devono essere create nella zona che corrisponde alla zona del profilo di rete RDMA utilizzato dalla rete VPC.

    • Tutte le subnet create nella rete VPC devono trovarsi nella regione che contiene la zona del profilo di rete RDMA utilizzato dalla rete VPC.

  • Solo interfacce di rete RDMA. Una rete VPC con un profilo di rete RDMA supporta gli allegati solo da interfacce di rete specifiche:

    • Le reti VPC Falcon supportano solo IRDMA interfacce di rete (NIC), disponibili solo nella serie di macchine H4D.
    • Le reti VPC RoCE supportano solo NIC MRDMA, disponibili solo nelle serie di macchine A3 Ultra, A4 e A4X.

    Tutte le NIC non RDMA di un'istanza di macchina virtuale (VM) devono essere collegate a una rete VPC normale.

  • MTU di 8896 byte. Per prestazioni ottimali, consigliamo un'unità massima di trasmissione (MTU) di 8896 byte per le reti VPC con un profilo di rete RDMA. In questo modo, il driver RDMA nel sistema operativo guest della VM può utilizzare MTU più piccole, se necessario.

    Se crei una rete VPC con un profilo di rete RDMA utilizzando gcloud CLI o l'API, 8896 byte è l'MTU predefinita. Se utilizzi la console Google Cloud , devi impostare la MTU su 8896.

  • Differenze del firewall. Consulta le seguenti informazioni sulle differenze del firewall nelle reti VPC con un profilo di rete RDMA:

    • Le reti VPC con un profilo di rete RDMA utilizzano le seguenti regole firewall implicite, che sono diverse da quelle utilizzate dalle normali reti VPC:

      • Traffico in uscita consentito implicito
      • Consenti traffico in entrata implicito

    • Il supporto di Cloud NGFW dipende dal tipo di rete VPC:

      • Le reti VPC RoCE supportano solo le policy firewall di rete regionali che hanno un tipo di policy firewall RoCE. Il set di parametri per le regole all'interno di una policy firewall di rete regionale supportata è limitato. Per maggiori informazioni, consulta Cloud NGFW per le reti VPC RoCE.
      • Le reti VPC Falcon non supportano la configurazione di regole o policy Cloud NGFW.

  • Nessun supporto per i test di connettività. Connectivity Tests non supporta le reti VPC con un profilo di rete RDMA.

  • Altre funzionalità VPC. Le reti VPC con un profilo di rete RDMA supportano un insieme limitato di altre funzionalità VPC. Per maggiori informazioni, consulta la sezione Funzionalità supportate e non supportate.

Funzionalità supportate e non supportate

La tabella seguente elenca le funzionalità VPC supportate dalle reti VPC con un profilo di rete RDMA.

Funzionalità Supportato Proprietà del profilo di rete Valore della proprietà del profilo di rete Dettagli
NIC RDMA interfaceTypes MRDMA o IRDMA

Le reti VPC con un profilo di rete RDMA supportano solo il tipo di NIC corrispondente al profilo di rete RDMA:

  • IRDMA per le reti VPC Falcon
  • MRDMA per le reti VPC RoCE

Altri tipi di NIC, come GVNIC o VIRTIO_NET, non sono supportati.
Più NIC nella stessa rete allowMultiNicInSameNetwork MULTI_NIC_IN_SAME_NETWORK_ALLOWED

Le reti VPC con un profilo di rete RDMA supportano VM con più NIC, consentendo a due o più NIC RDMA della stessa VM di trovarsi nella stessa rete VPC. Ogni NIC deve essere collegata a una subnet univoca nella rete VPC.

Vedi anche Rete VPC RoCE Considerazioni relative alle schede di interfaccia di rete multiple.
Subnet solo IPv4 subnetworkStackTypes SUBNET_STACK_TYPE_IPV4_ONLY

Le reti VPC con un profilo di rete RDMA supportano subnet solo IPv4, inclusi gli stessi intervalli IPv4 validi delle normali reti VPC.

Le reti VPC con un profilo di rete RDMA non supportano subnet a doppio stack o solo IPv6. Per saperne di più, consulta Tipi di subnet.
Scopo della subnet PRIVATE subnetworkPurposes SUBNET_PURPOSE_PRIVATE

Le reti VPC con un profilo di rete RDMA supportano le subnet regolari, che hanno un valore dell'attributo purpose pari a PRIVATE.

Le reti VPC con un profilo di rete RDMA non supportano le subnet Private Service Connect, le subnet solo proxy o le subnet NAT private. Per saperne di più, consulta Scopi delle subnet.
GCE_ENDPOINT scopo dell'indirizzo addressPurposes GCE_ENDPOINT

Le reti VPC con un profilo di rete RDMA supportano indirizzi IP con un valore dell'attributo purpose pari a GCE_ENDPOINT, utilizzato dagli indirizzi IP interni delle NIC VM.

Le reti VPC con un profilo di rete RDMA non supportano indirizzi IP per scopi speciali, come lo scopo SHARED_LOADBALANCER_VIP. Per saperne di più, consulta il riferimento alla risorsa indirizzi.
Allegati da nic0 allowDefaultNicAttachment DEFAULT_NIC_ATTACHMENT_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano il collegamento delle interfacce di rete di una VM alla rete.nic0 Ogni NIC RDMA collegata alla rete VPC non deve essere nic0.
Indirizzi IP esterni per le VM allowExternalIpAccess EXTERNAL_IP_ACCESS_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano l'assegnazione di indirizzi IP esterni alle NIC RDMA. Di conseguenza, le NIC RDMA non hanno accesso a internet.
Interfacce di rete dinamiche allowSubInterfaces SUBINTERFACES_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano le NIC dinamiche.
Intervalli IP alias allowAliasIpRanges ALIAS_IP_RANGE_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano l'assegnazione di intervalli IP alias alle NIC RDMA.
Inoltro IP allowIpForwarding IP_FORWARDING_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano l'inoltro IP.
Migrazione di rete delle VM allowNetworkMigration NETWORK_MIGRATION_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano la migrazione delle NIC VM tra le reti.
Modalità automatica allowAutoModeSubnet AUTO_MODE_SUBNET_BLOCKED Le reti VPC con un profilo di rete RDMA non possono essere reti in modalità automatica. Per saperne di più, vedi Modalità di creazione subnet.
Peering di rete VPC allowVpcPeering VPC_PEERING_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano la connessione ad altre reti VPC tramite il peering di rete VPC. Di conseguenza, le reti VPC con un profilo di rete RDMA non supportano la connessione ai servizi utilizzando l'accesso privato ai servizi.
Route statiche allowStaticRoutes STATIC_ROUTES_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano le route statiche.
Mirroring pacchetto allowPacketMirroring PACKET_MIRRORING_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano il mirroring pacchetto.
Cloud NAT allowCloudNat CLOUD_NAT_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano Cloud NAT.
Router Cloud allowCloudRouter CLOUD_ROUTER_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano Cloud Router e le route dinamiche.
Cloud Interconnect allowInterconnect INTERCONNECT_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano i collegamenti VLAN Cloud Interconnect.
Cloud VPN allowVpn VPN_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano i tunnel Cloud VPN.
Network Connectivity Center allowNcc NCC_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano Network Connectivity Center. Non puoi aggiungere una rete VPC con un profilo di rete RDMA come spoke VPC a un hub Network Connectivity Center.
Cloud Load Balancing allowLoadBalancing LOAD_BALANCING_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano Cloud Load Balancing. Di conseguenza, le reti VPC con un profilo di rete RDMA non supportano le funzionalità di bilanciamento del carico, incluso Google Cloud Armor.
Accesso privato Google allowPrivateGoogleAccess PRIVATE_GOOGLE_ACCESS_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano l'accesso privato Google.
Private Service Connect allowPsc PSC_BLOCKED Le reti VPC con un profilo di rete RDMA non supportano Private Service Connect.

Considerazioni multi-NIC per la rete VPC RoCE

Per supportare i carichi di lavoro che traggono vantaggio dalla comunicazione GPU-GPU cross-rail, le reti VPC RoCE supportano le VM con più NIC MRDMA nella rete. Ogni NIC MRDMA deve trovarsi in una subnet univoca. L'inserimento di due o più NIC MRDMA nella stessa rete VPC RoCE potrebbe influire sulle prestazioni di rete, incluso un aumento della latenza. MRDMA Le NIC utilizzano NCCL. NCCL tenta di allineare tutti i trasferimenti di rete, anche per la comunicazione cross-rail. Ad esempio, utilizza PXN per copiare i dati tramite NVLink in una GPU allineata alla guida prima di trasferirli sulla rete.

Passaggi successivi