Profil jaringan RDMA

Halaman ini memberikan ringkasan tentang profil jaringan Remote Direct Memory Access (RDMA) di Google Cloud.

Ringkasan

Profil jaringan RDMA memungkinkan Anda membuat jaringan Virtual Private Cloud (VPC) yang menyediakan komunikasi RDMA berlatensi rendah dan bandwidth tinggi antara memori atau GPU instance Compute Engine yang dibuat di jaringan.

Profil jaringan RDMA berguna untuk menjalankan workload AI. Untuk mengetahui informasi selengkapnya tentang cara menjalankan workload AI di Google Cloud, lihat Ringkasan AI Hypercomputer.

Anda dapat membuat jenis jaringan VPC berikut menggunakan profil jaringan RDMA:

Jenis jaringan VPC	Nama resource profil jaringan	Protokol	Jenis NIC yang didukung	Jenis mesin yang didukung
Jaringan VPC Falcon	`ZONE-vpc-falcon`	RDMA melalui transportasi Falcon	`IRDMA`	VM H4D
Jaringan VPC RoCE	`ZONE-vpc-roce`	RDMA over converged ethernet v2 (RoCE v2)	`MRDMA`	VM A3 Ultra VM A4 VM A4X

Zona yang didukung

Profil jaringan RDMA tersedia di sejumlah zona terbatas. Anda hanya dapat membuat jaringan VPC Falcon atau jaringan VPC RoCE di zona tempat profil jaringan yang sesuai tersedia.

Untuk melihat zona yang didukung, lihat Mencantumkan profil jaringan.

Atau, Anda dapat melihat zona yang didukung untuk jenis mesin yang ingin Anda buat di jaringan. Profil jaringan RDMA tersedia di zona yang sama dengan jenis mesin yang didukung. Untuk informasi selengkapnya, lihat referensi berikut:

Untuk jenis mesin GPU, lihat lokasi GPU.
Untuk jenis mesin lainnya, lihat Region dan zona yang tersedia.

Spesifikasi

Jaringan VPC yang dibuat dengan profil jaringan RDMA memiliki spesifikasi berikut:

Batasan zona. Resource yang menggunakan jaringan VPC dengan profil jaringan RDMA terbatas pada zona yang sama dengan profil jaringan RDMA yang terkait dengan jaringan VPC selama pembuatan jaringan. Batas zona ini memiliki efek berikut:
- Semua instance yang memiliki antarmuka jaringan di jaringan VPC harus dibuat di zona yang cocok dengan zona profil jaringan RDMA yang digunakan oleh jaringan VPC.
- Semua subnet yang dibuat di jaringan VPC harus berada di region yang berisi zona profil jaringan RDMA yang digunakan oleh jaringan VPC.
Hanya antarmuka jaringan RDMA. Jaringan VPC dengan profil jaringan RDMA hanya mendukung lampiran dari antarmuka jaringan tertentu:
- Jaringan VPC Falcon hanya mendukung IRDMA antarmuka jaringan (NIC).
- Jaringan VPC RoCE hanya mendukung NIC MRDMA.
Semua NIC non-RDMA instance harus dilampirkan ke jaringan VPC reguler.
MTU 8896 byte. Untuk performa terbaik, sebaiknya gunakan unit transmisi maksimum (MTU) sebesar 8896 byte untuk jaringan VPC dengan profil jaringan RDMA. Hal ini memungkinkan driver RDMA di sistem operasi tamu instance menggunakan MTU yang lebih kecil jika diperlukan.

Jika Anda membuat jaringan VPC dengan profil jaringan RDMA, maka 8896 byte adalah MTU default.
Perbedaan firewall. Lihat informasi berikut tentang perbedaan firewall di jaringan VPC dengan profil jaringan RDMA:
- Jaringan VPC dengan profil jaringan RDMA menggunakan aturan firewall tersirat berikut, yang berbeda dari aturan firewall tersirat yang digunakan oleh jaringan VPC biasa:
  - Izinkan traffic keluar secara implisit
  - Implied allow ingress
- Dukungan Cloud NGFW bergantung pada jenis jaringan VPC:
  - Jaringan VPC RoCE hanya mendukung kebijakan firewall jaringan regional yang memiliki jenis kebijakan firewall RoCE. Kumpulan parameter untuk aturan dalam kebijakan firewall jaringan regional yang didukung terbatas. Untuk mengetahui informasi selengkapnya, lihat Cloud NGFW untuk jaringan VPC RoCE.
  - Jaringan VPC Falcon tidak mendukung konfigurasi aturan atau kebijakan Cloud NGFW.
Tidak ada dukungan Uji Konektivitas. Uji Konektivitas tidak mendukung jaringan VPC dengan profil jaringan RDMA.
Fitur VPC lainnya. Jaringan VPC dengan profil jaringan RDMA mendukung serangkaian fitur VPC lainnya yang terbatas. Untuk mengetahui informasi selengkapnya, lihat bagian Fitur yang didukung dan tidak didukung berikut.

Fitur yang didukung dan tidak didukung

Bagian berikut menjelaskan fitur VPC yang didukung dan tidak didukung untuk setiap jenis jaringan VPC yang dapat Anda buat menggunakan profil jaringan RDMA:

Jaringan VPC Falcon (falcon)
Jaringan VPC RoCE (roce)

Jaringan VPC Falcon (`falcon`)

Tabel berikut mencantumkan fitur yang didukung oleh jaringan VPC Falcon, yang dibuat menggunakan profil jaringan falcon.

Fitur	Properti profil jaringan	Nilai properti profil jaringan	Detail
NIC RDMA	`interfaceTypes`	`IRDMA`	Jaringan VPC Falcon hanya mendukung NIC `IRDMA` Jenis NIC lainnya, seperti `MRDMA`, `GVNIC`, dan `VIRTIO_NET`, tidak didukung.
Multi-NIC dalam jaringan yang sama	`allowMultiNicInSameNetwork`	`MULTI_NIC_IN_SAME_NETWORK_ALLOWED`	Jaringan VPC Falcon mendukung instance multi-NIC, sehingga dua atau lebih NIC RDMA dari instance yang sama dapat berada di jaringan VPC yang sama. Setiap NIC harus terhubung ke subnet unik di jaringan VPC.
Subnet khusus IPv4	`subnetworkStackTypes`	`SUBNET_STACK_TYPE_IPV4_ONLY`	Jaringan VPC Falcon mendukung subnet khusus IPv4, termasuk Rentang IPv4 yang valid yang sama dengan jaringan VPC reguler. Jaringan VPC Falcon tidak mendukung subnet dual-stack atau khusus IPv6. Untuk mengetahui informasi selengkapnya, lihat Jenis subnet.
Tujuan subnet `PRIVATE`	`subnetworkPurposes`	`SUBNET_PURPOSE_PRIVATE`	Jaringan VPC Falcon mendukung subnet reguler, yang memiliki nilai atribut `purpose` sebesar `PRIVATE`. Jaringan VPC Falcon tidak mendukung subnet Private Service Connect, subnet khusus proxy, atau subnet NAT Pribadi. Untuk mengetahui informasi selengkapnya, lihat Tujuan subnet.
`GCE_ENDPOINT` tujuan alamat	`addressPurposes`	`GCE_ENDPOINT`	Jaringan VPC Falcon mendukung alamat IP dengan nilai atribut `purpose` `GCE_ENDPOINT`, yang digunakan oleh alamat IP internal NIC instance. Jaringan VPC Falcon tidak mendukung alamat IP tujuan khusus, seperti tujuan `SHARED_LOADBALANCER_VIP`. Untuk mengetahui informasi selengkapnya, lihat referensi resource alamat.
Antarmuka Jaringan Dinamis	`allowSubInterfaces`	`SUBINTERFACES_BLOCKED`	Jaringan VPC Falcon tidak mendukung NIC Dinamis.
Lampiran dari `nic0`	`allowDefaultNicAttachment`	`DEFAULT_NIC_ATTACHMENT_BLOCKED`	Jaringan VPC Falcon tidak mendukung pemasangan antarmuka jaringan instance ke jaringan.`nic0` Setiap NIC RDMA yang terpasang ke jaringan VPC tidak boleh `nic0`.
Alamat IP eksternal untuk instance	`allowExternalIpAccess`	`EXTERNAL_IP_ACCESS_BLOCKED`	Jaringan VPC Falcon tidak mendukung penetapan alamat IP eksternal ke NIC RDMA. Akibatnya, NIC RDMA tidak memiliki akses internet.
Rentang IP alias	`allowAliasIpRanges`	`ALIAS_IP_RANGE_BLOCKED`	Jaringan VPC Falcon tidak mendukung penetapan rentang IP alias ke NIC RDMA.
Penerusan IP	`allowIpForwarding`	`IP_FORWARDING_BLOCKED`	Jaringan VPC Falcon tidak mendukung penerusan IP.
Migrasi jaringan instance	`allowNetworkMigration`	`NETWORK_MIGRATION_BLOCKED`	Jaringan VPC Falcon tidak mendukung migrasi NIC instance antar-jaringan.
Mode otomatis	`allowAutoModeSubnet`	`AUTO_MODE_SUBNET_BLOCKED`	Jaringan VPC Falcon tidak boleh berupa jaringan mode otomatis. Untuk mengetahui informasi selengkapnya, lihat mode pembuatan subnet.
Peering Jaringan VPC	`allowVpcPeering`	`VPC_PEERING_BLOCKED`	Jaringan VPC Falcon tidak mendukung koneksi ke jaringan VPC lain menggunakan Peering Jaringan VPC. Akibatnya, jaringan VPC Falcon tidak mendukung koneksi ke layanan menggunakan akses layanan pribadi.
Rute statis	`allowStaticRoutes`	`STATIC_ROUTES_BLOCKED`	Jaringan VPC Falcon tidak mendukung rute statis.
Duplikasi Paket	`allowPacketMirroring`	`PACKET_MIRRORING_BLOCKED`	Jaringan VPC Falcon tidak mendukung Duplikasi Paket.
Cloud NAT	`allowCloudNat`	`CLOUD_NAT_BLOCKED`	Jaringan VPC Falcon tidak mendukung Cloud NAT.
Cloud Router	`allowCloudRouter`	`CLOUD_ROUTER_BLOCKED`	Jaringan VPC Falcon tidak mendukung Cloud Router dan rute dinamis.
Cloud Interconnect	`allowInterconnect`	`INTERCONNECT_BLOCKED`	Jaringan VPC Falcon tidak mendukung lampiran VLAN Cloud Interconnect.
Cloud VPN	`allowVpn`	`VPN_BLOCKED`	Jaringan VPC Falcon tidak mendukung tunnel Cloud VPN.
Network Connectivity Center	`allowNcc`	`NCC_BLOCKED`	Jaringan VPC Falcon tidak mendukung NCC. Anda tidak dapat menambahkan jaringan VPC Falcon sebagai spoke VPC ke hub NCC.
Cloud Load Balancing	`allowLoadBalancing`	`LOAD_BALANCING_BLOCKED`	Jaringan VPC Falcon tidak mendukung Cloud Load Balancing. Akibatnya, jaringan VPC Falcon tidak mendukung fitur load balancer, termasuk Google Cloud Armor.
Akses Google Pribadi	`allowPrivateGoogleAccess`	`PRIVATE_GOOGLE_ACCESS_BLOCKED`	Jaringan VPC Falcon tidak mendukung Akses Google Pribadi.
Private Service Connect	`allowPsc`	`PSC_BLOCKED`	Jaringan VPC Falcon tidak mendukung Private Service Connect.

Jaringan VPC RoCE (`roce`)

Tabel berikut mencantumkan fitur yang didukung oleh jaringan VPC RoCE, yang dibuat menggunakan profil jaringan roce.

Fitur	Properti profil jaringan	Nilai properti profil jaringan	Detail
NIC RDMA	`interfaceTypes`	`MRDMA`	Jaringan VPC RoCE hanya mendukung NIC `MRDMA` Jenis NIC lainnya, seperti `IRDMA`, `GVNIC`, dan `VIRTIO_NET`, tidak didukung.
Multi-NIC dalam jaringan yang sama	`allowMultiNicInSameNetwork`	`MULTI_NIC_IN_SAME_NETWORK_ALLOWED`	Jaringan VPC RoCE mendukung instance multi-NIC, sehingga dua atau lebih NIC RDMA dari instance yang sama dapat berada di jaringan VPC yang sama. Setiap NIC harus terhubung ke subnet unik di jaringan VPC. Lihat juga Pertimbangan multi-NIC jaringan VPC RoCE.
Subnet khusus IPv4	`subnetworkStackTypes`	`SUBNET_STACK_TYPE_IPV4_ONLY`	Jaringan VPC RoCE mendukung subnet khusus IPv4, termasuk Rentang IPv4 yang valid yang sama dengan jaringan VPC reguler. Jaringan VPC RoCE tidak mendukung subnet dual-stack atau khusus IPv6. Untuk mengetahui informasi selengkapnya, lihat Jenis subnet.
Tujuan subnet `PRIVATE`	`subnetworkPurposes`	`SUBNET_PURPOSE_PRIVATE`	Jaringan VPC RoCE mendukung subnet reguler, yang memiliki nilai atribut `purpose` sebesar `PRIVATE`. Jaringan VPC RoCE tidak mendukung subnet Private Service Connect, subnet khusus proxy, atau subnet NAT Pribadi. Untuk mengetahui informasi selengkapnya, lihat Tujuan subnet.
`GCE_ENDPOINT` tujuan alamat	`addressPurposes`	`GCE_ENDPOINT`	Jaringan VPC RoCE mendukung alamat IP dengan nilai atribut `purpose` `GCE_ENDPOINT`, yang digunakan oleh alamat IP internal NIC instance. Jaringan VPC RoCE tidak mendukung alamat IP tujuan khusus, seperti tujuan `SHARED_LOADBALANCER_VIP`. Untuk mengetahui informasi selengkapnya, lihat referensi resource alamat.
Lampiran dari `nic0`	`allowDefaultNicAttachment`	`DEFAULT_NIC_ATTACHMENT_BLOCKED`	Jaringan VPC RoCE tidak mendukung pemasangan antarmuka jaringan `nic0` instance ke jaringan. Setiap NIC RDMA yang terpasang ke jaringan VPC tidak boleh `nic0`.
Alamat IP eksternal untuk instance	`allowExternalIpAccess`	`EXTERNAL_IP_ACCESS_BLOCKED`	Jaringan VPC RoCE tidak mendukung penetapan alamat IP eksternal ke NIC RDMA. Akibatnya, NIC RDMA tidak memiliki akses internet.
Antarmuka Jaringan Dinamis	`allowSubInterfaces`	`SUBINTERFACES_BLOCKED`	Jaringan VPC RoCE tidak mendukung NIC Dinamis.
Rentang IP alias	`allowAliasIpRanges`	`ALIAS_IP_RANGE_BLOCKED`	Jaringan VPC RoCE tidak mendukung penetapan rentang IP alias ke NIC RDMA.
Penerusan IP	`allowIpForwarding`	`IP_FORWARDING_BLOCKED`	Jaringan VPC RoCE tidak mendukung penerusan IP.
Migrasi jaringan instance	`allowNetworkMigration`	`NETWORK_MIGRATION_BLOCKED`	Jaringan VPC RoCE tidak mendukung migrasi NIC instance antar-jaringan.
Mode otomatis	`allowAutoModeSubnet`	`AUTO_MODE_SUBNET_BLOCKED`	Jaringan VPC RoCE tidak boleh berupa jaringan mode otomatis. Untuk mengetahui informasi selengkapnya, lihat mode pembuatan subnet.
Peering Jaringan VPC	`allowVpcPeering`	`VPC_PEERING_BLOCKED`	Jaringan VPC RoCE tidak mendukung koneksi ke jaringan VPC lain menggunakan Peering Jaringan VPC. Akibatnya, jaringan VPC RoCE tidak mendukung koneksi ke layanan menggunakan akses layanan pribadi.
Rute statis	`allowStaticRoutes`	`STATIC_ROUTES_BLOCKED`	Jaringan VPC RoCE tidak mendukung rute statis.
Duplikasi Paket	`allowPacketMirroring`	`PACKET_MIRRORING_BLOCKED`	Jaringan VPC RoCE tidak mendukung Duplikasi Paket.
Cloud NAT	`allowCloudNat`	`CLOUD_NAT_BLOCKED`	Jaringan VPC RoCE tidak mendukung Cloud NAT.
Cloud Router	`allowCloudRouter`	`CLOUD_ROUTER_BLOCKED`	Jaringan VPC RoCE tidak mendukung Cloud Router dan rute dinamis.
Cloud Interconnect	`allowInterconnect`	`INTERCONNECT_BLOCKED`	Jaringan VPC RoCE tidak mendukung lampiran VLAN Cloud Interconnect.
Cloud VPN	`allowVpn`	`VPN_BLOCKED`	Jaringan VPC RoCE tidak mendukung tunnel Cloud VPN.
Network Connectivity Center	`allowNcc`	`NCC_BLOCKED`	Jaringan VPC RoCE tidak mendukung NCC. Anda tidak dapat menambahkan jaringan VPC RoCE sebagai spoke VPC ke hub NCC.
Cloud Load Balancing	`allowLoadBalancing`	`LOAD_BALANCING_BLOCKED`	Jaringan VPC RoCE tidak mendukung Cloud Load Balancing. Oleh karena itu, jaringan VPC RoCE tidak mendukung fitur load balancer, termasuk Google Cloud Armor.
Akses Google Pribadi	`allowPrivateGoogleAccess`	`PRIVATE_GOOGLE_ACCESS_BLOCKED`	Jaringan VPC RoCE tidak mendukung Akses Google Pribadi.
Private Service Connect	`allowPsc`	`PSC_BLOCKED`	Jaringan VPC RoCE tidak mendukung Private Service Connect.

Pertimbangan multi-NIC untuk jaringan VPC RoCE

Untuk mendukung workload yang diuntungkan dari komunikasi GPU-ke-GPU lintas jalur, jaringan VPC RoCE mendukung instance yang memiliki beberapa NIC MRDMA di jaringan. Setiap NIC MRDMA harus berada di subnet yang unik. Menempatkan dua atau beberapa NIC MRDMA di jaringan VPC RoCE yang sama dapat memengaruhi performa jaringan, termasuk peningkatan latensi. MRDMA NIC menggunakan NCCL. NCCL mencoba menyelaraskan semua transfer jaringan, bahkan untuk komunikasi lintas jalur. Misalnya, PXN menggunakan NVlink untuk menyalin data melalui NVlink ke GPU yang selaras dengan rail sebelum mentransfernya melalui jaringan.