Jaringan

Jika Anda tertarik dengan cluster pelatihan Gemini Enterprise Agent Platform, hubungi perwakilan penjualan Anda untuk mendapatkan akses.

Cluster pelatihan Gemini Enterprise Agent Platform adalah layanan terkelola yang disediakan sebagai instance Compute Engine dalam VPC Anda. Google CloudModel deployment ini memungkinkan layanan terhubung dengan aman ke workload lain dalam VPC, layanan yang dikelola Google, atau jaringan multi-cloud.

Persyaratan MTU jaringan

Untuk mencapai performa jaringan yang optimal untuk infrastruktur pelatihan, Anda harus mengonfigurasi Unit Transmisi Maksimum (MTU) jaringan VPC.

Setelan MTU yang direkomendasikan

Nilai MTU yang direkomendasikan bergantung pada jenis mesin GPU di cluster Anda:

• Untuk node A3 Ultra dan A4: Gunakan MTU 8896.
• Untuk node A3 Mega: Gunakan MTU 8244.

Penting: MTU adalah setelan di seluruh jaringan. Nilai yang Anda pilih berlaku untuk semua instance VM dalam VPC tersebut, yang dapat memengaruhi workload yang ada. Untuk panduan tentang penerapan setelan ini, lihat VPC Bersama.

Anda dapat membuat VPC baru atau menggunakan VPC yang sudah ada.

Men-deploy cluster pelatihan di VPC baru (direkomendasikan)

Pendekatan yang direkomendasikan adalah men-deploy cluster pelatihan ke jaringan VPC baru yang telah dikonfigurasi. Hal ini memastikan setelan MTU yang benar diterapkan secara otomatis dan menghindari dampak pada workload yang ada.

Ada dua langkah utama untuk men-deploy cluster pelatihan di VPC baru:

1. Buat jaringan VPC: Buat jaringan VPC baru. Untuk mengaktifkan jumbo frame, tetapkan MTU-nya ke 8896.

2. Deploy cluster: Deploy cluster pelatihan ke jaringan yang baru dikonfigurasi ini.

Dengan mengikuti urutan ini, instance VM cluster akan otomatis mewarisi setelan MTU yang benar saat booting awal.

Catatan: Jika Anda mengubah MTU VPC setelah cluster sudah berjalan, setelan baru tidak akan diterapkan secara otomatis. Anda harus melakukan booting ulang instance VM cluster untuk memaksanya mengadopsi MTU jaringan baru.

Membuat dan menyiapkan VPC baru

1. Buat jaringan VPC. Untuk mengaktifkan jumbo frame, tetapkan NETWORK_MTU ke 8896.

       # create VPC network
       gcloud compute networks create NETWORK \
         --project=PROJECT_ID \
         --subnet-mode=custom \
         --mtu=NETWORK_MTU
       

2. Buat subnet yang digunakan untuk men-deploy cluster pelatihan, dan perbarui rentang berdasarkan persyaratan lingkungan Anda. Dalam contoh ini, subnet 192.168.0.0/19 digunakan untuk deployment cluster pelatihan.

       # create VPC subnet
       gcloud compute networks subnets create SUBNETWORK \
         --project=PROJECT_ID \
         --network=NETWORK \
         --region=REGION \
         --enable-private-ip-google-access \
         --range=192.168.0.0/19
       

3. Buat aturan firewall IAP yang mengizinkan konektivitas SSH ke cluster pelatihan.

       gcloud compute firewall-rules create allow-ssh-ingress-from-iap \
       --direction=INGRESS   --action=allow   --rules=tcp:22 \
       --source-ranges=35.235.240.0/20 --network NETWORK
       

4. Buat aturan firewall ingress yang mengizinkan semua port dan protokol ke subnet cluster pelatihan.

      gcloud compute --project=PROJECT_ID firewall-rules create allow-internal \
      --direction=INGRESS --priority=1000 --network=NETWORK \
      --action=ALLOW --rules=tcp:1-65535,udp:1-65535,icmp \
      --source-ranges=192.168.0.0/19 --enable-logging
      

Men-deploy cluster pelatihan di VPC yang ada

Jika Anda men-deploy cluster pelatihan ke jaringan yang ada dengan instance Cloud Storage, sebaiknya gunakan jumbo frame (MTU 8896) untuk memastikan performa yang optimal. Sebelum memulai, pastikan sistem operasi dan aplikasi di VM yang ada dapat mendukung perubahan ini.

Penerapan jumbo frame memerlukan pembaruan MTU VPC, yang harus dilakukan selama masa pemeliharaan yang direncanakan untuk mencegah ketidakstabilan jaringan.

Satu-satunya prosedur yang aman adalah menghentikan semua instance VM yang berjalan di jaringan tersebut terlebih dahulu. Mengubah MTU saat VM aktif akan menghasilkan setelan yang tidak cocok dan konektivitas yang tidak dapat diandalkan.

Setelah semua VM dihentikan, Anda dapat melanjutkan dengan langkah-langkah berikut:

1. Ubah MTU jaringan ke setelan yang Anda pilih (misalnya, 8896).
2. Mulai ulang semua VM setelah pembaruan jaringan selesai.
3. Update VM non-Linux secara manual. Perlu diketahui bahwa memulai ulang ini tidak cukup untuk semua sistem operasi. Meskipun VM dari image Linux publik otomatis mengadopsi MTU baru, Anda harus mengupdate setelan MTU di dalam OS secara manual untuk semua VM Windows dan VM image kustom yang tidak menggunakan DHCP untuk konfigurasi MTU.

Persyaratan lebih lanjut:

• Aktifkan Akses Google Pribadi di subnet yang digunakan untuk men-deploy cluster.
• Buat aturan firewall ingress untuk memberikan akses IAP ke cluster.
• Buat aturan firewall ingress untuk mengizinkan semua traffic ke cluster.

Langkah berikutnya

Setelah menyiapkan jaringan VPC dengan setelan MTU dan aturan firewall yang benar, langkah berikutnya adalah membuat dan mengamankan cluster pelatihan.

• Verifikasi konfigurasi jaringan Anda: Sebelum membuat cluster, jalankan Uji Konektivitas untuk memverifikasi jaringan VPC dan setelan MTU Anda, terutama jika Anda mengubah VPC yang ada.
• Amankan cluster Anda dengan perimeter layanan: Untuk meningkatkan keamanan data, gunakan Kontrol Layanan VPC untuk membuat perimeter layanan di sekitar resource Gemini Enterprise Agent Platform Anda. Tindakan ini membantu mencegah pemindahan data yang tidak sah.
  • Pelajari Kontrol Layanan VPC dengan Gemini Enterprise Agent Platform
• Terhubung dari lingkungan hybrid atau multi-cloud: Untuk mengakses cluster pelatihan dari pusat data lokal atau cloud publik, gunakan Google Cloud's opsi untuk konektivitas hybrid.
  • Pelajari Cloud VPN
  • Pelajari Cloud Interconnect