Ringkasan kebijakan penempatan rapat dan kebijakan beban kerja

Dokumen ini memberikan ringkasan dan perbandingan kebijakan penempatan rapat dan kebijakan workload. Kedua kebijakan ini memungkinkan Anda mengonfigurasi penempatan instance virtual machine (VM) untuk meminimalkan latensi jaringan. Gunakan kebijakan penempatan ringkas untuk instance yang dibuat satu per satu atau secara massal, dan gunakan kebijakan workload untuk grup instance terkelola (MIG).

Secara default, Anda mengelola lokasi VM hanya dengan menentukan zonanya. Saat Anda menggunakan pemesanan untuk masa mendatang atau mulai fleksibel dengan permintaan pengubahan ukuran MIG untuk mendapatkan mesin A4X, A4, A3 Ultra, A3 Mega, dan A3 High (8 GPU), resource VM yang Anda terima secara default akan ditempatkan bersama secara padat. Namun, Anda mungkin ingin menempatkan VM tertentu lebih berdekatan untuk mengoptimalkan performa antar-VM di setiap aplikasi. Untuk menempatkan VM lebih berdekatan, Anda dapat menerapkan kebijakan penempatan ringkas ke VM atau kebijakan beban kerja throughput tinggi ke MIG.

Kebijakan penempatan rapat untuk VM

Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan Anda ingin VM sedekat mungkin (kepadatan maksimum), tentukan kolom maxDistance (Pratinjau) saat membuat kebijakan penempatan yang ringkas.

Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.

Kebijakan beban kerja untuk MIG

Kebijakan workload memungkinkan Anda menentukan jenis workload yang ingin dijalankan di infrastruktur Anda. Anda juga dapat menentukan properti fisik infrastruktur yang mendasarinya, seperti penempatan VM, agar paling sesuai dengan jenis yang ditentukan.

Anda membuat setelan konfigurasi berikut untuk kebijakan workload:

  • Jenis beban kerja (type): untuk beban kerja dengan throughput tinggi (high-throughput), Compute Engine berupaya sebaik mungkin untuk menempatkan VM sedekat mungkin satu sama lain. Penempatan VM bergantung pada jenis mesin dan ketersediaan zona VM.

  • Persyaratan tambahan untuk menggunakan topologi kolokasi ketat atau akselerator VM. Anda dapat menentukan salah satu hal berikut:

    • Kolokasi VM yang ketat (maxTopologyDistance): untuk mencapai performa jaringan yang terperinci dan latensi rendah. Kolokasi ketat berarti bahwa, selain upaya terbaik untuk menempatkan VM sedekat mungkin satu sama lain, Anda dapat menentukan lebih lanjut jarak maksimum antara VM. Jika persyaratan kolokasi ketat tidak terpenuhi karena batasan kapasitas, MIG tidak akan membuat VM.

    • Topologi akselerator VM (acceleratorTopology): untuk mencapai performa tinggi bagi beban kerja terdistribusi yang berjalan di beberapa VM yang menggunakan konfigurasi jaringan antar-akselerator khusus—misalnya, VM A4X yang menggunakan Domain NVLink untuk GPU.

Perbandingan kebijakan penempatan rapat dan kebijakan beban kerja

Tabel berikut merangkum perbedaan antara kebijakan penempatan ringkas dan kebijakan beban kerja:

Kebijakan penempatan rapat Kebijakan workload
Gunakan dengan referensi berikut
  • Instance mandiri
  • Instance yang di-deploy menggunakan Bulk API
 Grup instance terkelola (MIG)
Jenis mesin yang didukung Semua keluarga GPU A4X, A4, A3 Ultra, A3 Mega, dan A3 High (8 GPU)
Semantik pengelompokan

Compute Engine menempatkan instance yang menggunakan kebijakan penempatan rapat yang sama lebih berdekatan.

Sebaiknya gunakan kebijakan penempatan yang berbeda untuk setiap workload. Menggunakan kembali kebijakan penempatan di seluruh instance yang menjalankan workload yang berbeda akan menyebabkan semua instance tersebut ditempatkan bersama. Kolokasi ini dapat mempersulit pembuatan instance yang berdekatan saat Anda menskalakan beban kerja tertentu.

Compute Engine menempatkan instance dalam MIG yang menggunakan kebijakan workload lebih berdekatan.

Menggunakan kembali kebijakan workload di beberapa MIG yang menjalankan workload berbeda akan menempatkan instance di setiap MIG secara bersamaan. Penggunaan ulang ideal untuk model pelatihan besar yang setiap grup instancenya harus diisolasi satu sama lain.
Konfigurasi kolokasi VM

Untuk kolokasi VM dengan upaya terbaik, tetapkan kolom groupPlacementPolicy.collocation ke COLLOCATED.

Untuk kolokasi VM dengan upaya terbaik, tetapkan kolom workloadPolicy.type ke HIGH_THROUGHPUT.
Konfigurasi tambahan
  • Untuk penempatan VM yang ketat, tentukan kolom maxDistance.
  • Untuk kelompok GPU yang mendukung partisi, seperti A4X, tentukan kolom gpuTopology.
  • Untuk penempatan VM yang ketat, tentukan kolom maxTopologyDistance.
  • Untuk kelompok GPU yang mendukung partisi, seperti A4X, tentukan kolom acceleratorTopology.

Perbandingan nilai jarak maksimum

Nilai jarak maksimum yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak akan dibuat.

Tabel berikut menunjukkan seri mesin dan jumlah VM yang didukung oleh setiap nilai jarak maksimum:

maxDistance dalam kebijakan penempatan rapat maxTopologyDistance dalam kebijakan beban kerja Deskripsi Seri mesin yang didukung Jumlah VM maksimum
Tidak ditentukan (Tidak direkomendasikan) Tidak ditentukan (Tidak direkomendasikan) Compute Engine melakukan upaya terbaik untuk menempatkan VM sedekat mungkin satu sama lain, tetapi tanpa jarak maksimum antar-VM. A4, A3 Ultra, A3 Mega, A3 High (8 GPU) 1500
3 cluster Compute Engine membuat VM dalam blok yang berdekatan. A4 1.500
2 block Compute Engine membuat VM di blok yang sama. A4 dan A3 Ultra
  • Untuk VM A4: 150
  • Untuk VM A3 Ultra, A3 Mega, dan A3 High (8 GPU): 256

Langkah berikutnya