Membuat instance yang dioptimalkan untuk AI secara massal dengan A3 High atau A3 Mega

Dokumen ini menjelaskan cara membuat instance virtual machine (VM) secara massal yang menggunakan jenis mesin yang dioptimalkan akselerator A3 High atau A3 Mega. Untuk mempelajari jenis mesin lebih lanjut, lihat A3 High dan A3 Mega di dokumentasi Compute Engine.

Untuk mengetahui informasi selengkapnya tentang cara membuat VM secara massal, lihat artikel Tentang pembuatan VM secara massal dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat halaman Ringkasan.

Sebelum memulai

Sebelum membuat VM secara massal, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU.
Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan.
Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

In the Google Cloud console, activate Cloud Shell.

Activate Cloud Shell

At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

gcloud init

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Agar mendapatkan izin yang Anda perlukan untuk membuat VM secara massal, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM secara massal. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM secara massal:

compute.instances.create di project
Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
Untuk menyetel tag untuk VM: compute.instances.setTags di VM
Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
Untuk membuat disk baru bagi VM: compute.disks.create pada project
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat instance secara massal dengan jenis mesin a3h-or-a3m mencakup langkah-langkah berikut:

Membuat jaringan VPC
Opsional: Buat kebijakan penempatan rapat
Membuat instance secara massal

Membuat jaringan VPC

Untuk mengaktifkan komunikasi yang efisien bagi VM GPU Anda, Anda perlu membuat jaringan pengelolaan dan satu atau beberapa jaringan data. Jaringan pengelolaan digunakan untuk akses eksternal, misalnya SSH, dan untuk sebagian besar komunikasi jaringan umum. Jaringan data digunakan untuk komunikasi berperforma tinggi antara GPU di VM yang berbeda, misalnya, untuk traffic Remote Direct Memory Access (RDMA).

Untuk jaringan VPC ini, sebaiknya tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Nilai MTU yang lebih tinggi akan menambah ukuran paket dan mengurangi overhead header paket, sehingga meningkatkan throughput data payload. Untuk mengetahui informasi selengkapnya tentang cara membuat jaringan VPC, lihat Membuat dan memverifikasi jaringan MTU frame jumbo.

Membuat jaringan, subnet, dan aturan firewall pengelolaan

Selesaikan langkah-langkah berikut untuk menyiapkan jaringan pengelolaan:

Buat jaringan pengelolaan menggunakan perintah networks create:

gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

Buat subnet pengelolaan menggunakan perintah networks subnets create:

gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --region=REGION \
    --range=192.168.0.0/24

Buat aturan firewall menggunakan perintah firewall-rules create.

Buat aturan firewall untuk jaringan pengelolaan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16

Buat aturan firewall tcp:22 untuk membatasi alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=SSH_SOURCE_IP_RANGE

Buat aturan firewall icmp yang dapat digunakan untuk memeriksa masalah transmisi data di jaringan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=0.0.0.0/0

Ganti kode berikut:

NETWORK_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan dan subnet VPC.
PROJECT_ID: Project ID Anda.
REGION: region tempat Anda ingin membuat jaringan.
SSH_SOURCE_IP_RANGE: Rentang IP dalam format CIDR. Tindakan ini menentukan alamat IP sumber mana yang dapat terhubung ke VM Anda menggunakan SSH.

Membuat jaringan data, subnet, dan aturan firewall

Jumlah jaringan data bervariasi, bergantung pada jenis mesin GPU yang Anda buat.

A3 Mega

A3 Mega memerlukan delapan jaringan data. Untuk membuat delapan jaringan data, masing-masing dengan subnet dan aturan firewall, gunakan perintah berikut.

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 Tinggi

A3 Tinggi memerlukan empat jaringan data. Gunakan perintah berikut untuk membuat empat jaringan data, masing-masing dengan subnet dan aturan firewall.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

Opsional: Buat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan yang ringkas. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan melakukan upaya terbaik untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan Anda ingin VM berdekatan satu sama lain (kepadatan maksimum), tentukan kolom maxDistance (Pratinjau) saat membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak akan dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

POLICY_NAME: nama kebijakan penempatan yang ringkas.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda. Nilai harus 3 untuk menempatkan VM di blok yang berdekatan, atau 2 untuk menempatkan VM di blok yang sama. Untuk mengetahui informasi tentang jumlah maksimum VM yang didukung untuk setiap maxDistance per seri mesin, lihat Tentang kebijakan penempatan rapat dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan yang ringkas. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

PROJECT_ID: project ID Anda
POLICY_NAME: nama kebijakan penempatan yang ringkas.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda. Nilai harus 3 untuk menempatkan VM di blok yang berdekatan, atau 2 untuk menempatkan VM di blok yang sama. Untuk mengetahui informasi tentang jumlah maksimum VM yang didukung untuk setiap maxDistance per seri mesin, lihat Tentang kebijakan penempatan rapat dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan yang ringkas. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat VM A3 High atau A3 Mega secara massal

Untuk membuat VM A3 High atau A3 Mega secara massal, gunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Untuk membuat VM A3 High atau A3 Mega, gunakan perintah gcloud compute instances bulk create.

A3 Mega

Untuk membuat VM secara massal, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat dengan reservasi

Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat secara opsional.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- DISK_SIZE: ukuran boot disk dalam GB.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dicadangkan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai pemesanan.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat secara opsional.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- DISK_SIZE: ukuran boot disk dalam GB.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Jalankan perintah.

A3 Tinggi

Untuk membuat VM secara massal, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat dengan reservasi

Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat secara opsional.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 High, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- DISK_SIZE: ukuran boot disk dalam GB.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dicadangkan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai pemesanan.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat secara opsional.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 High, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- DISK_SIZE: ukuran boot disk dalam GB.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Jalankan perintah.

REST

Untuk membuat VM A3 High atau A3 Mega, gunakan metode instances.bulkInsert.

A3 Mega

Untuk membuat VM secara massal, buat permintaan POST ke instances.bulkInsert metode.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat dengan reservasi

Sebelum mengirimkan permintaan, tambahkan sub-bidang instanceProperties secara opsional untuk kebijakan penempatan compact ke isi permintaan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern":"NAME_PATTERN",
  "count":"COUNT",
  "instanceProperties":{
    "machineType":"MACHINE_TYPE",
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"DISK_TYPE",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "reservationAffinity":{
        "consumeReservationType":"SPECIFIC_RESERVATION",
        "key":"compute.googleapis.com/reservation-name",
        "values":[
          "RESERVATION"
        ]
      },
    "scheduling":{
        "provisioningModel":"RESERVATION_BOUND",
        "instanceTerminationAction":"DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart":true
      }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat VM.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- VM_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dicadangkan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai pemesanan.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan yang ringkas.
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tambahkan sub-bidang instanceProperties secara opsional untuk kebijakan penempatan compact ke isi permintaan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern":"NAME_PATTERN",
  "count":"COUNT",
  "instanceProperties":{
    "machineType":"MACHINE_TYPE",
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"DISK_TYPE",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat VM.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- VM_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan yang ringkas.
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Kirim permintaan.

A3 Tinggi

Untuk membuat VM secara massal, buat permintaan POST ke instances.bulkInsert metode.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat dengan reservasi

Sebelum mengirimkan permintaan, tambahkan sub-bidang instanceProperties secara opsional untuk kebijakan penempatan compact ke isi permintaan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern":"NAME_PATTERN",
  "count":"COUNT",
  "instanceProperties":{
    "machineType":"MACHINE_TYPE",
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"DISK_TYPE",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity":{
        "consumeReservationType":"SPECIFIC_RESERVATION",
        "key":"compute.googleapis.com/reservation-name",
        "values":[
          "RESERVATION"
        ]
      },
    "scheduling":{
        "provisioningModel":"RESERVATION_BOUND",
        "instanceTerminationAction":"DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart":true
      }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat VM.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- VM_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 High, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dicadangkan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai pemesanan.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan yang ringkas.
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tambahkan sub-bidang instanceProperties secara opsional untuk kebijakan penempatan compact ke isi permintaan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern":"NAME_PATTERN",
  "count":"COUNT",
  "instanceProperties":{
    "machineType":"MACHINE_TYPE",
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"DISK_TYPE",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat VM.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama VM. Misalnya, menggunakan vm-# untuk pola nama akan menghasilkan VM dengan nama seperti vm-1 dan vm-2, hingga jumlah VM yang ditentukan oleh --count.
- COUNT: jumlah VM yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Tentukan jenis mesin A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.
- VM_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB.
- DISK_TYPE: jenis boot disk. Sebaiknya gunakan hyperdisk-balanced.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk seri mesin A3 High, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan yang ringkas.
- POLICY_NAME: nama kebijakan penempatan yang ringkas.
Kirim permintaan.

Untuk mengetahui informasi selengkapnya tentang opsi konfigurasi saat membuat VM secara massal, lihat Membuat VM secara massal dalam dokumentasi Compute Engine.

Membuat instance yang dioptimalkan untuk AI secara massal dengan A3 High atau A3 Mega Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Sebelum memulai

Console

gcloud

REST

Peran yang diperlukan

Izin yang diperlukan

Ringkasan

Membuat jaringan VPC

Membuat jaringan, subnet, dan aturan firewall pengelolaan

Membuat jaringan data, subnet, dan aturan firewall

A3 Mega

A3 Tinggi

Opsional: Buat kebijakan penempatan rapat

gcloud

REST

Membuat VM A3 High atau A3 Mega secara massal

gcloud

A3 Mega

Terikat dengan reservasi

Spot

A3 Tinggi

Terikat dengan reservasi

Spot

REST

A3 Mega

Terikat dengan reservasi

Spot

A3 Tinggi

Terikat dengan reservasi

Spot

Langkah berikutnya

Membuat instance yang dioptimalkan untuk AI secara massal dengan A3 High atau A3 Mega