Membuat VM A3 High atau A3 Mega yang dioptimalkan untuk AI secara massal

GPU yang dikelompokkan

Dokumen ini menjelaskan cara membuat instance virtual machine (VM) secara massal yang menggunakan jenis mesin yang dioptimalkan akselerator A3 High atau A3 Mega. Untuk mempelajari lebih lanjut jenis mesin, lihat Tentang akselerator GPU.

Untuk mengetahui informasi selengkapnya tentang cara membuat VM secara massal, lihat artikel Tentang pembuatan VM secara massal dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat halaman Ringkasan.

Batasan

Saat Anda membuat VM A3 High atau A3 Mega secara massal, batasan berikut berlaku:

A3 Tinggi

• Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Tinggi.
• Anda hanya dapat menggunakan jenis mesin A3 High di region dan zona tertentu.
• Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 High.
• Jenis mesin A3 High hanya tersedia di platform CPU Sapphire Rapids.
• Perubahan jenis mesin tidak didukung untuk jenis mesin A3 High. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
• Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 High.
• Untuk jenis mesin a3-highgpu-1g, a3-highgpu-2g, dana3-highgpu-4g, Anda harus membuat instance menggunakan Spot VM atau VM mulai fleksibel. Untuk mengetahui petunjuk mendetail tentang opsi ini, tinjau artikel berikut:
  • Untuk membuat Spot VM, tetapkan model penyediaan ke SPOT saat Anda membuat VM yang dioptimalkan akselerator.
  • Untuk membuat VM mulai fleksibel, Anda dapat menggunakan salah satu metode berikut:
    • Buat VM mandiri dan tetapkan model penyediaan ke FLEX_START saat Anda membuat VM yang dioptimalkan akselerator.
    • Buat permintaan perubahan ukuran di grup instance terkelola (MIG). Untuk mengetahui petunjuknya, lihat Membuat MIG dengan VM GPU.
• Anda hanya dapat menggunakan Confidential VM dengan jenis mesin a3-highgpu-1g di region dan zona terbatas, dan semua batasan untuk Confidential VM yang berjalan di jenis mesin A3 High berlaku.

A3 Mega

• Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Mega.
• Anda hanya dapat menggunakan jenis mesin A3 Mega di region dan zona tertentu.
• Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 Mega.
• Jenis mesin A3 Mega hanya tersedia di platform CPU Sapphire Rapids.
• Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Mega. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
• Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Mega.

Sebelum memulai

Sebelum membuat VM secara massal, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

1. Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
2. Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

gcloud

Di konsol Google Cloud , aktifkan Cloud Shell.

Aktifkan Cloud Shell

Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan perintah command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Agar mendapatkan izin yang Anda perlukan untuk membuat VM secara massal, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM secara massal. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM secara massal:

• compute.instances.create di project
• Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
• Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
• Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
• Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
• Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
• Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
• Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
• Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
• Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
• Untuk menyetel tag untuk VM: compute.instances.setTags di VM
• Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
• Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
• Untuk membuat disk baru untuk VM: compute.disks.create pada project
• Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
• Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat instance secara massal dengan jenis mesin A3 Mega atau A3 High (8 GPU) mencakup langkah-langkah berikut:

1. Membuat jaringan VPC
2. Opsional: Buat kebijakan penempatan rapat
3. Membuat instance secara massal
4. Menginstal driver GPU
5. Opsional: Aktifkan mode GPU Multi-Instance NVIDIA

Membuat jaringan VPC

Untuk mengaktifkan komunikasi yang efisien bagi VM GPU Anda, Anda perlu membuat jaringan pengelolaan dan satu atau beberapa jaringan data. Jaringan pengelolaan digunakan untuk akses eksternal, misalnya SSH, dan untuk sebagian besar komunikasi jaringan umum. Jaringan data digunakan untuk komunikasi berperforma tinggi antar-GPU di VM yang berbeda, misalnya, untuk traffic Remote Direct Memory Access (RDMA).

Untuk jaringan VPC ini, sebaiknya tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Nilai MTU yang lebih tinggi akan menambah ukuran paket dan mengurangi overhead header paket, sehingga meningkatkan throughput data payload. Untuk mengetahui informasi selengkapnya tentang cara membuat jaringan VPC, lihat Membuat dan memverifikasi jaringan MTU frame jumbo.

Membuat jaringan, subnet, dan aturan firewall pengelolaan

Selesaikan langkah-langkah berikut untuk menyiapkan jaringan pengelolaan:

1. Buat jaringan pengelolaan menggunakan perintah networks create:

   gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
       --project=PROJECT_ID \
       --subnet-mode=custom \
       --mtu=8244
   

2. Buat subnet pengelolaan menggunakan perintah networks subnets create:

   gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
       --project=PROJECT_ID \
       --network=NETWORK_NAME_PREFIX-mgmt-net \
       --region=REGION \
       --range=192.168.0.0/24
   

3. Buat aturan firewall menggunakan perintah firewall-rules create.

   1. Buat aturan firewall untuk jaringan pengelolaan.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:0-65535,udp:0-65535,icmp \
          --source-ranges=192.168.0.0/16
      

   2. Buat aturan firewall tcp:22 untuk membatasi alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=SSH_SOURCE_IP_RANGE
      

   3. Buat aturan firewall icmp yang dapat digunakan untuk memeriksa masalah transmisi data di jaringan.

      gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
          --project=PROJECT_ID \
          --network=NETWORK_NAME_PREFIX-mgmt-net \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=0.0.0.0/0
      

Ganti kode berikut:

• NETWORK_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan dan subnet VPC.
• PROJECT_ID: Project ID Anda.
• REGION: region tempat Anda ingin membuat jaringan.
• SSH_SOURCE_IP_RANGE: Rentang IP dalam format CIDR. Tindakan ini menentukan alamat IP sumber mana yang dapat terhubung ke VM Anda menggunakan SSH.

Membuat jaringan data, subnet, dan aturan firewall

Jumlah jaringan data bervariasi, bergantung pada jenis mesin GPU yang Anda buat.

A3 Mega

A3 Mega memerlukan delapan jaringan data. Untuk membuat delapan jaringan data, masing-masing dengan subnet dan aturan firewall, gunakan perintah berikut.

for N in $(seq 1 8); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

A3 Tinggi

A3 High memerlukan empat jaringan data. Gunakan perintah berikut untuk membuat empat jaringan data, masing-masing dengan subnet dan aturan firewall.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

Jika Anda ingin menggunakan kebijakan penempatan rapat, tinjau batasan untuk kebijakan penempatan.

Opsional: Buat kebijakan penempatan rapat

Tips: Tentukan apakah akan membuat kebijakan penempatan rapat sebagai berikut:

• Jika Anda ingin menempatkan VM pada blok tertentu, gunakan model penyediaan terikat reservasi, lewati langkah ini, dan berikan nama blok saat Anda membuat VM.
• Jika Anda ingin menempatkan VM dalam satu blok atau blok yang berdekatan, tentukan penempatan VM dengan membuat kebijakan penempatan rapat dan menerapkannya saat Anda membuat VM.

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

• POLICY_NAME: nama kebijakan penempatan rapat.
• MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda --max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
  • Untuk menempatkan VM di sub-blok yang sama: 1
  • Untuk menempatkan VM dalam blok yang sama: 2
  • Untuk menempatkan VM di blok yang berdekatan: 3
  Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
• REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

• PROJECT_ID: project ID Anda.
• POLICY_NAME: nama kebijakan penempatan rapat.
• MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
  • Untuk menempatkan VM di sub-blok yang sama: 1
  • Untuk menempatkan VM dalam blok yang sama: 2
  • Untuk menempatkan VM di blok yang berdekatan: 3
  Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
• REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat VM A3 High atau A3 Mega secara massal

Untuk membuat VM A3 High atau A3 Mega secara massal, gunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Pilih salah satu opsi berikut untuk seri mesin.

A3 Mega

Untuk membuat beberapa instance sekaligus, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk reservasi. Pilih tab yang sesuai dengan jenis reservasi yang ingin Anda gunakan.

• Gunakan parameter Terikat reservasi, yang menentukan model penyediaan terikat reservasi, untuk hal berikut:

  • Pemesanan untuk masa mendatang di AI Hypercomputer
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Reservasi standar, yang menentukan model penyediaan standar, untuk berikut ini:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Terikat dengan reservasi

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:

     • Untuk membuat instance di seluruh blok atau pada satu blok:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.

     • Untuk membuat instance di blok tertentu:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A3 Mega atau A3 High (8 GPU) di akhir periode reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

Reservasi standar

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi pemakaian.

     • specific (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.

     • Jika Anda menentukan specific, ganti RESERVATION dengan yang berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

   --no-restart-on-failure

3. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
4. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Catatan: Jika Anda ingin penggunaan kapasitas reservasi menjadi wajib, ikuti langkah-langkah Reservasi.

     • none (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

   --no-restart-on-failure

3. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
4. Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-5,subnet=GVNIC_NAME_PREFIX-sub-5,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-6,subnet=GVNIC_NAME_PREFIX-sub-6,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-7,subnet=GVNIC_NAME_PREFIX-sub-7,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-8,subnet=GVNIC_NAME_PREFIX-sub-8,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

     Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

A3 Tinggi

Untuk membuat beberapa instance sekaligus, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Penting: Untuk VM Tinggi A3, kecuali jika Anda menggunakan jenis mesin a3-highgpu-8g, hanya VM Mulai Fleksibel dan Spot VM yang didukung.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk reservasi. Pilih tab yang sesuai dengan jenis reservasi yang ingin Anda gunakan.

• Gunakan parameter Terikat reservasi, yang menentukan model penyediaan terikat reservasi, untuk hal berikut:

  • Pemesanan untuk masa mendatang di AI Hypercomputer
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Reservasi standar, yang menentukan model penyediaan standar, untuk berikut ini:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Terikat dengan reservasi

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:

     • Untuk membuat instance di seluruh blok atau pada satu blok:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.

     • Untuk membuat instance di blok tertentu:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A3 Mega atau A3 High (8 GPU) di akhir periode reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

Reservasi standar

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi pemakaian.

     • specific (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.

     • Jika Anda menentukan specific, ganti RESERVATION dengan yang berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

   --no-restart-on-failure

3. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
4. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Catatan: Jika Anda ingin penggunaan kapasitas reservasi menjadi wajib, ikuti langkah-langkah Reservasi.

     • none (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

   --no-restart-on-failure

3. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
4. Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.

   • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

     Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:

   --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

REST

Pilih salah satu opsi berikut untuk seri mesin.

A3 Mega

Untuk membuat instance secara massal, buat permintaan POST ke metode instances.bulkInsert.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk reservasi. Pilih tab yang sesuai dengan jenis reservasi yang ingin Anda gunakan.

• Gunakan parameter Terikat reservasi, yang menentukan model penyediaan terikat reservasi, untuk hal berikut:

  • Pemesanan untuk masa mendatang di AI Hypercomputer
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Reservasi standar, yang menentukan model penyediaan standar, untuk berikut ini:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Terikat dengan reservasi

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.
   • RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:

     • Untuk membuat instance di seluruh blok atau pada satu blok:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.

     • Untuk membuat instance di blok tertentu:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A3 Mega atau A3 High (8 GPU) di akhir periode reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Reservasi standar

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi pemakaian.

     • SPECIFIC_RESERVATION (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.

     • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan yang berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Catatan: Jika Anda ingin penggunaan kapasitas reservasi menjadi wajib, ikuti langkah-langkah Reservasi.

     • NO_RESERVATION (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-5",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-6",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-7",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-7"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-8",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-8"
      },
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru, atau gunakan rocky-linux-accelerator-cloud untuk image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Mega, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis atau menggunakan image Rocky Linux rocky-linux-8-optimized-gcp-nvidia-580.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

     Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

A3 Tinggi

Untuk membuat instance secara massal, buat permintaan POST ke metode instances.bulkInsert.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Penting: Untuk VM Tinggi A3, kecuali jika Anda menggunakan jenis mesin a3-highgpu-8g, hanya VM Mulai Fleksibel dan Spot VM yang didukung.

Reservasi

Instance A3 Mega atau A3 High (8 GPU) mendukung beberapa model penyediaan untuk reservasi. Pilih tab yang sesuai dengan jenis reservasi yang ingin Anda gunakan.

• Gunakan parameter Terikat reservasi, yang menentukan model penyediaan terikat reservasi, untuk hal berikut:

  • Pemesanan untuk masa mendatang di AI Hypercomputer
  • Pemesanan untuk masa mendatang dalam mode kalender

• Gunakan parameter Reservasi standar, yang menentukan model penyediaan standar, untuk berikut ini:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Terikat dengan reservasi

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.
   • RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:

     • Untuk membuat instance di seluruh blok atau pada satu blok:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.

     • Untuk membuat instance di blok tertentu:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A3 Mega atau A3 High (8 GPU) di akhir periode reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Reservasi standar

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi pemakaian.

     • SPECIFIC_RESERVATION (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

   • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

     • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.

     • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan yang berikut:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Ganti kode berikut:

       • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
       Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
       • RESERVATION_NAME: nama pemesanan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

   • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

     • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

     Catatan: Jika Anda ingin penggunaan kapasitas reservasi menjadi wajib, ikuti langkah-langkah Reservasi.

     • NO_RESERVATION (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      },
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • PROJECT_ID: project ID project tempat Anda ingin membuat instance A3 Mega atau A3 High (8 GPU).
   • ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • NAME_PATTERN: pola nama yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A3 Mega atau A3 High (8 GPU) dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A3 Mega atau A3 High (8 GPU) yang ditentukan oleh --count.
   • COUNT: jumlah instance A3 Mega atau A3 High (8 GPU) yang akan dibuat.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Mega atau A3 High (8 GPU). Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
   • IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 High, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
   • NETWORK_PROJECT_ID: project ID jaringan.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
   • REGION: region subnetwork.

   • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

     Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.

2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:

       "resourcePolicies": [
         "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
       ]
   

   Ganti kode berikut:

   • PROJECT_ID: project ID kebijakan penempatan ringkas.
   • REGION: region kebijakan penempatan rapat.
   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Kirim permintaan.

Untuk mengetahui informasi selengkapnya tentang opsi konfigurasi saat membuat VM secara massal, lihat Membuat VM secara massal dalam dokumentasi Compute Engine.

Menginstal driver GPU

Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan image OS yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Mode Multi-Instance GPU (MIG) adalah fitur yang dapat Anda aktifkan untuk GPU NVIDIA yang didukung. Setelah membuat instance, Anda dapat mengaktifkan mode MIG pada satu GPU yang terpasang ke mesin Anda. Dengan mengaktifkan mode MIG, satu GPU dipartisi menjadi hingga tujuh instance GPU independen. Setiap instance berjalan secara bersamaan, masing-masing dengan memori, cache, dan multiprosesor streaming-nya sendiri. Kemudian, Anda dapat menjalankan berbagai workload pada instance GPU ini secara paralel. Untuk mengetahui informasi selengkapnya tentang penggunaan mode MIG, lihat Panduan Pengguna Multi-Instance GPU (MIG) dalam dokumentasi NVIDIA.

Langkah berikutnya

• Memverifikasi pemakaian reservasi
• Melihat topologi instance komputasi
• Ringkasan menjalankan beban kerja
• Memecahkan masalah pemakaian pemesanan