Membuat MIG HPC dengan seri mesin H4D

Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan jenis mesin H4D.

Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entity. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola VM dalam grup secara otomatis, MIG menawarkan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola.

Untuk mempelajari opsi pembuatan VM HPC dan cluster HPC, lihat Ringkasan pembuatan cluster HPC.

Jika Anda ingin membuat MIG, tetapi tidak menggunakan jenis mesin H4D, atau tidak perlu membuat deployment padat instance, lihat Skenario dasar untuk membuat grup instance terkelola (MIG).

Sebelum memulai

  • Pilih opsi konsumsi: untuk membuat instance komputasi secara massal dan mengaktifkan kemampuan pengelolaan cluster yang ditingkatkan, Anda dapat memilih Pemesanan untuk Masa Mendatang dalam mode Kalender atau Spot VM.

    Jika Anda memilih untuk menggunakan Spot VM, VM mungkin tidak ditempatkan secara rapat. Selain itu, Spot VM dapat di-preempt sesuai kebutuhan dan tidak memenuhi syarat untuk mengelola peristiwa pemeliharaan host untuk grup VM.

  • Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi konsumsi.

    Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian dan mendapatkan kapasitas.

  • Siapkan autentikasi jika Anda belum melakukannya. Autentikasi memverifikasi identitas Anda untuk mengakses layanan Google Cloud dan API. Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine dengan memilih salah satu opsi berikut:

    Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

    Konsol

    Saat menggunakan konsol Google Cloud untuk mengakses layanan dan API Google Cloud , Anda tidak perlu menyiapkan autentikasi.

    gcloud

    1. Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

      gcloud init

      Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

  • Tetapkan region dan zona default.
  • REST

    Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

      Instal Google Cloud CLI.

      Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

    Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Ringkasan

Membuat MIG dengan jenis mesin H4D mencakup langkah-langkah berikut:

  1. Membuat jaringan VPC
  2. Opsional: Buat kebijakan beban kerja Opsional: Buat kebijakan penempatan rapat
  3. Membuat template instance
  4. Buat MIG.
  5. Menginstal driver GPU

Batasan

Saat Anda membuat MIG dengan VM H4D, batasan berikut berlaku:

  • Anda harus menonaktifkan perbaikan di MIG, seperti yang dijelaskan dalam dokumen ini.

Batasan untuk permintaan perubahan ukuran MIG

Untuk permintaan pengubahan ukuran MIG, batasan berikut berlaku:

Untuk mengetahui informasi selengkapnya, lihat semua batasan untuk permintaan ubah ukuran.

Opsional: Buat jaringan VPC

Saat membuat instance komputasi, Anda dapat menentukan jaringan dan subnet VPC. Jika Anda menghapus konfigurasi ini, jaringan dan subnet default akan digunakan.

Jika Anda ingin mengonfigurasi instance H4D di MIG untuk menggunakan Cloud RDMA, selesaikan langkah-langkah di bagian ini. Jika tidak, Anda dapat melewati bagian ini dan menggunakan jaringan default.

Untuk menggunakan Cloud RDMA dengan instance H4D, Anda harus mengonfigurasi setidaknya dua jaringan, satu untuk setiap jenis antarmuka jaringan (NIC):

  • Jenis NIC GVNIC: menggunakan driver gve untuk traffic TCP/IP dan Internet untuk komunikasi VM-VM dan VM-Internet normal.
  • Jenis NIC IRDMA: menggunakan driver IDPF/iRDMA untuk jaringan Cloud RDMA antar-instance.

Instance yang menggunakan Cloud RDMA hanya dapat memiliki satu antarmuka IRDMA. Anda dapat menambahkan hingga delapan antarmuka jaringan GVNIC tambahan untuk total 10 vNIC per instance.

Untuk menyiapkan jaringan VPC Falcon yang akan digunakan dengan instance, Anda dapat mengikuti petunjuk yang terdokumentasi atau menggunakan skrip yang disediakan.

Panduan petunjuk

Untuk membuat jaringan, Anda dapat menggunakan petunjuk berikut:

Skrip

Anda dapat membuat hingga sembilan antarmuka jaringan gVNIC dan satu antarmuka jaringan IRDMA per instance. Setiap antarmuka jaringan harus terpasang ke jaringan yang berbeda. Untuk membuat jaringan, Anda dapat menggunakan skrip berikut, yang membuat dua jaringan untuk gVNIC dan satu jaringan untuk IRDMA.

  1. Opsional: Sebelum menjalankan skrip, cantumkan profil jaringan VPC Falcon untuk memverifikasi bahwa ada satu profil yang tersedia.
      gcloud compute network-profiles list
      
  2. Salin kode berikut dan eksekusi di jendela shell Linux.

      #!/bin/bash
      # Set the number of GVNIC interfaces to create. You can create up to 9.
      NUM_GVNIC=NUMBER_OF_GVNIC
    
      # Create regular VPC networks and subnets for the GVNIC interfaces
        for N in $(seq 0 $(($NUM_GVNIC - 1))); do
          gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
              --subnet-mode=custom
    
          gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
              --network=GVNIC_NAME_PREFIX-net-$N \
              --region=REGION \
              --range=10.$N.0.0/16
    
          gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
              --network=GVNIC_NAME_PREFIX-net-$N \
              --action=ALLOW \
              --rules=tcp:0-65535,udp:0-65535,icmp \
              --source-ranges=10.0.0.0/8
      done
    
      # Create SSH firewall rules
      gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
          --network=GVNIC_NAME_PREFIX-net-0 \
          --action=ALLOW \
          --rules=tcp:22 \
          --source-ranges=IP_RANGE
    
      # Optional: Create a firewall rule for the external IP address for the
      #  first GVNIC network interface
      gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
          --network=GVNIC_NAME_PREFIX-net-0 \
          --action=ALLOW \
          --rules=icmp \
          --source-ranges=IP_RANGE
    
      # Create a Falcon VPC network for the Cloud RDMA network interface
      gcloud compute networks create RDMA_NAME_PREFIX-irdma \
          --network-profile=ZONE-vpc-falcon \
          --subnet-mode custom
    
      # Create a subnet in the Falcon VPC network
      gcloud compute networks subnets create RDMA_NAME_PREFIX-irdma-sub \
          --network=RDMA_NAME_PREFIX-irdma \
          --region=REGION \
          --range=10.2.0.0/16  # offset to avoid overlap with GVNIC subnet ranges
      

    Ganti kode berikut:

    • NUMBER_OF_GVNIC: jumlah antarmuka GVNIC yang akan dibuat. Tentukan angka dari 1 hingga 9.
    • GVNIC_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan VPC reguler dan subnet yang menggunakan jenis NIC GVNIC.
    • REGION: region tempat Anda ingin membuat jaringan. Zona ini harus sesuai dengan zona yang ditentukan untuk flag --network-profile, saat membuat jaringan VPC Falcon. Misalnya, jika Anda menentukan zona sebagai europe-west4-b, maka region Anda adalah europe-west4.
    • IP_RANGE: rentang alamat IP di luar jaringan VPC yang akan digunakan untuk aturan firewall SSH. Sebagai praktik terbaik, tentukan rentang alamat IP tertentu yang perlu Anda izinkan aksesnya, bukan semua sumber IPv4 atau IPv6. Jangan gunakan 0.0.0.0/0 atau ::/0 sebagai rentang sumber karena hal ini mengizinkan traffic dari semua sumber IPv4 atau IPv6, termasuk sumber di luar Google Cloud.
    • RDMA_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan VPC dan subnet yang menggunakan jenis NIC IRDMA.
    • ZONE: zona tempat Anda ingin membuat jaringan dan instance komputasi. Gunakan salah satu dari us-central1-a atau europe-west4-b.
  3. Opsional: Untuk memverifikasi bahwa resource jaringan VPC berhasil dibuat, periksa setelan jaringan di konsol Google Cloud :

    1. Di konsol Google Cloud , buka halaman VPC networks.

      Buka jaringan VPC

    2. Telusuri daftar untuk menemukan jaringan yang Anda buat pada langkah sebelumnya.
    3. Untuk melihat subnet, aturan firewall, dan setelan jaringan lainnya, klik nama jaringan.

Opsional: Buat kebijakan beban kerja

Jika Anda ingin Compute Engine menempatkan instance VM dalam satu blok atau blok yang berdekatan, tentukan penempatan instance dengan membuat kebijakan workload. Namun, jika Anda ingin Compute Engine menempatkan instance di blok tertentu, lewati langkah ini dan berikan nama blok dalam afinitas pemesanan saat Anda membuat template instance.

Untuk membuat kebijakan workload, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan workload, gunakan perintah gcloud compute resource-policies create workload-policy.

  • Untuk penempatan VM dengan upaya terbaik, tentukan tanda --type=high-throughput dalam perintah:

    gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
        --type=high-throughput \
        --region=REGION
    
  • Untuk kolokasi ketat VM, tentukan flag --max-topology-distance dan --type=high-throughput dalam perintah:

    gcloud compute resource-policies create workload-policy WORKLOAD_POLICY_NAME \
        --type=high-throughput \
        --max-topology-distance=TOPOLOGY_DISTANCE \
        --region=REGION
    

Ganti kode berikut:

  • WORKLOAD_POLICY_NAME: nama kebijakan workload.
  • TOPOLOGY_DISTANCE: jarak topologi maksimum. Tentukan salah satu nilai berikut:
    • Untuk menempatkan VM di sub-blok yang sama: SUBBLOCK
    • Untuk menempatkan VM di blok yang sama: BLOCK
    • Untuk menempatkan VM di cluster yang sama: CLUSTER
    Catatan: Jarak maksimum yang lebih pendek dapat mengurangi probabilitas ketersediaan VM. Untuk mengetahui informasi selengkapnya, lihat Properti jarak topologi maksimum.
  • REGION: region tempat Anda ingin membuat kebijakan workload. Tentukan region tempat Anda ingin membuat MIG dan jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region dan zona, lihat Region dan zona yang tersedia.

REST

Untuk membuat kebijakan beban kerja, buat permintaan POST ke metode resourcePolicies.insert.

  • Untuk penempatan VM dengan upaya terbaik, tentukan kolom type dalam permintaan sebagai berikut:

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
      {
        "name": "WORKLOAD_POLICY_NAME"
        "workloadPolicy": {
          "type": "HIGH_THROUGHPUT"
        }
      }
    
  • Untuk kolokasi ketat VM, tentukan kolom maxTopologyDistance dan type dalam permintaan sebagai berikut:

    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
      {
        "name": "WORKLOAD_POLICY_NAME"
        "workloadPolicy": {
          "type": "HIGH_THROUGHPUT",
          "maxTopologyDistance": "TOPOLOGY_DISTANCE"
        }
      }
    

Ganti kode berikut:

  • PROJECT_ID: project ID Anda
  • REGION: region tempat Anda ingin membuat kebijakan workload. Tentukan region tempat Anda ingin membuat MIG dan jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region dan zona, lihat Region dan zona yang tersedia.
  • WORKLOAD_POLICY_NAME: nama kebijakan workload.
  • TOPOLOGY_DISTANCE: jarak topologi maksimum. Tentukan salah satu nilai berikut:
    • Untuk menempatkan VM di sub-blok yang sama: SUBBLOCK
    • Untuk menempatkan VM di blok yang sama: BLOCK
    • Untuk menempatkan VM di cluster yang sama: CLUSTER
    Catatan: Jarak maksimum yang lebih pendek dapat mengurangi probabilitas ketersediaan VM. Untuk mengetahui informasi selengkapnya, lihat Properti jarak topologi maksimum.

Membuat template instance

Untuk menentukan properti instance dan konsumsi untuk setiap instance di MIG, buat template instance menggunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses oleh instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian dan model penyediaan Anda.

Flex-start

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-0, \
      subnet=GVNIC_NAME_PREFIX-sub-0, \
      stack-type=STACK_TYPE, \
      address=EXTERNAL_IPV4_ADDRESS \
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-1, \
      subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
--network-interface=nic-type=IRDMA, \
      network=RDMA_NAME_PREFIX-irdma, \
      subnet=RDMA_NAME_PREFIX-irdma-sub, \
      stack-type=IPV4_ONLY,no-address \
    
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin H4D yang akan digunakan untuk instance.
  • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • STACK_TYPE: Opsional: jenis stack yang akan digunakan untuk antarmuka gVNIC. Tentukan IPV4_ONLY atau IPV4_IPV6. Jika Anda tidak menentukan nilai, IPV4_ONLY akan digunakan secara default.
  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis yang akan digunakan dengan antarmuka jaringan gVNIC. Anda sebelumnya harus sudah mencadangkan alamat IPv4 eksternal. Lakukan salah satu hal berikut:

    • Tentukan alamat IPv4 yang valid dari subnet.
    • Gunakan tanda no-address jika Anda tidak ingin antarmuka jaringan memiliki alamat IP eksternal.
    • Tentukan address='' jika Anda ingin antarmuka jaringan menerima alamat IP eksternal sementara.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • RUN_DURATION: durasi yang Anda inginkan untuk menjalankan instance yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s masing-masing. Misalnya, tentukan 30m selama 30 menit atau 1d2h3m4s selama satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.

Terikat reservasi

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-0, \
      subnet=GVNIC_NAME_PREFIX-sub-0, \
      stack-type=STACK_TYPE, \
      address=EXTERNAL_IPV4_ADDRESS \
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-1, \
      subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
--network-interface=nic-type=IRDMA, \
      network=RDMA_NAME_PREFIX-irdma, \
      subnet=RDMA_NAME_PREFIX-irdma-sub, \
      stack-type=IPV4_ONLY,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin H4D yang akan digunakan untuk instance.
  • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • STACK_TYPE: Opsional: jenis stack yang akan digunakan untuk antarmuka gVNIC. Tentukan IPV4_ONLY atau IPV4_IPV6. Jika Anda tidak menentukan nilai, IPV4_ONLY akan digunakan secara default.
  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis untuk digunakan dengan antarmuka jaringan gVNIC. Anda sebelumnya harus sudah mencadangkan alamat IPv4 eksternal. Lakukan salah satu hal berikut:

    • Tentukan alamat IPv4 yang valid dari subnet.
    • Gunakan tanda no-address jika Anda tidak ingin antarmuka jaringan memiliki alamat IP eksternal.
    • Tentukan address='' jika Anda ingin antarmuka jaringan menerima alamat IP eksternal sementara.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • RESERVATION: nama reservasi yang ingin Anda gunakan.

    RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
    • Untuk membuat instance di seluruh blok atau pada satu blok:

      projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

      Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian akan menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

    • Untuk membuat instance pada blok tertentu:

      projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

Spot

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-0, \
      subnet=GVNIC_NAME_PREFIX-sub-0, \
      stack-type=STACK_TYPE, \
      address=EXTERNAL_IPV4_ADDRESS \
--network-interface=nic-type=GVNIC, \
      network=GVNIC_NAME_PREFIX-net-1, \
      subnet=GVNIC_NAME_PREFIX-sub-1,no-address \
--network-interface=nic-type=IRDMA, \
      network=RDMA_NAME_PREFIX-irdma, \
      subnet=RDMA_NAME_PREFIX-irdma-sub, \
      stack-type=IPV4_ONLY,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin H4D yang akan digunakan untuk instance.
  • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • STACK_TYPE: Opsional: jenis stack yang akan digunakan untuk antarmuka gVNIC. Tentukan IPV4_ONLY atau IPV4_IPV6. Jika Anda tidak menentukan nilai, IPV4_ONLY akan digunakan secara default.
  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis untuk digunakan dengan antarmuka jaringan gVNIC. Anda harus sudah mencadangkan alamat IPv4 eksternal sebelumnya. Lakukan salah satu hal berikut:

    • Tentukan alamat IPv4 yang valid dari subnet.
    • Gunakan tanda no-address jika Anda tidak ingin antarmuka jaringan memiliki alamat IP eksternal.
    • Tentukan address='' jika Anda ingin antarmuka jaringan menerima alamat IP eksternal sementara.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) Spot VM saat preemption.

REST

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi konsumsi dan model penyediaan Anda.

Flex-start

Untuk membuat template instance regional, buat permintaan POST ke regionInstanceTemplates.insert method.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name":"INSTANCE_TEMPLATE_NAME",
  "properties":{
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"hyperdisk-balanced",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "machineType":"MACHINE_TYPE",
    
        "networkInterfaces": [
        {
          "network": "GVNIC_NAME_PREFIX-net-0",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-0",
          "accessConfigs": [
            {
                "type": "ONE_TO_ONE_NAT",
                "name": "External IP",
                "natIP": "EXTERNAL_IPV4_ADDRESS"
            }
          ],
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "GVNIC_NAME_PREFIX-net-1",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-1",
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "RDMA_NAME_PREFIX-irdma",
          "subnetwork": "RDMA_NAME_PREFIX-irdma-sub",
          "stackType": "IPV4_ONLY",
          "nicType": "IRDMA",
      }
    ],
,
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance. Tentukan jenis mesin H4D. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin H4D.
  • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Region dan zona.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis untuk digunakan dengan antarmuka jaringan gVNIC. Anda sebelumnya harus sudah mencadangkan alamat IPv4 eksternal.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk menjalankan instance yang diminta. Nilai harus antara 600, yaitu 600 detik (10 menit), dan 604800, yaitu 604.800 detik (tujuh hari).

Terikat dengan reservasi

Untuk membuat template instance regional, buat permintaan POST ke metode regionInstanceTemplates.insert.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name":"INSTANCE_TEMPLATE_NAME",
  "properties":{
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"hyperdisk-balanced",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "machineType":"MACHINE_TYPE",
    
        "networkInterfaces": [
        {
          "network": "GVNIC_NAME_PREFIX-net-0",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-0",
          "accessConfigs": [
            {
                "type": "ONE_TO_ONE_NAT",
                "name": "External IP",
                "natIP": "EXTERNAL_IPV4_ADDRESS"
            }
          ],
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "GVNIC_NAME_PREFIX-net-1",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-1",
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "RDMA_NAME_PREFIX-irdma",
          "subnetwork": "RDMA_NAME_PREFIX-irdma-sub",
          "stackType": "IPV4_ONLY",
          "nicType": "IRDMA",
      }
    ],
,
    "reservationAffinity":{
        "consumeReservationType":"SPECIFIC_RESERVATION",
        "key":"compute.googleapis.com/reservation-name",
        "values":[
          "RESERVATION"
        ]
      },
    "scheduling":{
        "provisioningModel":"RESERVATION_BOUND",
        "instanceTerminationAction":"DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart":true
      }
  }
}

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance. Tentukan jenis mesin H4D. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin H4D.
  • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Region dan zona.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis untuk digunakan dengan antarmuka jaringan gVNIC. Anda sebelumnya harus sudah mencadangkan alamat IPv4 eksternal.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • RESERVATION: nama reservasi yang ingin Anda gunakan.

    RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama pemesanan atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan Anda untuk penempatan instance, pilih salah satu opsi berikut:
    • Untuk membuat instance di seluruh blok atau pada satu blok:

      projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

      Selain itu, untuk satu blok, buat MIG dengan menerapkan kebijakan workload yang menentukan kolokasi blok (maxTopologyDistance=BLOCK) . Compute Engine kemudian akan menerapkan kebijakan ke pemesanan dan membuat instance di blok yang sama.

    • Untuk membuat instance pada blok tertentu:

      projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

Spot

Untuk membuat template instance regional, buat permintaan POST ke regionInstanceTemplates.insert method.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name":"INSTANCE_TEMPLATE_NAME",
  "properties":{
    "disks":[
      {
        "boot":true,
        "initializeParams":{
          "diskSizeGb":"DISK_SIZE",
          "diskType":"hyperdisk-balanced",
          "sourceImage":"projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode":"READ_WRITE",
        "type":"PERSISTENT"
      }
    ],
    "machineType":"MACHINE_TYPE",
    
        "networkInterfaces": [
        {
          "network": "GVNIC_NAME_PREFIX-net-0",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-0",
          "accessConfigs": [
            {
                "type": "ONE_TO_ONE_NAT",
                "name": "External IP",
                "natIP": "EXTERNAL_IPV4_ADDRESS"
            }
          ],
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "GVNIC_NAME_PREFIX-net-1",
          "subnetwork": "GVNIC_NAME_PREFIX-sub-1",
          "stackType": "IPV4_ONLY",
          "nicType": "GVNIC",
      },
      {
          "network": "RDMA_NAME_PREFIX-irdma",
          "subnetwork": "RDMA_NAME_PREFIX-irdma-sub",
          "stackType": "IPV4_ONLY",
          "nicType": "IRDMA",
      }
    ],
,
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION"
    }
  }
}

Ganti kode berikut:

  • INSTANCE_TEMPLATE_NAME: nama template instance.
  • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance. Tentukan jenis mesin H4D. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin H4D.
  • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  • IMAGE_PROJECT: project ID dari OS image.
  • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Region dan zona.
  • DISK_SIZE: ukuran boot disk dalam GiB.
  • GVNIC_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat jaringan VPC dan subnet standar untuk antarmuka gVNIC.

    Jika Anda menggunakan jaringan default, sertakan hanya satu kolom --network-interface dengan kolom nic-type yang ditetapkan ke GVNIC. Selain itu, hapus setelan network dan subnetwork untuk antarmuka jaringan ini.

  • EXTERNAL_IPV4_ADDRESS: Opsional: alamat IPv4 eksternal statis yang akan digunakan dengan antarmuka jaringan gVNIC. Anda harus sudah mencadangkan alamat IPv4 eksternal sebelumnya.

    Untuk menentukan alamat IPv6 eksternal untuk antarmuka jaringan GVNIC, gunakan flag --external-ipv6-address.

  • RDMA_NAME_PREFIX: awalan nama yang Anda gunakan saat membuat Jaringan VPC dan subnet untuk antarmuka jaringan IRDMA.

    Jika Anda tidak menggunakan Cloud RDMA dengan instance H4D, hapus kolom --network-interface untuk antarmuka IRDMA.

  • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) Spot VM saat preemption.

Setelah membuat template instance, Anda dapat melihat template untuk melihat ID-nya dan meninjau properti instance-nya.

Membuat MIG

Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:

Skenario Metode untuk membuat MIG dan VM di dalamnya Contoh
Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan sejumlah VM. Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup.

Lihat Membuat MIG dengan ukuran target.

Tugas inferensi ML
Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat. Buat MIG tanpa VM apa pun di dalamnya, lalu buat permintaan perubahan ukuran di MIG. Permintaan ubah ukuran membantu Anda mendapatkan VM sekaligus.

Lihat Membuat MIG dan permintaan ubah ukuran.

Tugas pelatihan dan fine-tuning ML terdistribusi

Membuat MIG dengan ukuran target

Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM dalam MIG. MIG mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang sementara tidak tersedia, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.

Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:

gcloud

Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan perintah instance-groups managed create.

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zonal atau regional sebagai berikut:

  • Untuk membuat MIG zona, gunakan perintah berikut:
    gcloud compute instance-groups managed create MIG_NAME \
      --template=INSTANCE_TEMPLATE_URL \
      --size=TARGET_SIZE \
      --workload-policy=WORKLOAD_POLICY_URL \
      --zone=ZONE
    
  • Untuk membuat MIG regional, gunakan perintah berikut:
    gcloud compute instance-groups managed create MIG_NAME \
        --template=INSTANCE_TEMPLATE_URL \
        --size=TARGET_SIZE \
        --workload-policy=WORKLOAD_POLICY_URL \
        --region=REGION
    
Ganti kode berikut:
  • MIG_NAME: nama MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
  • WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.
  • ZONE: zona tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan zona dalam region kebijakan.
  • REGION: region tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan region yang sama dengan kebijakan tersebut. Untuk MIG regional, Anda dapat menentukan zona di region tersebut, bukan region, menggunakan flag --zones.

REST

Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional sebagai berikut:

  • Untuk membuat MIG zona, buat permintaan POST ke metode instanceGroupManagers.insert.
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
    {
      "versions": [
        {
          "instanceTemplate": "INSTANCE_TEMPLATE_URL"
        }
      ],
      "name": "MIG_NAME",
      "targetSize": TARGET_SIZE,
      "resourcePolicies": {
        "workloadPolicy": "WORKLOAD_POLICY_URL"
      }
    }
    
  • Untuk membuat MIG regional, buat permintaan POST ke metode regionInstanceGroupManagers.insert.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "name": "MIG_NAME",
        "instanceTemplate": "INSTANCE_TEMPLATE_URL",
        "targetSize": TARGET_SIZE,
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
    
Ganti kode berikut:
  • PROJECT_ID: project ID.
  • ZONE: zona tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan zona dalam region kebijakan.
  • REGION: region tempat Anda ingin membuat MIG. Jika Anda menggunakan kebijakan workload, tentukan region yang sama dengan kebijakan tersebut.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: nama MIG.
  • TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
  • WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Membuat MIG dan permintaan perubahan ukuran

Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, dan buat permintaan ubah ukuran di MIG seperti yang dijelaskan di bagian ini.

Untuk membuat permintaan perubahan ukuran di MIG, pilih salah satu opsi berikut.

gcloud

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat dengan reservasi

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --workload-policy=WORKLOAD_POLICY_URL \
          --zone=ZONE
      
    2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • Untuk membuat MIG regional dan permintaan pengubahan ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --workload-policy=WORKLOAD_POLICY_URL \
          --zones=ZONE \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --default-action-on-vm-failure=do-nothing \
          --workload-policy=WORKLOAD_POLICY_URL \
          --zone=ZONE
      
    2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --default-action-on-vm-failure=do-nothing \
      
          --workload-policy=WORKLOAD_POLICY_URL \
      
          --region=REGION \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none \
          --workload-policy=WORKLOAD_POLICY_URL
        
    2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      

Spot

Perintah yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --workload-policy=WORKLOAD_POLICY_URL \
          --zone=ZONE
      
    2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --zone=ZONE
      
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
          --template=INSTANCE_TEMPLATE_URL \
          --size=0 \
          --workload-policy=WORKLOAD_POLICY_URL \
          --zones=ZONE \
          --target-distribution-shape=any-single-zone \
          --instance-redistribution-type=none
        
    2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
          --resize-request=RESIZE_REQUEST_NAME \
          --resize-by=COUNT \
          --region=REGION
      
Ganti kode berikut:
  • MIG_NAME: nama MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • WORKLOAD_POLICY_URL: Opsional. URL kebijakan workload—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus flag --workload-policy.
  • ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
  • COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.
  • REGION: region tempat Anda ingin membuat MIG.

Membuat permintaan ubah ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan perintah gcloud compute instance-groups managed resize-requests create beta dengan flag --instances:

  • Di MIG zona, jalankan perintah berikut:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
        --resize-request=RESIZE_REQUEST_NAME \
        --instances=INSTANCE_NAMES \
        --zone=ZONE
    
  • Di MIG regional, jalankan perintah berikut:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
        --resize-request=RESIZE_REQUEST_NAME \
        --instances=INSTANCE_NAMES \
        --region=REGION
    
Ganti INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.

REST

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Terikat reservasi

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert seperti berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        },
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "instanceLifecyclePolicy": {
          "defaultActionOnFailure": "DO_NOTHING"
        },
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        },
        "instanceLifecyclePolicy": {
          "defaultActionOnFailure": "DO_NOTHING"
        },
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      

Spot

Permintaan yang Anda gunakan untuk membuat MIG menggunakan kebijakan workload untuk menentukan penempatan instance. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert seperti berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
  • Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert seperti berikut.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
      {
        "versions": [
          {
            "instanceTemplate": "INSTANCE_TEMPLATE_URL"
          }
        ],
        "name": "MIG_NAME",
        "targetSize": 0,
        "distributionPolicy": {
          "targetShape": "ANY_SINGLE_ZONE",
          "zones": [
            {
              "zone": "projects/PROJECT_ID/zones/ZONE"
            }
          ]
        },
        "updatePolicy": {
          "instanceRedistributionType": "NONE"
        },
        "resourcePolicies": {
          "workloadPolicy": "WORKLOAD_POLICY_URL"
        }
      }
      
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM.
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
      {
        "name": "RESIZE_REQUEST_NAME",
        "resizeBy": COUNT
      }
      
Ganti kode berikut:
  • PROJECT_ID: project ID.
  • ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus merupakan zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • REGION: region tempat Anda ingin membuat MIG. Region ini harus sama dengan region yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: nama MIG.
  • WORKLOAD_POLICY_URL: Opsional. URL kebijakan beban kerja—misalnya, projects/example-project/regions/us-central1/resourcePolicies/example-workload-policy. Jika Anda tidak ingin menggunakan kebijakan workload, hapus kolom resourcePolicies.workloadPolicy.
  • RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
  • COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus

Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:

Misalnya, untuk menentukan dua nama VM, sertakan hal berikut dalam isi permintaan:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Ganti INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.

Apa langkah selanjutnya?