Membuat MIG N1 yang dioptimalkan untuk AI dengan GPU

Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan seri N1 dengan GPU terpasang. Untuk mempelajari lebih lanjut jenis mesin ini, lihat seri N1.

Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entity. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola VM dalam grup secara otomatis, MIG menawarkan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.

Batasan

Saat Anda membuat MIG dengan VM N1 dengan GPU, pertimbangkan batasan untuk jenis mesin dan MIG.

Batasan untuk VM N1 dengan GPU

Untuk batasan yang berlaku pada jenis mesin N1 dengan GPU, lihat semua hal berikut:

Batasan untuk MIG

Sebelum memulai

Sebelum membuat MIG, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

  1. Pilih opsi pemakaian: pilihan opsi pemakaian Anda menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi konsumsi.
  2. Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi konsumsi. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.
  3. Memverifikasi izin Agen Layanan Google API: saat Anda membuat VM dalam MIG, Compute Engine menggunakan Agen Layanan Google API (PROJECT_NUMBER@cloudservices.gserviceaccount.com) dalam project Anda. Jika template instance Anda menggunakan resource dari project lain, pastikan agen layanan ini memiliki izin yang diperlukan:

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk membuat MIG, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) pada project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat MIG. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat MIG:

  • Untuk membuat MIG: compute.instanceGroupManagers.create pada project

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat MIG dengan jenis mesin N1 dengan GPU T4 atau V100 mencakup langkah-langkah berikut:

  1. Membuat template instance
  2. Membuat MIG
  3. Menginstal driver GPU

Membuat template instance

Tentukan properti VM untuk MIG dengan membuat template instance.

Untuk membuat template instance, pilih salah satu opsi berikut:

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses oleh instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance N1 dengan GPU T4 atau V100 mendukung jenis pemesanan berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.

    • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

      • specific (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

    • RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

      • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.

      • Jika Anda menentukan specific, ganti RESERVATION dengan kode berikut:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ganti kode berikut:

        • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
        • RESERVATION_NAME: nama pemesanan.

  2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

    --no-restart-on-failure

  3. Opsional: Untuk memasang disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.

    • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

      • none (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

  2. Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:

    --no-restart-on-failure

  3. Opsional: Untuk memasang disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Jalankan perintah.

Flex-start

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m selama 30 menit atau 1d2h3m4s untuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.

  2. Opsional: Untuk memasang disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.

    • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  2. Opsional: Untuk memasang disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

    --local-ssd interface=INTERFACE_TYPE

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Jalankan perintah.

REST

Untuk membuat template instance regional, buat permintaan POST ke metode regionInstanceTemplates.insert.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance N1 dengan GPU T4 atau V100 mendukung jenis pemesanan berikut:

  • Pemesanan on-demand
  • Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators": [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.

    • AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

    • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

      • SPECIFIC_RESERVATION (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.

    • RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

      • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya menjadi string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.

      • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan kode berikut:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ganti kode berikut:

        • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
        • RESERVATION_NAME: nama pemesanan.

  2. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap subkolom disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators": [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.

    • AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

    • RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.

      • NO_RESERVATION (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.

  2. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap subkolom disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Kirim permintaan.

Flex-start

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators": [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
    • RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk menjalankan VM yang diminta. Nilainya harus antara 600, yaitu 600 detik (10 menit), dan 604800, yaitu 604.800 detik (tujuh hari).

  2. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap subkolom disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "guestAccelerators": [
      {
        "acceleratorCount": ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
      }
    ],
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_TEMPLATE_NAME: nama template instance.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.
    • ACCELERATOR_TYPE: jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.
    • IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID dari OS image.
    • REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.

    • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  2. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap subkolom disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk mengetahui detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika boot disk image Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk image lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  3. Kirim permintaan.

Setelah membuat template instance, Anda dapat melihatnya untuk melihat ID-nya dan meninjau properti instance-nya.

Membuat MIG

Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:

Skenario Metode untuk membuat MIG dan VM di dalamnya Contoh
Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan jumlah VM berapa pun. Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup.

Lihat Membuat MIG dengan ukuran target.

 Tugas inferensi ML
Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat. Buat MIG tanpa VM di dalamnya, lalu buat permintaan ubah ukuran di MIG. Permintaan ubah ukuran membantu Anda mendapatkan VM sekaligus.

Lihat Membuat MIG dan permintaan ubah ukuran.

 Tugas pelatihan dan fine-tuning ML terdistribusi

Membuat MIG dengan ukuran target

Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM di MIG. MIG mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang tidak tersedia untuk sementara, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.

Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:

gcloud

Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan perintah instance-groups managed create.

Buat MIG zona atau regional sebagai berikut:

  • Untuk membuat MIG zona, gunakan perintah berikut: 
    gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --zone=ZONE
  • Untuk membuat MIG regional, gunakan perintah berikut: 
    gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --region=REGION
Ganti kode berikut:
  • MIG_NAME: nama MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
  • ZONE: zona tempat Anda ingin membuat MIG.
  • REGION: region tempat Anda ingin membuat MIG. Untuk MIG regional, Anda dapat menentukan zona di region tersebut, bukan region, menggunakan flag --zones.

REST

Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.

Buat MIG zona atau regional sebagai berikut:

  • Untuk membuat MIG zona, buat permintaan POST ke metode instanceGroupManagers.insert. 
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE
}
  • Untuk membuat MIG regional, buat permintaan POST ke metode regionInstanceGroupManagers.insert. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE
  }
Ganti kode berikut:
  • PROJECT_ID: project ID.
  • ZONE: zona tempat Anda ingin membuat MIG.
  • REGION: region tempat Anda ingin membuat MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: nama MIG.
  • TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.

Membuat MIG dan permintaan ubah ukuran

Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, dan buat permintaan ubah ukuran di MIG seperti yang dijelaskan di bagian ini.

Untuk membuat permintaan ubah ukuran di MIG, pilih salah satu opsi berikut:

gcloud

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

Sesuai permintaan

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \
    --zone=ZONE

    2. Buat permintaan ubah ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE

  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:

    1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.

      gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \

    --region=REGION \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none

    2. Buat permintaan ubah ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION

Spot

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:
Ganti kode berikut:
  • MIG_NAME: nama MIG.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
  • COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.
  • REGION: region tempat Anda ingin membuat MIG.

Membuat permintaan ubah ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan perintah gcloud compute instance-groups managed resize-requests create beta dengan flag --instances:

  • Di MIG zona, jalankan perintah berikut:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

  • Di MIG regional, jalankan perintah berikut:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION
Ganti INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.

REST

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Sesuai permintaan

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Flex-start

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Spot

Buat MIG zona atau regional dan permintaan ubah ukuran sebagai berikut:

  • Untuk membuat MIG zona dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Buat permintaan ubah ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Untuk membuat MIG regional dan permintaan ubah ukuran di dalamnya, lakukan hal berikut:
    1. Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert sebagai berikut. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Buat permintaan ubah ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert sebagai berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan ubah ukuran dengan menentukan daftar nama VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
Ganti kode berikut:
  • PROJECT_ID: project ID.
  • ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus merupakan zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • REGION: region tempat Anda ingin membuat MIG. Region ini harus sama dengan region yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk informasi selengkapnya, lihat Batasan.
  • INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
    • Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Untuk template instance global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: nama MIG.
  • RESIZE_REQUEST_NAME: nama permintaan ubah ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
  • COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus

Membuat permintaan ubah ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan ubah ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:

Misalnya, untuk menentukan dua nama VM, sertakan hal berikut dalam isi permintaan:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Ganti INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.

Menginstal driver GPU

Setelah Anda membuat instance, instance tersebut tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Driver yang perlu Anda instal bergantung pada apakah instance mengaktifkan NVIDIA RTX Virtual Workstation (vWS) atau tidak. Gunakan salah satu opsi berikut:

Apa langkah selanjutnya?