Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan seri N1 dengan GPU terpasang. Untuk mempelajari lebih lanjut jenis mesin ini, lihat seri N1.
Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entitas. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola VM dalam grup secara otomatis, MIG menawarkan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola dalam dokumentasi Compute Engine.
Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.
Batasan
Saat membuat MIG dengan VM N1 yang dilengkapi GPU, pertimbangkan batasan untuk jenis mesin dan MIG.
Batasan untuk VM N1 dengan GPU
Untuk mengetahui batasan yang berlaku pada jenis mesin N1 dengan GPU, lihat semua hal berikut:
Batasan untuk MIG
- Jika Anda ingin menggunakan permintaan perubahan ukuran, tinjau batasan untuk permintaan perubahan ukuran.
Sebelum memulai
Sebelum membuat MIG, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:
- Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
- Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.
Peran yang diperlukan
Untuk mendapatkan izin yang Anda perlukan untuk membuat MIG, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk membuat MIG. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat MIG:
-
Untuk membuat MIG:
compute.instanceGroupManagers.createpada project
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Ringkasan
Membuat MIG dengan jenis mesin N1 dengan GPU T4 atau V100 mencakup langkah-langkah berikut:
Membuat template instance
Tentukan properti VM untuk MIG dengan membuat template instance.
Untuk membuat template instance, pilih salah satu opsi berikut:
Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke aksescloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat
Praktik terbaik cakupan.
gcloud
Untuk membuat template instance regional, gunakan
perintah gcloud compute instance-templates create.
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance N1 dengan GPU T4 atau V100 mendukung jenis pemesanan berikut:
- Reservasi sesuai permintaan
- Pemesanan standar untuk masa mendatang
Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY \
--reservation=RESERVATION
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:any(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.specific(Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untukRESERVATION_AFFINITY:- Jika Anda menentukan
any, gantiRESERVATIONdengan string kosong (""). Atau, Anda dapat menghapus flag--reservationsepenuhnya. Jika Anda menentukan
specific, gantiRESERVATIONdengan yang berikut:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Ganti kode berikut:
RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.RESERVATION_NAME: nama pemesanan.
- Jika Anda menentukan
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
--no-restart-on-failure
-
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Sesuai permintaan
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:any(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.none(Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
--no-restart-on-failure
-
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Flex-start
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--reservation-affinity=none \
--instance-termination-action=DELETE \
--max-run-duration=RUN_DURATION \
--maintenance-policy=TERMINATE \
--provisioning-model=FLEX_START
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengand,h,m, dans. Misalnya, tentukan30mselama 30 menit atau1d2h3m4suntuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.
-
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
Spot
Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
--machine-type=MACHINE_TYPE \
--accelerator=type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--instance-template-region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag
--local-ssdberikut untuk setiap disk SSD Lokal.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
--local-ssd interface=INTERFACE_TYPE
Ganti kode berikut:
INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Jalankan perintah.
REST
Untuk membuat template instance regional, buat permintaan POST ke
regionInstanceTemplates.insert method.
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.
Reservasi
Instance N1 dengan GPU T4 atau V100 mendukung jenis pemesanan berikut:
- Reservasi sesuai permintaan
- Pemesanan standar untuk masa mendatang
Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"guestAccelerators": [
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY",
"key": "compute.googleapis.com/reservation-name",
"values": [
"RESERVATION"
]
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukantrueuntuk mengaktifkan mulai ulang otomatis (default) ataufalseuntuk menonaktifkan mulai ulang otomatis.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:ANY_RESERVATION(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.SPECIFIC_RESERVATION(Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untukRESERVATION_AFFINITY:- Jika Anda menentukan
ANY_RESERVATION, hapusRESERVATIONsehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolomkeydanvaluessepenuhnya. Jika Anda menentukan
SPECIFIC_RESERVATION, gantiRESERVATIONdengan yang berikut:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Ganti kode berikut:
RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.RESERVATION_NAME: nama pemesanan.
- Jika Anda menentukan
-
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Sesuai permintaan
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"guestAccelerators": [
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY"
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukantrueuntuk mengaktifkan mulai ulang otomatis (default) ataufalseuntuk menonaktifkan mulai ulang otomatis.RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:ANY_RESERVATION(Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.NO_RESERVATION(Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
-
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Flex-start
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"guestAccelerators": [
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"reservationAffinity": {
"consumeReservationType": "NO_RESERVATION"
},
"scheduling": {
"instanceTerminationAction": "DELETE",
"maxRunDuration": {
"seconds": RUN_DURATION
},
"onHostMaintenance": "TERMINATE",
"provisioningModel": "FLEX_START"
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk VM yang diminta agar dapat berjalan. Nilai harus antara600, yaitu 600 detik (10 menit), dan604800, yaitu 604.800 detik (tujuh hari).
-
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Spot
Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
"name": "INSTANCE_TEMPLATE_NAME",
"properties": {
"machineType": "MACHINE_TYPE",
"guestAccelerators": [
{
"acceleratorCount": ACCELERATOR_COUNT,
"acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
}
],
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling":
{
"provisioningModel": "SPOT",
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE",
"automaticRestart": false
}
}
}
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_TEMPLATE_NAME: nama template instance.MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance N1 dengan GPU T4 atau V100. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.ACCELERATOR_COUNT: jumlah GPU yang ingin Anda pasang ke VM N1. Untuk mengetahui daftar batas GPU berdasarkan jenis mesin VM Anda, lihat informasi tentang GPU N1 dalam dokumentasi Compute Engine.ACCELERATOR_TYPE: Jenis akselerator untuk VM N1 yang ingin Anda gunakan. Untuk workload AI, sebaiknya gunakan GPU T4 atau V100.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.IMAGE_PROJECT: project ID image OS.REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom
disks[]untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidangdisks[](termasuk boot disk) dengan koma.Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }Ganti kode berikut:
ZONE: zona yang Anda tentukan.INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukanNVME. TentukanSCSIuntuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
- Kirim permintaan.
Setelah membuat template instance, Anda dapat melihatnya untuk melihat ID-nya dan meninjau properti instance-nya.
Membuat MIG
Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:
| Skenario | Metode untuk membuat MIG dan VM di dalamnya | Contoh |
|---|---|---|
| Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan sejumlah VM. | Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup. |
Tugas inferensi ML |
| Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat. | Buat MIG tanpa VM apa pun di dalamnya, lalu buat permintaan perubahan ukuran di MIG.
Permintaan pengubahan ukuran membantu Anda mendapatkan VM sekaligus. |
Tugas pelatihan dan penyesuaian ML terdistribusi |
Membuat MIG dengan ukuran target
Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM dalam MIG. MIG mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang tidak tersedia untuk sementara, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.
Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:
gcloud
Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan
perintah instance-groups managed
create.
Buat MIG zona atau regional sebagai berikut:
- Untuk membuat MIG zona, gunakan perintah berikut:
gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=TARGET_SIZE \ --zone=ZONE
- Untuk membuat MIG regional, gunakan perintah berikut:
gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=TARGET_SIZE \ --region=REGION
MIG_NAME: nama MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.ZONE: zona tempat Anda ingin membuat MIG.REGION: region tempat Anda ingin membuat MIG. Untuk MIG regional, alih-alih region, Anda dapat menentukan zona di region tersebut menggunakan tanda--zones.
REST
Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.
Buat MIG zona atau regional sebagai berikut:
- Untuk membuat MIG zona, buat permintaan
POSTke metodeinstanceGroupManagers.insert.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": TARGET_SIZE } - Untuk membuat MIG regional, buat permintaan
POSTke metoderegionInstanceGroupManagers.insert.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "name": "MIG_NAME", "instanceTemplate": "INSTANCE_TEMPLATE_URL", "targetSize": TARGET_SIZE }
PROJECT_ID: project ID.ZONE: zona tempat Anda ingin membuat MIG.REGION: region tempat Anda ingin membuat MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
MIG_NAME: nama MIG.TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
Membuat MIG dan permintaan perubahan ukuran
Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, lalu buat permintaan pengubahan ukuran di MIG seperti yang dijelaskan di bagian ini.
Untuk membuat permintaan perubahan ukuran di MIG, pilih salah satu opsi berikut:
gcloud
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.
Reservasi
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Sesuai permintaan
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Flex-start
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --default-action-on-vm-failure=do-nothing \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --default-action-on-vm-failure=do-nothing \ --region=REGION \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
Spot
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
-
Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG zona menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zone=ZONE -
Buat permintaan perubahan ukuran di MIG zona menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --zone=ZONE
-
-
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
-
Buat MIG regional menggunakan perintah
instance-groups managed createsebagai berikut.gcloud compute instance-groups managed create MIG_NAME \ --template=INSTANCE_TEMPLATE_URL \ --size=0 \ --zones=ZONE \ --target-distribution-shape=any-single-zone \ --instance-redistribution-type=none -
Buat permintaan perubahan ukuran di MIG regional menggunakan perintah
instance-groups managed resize-requests createsebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.gcloud compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --resize-by=COUNT \ --region=REGION
-
MIG_NAME: nama MIG.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.REGION: region tempat Anda ingin membuat MIG.
Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM
Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.
Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan
perintah gcloud compute instance-groups managed resize-requests create beta
dengan flag --instances:
-
Di MIG zona, jalankan perintah berikut:
gcloud beta compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --instances=INSTANCE_NAMES \ --zone=ZONE -
Di MIG regional, jalankan perintah berikut:
gcloud beta compute instance-groups managed resize-requests create MIG_NAME \ --resize-request=RESIZE_REQUEST_NAME \ --instances=INSTANCE_NAMES \ --region=REGION
INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.
REST
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.
Reservasi
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Sesuai permintaan
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Flex-start
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "instanceLifecyclePolicy": { "defaultActionOnFailure": "DO_NOTHING" } } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" }, "instanceLifecyclePolicy": { "defaultActionOnFailure": "DO_NOTHING" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
Spot
Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:
- Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0 } - Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan
POSTke metodeinstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG zona dengan membuat permintaan
- Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
- Buat MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagers.insertseperti berikut.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers { "versions": [ { "instanceTemplate": "INSTANCE_TEMPLATE_URL" } ], "name": "MIG_NAME", "targetSize": 0, "distributionPolicy": { "targetShape": "ANY_SINGLE_ZONE", "zones": [ { "zone": "projects/PROJECT_ID/zones/ZONE" } ] }, "updatePolicy": { "instanceRedistributionType": "NONE" } } - Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan
POSTke metoderegionInstanceGroupManagerResizeRequests.insertseperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, maka buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests { "name": "RESIZE_REQUEST_NAME", "resizeBy": COUNT }
- Buat MIG regional dengan membuat permintaan
PROJECT_ID: project ID.ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.REGION: region tempat Anda ingin membuat MIG. Region ini harus merupakan region yang sama dengan yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:- Untuk template instance regional:
projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID - Untuk template instance global:
INSTANCE_TEMPLATE_ID
- Untuk template instance regional:
MIG_NAME: nama MIG.RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus
Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM
Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.
Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:
-
Di MIG zona, kirim permintaan
POSTmenggunakan metodebeta.instanceGroupManagerResizeRequests.insert:POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
-
Di MIG regional, kirim permintaan
POSTmenggunakan metodebeta.regionInstanceGroupManagerResizeRequests.insert:POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
Misalnya, untuk menentukan dua nama VM, sertakan kode berikut dalam isi permintaan:
{
"name": "RESIZE_REQUEST_NAME",
"instances": [
{
"name": "INSTANCE_NAME_1"
},
{
"name": "INSTANCE_NAME_2"
}
]
}
Ganti
INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.
Menginstal driver GPU
Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Driver yang perlu Anda instal bergantung pada apakah instance mengaktifkan NVIDIA RTX Virtual Workstation (vWS). Gunakan salah satu opsi berikut:
- Jika Anda mengaktifkan vWS, lihat Menginstal driver untuk NVIDIA RTX Virtual Workstations (vWS) dalam dokumentasi Compute Engine.
Jika tidak, gunakan driver GPU default sebagai berikut:
- Jika Anda menentukan image OS yang menyertakan driver GPU, Anda tidak perlu melakukan tindakan apa pun.
- Jika image OS tidak menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.
Apa langkah selanjutnya?
- Melihat detail VM
- Melihat informasi tentang MIG dan instance terkelola
- Melihat, membatalkan, atau menghapus permintaan pengubahan ukuran
- Memverifikasi pemakaian reservasi
- Memecahkan masalah pemakaian pemesanan