Google menggunakan teknologi AI untuk menerjemahkan konten ke dalam bahasa pilihan Anda. Terjemahan AI mungkin mengandung kesalahan.

Membuat MIG yang dioptimalkan untuk AI dengan jenis mesin A3 Edge

GPU Umum

Dokumen ini menjelaskan cara membuat grup instance terkelola (MIG) yang menggunakan jenis mesin yang dioptimalkan untuk akselerator A3 Edge. Untuk mempelajari lebih lanjut jenis mesin, lihat A3 Edge di dokumentasi Compute Engine.

Dengan membuat MIG, Anda dapat mengelola beberapa virtual machine (VM) sebagai satu entitas. Setiap VM dalam MIG didasarkan pada template instance. Dengan mengelola kesehatan dan ukuran grup instance secara otomatis, MIG memberikan ketersediaan tinggi dan skalabilitas. Untuk mempelajari MIG lebih lanjut, lihat Grup instance terkelola.

Untuk mempelajari opsi pembuatan VM dan cluster, lihat halaman Ringkasan pembuatan VM dan cluster.

Batasan

Saat membuat MIG dengan VM A3 Edge, pertimbangkan batasan untuk jenis mesin dan MIG.

Batasan untuk VM Edge A3

Bergantung pada seri mesin yang digunakan VM di MIG Anda, batasan berikut berlaku:

Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk instance yang menggunakan jenis mesin A3 Edge.
Anda hanya dapat menggunakan jenis mesin A3 Edge di region dan zona tertentu.
Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 Edge.
Jenis mesin A3 Edge hanya tersedia di platform CPU Sapphire Rapids.
Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Edge. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Edge.
Jenis mesin A3 Edge tidak mendukung sole-tenancy.

Batasan untuk MIG

Saat Anda membuat MIG dengan VM A3 Edge, batasan berikut berlaku:

Anda harus menonaktifkan perbaikan di MIG, seperti yang dijelaskan dalam dokumen ini.

Anda tidak dapat mengonfigurasi fleksibilitas instance di MIG.

Batasan untuk permintaan perubahan ukuran MIG

Untuk permintaan perubahan ukuran MIG, batasan berikut berlaku:

Di MIG regional, Anda hanya dapat menggunakan bentuk distribusi target ANY_SINGLE_ZONE.
Anda hanya dapat menyetel mode pool siaga MIG ke manual (default).
Anda tidak dapat menyetel penskalaan otomatis.
Jika MIG berisi permintaan perubahan ukuran yang diterima, Anda tidak dapat mengubah ukuran target MIG.
Anda tidak dapat menghapus atau meninggalkan instance terkelola dalam status CREATING yang dibuat MIG untuk permintaan perubahan ukuran. Untuk menghapus instance terkelola tersebut, Anda harus membatalkan permintaan pengubahan ukuran.

Untuk mengetahui informasi selengkapnya, lihat semua batasan untuk permintaan pengubahan ukuran.

Sebelum memulai

Sebelum membuat MIG, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk membuat MIG, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat MIG. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat MIG:

Untuk membuat MIG: compute.instanceGroupManagers.create pada project

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat MIG dengan jenis mesin A3 Edge mencakup langkah-langkah berikut:

Membuat jaringan VPC
Opsional: Buat kebijakan penempatan rapat
Membuat template instance
Buat MIG.
Menginstal driver GPU

Untuk setiap MIG, Anda harus memilih apakah Anda ingin menggunakan kebijakan penempatan ringkas, menggunakan permintaan pengubahan ukuran, atau tidak keduanya. Untuk mengetahui informasi selengkapnya tentang kapan harus menggunakan setiap opsi, lihat Batasan untuk MIG dalam dokumen ini.

Membuat jaringan VPC

Untuk mengaktifkan komunikasi yang efisien bagi VM GPU Anda, Anda perlu membuat jaringan pengelolaan dan satu atau beberapa jaringan data. Jaringan pengelolaan digunakan untuk akses eksternal, misalnya SSH, dan untuk sebagian besar komunikasi jaringan umum. Jaringan data digunakan untuk komunikasi berperforma tinggi antar-GPU di VM yang berbeda, misalnya, untuk traffic Remote Direct Memory Access (RDMA).

Untuk jaringan VPC ini, sebaiknya tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Nilai MTU yang lebih tinggi akan menambah ukuran paket dan mengurangi overhead header paket, sehingga meningkatkan throughput data payload. Untuk mengetahui informasi selengkapnya tentang cara membuat jaringan VPC, lihat Membuat dan memverifikasi jaringan MTU frame jumbo.

Membuat jaringan, subnet, dan aturan firewall pengelolaan

Selesaikan langkah-langkah berikut untuk menyiapkan jaringan pengelolaan:

Buat jaringan pengelolaan menggunakan perintah networks create:

gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

Buat subnet pengelolaan menggunakan perintah networks subnets create:

gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --region=REGION \
    --range=192.168.0.0/24

Buat aturan firewall menggunakan perintah firewall-rules create.

Buat aturan firewall untuk jaringan pengelolaan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16

Buat aturan firewall tcp:22 untuk membatasi alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=SSH_SOURCE_IP_RANGE

Buat aturan firewall icmp yang dapat digunakan untuk memeriksa masalah transmisi data di jaringan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=0.0.0.0/0

Ganti kode berikut:

NETWORK_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan dan subnet VPC.
PROJECT_ID: Project ID Anda.
REGION: region tempat Anda ingin membuat jaringan.
SSH_SOURCE_IP_RANGE: Rentang IP dalam format CIDR. Tindakan ini menentukan alamat IP sumber mana yang dapat terhubung ke VM Anda menggunakan SSH.

Membuat jaringan data, subnet, dan aturan firewall

A3 Edge memerlukan empat jaringan data. Gunakan perintah berikut untuk membuat empat jaringan data, masing-masing dengan subnet dan aturan firewall.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

Opsional: Buat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda --max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM dalam blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

PROJECT_ID: project ID Anda.
POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM dalam blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat template instance

Tentukan properti VM untuk MIG dengan membuat template instance.

Untuk membuat template instance, pilih salah satu opsi berikut:

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

Untuk membuat template instance bagi VM A3 Edge, Anda harus menentukan empat antarmuka jaringan tambahan untuk traffic GPUDirect-TCPX. Jika belum melakukannya, Anda harus membuat empat jaringan VPC seperti yang dijelaskan dalam Membuat jaringan VPC.

gcloud

Untuk membuat template instance regional, gunakan perintah gcloud compute instance-templates create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

Flex-start

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m selama 30 menit atau 1d2h3m4s untuk satu hari, dua jam, tiga menit, dan empat detik. Nilai harus antara 10 menit dan tujuh hari.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

REST

Untuk membuat template instance regional, buat permintaan POST ke regionInstanceTemplates.insert method.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Flex-start

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RUN_DURATION: durasi, dalam detik, yang Anda inginkan untuk VM yang diminta agar dapat berjalan. Nilai harus antara 600, yaitu 600 detik (10 menit), dan 604800, yaitu 604.800 detik (tujuh hari).
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama template instance.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A3 Edge. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya Anda menggunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan menonaktifkan update otomatis.
- IMAGE_PROJECT: project ID image OS. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- REGION: region tempat Anda ingin membuat template instance. Tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Setelah membuat template instance, Anda dapat melihatnya untuk melihat ID-nya dan meninjau properti instance-nya.

Membuat MIG

Setelah menyelesaikan semua langkah sebelumnya, buat MIG berdasarkan skenario Anda sebagai berikut:

Skenario	Metode untuk membuat MIG dan VM di dalamnya	Contoh
Anda memiliki beberapa tugas atau tugas paralel yang dapat dimulai dengan sejumlah VM.	Buat MIG dan gunakan ukuran target untuk menentukan jumlah VM yang Anda inginkan dalam grup. Lihat Membuat MIG dengan ukuran target.	Tugas inferensi ML
Anda memiliki tugas yang memerlukan distribusi di sejumlah VM yang tepat.	Buat MIG tanpa VM apa pun di dalamnya, lalu buat permintaan perubahan ukuran di MIG. Permintaan pengubahan ukuran membantu Anda mendapatkan VM sekaligus. Lihat Membuat MIG dan permintaan perubahan ukuran.	Tugas pelatihan dan penyesuaian ML terdistribusi

Membuat MIG dengan ukuran target

Jika Anda dapat memulai tugas tanpa membuat semua VM sekaligus, buat MIG dengan ukuran target. Ukuran target menentukan jumlah VM dalam MIG. Saat Anda menentukan ukuran target, MIG akan mulai membuat VM berdasarkan ketersediaan resource saat ini. Jika ada resource yang tidak tersedia untuk sementara, MIG akan terus mencoba membuat VM untuk memenuhi ukuran target.

Untuk membuat MIG dengan ukuran target, pilih salah satu opsi berikut:

gcloud

Untuk membuat MIG dengan ukuran target yang ditentukan, gunakan perintah instance-groups managed create.

Penting: Jika template instance menentukan VM mulai fleksibel, Anda juga harus menonaktifkan perbaikan dengan menambahkan flag --default-action-on-vm-failure=do-nothing ke perintah.

Buat MIG zona atau regional sebagai berikut:

Untuk membuat MIG zona, gunakan perintah berikut:

gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --zone=ZONE

Untuk membuat MIG regional, gunakan perintah berikut:

gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --region=REGION

Ganti kode berikut:

MIG_NAME: nama MIG.
INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
- Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- Untuk template instance global: INSTANCE_TEMPLATE_ID
TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.
ZONE: zona tempat Anda ingin membuat MIG.
REGION: region tempat Anda ingin membuat MIG. Untuk MIG regional, alih-alih region, Anda dapat menentukan zona di region tersebut menggunakan tanda --zones.

REST

Untuk membuat MIG dengan ukuran target yang ditentukan, buat permintaan POST.

Penting: Jika template instance menentukan VM mulai fleksibel, Anda juga harus menonaktifkan perbaikan dengan menambahkan kolom "defaultActionOnFailure": "DO_NOTHING" ke permintaan.

Buat MIG zona atau regional sebagai berikut:

Untuk membuat MIG zona, buat permintaan POST ke metode instanceGroupManagers.insert.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE
}

Untuk membuat MIG regional, buat permintaan POST ke metode regionInstanceGroupManagers.insert.

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE
  }

Ganti kode berikut:

PROJECT_ID: project ID.
ZONE: zona tempat Anda ingin membuat MIG.
REGION: region tempat Anda ingin membuat MIG.
INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
- Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- Untuk template instance global: INSTANCE_TEMPLATE_ID
MIG_NAME: nama MIG.
TARGET_SIZE: jumlah instance yang Anda inginkan di MIG.

Membuat MIG dan permintaan perubahan ukuran

Jika Anda memerlukan beberapa VM sekaligus untuk memulai tugas, buat MIG, lalu buat permintaan pengubahan ukuran di MIG seperti yang dijelaskan di bagian ini.

Untuk membuat permintaan perubahan ukuran di MIG, pilih salah satu opsi berikut:

gcloud

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --zone=ZONE
```
2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Flex-start

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \
    --zone=ZONE
```
2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \

    --region=REGION \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Spot

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --zone=ZONE
```
2. Buat permintaan perubahan ukuran di MIG zona menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE
```
Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG regional menggunakan perintah instance-groups managed create sebagai berikut.
```
gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --zones=ZONE \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none
  
```
2. Buat permintaan perubahan ukuran di MIG regional menggunakan perintah instance-groups managed resize-requests create sebagai berikut. Perintah ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION
```

Ganti kode berikut:

MIG_NAME: nama MIG.
INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
- Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- Untuk template instance global: INSTANCE_TEMPLATE_ID
ZONE: zona tempat Anda ingin membuat MIG. Untuk MIG regional, Anda juga harus menentukan zona. Zona ini harus berupa zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.
RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus.
REGION: region tempat Anda ingin membuat MIG.

Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan perintah gcloud compute instance-groups managed resize-requests create beta dengan flag --instances:

Di MIG zona, jalankan perintah berikut:

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

Di MIG regional, jalankan perintah berikut:

gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION

Ganti INSTANCE_NAMES dengan daftar nama VM yang dipisahkan koma. Contoh, instance-1,instance-2,instance-3.

REST

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.

Reservasi

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert seperti berikut.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
```
2. Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:

Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert seperti berikut.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}

Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Flex-start

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert seperti berikut.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
```
2. Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:

Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert seperti berikut.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}

Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Spot

Buat MIG zona atau regional dan permintaan perubahan ukuran sebagai berikut:

Untuk membuat MIG zona dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:
1. Buat MIG zona dengan membuat permintaan POST ke metode instanceGroupManagers.insert seperti berikut.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
```
2. Buat permintaan perubahan ukuran di MIG zona dengan membuat permintaan POST ke metode instanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Untuk membuat MIG regional dan permintaan perubahan ukuran di dalamnya, lakukan hal berikut:

Buat MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagers.insert seperti berikut.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}

Buat permintaan perubahan ukuran di MIG regional dengan membuat permintaan POST ke metode regionInstanceGroupManagerResizeRequests.insert seperti berikut. Permintaan ini menentukan jumlah VM yang ingin Anda buat. Jika workload Anda memerlukan nama VM tertentu, buat permintaan pengubahan ukuran dengan menentukan daftar nama VM.
```
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
```

Ganti kode berikut:

PROJECT_ID: project ID.
ZONE: zona tempat Anda ingin membuat MIG. Zona ini harus sama dengan zona yang berisi profil untuk jaringan VPC Anda dan harus berupa zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.
REGION: region tempat Anda ingin membuat MIG. Region ini harus merupakan region yang sama dengan yang berisi profil untuk jaringan VPC Anda dan harus berisi zona tempat jenis mesin yang Anda pilih tersedia. Untuk mengetahui informasi selengkapnya, lihat Batasan.
INSTANCE_TEMPLATE_URL: URL template instance yang ingin Anda gunakan untuk membuat instance di MIG. URL dapat berisi ID atau nama template instance. Tentukan salah satu nilai berikut:
- Untuk template instance regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
- Untuk template instance global: INSTANCE_TEMPLATE_ID
MIG_NAME: nama MIG.
RESIZE_REQUEST_NAME: nama permintaan pengubahan ukuran, yang harus unik dalam MIG yang ditentukan. Jika tidak, pembuatan permintaan pengubahan ukuran akan gagal.
COUNT: jumlah instance yang akan ditambahkan ke MIG sekaligus

Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM

Jika workload Anda memerlukan nama VM tertentu, tentukan daftar nama untuk membuat VM. Jumlah nama yang Anda tentukan akan menentukan jumlah VM yang dibuat MIG sekaligus.

Untuk membuat permintaan pengubahan ukuran dengan nama VM tertentu di MIG, gunakan salah satu metode berikut:

Di MIG zona, kirim permintaan POST menggunakan metode beta.instanceGroupManagerResizeRequests.insert:

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests

Di MIG regional, kirim permintaan POST menggunakan metode beta.regionInstanceGroupManagerResizeRequests.insert:

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests

Misalnya, untuk menentukan dua nama VM, sertakan kode berikut dalam isi permintaan:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Ganti INSTANCE_NAME_1, INSTANCE_NAME_2 dengan nama untuk VM.

Membuat MIG yang dioptimalkan untuk AI dengan jenis mesin A3 Edge Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Batasan

Batasan untuk VM Edge A3

Batasan untuk MIG

Batasan untuk permintaan perubahan ukuran MIG

Sebelum memulai

Peran yang diperlukan

Izin yang diperlukan

Ringkasan

Membuat jaringan VPC

Membuat jaringan, subnet, dan aturan firewall pengelolaan

Membuat jaringan data, subnet, dan aturan firewall

Opsional: Buat kebijakan penempatan rapat

gcloud

REST

Membuat template instance

gcloud

Reservasi

Flex-start

Spot

REST

Reservasi

Flex-start

Spot

Membuat MIG

Membuat MIG dengan ukuran target

gcloud

REST

Membuat MIG dan permintaan perubahan ukuran

gcloud

Reservasi

Flex-start

Spot

Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM

REST

Reservasi

Flex-start

Spot

Buat permintaan pengubahan ukuran dengan menentukan daftar nama VM

Apa langkah selanjutnya?

Membuat MIG yang dioptimalkan untuk AI dengan jenis mesin A3 Edge