Google menggunakan teknologi AI untuk menerjemahkan konten ke dalam bahasa pilihan Anda. Terjemahan AI mungkin mengandung kesalahan.

Membuat VM G2 yang dioptimalkan untuk AI secara massal

GPU Umum

Dokumen ini menjelaskan cara membuat instance virtual machine (VM) secara massal yang menggunakan jenis mesin G2. Untuk mempelajari lebih lanjut jenis mesin yang dioptimalkan untuk akselerator ini, lihat Seri G2.

Untuk mengetahui informasi selengkapnya tentang cara membuat VM secara massal, lihat artikel Tentang pembuatan VM secara massal dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.

Batasan

Saat Anda membuat VM G2, batasan berikut berlaku:

Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk instance yang menggunakan jenis mesin G2.
Anda hanya dapat menggunakan jenis mesin G2 di region dan zona tertentu.
Jenis mesin G2 hanya tersedia di platform Cascade Lake.
Persistent Disk Standar (pd-standard) tidak didukung pada instance yang menggunakan jenis mesin G2. Untuk mengetahui jenis disk yang didukung, lihat Jenis disk yang didukung untuk G2.
Anda tidak dapat membuat GPU Multi-Instance pada instance yang menggunakan jenis mesin G2.
Jika Anda perlu mengubah jenis mesin instance G2, tinjau Mengubah instance yang dioptimalkan untuk akselerator.
Anda tidak dapat menggunakan Deep Learning VM Image sebagai boot disk untuk instance yang menggunakan jenis mesin G2.
Driver default saat ini untuk Container-Optimized OS tidak mendukung GPU L4 yang berjalan pada jenis mesin G2. Selain itu, Container-Optimized OS hanya mendukung serangkaian driver tertentu. Jika Anda ingin menggunakan Container-Optimized OS pada jenis mesin G2, tinjau catatan berikut:
- Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan 525.60.13 atau yang lebih baru. Untuk informasi selengkapnya, tinjau catatan rilis Container-Optimized OS.
- Saat Anda menginstal driver, tentukan versi terbaru yang tersedia yang berfungsi untuk GPU L4. Contoh, sudo cos-extensions install gpu -- -version=525.60.13.
Anda harus menggunakan Google Cloud CLI atau REST untuk membuat instance G2 untuk skenario berikut:
- Anda ingin menetapkan nilai memori kustom.
- Anda ingin menyesuaikan jumlah inti CPU yang terlihat.

Jika Anda ingin menggunakan kebijakan penempatan rapat, tinjau batasan untuk kebijakan penempatan.

Sebelum memulai

Sebelum membuat VM secara massal, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

gcloud

Di konsol Google Cloud , aktifkan Cloud Shell.

Aktifkan Cloud Shell

Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan perintah command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Agar mendapatkan izin yang Anda perlukan untuk membuat VM secara massal, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM secara massal. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM secara massal:

compute.instances.create di project
Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
Untuk menyetel tag untuk VM: compute.instances.setTags di VM
Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
Untuk membuat disk baru untuk VM: compute.disks.create pada project
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat instance secara massal dengan jenis mesin G2 mencakup langkah-langkah berikut:

Opsional: Buat kebijakan penempatan rapat
Membuat instance secara massal
Menginstal driver GPU

Opsional: Buat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda --max-distance). Pastikan konfigurasi jarak maksimum mendukung seri mesin dan jumlah VM yang akan Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine. Misalnya, jarak maksimum 3 menempatkan VM di blok yang berdekatan dan 2 menempatkan VM di blok yang sama.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

PROJECT_ID: project ID Anda.
POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Pastikan konfigurasi jarak maksimum mendukung seri mesin dan jumlah VM yang akan Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine. Misalnya, jarak maksimum 3 menempatkan VM di blok yang berdekatan dan 2 menempatkan VM di blok yang sama.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat VM G2 secara massal

Untuk membuat VM G2 secara massal, gunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Untuk membuat beberapa instance sekaligus, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance G2 mendukung jenis reservasi berikut:

Reservasi sesuai permintaan
Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.
  - specific (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
- RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:
  - Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.
  - Jika Anda menentukan specific, ganti RESERVATION dengan yang berikut:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ganti kode berikut:
    - RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    - RESERVATION_NAME: nama pemesanan.
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
```
--no-restart-on-failure
```
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
Ganti kode berikut:
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.
  - none (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:
```
--no-restart-on-failure
```
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
Ganti kode berikut:
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- IMAGE_PROJECT: project ID image OS.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
--local-ssd interface=INTERFACE_TYPE
```
Ganti kode berikut:
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Jalankan perintah.

REST

Untuk membuat instance secara massal, buat permintaan POST ke metode instances.bulkInsert.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance G2 mendukung jenis reservasi berikut:

Reservasi sesuai permintaan
Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat instance G2.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID image OS.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.
- RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.
  - SPECIFIC_RESERVATION (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.
- RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:
  - Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.
  - Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan yang berikut:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ganti kode berikut:
    - RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    - RESERVATION_NAME: nama pemesanan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ganti kode berikut:
- ZONE: zona yang Anda tentukan.
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
"guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
    }
  ]
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat instance G2.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID image OS.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.
- RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.
  - NO_RESERVATION (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ganti kode berikut:
- ZONE: zona yang Anda tentukan.
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
"guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
    }
  ]
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "DISK_TYPE",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat instance G2.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama yang akan digunakan untuk instance G2. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance G2 dengan nama seperti instance-1 dan instance-2, hingga jumlah instance G2 yang ditentukan oleh --count.
- COUNT: jumlah instance G2 yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance G2. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID image OS.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine.
```
    {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }
```
Ganti kode berikut:
- ZONE: zona yang Anda tentukan.
- INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.
Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.
Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.
```
"guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws"
    }
  ]
```
Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.
Kirim permintaan.

Untuk mengetahui informasi selengkapnya tentang opsi konfigurasi saat membuat VM secara massal, lihat Membuat VM secara massal dalam dokumentasi Compute Engine.

Menginstal driver GPU

Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Driver yang perlu Anda instal bergantung pada apakah instance mengaktifkan NVIDIA RTX Virtual Workstation (vWS). Gunakan salah satu opsi berikut:

Jika Anda mengaktifkan vWS, lihat Menginstal driver untuk NVIDIA RTX Virtual Workstations (vWS) dalam dokumentasi Compute Engine.
Jika tidak, gunakan driver GPU default sebagai berikut:
- Jika Anda menentukan image OS yang menyertakan driver GPU, Anda tidak perlu melakukan tindakan apa pun.
- Jika image OS tidak menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.

Membuat VM G2 yang dioptimalkan untuk AI secara massal Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Batasan

Sebelum memulai

Konsol

gcloud

REST

Peran yang diperlukan

Izin yang diperlukan

Ringkasan

Opsional: Buat kebijakan penempatan rapat

gcloud

REST

Membuat VM G2 secara massal

gcloud

Reservasi

Sesuai permintaan

Spot

REST

Reservasi

Sesuai permintaan

Spot

Menginstal driver GPU

Langkah berikutnya

Membuat VM G2 yang dioptimalkan untuk AI secara massal