Membuat instance G4 yang dioptimalkan untuk AI

Dokumen ini menjelaskan langkah-langkah untuk membuat instance virtual machine (VM) mandiri yang menggunakan seri mesin G4. Untuk mempelajari lebih lanjut jenis mesin yang dioptimalkan untuk akselerator ini, lihat Seri G4.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.

Batasan

Saat Anda membuat VM G4 mandiri, batasan berikut berlaku:

Jika Anda ingin menggunakan kebijakan penempatan rapat, tinjau batasan untuk kebijakan penempatan.

Sebelum memulai

Sebelum membuat VM, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

  1. Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
  2. Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

gcloud

Di konsol Google Cloud , aktifkan Cloud Shell.

Aktifkan Cloud Shell

Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan perintah command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

    Instal Google Cloud CLI.

    Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk membuat VM, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM:

  • compute.instances.create di project
  • Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
  • Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
  • Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
  • Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
  • Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
  • Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
  • Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
  • Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
  • Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
  • Untuk menyetel tag untuk VM: compute.instances.setTags di VM
  • Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
  • Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
  • Untuk membuat disk baru untuk VM: compute.disks.create pada project
  • Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
  • Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat instance dengan jenis mesin G4 mencakup langkah-langkah berikut:

  1. Opsional: Buat kebijakan penempatan rapat
  2. Membuat instance
  3. Menginstal driver GPU
  4. Opsional: Aktifkan mode GPU Multi-Instance NVIDIA

Opsional: Buat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

  • POLICY_NAME: nama kebijakan penempatan rapat.
  • MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda --max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
    • Untuk menempatkan VM di sub-blok yang sama: 1
    • Untuk menempatkan VM dalam blok yang sama: 2
    • Untuk menempatkan VM di blok yang berdekatan: 3
    Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
  • REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

  • PROJECT_ID: project ID Anda.
  • POLICY_NAME: nama kebijakan penempatan rapat.
  • MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
    • Untuk menempatkan VM di sub-blok yang sama: 1
    • Untuk menempatkan VM dalam blok yang sama: 2
    • Untuk menempatkan VM di blok yang berdekatan: 3
    Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
  • REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat VM G4

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

Konsol

  1. Di konsol Google Cloud , buka halaman Create an instance.

    Buka halaman Buat instance

  2. Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.

  3. Pilih Region dan Zona tempat Anda ingin membuat VM. Lihat daftar region dan zona GPU yang tersedia.

  4. Klik tab GPU, lalu selesaikan langkah-langkah berikut:

    1. Untuk menggunakan seri mesin G4, di daftar GPU type, pilih NVIDIA RTX PRO 6000.
    2. Dalam daftar Number of GPUs, pilih jumlah GPU.
    3. Dalam daftar Machine type, pilih jenis mesin.
  5. Berdasarkan opsi penggunaan yang ingin Anda gunakan, pilih salah satu opsi berikut dan selesaikan langkah-langkah berikut.

    Reservasi

    Instance G4 mendukung jenis reservasi berikut:

    • Reservasi sesuai permintaan
    • Pemesanan standar untuk masa mendatang

    Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

    1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Standard. (Opsi ini dipilih secara default.)
    2. Untuk mengonfigurasi reservasi yang digunakan VM ini, selesaikan langkah-langkah berikut:

      1. Di menu navigasi, klik Lanjutan.
      2. Untuk Reservasi, pilih salah satu opsi berikut:

        • Untuk menggunakan kapasitas reservasi secara opsional, pilih Gunakan pilihan otomatis. (Opsi ini dipilih secara default.)

          Instance mencoba menggunakan kapasitas dari reservasi yang digunakan secara otomatis, yang hanya terjadi jika kapasitas reservasi yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

        • Untuk mewajibkan kapasitas reservasi, pilih Pilih reservasi, lalu klik Pilih reservasi untuk menentukan reservasi yang akan digunakan.

          Instance diwajibkan untuk menggunakan kapasitas dari reservasi yang ditargetkan secara khusus dan tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

    Sesuai permintaan

    1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Standard. (Opsi ini dipilih secara default.)
    2. Opsional: Untuk mengonfigurasi apakah VM ini menggunakan reservasi atau tidak, selesaikan langkah-langkah berikut:

      1. Di menu navigasi, klik Lanjutan.
      2. Untuk Reservasi, pilih salah satu opsi berikut:

        • Untuk menggunakan kapasitas reservasi secara opsional, pilih Gunakan pilihan otomatis. (Opsi ini dipilih secara default.)

          Instance mencoba menggunakan kapasitas dari reservasi yang digunakan secara otomatis, yang hanya terjadi jika kapasitas reservasi yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

        • Untuk mewajibkan kapasitas on-demand, pilih Don't use a reservation.

          Instance diblokir agar tidak menggunakan kapasitas reservasi apa pun.

    Flex-start

    1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Flex-start.
    2. Di kolom Masukkan jumlah jam, masukkan jumlah waktu maksimum yang Anda inginkan agar VM berjalan. Nilainya harus antara 46 detik (0.01) dan tujuh hari (168, atau 168 jam).

    3. Pilih Setel waktu tunggu untuk pembuatan VM.

      Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:

      • Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik dan 2 jam. Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan sumber daya.
      • Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi 0 detik atau hapus tanda centang Tetapkan waktu tunggu untuk pembuatan VM. Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut segera tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.

    4. Di kolom On VM termination, pilih apakah akan menghentikan atau menghapus VM di akhir durasi jalannya:

      • Untuk menghapus VM, pilih Delete.
      • Untuk menghentikan VM, pilih Hentikan.

    Spot

    1. Di bagian Model penyediaan, pilih Spot dari daftar Model penyediaan VM.
    2. Opsional: Untuk memilih tindakan penghentian yang terjadi saat Compute Engine melakukan preempt terhadap VM, selesaikan langkah-langkah berikut:

      1. Luaskan bagian Setelan lanjutan model penyediaan VM.
      2. Dalam daftar Pada penghentian VM, pilih salah satu opsi berikut:
        • Untuk menghentikan VM selama preemption, pilih Hentikan (default).
        • Untuk menghapus VM selama preemption, pilih Hapus.
  6. Di menu navigasi, klik OS and storage, lalu selesaikan langkah-langkah berikut:

    1. Klik Ubah. Panel Boot disk configuration akan terbuka.
    2. Pada tab Public images, pilih image yang direkomendasikan. Untuk daftar image yang direkomendasikan, lihat Sistem operasi.

    3. Opsional: Untuk mengonfigurasi ukuran boot disk, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.

    4. Untuk mengonfirmasi opsi boot disk, klik Select.

    5. Opsional: Jika Anda ingin menambahkan disk SSD Lokal, selesaikan langkah-langkah berikut. Secara khusus, jenis mesin G4 menggunakan disk SSD Titanium.

      1. Klik Tambahkan SSD lokal. Panel Configure local SSD akan terbuka.
      2. Di panel Konfigurasi SSD lokal, konfigurasi opsi untuk disk SSD Lokal. Untuk mengetahui informasi selengkapnya, lihat Menambahkan disk SSD Lokal ke instance komputasi Anda dalam dokumentasi Compute Engine.
      3. Untuk mengonfirmasi opsi boot disk, klik Simpan.

      Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  7. Konfigurasi akun layanan dan cakupan akses sebagai berikut. Workload yang berjalan di instance menggunakan akun layanan yang terpasang untuk mengizinkan permintaan ke layanan Google Cloud lain.

    1. Di menu navigasi, klik Security.
    2. Dalam daftar Service account, pilih akun layanan yang akan digunakan.
    3. Untuk Access scopes, pilih opsi Allow full access to all Cloud APIs. Praktik terbaik ini memungkinkan Anda mengelola akses dengan menambahkan atau menghapus peran IAM dari akun layanan. Untuk mengetahui informasi selengkapnya, lihat Melampirkan akun layanan ke instance.
  8. Untuk membuat dan memulai VM, klik Create.

gcloud

Untuk membuat VM, gunakan perintah gcloud compute instances create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance G4 mendukung jenis reservasi berikut:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_NAME: nama VM.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID image OS.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

      • specific (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

    • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

      • Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.
      • Jika Anda menentukan specific, ganti RESERVATION dengan yang berikut:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ganti kode berikut:

        • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
        • RESERVATION_NAME: nama pemesanan.
  2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

    --no-restart-on-failure
  3. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

      --resource-policies=POLICY_NAME
    

    Ganti kode berikut:

    • POLICY_NAME: nama kebijakan penempatan rapat.
  4. Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

    --local-ssd interface=INTERFACE_TYPE
    

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  5. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  6. Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_NAME: nama VM.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID image OS.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • any (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

      • none (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

  2. Secara default, instance akan dimulai ulang secara otomatis jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan tanda berikut:

    --no-restart-on-failure
  3. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

      --resource-policies=POLICY_NAME
    

    Ganti kode berikut:

    • POLICY_NAME: nama kebijakan penempatan rapat.
  4. Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

    --local-ssd interface=INTERFACE_TYPE
    

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  5. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  6. Jalankan perintah.

Flex-start

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_NAME: nama VM.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID image OS.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • REQUEST_VALID_FOR_DURATION: berapa lama permintaan untuk membuat VM tetap valid. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m untuk 30 menit atau 1h2m3s untuk satu jam, dua menit, dan tiga detik.

      Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:

      • Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik (90s) dan dua jam (2h). Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan resource.
      • Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi nol detik (0s). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut tersedia secara langsung. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
    • MAX_RUN_DURATION: berapa lama Anda ingin VM yang diminta berjalan. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Nilai harus antara 10 menit dan tujuh hari.

    • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi jalannya.

  2. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

      --resource-policies=POLICY_NAME
    

    Ganti kode berikut:

    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

    --local-ssd interface=INTERFACE_TYPE
    

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • INSTANCE_NAME: nama VM.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • IMAGE_PROJECT: project ID image OS.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  2. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

      --resource-policies=POLICY_NAME
    

    Ganti kode berikut:

    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk melampirkan disk SSD Lokal, tambahkan flag --local-ssd berikut untuk setiap disk SSD Lokal.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

    --local-ssd interface=INTERFACE_TYPE
    

    Ganti kode berikut:

    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan tanda berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Jalankan perintah.

REST

Untuk membuat VM, buat permintaan POST ke instances.insert metode.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance G4 mendukung jenis reservasi berikut:

  • Reservasi sesuai permintaan
  • Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • PROJECT_ID: project ID project tempat Anda ingin membuat VM.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • INSTANCE_NAME: nama VM.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • IMAGE_PROJECT: project ID image OS.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

    • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

      • SPECIFIC_RESERVATION (Kapasitas reservasi diperlukan): Mewajibkan instance menggunakan kapasitas dari reservasi yang ditargetkan secara khusus. Instance tidak diizinkan untuk menggunakan kapasitas sesuai permintaan. Jika kapasitas reservasi tidak tersedia, pembuatan instance akan gagal.

    • RESERVATION: reservasi yang akan digunakan. Tentukan salah satu opsi berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:

      • Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya berupa string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.
      • Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan yang berikut:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Ganti kode berikut:

        • RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
        • RESERVATION_NAME: nama pemesanan.
  2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:

      "resourcePolicies": [
        "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
      ]
    

    Ganti kode berikut:

    • PROJECT_ID: project ID kebijakan penempatan ringkas.
    • REGION: region kebijakan penempatan rapat.
    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
        }
      ]
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • PROJECT_ID: project ID project tempat Anda ingin membuat VM.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • INSTANCE_NAME: nama VM.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • IMAGE_PROJECT: project ID image OS.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • AUTOMATIC_RESTART: jika instance Anda otomatis dimulai ulang jika error atau dihentikan oleh Compute Engine untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.

    • RESERVATION_AFFINITY: reservasi mana yang diizinkan untuk dipakai instance, jika memungkinkan. Tentukan salah satu dari berikut ini:

      • ANY_RESERVATION (Kapasitas reservasi bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas sesuai permintaan.

      • NO_RESERVATION (Kapasitas on-demand diperlukan): Mencegah instance menggunakan kapasitas reservasi.

  2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:

      "resourcePolicies": [
        "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
      ]
    

    Ganti kode berikut:

    • PROJECT_ID: project ID kebijakan penempatan ringkas.
    • REGION: region kebijakan penempatan rapat.
    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
        }
      ]
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Kirim permintaan.

Flex-start

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "reservationAffinity": {
    "consumeReservationType": "NO_RESERVATION",
  },
  "scheduling": {
    "provisioningModel": "FLEX_START",
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    },
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • PROJECT_ID: project ID project tempat Anda ingin membuat VM.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • INSTANCE_NAME: nama VM.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • IMAGE_PROJECT: project ID image OS.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • REQUEST_VALID_FOR_DURATION: durasi, dalam detik, permintaan untuk membuat VM tetap valid.

      Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:

      • Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik (90) dan dua jam (7200). Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan resource.
      • Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi nol detik (0). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut segera tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
    • MAX_RUN_DURATION: durasi yang Anda inginkan agar VM yang diminta berjalan. Anda harus memformat nilai sebagai jumlah detik. Misalnya, tentukan 86400 untuk 86.400 detik (24 jam). Nilainya harus antara 10 menit dan tujuh hari.

    • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi jalannya.

  2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:

      "resourcePolicies": [
        "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
      ]
    

    Ganti kode berikut:

    • PROJECT_ID: project ID kebijakan penempatan ringkas.
    • REGION: region kebijakan penempatan rapat.
    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
        }
      ]
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "hyperdisk-balanced",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

Selesaikan langkah-langkah berikut:

  1. Ganti kode berikut:

    • PROJECT_ID: project ID project tempat Anda ingin membuat VM.
    • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
    • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
    • INSTANCE_NAME: nama VM.
    • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
    • IMAGE_PROJECT: project ID image OS.
    • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
    • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

  2. Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:

      "resourcePolicies": [
        "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
      ]
    

    Ganti kode berikut:

    • PROJECT_ID: project ID kebijakan penempatan ringkas.
    • REGION: region kebijakan penempatan rapat.
    • POLICY_NAME: nama kebijakan penempatan rapat.
  3. Opsional: Untuk menggunakan disk SSD Lokal, tambahkan kolom berikut ke kolom disks[] untuk setiap disk SSD Lokal. Pisahkan setiap sub-bidang disks[] (termasuk boot disk) dengan koma.

    Pastikan jumlah disk SSD Lokal yang Anda pasang diizinkan untuk jenis mesin Anda; untuk detailnya, lihat Tentang disk SSD Lokal dalam dokumentasi Compute Engine. Secara khusus, Jenis mesin G4 menggunakan disk SSD Titanium.

        {
           "type": "SCRATCH",
           "initializeParams": {
              "diskType": "zones/ZONE/diskTypes/local-ssd"
           },
           "autoDelete": true,
           "interface": "INTERFACE_TYPE"
        }
    

    Ganti kode berikut:

    • ZONE: zona yang Anda tentukan.
    • INTERFACE_TYPE: jenis antarmuka disk yang ingin Anda gunakan untuk disk SSD Lokal. Jika image boot disk Anda memiliki driver NVMe yang dioptimalkan, tentukan NVME. Tentukan SCSI untuk gambar lainnya.

    Setelah membuat VM dengan disk SSD Lokal, Anda harus memformat dan memasang setiap perangkat sebelum dapat menggunakannya.

  4. Opsional: Untuk menggunakan NVIDIA RTX Virtual Workstation (vWS), tambahkan kolom berikut.

    Saat Anda membuat instance yang menggunakan NVIDIA RTX Virtual Workstation, Compute Engine akan otomatis menambahkan lisensi vWS. Untuk mengetahui informasi tentang harga workstation virtual, lihat halaman harga GPU.

    "guestAccelerators":
      [
        {
          "acceleratorCount": VWS_ACCELERATOR_COUNT,
          "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
        }
      ]
    

    Ganti VWS_ACCELERATOR_COUNT dengan jumlah GPU virtual yang Anda inginkan.

  5. Kirim permintaan.

Menginstal driver GPU

Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Driver yang perlu Anda instal bergantung pada apakah instance memiliki GPU fraksional atau mengaktifkan NVIDIA RTX Virtual Workstation (vWS). Gunakan salah satu opsi berikut:

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Mode Multi-Instance GPU (MIG) adalah fitur yang dapat Anda aktifkan untuk GPU NVIDIA yang didukung. Setelah membuat instance, Anda dapat mengaktifkan mode MIG pada satu GPU yang terpasang ke mesin Anda. Dengan mengaktifkan mode MIG, satu GPU dipartisi menjadi hingga tujuh instance GPU independen. Setiap instance berjalan secara bersamaan, masing-masing dengan memori, cache, dan multiprosesor streaming-nya sendiri. Kemudian, Anda dapat menjalankan berbagai workload pada instance GPU ini secara paralel. Mode MIG berbeda dengan penggunaan jenis mesin G4 yang memiliki GPU fraksional terpasang, di mana beberapa workload berbagi akses ke satu GPU fisik melalui partisi fraksional (vGPU). Untuk mengetahui informasi selengkapnya tentang penggunaan mode MIG, lihat Panduan Pengguna Multi-Instance GPU (MIG) dalam dokumentasi NVIDIA.

Langkah berikutnya