Google menggunakan teknologi AI untuk menerjemahkan konten ke dalam bahasa pilihan Anda. Terjemahan AI mungkin mengandung kesalahan.

Membuat VM A4 atau A3 Ultra yang dioptimalkan untuk AI secara massal

GPU yang dikelompokkan

Dokumen ini menjelaskan cara membuat instance virtual machine (VM) secara massal yang menggunakan jenis mesin A4 atau A3 Ultra. Untuk mempelajari lebih lanjut jenis mesin yang dioptimalkan untuk akselerator ini, lihat A4 atau A3 Ultra.

Untuk mengetahui informasi selengkapnya tentang cara membuat VM secara massal, lihat artikel Tentang pembuatan VM secara massal dalam dokumentasi Compute Engine.

Untuk mempelajari cara lain dalam membuat VM atau cluster, lihat Ringkasan opsi deployment.

Batasan

Saat Anda membuat VM A4 atau A3 Ultra secara massal, batasan berikut berlaku:

A4

Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk instance yang menggunakan jenis mesin A4.
Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
Anda tidak dapat mengubah jenis mesin instance ke atau dari jenis mesin A4. Anda harus membuat instance baru dengan jenis mesin ini.
Jenis mesin A4 tidak mendukung sole-tenancy.
Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.
Untuk instance A4, saat Anda menggunakan ethtool -S untuk memantau jaringan GPU, penghitung port fisik yang berakhiran _phy tidak diperbarui. Ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan.
Anda tidak dapat melampirkan disk Hyperdisk ML yang dibuat sebelum 4 Februari 2026 ke jenis mesin A4.

A3 Ultra

Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Ultra.
Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
Anda tidak dapat menggunakan Persistent Disk (regional atau zonal). Anda hanya dapat menggunakan Google Cloud Hyperdisk.
Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Ultra. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.
Jenis mesin A3 Ultra tidak mendukung sole-tenancy.
Untuk instance A3 Ultra, saat Anda menggunakan ethtool -S untuk memantau jaringan GPU, penghitung port fisik yang berakhiran _phy tidak diperbarui. Hal ini adalah perilaku yang diharapkan untuk instance yang menggunakan arsitektur Fungsi Virtual (VF) MRDMA. Untuk mengetahui informasi selengkapnya, lihat Fungsi MRDMA dan alat pemantauan jaringan.

Jika Anda ingin menggunakan kebijakan penempatan ringkas, tinjau batasan untuk kebijakan penempatan.

Sebelum memulai

Sebelum membuat VM secara massal, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

Pilih opsi pemakaian: pilihan opsi pemakaian menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi pemakaian.
Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi penggunaan. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

gcloud

Di konsol Google Cloud , aktifkan Cloud Shell.

Aktifkan Cloud Shell

Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan perintah command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Agar mendapatkan izin yang Anda perlukan untuk membuat VM secara massal, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM secara massal. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM secara massal:

compute.instances.create di project
Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
Untuk menyetel tag untuk VM: compute.instances.setTags di VM
Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
Untuk membuat disk baru untuk VM: compute.disks.create pada project
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Membuat instance secara massal dengan jenis mesin A4 atau A3 Ultra mencakup langkah-langkah berikut:

Membuat jaringan VPC
Opsional: Buat kebijakan penempatan rapat
Membuat instance secara massal
Menginstal driver GPU
Opsional: Aktifkan mode GPU Multi-Instance NVIDIA

Membuat jaringan VPC

Tips: Jika menyiapkan pengujian cepat, Anda dapat melewati langkah ini dan menentukan satu NIC --network-interface=nic-type=GVNIC sebagai gantinya.

Untuk menyiapkan jaringan bagi jenis mesin A4 atau A3 Ultra, buat tiga jaringan VPC untuk antarmuka jaringan berikut:

2 jaringan VPC reguler untuk antarmuka jaringan (NIC) gVNIC . NIC kemudian menggunakan jaringan VPC ini untuk komunikasi host-ke-host.
1 jaringan VPC dengan profil jaringan RoCE untuk NIC CX-7. Jaringan VPC RoCE untuk instance VM harus memiliki 8 subnet, satu subnet untuk setiap NIC CX-7. NIC ini menggunakan RDMA over Converged Ethernet (RoCE), yang menyediakan komunikasi ber-bandwidth tinggi dan berlatensi rendah yang penting untuk komunikasi GPU-ke-GPU.

Untuk mengetahui informasi selengkapnya tentang pengaturan NIC, lihat Meninjau bandwidth jaringan dan pengaturan NIC.

Buat jaringan secara manual dengan mengikuti panduan petunjuk atau secara otomatis menggunakan skrip yang disediakan.

Panduan petunjuk

Untuk membuat jaringan, Anda dapat menggunakan petunjuk berikut:

Untuk membuat jaringan VPC reguler untuk antarmuka jaringan gVNIC, lihat Membuat dan mengelola jaringan Virtual Private Cloud.
Untuk membuat jaringan VPC RoCE untuk instance VM (roce), lihat Membuat jaringan Virtual Private Cloud untuk NIC RDMA.

Untuk jaringan VPC ini, tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Untuk jenis mesin A4 atau A3 Ultra, MTU yang direkomendasikan adalah 8896 byte. Untuk meninjau setelan MTU yang direkomendasikan untuk jenis mesin GPU lainnya, lihat Setelan MTU untuk jenis mesin GPU.

Skrip

Untuk membuat jaringan, ikuti langkah-langkah berikut.

Gunakan skrip berikut untuk membuat jaringan VPC bagi gVNIC dan NIC CX-7.


    #!/bin/bash

    # Create regular VPC networks and subnets for the gVNICs
    for N in $(seq 0 1); do
      gcloud compute networks create GVNIC_NAME_PREFIX-net-$N \
        --subnet-mode=custom \
        --mtu=8896

      gcloud compute networks subnets create GVNIC_NAME_PREFIX-sub-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --region=REGION \
        --range=10.$N.0.0/16

      gcloud compute firewall-rules create GVNIC_NAME_PREFIX-internal-$N \
        --network=GVNIC_NAME_PREFIX-net-$N \
        --action=ALLOW \
        --rules=tcp:0-65535,udp:0-65535,icmp \
        --source-ranges=10.0.0.0/8
    done

    # Create SSH firewall rules
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-ssh \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=tcp:22 \
      --source-ranges=IP_RANGE

    # Assumes that an external IP is only created for vNIC 0
    gcloud compute firewall-rules create GVNIC_NAME_PREFIX-allow-ping-net-0 \
      --network=GVNIC_NAME_PREFIX-net-0 \
      --action=ALLOW \
      --rules=icmp \
      --source-ranges=IP_RANGE


    #!/bin/bash

    # List and make sure network profiles exist in the machine type's zone
    gcloud compute network-profiles list --filter "location.name=ZONE"

    # Create network for RDMA NICs
    gcloud compute networks create RDMA_NAME_PREFIX-mrdma \
      --network-profile=ZONE-vpc-roce \
      --subnet-mode custom \
      --mtu=8896

    # Create subnets
    for N in $(seq 0 7); do
      gcloud compute networks subnets create RDMA_NAME_PREFIX-mrdma-sub-$N \
        --network=RDMA_NAME_PREFIX-mrdma \
        --region=REGION \
        --range=10.$((N+2)).0.0/16 # offset to avoid overlap with gVNICs
    done

Ganti kode berikut:

GVNIC_NAME_PREFIX: awalan nama kustom yang akan digunakan untuk jaringan dan subnet VPC reguler untuk gVNIC.
RDMA_NAME_PREFIX: awalan nama kustom yang akan digunakan untuk jaringan VPC RoCE untuk instance VM (roce) dan subnet untuk NIC CX-7.
ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia, seperti us-central1-a. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
REGION: region tempat Anda ingin membuat subnet. Region ini harus sesuai dengan zona yang ditentukan. Misalnya, jika zona Anda adalah us-central1-a, maka region Anda adalah us-central1.
IP_RANGE: rentang IP yang akan digunakan untuk aturan firewall SSH.

Opsional: Untuk memverifikasi bahwa resource jaringan VPC berhasil dibuat, periksa setelan jaringan di konsol Google Cloud :
1. Di konsol Google Cloud , buka halaman VPC networks.
  Buka VPC networks
2. Telusuri daftar untuk menemukan jaringan yang Anda buat di langkah sebelumnya.
3. Untuk melihat subnet, aturan firewall, dan setelan jaringan lainnya, klik nama jaringan.

Opsional: Buat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan berupaya sebaik mungkin untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih berdekatan, tetapi juga meningkatkan kemungkinan beberapa VM tidak dapat dibuat.

Untuk membuat kebijakan penempatan ringkas, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (menghapus tanda --max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM dalam blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

REST

Untuk membuat kebijakan penempatan ringkas, buat permintaan POST ke metode beta resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

PROJECT_ID: project ID Anda.
POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM dalam blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung rangkaian mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan ringkas dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.

Membuat VM A3 Ultra atau A4 secara massal

Untuk membuat VM A3 Ultra atau A4 secara massal, gunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

gcloud

Untuk membuat beberapa instance sekaligus, gunakan perintah gcloud compute instances bulk create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A4 atau A3 Ultra mendukung jenis reservasi berikut:

Pemesanan untuk masa mendatang di AI Hypercomputer
Pemesanan untuk masa mendatang dalam mode kalender

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan terikat reservasi. Misalnya, gunakan parameter pembuatan berikut.

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh --count.
- COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
- IMAGE_PROJECT: project ID image OS.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A4 atau A3 Ultra di akhir periode pemesanan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances bulk create \
    --name-pattern=NAME_PATTERN \
    --count=COUNT \
     --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh --count.
- COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
- IMAGE_PROJECT: project ID image OS.
- REGION: tentukan region tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, maka tambahkan flag berikut ke perintah:
```
--resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

REST

Untuk membuat instance secara massal, buat permintaan POST ke metode instances.bulkInsert.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A4 atau A3 Ultra mendukung jenis reservasi berikut:

Pemesanan untuk masa mendatang di AI Hypercomputer
Pemesanan untuk masa mendatang dalam mode kalender

Untuk menggunakan jenis reservasi ini, instance harus menggunakan model penyediaan terikat reservasi. Misalnya, gunakan parameter pembuatan berikut.

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
      }
     ],
    "reservationAffinity": {
        "consumeReservationType": "SPECIFIC_RESERVATION",
        "key": "compute.googleapis.com/reservation-name",
        "values": [
          "RESERVATION"
        ]
      },
    "scheduling": {
        "provisioningModel": "RESERVATION_BOUND",
        "instanceTerminationAction": "DELETE",
        "onHostMaintenance": "TERMINATE",
        "automaticRestart": true
      }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat instance A4 atau A3 Ultra.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh --count.
- COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- IMAGE_PROJECT: project ID image OS.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.
- RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:
  - Untuk membuat instance di seluruh blok atau pada satu blok:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Selain itu, untuk satu blok, terapkan kebijakan penempatan compact yang menentukan kolokasi blok (maxDistance=2) . Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.
  - Untuk membuat instance di blok tertentu:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
```
  Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) instance A4 atau A3 Ultra di akhir periode pemesanan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
  "namePattern": "NAME_PATTERN",
  "count": "COUNT",
  "instanceProperties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-nat",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
        "nicType": "GVNIC",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-0"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-1"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-2"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-3"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-4"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-5"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-6"
      },
      {
        "network": "projects/NETWORK_PROJECT_ID/global/networks/RDMA_NAME_PREFIX-mrdma",
        "nicType": "MRDMA",
        "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/RDMA_NAME_PREFIX-mrdma-sub-7"
      }
     ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID project tempat Anda ingin membuat instance A4 atau A3 Ultra.
- ZONE: tentukan zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan compact, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan compact. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
- NAME_PATTERN: pola nama yang akan digunakan untuk instance A4 atau A3 Ultra. Misalnya, menggunakan instance-# untuk pola nama akan menghasilkan instance A4 atau A3 Ultra dengan nama seperti instance-1 dan instance-2, hingga jumlah instance A4 atau A3 Ultra yang ditentukan oleh --count.
- COUNT: jumlah instance A4 atau A3 Ultra yang akan dibuat.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk instance A4 atau A3 Ultra. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- IMAGE_PROJECT: project ID image OS.
- IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
  Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan NIC gVNIC.
- REGION: region subnetwork.
- RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan sub-bidang instanceProperties berikut ke isi permintaan:
```
    "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]
```
Ganti kode berikut:
- PROJECT_ID: project ID kebijakan penempatan ringkas.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Untuk mengetahui informasi selengkapnya tentang opsi konfigurasi saat membuat VM secara massal, lihat Membuat VM secara massal dalam dokumentasi Compute Engine.

Menginstal driver GPU

Setelah Anda membuat instance, instance tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan image OS yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Mode Multi-Instance GPU (MIG) adalah fitur yang dapat Anda aktifkan untuk GPU NVIDIA yang didukung. Setelah membuat instance, Anda dapat mengaktifkan mode MIG pada satu GPU yang terpasang ke mesin Anda. Dengan mengaktifkan mode MIG, satu GPU dipartisi menjadi hingga tujuh instance GPU independen. Setiap instance berjalan secara bersamaan, masing-masing dengan memori, cache, dan multiprosesor streaming-nya sendiri. Kemudian, Anda dapat menjalankan berbagai workload pada instance GPU ini secara paralel. Untuk mengetahui informasi selengkapnya tentang penggunaan mode MIG, lihat Panduan Pengguna Multi-Instance GPU (MIG) dalam dokumentasi NVIDIA.

Membuat VM A4 atau A3 Ultra yang dioptimalkan untuk AI secara massal Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Batasan

A4

A3 Ultra

Sebelum memulai

Konsol

gcloud

REST

Peran yang diperlukan

Izin yang diperlukan

Ringkasan

Membuat jaringan VPC

Panduan petunjuk

Skrip

Opsional: Buat kebijakan penempatan rapat

gcloud

REST

Membuat VM A3 Ultra atau A4 secara massal

gcloud

Reservasi

Spot

REST

Reservasi

Spot

Menginstal driver GPU

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Langkah berikutnya

Membuat VM A4 atau A3 Ultra yang dioptimalkan untuk AI secara massal