Google menggunakan teknologi AI untuk menerjemahkan konten ke dalam bahasa pilihan Anda. Terjemahan AI mungkin mengandung kesalahan.

Membuat instance yang dioptimalkan untuk AI dengan A3 Edge

GPU ter-cluster

Dokumen ini menjelaskan langkah-langkah untuk membuat instance virtual machine (VM) mandiri yang menggunakan jenis mesin yang dioptimalkan akselerator A3 Edge. Untuk mempelajari lebih lanjut jenis mesin, lihat A3 Edge.

Untuk mempelajari cara lain membuat VM atau cluster, lihat halaman Ringkasan.

Batasan

Saat Anda membuat VM A3 Edge mandiri, batasan berikut berlaku:

Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk instance yang menggunakan jenis mesin A3 Edge.
Anda hanya dapat menggunakan jenis mesin A3 Edge di region dan zona tertentu.
Anda tidak dapat menggunakan Persistent Disk regional pada instance yang menggunakan jenis mesin A3 Edge.
Jenis mesin A3 Edge hanya tersedia di platform CPU Sapphire Rapids.
Perubahan jenis mesin tidak didukung untuk jenis mesin A3 Edge. Untuk beralih ke atau dari jenis mesin ini, Anda harus membuat instance baru.
Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Edge.
Jenis mesin A3 Edge tidak mendukung sole-tenancy.

Jika Anda ingin menggunakan kebijakan penempatan rapat, tinjau batasan untuk kebijakan penempatan.

Sebelum memulai

Sebelum membuat VM, jika Anda belum melakukannya, selesaikan langkah-langkah berikut:

Pilih opsi pemakaian: pilihan opsi pemakaian Anda menentukan cara Anda mendapatkan dan menggunakan resource GPU. Untuk mempelajari lebih lanjut, lihat Memilih opsi konsumsi.
Mendapatkan kapasitas: proses untuk mendapatkan kapasitas berbeda untuk setiap opsi konsumsi. Untuk mempelajari proses mendapatkan kapasitas untuk opsi pemakaian yang Anda pilih, lihat Ringkasan kapasitas.

Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

Konsol

Saat menggunakan konsol Google Cloud untuk mengakses layanan dan API Google Cloud , Anda tidak perlu menyiapkan autentikasi.

gcloud

Di konsol Google Cloud , aktifkan Cloud Shell.

Aktifkan Cloud Shell

Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan terbuka dan menampilkan prompt command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk membuat VM, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat VM. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat VM:

compute.instances.create pada project
Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use pada project atau pada subnet yang dipilih
Untuk menentukan alamat IP statis bagi VM: compute.addresses.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp pada project atau pada subnet yang dipilih
Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp pada project
Untuk menetapkan metadata instance VM untuk VM: compute.instances.setMetadata pada project
Untuk menetapkan tag bagi VM: compute.instances.setTags pada VM
Untuk menetapkan label bagi VM: compute.instances.setLabels pada VM
Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount pada VM
Untuk membuat disk baru bagi VM: compute.disks.create pada project
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Ringkasan

Pembuatan instance dengan jenis mesin A3 Edge mencakup langkah-langkah berikut:

Membuat jaringan VPC
Opsional: Membuat kebijakan penempatan rapat
Membuat instance
Menginstal driver GPU
Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Membuat jaringan VPC

Untuk mengaktifkan komunikasi yang efisien bagi VM GPU, Anda perlu membuat jaringan pengelolaan dan satu atau beberapa jaringan data. Jaringan pengelolaan digunakan untuk akses eksternal, misalnya SSH, dan untuk sebagian besar komunikasi jaringan umum. Jaringan data digunakan untuk komunikasi berperforma tinggi antara GPU di VM yang berbeda, misalnya, untuk traffic Remote Direct Memory Access (RDMA).

Untuk jaringan VPC ini, sebaiknya tetapkan unit transmisi maksimum (MTU) ke nilai yang lebih besar. Nilai MTU yang lebih tinggi akan menambah ukuran paket dan mengurangi overhead header paket, sehingga meningkatkan throughput data payload. Untuk mengetahui informasi selengkapnya tentang cara membuat jaringan VPC, lihat Membuat dan memverifikasi jaringan MTU frame jumbo.

Membuat jaringan pengelolaan, subnet, dan aturan firewall

Selesaikan langkah-langkah berikut untuk menyiapkan jaringan pengelolaan:

Buat jaringan pengelolaan menggunakan perintah networks create:

gcloud compute networks create NETWORK_NAME_PREFIX-mgmt-net \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

Buat subnet pengelolaan menggunakan perintah networks subnets create:

gcloud compute networks subnets create NETWORK_NAME_PREFIX-mgmt-sub \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --region=REGION \
    --range=192.168.0.0/24

Buat aturan firewall menggunakan perintah firewall-rules create.

Buat aturan firewall untuk jaringan pengelolaan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-internal \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16

Buat aturan firewall tcp:22 untuk membatasi alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ssh \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=tcp:22 \
    --source-ranges=SSH_SOURCE_IP_RANGE

Buat aturan firewall icmp yang dapat digunakan untuk memeriksa masalah transmisi data dalam jaringan.

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-mgmt-external-ping \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-mgmt-net \
    --action=ALLOW \
    --rules=icmp \
    --source-ranges=0.0.0.0/0

Ganti kode berikut:

NETWORK_NAME_PREFIX: awalan nama yang akan digunakan untuk jaringan dan subnet VPC.
PROJECT_ID: Project ID Anda.
REGION: region tempat Anda ingin membuat jaringan.
SSH_SOURCE_IP_RANGE: Rentang IP dalam format CIDR. Tindakan ini menentukan alamat IP sumber yang dapat terhubung ke VM Anda menggunakan SSH.

Membuat jaringan data, subnet, dan aturan firewall

A3 Edge memerlukan empat jaringan data. Gunakan perintah berikut untuk membuat empat jaringan data, masing-masing dengan subnet dan aturan firewall.

for N in $(seq 1 4); do
gcloud compute networks create NETWORK_NAME_PREFIX-data-net-$N \
    --project=PROJECT_ID \
    --subnet-mode=custom \
    --mtu=8244

gcloud compute networks subnets create NETWORK_NAME_PREFIX-data-sub-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --region=REGION \
    --range=192.168.$N.0/24

gcloud compute firewall-rules create NETWORK_NAME_PREFIX-data-internal-$N \
    --project=PROJECT_ID \
    --network=NETWORK_NAME_PREFIX-data-net-$N \
    --action=ALLOW \
    --rules=tcp:0-65535,udp:0-65535,icmp \
    --source-ranges=192.168.0.0/16
done

Opsional: Membuat kebijakan penempatan rapat

Anda dapat menentukan penempatan VM dengan membuat kebijakan penempatan rapat. Saat Anda menerapkan kebijakan penempatan rapat ke VM, Compute Engine akan melakukan upaya terbaik untuk membuat VM yang sedekat mungkin satu sama lain. Jika aplikasi Anda sensitif terhadap latensi dan memerlukan kepadatan maksimum, tentukan kolom maxDistance (Pratinjau) saat Anda membuat kebijakan penempatan rapat. Nilai maxDistance yang lebih rendah memastikan penempatan VM yang lebih dekat, tetapi juga meningkatkan kemungkinan beberapa VM tidak akan dibuat.

Untuk membuat kebijakan penempatan rapat, pilih salah satu opsi berikut:

gcloud

Untuk membuat kebijakan penempatan rapat, gunakan perintah gcloud compute resource-policies create group-placement:

gcloud compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Ganti kode berikut:

POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus flag --max-distance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM di blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung seri mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan rapat dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.

REST

Untuk membuat kebijakan penempatan rapat, buat permintaan POST ke metode resourcePolicies.insert. Dalam isi permintaan, sertakan kolom collocation yang ditetapkan ke COLLOCATED, dan kolom maxDistance.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Ganti kode berikut:

PROJECT_ID: project ID Anda.
POLICY_NAME: nama kebijakan penempatan rapat.
MAX_DISTANCE: konfigurasi jarak maksimum untuk VM Anda, yang dapat ditentukan (Pratinjau, direkomendasikan) atau tidak ditentukan (hapus kolom maxDistance). Berdasarkan dukungan jenis mesin, Anda dapat menentukan salah satu nilai berikut:
- Untuk menempatkan VM di sub-blok yang sama: 1
- Untuk menempatkan VM di blok yang sama: 2
- Untuk menempatkan VM di blok yang berdekatan: 3
Pastikan konfigurasi jarak maksimum mendukung seri mesin dan jumlah VM yang ingin Anda buat. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan rapat dalam dokumentasi Compute Engine.
REGION: region tempat Anda ingin membuat kebijakan penempatan rapat. Tentukan region yang berisi zona tempat Anda berencana membuat instance, dan pastikan jenis mesin yang ingin Anda gunakan tersedia di region tersebut. Untuk informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.

Membuat VM A3 Edge

Untuk membuat VM A3 Edge, gunakan salah satu metode berikut.

Perintah berikut juga menetapkan cakupan akses untuk instance Anda. Untuk menyederhanakan pengelolaan izin, Google merekomendasikan agar Anda menetapkan cakupan akses pada instance ke akses cloud-platform, lalu menggunakan peran IAM untuk menentukan layanan yang dapat diakses oleh instance. Untuk mengetahui informasi selengkapnya, lihat Praktik terbaik cakupan.

Konsol

Di konsol Google Cloud , buka halaman Create an instance.

Buka halaman Buat instance
Tentukan Name untuk VM Anda. Lihat Konvensi penamaan resource.
Pilih Region dan Zone tempat Anda ingin membuat VM. Lihat daftar region dan zona GPU yang tersedia.
Klik tab GPU, lalu selesaikan langkah-langkah berikut:
1. Dalam daftar GPU type, pilih NVIDIA H100 80GB.
2. Dalam daftar Number of GPUs, pilih 8.
3. Dalam daftar Machine type, pilih a3-edgegpu-8g.
Berdasarkan opsi konsumsi yang ingin Anda gunakan, pilih salah satu opsi berikut dan selesaikan langkah-langkah berikut.
Reservasi

Instance A3 Edge mendukung jenis pemesanan berikut:
- Pemesanan on-demand
- Pemesanan standar untuk masa mendatang
Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.
1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Standard. (Opsi ini dipilih secara default.)
2. Untuk mengonfigurasi reservasi yang digunakan VM ini, selesaikan langkah-langkah berikut:
  
  Di menu navigasi, klik Advanced.
  
  Untuk Reservations, pilih salah satu opsi berikut:
  
  Untuk menggunakan kapasitas pemesanan secara opsional, pilih Use automatic selection. (Opsi ini dipilih secara default.)
  
  Instance akan mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  
  Perhatian: Jika kapasitas pemesanan yang cocok tidak tersedia, instance akan menggunakan opsi penggunaan on-demand, yang memiliki penagihan dan jaminan kapasitas yang berbeda. Untuk mengetahui informasi selengkapnya, lihat Memilih opsi konsumsi.
  
  Untuk mewajibkan kapasitas pemesanan, pilih Choose a reservation, lalu klik Choose reservation untuk menentukan pemesanan yang akan digunakan.
  
  Instance diperlukan untuk menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus dan tidak diizinkan untuk menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.
Sesuai permintaan
1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Standard. (Opsi ini dipilih secara default.)
2. Opsional: Untuk mengonfigurasi apakah VM ini menggunakan reservasi atau tidak, selesaikan langkah-langkah berikut:
  
  Di menu navigasi, klik Advanced.
  
  Untuk Reservations, pilih salah satu opsi berikut:
  
  Untuk menggunakan kapasitas pemesanan secara opsional, pilih Use automatic selection. (Ini adalah setelan default.)
  
  Instance akan mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  
  Catatan: Jika Anda ingin menggunakan kapasitas pemesanan sebagai wajib, ikuti langkah-langkah Pemesanan.
  
  Untuk mewajibkan kapasitas on-demand, pilih Don't use a reservation.
  
  Instance diblokir agar tidak menggunakan kapasitas pemesanan apa pun.
Flex-start
1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Flex-start.
2. Di kolom Enter number of hours, masukkan jumlah waktu maksimum yang Anda inginkan untuk menjalankan VM. Nilai harus antara 46 detik (0.01) dan tujuh hari (168, atau 168 jam).
3. Pilih Set a wait time for VM creation.
  
  Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:
  
  Workload dengan persyaratan zona yang ketat: jika workload mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik dan 2 jam. Durasi yang lebih lama memberi Anda peluang lebih tinggi untuk mendapatkan resource.
  
  Workload tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi 0 detik atau hapus centang pada kotak Set a wait time for VM creation. Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut langsung tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
4. Di kolom On VM termination, pilih apakah akan menghentikan atau menghapus VM di akhir durasi operasinya:
  
  Untuk menghapus VM, pilih Delete.
  
  Untuk menghentikan VM, pilih Stop.
Spot
1. Di bagian Provisioning model, pilih Spot dari daftar VM provisioning model.
2. Opsional: Untuk memilih tindakan penghentian yang terjadi saat Compute Engine melakukan preempt terhadap VM, selesaikan langkah-langkah berikut:
  
  Luaskan bagian VM provisioning model advanced settings.
  
  Dalam daftar On VM termination, pilih salah satu opsi berikut:
  
  Untuk menghentikan VM selama preemption, pilih Hentikan (default).
  
  Untuk menghapus VM selama preemption, pilih Hapus.
Di menu navigasi, klik OS and storage, lalu selesaikan langkah-langkah berikut:
1. Klik Ubah. Panel Boot disk configuration akan terbuka.
2. Pada tab Public images, pilih image yang direkomendasikan. Untuk mengetahui daftar image yang direkomendasikan, lihat Sistem operasi.
  
  Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
3. Opsional: Untuk mengonfigurasi ukuran boot disk, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
4. Untuk mengonfirmasi opsi boot disk, klik Select.
Konfigurasikan akun layanan dan cakupan akses sebagai berikut. Workload yang berjalan di instance menggunakan akun layanan yang dilampirkan untuk mengizinkan permintaan ke layanan Google Cloud lain.
1. Di menu navigasi, klik Security.
2. Dalam daftar Service account, pilih akun layanan yang akan digunakan.
3. Untuk Cakupan akses, pilih opsi Izinkan akses penuh ke semua Cloud API. Praktik terbaik ini direkomendasikan karena memungkinkan Anda mengelola akses dengan menambahkan atau menghapus peran IAM dari akun layanan. Untuk mengetahui informasi selengkapnya, lihat Melampirkan akun layanan ke instance.
Untuk membuat VM multi-NIC, selesaikan langkah-langkah berikut. Jika tidak, untuk membuat VM NIC tunggal, lewati langkah-langkah ini.
1. Di menu navigasi, klik Networking.
2. Di bagian Network interfaces, selesaikan langkah-langkah berikut:
  1. Hapus antarmuka jaringan default. Untuk menghapus antarmuka, klik Delete.
  2. Klik Add a network interface. Gunakan opsi ini untuk menambahkan antarmuka jaringan yang terhubung ke jaringan VPC yang Anda buat di bagian sebelumnya. Saat Anda menambahkan antarmuka jaringan, ingat hal berikut:
    - Untuk antarmuka jaringan yang digunakan untuk komunikasi host ke host, pilih jaringan VPC dan subnet reguler dari daftar Network dan Subnetwork, lalu tetapkan daftar Network interface card ke gVNIC. Untuk setiap jaringan kecuali yang pertama, tetapkan daftar alamat IP eksternal ke None.
    - Untuk antarmuka jaringan yang digunakan untuk komunikasi GPU ke GPU menggunakan GPUDirect-TCPX, pilih jaringan dan subnet VPC khusus yang sesuai untuk setiap antarmuka, dan tetapkan daftar Network interface card ke gVNIC untuk antarmuka jaringan ini juga. Untuk setiap jaringan kecuali yang pertama, tetapkan daftar alamat IP eksternal ke None.
Untuk membuat dan memulai VM, klik Create.

gcloud

Untuk membuat VM, gunakan perintah gcloud compute instances create.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Edge mendukung jenis pemesanan berikut:

Pemesanan on-demand
Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_NAME: nama VM.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  - specific (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.
- RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:
  - Jika Anda menentukan any, ganti RESERVATION dengan string kosong (""). Atau, Anda dapat menghapus flag --reservation sepenuhnya.
  - Jika Anda menentukan specific, ganti RESERVATION dengan kode berikut:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ganti kode berikut:
    - RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    - RESERVATION_NAME: nama pemesanan.
Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:
```
--no-restart-on-failure
```
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

Sesuai permintaan

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_NAME: nama VM.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - any (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  - none (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.
Secara default, instance akan otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Jika Anda ingin menonaktifkan mulai ulang otomatis, tambahkan flag berikut:
```
--no-restart-on-failure
```
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

Flex-start

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_NAME: nama VM.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- REQUEST_VALID_FOR_DURATION: durasi permintaan untuk membuat VM tetap valid. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang masing-masing diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m untuk 30 menit atau 1h2m3s untuk satu jam, dua menit, dan tiga detik.
  
  Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:
  - Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik (90s) dan dua jam (2h). Durasi yang lebih lama memberi Anda peluang lebih tinggi untuk mendapatkan resource.
  - Workload tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi nol detik (0s). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika tersedia segera. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
- MAX_RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Nilainya harus antara 10 menit dan tujuh hari.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi operasinya.
  Penting: Jika Anda menetapkan TERMINATION_ACTION ke STOP, Anda harus menyertakan flag --discard-local-ssds-at-termination-timestamp=true dalam perintah. Konfigurasi ini diperlukan untuk VM Flex-start dengan jenis mesin yang otomatis menyertakan disk SSD Lokal. Mempertahankan data SSD Lokal tidak didukung saat VM mencapai akhir durasi operasinya.
  
  Misalnya, sertakan flag berikut:
```
--discard-local-ssds-at-termination-timestamp=true
```
  Jika tidak, Anda harus menghapus flag ini; menetapkan flag ini ke false tidak diizinkan.
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=DISK_TYPE \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-2,subnet=GVNIC_NAME_PREFIX-sub-2,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-3,subnet=GVNIC_NAME_PREFIX-sub-3,no-address \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-4,subnet=GVNIC_NAME_PREFIX-sub-4,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- INSTANCE_NAME: nama VM.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
```
  --resource-policies=POLICY_NAME
```
Ganti kode berikut:
- POLICY_NAME: nama kebijakan penempatan rapat.
Jalankan perintah.

REST

Untuk membuat VM, buat permintaan POST ke metode instances.insert.

Parameter yang perlu Anda tentukan bergantung pada opsi konsumsi yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Instance A3 Edge mendukung jenis pemesanan berikut:

Pemesanan on-demand
Pemesanan standar untuk masa mendatang

Untuk menggunakan jenis pemesanan ini, instance harus menggunakan model penyediaan standar. Misalnya, gunakan parameter pembuatan berikut.

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
    },
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID dari project tempat Anda ingin membuat VM.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- INSTANCE_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- REGION: region subnetwork.
- AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.
- RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  - SPECIFIC_RESERVATION (Kapasitas pemesanan diperlukan): Mewajibkan instance menggunakan kapasitas dari pemesanan yang ditargetkan secara khusus. Instance tidak diizinkan menggunakan kapasitas on-demand. Jika kapasitas pemesanan tidak tersedia, pembuatan instance akan gagal.
- RESERVATION: pemesanan yang akan digunakan. Tentukan salah satu dari hal berikut berdasarkan nilai yang Anda tentukan untuk RESERVATION_AFFINITY:
  - Jika Anda menentukan ANY_RESERVATION, hapus RESERVATION sehingga nilainya menjadi string kosong (""). Atau, Anda dapat menghapus kolom key dan values sepenuhnya.
  - Jika Anda menentukan SPECIFIC_RESERVATION, ganti RESERVATION dengan kode berikut:
```
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
```
    Ganti kode berikut:
    - RESERVATION_OWNER_PROJECT_ID: project ID dari project tempat pemesanan dibuat.
    - RESERVATION_NAME: nama pemesanan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:
```
  "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]
```
Ganti kode berikut:
- PROJECT_ID: project ID dari kebijakan penempatan rapat.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Sesuai permintaan

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
    },
  "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID dari project tempat Anda ingin membuat VM.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- INSTANCE_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- REGION: region subnetwork.
- AUTOMATIC_RESTART: apakah instance Anda otomatis dimulai ulang jika mengalami error atau Compute Engine menghentikannya untuk penghentian terprogram, seperti peristiwa pemeliharaan. Tentukan true untuk mengaktifkan mulai ulang otomatis (default) atau false untuk menonaktifkan mulai ulang otomatis.
- RESERVATION_AFFINITY: pemesanan yang diizinkan untuk digunakan oleh instance, jika memungkinkan. Tentukan salah satu dari berikut ini:
  - ANY_RESERVATION (Kapasitas pemesanan bersifat opsional): ini adalah opsi default. Instance mencoba menggunakan kapasitas dari pemesanan yang digunakan secara otomatis, yang hanya terjadi jika kapasitas pemesanan yang cocok tersedia. Jika tidak, instance akan menggunakan kapasitas on-demand.
  - NO_RESERVATION (Kapasitas on-demand diperlukan): Memblokir instance agar tidak menggunakan kapasitas pemesanan apa pun.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:
```
  "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]
```
Ganti kode berikut:
- PROJECT_ID: project ID dari kebijakan penempatan rapat.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Flex-start

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
    },
  "params": {
    "requestValidForDuration": {
      "seconds": REQUEST_VALID_FOR_DURATION
    }
  },
  "scheduling": {
    "provisioningModel": "FLEX_START",
    "maxRunDuration": {
      "seconds": MAX_RUN_DURATION
    },
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE"
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID dari project tempat Anda ingin membuat VM.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- INSTANCE_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- REGION: region subnetwork.
- REQUEST_VALID_FOR_DURATION: durasi, dalam detik, saat permintaan untuk membuat VM tetap valid.
  
  Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:
  - Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik (90) dan dua jam (7200). Durasi yang lebih lama memberi Anda peluang lebih tinggi untuk mendapatkan resource.
  - Workload tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi nol detik (0). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika tersedia segera. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
- MAX_RUN_DURATION: durasi yang Anda inginkan untuk menjalankan VM yang diminta. Anda harus memformat nilai sebagai jumlah detik. Misalnya, tentukan 86400 untuk 86.400 detik (24 jam). Nilai harus antara 10 menit dan tujuh hari.
- TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi operasinya.
  Penting: Jika Anda menetapkan TERMINATION_ACTION ke STOP, Anda harus memperbarui isi permintaan untuk juga menetapkan kolom scheduling.onInstanceStopAction.discardLocalSsd ke true. Konfigurasi ini diperlukan setiap kali Anda membuat VM Flex-start dengan jenis mesin yang otomatis menyertakan disk SSD Lokal. Mempertahankan data SSD Lokal tidak didukung saat VM mencapai akhir durasi operasinya.
  
  Misalnya, ganti bagian scheduling dari isi permintaan dengan berikut:
```
"scheduling": {
  "onInstanceStopAction": {
    "discardLocalSsd": true
  },
  "provisioningModel": "FLEX_START",
  "instanceTerminationAction": "STOP",
  "maxRunDuration": {
    "seconds": MAX_RUN_DURATION
  },
  "onHostMaintenance": "TERMINATE"
}
```
  Jika tidak, Anda harus menghapus kolom ini; menetapkan kolom ini ke false tidak diizinkan.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:
```
  "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]
```
Ganti kode berikut:
- PROJECT_ID: project ID dari kebijakan penempatan rapat.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Spot

Sebelum mengirimkan permintaan, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan kolom tambahan.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "name": "INSTANCE_NAME",
  "disks": [
    {
      "boot": true,
      "initializeParams": {
        "diskSizeGb": "DISK_SIZE",
        "diskType": "DISK_TYPE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "mode": "READ_WRITE",
      "type": "PERSISTENT"
    }
  ],
  "serviceAccounts": [
    {
      "email": "default",
      "scopes": [
        "https://www.googleapis.com/auth/cloud-platform"
      ]
    }
  ],
  "networkInterfaces": [
    {
      "accessConfigs": [
        {
          "name": "external-nat",
          "type": "ONE_TO_ONE_NAT"
        }
      ],
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-0",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-0"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-1",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-1"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-2",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-2"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-3",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-3"
    },
    {
      "network": "projects/NETWORK_PROJECT_ID/global/networks/GVNIC_NAME_PREFIX-net-4",
      "nicType": "GVNIC",
      "subnetwork": "projects/NETWORK_PROJECT_ID/region/REGION/subnetworks/GVNIC_NAME_PREFIX-sub-4"
    },
  "scheduling":
  {
    "provisioningModel": "SPOT",
    "instanceTerminationAction": "TERMINATION_ACTION",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": false
  }
}

Selesaikan langkah-langkah berikut:

Ganti kode berikut:
- PROJECT_ID: project ID dari project tempat Anda ingin membuat VM.
- ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Jika ingin menentukan kebijakan penempatan rapat, Anda harus menggunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU berdasarkan region dan zona.
- MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat jenis mesin GPU dalam dokumentasi Compute Engine.
- INSTANCE_NAME: nama VM.
- DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
- DISK_TYPE: jenis boot disk. Untuk seri mesin ini, sebaiknya gunakan hyperdisk-balanced. Untuk mengetahui informasi selengkapnya tentang jenis disk yang didukung untuk jenis mesin Anda, lihat Mesin GPU dalam kelompok mesin yang dioptimalkan untuk akselerator dalam dokumentasi Compute Engine.
- IMAGE_PROJECT: project ID dari OS image. Misalnya, gunakan cos-cloud untuk image Container-Optimized OS cos-121-lts atau yang lebih baru.
- IMAGE_FAMILY: kelompok image dari OS image yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung. Untuk seri mesin A3 Edge, sebaiknya gunakan image Container-Optimized OS cos-121-lts atau yang lebih baru dan nonaktifkan update otomatis.
- NETWORK_PROJECT_ID: project ID jaringan.
- GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan VPC dan subnet standar yang menggunakan gVNIC.
- REGION: region subnetwork.
- TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.
  
  Penting: Pastikan aplikasi Anda dapat menangani preemption. Misalnya, tangani preemption dengan menentukan skrip shutdown selama pembuatan instance. Pelajari cara menangani preemption dengan skrip shutdown.
Opsional: Jika Anda memilih untuk menggunakan kebijakan penempatan rapat, tambahkan kolom berikut ke isi permintaan:
```
  "resourcePolicies": [
    "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
  ]
```
Ganti kode berikut:
- PROJECT_ID: project ID dari kebijakan penempatan rapat.
- REGION: region kebijakan penempatan rapat.
- POLICY_NAME: nama kebijakan penempatan rapat.
Kirim permintaan.

Menginstal driver GPU

Setelah Anda membuat instance, instance tersebut tidak dapat menggunakan GPU-nya kecuali jika driver GPU yang benar sudah diinstal. Jika Anda tidak menentukan OS image yang menyertakan driver GPU, lihat Menginstal driver GPU dalam dokumentasi Compute Engine.

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Mode Multi-Instance GPU (MIG) adalah fitur yang dapat Anda aktifkan untuk GPU NVIDIA yang didukung. Setelah membuat instance, Anda dapat mengaktifkan mode MIG pada satu GPU yang terpasang ke mesin Anda. Dengan mengaktifkan mode MIG, satu GPU dipartisi menjadi hingga tujuh instance GPU independen. Setiap instance berjalan secara bersamaan, masing-masing dengan memori, cache, dan multiprosesor streaming sendiri. Kemudian, Anda dapat menjalankan berbagai workload di instance GPU ini secara paralel. Untuk mengetahui informasi selengkapnya tentang penggunaan mode MIG, lihat Panduan Pengguna Multi-Instance GPU (MIG) dalam dokumentasi NVIDIA.

Membuat instance yang dioptimalkan untuk AI dengan A3 Edge Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Batasan

Sebelum memulai

Konsol

gcloud

REST

Peran yang diperlukan

Izin yang diperlukan

Ringkasan

Membuat jaringan VPC

Membuat jaringan pengelolaan, subnet, dan aturan firewall

Membuat jaringan data, subnet, dan aturan firewall

Opsional: Membuat kebijakan penempatan rapat

gcloud

REST

Membuat VM A3 Edge

Konsol

Reservasi

Sesuai permintaan

Flex-start

Spot

gcloud

Reservasi

Sesuai permintaan

Flex-start

Spot

REST

Reservasi

Sesuai permintaan

Flex-start

Spot

Menginstal driver GPU

Opsional: Mengaktifkan mode GPU Multi-Instance NVIDIA

Langkah berikutnya

Membuat instance yang dioptimalkan untuk AI dengan A3 Edge