Membuat instance dengan Advanced Compute Images

Linux

Pratinjau

Produk atau fitur ini tunduk pada "Persyaratan Penawaran Pra-GA" di bagian Persyaratan Layanan Umum di Persyaratan Khusus Layanan. Produk dan fitur pra-GA tersedia "sebagaimana adanya" dan mungkin memiliki dukungan terbatas. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran.

Anda dapat membuat instance yang menggunakan Advanced Compute Images untuk menyediakan lingkungan yang dioptimalkan untuk workload kecerdasan buatan (AI), machine learning (ML), dan komputasi berperforma tinggi (HPC). Anda dapat menggunakan antarmuka berikut:

• Google Cloud CLI
• Google Cloud console
• Pengelola workload Slurm SchedMD

Untuk mempelajari Advanced Compute Images, lihat Ringkasan Advanced Compute Images.

Sebelum memulai

• Siapkan autentikasi jika Anda belum melakukannya. Autentikasi memverifikasi identitas Anda untuk mengakses layanan Google Cloud dan API. Untuk menjalankan kode atau sampel dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine dengan memilih salah satu opsi berikut:

  Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

  Konsol

  Saat menggunakan konsol Google Cloud untuk mengakses layanan Google Cloud dan API, Anda tidak perlu menyiapkan autentikasi.

  gcloud

  1. Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

     gcloud init

     Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

     Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi terbaru dengan menjalankan gcloud components update.
• Tetapkan region dan zona default.

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk membuat instance, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) pada project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat instance. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat instance:

• compute.instances.create di project
• Untuk menggunakan image kustom guna membuat VM: compute.images.useReadOnly pada image
• Untuk menggunakan snapshot guna membuat VM: compute.snapshots.useReadOnly pada snapshot
• Untuk menggunakan template instance guna membuat VM: compute.instanceTemplates.useReadOnly pada template instance
• Untuk menentukan subnet bagi VM Anda: compute.subnetworks.use di project atau di subnet yang dipilih
• Untuk menentukan alamat IP statis untuk VM: compute.addresses.use pada project
• Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC: compute.subnetworks.useExternalIp di project atau di subnet yang dipilih
• Untuk menetapkan jaringan lama ke VM: compute.networks.use pada project
• Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama: compute.networks.useExternalIp di project
• Untuk menetapkan metadata instance VM bagi VM: compute.instances.setMetadata di project
• Untuk menyetel tag untuk VM: compute.instances.setTags di VM
• Untuk menetapkan label bagi VM: compute.instances.setLabels di VM
• Untuk menetapkan akun layanan yang akan digunakan VM: compute.instances.setServiceAccount di VM
• Untuk membuat disk baru untuk VM: compute.disks.create pada project
• Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis: compute.disks.use pada disk
• Untuk memasang disk yang ada dalam mode hanya baca: compute.disks.useReadOnly pada disk

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Panduan Memulai

Tutorial ini menjelaskan langkah-langkah untuk membuat instance A3 Ultra atau A4 yang menggunakan Advanced Compute Images untuk mengonfigurasi dan menyesuaikan OS tamu.

Prasyarat

Sebelum membuat instance, selesaikan tugas berikut untuk membuat instance A3 Ultra dan A4:

1. Dapatkan kapasitas resource untuk instance A3 Ultra atau A4.
2. Buat jaringan VPC.
3. Opsional: Buat kebijakan penempatan rapat

Membuat instance komputasi dengan Advanced Compute Images

Setelah menyelesaikan tugas prasyarat, Anda dapat menggunakan salah satu metode berikut untuk membuat instance.

Konsol

1. Di konsol Google Cloud , buka halaman Create an instance.

   Buka halaman Buat instance

   Jika diminta, pilih project Anda, lalu klik Lanjutkan. Halaman Create an instance akan muncul dan menampilkan panel Machine configuration.

2. Di panel Machine configuration, lakukan hal berikut:

   1. Di kolom Name, tentukan nama untuk instance komputasi Anda. Untuk mengetahui informasi selengkapnya, lihat Konvensi penamaan resource.

   2. Pilih Region dan Zone untuk instance. Jika Anda telah memesan resource komputasi, region dan zona yang Anda pilih harus cocok dengan region dan zona reservasi Anda.

   3. Klik tab GPU, lalu selesaikan langkah-langkah berikut:

      1. Pada daftar GPU type, pilih jenis GPU Anda.
         • Untuk instance A4, pilih NVIDIA B200.
         • Untuk instance A3 Ultra, pilih NVIDIA H200 141 GB.
      2. Dalam daftar Number of GPUs, pilih 8.
      3. Opsional: Pilih jenis mesin lain.

3. Di menu navigasi, klik OS dan penyimpanan. Di panel OS dan penyimpanan yang muncul, selesaikan langkah-langkah berikut:

   1. Klik Ubah. Panel Boot disk akan muncul dan menampilkan tab Public images.
   2. Dalam daftar Operating system, pilih Advanced Compute Images.
   3. Dalam daftar Versi, pilih versi OS.
   4. Opsional: Di daftar Boot disk type, pilih jenis boot disk.
   5. Opsional: Tentukan properti tambahan untuk boot disk, seperti ukuran disk.
   6. Opsional: Untuk opsi konfigurasi lanjutan, luaskan bagian Tampilkan konfigurasi lanjutan.
   7. Untuk mengonfirmasi opsi boot disk dan kembali ke panel Operating system and storage, klik Select.
   Catatan: Kecuali Anda secara eksplisit memilih boot disk lain, jika nama yang Anda tentukan untuk instance sama dengan nama disk yang ada, disk yang ada akan otomatis dipasang ke instance baru sebagai boot disk.

4. Di menu navigasi, klik Networking. Panel Networking akan muncul.

5. Opsional: Untuk mengonfigurasi akses ke instance Anda dari luar Google Cloud, selesaikan langkah-langkah berikut:

   1. Buka bagian Firewall.

   2. Untuk mengizinkan traffic HTTP atau HTTPS ke instance komputasi, pilih Allow HTTP traffic atau Allow HTTPS traffic.

      Compute Engine menambahkan tag jaringan ke instance komputasi Anda dan membuat aturan firewall masuk yang sesuai, yang mengizinkan semua traffic masuk di tcp:80 (HTTP) atau tcp:443 (HTTPS). Tag jaringan mengaitkan aturan firewall dengan instance. Untuk mengetahui informasi selengkapnya, lihat Ringkasan aturan firewall dalam dokumentasi Cloud Next Generation Firewall.

6. Untuk membuat instance multi-NIC, selesaikan langkah-langkah berikut di panel Networking. Untuk instance NIC tunggal, lewati langkah-langkah ini.

   1. Di bagian Network interfaces, selesaikan langkah-langkah berikut:
   2. Hapus antarmuka jaringan default. Untuk menghapus antarmuka, klik Hapus.

   3. Klik Add a network interface. Gunakan opsi ini untuk menambahkan antarmuka jaringan yang terpasang ke jaringan VPC yang Anda buat di bagian sebelumnya. Saat Anda menambahkan antarmuka jaringan, ingatlah hal berikut:

      • Untuk antarmuka jaringan yang digunakan untuk komunikasi host-ke-host, pilih jaringan VPC dan subnet reguler dari daftar Jaringan dan Subnetwork, lalu tetapkan daftar Kartu antarmuka jaringan ke gVNIC.

      • Untuk antarmuka jaringan yang digunakan untuk komunikasi GPU ke GPU, pilih jaringan VPC dan subnet RoCE dari daftar Jaringan dan Subnetwork, lalu tetapkan daftar Kartu antarmuka jaringan ke MRDMA untuk antarmuka jaringan ini.

7. Di menu navigasi, klik Lanjutan. Kemudian, selesaikan langkah-langkah berikut untuk model penyediaan yang ingin Anda gunakan.

   Flex-start

   1. Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Flex-start.

   2. Di kolom Enter number of hours, masukkan jumlah waktu maksimum yang Anda inginkan untuk menjalankan instance komputasi. Nilainya harus antara 0.01 (0,01 jam, atau 36 detik) atau 168 (168 jam, atau tujuh hari).

   3. Pilih Setel waktu tunggu untuk pembuatan VM.

      Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:

      • Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik dan 2 jam. Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan sumber daya.
      • Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi 0 detik atau hapus tanda centang Tetapkan waktu tunggu untuk pembuatan VM. Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut segera tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.

   4. Di kolom Saat penghentian VM, pilih apakah akan menghentikan atau menghapus instance komputasi di akhir durasi jalannya:

      • Untuk menghapus instance, pilih Hapus.
      • Untuk menghentikan instance, pilih Stop.

   Terikat dengan reservasi

   1. Klik Pilih reservasi. Tindakan ini akan membuka panel dengan daftar reservasi yang tersedia dalam zona yang Anda pilih. Dari daftar reservasi, selesaikan langkah-langkah berikut:

      1. Pilih reservasi yang ingin Anda gunakan untuk instance komputasi. Anda juga dapat memilih blok tertentu dalam reservasi.
      2. Klik Pilih.

   Spot

   1. Di bagian Model penyediaan, pilih Spot dari daftar Model penyediaan VM.

   2. Opsional: Untuk memilih tindakan penghentian yang terjadi saat Compute Engine melakukan preempt terhadap Spot VM, selesaikan langkah-langkah berikut:

      1. Luaskan bagian VM provisioning model advanced settings.
      2. Dalam daftar Pada penghentian VM, pilih salah satu opsi berikut:
      3. Untuk menghentikan Spot VM selama preemption, pilih Hentikan (default).
      4. Untuk menghapus Spot VM selama preemption, pilih Hapus.

8. Untuk membuat dan memulai instance, klik Create.

gcloud

Untuk membuat VM, gunakan perintah gcloud compute instances create.

Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan opsi pemakaian Anda.

Reservasi

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=specific \
    --reservation=RESERVATION \
    --provisioning-model=RESERVATION_BOUND \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_NAME: nama VM.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID image OS.
   • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.
   • RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.
   • RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:

     • Untuk membuat instance di blok mana pun:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

       Selain itu, untuk membuat beberapa instance dalam blok yang sama, terapkan kebijakan penempatan rapat yang sama yang menentukan kolokasi blok (maxDistance=2) saat membuat setiap instance. Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.

     • Untuk membuat instance di blok tertentu:

       projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME

     Tips: Jika pemesanan ada di project saat ini, Anda dapat menghilangkan projects/RESERVATION_OWNER_PROJECT_ID/reservations/ dari nilai RESERVATION.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.

2. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

     --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

Flex-start

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --reservation-affinity=none \
    --provisioning-model=FLEX_START \
    --request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
    --max-run-duration=MAX_RUN_DURATION \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_NAME: nama VM.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID image OS.
   • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.
   • RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.

   • REQUEST_VALID_FOR_DURATION: berapa lama permintaan untuk membuat VM tetap valid. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik diikuti dengan d, h, m, dan s. Misalnya, tentukan 30m untuk 30 menit atau 1h2m3s untuk satu jam, dua menit, dan tiga detik.

     Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:

     • Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik (90s) dan dua jam (2h). Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan resource.
     • Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi nol detik (0s). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut segera tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.

   • MAX_RUN_DURATION: berapa lama Anda ingin VM yang diminta berjalan. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengan d, h, m, dan s. Nilai harus antara 10 menit dan tujuh hari.

   • TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi jalannya.

2. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

     --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

Spot

Sebelum menjalankan perintah, tinjau semua langkah berikut untuk menentukan apakah akan menyertakan flag tambahan.

gcloud compute instances create INSTANCE_NAME  \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
    --network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address 
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
    --network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Selesaikan langkah-langkah berikut:

1. Ganti kode berikut:

   • INSTANCE_NAME: nama VM.
   • MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU dalam dokumentasi Compute Engine.
   • IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk daftar semua sistem operasi yang didukung, lihat Sistem operasi yang didukung.
     Tips: Sebaiknya gunakan image OS akselerator untuk workload yang dioptimalkan untuk AI. Kecuali jika Anda memiliki persyaratan driver GPU yang unik, image ini akan menginstal semua driver GPU yang diperlukan secara otomatis. Untuk mengetahui informasi selengkapnya tentang persyaratan driver GPU, lihat Menginstal driver GPU dalam dokumen ini.
   • IMAGE_PROJECT: project ID image OS.
   • ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.
   • DISK_SIZE: ukuran boot disk dalam GB. Untuk mengetahui informasi selengkapnya, lihat Batas ukuran Google Cloud Hyperdisk atau Batas ukuran Persistent Disk berdasarkan jenis disk.
   • GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.
   • RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.

   • TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baik STOP (default) atau DELETE.

     Penting: Pastikan aplikasi Anda dapat menangani pengambilalihan. Misalnya, tangani preemption dengan menentukan skrip penonaktifan selama pembuatan instance. Pelajari cara menangani preemption dengan skrip penonaktifan.

2. Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:

     --resource-policies=POLICY_NAME
   

   Ganti kode berikut:

   • POLICY_NAME: nama kebijakan penempatan rapat.
3. Jalankan perintah.

Setelah beberapa waktu, pembuatan instance komputasi selesai. Untuk memverifikasi konfigurasi instance dan melihat statusnya, jalankan perintah berikut:

gcloud compute instances describe INSTANCE_NAME

Mengonfigurasi Spot VM

Jika Anda membuat Spot VM, selesaikan langkah-langkah berikut:

• Untuk menyiapkan Spot VM Anda agar siap menghadapi kemungkinan preemption, lihat artikel Mengelola preemption Spot VM.

• Opsional: Pelajari praktik terbaik untuk Spot VM.

Mengakses instance komputasi

Setelah Anda membuat instance komputasi, instance akan dimulai secara otomatis. Untuk mengakses instance, lakukan salah satu hal berikut:

Konsol

1. Di konsol Google Cloud , buka halaman VM instances.

   Buka instance VM

2. Klik nama instance komputasi Anda.

3. Di bagian Remote Access, klik menu drop-down pertama dan pilih cara Anda ingin mengakses instance.

Compute Engine menyebarkan kunci SSH dan membuat pengguna Anda. Untuk mengetahui informasi selengkapnya, lihat Menghubungkan ke VM Linux.

gcloud

Untuk mengakses instance menggunakan SSH, gunakan perintah gcloud compute ssh:

gcloud compute ssh INSTANCE_NAME --zone ZONE

Compute Engine menyebarkan kunci SSH dan membuat pengguna Anda. Untuk mengetahui informasi selengkapnya, lihat Menghubungkan ke VM Linux.

Pembersihan

Agar akun Google Cloud Anda tidak dikenai biaya untuk resource yang digunakan dalam panduan memulai ini, hapus semua instance komputasi dan semua resource terlampir yang Anda buat.

Konsol

1. Di konsol Google Cloud , buka halaman VM instances.

   Buka instance VM

2. Pilih instance yang ingin Anda hapus.

3. Klik Delete.

4. Dalam dialog, lakukan hal berikut:

   1. Opsional: Untuk menghapus instance tanpa menghentikan normal, atau mengakhiri penghentian normal yang sedang berlangsung, centang kotak Lewati penghentian normal (jika berlaku).

   2. Untuk mengonfirmasi, klik Hapus.

5. Untuk menghapus disk yang digunakan oleh instance yang dihapus, buka halaman Disks, lalu lakukan langkah-langkah berikut:

   Buka Disk

   1. Pilih disk yang ingin Anda hapus. Disk yang Anda pilih tidak boleh memiliki nilai di kolom Digunakan oleh.

   2. Klik Delete.

   3. Untuk mengonfirmasi, klik Hapus.

gcloud

Untuk menghapus satu atau beberapa instance di zona yang sama, gunakan perintah gcloud compute instances delete. Untuk menghapus secara paksa disk yang terpasang ke satu atau beberapa instance, sertakan flag --delete-disks:

gcloud compute instances delete INSTANCE_NAMES \
        --delete-disks=DELETE_DISK_TYPE \
        --zone=ZONE

Ganti kode berikut:

• INSTANCE_NAMES: daftar nama instance yang dipisahkan oleh spasi—misalnya, instance-01 instance-02 instance-03.

• ZONE: zona tempat instance berada.

• DELETE_DISK_TYPE: tentukan salah satu nilai berikut:

  • Untuk menghapus penyimpanan persisten boot dan non-boot yang terlampir: all
  • Untuk menghapus hanya penyimpanan persisten boot yang terlampir: boot
  • Untuk menghapus hanya penyimpanan persisten non-boot: data

Membuat image kustom berdasarkan Advanced Compute Images

Anda dapat membuat image yang disesuaikan berdasarkan image Advanced Compute Images. Kemudian, Anda dapat menggunakan image kustom saat membuat instance komputasi baru untuk workload dan aplikasi Anda.

Untuk membuat image kustom, selesaikan tugas berikut:

1. Konfigurasi lokasi penyimpanan untuk gambar. Untuk membuat, mengubah, dan menghapus image OS yang disimpan di Cloud Storage, Anda harus diberi peran roles/compute.storageAdmin.

2. Buat instance komputasi dengan Advanced Compute Images.

3. Sesuaikan OS tamu sesuai kebutuhan untuk instance komputasi Anda.

4. Hentikan instance komputasi untuk mencegah penulisan apa pun ke disk. Jika Anda tidak dapat menghentikan instance, selesaikan langkah-langkah di Minimalkan penulisan data ke persistent disk.

5. Nonaktifkan opsi hapus otomatis untuk disk boot.

6. Buat image kustom menggunakan boot disk instance komputasi Anda sebagai disk sumber. Anda dapat melakukannya menggunakan konsolGoogle Cloud atau Google Cloud CLI.

   Konsol

   1. Di konsol Google Cloud , buka halaman Images.

      Buka Images

   2. Klik Create image.

   3. Tentukan Nama untuk image Anda.

   4. Di bagian Source disk, pilih nama boot disk untuk instance komputasi yang menggunakan Advanced Compute Images.

      Jika instance komputasi tidak dihentikan, pilih Keep instance running untuk mengonfirmasi bahwa Anda ingin membuat image saat instance sedang berjalan. Anda seharusnya telah menyelesaikan langkah-langkah untuk meminimalkan penulisan ke boot disk sebelumnya.

   5. Di menu drop-down Berdasarkan lokasi disk sumber (default), tentukan lokasi untuk menyimpan image kustom. Misalnya, tentukan us untuk menyimpan image di multi-region us, atau us-central1 untuk menyimpan image kustom di region us-central1.

      Jika Anda tidak menentukan pilihan, Compute Engine akan menyimpan image di multi-region yang paling dekat dengan lokasi sumber image kustom.

   6. Opsional: Tentukan properti lain untuk gambar Anda:

      • Family: kelompok image yang mencakup image baru ini.
      • Deskripsi: deskripsi untuk gambar kustom Anda.
      • Label: label untuk mengelompokkan resource.

   7. Tentukan kunci enkripsi. Anda dapat memilih antara kunci Google-owned and Google-managed encryption key atau Cloud Key Management Service (Cloud KMS). Jika tidak ada kunci enkripsi yang ditentukan, image akan dienkripsi menggunakan Google-owned and Google-managed encryption key.

   8. Klik Create untuk membuat gambar.

   gcloud

   Gunakan perintah gcloud compute images create untuk membuat image kustom.

   Flag --force adalah flag opsional yang memungkinkan Anda membuat image dari instance yang sedang berjalan. Secara default, Anda tidak dapat membuat image dari instance yang sedang berjalan. Tentukan flag ini hanya jika Anda yakin ingin membuat image saat instance sedang berjalan.

   gcloud compute images create IMAGE_NAME \
       --source-disk=SOURCE_DISK \
       --source-disk-zone=ZONE \
       [--family=IMAGE_FAMILY] \
       [--storage-location=LOCATION] \
       [--force]
   

   Ganti kode berikut:

   • IMAGE_NAME: nama untuk image baru
   • SOURCE_DISK: disk tempat Anda ingin membuat image
   • ZONE: zona tempat disk berada
   • IMAGE_FAMILY: Opsional: tanda yang menentukan kelompok image yang mencakup image ini
   • LOCATION: Opsional: tanda yang memungkinkan Anda menentukan region atau multi-region tempat image Anda disimpan. Misalnya, tentukan us untuk menyimpan image di multi-region us, atau us-central1 untuk menyimpannya di region us-central1. Jika Anda tidak menentukan pilihan, Compute Engine akan menyimpan image dalam multi-region yang paling dekat dengan lokasi sumber image Anda.

Untuk mengetahui informasi selengkapnya tentang cara membuat image kustom, lihat Membuat image kustom.

Membagikan gambar

Setelah membuat image kustom, Anda dapat membagikannya di seluruh project. Jika Anda mengizinkan pengguna dari project lain menggunakan image kustom Anda, mereka dapat mengakses image ini dengan menentukan project image dalam permintaan mereka.

Menggunakan Advanced Compute Images dengan template instance

Anda dapat membuat template instance yang menentukan image Advanced Compute Images lalu menggunakan template tersebut untuk melakukan hal berikut:

• Buat instance komputasi individual.

• Buat instance komputasi dalam grup instance terkelola (MIG).

• Buat reservasi untuk instance komputasi.

Batasan untuk membuat template instance

Perhatikan batasan berikut saat membuat template instance:

• VPC Bersama pada antarmuka selain nic0 untuk template instance didukung di gcloud CLI dan REST, tetapi tidak di konsolGoogle Cloud .
• Anda tidak dapat memperbarui template instance yang ada atau mengubah template instance setelah dibuat. Jika template instance sudah tidak berlaku, atau Anda perlu mengubah konfigurasi, buat template instance baru.
• Jika ingin menentukan kelompok image dalam template instance, Anda tidak dapat menggunakan konsol Google Cloud . Anda dapat menggunakan Google Cloud CLI atau REST sebagai gantinya.
• Jika ingin menentukan disk regional, bukan disk zonal, dalam template instance, Anda tidak dapat menggunakan konsol Google Cloud . Anda dapat menggunakan Google Cloud CLI atau REST sebagai gantinya.
• Anda dapat menggunakan template instance untuk membuat instance komputasi dengan disk booting Hyperdisk Balanced yang ada di storage pool, tetapi hanya jika storage pool berada di zona yang sama dengan instance.
• Anda tidak dapat menggunakan template instance global untuk membuat instance komputasi dengan disk non-boot yang ada di kumpulan penyimpanan.
• Untuk membuat template instance regional, jenis GPU yang Anda tentukan dalam template harus tersedia di setidaknya satu zona di region yang ditentukan.

Membuat template instance

Sebagian besar properti instance yang dapat Anda tentukan dalam permintaan untuk membuat instance komputasi individual juga dapat ditentukan untuk template instance, termasuk metadata instance, skrip startup, persistent disk, dan akun layanan. Informasi yang diperlukan untuk template instance mencakup jenis mesin, boot disk, dan jaringan.

Anda dapat membuat template instance regional atau global yang menggunakan Advanced Compute Images menggunakan konsol Google Cloud atau Google Cloud CLI.

Untuk membuat template instance, akun pengguna Anda harus telah diberi semua izin yang diperlukan untuk memanggil metode instanceTemplates.insert.

Bagian berikut menjelaskan cara membuat template instance untuk digunakan dengan Grup Instance Terkelola (MIG), instance komputasi individual, atau reservasi. Untuk membuat template instance yang akan digunakan dengan AI Hypercomputer, ikuti petunjuk di Membuat MIG yang dioptimalkan untuk AI dengan jenis mesin Ultra A4 atau A3.

Buat resource tambahan yang diperlukan untuk instance A3 ultra atau A4

Sebelum membuat template instance untuk instance yang menggunakan Advanced Compute Images, Anda harus membuat terlebih dahulu resource yang akan Anda tentukan dalam template instance. Selesaikan tugas yang tercantum di Prasyarat untuk membuat resource ini.

Buat template instance yang menentukan image Advanced Compute Images

Anda dapat membuat template instance menggunakan perintah konsol Google Cloud atau gcloud CLI.

Konsol

1. Di konsol Google Cloud , buka halaman Instance templates.

   Buka Instance templates

2. Klik Buat template instance .

3. Di kolom Name, masukkan nama untuk template instance.

4. Pilih Lokasi sebagai berikut:

   1. Untuk menggunakan template instance di seluruh region, pilih Global (default).
   2. Untuk mengurangi dependensi lintas region, pilih Regional, lalu pilih Region tempat Anda ingin membuat template instance.

5. Di bagian Machine configuration, lakukan hal berikut:

   1. Klik tab GPU.
   2. Dalam daftar GPU type, pilih jenis GPU. Untuk instance A4, pilih NVIDIA B200 atau untuk instance A3 Ultra, pilih NVIDIA H200 141GB.
   3. Dalam daftar Number of GPUs, pilih 8.
   4. Opsional: Pilih jenis mesin yang berbeda dari default.

6. Di bagian Boot disk, klik Change, lalu lakukan hal berikut:

   1. Dalam daftar Operating system, pilih Advanced Compute Images.
   2. Dalam daftar Versi, pilih versi OS.
   3. Opsional: Tentukan properti tambahan untuk boot disk, seperti ukuran disk.

7. Klik Create untuk membuat template instance.

gcloud

Untuk membuat template instance regional atau global, gunakan perintah instance-templates create. Untuk template instance regional, Anda harus menggunakan flag --instance-template-region untuk menetapkan region template.

Saat membuat template instance untuk instance GPU, Anda harus menetapkan flag --maintenance-policy ke TERMINATE.

• Buat template instance regional menggunakan perintah berikut.

  gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --instance-template-region=REGION \
    --accelerator=count=8,type=GPU_TYPE \
    --machine-type=MACHINE_TYPE \
    --image-project=advanced-compute-images \
    --image-family=IMAGE_FAMILY \
    --maintenance-policy=TERMINATE
  

• Buat template instance global menggunakan perintah berikut:

  gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME
    --accelerator=count=8,type=GPU_TYPE \
    --machine-type=MACHINE_TYPE \
    --image-project=advanced-compute-images \
    --image-family=IMAGE_FAMILY \
    --maintenance-policy=TERMINATE
  

Ganti kode berikut:

• INSTANCE_TEMPLATE_NAME: nama untuk template instance.
• REGION: untuk template instance regional, ini adalah region tempat membuat template.
• GPU_TYPE: jenis GPU yang akan digunakan dengan instance komputasi. Saat menggunakan Advanced Compute Images, Anda harus menentukan nvidia-b200 untuk instance A4 atau nvidia-h200-141gb untuk instance A3 Ultra.
• MACHINE_TYPE: jenis mesin instance komputasi. Untuk menggunakan Image Compute Lanjutan, Anda harus menentukan jenis mesin A3 Ultra atau A4.
• IMAGE_FAMILY: menentukan salah satu dari hal berikut:
  • IMAGE_FAMILY: kelompok image. Tindakan ini akan menentukan versi image OS terbaru dalam kelompok tersebut. Misalnya, Anda dapat menentukan aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64.
  • IMAGE: versi tertentu dari image OS; misalnya, aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64-v20260427-1. Untuk menentukan versi tertentu dari image OS, bukan family image, Anda harus menggunakan flag --image, bukan flag --image-family.

Anda dapat menambahkan hingga 15 disk non-boot sekunder. Tentukan flag --create-disk untuk setiap disk sekunder yang Anda buat.

• Untuk membuat disk sekunder dari image publik atau kustom, tentukan properti image dan image-project untuk setiap disk dalam flag --create-disk.
• Untuk membuat disk kosong, jangan sertakan properti image atau image-project.
• Secara opsional, sertakan properti untuk disk size dan type.

Untuk mengetahui daftar semua subperintah dan flag yang tersedia, lihat referensi instance-templates.

Langkah berikutnya

* Tinjau Skenario dasar untuk membuat grup instance terkelola (MIG). * Pelajari cara memeriksa status instance untuk mengetahui kapan instance siap digunakan. * Pelajari cara terhubung ke instance Anda.