Tentang VM mulai fleksibel

Dokumen ini memberikan ringkasan tentang Flex-start VM, yang menjelaskan karakteristik utamanya, serta persyaratan dan batasan yang Anda terapkan saat membuatnya.

Flex-start VM adalah instance virtual machine (VM) yang Anda buat menggunakan model penyediaan flex-start. Model ini menggunakan Dynamic Workload Scheduler (DWS) untuk menyediakan resource komputasi yang didiskon dari kumpulan kapasitas yang aman, sehingga meningkatkan peluang Anda untuk mendapatkan resource yang sangat diminati seperti GPU. Setelah Anda membuat Flex-start VM, Compute Engine akan mencoba mengalokasikan resource yang Anda minta dalam jangka waktu tertentu. Jika berhasil, Flex-start VM Anda akan mulai berjalan dan terus berjalan selama maksimal tujuh hari.

Untuk workload yang memerlukan resource selama lebih dari tujuh hari, atau dengan a jaminan kapasitas yang lebih tinggi, Anda dapat membuat permintaan pemesanan untuk masa mendatang dalam mode kalender agar tetap mendapatkan manfaat dari diskon DWS.

Kasus penggunaan Flex-start VM

Flex-start VM ideal untuk menjalankan workload yang dapat dimulai kapan saja, seperti berikut:

• Pra-pelatihan model kecil

• Fine-tuning model

• Simulasi komputasi berperforma tinggi (HPC)

• Inferensi batch

Karakteristik utama Flex-start VM

Dibandingkan dengan jenis instance Compute Engine lainnya, Flex-start VM memiliki karakteristik berikut:

• Waktu tunggu untuk mengalokasikan resource: Anda dapat membuat Flex-start VM sebelum Compute Engine dapat mengalokasikan resource yang diminta. Namun, VM hanya akan dimulai jika resource tersedia dalam jangka waktu yang Anda tentukan. Jika resource tidak tersedia, permintaan pembuatan VM akan gagal.

  Untuk mengetahui informasi selengkapnya, lihat Waktu tunggu Flex-start VM dalam dokumen ini.

• Durasi berjalan terbatas: Flex-start VM berjalan tanpa gangguan hingga tujuh hari. Setelah itu, Compute Engine akan otomatis menghentikan atau menghapus VM berdasarkan tindakan penghentian yang ditentukan dalam properti VM.

  Untuk mengetahui informasi selengkapnya, lihat Durasi berjalan terbatas Flex-start VM dalam dokumen ini.

• Cara Compute Engine mengalokasikan VM: Compute Engine melakukan upaya terbaik untuk membuat Flex-start VM dalam jarak yang dekat guna meminimalkan latensi jaringan. Untuk mengontrol penempatan Flex-start VM, Anda dapat menggunakan kebijakan penempatan ringkas atau kebijakan workload secara opsional.

  Untuk mengetahui informasi selengkapnya, lihat Alokasi Flex-start VM dalam dokumen ini.

• Model penyediaan flex-start: Anda membuat Flex-start VM menggunakan model penyediaan flex-start. Model penyediaan ini memberikan ketersediaan resource yang lebih baik dan harga yang didiskon dibandingkan dengan VM yang Anda buat menggunakan model penyediaan standar.

  Untuk mengetahui informasi selengkapnya tentang setiap model penyediaan, lihat Model penyediaan instance Compute Engine.

Waktu tunggu Flex-start VM

Saat Anda membuat Flex-start VM, VM tidak akan langsung dimulai. Compute Engine akan mencoba mengalokasikan resource yang Anda minta dan memulai VM dalam jangka waktu tertentu. Jika Anda memiliki kuota yang cukup untuk resource yang diminta dan Compute Engine mengalokasikannya pada akhir waktu tunggu, Flex-start VM akan dimulai dalam waktu dua menit setelah kapasitas tersedia. Jika tidak, permintaan pembuatan VM akan gagal.

Waktu tunggu bervariasi berdasarkan metode yang Anda gunakan untuk membuat VM:

• Waktu tunggu Flex-start VM mandiri

• Waktu tunggu MIG dengan Flex-start VM

Waktu tunggu Flex-start VM mandiri

Untuk membuat Flex-start VM mandiri, Anda harus menentukan waktu tunggu menggunakan kolom requestValidForDuration. Anda dapat menetapkan waktu tunggu nol detik, atau antara 90 detik dan 7.200 detik (dua jam).

Berdasarkan persyaratan zona workload Anda, sebaiknya gunakan waktu tunggu berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan Flex-start VM Anda:

• Persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat Flex-start VM di zona tertentu, sebaiknya tetapkan kolom requestValidForDuration ke 90 detik atau lebih, hingga dua jam. Waktu tunggu yang lebih lama akan membantu meningkatkan peluang Anda untuk mendapatkan resource. VM akan tetap dalam status PENDING state selama waktu ini.

• Tidak ada persyaratan zona: jika Flex-start VM dapat berjalan di zona mana pun di region, sebaiknya tetapkan kolom requestValidForDuration ke nol detik. Nilai ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut langsung tersedia. Jika permintaan Anda gagal karena resource tidak tersedia, coba buat Flex-start VM di zona lain.

Untuk menghentikan permintaan pembuatan VM saat Compute Engine mencoba mengalokasikan resource, hapus Flex-start VM.

Waktu tunggu MIG dengan Flex-start VM

Jika Anda menambahkan Flex-start VM ke grup instance terkelola (MIG), Compute Engine akan terus mencoba menyediakan resource yang Anda minta hingga berhasil atau Anda membatalkan permintaan. Cara Compute Engine menambahkan VM ke MIG Anda bervariasi berdasarkan metode pembuatan:

• Permintaan pengubahan ukuran MIG: Compute Engine menambahkan VM yang diminta ke MIG sekaligus saat semua resource tersedia. Kecuali jika Anda menghapus VM sebelum akhir durasi berjalannya, Compute Engine akan menghapus VM pada saat yang sama. Untuk mengetahui informasi selengkapnya, lihat Tentang permintaan pengubahan ukuran MIG.

• MIG dengan ukuran target: Compute Engine membuat setiap VM satu per satu saat kapasitas tersedia. Oleh karena itu, MIG mungkin awalnya hanya membuat sebagian VM yang diminta, lalu menambahkan VM yang tersisa nanti jika kapasitas memungkinkan. Kecuali jika Anda menghapus VM sebelum akhir durasi berjalannya, Compute Engine akan menghapus setiap VM relatif terhadap waktu pembuatannya sendiri. Untuk mengetahui informasi selengkapnya, lihat Membuat MIG yang menggunakan Flex-start VM.

Durasi berjalan terbatas Flex-start VM

Saat Anda membuat Flex-start VM, Anda harus menentukan hal berikut:

• Durasi berjalan VM: Anda harus menentukan berapa lama VM dapat berjalan. Durasi berjalan dapat mencapai tujuh hari. Jika workload Anda selesai sebelum durasi berjalan VM berakhir, Anda dapat menghentikan atau menghapus VM mandiri, atau menghapus VM di MIG untuk menghindari biaya yang tidak perlu.

• Tindakan penghentian VM: Anda harus memilih apakah Compute Engine akan otomatis menghentikan atau menghapus VM pada akhir durasi berjalannya. Untuk Flex-start VM di MIG, Anda hanya dapat menentukan untuk menghapus VM pada akhir durasi berjalannya.

  Perhatian: Setelah Compute Engine menghentikan VM, Anda akan terus dikenai biaya untuk resource apa pun yang terpasang ke VM, seperti disk atau alamat IP. Untuk menghindari biaya yang tidak perlu, lepaskan dan hapus resource yang tidak lagi Anda perlukan, atau hapus VM. Untuk mengetahui informasi selengkapnya, lihat harga untuk waktu aktif VM.

Alokasi Flex-start VM

Compute Engine melakukan upaya terbaik untuk membuat Flex-start VM Anda secara padat berdasarkan ketersediaan. Penempatan yang padat ini meminimalkan hop jaringan dan mengoptimalkan latensi rendah, yang ideal untuk workload yang memerlukan komunikasi VM yang konstan, seperti workload AI atau ML. Jika Anda ingin mengontrol penempatan Flex-start VM untuk menghindari pembuatan yang tidak terduga dan berjauhan, lakukan hal berikut:

• Untuk Flex-start VM mandiri, terapkan kebijakan penempatan ringkas ke VM Anda.

• Untuk MIG dengan ukuran target, terapkan a kebijakan workload dengan jenis throughput tinggi ke MIG Anda.

Quota

Untuk membuat atau memulai ulang Flex-start VM, Anda harus memiliki kuota preemptible yang cukup untuk vCPU, memori, dan disk SSD Lokal atau GPU terpasang yang diminta.

Jika Anda mencoba membuat atau memulai ulang Flex-start VM tanpa kuota yang cukup, salah satu hal berikut akan terjadi:

• Permintaan pembuatan VM: permintaan Anda akan tetap tertunda hingga Anda mendapatkan kuota yang cukup. Jika Anda tidak mendapatkan kuota yang diperlukan sebelum waktu tunggu berakhir, permintaan Anda akan gagal.

• Permintaan memulai ulang VM: permintaan Anda akan langsung gagal.

Harga

Untuk Flex-start VM, Anda akan dikenai biaya sebagai berikut:

• Anda membayar sesuai penggunaan (PAYG). Untuk mengetahui informasi selengkapnya tentang harga VM selama siklus prosesnya, lihat Harga.

• Untuk jenis mesin A4, A3, A2, G4, dan H4D, Anda akan mendapatkan vCPU, memori, dan GPU terpasang dengan harga diskon. Jenis mesin yang dioptimalkan akselerator lainnya yang didukung tidak memenuhi syarat untuk mendapatkan diskon. Untuk mengetahui informasi selengkapnya, lihat Harga DWS.

Batasan

Bagian berikut menjelaskan batasan untuk Flex-start VM.

Batasan untuk semua Flex-start VM

Semua Flex-start VM memiliki batasan berikut:

• Flex-start VM hanya dapat menggunakan jenis mesin berikut:

  • Jenis mesin GPU apa pun, kecuali A4X Max dan A4X

  • Versi TPU di zona berikut:

    • TPU7x: us-central1-c

    • TPU v6e: asia-northeast1-b, us-east5-a, dan us-south1-ai1b

    • TPU v5p: us-east5-a

  • Jenis mesin H4D

• Anda harus membuat Flex-start VM menggunakan model penyediaan flex-start.

• Anda harus menentukan apakah akan menghentikan atau menghapus Flex-start VM pada akhir durasi berjalannya menggunakan kolom instanceTerminationAction dan maxRunDuration bidang. Untuk MIG, Anda hanya dapat menentukan untuk menghapus Flex-start VM.

• Anda harus menghentikan Flex-start VM selama peristiwa pemeliharaan host.

• Anda hanya dapat menerapkan kebijakan penempatan ringkas ke Flex-start VM mandiri.

• Anda tidak dapat menerapkan kebijakan penempatan spread ke Flex-start VM.

• Anda tidak dapat menggunakan pemesanan.

Batasan untuk MIG dengan Flex-start VM

Semua MIG dengan Flex-start VM memiliki batasan berikut:

• Anda harus menonaktifkan perbaikan di MIG.

• Anda harus menghapus konfigurasi penskalaan otomatis.

• Anda hanya dapat membuat Flex-start VM di MIG regional menggunakan bentuk distribusi target berikut:

  • Untuk MIG dengan ukuran target: ANY atau ANY_SINGLE_ZONE

  • Untuk permintaan pengubahan ukuran MIG: ANY_SINGLE_ZONE

• Anda hanya dapat menetapkan mode kumpulan standby MIG ke manual (default).

• Anda tidak dapat menambahkan template instance kedua untuk memulai update canary di MIG.

Selain itu, jika Anda ingin membuat Flex-start VM menggunakan permintaan pengubahan ukuran MIG, lihat batasan untuk permintaan pengubahan ukuran MIG.

Langkah berikutnya

• Untuk mempelajari cara membuat Flex-start VM mandiri, lihat Membuat Flex-start VM.

• Untuk mempelajari cara membuat Flex-start VM di MIG, lihat hal berikut:

  • Membuat Flex-start VM di MIG satu per satu

  • Membuat Flex-start VM di MIG sekaligus

Coba sendiri

Jika Anda baru pertama kali menggunakan Google Cloud, buat akun untuk mengevaluasi performa Compute Engine dalam skenario dunia nyata. Pelanggan baru juga akan mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

Coba Compute Engine gratis