Model penyediaan instance Compute Engine

Linux Windows

Saat membuat instance Compute Engine, Anda harus menentukan metode, yang disebut model penyediaan, yang ingin digunakan untuk mendapatkan resource yang diminta. Setiap model penyediaan menentukan ketersediaan, masa aktif, dan harga instance komputasi Anda.

Dokumen ini menjelaskan berbagai model penyediaan yang dapat Anda tentukan saat membuat instance komputasi. Dengan memahami model ini, Anda dapat memilih opsi terbaik untuk workload Anda.

Model penyediaan yang tersedia

Saat membuat instance komputasi, Anda dapat menentukan salah satu model penyediaan berikut. Jika Anda tidak menentukan model penyediaan, Compute Engine akan menggunakan model penyediaan standar secara default.

• Standar

• Spot

• Flex-start

• Terikat dengan reservasi

Tabel berikut membantu Anda membandingkan kasus penggunaan dan harga untuk setiap model penyediaan:

	Standar	Spot	Flex-start	Terikat dengan reservasi
Ringkasan	Berdasarkan ketersediaan resource, Anda dapat langsung membuat instance komputasi. Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi.	Berdasarkan ketersediaan resource, Anda dapat langsung membuat instance komputasi. Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, Anda juga mengizinkan Compute Engine menghentikan atau menghapus instance komputasi kapan saja untuk memulihkan kapasitas.	Berdasarkan ketersediaan resource, Anda dapat membuat instance komputasi dalam waktu tunggu yang ditentukan. Untuk VM Flex-start mandiri, Anda dapat menentukan waktu tunggu hingga dua jam. Untuk MIG, Compute Engine terus mencoba membuat instance komputasi hingga resource tersedia atau Anda membatalkan permintaan pembuatan. Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, Anda tidak dapat menangguhkan atau membuatnya ulang. Instance komputasi berjalan selama minimal 10 menit dan maksimal tujuh hari. Saat instance komputasi mencapai akhir durasi berjalannya, Compute Engine akan menghentikan atau menghapusnya berdasarkan tindakan penghentiannya.	Anda dapat meminta untuk memesan kapasitas pada tanggal mendatang untuk membuat instance komputasi. Jika Google Cloud menyetujui permintaan Anda, Compute Engine akan membuat pemesanan. Pada awal periode pemesanan, Anda dapat menggunakan pemesanan dengan membuat instance komputasi yang cocok dengan pemesanan. Selama periode pemesanan yang disetujui, Anda dapat menghentikan, memulai ulang, menghapus, dan membuat ulang instance komputasi untuk menggunakan pemesanan sesuai kebutuhan. Saat periode reservasi berakhir, Compute Engine akan menghapus reservasi, dan menghentikan atau menghapus instance komputasi yang menggunakan reservasi berdasarkan tindakan penghentiannya.
Kasus penggunaan	Ideal untuk workload yang memerlukan stabilitas dan operasi berkelanjutan, seperti workload berikut: Server web Database Aplikasi perusahaan Pengembangan dan pengujian	Ideal untuk workload yang dapat menoleransi gangguan, seperti workload berikut: Batch processing Komputasi berperforma tinggi (HPC) Continuous integration dan continuous deployment (CI/CD) Analisis data Encoding media Inferensi online	Workload yang memerlukan stabilitas dan perlu dijalankan selama tidak lebih dari tujuh hari, seperti workload berikut: Pra-pelatihan model kecil Penyesuaian model Simulasi HPC Inferensi batch	Ideal untuk workload yang memerlukan stabilitas dan waktu berjalan tertentu, seperti berikut: Untuk workload yang berlangsung hingga 90 hari: Tugas pra-pelatihan model Tugas penyesuaian model Workload simulasi HPC Peningkatan beban kerja inferensi yang diperkirakan dalam jangka pendek Untuk workload yang lebih dari 90 hari: Workload pelatihan Workload inferensi
Alokasi resource	Upaya terbaik. Compute Engine menempatkan resource secara fisik berdekatan satu sama lain berdasarkan upaya terbaik. Untuk mengontrol penempatan, Anda dapat secara opsional menggunakan kebijakan penempatan.	Upaya terbaik. Compute Engine menempatkan resource secara fisik berdekatan satu sama lain berdasarkan upaya terbaik. Untuk mengontrol penempatan, Anda dapat secara opsional menggunakan kebijakan penempatan.	Padat berdasarkan upaya terbaik. Compute Engine melakukan upaya terbaik untuk menempatkan resource secara padat dan berdekatan. Untuk mengontrol penempatan VM mulai fleksibel, Anda dapat menggunakan salah satu opsi berikut: Untuk VM Flex-start mandiri: kebijakan penempatan rapat Untuk VM Flex-start di MIG: kebijakan workload	Padat. Compute Engine secara fisik menempatkan resource pada host yang terhubung erat dengan fabric jaringan berkecepatan tinggi untuk meminimalkan latensi jaringan.
Harga	Anda akan dikenai harga standar untuk instance komputasi. Lihat harga instance VM. Anda dikenai biaya berdasarkan metode yang digunakan untuk membuat instance komputasi: Jika Anda langsung membuat instance komputasi, Anda akan membayar sesuai penggunaan (PAYG). Jika Anda membuat instance komputasi menggunakan pemesanan sesuai permintaan atau pemesanan yang dibuat otomatis untuk pemesanan untuk masa mendatang, Anda akan ditagih selama pemesanan tersebut ada. Untuk mengetahui informasi selengkapnya, lihat penagihan reservasi.	Anda mendapatkan diskon hingga 60% untuk seri mesin C3, M3, dan A3. Untuk mengetahui informasi selengkapnya, lihat halaman harga. Anda menggunakan PAYG.	Berdasarkan seri mesin yang digunakan instance komputasi Anda, Anda akan mendapatkan diskon sebagai berikut: Untuk seri mesin A4, A3, dan A2, Anda mendapatkan diskon 53% untuk vCPU, memori, dan GPU. Untuk seri mesin H4D, Anda mendapatkan diskon 25% untuk vCPU dan memori. Seri mesin lain yang didukung tidak memenuhi syarat untuk mendapatkan diskon. Untuk informasi selengkapnya, lihat harga Dynamic Workload Scheduler (DWS). Anda menggunakan PAYG.	Anda akan dikenai biaya berdasarkan cara Anda memesan kapasitas untuk membuat instance komputasi sebagai berikut: Jika Anda memesan kapasitas di AI Hypercomputer, Anda akan dikenai biaya berdasarkan harga VM yang dioptimalkan akselerator. Jika Anda memesan resource selama satu tahun atau lebih, Anda harus membeli dan melampirkan komitmen berbasis resource ke resource yang Anda pesan. Jika Anda memesan kapasitas menggunakan pemesanan untuk masa mendatang dalam mode kalender, Anda akan dikenai biaya berdasarkan harga Dynamic Workload Scheduler (DWS). Anda akan ditagih untuk periode reservasi. Untuk mengetahui informasi selengkapnya, lihat penagihan reservasi.
Kuota	Saat Anda membuat instance komputasi, kuota standar akan digunakan.	Saat Anda membuat Spot VM, kuota standar akan digunakan.	Saat Anda membuat VM mulai fleksibel, kuota preemptible akan digunakan. Jika project Anda tidak memiliki kuota preemptible, maka kuota standar akan digunakan.	Penggunaan kuota bervariasi berdasarkan metode yang Anda gunakan untuk mencadangkan resource: Reservasi mendatang dengan cluster AI Hypercomputer atau HPC: Google mengelola kuota untuk resource yang Anda pesan. Anda tidak perlu meminta kuota secara manual. Pada waktu mulai pemesanan untuk masa mendatang yang disetujui, Google akan otomatis menambah kuota jika project Anda tidak memilikinya. Pemesanan untuk masa mendatang dalam mode kalender: untuk memesan jenis mesin H4D, kuota CPU akan digunakan. Untuk mencadangkan jenis mesin GPU atau TPU, kuota tidak diperlukan.

Ketersediaan dan masa aktif instance komputasi

Tabel berikut menunjukkan ketersediaan dan masa aktif instance komputasi untuk setiap model penyediaan:

	Standar	Spot	Flex-start	Terikat dengan reservasi
Prasyarat pembuatan	Tidak ada prasyarat pembuatan.	Tidak ada prasyarat pembuatan.	Tidak ada prasyarat pembuatan.	Untuk membuat instance komputasi, Anda harus memesan kapasitas terlebih dahulu menggunakan salah satu metode berikut: Untuk memesan kapasitas bagi workload yang berjalan lama, gunakan pemesanan untuk masa mendatang dengan AI Hypercomputer atau pemesanan untuk masa mendatang dengan cluster HPC. Untuk memesan kapasitas bagi workload yang berjalan hingga 90 hari, gunakan pemesanan mendatang dalam mode kalender. Pada tanggal dan waktu pengiriman yang Anda pilih, Compute Engine akan menyediakan kapasitas yang Anda minta. Kemudian, Anda dapat menggunakan kapasitas dengan membuat instance komputasi.
Seri mesin yang didukung	Anda dapat menggunakan seri mesin apa pun, kecuali A4X Max, A4X, A4, dan A3 Ultra.	Anda dapat menggunakan semua seri mesin (C3, M3, dan A3). Spot untuk TPU7x dibatasi oleh daftar yang diizinkan. Lihat catatan ini.	Anda hanya dapat menggunakan seri mesin berikut: Seri mesin A4, A3, A2, G4, dan G2 TPU7x^1, TPU v6e, dan TPU v5p Instance virtual machine (VM) N1 dengan GPU terpasang Seri mesin H4D	Berdasarkan cara Anda memesan kapasitas untuk membuat VM, Anda hanya dapat menggunakan seri mesin berikut: Jika Anda mencadangkan kapasitas di AI Hypercomputer, Anda hanya dapat menggunakan A4X Max, A4X, A4, A3 Ultra, A3 Mega dengan 8 GPU, A3 High dengan 8 GPU, dan A3 Edge. Jika Anda membuat pemesanan untuk masa mendatang dalam mode kalender, Anda hanya dapat menggunakan rangkaian berikut: GPU: A4, A3 Ultra, A3 Mega dengan 8 GPU, A3 High dengan 8 GPU, dan seri mesin H4D. TPU: TPU7x^*, v6e, v5p
Ketersediaan instance komputasi	Anda dapat membuat instance komputasi kapan saja, selama resource yang diminta tersedia.	Anda dapat membuat instance komputasi kapan saja, selama resource yang diminta tersedia.	Anda dapat membuat instance komputasi sebagai berikut: Buat instance komputasi mandiri. Buat MIG yang membuat instance komputasi satu per satu berdasarkan ketersediaan. Buat MIG yang membuat instance komputasi sekaligus. Compute Engine menggunakan DWS untuk menjadwalkan penyediaan kapasitas yang Anda minta berdasarkan ketersediaan resource. DWS membantu Anda mendapatkan resource yang sangat diminati seperti GPU.	Anda hanya dapat membuat instance komputasi setelah mencadangkan kapasitas untuk tanggal mendatang. Pada tanggal yang Anda minta, Compute Engine akan menyediakan kapasitas yang Anda minta, yang kemudian dapat Anda gunakan untuk membuat instance komputasi. Jika Anda memesan resource menggunakan pemesanan untuk masa mendatang dalam mode kalender, Compute Engine akan menggunakan DWS untuk menyediakan kapasitas yang Anda minta. DWS membantu Anda mendapatkan resource yang sangat diminati seperti GPU.
Jaminan kapasitas	Berdasarkan metode pembuatan. Jaminan kapasitas bervariasi berdasarkan metode yang Anda gunakan untuk membuat instance komputasi sebagai berikut: Jika Anda segera membuat instance komputasi, Compute Engine akan berupaya sebaik mungkin untuk menyediakan kapasitas yang Anda minta. Jika Anda membuat instance komputasi dengan menggunakan pemesanan on-demand atau pemesanan yang dibuat otomatis untuk pemesanan untuk masa mendatang, Anda akan memiliki jaminan yang sangat tinggi bahwa Compute Engine akan menyediakan kapasitas yang Anda minta jika pemesanan telah memesan kapasitas yang tersedia.	Upaya terbaik. Saat Anda membuat Spot VM, Compute Engine akan berupaya sebaik mungkin untuk menyediakan kapasitas yang Anda minta.	Upaya terbaik. Saat Anda membuat permintaan pengubahan ukuran MIG, Compute Engine akan berupaya sebaik mungkin untuk menjadwalkan penyediaan kapasitas yang Anda minta.	Sangat tinggi. Jika Google Cloud menyetujui permintaan pemesanan Anda, Anda akan memiliki jaminan yang sangat tinggi bahwa Compute Engine akan menyediakan kapasitas yang dipesan pada tanggal dan waktu pengiriman yang Anda pilih. Anda memiliki akses eksklusif ke kapasitas yang dipesan selama periode pemesanan.
Masa aktif instance komputasi	Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, jika jenis mesin yang digunakan instance komputasi tidak mendukung migrasi langsung, Compute Engine akan menghentikan instance komputasi selama peristiwa pemeliharaan host.	Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi, kecuali dalam kasus berikut: Compute Engine menghentikan atau menghapus instance komputasi untuk memulihkan kapasitas. Proses ini disebut pengambilalihan. Jika jenis mesin yang digunakan instance komputasi tidak mendukung migrasi langsung, Compute Engine akan menghentikan instance komputasi selama peristiwa pemeliharaan host.	Sebelum instance komputasi mencapai akhir durasi prosesnya, Anda dapat melakukan hal berikut: Hentikan instance komputasi: jika Anda membuat VM mulai fleksibel sebagai instance komputasi mandiri atau satu per satu di MIG saat kapasitas tersedia, Anda dapat menghentikan instance komputasi kapan saja. Anda tidak dapat menghentikan VM mulai fleksibel yang dibuat dalam permintaan pengubahan ukuran MIG. Hapus instance komputasi: Anda dapat menghapus instance komputasi kapan saja. Saat instance komputasi mencapai akhir durasi berjalannya, Compute Engine akan menghentikan atau menghapusnya berdasarkan tindakan penghentiannya.	Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi, kecuali dalam kasus berikut: Compute Engine menghentikan instance komputasi selama peristiwa pemeliharaan host. Pemesanan yang dibuat secara otomatis untuk menyediakan kapasitas yang Anda minta mencapai akhir periode pemesanan yang di-commit. Pada saat itu, Compute Engine akan menghapus reservasi, dan menghentikan atau menghapus instance komputasi yang menggunakan reservasi berdasarkan tindakan penghentian yang ditentukan dalam konfigurasinya.

¹ Pemesanan Spot, Flex-start, dan Masa mendatang dalam mode kalender untuk TPU7x dibatasi oleh daftar yang diizinkan. Untuk meminta akses, hubungi tim akun atau tim penjualan Anda.

Langkah berikutnya

• Baca ringkasan pembuatan instance Compute Engine.

• Pelajari Spot VM lebih lanjut.

• Pelajari lebih lanjut VM mulai fleksibel.

• Pelajari lebih lanjut instance komputasi yang menggunakan model penyediaan terikat pemesanan.