Model penyediaan instance Compute Engine

Saat membuat instance Compute Engine, Anda harus menentukan metode, yang disebut model penyediaan, yang ingin Anda gunakan untuk mendapatkan resource yang diminta. Setiap model penyediaan menentukan ketersediaan, masa aktif, dan harga instance komputasi Anda.

Dokumen ini menjelaskan berbagai model penyediaan yang dapat Anda tentukan saat membuat instance komputasi. Dengan memahami model ini, Anda dapat memilih opsi terbaik untuk workload Anda.

Model penyediaan yang tersedia

Saat membuat instance komputasi, Anda dapat menentukan salah satu model penyediaan berikut. Jika Anda tidak menentukan model penyediaan, Compute Engine akan menggunakan model penyediaan standar secara default.

  • Standar

  • Spot

  • Flex-start

  • Terikat dengan reservasi

Tabel berikut membantu Anda membandingkan kasus penggunaan dan harga untuk setiap model penyediaan:

Standar Spot Flex-start Terikat dengan reservasi
Ringkasan
  • Berdasarkan ketersediaan resource, Anda dapat langsung membuat instance komputasi.
  • Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi.
  • Berdasarkan ketersediaan resource, Anda dapat langsung membuat instance komputasi.
  • Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, Anda juga mengizinkan Compute Engine menghentikan atau menghapus instance komputasi kapan saja untuk memulihkan kapasitas.
  • Berdasarkan ketersediaan resource, Anda dapat membuat instance komputasi dalam waktu tunggu yang ditentukan. Untuk VM Flex-start mandiri, Anda dapat menentukan waktu tunggu hingga dua jam. Untuk MIG, Compute Engine terus mencoba membuat instance komputasi hingga resource tersedia atau Anda membatalkan permintaan pembuatan.
  • Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, Anda tidak dapat menangguhkan atau membuatnya ulang. Instance komputasi berjalan selama minimal 10 menit dan maksimal tujuh hari. Saat instance komputasi mencapai akhir durasi operasinya, Compute Engine akan menghentikan atau menghapusnya berdasarkan tindakan penghentiannya.
  • Anda dapat meminta untuk memesan kapasitas pada tanggal mendatang untuk membuat instance komputasi. Jika Google Cloud menyetujui permintaan Anda, Compute Engine akan membuat pemesanan. Pada awal periode pemesanan, Anda dapat menggunakan pemesanan dengan membuat instance komputasi yang cocok dengan pemesanan.
  • Selama periode pemesanan yang disetujui, Anda dapat menghentikan, memulai ulang, menghapus, dan membuat ulang instance komputasi untuk menggunakan pemesanan sesuai kebutuhan. Saat periode reservasi berakhir, Compute Engine akan menghapus reservasi, dan menghentikan atau menghapus instance komputasi yang menggunakan reservasi berdasarkan tindakan penghentiannya.
Kasus penggunaan

Ideal untuk workload yang memerlukan stabilitas dan operasi berkelanjutan, seperti workload berikut:

  • Server web
  • Database
  • Aplikasi perusahaan
  • Pengembangan dan pengujian

Ideal untuk workload yang dapat menoleransi gangguan, seperti workload berikut:

  • Batch processing
  • Komputasi berperforma tinggi (HPC)
  • Continuous integration dan continuous deployment (CI/CD)
  • Analisis data
  • Encoding media
  • Inferensi online

Workload yang memerlukan stabilitas dan perlu dijalankan selama tidak lebih dari tujuh hari, seperti workload berikut:

  • Pra-pelatihan model kecil
  • Penyesuaian model
  • Simulasi HPC
  • Inferensi batch

Ideal untuk workload yang memerlukan stabilitas dan waktu proses tertentu, seperti berikut:

  • Untuk workload yang berlangsung hingga 90 hari:

    • Tugas pra-pelatihan model
    • Tugas penyesuaian model
    • Workload simulasi HPC
    • Perkiraan peningkatan workload inferensi dalam jangka pendek

  • Untuk workload yang lebih dari 90 hari:

    • Workload pelatihan
    • Workload inferensi
Alokasi resource Upaya terbaik. Compute Engine menempatkan resource berdekatan secara fisik berdasarkan upaya terbaik. Untuk mengontrol penempatan, Anda dapat secara opsional menggunakan kebijakan penempatan. Upaya terbaik. Compute Engine menempatkan resource secara fisik berdekatan satu sama lain berdasarkan upaya terbaik. Untuk mengontrol penempatan, Anda dapat menggunakan kebijakan penempatan secara opsional. Padat berdasarkan upaya terbaik. Compute Engine melakukan upaya terbaik untuk menempatkan resource secara padat dan berdekatan. Untuk mengontrol penempatan VM Flex-start, Anda dapat secara opsional menggunakan salah satu dari berikut ini: Padat. Compute Engine menempatkan resource secara fisik pada host yang terkait erat dan terhubung oleh fabric jaringan berkecepatan tinggi untuk meminimalkan latensi jaringan.
Harga
  • Anda akan dikenai harga standar untuk instance komputasi. Lihat harga instance VM.

  • Anda akan dikenai biaya berdasarkan metode yang Anda gunakan untuk membuat instance komputasi:

    • Jika Anda langsung membuat instance komputasi, Anda akan membayar resource komputasi berdasarkan model bayar sesuai penggunaan (PAYG).
    • Jika Anda membuat instance komputasi menggunakan pemesanan sesuai permintaan atau pemesanan yang dibuat otomatis untuk pemesanan untuk masa mendatang, Anda akan ditagih selama pemesanan tersebut ada. Untuk mengetahui informasi selengkapnya, lihat penagihan reservasi.
  • Anda mendapatkan diskon hingga 91% untuk banyak jenis mesin, GPU, TPU, dan disk SSD Lokal. Untuk mengetahui informasi selengkapnya, lihat halaman harga.
  • Anda membayar resource komputasi berdasarkan model bayar sesuai penggunaan (PAYG).

  • Berdasarkan jenis mesin yang digunakan instance komputasi Anda, Anda dapat memperoleh diskon sebagai berikut:

    • Untuk jenis mesin A4, A3, A2, G4, dan TPU, Anda bisa mendapatkan diskon hingga 53% untuk vCPU, memori, dan akselerator serta disk SSD Lokal yang terpasang.
    • Untuk jenis mesin H4D, Anda bisa mendapatkan diskon hingga 25% untuk vCPU, memori, dan disk SSD Lokal yang terpasang.
    Jenis mesin lain yang didukung tidak memenuhi syarat untuk mendapatkan diskon. Untuk mengetahui informasi selengkapnya, lihat Harga Dynamic Workload Scheduler (DWS).
  • Anda membayar resource komputasi berdasarkan model bayar sesuai penggunaan (PAYG).

  • Anda akan dikenai biaya berdasarkan cara Anda memesan kapasitas untuk membuat instance komputasi sebagai berikut:

    • Jika Anda membuat pemesanan untuk masa mendatang untuk blok kapasitas, Anda akan dikenai biaya berdasarkan harga instance komputasi. Jika Anda memesan resource selama satu tahun atau lebih, Anda harus membeli dan melampirkan komitmen berbasis resource ke resource yang Anda pesan.
    • Jika Anda memesan kapasitas menggunakan pemesanan untuk masa mendatang dalam mode kalender, Anda akan dikenai biaya berdasarkan harga Dynamic Workload Scheduler (DWS).
  • Anda akan ditagih untuk periode pemesanan. Untuk mengetahui informasi selengkapnya, lihat penagihan pemesanan.
Kuota Saat Anda membuat instance komputasi, kuota standar akan digunakan. Saat Anda membuat Spot VM, kuota preemptible akan digunakan. Jika project Anda tidak memiliki kuota preemptible, kuota standar akan digunakan.

Google Cloud Kredit Paket Gratis tidak berlaku untuk Spot VM. 		Saat Anda membuat VM mulai fleksibel, kuota preemptible akan digunakan. Jika project Anda tidak memiliki kuota preemptible, maka kuota standar akan digunakan.

Penggunaan kuota bervariasi berdasarkan metode yang Anda gunakan untuk memesan resource:

  • Pemesanan untuk masa mendatang untuk blok kapasitas: Google mengelola kuota untuk resource yang Anda pesan. Anda tidak perlu meminta kuota secara manual. Pada waktu mulai pemesanan untuk masa mendatang yang disetujui, Google akan otomatis menambah kuota jika project Anda tidak memilikinya.
  • Pemesanan untuk masa mendatang dalam mode kalender: untuk memesan jenis mesin H4D, kuota CPU akan digunakan. Untuk memesan jenis mesin GPU atau TPU, kuota tidak diperlukan.

Ketersediaan dan masa aktif instance komputasi

Tabel berikut menunjukkan ketersediaan dan masa aktif instance komputasi untuk setiap model penyediaan:

Standar Spot Flex-start Terikat reservasi
Prasyarat pembuatan Tidak ada prasyarat pembuatan. Tidak ada prasyarat pembuatan. Tidak ada prasyarat pembuatan.

Untuk membuat instance komputasi, Anda harus memesan kapasitas terlebih dahulu menggunakan salah satu metode berikut:

Pada tanggal dan waktu pengiriman yang Anda pilih, Compute Engine akan menyediakan kapasitas yang Anda minta. Kemudian, Anda dapat menggunakan kapasitas tersebut dengan membuat instance komputasi.
Seri mesin yang didukung Anda dapat menggunakan seri mesin apa pun, kecuali A4X Max, A4X, A4, dan A3 Ultra. Anda dapat menggunakan seri mesin apa pun, kecuali instance A4X dan instance bare metal apa pun (jenis mesin dengan nama yang berisi -metal). Untuk menggunakan seri mesin TPU7x, Anda harus meminta akses1.

Anda hanya dapat menggunakan seri mesin berikut:

Berdasarkan cara Anda memesan kapasitas untuk membuat VM, Anda hanya dapat menggunakan seri mesin berikut:
Ketersediaan instance komputasi Anda dapat membuat instance komputasi kapan saja, asalkan resource yang Anda minta tersedia. Anda dapat membuat instance komputasi kapan saja, asalkan resource yang diminta tersedia. Untuk membantu mengurangi kemungkinan Anda mengalami error ketersediaan resource, Anda dapat melihat ketersediaan Spot VM sebelum membuatnya.

Anda dapat membuat instance komputasi sebagai berikut:

Compute Engine menggunakan DWS untuk menjadwalkan penyediaan kapasitas yang Anda minta berdasarkan ketersediaan resource. DWS membantu Anda mendapatkan resource yang banyak diminati seperti GPU atau TPU.

 Anda hanya dapat membuat instance komputasi setelah memesan kapasitas untuk tanggal mendatang. Pada tanggal yang Anda minta, Compute Engine akan menyediakan kapasitas yang Anda minta, yang kemudian dapat Anda gunakan untuk membuat instance komputasi. Jika Anda memesan resource menggunakan pemesanan untuk masa mendatang dalam mode kalender, Compute Engine akan menggunakan DWS untuk menyediakan kapasitas yang Anda minta. DWS membantu Anda mendapatkan sumber daya yang sangat diminati seperti GPU atau TPU.
Jaminan kapasitas Berdasarkan metode pembuatan. Jaminan kapasitas bervariasi berdasarkan metode yang Anda gunakan untuk membuat instance komputasi sebagai berikut:
  • Jika Anda segera membuat instance komputasi, maka Compute Engine akan berupaya sebaik mungkin untuk menyediakan kapasitas yang Anda minta.
  • Jika Anda membuat instance komputasi dengan menggunakan pemesanan on-demand atau pemesanan yang dibuat otomatis untuk pemesanan untuk masa mendatang, Anda memiliki jaminan yang sangat tinggi bahwa Compute Engine akan menyediakan kapasitas yang Anda minta jika pemesanan memiliki kapasitas yang dipesan yang tersedia.
 Upaya terbaik. Saat Anda membuat Spot VM, Compute Engine akan melakukan upaya terbaik untuk menyediakan kapasitas yang Anda minta. Upaya terbaik. Saat Anda membuat permintaan pengubahan ukuran MIG, Compute Engine akan berupaya sebaik mungkin untuk menjadwalkan penyediaan kapasitas yang Anda minta. Sangat tinggi. Jika Google Cloud menyetujui permintaan pemesanan Anda, Anda memiliki jaminan yang sangat tinggi bahwa Compute Engine akan menyediakan kapasitas yang dipesan pada tanggal dan waktu pengiriman yang Anda pilih. Anda memiliki akses eksklusif ke kapasitas yang dipesan selama periode pemesanan.
Masa aktif instance komputasi Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi. Namun, jika jenis mesin yang digunakan instance komputasi tidak mendukung migrasi langsung, Compute Engine akan menghentikan instance komputasi selama peristiwa pemeliharaan host.

Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi, kecuali dalam kasus berikut:

  • Compute Engine menghentikan atau menghapus instance komputasi untuk mengklaim kembali kapasitas. Proses ini disebut preemption.
  • Jika jenis mesin yang digunakan instance komputasi tidak mendukung migrasi langsung, Compute Engine akan menghentikan instance komputasi selama peristiwa pemeliharaan host.

Sebelum instance komputasi mencapai akhir durasi prosesnya, Anda dapat melakukan hal berikut:

  • Menghentikan instance komputasi: jika Anda membuat Flex-start VM sebagai instance komputasi mandiri atau secara individual di MIG saat kapasitas tersedia, Anda dapat menghentikan instance komputasi kapan saja. Anda tidak dapat menghentikan VM mulai fleksibel yang dibuat dalam permintaan perubahan ukuran MIG.
  • Menghapus instance komputasi: Anda dapat menghapus instance komputasi kapan saja.

Saat instance komputasi mencapai akhir durasi operasinya, Compute Engine akan menghentikan atau menghapusnya berdasarkan tindakan penghentiannya.

Anda dapat mengontrol kapan harus menghentikan atau menghapus instance komputasi, kecuali dalam kasus berikut:

  • Compute Engine menghentikan instance komputasi selama peristiwa pemeliharaan host.
  • Pemesanan yang dibuat secara otomatis untuk menyediakan kapasitas yang Anda minta mencapai akhir periode pemesanan yang di-commit. Pada saat itu, Compute Engine akan menghapus pemesanan, dan menghentikan atau menghapus instance komputasi apa pun yang menggunakan pemesanan berdasarkan tindakan penghentian yang ditentukan dalam konfigurasinya.

1 Untuk menggunakan seri mesin TPU7x dengan model penyediaan spot, flex-start, atau reservation-bound, Anda harus berada dalam daftar yang diizinkan. Untuk meminta akses, hubungi tim akun atau tim penjualan.

Langkah berikutnya