Dokumen ini membandingkan opsi komputasi inti di Google Cloud untuk membantu Anda memilih solusi atau alat terbaik untuk arsitektur, penskalaan, dan persyaratan lainnya dari aplikasi Anda.
Untuk men-deploy workload di Google Cloud, Anda dapat memilih dari berbagai solusi atau alat yang menyeimbangkan kontrol Anda atas infrastruktur dengan pengelolaan otomatis oleh Google. Opsi komputasi yang Anda pilih dapat memengaruhi performa, biaya, dan upaya pemeliharaan harian secara signifikan. Untuk lebih memahami opsi ini sebelum Anda memilih salah satunya, lihat Ringkasan komputasi Google.
Pilih opsi komputasi
Solusi atau alat komputasi terbaik untuk workload Anda mungkin bergantung pada beberapa faktor. Misalnya, jika Anda ingin memigrasikan lingkungan VMware ke Google Cloud, maka gunakan VMware Engine.
Untuk membantu Anda memahami pertimbangan antara pengelolaan infrastruktur, container, dan instance Compute Engine, gunakan diagram alur berikut. Jika Anda ingin membandingkan fitur dengan cepat di berbagai opsi komputasi, lihat tabel perbandingan dalam dokumen ini.
Pertanyaan dalam diagram alur sebelumnya adalah sebagai berikut:
Apakah Anda ingin Google mengelola semua infrastruktur?
Ya: gunakan Cloud Run.
Tidak: lanjutkan ke pertanyaan 2.
Apakah Anda menginginkan orkestrasi cluster untuk workload Anda (seperti Kubernetes atau Slurm)?
Ya: lanjutkan ke pertanyaan 4.
Tidak: lanjutkan ke pertanyaan 3.
Apakah Anda ingin mengelola sendiri VM atau instance bare metal?
Tidak: gunakan Batch.
Apakah Anda ingin menjalankan aplikasi dalam container standar (seperti microservice atau API)?
Ya: gunakan GKE.
Tidak: lanjutkan ke pertanyaan 5.
Apakah Anda ingin Google mengelola siklus proses cluster?
Tidak: gunakan Cluster Toolkit.
Menggunakan Batch
Pilih Batch untuk beban kerja seperti analisis data asinkron, tugas konversi video, atau simulasi ilmiah. Dengan Batch, Google mengelola infrastruktur sehingga Anda dapat menjadwalkan, memasukkan dalam antrean, dan menjalankan tugas komputasi batch di Google Cloud. Anda tidak perlu men-deploy atau mengelola server sendiri; sebagai gantinya, Anda mengirimkan skrip yang dapat dieksekusi atau workload dalam container ke antrean tugas.
Batch menyediakan kemampuan berikut:
Dukungan akselerator: Batch mendukung GPU NVIDIA hingga RTX PRO 6000 untuk workload batch dan komputasi berperforma tinggi (HPC) yang memerlukan throughput tinggi. Batch tidak mendukung TPU Google.
Kontrol OS dan kernel: Google mengelola OS dan lingkungan eksekusi untuk tugas Anda.
Orkestrasi: antrean tugas menjadwalkan tugas dan mencoba lagi jika terjadi error. Untuk menskalakan kapasitas, layanan akan menyediakan dan memulai VM berdasarkan jumlah tugas dalam antrean, serta menghentikan VM saat tugas tersebut selesai.
Untuk mengetahui informasi selengkapnya, lihat Mulai menggunakan Batch.
Menggunakan Cloud Run
Pilih Cloud Run untuk men-deploy aplikasi web atau tugas dalam container tanpa administrasi server. Cloud Run adalah platform serverless yang memungkinkan Anda menjalankan aplikasi dalam container tanpa pengelolaan server atau cluster. Google menangani semua pengelolaan infrastruktur untuk Anda, termasuk OS, kernel, penyiapan jaringan, dan pengelolaan kapasitas.
Cloud Run menawarkan fitur berikut:
Dukungan akselerator: Cloud Run mendukung GPU NVIDIA RTX PRO 6000 Blackwell dan L4. Cloud Run tidak mendukung model GPU lain atau TPU Google.
Kontrol OS dan kernel: Anda mengemas workload sebagai container dan menjalankannya sebagai layanan web, tugas asinkron, atau tugas batch.
Orkestrasi: sebagai platform serverless, Google memulai, menjalankan, dan menskalakan instance container Anda tanpa intervensi manual. Untuk layanan web, Cloud Run menambahkan atau menghapus instance container berdasarkan permintaan yang masuk atau konsumsi CPU.
Untuk mengetahui informasi selengkapnya, lihat Apa itu Cloud Run.
Menggunakan Cluster Director
Pilih Cluster Director jika Anda ingin melatih model AI atau menjalankan tugas simulasi yang dijadwalkan oleh Slurm tanpa tugas penyiapan jaringan atau konfigurasi OS cluster. Cluster Director adalah layanan terkelola yang mengotomatiskan deployment dan pengelolaan siklus proses untuk cluster AI, ML, dan HPC.
Cluster Director menyediakan kemampuan berikut:
Dukungan akselerator: Cluster Director mendukung GPU NVIDIA, termasuk GB300 Ultra Superchip, GB200 Superchip, B200, H200, dan H100, untuk workload AI, ML, dan HPC. Cluster Director tidak mendukung TPU Google.
Kontrol OS dan kernel: Google mengelola siklus proses cluster dan menyiapkan OS Ubuntu kustom yang didesain untuk ML. Layanan ini menyediakan lingkungan siap pakai, lengkap dengan node login, kumpulan node komputasi, dan template deployment yang dibuat untuk beban kerja AI.
Orkestrasi: untuk menskalakan kapasitas, Slurm membuat node saat penggunaan CPU meningkat, dan menghapus node saat node tetap tidak digunakan selama jangka waktu tertentu untuk mencegah biaya yang tidak perlu.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan Cluster Director.
Menggunakan Cluster Toolkit
Pilih Cluster Toolkit jika Anda ingin menggunakan template deployment otomatis sambil mempertahankan kontrol administratif atas stack OS dan software Anda. Cluster Toolkit adalah alat open source yang digunakan untuk menyediakan dan mengonfigurasi cluster AI, ML, dan HPC di Google Cloud.
Cluster Toolkit menawarkan fitur berikut:
Dukungan akselerator: Cluster Toolkit mendukung GPU NVIDIA dan TPU Google, yang Anda siapkan dan konfigurasi dengan template deployment yang disebut blueprint. Dengan file konfigurasi otomatis ini, Anda men-deploy infrastruktur cluster yang standar dan dapat diulang berdasarkan prinsip Infrastructure as Code (IaC).
Kontrol OS dan kernel: Cluster Toolkit men-deploy instance komputasi atau resource GKE di dalam project Google CloudAnda. Setelah men-deploy resource ini, Anda mempertahankan kontrol administratif atas OS, setelan software, dan siklus proses cluster.
Orkestrasi: untuk menskalakan kapasitas, Anda mengonfigurasi grup instance terkelola (MIG) atau alat GKE untuk menambahkan atau menghapus node berdasarkan setelan template.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan Cluster Toolkit.
Menggunakan Compute Engine
Pilih Compute Engine jika aplikasi Anda memerlukan konfigurasi arsitektur kustom, setelan kernel khusus, atau kontrol administratif atas server virtual. Compute Engine adalah platform Infrastructure as a Service (IaaS) inti Google Cloud yang memungkinkan Anda membuat dan menjalankan instance VM dan bare metal di hardware fisik Google. Google Cloud
Compute Engine menyediakan kemampuan berikut:
Dukungan akselerator: Compute Engine mendukung GPU NVIDIA dan TPU Google, yang Anda pasang ke instance komputasi Anda.
Kontrol OS dan kernel: Anda tetap memiliki kontrol penuh atas OS, setelan kernel, dan file booting, serta Anda memilih prosesor CPU, konfigurasi memori, jenis penyimpanan, dan OS tamu.
Orkestrasi: karena orkestrasi dilakukan secara manual, Anda menyiapkan dan mengelola instance komputasi, aturan jaringan, rute traffic, dan sistem pencadangan sendiri untuk keandalan. Untuk menskalakan kapasitas, Anda dapat menambahkan atau menghapus instance komputasi sesuai kebutuhan, menggunakan alat kustom, atau mengonfigurasi MIG untuk menyesuaikan kapasitas cluster.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan Compute Engine.
Menggunakan GKE
Pilih Google Kubernetes Engine (GKE) jika Anda memerlukan platform orkestrasi berbasis container yang andal untuk aplikasi terdistribusi atau mikroservice umum. GKE adalah platform Kubernetes terkelola standar industri untuk men-deploy, menskalakan, dan mengorkestrasi aplikasi dalam container. Google mengelola bidang kontrol Kubernetes untuk keamanan dan ketersediaan sistem.
GKE menawarkan fitur berikut:
Dukungan akselerator: GKE mendukung GPU NVIDIA dan TPU Google untuk workload dalam container.
Kontrol OS dan kernel: Google mengelola OS dalam mode Autopilot dan Standard. Dalam mode Autopilot, Google mengelola node cluster dan penyesuaian kapasitas tanpa intervensi manual. Dalam mode Standard, Anda mengelola kumpulan node cluster.
Orkestrasi: untuk menyesuaikan kapasitas saat permintaan berubah, GKE menambahkan atau menghapus container dengan Autoscaler Pod Horizontal dan Vertikal (HPA dan VPA), serta menambahkan atau menghapus node dengan autoscaler cluster. GKE juga mengatur tugas batch melalui Kueue.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan GKE.
Menggunakan VMware Engine
Pilih VMware Engine untuk memigrasikan workload VMware lokal Anda ke infrastruktur dengan perubahan operasional minimal. Google Cloud VMware Engine adalah layanan terkelola yang memungkinkan Anda menjalankan virtual machine VMware di hardware Google tanpa modifikasi aplikasi.
VMware Engine menyediakan kemampuan berikut:
Dukungan akselerator: VMware Engine tidak mendukung GPU atau TPU.
Kontrol OS dan kernel: Anda menjalankan aplikasi VMware di Google Cloud saat aplikasi berjalan di penyiapan yang ada. Google mengelola hardware fisik, infrastruktur jaringan, dan platform software VMware, seperti vSphere, vCenter, vSAN, dan NSX-T. Anda tetap memiliki kontrol administratif atas VM, OS tamu, dan alat pengelolaan VMware.
Orkestrasi: untuk menyesuaikan ukuran cloud pribadi, Anda menambahkan atau menghapus node ESXi khusus.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan Google Cloud VMware Engine.
Membandingkan opsi komputasi
Untuk mengidentifikasi solusi atau alat komputasi yang sesuai dengan workload Anda, bandingkan kemampuan teknis di berbagai opsi komputasi dalam tabel berikut:
| Opsi Compute | GPU | TPU | Kontrol OS dan kernel | Orkestrasi | Penskalaan |
|---|---|---|---|---|---|
| Batch | Hingga NVIDIA RTX PRO 6000 | Tidak | Dikelola Google | Antrean tugas | Otomatis berdasarkan pekerjaan dalam antrean |
| Cloud Run | NVIDIA RTX PRO 6000 Blackwell dan L4 | Tidak | Dikelola Google | Serverless | Otomatis berdasarkan permintaan atau penggunaan CPU |
| Cluster Director | NVIDIA GB300 Ultra Superchips, GB200 Superchips, B200, H200, dan H100 | Tidak | Dikelola Google (Ubuntu kustom) | Slurm | Otomatis berdasarkan konsumsi CPU |
| Cluster Toolkit | Semua GPU NVIDIA yang tersedia | Semua TPU Google yang tersedia | Kelola sendiri | File konfigurasi otomatis (IaC) | Dapat disesuaikan menggunakan alat MIG atau GKE |
| Compute Engine | Semua GPU NVIDIA yang tersedia | Semua TPU Google yang tersedia | Kelola sendiri | Manual | Manual atau otomatis menggunakan MIG |
| Google Kubernetes Engine (GKE) | Semua GPU NVIDIA yang tersedia | Semua TPU Google yang tersedia | Dikelola Google (Autopilot) atau semi-dikelola (Standard) | Kubernetes | Penskalaan otomatis pod dan node |
| VMware Engine | Tidak | Tidak | Dikelola Google | Platform VMware | Manual menggunakan node ESXi |