Menggunakan kembali cluster Managed Service untuk Apache Spark di Cloud Data Fusion memungkinkan Anda mengurangi overhead penyediaan dan mempercepat eksekusi pipeline di seluruh operasi. Untuk mengetahui informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster dan Menjalankan pipeline terhadap cluster Managed Service untuk Apache Spark yang ada.
Sebelum memulai
- Anda harus memiliki instance Cloud Data Fusion dalam versi 6.5.0 atau yang lebih baru.
Mengaktifkan penggunaan kembali cluster
Anda dapat menggunakan kembali cluster di profil komputasi baru, atau di profil yang telah digunakan dalam pipeline yang di-deploy.
Mengaktifkan penggunaan kembali cluster di profil baru
Buka instance Anda:
Di konsol Google Cloud , buka halaman Cloud Data Fusion.
Untuk membuka instance di Cloud Data Fusion Studio, klik Instance, lalu klik View instance.
Klik System admin > Configuration > System compute profiles.
Klik Buat profil baru.
Pilih penyedia Managed Service untuk Apache Spark.
Di jendela Create a profile for Managed Service untuk Apache Spark, masukkan detail tentang cluster Anda:
- Di kolom Label profil dan Nama profil, masukkan nama untuk
mengidentifikasi profil—misalnya,
execution_compute-profile. - Di kolom Description, jelaskan tujuan profil—misalnya,
Profile used for pipeline execution. - Di kolom Max idle time, masukkan nilai. Untuk mengetahui informasi selengkapnya, lihat Menetapkan waktu tidak ada aktivitas maksimum.
- Tetapkan kolom Skip cluster delete ke
True. Untuk mengetahui informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster. - Opsional: konfigurasikan kolom opsional lainnya.
- Klik Create.
- Di kolom Label profil dan Nama profil, masukkan nama untuk
mengidentifikasi profil—misalnya,
Mengaktifkan penggunaan kembali cluster di pipeline yang di-deploy
Buka instance Anda:
Di konsol Google Cloud , buka halaman Cloud Data Fusion.
Untuk membuka instance di Cloud Data Fusion Studio, klik Instance, lalu klik View instance.
Klik List.
Klik tab Deployed, lalu klik nama pipeline. Pipeline yang di-deploy akan terbuka di halaman Studio di antarmuka web Cloud Data Fusion.
Klik Configure.
Di jendela Compute config, buka profil yang dipilih, lalu klik Customize.
Di jendela yang terbuka, masukkan nilai berikut:
- Di kolom Max Idle Time, masukkan nilai. Untuk mengetahui informasi selengkapnya, lihat Menetapkan waktu tidak ada aktivitas maksimum.
- Setel Skip cluster delete ke
True. Untuk mengetahui informasi selengkapnya, lihat Kapan harus menggunakan kembali cluster.
Klik Done.
Langkah berikutnya
- Pelajari lebih lanjut cara mengonfigurasi cluster.
- Memecahkan masalah penghapusan cluster.