Memigrasikan tugas pipeline ke project Google Cloud lain

Tugas umum yang mungkin Anda selesaikan adalah memindahkan tugas Dataflow dari satu Google Cloud project ke project lain. Misalnya, Anda mungkin ingin memindahkan tugas dari lingkungan pengujian ke lingkungan produksi. Tugas Dataflow terikat ke project tempat tugas tersebut dibuat dan tidak dapat dimigrasikan secara langsung ke project lain. Untuk memindahkan tugas, Anda harus menghentikan tugas di project lama dan membuatnya ulang di project baru.

Untuk memindahkan tugas, Anda harus melakukan hal berikut:

  1. Hentikan atau kosongkan tugas di project lama.
  2. Buat ulang tugas di project baru. Misalnya, gunakan kode, template, dan konfigurasi pipeline yang sama.
  3. Pastikan semua izin, akun layanan, dan resource yang diperlukan telah disiapkan dengan benar di project baru agar tugas dapat mengaksesnya. Hal ini mencakup:
    • Izin: Pastikan pengguna atau akun layanan yang menjalankan pipeline memiliki peran Identity and Access Management (IAM) yang diperlukan di project baru, seperti roles/dataflow.admin dan roles/dataflow.worker.
    • Akun Layanan: Akun layanan worker Dataflow akan berbeda di project baru. Pastikan akun layanan baru ini memiliki akses ke semua resource yang diperlukan pipeline, seperti bucket Cloud Storage, set data BigQuery, dan topik Pub/Sub.
    • Resource: Jika pipeline Anda menggunakan resource seperti bucket Cloud Storage, set data BigQuery, atau topik Pub/Sub, Anda harus memastikan resource tersebut ada di project baru atau dapat diakses dari project baru. Anda mungkin perlu membuat resource baru atau memberikan izin lintas project.
    • Kontrol Layanan VPC: Jika Anda menggunakan Kontrol Layanan VPC, pastikan project baru adalah bagian dari perimeter layanan yang sama atau Anda telah mengonfigurasi jembatan yang diperlukan untuk mengizinkan akses ke resource yang diperlukan.

Saat Anda membuat ulang tugas, tugas akan dimulai sebagai tugas baru dan tidak mempertahankan status tugas lama.

Untuk menghindari melakukan hardcode pada parameter khusus project, seperti project ID, gunakan opsi pipeline untuk meneruskan nilai ini ke dalam pipeline Anda.

Untuk mengetahui informasi selengkapnya tentang izin dan keamanan tugas Dataflow, lihat Keamanan dan izin Dataflow.

Langkah berikutnya

  • Untuk mengetahui praktik terbaik dalam mengembangkan, men-deploy, dan mengelola pipeline Dataflow, lihat Praktik terbaik pipeline.
  • Untuk meninjau proses men-deploy pipeline setelah mengonfigurasi project baru, lihat Men-deploy pipeline.