Tentang silsilah data

Silsilah data adalah peta visual yang melacak seluruh siklus proses data Anda. Urutan data menunjukkan asal data Anda (asal), ke mana data tersebut berpindah (tujuan), dan semua perubahan atau transformasi yang terjadi di sepanjang proses.

Anda dapat melihat peta lengkap perjalanan data ini langsung di konsolGoogle Cloud untuk aset yang dibuat di produk seperti Knowledge Catalog (sebelumnya bernama Dataplex Universal Catalog), BigQuery (termasuk tabel eksternal yang dibuat untuk Iceberg REST Catalog), dan Vertex AI. Karena alur kerja sering kali mencakup beberapa region, Knowledge Catalog mendukung silsilah multi-region, yang memberikan tampilan terpadu perjalanan data Anda di seluruh ekosistem global Google Cloud . Pengguna tingkat lanjut juga dapat mengambil informasi ini menggunakan Data Lineage API.

Alasan Anda memerlukan silsilah data

Perusahaan modern terus-menerus memindahkan dan mengubah data dalam jumlah besar. Misalnya, mengubah pembelian pelanggan mentah menjadi laporan, dasbor, dan model machine learning. Kompleksitas ini menimbulkan tantangan penting bagi tim Anda:

  • Kepercayaan dan verifikasi. Pengguna data sering kali kesulitan mengonfirmasi bahwa laporan dan angka yang mereka lihat akurat dan berasal dari sumber tepercaya.

  • Pemecahan masalah. Jika error muncul dalam laporan akhir, tim data mungkin akan kesulitan dan membutuhkan waktu lama untuk melacak masalah tersebut melalui setiap langkah hingga ke akar penyebabnya.

  • Manajemen perubahan. Sebelum mengubah atau menghapus sepotong data (seperti kolom dalam tabel), tim perlu mengetahui setiap laporan atau model hilir yang bergantung padanya untuk menghindari kerusakan sistem penting.

  • Kepatuhan. Para pemimpin memerlukan visibilitas tentang cara data sensitif (seperti informasi pelanggan atau keuangan) digunakan di seluruh organisasi untuk memenuhi persyaratan peraturan.

Silsilah data memecahkan masalah ini dengan memberikan perjalanan data yang jelas, visual, dan terdokumentasi. Dengan begitu, Anda dapat memahami sumber data, melacak error, menilai dampak perubahan, dan mempertahankan kepatuhan.

Cara kerja silsilah data

Alur kerja asal data mencakup langkah-langkah berikut:

  1. Sumber data dan penyerapan: informasi silsilah dari sumber data Anda memulai seluruh proses.

    • layananGoogle Cloud : saat Data Lineage API diaktifkan, layanan yang didukung seperti BigQuery dan Dataflow akan otomatis melaporkan peristiwa silsilah setiap kali data dipindahkan atau diubah.

    • Sumber kustom: untuk sistem apa pun yang tidak didukung secara otomatis oleh integrasiGoogle Cloud , Anda dapat menggunakan Data Lineage API untuk mencatat informasi silsilah secara manual. Sebaiknya impor peristiwa yang diformat sesuai dengan standar OpenLineage.

  2. Platform silsilah: platform pusat ini menyerap, memodelkan, dan menyimpan semua data silsilah.

    • Data Lineage API: API ini berfungsi sebagai titik entri tunggal untuk semua informasi silsilah yang masuk. Model ini menggunakan model data hierarkis yang terdiri dari tiga konsep inti: proses, operasi, dan peristiwa.

    • Pemrosesan dan penyimpanan: platform memproses data yang masuk dan menyimpannya dalam database yang andal dan dioptimalkan untuk kueri.

  3. Pengalaman pengguna: Anda dapat berinteraksi dengan informasi silsilah yang disimpan dengan dua cara utama:

    • Eksplorasi visual: di konsol Google Cloud , layanan frontend mengambil dan merender data silsilah sebagai grafik atau daftar interaktif. Hal ini didukung untuk Knowledge Catalog, BigQuery, Lakehouse untuk Apache Iceberg (untuk tabel Iceberg REST Catalog), lapisan fisik (Cloud Storage), dan Vertex AI (untuk model, set data, melalui pipeline; dan tampilan feature store, serta grup fitur). Cara ini ideal untuk mempelajari perjalanan data Anda secara visual.

    • Akses terprogram: menggunakan klien API, Anda dapat berkomunikasi langsung dengan Data Lineage API untuk mengotomatiskan pengelolaan silsilah. Dengan begitu, Anda dapat menulis informasi silsilah dari sumber kustom. Selain itu, Anda dapat membaca dan membuat kueri data silsilah yang disimpan untuk digunakan di aplikasi lain atau untuk membuat laporan kustom.

Metode apa yang harus saya gunakan untuk asal-usul data?

Untuk melakukan pencarian langsung satu tingkat, gunakan metode SearchLinks. Untuk membangun grafik silsilah lengkap atau melakukan analisis dampak mendalam (hingga 100 tingkat), gunakan metode SearchLineageStreaming.

Bergantung pada kasus penggunaan Anda, pilih metode yang paling sesuai:

Fitur SearchLinks SearchLineageStreaming
Kedalaman 1 tingkat (tetangga terdekat) Hingga 100 level
Eksekusi Sinkron Streaming real-time
Kasus penggunaan Pencarian sederhana sumber atau target langsung Membangun grafik silsilah lengkap atau melakukan analisis dampak

Mengidentifikasi arah

  • Hulu (Asal):
    • Di SearchLinks, tetapkan kolom target ke FQN aset Anda.
    • Di SearchLineageStreaming, setel direction ke UPSTREAM.
  • Downstream (Tujuan):
    • Di SearchLinks, tetapkan kolom source ke FQN aset Anda.
    • Di SearchLineageStreaming, setel direction ke DOWNSTREAM.

Model informasi silsilah data

Silsilah adalah catatan data yang diubah dari sumber ke target. Data Lineage API mengumpulkan informasi ini dan menyusunnya ke dalam model data hierarkis yang menggunakan konsep proses, operasi, dan peristiwa.

Konsep Deskripsi
Proses Definisi transformasi data.
Jalankan Eksekusi proses.
Acara Catatan perpindahan data selama operasi.

Apa itu proses silsilah?

Proses adalah definisi operasi transformasi data untuk sistem tertentu. Untuk silsilah BigQuery, proses adalah tugas dari jenis tugas yang didukung. Semua eksekusi kueri SQL yang sama ditautkan ke satu proses, yang memungkinkan Anda melacak setiap instance tempat logika transformasi tertentu digunakan.

Misalnya, kueri SQL berikut adalah proses. Kueri ini membuat tabel dengan menghitung jumlah total perjalanan untuk setiap vendor dari dua tabel sumber. 

  CREATE TABLE `dataplex-docs.data_lineage_demo.total_green_trips_22_21`
  AS
  SELECT
      vendor_id,
      COUNT(*) AS number_of_trips
  FROM
      (
          SELECT vendor_id
          FROM `dataplex-docs.data_lineage_demo.nyc_green_trips_2022`
          UNION ALL
          SELECT vendor_id
          FROM `dataplex-docs.data_lineage_demo.nyc_green_trips_2021`
      )
  GROUP BY
      vendor_id;

Format nama resource REST untuk proses adalah projects/PROJECT_NUMBER/locations/LOCATION/processes/PROCESS_ID.

Contoh: projects/123456789123/locations/us/processes/sh-0548bbf4ff3c8072a6c7372ba1acafb6

Untuk mengetahui informasi selengkapnya tentang resource process, lihat Referensi resource proses.

Apa itu proses silsilah?

Operasi adalah satu kali eksekusi proses. Proses dapat memiliki beberapa operasi.

Setiap eksekusi adalah operasi unik yang dicirikan oleh startTime, endTime, dan status akhir, seperti COMPLETED, FAILED, atau ABORTED.

Misalnya, menjalankan kueri SQL dari bagian Proses pada pukul 09.00 membuat jalankan tertentu. Menjalankan kueri yang sama lagi pada pukul 10.00 AM akan membuat run baru yang berbeda. Kedua proses berjalan ditautkan ke proses induk yang sama.

Format nama resource REST untuk run menunjukkan bahwa run adalah turunan dari proses: projects/PROJECT_NUMBER/locations/LOCATION/processes/PROCESS_ID/runs/RUN_ID.

Contoh: projects/123456789123/locations/us/processes/sh-0548bbf4ff3c8072a6c7372ba1acafb6/runs/83dd03a51cd2ac80f465c9e267a950b1

Untuk mengetahui informasi selengkapnya tentang resource run, lihat referensi resource Run.

Apa yang dimaksud dengan peristiwa silsilah?

Peristiwa merepresentasikan titik waktu saat transformasi data memindahkan data antara sumber dan target entitas. Peristiwa adalah catatan terperinci dari pergerakan data tertentu yang menghubungkan tabel sumber dan target untuk proses tertentu. Peristiwa juga dapat memiliki beberapa sumber dan target.

Misalnya, jika eksekusi Anda menjalankan kueri SQL yang dibahas di bagian Proses, peristiwa silsilah mencatat bahwa tabel sumber nyc_green_trips_2021 dan nyc_green_trips_2022 digunakan untuk membuat tabel target total_green_trips_22_21.

Peristiwa silsilah berisi daftar link yang menentukan sumber dan target. Peristiwa digunakan untuk membuat grafik silsilah. Meskipun menampilkan diagram silsilah ini, konsol Google Cloud tidak menampilkan peristiwa individual secara langsung. Anda dapat membuat, membaca, dan menghapus, tetapi tidak memperbarui peristiwa menggunakan Data Lineage API.

Setiap link dalam peristiwa menentukan satu jalur aliran data dari entity sumber ke entity target. Entitas adalah referensi ke aset data, seperti tabel BigQuery, dan diidentifikasi berdasarkan Nama yang Sepenuhnya Memenuhi Syarat (FQN). Satu peristiwa dapat berisi beberapa link, yang umum dalam operasi seperti penggabungan tabel di mana beberapa sumber berkontribusi pada satu target.

Untuk mengetahui detail tentang cara peristiwa mendukung silsilah tingkat kolom, lihat Silsilah tingkat kolom.

Sumber data apa yang didukung untuk silsilah data?

Anda dapat mengisi informasi silsilah di Knowledge Catalog dengan cara berikut:

  • Secara otomatis dari layanan Google Cloud terintegrasi
  • Secara manual, dengan menggunakan Data Lineage API untuk sumber kustom
  • Dengan mengimpor peristiwa dari OpenLineage

BigQuery

Saat Anda mengaktifkan silsilah data di project BigQuery, Knowledge Catalog akan otomatis mencatat informasi silsilah untuk berikut ini:

Tugas penyalinan, kueri, dan pemuatan BigQuery ditampilkan sebagai proses.

Untuk melihat detail proses, di grafik silsilah, klik ikon Detail proses Detail proses..

Setiap proses berisi job_id BigQuery dalam daftar attributes untuk tugas BigQuery terbaru.

Layanan lainnya

Silsilah data mendukung integrasi dengan layananGoogle Cloud berikut:

  • Cloud Data Fusion

    Anda tidak dapat membatasi pelacakan silsilah data hanya ke Cloud Data Fusion saat Data Lineage API diaktifkan dalam project.

  • Dataflow

    Anda dapat merekam peristiwa silsilah dengan tugas Dataflow dan memublikasikannya ke Data Lineage API.

  • Tabel katalog REST Lakehouse untuk Iceberg

  • Looker (Google Cloud core) (Pratinjau)

    Visualisasi metadata Looker (inti Google Cloud) dari sumber BigQuery menggunakan silsilah data didukung. Silsilah data harus diaktifkan di tingkat resource Looker (inti Google Cloud) dan di tingkat layanan silsilah data.

  • Managed Service untuk Apache Airflow

    Managed Airflow menggunakan kontrol integrasi silsilah data tingkat lingkungan. Silsilah data diaktifkan secara otomatis untuk semua lingkungan Managed Airflow baru yang memenuhi persyaratan. Untuk lingkungan yang sudah ada, gunakan setelan lingkungan untuk mengaktifkan atau menonaktifkan integrasi silsilah data. Anda dapat mengonfigurasi penyerapan silsilah data untuk Managed Airflow guna mengaktifkan atau menonaktifkan penyerapan silsilah data otomatis.

  • Managed Service untuk Apache Spark: Cluster Apache Hive

    Anda dapat merekam peristiwa silsilah dengan tugas Hive Managed Service untuk Apache Spark dan memublikasikannya ke Data Lineage API. Anda dapat mengonfigurasi penyerapan silsilah data untuk Managed Service for Apache Spark guna mengaktifkan atau menonaktifkan penyerapan silsilah data otomatis.

  • Managed Service untuk Apache Spark: Cluster Apache Spark

    Anda dapat merekam peristiwa silsilah dengan tugas Spark Managed Service untuk Apache Spark dan memublikasikannya ke Data Lineage API. Anda dapat mengonfigurasi penyerapan silsilah data untuk Managed Service for Apache Spark guna mengaktifkan atau menonaktifkan penyerapan silsilah data otomatis.

  • Managed Service untuk Apache Spark: deployment serverless

    Anda dapat merekam peristiwa silsilah dengan tugas serverless Managed Service untuk Apache Spark dan memublikasikannya ke Data Lineage API. Anda dapat mengonfigurasi penyerapan silsilah data untuk Managed Service for Apache Spark guna mengaktifkan atau menonaktifkan penyerapan silsilah data otomatis.

  • Vertex AI Feature Store

    Silsilah data melacak metadata untuk tampilan penyimpanan fitur dan grup fitur.

  • Vertex AI Pipelines

    Silsilah data diaktifkan secara otomatis untuk pipeline Vertex AI Pipelines, yang melacak artefak input dan parameter eksekusi (seperti model, set data, dan komponen), serta aset turunan hilir.

Silsilah data untuk sumber data kustom

Anda dapat menggunakan Data Lineage API untuk mencatat informasi asal data secara manual untuk sumber data apa pun yang tidak didukung oleh sistem terintegrasi, seperti database eksternal atau pipeline lokal. Knowledge Catalog dapat membuat grafik silsilah untuk silsilah yang dicatat secara manual jika Anda menggunakan fullyQualifiedName yang cocok dengan nama yang sepenuhnya memenuhi syarat dari entri Knowledge Catalog yang ada. Jika ingin merekam silsilah untuk sumber data kustom, Anda harus membuat entri kustom terlebih dahulu.

Setiap proses untuk sumber data kustom dapat berisi kunci sql dalam daftar atribut. Nilai kunci ini digunakan untuk merender sorotan kode di panel detail grafik asal data. Pernyataan SQL ditampilkan seperti yang diberikan. Anda bertanggung jawab untuk memfilter informasi sensitif. Nama kunci sql peka huruf besar/kecil.

Misalnya, payload resource proses dengan atribut sql kustom:

{
  "displayName": "custom-sql-query",
  "attributes": {
    "sql": "SELECT user_id, SUM(amount) FROM `project.dataset.purchases` GROUP BY user_id"
  }
}

Untuk mengetahui informasi selengkapnya, lihat Melacak informasi silsilah sistem eksternal.

OpenLineage

Jika Anda sudah menggunakan OpenLineage untuk mengumpulkan informasi silsilah dari sumber data lain, Anda dapat mengimpor peristiwa OpenLineage ke Knowledge Catalog dan melihat peristiwa ini di konsol. Google Cloud Untuk mengetahui informasi selengkapnya, lihat Mengintegrasikan dengan OpenLineage.

Pelacakan silsilah data otomatis

Saat Anda mengaktifkan Data Lineage API, Google Cloud sistem yang mendukung silsilah data akan mulai melaporkan pergerakan datanya. Setiap sistem terintegrasi dapat mengirimkan informasi silsilah untuk berbagai sumber data.

Mengontrol penyerapan silsilah

Untuk mengelola biaya dan kebijakan tata kelola, Anda dapat mengaktifkan atau menonaktifkan pembuatan silsilah untuk layanan tertentu. Google Cloud Anda dapat mengonfigurasi penyerapan ini secara terpusat di tingkat organisasi, folder, dan project. Selama pratinjau, fitur ini mendukung konfigurasi penyerapan silsilah untuk Managed Service for Apache Spark, BigQuery, dan Managed Service for Apache Airflow.

Knowledge Catalog mengevaluasi hierarki resource (project, lalu folder, lalu organisasi) untuk menentukan konfigurasi yang efektif. Konfigurasi pertama yang ditetapkan secara eksplisit di tingkat mana pun dalam penelusuran ke atas ini akan berlaku.

  • Jika Anda menetapkan konfigurasi di tingkat project, Knowledge Catalog akan menggunakannya.
  • Jika tidak ada konfigurasi yang ditetapkan di tingkat project, Knowledge Catalog akan menggunakan konfigurasi dari folder induk terdekat dengan konfigurasi eksplisit.
  • Jika tidak ada konfigurasi yang ditetapkan di tingkat project atau folder, Knowledge Catalog akan menggunakan konfigurasi tingkat organisasi.
  • Jika tidak ada konfigurasi yang ditetapkan di salah satu tingkat ini, Knowledge Catalog akan menggunakan default sistem untuk integrasi. Konfigurasi pengaktifan silsilah default dapat berupa Diaktifkan atau Dinonaktifkan. Untuk Managed Service untuk Apache Spark, penyerapan silsilah BigQuery, dan Managed Service untuk Apache Airflow, secara default Diaktifkan jika Data Lineage API aktif.

Misalnya, pertimbangkan organisasi test-org dengan konfigurasi silsilah Managed Service untuk Apache Spark berikut:

  • Organisasi test-org: Diaktifkan
    • Folder folder-a: Nonaktif
      • Project project-a: Tidak ada konfigurasi yang ditetapkan
    • Folder folder-b: Diaktifkan
      • Project project-b: Dinonaktifkan

Dalam skenario ini, setelan berikut dapat diterapkan:

  • Untuk project-a, penyerapan silsilah Dinonaktifkan. Knowledge Catalog mulai mengevaluasi dari project-a, tidak menemukan konfigurasi, beralih ke folder-a, dan menerapkan konfigurasi Dinonaktifkan dari folder-a.
  • Untuk project-b, penyerapan silsilah Dinonaktifkan. Knowledge Catalog mulai mengevaluasi dari project-b dan menerapkan konfigurasi Dinonaktifkan, yang menggantikan setelan di folder-b dan test-org.

Mengontrol pembuatan data silsilah membantu Anda mengelola biaya dan kebijakan tata kelola. Misalnya, Anda dapat menonaktifkan pengumpulan silsilah untuk project pengembangan atau workload bervolume tinggi yang tidak memerlukan pelacakan silsilah.

Untuk mengetahui informasi tentang cara mengonfigurasi dan mengontrol penyerapan silsilah, lihat Mengontrol penyerapan silsilah untuk layanan.

Silsilah data multi-region

Silsilah data adalah layanan yang secara inheren diregionalisasi. Metadata silsilah data, termasuk link, proses, dan peristiwa, dicatat dan diisolasi dengan aman di dalam lokasi geografis tertentu tempat transformasi data atau modifikasi aset yang mendasarinya terjadi.

Seiring dengan penskalaan arsitektur data perusahaan modern, alur kerja pipeline sering kali melintasi batas project dan regional. Misalnya, pipeline transformasi BigQuery yang berjalan di us-central1 dapat membaca tabel sumber di us-east1 dan menghasilkan output metrik gabungan ke bucket Cloud Storage yang berada di europe-west1.

Untuk membuat tampilan siklus proses data yang komprehensif dan menyeluruh di seluruh ruang geografis independen ini, gunakan metode penelusuran silsilah multi-region.

Untuk mengetahui informasi selengkapnya, lihat Tentang penelusuran silsilah multi-region.

Pertimbangan dan batasan silsilah data

Saat merencanakan strategi tata kelola data, perhatikan integrasi silsilah, parameter kepatuhan, dan batasan layanan berikut.

Kontrol silsilah tingkat produk

Jika Data Lineage API diaktifkan, sistem yang didukung akan melaporkan silsilah sesuai dengan kontrol tingkat produknya. Untuk mengetahui daftar lengkap sistem yang didukung dan kontrolnya, lihat Sistem yang didukung untuk asal data.

Dampak terhadap penagihan

Selain Harga standar, perhatikan hal-hal berikut:

  • Data Lineage API berjalan berdasarkan per project. Tinjau dampak penagihan sebelum mengaktifkannya pada alur kerja project yang menggunakan banyak data.
  • Untuk BigQuery Omni, pemrosesan silsilah didistribusikan ke region tertentu, dan biaya bergantung pada region tempat pemrosesan dilakukan.

Kepatuhan silsilah data

  • Silsilah data mencatat metadata tentang pergerakan data, tetapi tidak merekam data itu sendiri. Lihat model informasi silsilah data dan referensi Data Lineage API untuk mengetahui detail tentang kolom yang disertakan dalam metadata.
  • Silsilah data sebagai bagian dari Knowledge Catalog menawarkan dukungan VPC-SC.
  • Knowledge Catalog tidak menawarkan kemampuan untuk menggunakan Kunci Enkripsi yang Dikelola Pelanggan (CMEK) untuk melindungi metadata silsilah yang dikumpulkan.

Batasan silsilah data

Penelusuran data memiliki batasan berikut:

  • Semua informasi silsilah dipertahankan dalam sistem hanya selama 30 hari.

  • Informasi silsilah tetap ada setelah Anda menghapus sumber data terkait. Misalnya, jika Anda menghapus tabel BigQuery, Anda masih dapat melihat asal-usulnya melalui API dan konsol hingga 30 hari.

  • Silsilah data tidak secara otomatis mencatat informasi silsilah langsung untuk rutin BigQuery. Jika digunakan dalam kueri, silsilah data mencatat silsilah antara tabel yang dibaca rutinitas sebagai dependensi tabel yang ditulis kueri.

Saat Anda memilih node dalam grafik silsilah, panel samping detail node akan kosong dalam kasus berikut:

  • Resource berada di organisasi lain.
  • Pengguna bukan anggota organisasi yang menghosting resource.

Batasan silsilah tingkat kolom

Silsilah tingkat kolom memiliki batasan tambahan berikut:

  • Silsilah tingkat kolom tidak dikumpulkan untuk tugas pemuatan BigQuery atau untuk rutin.

  • Silsilah tingkat kolom upstream tidak dikumpulkan untuk tabel eksternal.

  • Silsilah tingkat kolom tidak dikumpulkan jika tugas membuat lebih dari 1.500 link tingkat kolom. Dalam kasus ini, hanya silsilah tingkat tabel yang dikumpulkan.

  • Dukungan silsilah tingkat kolom terbatas pada kolom tingkat teratas dalam tabel BigQuery. Kolom bertingkat dalam jenis kompleks (seperti STRUCT atau JSON) tidak didukung.

  • Fungsi penelusuran dengan parameter kolom hanya beroperasi pada link yang secara eksplisit menentukan hubungan kolom ke kolom. Tidak menampilkan hasil atau menelusuri link yang hanya ditentukan di tingkat tabel. Tidak ada dukungan untuk penelusuran antara link tingkat tabel dan link tingkat kolom (misalnya, menemukan semua kolom yang terkait dengan link tingkat tabel, atau sebaliknya). API hanya menampilkan link jika sumber dan target menentukan kolom.

  • Dukungan untuk tabel berpartisi terbatas, karena kolom partisi seperti _PARTITIONDATE dan _PARTITIONTIME tidak dikenali dalam grafik silsilah.

  • Batasan konsol:

    • Penelusuran grafik silsilah dibatasi hingga kedalaman 20 tingkat dan 10.000 link di setiap arah.

Harga

  • Knowledge Catalog menggunakan SKU pemrosesan premium untuk menagih silsilah data. Untuk informasi selengkapnya, buka Harga.

  • Untuk memisahkan biaya silsilah data dari biaya lainnya di SKU pemrosesan premium Knowledge Catalog, pada laporan Penagihan Cloud, gunakan label goog-dataplex-workload-type dengan nilai LINEAGE.

  • Jika Anda memanggil Data Lineage API Origin sourceType dengan nilai selain CUSTOM, hal ini akan menimbulkan biaya tambahan.

Langkah berikutnya