Knowledge Catalog でデータリネージを追跡する

このページでは、Knowledge Catalog を使用して Looker(Google Cloud コア)インスタンスのデータリネージを追跡する方法について説明します。

データリネージとは、データがシステム内をどのように移動するかを追跡するプロセスです。Looker(Google Cloud コア)を Knowledge Catalog と統合することで、BigQuery のソースから Looker セマンティック レイヤ(LookML ビューと Explore)を経て、ダッシュボード、Look、AI またはデータ エージェントでのダウンストリーム消費に至るまで、データのエンドツーエンドのジャーニーを可視化できます。

この可視性により、データ ガバナンス、影響分析、監査ワークフローの双方向のリネージ トラッキングが可能になります。

  • ダウンストリームの影響分析: スキーマやモデルを変更する前に、影響を受けるダッシュボード、Explore、ダウンストリーム コンシューマーを予測します。たとえば、BigQuery テーブルの列を削除する前に、リネージグラフをチェックして、どの Looker ダッシュボードが破損する可能性があるかを確認できます。
  • アップストリーム データ監査: エグゼクティブ ダッシュボードと Look に表示される指標の出所、変換、管理チェーンを追跡します。

始める前に

Looker(Google Cloud コア)でデータリネージを使用するには、次の前提条件を満たす必要があります。

  1. Looker(Google Cloud コア): データリネージは、Looker(Google Cloud コア)インスタンスのすべてのエディション タイプでサポートされています。Looker(オリジナル)インスタンスは Knowledge Catalog と統合されません。
  2. 必要な権限: リネージグラフを表示するには、次の IAM ロールが必要です。

    • Looker(Google Cloud コア)インスタンスをホストしているプロジェクトに対する Looker スキーマ閲覧者(roles/looker.schemaViewer)。このロールは、リネージグラフの表示時にサイドパネルに表示される Looker(Google Cloud コア)固有のメタデータを表示するために必要です。

    • Dataplex Catalog 閲覧者(roles/dataplex.catalogViewer)または Knowledge Catalog アセットを表示するための同等の権限

    • リネージデータを読み取るためのデータリネージ閲覧者(roles/datalineage.viewer)

データリネージを有効にする

データリネージを有効にするには、次の各手順を完了します。

  1. Looker(Google Cloud コア)の Knowledge Catalog 統合を有効にする: Looker(Google Cloud コア)インスタンスと Knowledge Catalog の統合は、 Google Cloud コンソールでデフォルトで有効になっています。統合が無効になっている場合は、再度有効にする必要があります。手順については、統合を有効にするをご覧ください。
  2. Looker 内で Knowledge Catalog リネージのプレビュー機能を有効にする: Knowledge Catalog リネージのプレビュー機能は、Looker(Google Cloud コア)インスタンスの管理パネルのプレビュー機能ページでデフォルトで無効になっています。
  3. Data Lineage API を有効にする: Looker(Google Cloud コア)インスタンスと BigQuery データをホストする Google Cloud プロジェクトで Data Lineage API(datalineage.googleapis.com)を有効にする必要があります。

    データリネージ API を有効にする

  4. サービスレベルのリネージ取り込みを有効にする: リネージと Looker(Google Cloud コア)のサービスレベルの統合が有効になっていることをEnsureします。サービスレベルのリネージは、次のデフォルトの状態に従います。
    • 今後の料金への影響を防ぐため、この機能のプレビュー リリース日に Data Lineage API が有効になっていて、少なくとも 1 つの Looker(Google Cloud コア)インスタンスをホストしていたプロジェクトでは、Looker(Google Cloud コア)サービスレベルのリネージ取り込みがデフォルトで無効になっています。
    • サービスレベルのリネージ取り込みは、Data Lineage API が有効になっているプロジェクトで、この機能のプレビュー リリース日以降に作成された Looker(Google Cloud コア)インスタンスに対してデフォルトで有効になっています。

Google Cloud プロジェクトのリネージ構成を表示するには、現在の構成を取得するのドキュメントをご覧ください。Looker(Google Cloud コア)との統合が無効になっている場合、コマンドは次のような出力を返します。

    {
    "name": "projects/123456789012/locations/global/config",
    "ingestion": {
      "rules": [
        {
          "integrationSelector": {
            "integration": "LOOKER_CORE"
          },
          "lineageEnablement": {
            "enabled": false
          }
        }
      ]
    },
    "etag": "Wb35wDxTTLd6Z+QAL+Yd4g=="
  }

レスポンスのプロジェクト ID には、リクエストの ID が反映されます。etag フィールドは、サーバーによって生成されるチェックサムで、構成の現在の値に基づいています。

データリネージを表示する

統合が有効になり、最初の同期が完了すると(最大 24 時間かかる場合があります)、Knowledge Catalog コンソールでリネージを表示できます。

  1. Google Cloud コンソールで、[Knowledge Catalog] ページに移動します。

    Knowledge Catalog に移動

  2. 左側のナビゲーション パネルで [検索] をクリックします。
  3. BigQuery テーブルまたは Looker(Google Cloud コア)アセット(ダッシュボードや Explore など)を検索します。
    • [フィルタ] パネルを使用して、[システム] > [Looker] でフィルタできます。
  4. アセットの名前をクリックして、詳細ページを開きます。
  5. [リネージ] タブをクリックします。

リネージグラフでは、アセットが中央のノードとして表示され、左側にアップストリーム ソース、右側にダウンストリーム コンシューマが表示されます。この双方向レイアウトにより、右側で下流への影響を評価したり、左側で上流の来歴やソーステーブルをトレースしたりできます。

リネージグラフを解釈する

リネージグラフは、ノードとリンクで構成されています。

  • ノード: データアセットを表します。サポートされている Looker(Google Cloud コア)アセットは次のとおりです。
    • Looker ダッシュボード
    • Looker ダッシュボードの要素(タイル)
    • Looker Look
    • LookML Explore
    • LookML ビュー
  • リンク: データのフローを表します。たとえば、BigQuery テーブルから LookML ビューへのリンクは、ビューがそのテーブルからデータを選択することを示します。

アセットの所有者を特定する

変更の影響を受ける可能性のあるダウンストリーム アセットの所有者を確認する手順は次のとおりです。

  1. リネージグラフで、アセット(Looker ダッシュボードなど)のノードをクリックします。
  2. 画面の右側に情報パネルが開きます。
  3. [Aspects] セクションで [Owner](メールアドレス)を確認します。

リネージリストをフィルタする

リネージのリスト表示では、プロパティ名または値でエンティティをフィルタできます。たとえば、複雑な LookML モデルでは、多くの中間エンティティを含む大規模なリネージグラフが生成されることがあります。ビジネスへの影響に焦点を当てるには、次の手順でエンティティ タイプでフィルタします。

  1. [リネージ] タブで、[リスト] ビューに切り替えます。
  2. ツールバーで [フィルタ] オプションを見つけます。
  3. [エンティティ] フィルタに「Looker ダッシュボード」と「Looker Look」を入力して、LookML ビューや Looker Explore などの中間タイプを除外します。

エンティティ リストが更新され、選択したアセットタイプのみが表示されるため、ユーザー向けコンテンツを簡単に識別できます。

制限事項

Looker(Google Cloud コア)のリネージ統合には、プレビュー リリース中に次の制限があります。

  • データソース: プレビュー版では、リネージは BigQuery データソースでのみサポートされています。
  • 粒度: リネージはオブジェクト レベル(テーブル、ビュー、Explore、ダッシュボード)で提供されます。列レベルのリネージはサポートされていません。
  • レイテンシ: リネージデータはリアルタイムではありません。同期プロセスには通常 4 時間かかります。ただし、Looker メタデータのエクスポートとリネージデータの消費のタイミングによっては、同期に最大 8 時間かかることがあります。Looker または BigQuery で行った変更がリネージグラフに表示されるまでに時間がかかることがあります。
  • 複雑な SQL: 複雑なカスタム SQL(Liquid テンプレート、複雑な結合を含む派生テーブルなど)で定義された LookML は完全に解析されない可能性があり、ノードが切断される可能性があります。

料金

プレビュー リリース期間中は、この統合で使用されるデータリネージ機能に料金はかかりません。

データリネージが一般提供になると、料金が発生します。今後の料金への影響を防ぐため、この機能のプレビュー リリース日に Data Lineage API が有効になっていて、少なくとも 1 つの Looker(Google Cloud コア)インスタンスをホストしていたプロジェクトでは、Looker(Google Cloud コア)リネージの取り込みがデフォルトで無効になっています。

詳細については、Knowledge Catalog の料金ページをご覧ください。

次のステップ