BigQuery で Knowledge Catalog を使用する
Knowledge Catalog(旧称 Dataplex Universal Catalog)は、BigQuery のメタデータの一元的なデータ ガバナンスとエージェント アクセスレイヤとして BigQuery とやり取りします。詳細については、Knowledge Catalog の概要をご覧ください。
BigQuery で Knowledge Catalog を使用するにはどうすればよいですか?
Knowledge Catalog は、次の方法で BigQuery とやり取りします。
メタデータの自動取り込み
Knowledge Catalog は、BigQuery アセットからテクニカル メタデータを自動的に検出してインデックスに登録します。これには次のものが含まれます。
- アセットタイプ: データセット、テーブル、ビュー、モデル、ルーティン、接続、リンクされたデータセット、グラフ(プレビュー)。
- BigQuery Sharing: BigQuery Sharing(旧 Analytics Hub)のエクスチェンジとリスティング。
- リアルタイム更新: システムは準リアルタイムの取り込みをサポートし、Pub/Sub を使用してメタデータ変更フィードを提供して、BigQuery のスキーマの変更または削除をダウンストリーム システムに通知します。
- ダークデータの検出: Knowledge Catalog は、非構造化ファイル(Cloud Storage の PDF など)をスキャンし、エンティティを抽出して、BigQuery でクエリ可能なアセットに変換できます。この機能により、これまでアクセスできなかった「ダークデータ」を BigQuery ベースの分析と AI のグラウンディングに利用できるようになります。
メタデータの表現と拡充
- エントリ: 各 BigQuery テーブルまたはアセットは、テーブル全体ではなく、カタログ内のエントリとして表されます(例:
project.dataset.table)。 - データ品質スコアカードの統合: Knowledge Catalog には、カタログ内の各エントリのデータ品質スコアカードが用意されています。組み込みの Knowledge Catalog データスキャンに加えて、Dataform のアサーション結果もこのスコアカードのソースになります。
自動化されたメタデータの拡充: Dataform で作成されたテーブルとビューの場合、コードでセマンティック メタデータを直接定義できます。このメタデータは、パイプライン アクションが正常に完了すると、Knowledge Catalog に自動的に同期されます。次のアスペクト タイプがサポートされています。
- 概要: エントリのドキュメントと概要テキスト。
- 汎用アスペクト: テーブル システムやタイプ情報などの技術的な詳細のセマンティック メタデータタグ。
メタデータの更新ステータスを確認するには、過去の手動実行を表示するの手順に沿って操作します。
メタデータが同期されると、Knowledge Catalog でエントリを検索して表示できます。詳しくは、リソースを検索するをご覧ください。
列レベルのメタデータ: 個々の列またはフィールドはパスとして表されます。これにより、PII マーカーやデータ品質スコアなどの特定のメタデータを、テーブル自体だけでなく、BigQuery テーブル内の個々のフィールドにアタッチできます。
アスペクト: 技術メタデータはアスペクトで拡充されます。アスペクトは、オーナーシップ、データ品質、ドキュメントなどのビジネス コンテキストをデータに追加します。
データ プロダクト: 関連する BigQuery アセットをデータ プロダクト(e コマース ビジネスデータなど)にパッケージ化できます。これらのデータ プロダクトには、共有アクセスとガバナンスの制約があります。
データの検出と検索
- セマンティック検索: ユーザーは自然言語を使用して BigQuery データを検索できます。これは、データ サイエンティストや AI エージェントが、長いクエリや複雑なクエリを使用して信頼できるデータ プロダクトを見つける場合に特に便利です。
- 名前の変換: プログラムによる検索を容易にするため、システムでは BigQuery SQL 名(完全修飾名)を Knowledge Catalog エントリ名に変換できます。
エージェント アクセスとグラウンディング
- エージェント アクセス: AI エージェントは、ローカルまたはリモートの MCP サーバーを介して、Knowledge Catalog ツールを検出して適応的に使用できます。
- AI エージェントのコンテキスト: Knowledge Catalog は、BigQuery データセットをビジネス セマンティクスにリンクするコンテキスト グラフをキュレートします。これにより、モデルが企業で承認されたデータを使用するようにして、AI のハルシネーションを軽減できます。
ガバナンスとコンプライアンス
- データリネージ: Knowledge Catalog は、BigQuery テーブルへのデータの流入と流出、変換を自動的に追跡します。この機能は、データ資産全体で PII などの機密情報を監査するために不可欠です。
- アクセス制御: メタデータ管理は Identity and Access Management(IAM)および VPC Service Controls と統合されており、BigQuery メタデータの検出とアクセスが組織のセキュリティ ポリシーに準拠するようになっています。
次のステップ
Knowledge Catalog の詳細: