変更データ キャプチャ(CDC)の取り込みを使用すると、ソースデータベースを ボーダレス Lakehouse Apache Iceberg マネージド テーブル(以前の BigQuery の Apache Iceberg 用 BigLake テーブル)とリアルタイムで同期できます。挿入、更新、削除などの増分変更をキャプチャすることで、CDC はテーブルの完全な再読み込みを必要とせずに、Lakehouse に運用データの最新の状態を反映します。
Apache Iceberg マネージド テーブルは、BigQuery CDC のコンセプトと 機能を使用して、これらの変更を効率的に処理し、低レイテンシ 分析を Apache Iceberg などのオープン形式で保存されたデータに対して可能にします。このアプローチにより、一般的な ETL プロセスに関連する管理オーバーヘッドが大幅に削減されます。
制限事項
Apache Iceberg マネージド テーブルは変更データ キャプチャ(CDC)の取り込みをサポートしており、標準の BigQuery CDC の取り込みと同じコンセプトと機能を利用します。ただし、注意すべき追加の制限がいくつかあります。
- 順序が異なる削除はサポートされていません。BigQuery CDC
の取り込みとは異なり、削除保持期間は CDC 対応の
Iceberg マネージド テーブルでは維持されません。対応するレコードが挿入される前に
DELETEイベントが到着すると、バックグラウンドの適用ジョブによって削除が破棄されます。 これにより、削除する予定だったレコードがテーブルに残る可能性があります。 - Apache Iceberg マネージド テーブルの制限事項に記載されているすべての制限。
- BigQuery CDC の取り込みの 制限事項に記載されているすべての制限。
次のステップ
詳細については、次の BigQuery のドキュメントをご覧ください。
- 変更データ キャプチャでデータをストリーミングする
- BigQuery Storage Write API(gRPC)でデータをストリーミングする
- Datastream を使用してトランザクション データベースを BigLake テーブルにレプリケートする方法を確認する