(已淘汰) 資料網格概念

在深入探討如何使用 Google Cloud Cortex Framework 部署資料網格的詳細指南之前,本頁面會先說明相關資料網格概念在 Google Cloud 產品中的一般實作方式,以及在 Cortex Framework 情境中的具體實作方式。瞭解資料網格概念後,請參閱 Cortex Framework Data Foundation 的 資料網格使用手冊。

Knowledge Catalog

下表定義 Knowledge Catalog 中的資料網格概念:

概念 說明 Cortex Framework 情境
湖泊 在資料網格中,用於整理資料的頂層單位。管理 Knowledge Catalog - 湖泊。 資料來源,例如 SAP ECC、Salesforce、Google Ads。
Zone 湖泊中用於整理資料的第二層單位。 資料來源中的特定處理層,例如原始資料與 CDC。
Knowledge Catalog 資產 參照儲存在 Cloud Storage 或 BigQuery 中,與可用區相關聯的資料。這是資料資產的參照,而非資料本身。 參照在區域中註冊的 BigQuery 資料集。
標籤 可套用至湖泊或可用區的任意鍵/值組合。 為整個湖泊或可用區 (而非資料表或資料欄) 加上中繼資料標籤,以便在 Knowledge Catalog 中查看或用於自訂應用程式。
Data Catalog 技術業務中繼資料,可用於探索、瞭解或管理倉儲中的資料資產。 使用豐富的中繼資料標記,為資料表或資料欄 (而非湖泊或可用區) 加上註解,以便在 Knowledge Catalog 搜尋或自訂應用程式中使用。
Catalog Tag Templates 定義代碼中可用欄位及其類型的範本。管理 Knowledge Catalog - 標記範本 定義一組範本,用於標記資料資產與業務範圍等用途。
目錄標記 一組欄位和其值,包含適用於資料表或資料欄的中繼資料。標記範本的執行個體。 使用與該資產相關的中繼資料值 (例如特定業務範圍) 為資料表或資料欄加上註解。
目錄詞彙表 可定義並與 BigQuery 資料欄建立關聯的詞彙字典。管理 Knowledge Catalog - Glossaries。 定義 BigQuery 資產中使用的字詞或縮寫。請注意,這項功能預計日後推出,目前不支援。
資料歷程 代表 BigQuery 資產依附元件的圖表。 這些並非由 Cortex 資料網格定義,但 Knowledge Catalog 是相關工具,可協助使用者探索 BigQuery 資產資料來源。
歷程事件 在 BigQuery 資產之間移動資料的操作時間點。包含連結清單。 系統會自動為支援的 BigQuery 和 Composer 作業建立。
歷程連結 代表資料從來源流向目標資產的邊緣,屬於歷程事件的一部分。 您可以分析這些資料,支援控制台中歷程視覺化圖表以外的用途。

BigQuery

下表定義 BigQuery 中的資料網格概念:

概念 說明 Cortex Framework 情境
政策分類 政策標記階層。管理 BigQuery - 政策標記。 將可用於存取控管的相關政策標記,整理成具有繼承權限的階層結構。
政策標記 套用至 BigQuery 資料表或檢視表中特定資料欄的標記。階層中任何層級的政策標記皆可套用。一個資料欄只能套用一個政策標記。 使用資料欄層級存取控管機制適用的標記,為資料欄加上註解。政策標記的主體會定義「精細」或「未遮蓋」讀取者,這些讀取者可以查看原始資料欄資料。
資料政策 套用至政策標記的政策,定義了遮蓋資料欄資料的查看方式和查看者。 資料政策中的主體定義了「遮蓋資料讀取者」,也就是可查看遮蓋資料欄資料的使用者。不具備遮蓋或未遮蓋讀者權限的使用者,則無法查詢該資料欄。
遮蓋規則 套用至資料政策的規則,定義資料遮蓋方式,例如雜湊、顯示預設值、最後四個字元等。 視情況套用至機密資料欄。
資料列存取政策 SQL 陳述式,定義哪些群組可以根據特定資料欄值查詢資料表中的資料列。 如果資產和資料欄層級控管機制不夠,則用於資料列層級存取控管。

Cortex 資料網格概念

下表定義 Cortex Framework 中的特定資料網格概念:

概念 說明 Cortex Framework 情境
中繼資料資源 可跨多項 BigQuery 資產重複使用的中繼資料實體。例如湖泊、目錄標記範本和政策分類。這項資訊僅限中繼資料,不包含 BigQuery 本身的資料。 定義可重複使用的資源,以便一致管理 Cortex 資料網格。
BigQuery 資產 BigQuery 資料表或檢視表。 現有的 Cortex BigQuery 物件,由資料網格管理。
BigQuery 資產註解 套用至特定 BigQuery 資料表或檢視表的中繼資料。包括說明、存取權政策,以及與中繼資料資源的對應關係。 將中繼資料與 BigQuery 資產建立關聯,以便啟用探索和存取控管功能。
資源規格 (spec) 定義中繼資料資源或 BigQuery 資產註解的 YAML 檔案。 整套資源規格會將要部署的資料網格設定編碼。