本文說明如何排解及解決 Knowledge Catalog (原稱 Dataplex Universal Catalog) 資料沿襲圖未顯示的最常見問題。解決這些問題後,您就能順利追蹤資料移動情形、瞭解資料來源,以及偵錯資料管道。
專案類型
資料資產可位於不同專案。以下摘要說明可能的專案和資產名稱。
BigQuery 儲存空間專案
這個專案會儲存 BigQuery 資料資產。你可以在資產詳細資料中找到這組 ID,位於 Table ID 的第一個點之前。
Compute 專案
這個專案會儲存資料歷程中繼資料。 如果是 BigQuery,您可以在這裡執行工作。如果您使用 Google Cloud 控制台執行工作,可以在專案選取器中找到運算專案名稱:
向 BigQuery API 傳送要求時,請在網址中指定運算專案,例如:
POST /bigquery/v2/projects/docs-compute/jobs HTTP/1.1
Host: bigquery.googleapis.com
User-Agent: Go-http-client/1.1
Authorization: <REDACTED 1031 BYTES>
Accept-Encoding: gzip
{
"configuration": {
"query": {
"useLegacySql": false,
"query": "CREATE OR REPLACE TABLE `docs-target.dataset.target-002` AS SELECT * FROM `docs-source.dataset.source-002`;"
}
},
"jobReference": {
"projectId": "docs-compute",
"jobId": "docs-compute-job-id",
"location": "us",
}
}
有效專案
這是您查看資料歷程的專案。 Google Cloud 控制台會在專案選取器中顯示有效專案。如果您使用 API,有效專案就是您發出 API 呼叫的專案。
未顯示 BigQuery 資料歷程
執行 BigQuery 工作後,發生下列問題:在這種情況下,問題可能是由下列三種情況所造成:
- 有效專案或運算專案已停用 Data Lineage API。
- 您在有效或 compute 專案中,沒有 Data Lineage 檢視者角色 (
roles/datalineage.viewer)。 - 資料歷程尚未送達。視處理的資料量和複雜度而定,資料歷程最多可能需要 24 小時才會顯示,最快則為 30 分鐘。
如果頁面底部顯示「Fetching lineage failed due to missing permissions.」(缺少相關權限,無法擷取歷程),表示您沒有有效專案的權限。否則您沒有運算專案的權限。
如要解決這個問題,請檢查運算專案是否已啟用 Data Lineage API。啟用 API 後,您需要執行工作才能查看資料歷程。 視處理的資料量和複雜度而定,資料歷程最多可能需要 24 小時才會顯示,最快則為 30 分鐘。
接著,請檢查有效專案是否已啟用 Data Lineage API。
啟用 Data Lineage API 後,請在作用中和 Compute 專案中,授予資料歷程檢視者角色 (roles/datalineage.viewer)。
未顯示 BigQuery 程序中繼資料
開啟資料表詳細資料窗格時,會發生下列問題,導致系統無法顯示所有詳細資料,例如 SQL 陳述式或 Process type 屬性。即使資料沿襲顯示正常,仍會發生這種情況。
如果沒有權限查看運算專案中的中繼資料,就可能發生這種情況。
範例:
- BigQuery 來源資料表:
docs-source.dataset.source-001 - BigQuery 目標資料表:
docs-target.dataset.target-001 - 運算專案中
docs-source.dataset.source-001和docs-target.dataset.target-001之間的資料歷程docs-compute - 您在有效和 Compute
docs-compute專案中具備資料歷程檢視者角色。
點選 BigQuery 程序詳細資料時, Google Cloud 控制台會顯示下列訊息:
You don't have permission to view BigQuery process metadata in project X.
如要解決這個問題,請在運算專案中授予使用者 bigquery.jobs.get 權限 (例如包含在 BigQuery 資源檢視者角色中)。
未顯示 BigQuery 資料表詳細資料
開啟表格詳細資料窗格時,會發生下列問題,該窗格只會顯示 Fully qualified name 屬性。即使資料沿襲圖表顯示正常,也會發生這種情況。如果沒有資料表儲存專案的所有必要權限,就可能發生這種情況。
範例:
- BigQuery 資料表
docs-source.dataset.source-001 - BigQuery 資料表
docs-target.dataset.target-001 docs-source.dataset.source-001和docs-target.dataset.target-001之間的資料歷程,以及運算專案docs-compute- 您在有效和運算
docs-compute專案中具備資料歷程檢視者角色
在本例中,當您按一下 BigQuery 節點詳細資料時,會看到 Entry with this fully qualified name is not available in Knowledge
Catalog or you do not have permissions to view it 訊息。
如要解決這個問題,請在儲存空間專案中授予 bigquery.tables.get 權限 (例如 BigQuery 資料檢視者角色中包含的權限)。