設定 BigQuery 資料集

Application Design Center 可讓您建立及設定 BigQuery 資料集,用於企業資料分析。資料集元件和參數是以 terraform-google-bigquery Terraform 模組為基礎。

元件連線

下表列出可連結至 BigQuery 資料集的元件,以及應用程式和產生的 Terraform 程式碼會有哪些更新。

連通元件

應用程式更新

背景資訊

Compute Engine 執行個體範本

  • Compute Engine 執行個體可以讀取資料,並將資料寫入 BigQuery 資料集。
  • BigQuery 資源中繼資料會新增至 Compute Engine 執行個體範本。
  • roles/bigquery.dataEditor 角色已新增至 Compute Engine 執行個體範本服務帳戶。
執行個體範本
服務帳戶
  • Cloud Run 等服務可使用服務帳戶,讀取及修改 BigQuery 資料集中的資料。
  • BigQuery roles/bigquery.dataEditor 角色已新增至服務帳戶。
BigQuery IAM 角色和權限
Cloud Run
  • Cloud Run 服務可以與 BigQuery 資料集互動。
  • BigQuery 資源中繼資料會新增至 Cloud Run 環境變數。
  • BigQuery roles/bigquery.dataEditor 角色已新增至 Cloud Run 服務帳戶。
什麼是 Cloud Run?

Pub/Sub

  • Pub/Sub 訂閱項目可將訊息寫入 BigQuery 資料集。
  • BigQuery 資料集資訊會新增至 BigQuery 訂閱項目欄位。
BigQuery 訂閱項目

必要設定參數

如果範本包含 BigQuery 元件,您必須先設定下列參數,才能部署。

參數名稱

說明與限制

背景資訊

資料集 ID

id 資料集簡介

專案 ID

要部署 BigQuery 資料集和資料表的專案。

設定元件

選用設定參數

以下為選用參數。如要顯示進階參數,請在「Configuration」(設定) 區域中選取「Show advanced fields」(顯示進階欄位)。

功能

子功能

參數名稱

說明和限制資訊

背景資訊

Tables

Table ID

id 資料表簡介

說明

description 資料表簡介

資料表名稱

friendlyName 資料表命名

結構定義

schema 指定結構定義

分群

分群 分群資料表簡介

需要分區篩選器

requirePartitionFilter 設定分區篩選器規定
時間分區

到期時間 (毫秒)

expirationMs 設定分區到期時間

欄位

field 建立時間單位資料欄分區資料表

類型

type 建立時間單位資料欄分區資料表
範圍分區

欄位

field 設定分區篩選器規定

範圍起點

range.start 整數範圍分區

範圍結束

range.end 整數範圍分區

範圍間隔

range.interval 整數範圍分區

到期時間

expirationTime 更新資料表的到期時間

防刪除功能

勾選核取方塊,防止 Terraform 刪除這個資料表。如未選取,系統會使用元件層級的防刪除功能設定。

deletion_protection
標籤

金鑰

labels 為資料表和檢視表新增標籤

值

labels 為資料表和檢視表新增標籤

資料集名稱

friendlyName 命名資料集

說明

description 更新資料集說明

區域

location BigQuery 位置

Delete Contents on Destroy

選取後,系統會在刪除資源時一併刪除資料集內的所有資料表。如未選取,且資料表存在,則無法刪除資源。

delete_contents_on_destroy

防刪除功能

如果選取這個選項,執行 terraform apply 或 terraform destroy 時,若會刪除資料表,則會失敗。如未選取,則可刪除資料表。您可以使用各資料表的防刪除功能設定,覆寫這項設定。

deletion_protection

預設資料表到期時間 MS

defaultTableExpirationMs 更新預設資料表的到期時間

預設分區到期時間 (毫秒)

defaultPartitionExpirationMs 更新預設分區到期時間

時間旅行時數上限

maxTimeTravelHours 更新時間回溯期

儲存空間計費模式

StorageBillingModel 儲存空間計費模式

加密金鑰

kmsKeyName 靜態資料加密
資料集標籤

金鑰

labels 為資料集新增標籤

值

value 為資料集新增標籤
資源標記

金鑰

resourceTags 代碼定義和 ID

值

resourceTags 代碼定義和 ID
瀏覽次數

查看 ID

id 檢視命名

說明

description 檢視表簡介

查詢

query 更新檢視表的 SQL 查詢

使用舊版 SQL

useLegacySql 遷移至 GoogleSQL
標籤

金鑰

labels 為資料表和檢視表新增標籤

值

labels 為資料表和檢視表新增標籤
materialized view

查看 ID

id 檢視命名

說明

description materialized view 簡介

查詢

query materialized view 查詢支援

啟用重新整理

enableRefresh 重新整理 materialized view

重新整理時間間隔 (毫秒)

refreshIntervalMs 設定展示頻率上限

分群

fields[] 將 materialized view 分類
時間分區

到期時間 (毫秒)

expirationMs 設定分區到期時間

欄位

field 建立時間單位資料欄分區資料表

類型

type 建立時間單位資料欄分區資料表

需要分區篩選器

requirePartitionFilter 設定分區篩選器規定
範圍分區

欄位

field 分區 materialized view

範圍起點

range.start 整數範圍分區

範圍結束

range.end 整數範圍分區

範圍間隔

range.interval 整數範圍分區

到期時間

expirationTime 更新檢視表的到期時間

過時程度上限

maxStaleness 使用 materialized view 搭配 max_staleness 選項
標籤

金鑰

labels 為資料表和檢視表新增標籤

值

labels 為資料表和檢視表新增標籤
外部資料表

Table ID

id 外部資料表簡介

說明

外部資料表的說明。 description

自動偵測

autodetect 使用自動偵測旗標

壓縮

compression 載入壓縮和未壓縮的資料

略過不明的值

ignoreUnknownValues 針對外部資料來源建立資料表定義檔

損壞記錄數量上限

maxBadRecords 針對外部資料來源建立資料表定義檔

結構定義

schema 針對外部資料來源建立資料表定義檔

來源格式

sourceFormat 針對外部資料來源建立資料表定義檔

來源 URI

sourceUris 針對外部資料來源建立資料表定義檔
CSV 選項

引述

quote 從 Cloud Storage 載入 CSV 資料

允許不規則資料列

allowJaggedRows 從 Cloud Storage 載入 CSV 資料

允許引用換行符號

allowQuotedNewlines 從 Cloud Storage 載入 CSV 資料

編碼

encoding 編碼

欄位分隔符號

FieldDelimiter 欄位分隔符號

略過標頭列

skipLeadingRows CSV 選項
Google 試算表選項

範圍

range 建立 Google 雲端硬碟外部資料表

略過標頭列

skipLeadingRows 建立 Google 雲端硬碟外部資料表
Hive 分區選項

眾數

mode 偵測模式

來源 URI 前置字串

sourceUriPrefix 使用外部分區資料

到期時間

expirationTime 更新資料表的到期時間

過時程度上限

maxStaleness 管理資料表過時狀態

防刪除功能

勾選核取方塊,防止 Terraform 刪除這個資料表。如未選取,系統會使用元件層級的防刪除功能設定。

deletion_protection
標籤

金鑰

labels 為資料表和檢視表新增標籤

值

labels 為資料表和檢視表新增標籤
處理常式

日常安排 ID

routineId 管理日常安排

日常安排類型

routineType RoutineType

語言

language 語言

Definition Body

definitionBody 查看常式的內文

傳回類型

returnType StandardSqlDataType

說明

日常安排的說明。 description
引數

名稱

引數名稱。 name

資料類型

dataType StandardSqlDataType

引數種類

argumentKind ArgumentKind

眾數

mode 眾數