建立資訊主頁、圖表及快訊

本文說明如何使用 Cloud Monitoring 建立圖表和警告,以便監控 BigQuery 資源。

事前準備

使用 Cloud Monitoring 前,請確認您具備下列項目:

  • Cloud Billing 帳戶。
  • 啟用計費功能的 BigQuery 專案。

查看及建立資訊主頁、圖表和警告

查看 Cloud Monitoring 資訊主頁

如要使用 Cloud Monitoring 監控 BigQuery 專案,請按照下列步驟操作:

  1. 前往 Google Cloud 控制台的「Monitoring」頁面。

    前往「Monioring」

  2. 如果尚未在頁面頂端選取專案名稱,請立即選取。

  3. 如要查看 BigQuery 資源,請依序選取「Dashboards」(資訊主頁) >「BigQuery」。這個頁面會列出使用者可設定的資料表、事件和事件報告,以及專案指標或資料集指標的圖表。

    BigQuery 資訊主頁。

以視覺化方式呈現可用運算單元和已分配運算單元

如要以圖表呈現專案可用的運算單元和分配到的運算單元,請前往 BigQuery 資訊主頁,詳情請參閱「查看 Cloud Monitoring 資訊主頁」:

  1. 前往 Google Cloud 控制台的「Monitoring」頁面。

    前往「Monioring」

  2. 依序選取「資訊主頁」>「BigQuery」。

  3. 在 BigQuery 的 Cloud Monitoring 資訊主頁,捲動至「Slot Utilization」(運算單元使用率) 圖表。

「Slot Utilization」(運算單元使用率) 圖表會顯示在 Cloud Monitoring 預設主資訊主頁和 BigQuery 的 Cloud Monitoring 資訊主頁。

建立資訊主頁與圖表

在圖表和資訊主頁顯示 Cloud Monitoring 收集的指標:

  1. 前往 Google Cloud 控制台的「Monitoring」頁面。

    前往「Monioring」

  2. 選取 [Dashboards] (資訊主頁) > [Create Dashboard] (建立資訊主頁)。

  3. 按一下 [Add Chart] (新增圖表)。畫面會出現「Add Chart」(新增圖表) 頁面:

    「Add Chart」(新增圖表) 頁面。

  4. 在「Find resource type and metric」(尋找資源類型和指標) 面板的欄位中:

    • 在「Resource type」(資源類型) 下拉式選單中,選取「Global」(全域)。您可能需要展開「Resource types」(資源類型) 清單,才能看到「Global」(全域) 選項。
    • 在「Metric」(指標) 下拉式選單中,選取「Query execution time」(查詢執行時間)。
  5. 「Aggregation」(匯總) 窗格欄位可控管執行時間資料的顯示方式。您可以調整這些欄位的預設設定。

  6. 按一下 [儲存]。

查看配額用量和限制

在 Cloud Monitoring 中,您可以查看配額用量和限制的指標:

  1. 前往 Google Cloud 控制台的「Monitoring」頁面。

    前往「Monioring」

  2. 在導覽窗格中,選取「 Metrics Explorer」。

  3. 在工具列中,依序選取「Explorer」 > 「Configuration」。

  4. 在「Resource & Metric」(資源與指標) 部分,按一下「Select a metric」(選取指標)。

  5. 依序選取「Consumer Quota」>「Quota」>「Quota limit」,然後點選「套用」。

  6. 按一下「 新增篩選器」,然後在「標籤」選單中選取「limit_name」。

  7. 在「Value」(值) 選單中,選取要查看指標的配額。

    Metrics Explorer。

建立警告

如要建立警告政策,在 BigQuery 查詢執行時間的第 99 個百分位數超過使用者定義的限制時觸發,請使用下列設定。

新條件
欄位

值
資源和指標 在「資源」選單中,選取「BigQuery 專案」。
在「Metric categories」(指標類別) 選單中,選取「Query」(查詢)。
在「Metrics」(指標) 選單中,選取「Query execution times」(查詢執行時間)。
篩選器
跨時間序列
時間序列分組依據
priority
跨時間序列
時間序列匯總
99th percentile
滾動週期 5 m
滾動週期函式 sum
設定快訊觸發條件
欄位

值
條件類型 Threshold
警告觸發條件 Any time series violates
門檻位置 Above threshold
門檻值 這個值由您決定,但建議設為 60 秒。
重新測試週期 most recent value

如要建立警告政策,在 BigQuery 專案計費的掃描位元組總數超過使用者定義的限制時觸發,請使用下列警告政策設定。

新條件
欄位

價值
資源和指標 在「資源」選單中,選取「BigQuery 專案」。
在「Metric categories」(指標類別) 選單中,選取「Query」(查詢)。
在「Metrics」(指標) 選單中,選取「Statement scanned bytes billed」(計費的陳述式掃描位元組數)。
篩選器 (專案層級警告不需篩選器)
跨時間序列
時間序列分組依據
(留空即可匯總所有系列)
跨時間序列
時間序列匯總
sum
滾動週期 5 m
滾動週期函式 sum
設定快訊觸發條件
欄位

值
條件類型 Threshold
警告觸發條件 Any time series violates
門檻位置 Above threshold
門檻值 這個值由您決定。舉例來說,如要在用量超過 1 TiB 時觸發警告,請輸入 1000000000000。

警告政策會監控掃描的位元組總數,您可以根據特定預算設定門檻。如要根據預算設定警告政策,您必須先將所需的費用門檻轉換為等量的位元組數。這項公式是以 BigQuery 隨選運算定價為依據。詳情請參閱「隨選運算定價」。

您可以使用下列公式,將費用門檻轉換為位元組:

Threshold in Bytes = (Target Amount / (price per TiB)) * 1,000,000,000,000

範例:用量超過 $100 美元時觸發快訊

假設您希望在專案的查詢費用超過 $100 美元時收到快訊。

  1. 計算等值的 TiB 資料量:
    $100 / (price per TiB) = Equivalent Data Volume in TiB
  2. 將資料量轉換為位元組:
    (Equivalent Data Volume in TiB) * 1,000,000,000,000 = Threshold Value in Bytes
  3. 設定門檻值:
    在政策的「設定警告觸發條件」部分,輸入「門檻值 (以位元組為單位)」做為「門檻值」。

現在,當滾動週期內計費的掃描位元組總數,相當於約 $100 美元的隨選查詢費用時,警告政策就會觸發。

可供視覺化的指標

下列指標可供視覺化,但延遲時間可能長達數小時。

資源類型 名稱 單位 說明
BigQuery
Scanned bytes
每分鐘位元組數 掃描的位元組數。
BigQuery
Scanned bytes billed
每分鐘位元組數 使用隨選分析模型時,傳送的計費位元組數。掃描的位元組數和計費的掃描位元組數可能不同,因為費用會無條件進位,且每項查詢處理的資料量有最低限制。
BigQuery
BI Engine Query Fallback Count (Preview)
查詢 未使用 BI Engine 的查詢數量 (以比率表示)。您可以將「分組依據」選項設為 reason,依據不同的備用原因區分計數,包括:
  • NO_RESERVATION
  • INSUFFICIENT_RESERVATION
  • UNSUPPORTED_SQL_TEXT
  • INPUT_TOO_LARGE
  • OTHER_REASON
BigQuery
Query count
查詢 進行中的查詢。
BigQuery
Query execution count (Preview)
查詢 執行的查詢數量。
BigQuery
Query execution times
- 5th percentile
- 50th percentile
- 95th percentile
- 99th percentile
秒 非快取查詢執行時間。
BigQuery
Slots used by project
運算單元 專案中分配給查詢工作的 BigQuery 運算單元數量。

系統會依照帳單帳戶分配運算單元,且可讓多個專案共用相同的運算單元保留量。

BigQuery
Slots used by project and job type
運算單元 在任何時間分配給專案的運算單元數,並按照工作類型來區別。這也可以視為該專案正在使用的運算單元數。載入和擷取工作是免費作業,會在公開資源集區中執行。

系統會依照帳單帳戶分配運算單元,且可讓多個專案共用相同的運算單元保留量。

BigQuery
Slots used by project, reservation, and job type
運算單元 為專案分配的 BigQuery 運算單元數量。運算單元分配情形可依預留項目和工作類型細分。
BigQuery
Total slots
運算單元 專案可用的運算單元總數。

如果某個專案與其他專案共用運算單元保留量,系統就不會顯示其他專案正在使用的運算單元。

BigQuery
Slots used across projects in reservations
運算單元 預留項目中,分配給各專案的 BigQuery 運算單元數量。請注意,只有在至少有一項專案已指派給預留項目,且正在使用運算單元時,系統才會回報指標資料。建議您改為從 INFORMATION_SCHEMA 查詢預留項目資訊。如要查看使用預留項目的所有專案,其運算單元用量指標,您必須明確將這些使用專案新增至您查看資訊主頁的專案指標範圍。
BigQuery
Slots used by project in reservation
運算單元 預留項目中為專案分配的 BigQuery 運算單元數量。如要查看所有使用預留項目的專案運算單元用量指標,您必須明確將這些使用專案新增至您查看資訊主頁的專案指標範圍。
BigQuery 持續工作
Estimated backlog logical bytes
位元組數 連續工作各階段的待處理位元組數。
BigQuery 持續工作
Estimated backlog records
記錄 連續工作各階段的預估待處理記錄數。
BigQuery 持續工作
Estimated bytes processed
位元組數 連續工作各階段預估處理的位元組數。
BigQuery 持續工作
Output watermark
時間戳記 最新時間戳記 (以微秒為單位,從 Epoch 開始計算),表示連續工作的這個階段已處理完所有資料。
BigQuery 持續工作
Records read
記錄 連續工作各階段讀取的輸入記錄數量。
BigQuery 持續工作
Records written
記錄 連續工作各階段寫入的輸出記錄數量。
BigQuery 持續工作
Slots used
運算單元時間 (毫秒) 連續工作使用的運算單元毫秒總數。
BigQuery 資料集
Stored bytes
位元組數 儲存在資料集內的位元組數;系統會針對資料集內最大的前 100 個資料表,(按名稱) 顯示儲存在每個資料表中的位元組數。資料集中的所有其他資料表 (除了前 100 大資料表以外) 則會以單一總和報告,且摘要中的資料表名稱為空白字串。
BigQuery 資料集
Table count
Tables 資料集中的資料表數量。
BigQuery 資料集
Uploaded bytes
每分鐘位元組數 上傳至資料集中任何資料表的位元組數。
BigQuery 資料集 已上傳的資料列 每分鐘資料列數 上傳至資料集中任何資料表的記錄數量。

如需可用 Google Cloud 指標的完整清單,請參閱「Google Cloud 指標」。

已知問題

  • 如果沒有執行任何查詢,系統就不會傳回已分配運算單元、可用運算單元或任何查詢相關變數的資料。請縮小以查看資料。

  • 如果同時在美國與歐盟執行查詢,則分配的運算單元和可用的運算單元可能會有錯誤。

  • 系統會以特定時間範圍的平均值回報分配的運算單元 (時間範圍的長度視圖表的縮放等級而定)。放大和縮小可能會變更分配的運算單元值。放大以檢視最多 1 小時的時間範圍內的資料,即可讓系統顯示已分配運算單元數的真實數值。採用這個時間範圍時,圖表上任何可見的時間都會是 avg(slots allocated) = slots allocated。

  • Cloud Monitoring 圖表中的資料僅與所選專案有關。

  • 指標是即時值,在某個時間點取樣,可能會遺漏取樣間隔之間的資料點。舉例來說,工作數量指標每分鐘取樣一次。這個值代表特定時間點的工作數量,而非整分鐘內的工作數量上限。