將 HubSpot 資料載入 BigQuery
您可以使用 BigQuery 資料移轉服務的 HubSpot 連接器,將資料從 HubSpot 載入 BigQuery。您可以使用 BigQuery 資料移轉服務,安排週期性移轉工作,將 HubSpot 的最新資料新增至 BigQuery。
限制
HubSpot 連接器需要私人應用程式存取權杖才能進行驗證。
- 您必須擁有 HubSpot 私人應用程式,才能取得私人應用程式存取權杖,然後才能設定 HubSpot 資料移轉。詳情請參閱「HubSpot 先決條件」。
事前準備
以下各節說明建立 HubSpot 資料轉移作業前必須完成的必要條件。
HubSpot 必要條件
您必須建立 HubSpot 私人應用程式,並擷取私人應用程式存取權杖。如要瞭解詳情,請參考下列資源:
私人應用程式也必須具備下列範圍:
crm.lists.readcrm.lists.writecrm.objects.companies.readcrm.objects.companies.writecrm.objects.contacts.readcrm.objects.contacts.writecrm.objects.deals.readcrm.objects.deals.writecrm.objects.owners.readcrm.schemas.deals.readcrm.schemas.deals.writecrm.schemas.companies.readcrm.schemas.companies.writecrm.schemas.contacts.readcrm.schemas.contacts.write
如要瞭解如何為私人應用程式設定範圍,請參閱舊版私人應用程式。
BigQuery 必要條件
- 確認您已完成啟用 BigQuery 資料移轉服務的一切必要動作。
- 請建立 BigQuery 資料集來儲存您的資料。
必要的 BigQuery 角色
如要取得建立 BigQuery 資料移轉服務資料移轉作業所需的權限,請要求管理員授予您專案的 BigQuery 管理員 (roles/bigquery.admin) IAM 角色。如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和組織的存取權」。
這個預先定義的角色具備建立 BigQuery 資料移轉服務資料移轉作業所需的權限。如要查看確切的必要權限,請展開「Required permissions」(必要權限) 部分:
所需權限
如要建立 BigQuery 資料移轉服務資料移轉作業,您必須具備下列權限:
-
BigQuery 資料移轉服務權限:
-
bigquery.transfers.update -
bigquery.transfers.get
-
-
BigQuery 權限:
-
bigquery.datasets.get -
bigquery.datasets.getIamPolicy -
bigquery.datasets.update -
bigquery.datasets.setIamPolicy -
bigquery.jobs.create
-
詳情請參閱「授予 bigquery.admin 存取權」。
如要為 Pub/Sub 設定移轉作業執行通知,請確認您擁有 pubsub.topics.setIamPolicy IAM 權限。如果您只想設定電子郵件通知,則不需要擁有 Pub/Sub 權限。詳情請參閱 BigQuery 資料移轉服務執行通知。
設定 HubSpot 資料移轉
如要將 HubSpot 資料新增至 BigQuery,請使用下列任一方法設定移轉設定:
控制台
前往 Google Cloud 控制台的「資料移轉」頁面。
按一下「建立轉移作業」。
在「來源類型」部分,針對「來源」選擇「HubSpot - 預覽版」。
在「Data source details」(資料來源詳細資料) 部分執行下列操作:
- 在「存取權杖」部分,輸入您的私密存取權杖金鑰。詳情請參閱「HubSpot 先決條件」。
- 在「HubSpot objects to transfer」(要移轉的 HubSpot 物件) 部分點選「Browse」(瀏覽),選取要移轉至 BigQuery 目的地資料集的物件。您也可以在這個欄位手動輸入要移轉資料的物件。
在「Destination settings」(目的地設定) 部分,「Dataset」(資料集) 請選取您為了儲存資料而建立的資料集。
在「Transfer config name」(轉移設定名稱) 部分,「Display name」(顯示名稱) 請輸入資料移轉作業名稱。
在「Schedule options」(排程選項) 專區:
- 在「Repeat frequency」(重複執行頻率) 清單中,選取選項,指定這項資料移轉作業的執行頻率。如要指定自訂重複頻率,請選取「Custom」(自訂)。如果選取「On-demand」(隨選),這項移轉作業會在您手動觸發後執行。
- 視情況選取「Start now」(立即開始) 或「Start at set time」(在所設時間開始執行),並提供開始日期和執行時間。
選用:在「Notification options」(通知選項) 專區,執行下列操作:
- 如要啟用電子郵件通知,請點選「Email notification」(電子郵件通知) 切換按鈕。啟用這個選項之後,若移轉失敗,移轉作業管理員就會收到電子郵件通知。
- 如要針對這項移轉作業啟用 Pub/Sub 移轉作業執行通知,請點選「Pub/Sub notifications」(Pub/Sub 通知) 切換按鈕。您可以選取主題名稱,也可以點選「Create a topic」(建立主題) 來建立主題。
按一下 [儲存]。
bq
輸入 bq mk 指令
並加上移轉建立標記
--transfer_config:
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=NAME --target_dataset=DATASET --params='PARAMETERS'
更改下列內容:
PROJECT_ID(選用):您的 Google Cloud 專案 ID。 如未提供--project_id指定特定專案,系統會使用預設專案。DATA_SOURCE:資料來源 -hubspot。NAME:資料移轉設定的顯示名稱。移轉作業名稱可以是任意值,日後需要修改移轉作業時,能夠據此識別即可。DATASET:移轉設定的目標資料集。PARAMETERS:已建立移轉設定的 JSON 格式參數。例如:--params='{"param":"param_value"}'。以下是 HubSpot 資料移轉的參數:assets:要轉移至 BigQuery 的 HubSpot 物件路徑。connector.accessToken:HubSpot 私人存取權杖金鑰。
下列指令會在預設專案中建立 HubSpot 資料轉移作業。
bq mk \ --transfer_config \ --target_dataset=mydataset \ --data_source=hubspot \ --display_name='My Transfer' \ --params= ' { "assets": ["Contacts", "Deals"], "connector.accessToken": "pat_123456789123"}'
如要在正常時間表以外手動執行資料轉移作業,可以啟動回填作業。
資料類型對應
下表列出 HubSpot 資料類型對應的 BigQuery 資料類型:
| HubSpot 資料類型 | BigQuery 資料類型 |
|---|---|
String |
STRING |
Text |
STRING |
Integer |
INTEGER |
Boolean |
BOOLEAN |
Date |
TIMESTAMP |
Datetime |
TIMESTAMP |
Long |
BIGNUMERIC |
定價
這項功能處於預覽階段時,將 HubSpot 資料移轉至 BigQuery 不會產生費用。
排解轉移設定問題
如果您無法順利設定資料移轉作業,請參閱 HubSpot 移轉問題。
後續步驟
- 如需 BigQuery 資料移轉服務的總覽,請參閱「什麼是 BigQuery 資料移轉服務」。
- 如要瞭解如何使用移轉作業,包括取得移轉設定、列出移轉設定以及查看移轉設定的執行記錄,請參閱「管理移轉作業」一文。
- 瞭解如何透過跨雲端作業載入資料。