將 PayPal 資料載入 BigQuery
您可以使用 PayPal 連接器搭配 BigQuery 資料移轉服務,將 PayPal 資料載入 BigQuery。透過 PayPal 連接器,您可以安排週期性移轉工作,將 PayPal 的最新資料新增至 BigQuery。
PayPal 連接器支援正式環境和沙箱 PayPal 帳戶。
支援的物件
PayPal 物件類型 | BigQuery 支援的物件 | 支援日期篩選器 |
---|---|---|
交易 | TransactionReports | 支援 |
TransactionReportsCartInfoItemDetails | 支援 | |
TransactionReportsIncentiveDetails | 支援 | |
爭議 | 爭議 | 支援 |
DisputeDetails | 支援 | |
DisputeTransactions | 支援 | |
付款 | 付款 | 支援 |
PaymentTransactions | 支援 | |
餘額 | 餘額 | 不支援 |
產品 | 產品 | 不支援 |
ProductDetails | 不支援 | |
應付憑據 | 應付憑據 | 支援 |
限制
PayPal 資料轉移作業有以下限制:
- 透過 PayPal API 存取 PayPal 交易時,可能會延遲數小時。
- 建議您排定後續資料轉移作業時,間隔時間拉長 (每小時最多一次),以免遺失資料。
- PayPal 連接器僅支援過去 3 年的交易資料。
- PayPal 連接器僅支援過去 6 個月的爭議資料。
- PayPal API 對每個資料物件都有不同的頁面大小限制。在資料轉移作業中,PayPal 連接器會使用 PayPal 允許的最大網頁大小。
- 不過,
Payments
或Payment Transactions
等部分物件會使用較小的網頁大小限制。這可能會導致資料傳輸速度變慢,尤其是在處理大型資料集時。
- 不過,
事前準備
下列各節說明建立 PayPal 資料轉移作業前必須執行的步驟。
PayPal 先決條件
如要啟用從 PayPal 轉移資料的功能,必須符合下列條件:
- 你必須擁有 PayPal 開發人員帳戶。詳情請參閱 PayPal 開發人員計畫。
- 建立 PayPal REST API 應用程式。詳情請參閱「開始使用 PayPal REST API」。
- 在「應用程式和憑證」部分,記下應用程式的用戶端 ID 和密鑰。
- 在「功能」專區中,啟用「交易搜尋」和「月結單」API 權限。
須具備的 BigQuery 角色
如要取得建立移轉作業所需的權限,請要求管理員授予您 BigQuery 管理員 (roles/bigquery.admin
) 身分與存取權管理角色。如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和機構的存取權」。
這個預先定義的角色具備建立轉移作業所需的權限。如要查看確切的必要權限,請展開「必要權限」部分:
所需權限
如要建立移轉作業,必須具備下列權限:
-
bigquery.transfers.update
使用者 -
bigquery.datasets.get
目標資料集 -
bigquery.datasets.update
目標資料集
BigQuery 必要條件
- 確認您已完成啟用 BigQuery 資料移轉服務的一切必要動作。
- 請建立 BigQuery 資料集來儲存您的資料。
- 如要為 Pub/Sub 設定移轉作業執行通知,請確認您擁有
pubsub.topics.setIamPolicy
身分與存取權管理 (IAM) 權限。如果您只想設定電子郵件通知,則不需要擁有 Pub/Sub 權限。詳情請參閱 BigQuery 資料移轉服務執行通知一文。
設定 PayPal 資料移轉
如要將 PayPal 資料新增至 BigQuery,請使用下列任一方法設定移轉設定:
主控台
前往 Google Cloud 控制台的「資料移轉」頁面。
按一下
「建立轉移作業」。在「Source type」(來源類型) 部分,「Source」(來源) 請選取「PayPal」。
在「Data source details」(資料來源詳細資料) 部分執行下列操作:
- 在「Client Id」(用戶端 ID) 輸入 PayPal 用戶端 ID。詳情請參閱「PayPal 先決條件」。
- 在「Client Secret」(用戶端密鑰) 部分,輸入 PayPal 用戶端密鑰。詳情請參閱「PayPal 先決條件」。
- 如果您使用沙箱 PayPal 帳戶,請選取「Is Sandbox」。
- 在「開始日期」中,以
YYYY-MM-DD
格式輸入日期。資料轉移作業會從這個日期開始載入 PayPal 資料。- 如果將這個欄位留空,這項轉移作業預設會擷取過去 3 年的資料。
- 如要瞭解哪些物件支援開始日期篩選器,請參閱「支援的物件」。
- 在「PayPal objects to transfer」(要移轉的 PayPal 物件),輸入要移轉的 PayPal 物件名稱,或是點選「Browse」(瀏覽) 並選取要移轉的物件。
在「Destination settings」(目的地設定) 部分,「Dataset」(資料集) 請選取您為了儲存資料而建立的資料集。
在「Transfer config name」(轉移設定名稱) 部分,「Display name」(顯示名稱) 請輸入資料移轉作業的名稱。
在「Schedule options」(排程選項) 部分執行下列操作:
- 在「Repeat frequency」(重複頻率) 清單選取選項,指定這項資料移轉作業的執行頻率。如要指定自訂重複頻率,請選取「Custom」(自訂)。如果選取「On-demand」(隨選),這項移轉作業會在您手動觸發後執行。
- 視情況選取「Start now」(立即開始) 或「Start at set time」(在所設時間開始執行),並提供開始日期和執行時間。
選用:在「Notification options」(通知選項) 專區,執行下列操作:
- 如要啟用電子郵件通知,請將「Email notification」(電子郵件通知) 切換按鈕設為開啟。當您啟用此選項時,移轉管理員會在移轉作業失敗時收到電子郵件通知。
- 如要針對這項移轉作業啟用 Pub/Sub 移轉作業執行通知,請將「Pub/Sub notifications」(Pub/Sub 通知) 切換按鈕設為開啟。您可以選取主題名稱,也可以點選「Create a topic」(建立主題) 來建立主題。
按一下 [儲存]。
bq
輸入 bq mk
指令
並加上移轉建立作業旗標
--transfer_config
:
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=DISPLAY_NAME --target_dataset=DATASET --params='PARAMETERS'
其中:
- PROJECT_ID (選用):您的 Google Cloud 專案 ID。
如未提供
--project_id
指定特定專案,系統會使用預設專案。 - DATA_SOURCE:資料來源 -
paypal
。 - DISPLAY_NAME:資料移轉設定的顯示名稱。移轉作業名稱可以是任意值,日後需要修改移轉作業時,能夠據此識別即可。
- DATASET:移轉設定的目標資料集。
PARAMETERS:已建立移轉設定的 JSON 格式參數。例如:
--params='{"param":"param_value"}'
。以下是 PayPal 資料移轉的參數:assets
:要納入這項轉移作業的 PayPal 物件清單。connector.authentication.clientId
:PayPal 應用程式的用戶端 ID。connector.authentication.clientSecret
:PayPal 應用程式的用戶端密鑰。connector.isSandbox
:如果您使用沙箱 PayPal 帳戶,請將值設為true
;如果您使用正式版 PayPal 帳戶,請將值設為false
。connector.createdStartDate
:(選填) 輸入日期,格式為YYYY-MM-DD
。資料轉移作業會從這個日期開始載入 PayPal 資料。
舉例來說,下列指令會在預設專案中建立 PayPal 資料轉移作業,並提供所有必要參數:
bq mk \ --transfer_config \ --target_dataset=mydataset \ --data_source=PayPal \ --display_name='My Transfer' \ --params='{"assets": ["Payments", "TransactionReports"], "connector.authentication.clientId": "112233445566", "connector.authentication.clientSecret":"123456789", "connector.isSandbox":"false", "connector.createdStartDate": "2025-01-01"}'
使用 bq 指令列工具建立資料移轉作業時,移轉設定會排定每 8 小時移轉一次資料。
API
請使用 projects.locations.transferConfigs.create
方法,並提供 TransferConfig
資源的執行個體。
如要在正常時間表以外手動執行資料轉移作業,可以啟動回填作業。
資料類型對應
下表列出 PayPal 資料類型與對應 BigQuery 資料類型的對應關係。
PayPal 資料類型 | BigQuery 資料類型 |
---|---|
String |
STRING |
Decimal |
BIGNUMERIC |
Boolean |
BOOL |
Datetime |
TIMESTAMP |
排解轉移設定問題
如果您無法順利設定資料移轉作業,請參閱「PayPal 移轉問題」。
定價
這項功能處於預覽階段時,將 PayPal 資料移轉至 BigQuery 不會產生費用。
後續步驟
- 如需 BigQuery 資料移轉服務的總覽,請參閱 BigQuery 資料移轉服務簡介一文。
- 如要瞭解如何管理移轉設定,包括取得資訊、列出設定及查看執行記錄,請參閱「管理移轉作業」。
- 瞭解如何透過跨雲端作業載入資料。