Caricare dati PayPal in BigQuery
Puoi caricare i dati da PayPal a BigQuery utilizzando il connettore PayPal con il BigQuery Data Transfer Service. Con il connettore PayPal, puoi pianificare job di trasferimento ricorrenti che aggiungono i dati più recenti da PayPal a BigQuery.
Il connettore PayPal supporta i conti PayPal di produzione e sandbox.
Oggetti supportati
| Tipi di oggetti PayPal | Oggetti supportati da BigQuery | Supporto del filtro per data |
|---|---|---|
| Transazioni | TransactionReports | Supportato |
| TransactionReportsCartInfoItemDetails | Supportato | |
| TransactionReportsIncentiveDetails | Supportato | |
| Controversie | Disputes | Supportato |
| DisputeDetails | Supportato | |
| DisputeTransactions | Supportato | |
| Pagamenti | Payments | Supportato |
| PaymentTransactions | Supportato | |
| Saldo | Balance | Non supportata |
| Prodotti | Products | Non supportata |
| ProductDetails | Non supportata | |
| Fatture | Invoices | Supportato |
Limitazioni
I trasferimenti di dati PayPal sono soggetti alle seguenti limitazioni:
- Potrebbe verificarsi un ritardo di diverse ore prima che le transazioni PayPal diventino disponibili tramite l'API PayPal.
- Ti consigliamo di pianificare i trasferimenti di dati successivi a intervalli più lunghi (non più di uno all'ora) per evitare di perdere dati.
- Il connettore PayPal supporta solo i dati delle transazioni degli ultimi 3 anni.
- Il connettore PayPal supporta solo i dati delle controversie degli ultimi 6 mesi.
- Le API PayPal utilizzano limiti di dimensioni delle pagine diversi per ogni oggetto dati. Il connettore PayPal utilizza le dimensioni massime delle pagine consentite da PayPal in un trasferimento di dati.
- Tuttavia, alcuni oggetti come
PaymentsoPayment Transactionsutilizzano limiti di dimensioni delle pagine più piccoli. Ciò può comportare trasferimenti di dati più lenti, soprattutto quando si ha a che fare con set di dati di grandi dimensioni.
- Tuttavia, alcuni oggetti come
Prima di iniziare
Le sezioni seguenti descrivono i passaggi da eseguire prima di creare un trasferimento di dati PayPal.
Prerequisiti di PayPal
Per abilitare i trasferimenti di dati da PayPal, devi avere:
- Devi avere un conto sviluppatore PayPal. Per saperne di più, consulta Programma per sviluppatori PayPal.
- Crea un'app API REST PayPal. Per saperne di più, consulta Iniziare a utilizzare le API REST PayPal.
- Nella sezione App e credenziali, prendi nota dell'ID client e della chiave secret dell'app.
- Nella sezione Funzionalità, abilita le autorizzazioni API Ricerca transazioni e Fatturazione.
Ruoli BigQuery richiesti
Per ottenere le autorizzazioni necessarie per creare un trasferimento, chiedi all'amministratore di concederti il ruolo IAM Amministratore BigQuery (roles/bigquery.admin).
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito include le autorizzazioni necessarie per creare un trasferimento. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per creare un trasferimento sono necessarie le seguenti autorizzazioni:
-
bigquery.transfers.updatesull'utente -
bigquery.datasets.getsul set di dati di destinazione -
bigquery.datasets.updatesul set di dati di destinazione
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Prerequisiti di BigQuery
- Verifica di aver completato tutte le azioni necessarie per abilitare BigQuery Data Transfer Service.
- Crea un set di dati BigQuery per archiviare i dati.
- Se intendi configurare le notifiche di esecuzione del trasferimento per Pub/Sub, assicurati di disporre dell'autorizzazione Identity and Access Management (IAM)
pubsub.topics.setIamPolicy. Le autorizzazioni Pub/Sub non sono necessarie se configuri solo le notifiche via email. Per saperne di più, consulta Notifiche di esecuzione di BigQuery Data Transfer Service.
Configurare un trasferimento di dati PayPal
Aggiungi i dati PayPal a BigQuery configurando una configurazione di trasferimento utilizzando una delle seguenti opzioni:
Console
Vai alla pagina Trasferimenti di dati nella Google Cloud console.
Fai clic su Crea trasferimento.
Nella sezione Tipo di origine, per Origine, seleziona PayPal.
Nella sezione Dettagli origine dati, segui questi passaggi:
- In ID client, inserisci l'ID client PayPal. Per saperne di più, consulta Prerequisiti di PayPal.
- In Client secret, inserisci la chiave secret del client PayPal. Per saperne di più, consulta Prerequisiti di PayPal.
- Seleziona Is Sandbox se utilizzi un conto PayPal sandbox.
- In Data di inizio, inserisci una data nel formato
YYYY-MM-DD. Il trasferimento di dati carica i dati PayPal a partire da questa data.- Se questo campo viene lasciato vuoto, il trasferimento recupera i dati degli ultimi 3 anni per impostazione predefinita.
- Per informazioni sugli oggetti che supportano il filtro della data di inizio, consulta Oggetti supportati.
- In Oggetti PayPal da trasferire, inserisci i nomi degli oggetti PayPal da trasferire oppure fai clic su Sfoglia e seleziona gli oggetti da trasferire.
Nella sezione Impostazioni destinazione, per Set di dati, seleziona il set di dati che hai creato per archiviare i dati.
Nella sezione Nome configurazione di trasferimento, per Nome visualizzato, inserisci un nome per il trasferimento di dati.
Nella sezione Opzioni di pianificazione, segui questi passaggi:
- Nell'elenco Frequenza di ripetizione, seleziona un'opzione per specificare la frequenza con cui viene eseguito questo trasferimento di dati. Per specificare una frequenza di ripetizione personalizzata, seleziona Personalizzata. Se selezioni On demand, l'esecuzione avviene quando attivi manualmente il trasferimento.
- Se applicabile, seleziona Inizia ora o Inizia all'ora impostata e fornisci una data di inizio e un'ora di esecuzione.
(Facoltativo) Nella sezione Opzioni di notifica, segui questi passaggi:
- Per attivare le notifiche via email, imposta il pulsante di attivazione/disattivazione Notifica email su On. Quando attivi questa opzione, l'amministratore del trasferimento riceve una notifica via email quando l'esecuzione di un trasferimento non riesce.
- Per attivare le notifiche di esecuzione del trasferimento Pub/Sub per questo trasferimento, imposta il pulsante di attivazione/disattivazione Notifiche Pub/Sub su On. Puoi selezionare il nome del tuo argomento oppure fare clic Crea un argomento per crearne uno.
Fai clic su Salva.
bq
Inserisci il bq mk comando
e fornisci il flag di creazione del trasferimento
--transfer_config:
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=DISPLAY_NAME --target_dataset=DATASET --params='PARAMETERS'
Dove:
- PROJECT_ID (facoltativo): l'ID del tuo Google Cloud progetto.
Se non viene fornito
--project_idper specificare un progetto particolare, viene utilizzato il progetto predefinito. - DATA_SOURCE: l'origine dati:
paypal. - DISPLAY_NAME: il nome visualizzato per la configurazione del trasferimento di dati. Il nome del trasferimento può essere qualsiasi valore che ti consenta di identificare il trasferimento se devi modificarlo in un secondo momento.
- DATASET: il set di dati di destinazione per la configurazione del trasferimento.
PARAMETERS: i parametri per la configurazione del trasferimento creata in formato JSON. Ad esempio:
--params='{"param":"param_value"}'. Di seguito sono riportati i parametri per un trasferimento di dati PayPal:assets: un elenco di oggetti PayPal da includere in questo trasferimento.connector.authentication.clientId: l'ID client dell'applicazione PayPal.connector.authentication.clientSecret: il client secret dell'applicazione PayPal.connector.isSandbox: imposta il valore sutruese utilizzi un conto PayPal sandbox o sufalsese utilizzi un conto PayPal di produzione.connector.createdStartDate: (facoltativo) inserisci una data nel formatoYYYY-MM-DD. Il trasferimento di dati carica i dati PayPal a partire da questa data.
Ad esempio, il comando seguente crea un trasferimento di dati PayPal nel progetto predefinito con tutti i parametri obbligatori:
bq mk \ --transfer_config \ --target_dataset=mydataset \ --data_source=PayPal \ --display_name='My Transfer' \ --params='{"assets": ["Payments", "TransactionReports"], "connector.authentication.clientId": "112233445566", "connector.authentication.clientSecret":"123456789", "connector.isSandbox":"false", "connector.createdStartDate": "2025-01-01"}'
Quando crei un trasferimento di dati utilizzando lo strumento a riga di comando bq, la configurazione del trasferimento pianifica i trasferimenti di dati una volta ogni 8 ore.
API
Utilizza il
projects.locations.transferConfigs.create metodo
e fornisci un'istanza della
TransferConfig risorsa.
Per eseguire manualmente un trasferimento di dati al di fuori della pianificazione regolare, puoi avviare un'esecuzione di backfill.
Mappatura dei tipi di dati
La tabella seguente mappa i tipi di dati PayPal ai tipi di dati BigQuery corrispondenti.
| Tipo di dati PayPal | Tipo di dati BigQuery |
|---|---|
String |
STRING |
Decimal |
BIGNUMERIC |
Boolean |
BOOL |
Datetime |
TIMESTAMP |
Risoluzione dei problemi di configurazione del trasferimento
Se riscontri problemi durante la configurazione del trasferimento di dati, consulta Problemi di trasferimento PayPal.
Prezzi
Il trasferimento di dati PayPal in BigQuery non prevede costi durante l'anteprima di questa funzionalità .
Passaggi successivi
- Per una panoramica di BigQuery Data Transfer Service, consulta Introduzione a BigQuery Data Transfer Service.
- Per scoprire come gestire le configurazioni di trasferimento, inclusi come ottenere informazioni, elencare le configurazioni e visualizzare la cronologia delle esecuzioni, consulta Gestire i trasferimenti.
- Scopri come caricare i dati con le operazioni cross-cloud.