Caricare i dati di PayPal in BigQuery
Puoi caricare i dati da PayPal a BigQuery utilizzando il connettore PayPal con BigQuery Data Transfer Service. Con il connettore PayPal, puoi pianificare job di trasferimento ricorrenti che aggiungono i tuoi dati più recenti da PayPal a BigQuery.
Il connettore PayPal supporta i conti PayPal di produzione e sandbox.
Oggetti supportati
Tipi di oggetti PayPal | Oggetti supportati da BigQuery | Supporto del filtro per data |
---|---|---|
Transazioni | TransactionReports | Supportato |
TransactionReportsCartInfoItemDetails | Supportato | |
TransactionReportsIncentiveDetails | Supportato | |
Contestazioni | Contestazioni | Supportato |
DisputeDetails | Supportato | |
DisputeTransactions | Supportato | |
Pagamenti | Pagamenti | Supportato |
PaymentTransactions | Supportato | |
Saldo | Saldo | Non supportata |
Prodotti | Prodotti | Non supportata |
ProductDetails | Non supportata | |
Fatture | Fatture | Supportato |
Limitazioni
I trasferimenti di dati PayPal sono soggetti alle seguenti limitazioni:
- Potrebbe esserci un ritardo di diverse ore prima che le transazioni PayPal
diventino disponibili tramite l'API PayPal.
- Ti consigliamo di pianificare i trasferimenti di dati successivi a intervalli più lunghi (non più di uno all'ora) per evitare di perdere dati.
- Il connettore PayPal supporta solo i dati sulle transazioni degli ultimi tre anni.
- Il connettore PayPal supporta solo i dati sulle contestazioni degli ultimi 6 mesi.
- Le API PayPal utilizzano limiti di dimensioni delle pagine diversi per ogni oggetto dati. Il connettore
PayPal utilizza le dimensioni massime della pagina consentite da
PayPal in un trasferimento di dati.
- Tuttavia, alcuni oggetti come
Payments
oPayment Transactions
utilizzano limiti di dimensioni della pagina più piccoli. Ciò può comportare trasferimenti di dati più lenti, soprattutto quando si ha a che fare con set di dati di grandi dimensioni.
- Tuttavia, alcuni oggetti come
Prima di iniziare
Le sezioni seguenti descrivono i passaggi da seguire prima di creare un trasferimento di dati PayPal.
Prerequisiti di PayPal
Per attivare i trasferimenti di dati da PayPal, devi disporre di quanto segue:
- Devi disporre di un account sviluppatore PayPal. Per ulteriori informazioni, consulta il programma per sviluppatori PayPal.
- Crea un'app API REST PayPal. Per maggiori informazioni, vedi Inizia a utilizzare le API REST PayPal.
- Nella sezione App e credenziali, prendi nota dell'ID client e della chiave segreta per l'app.
- Nella sezione Funzionalità, abilita le autorizzazioni API Ricerca transazioni e Fatturazione.
Ruoli BigQuery richiesti
Per ottenere le autorizzazioni
necessarie per creare un trasferimento,
chiedi all'amministratore di concederti il
ruolo IAM BigQuery Admin (roles/bigquery.admin
).
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito contiene le autorizzazioni necessarie per creare un trasferimento. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per creare un trasferimento sono necessarie le seguenti autorizzazioni:
-
bigquery.transfers.update
sull'utente -
bigquery.datasets.get
sul set di dati di destinazione -
bigquery.datasets.update
sul set di dati di destinazione
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Prerequisiti di BigQuery
- Verifica di aver completato tutte le azioni necessarie per attivare BigQuery Data Transfer Service.
- Crea un set di dati BigQuery per archiviare i dati.
- Se intendi configurare le notifiche di esecuzione del trasferimento per Pub/Sub,
assicurati di disporre dell'autorizzazione Identity and Access Management (IAM)
pubsub.topics.setIamPolicy
. Le autorizzazioni Pub/Sub non sono necessarie se configuri solo le notifiche email. Per saperne di più, consulta Notifiche di esecuzione di BigQuery Data Transfer Service.
Configurare un trasferimento di dati PayPal
Aggiungi i dati di PayPal a BigQuery configurando una configurazione del trasferimento utilizzando una delle seguenti opzioni:
Console
Vai alla pagina Trasferimenti di dati nella console Google Cloud .
Fai clic su
Crea trasferimento.Nella sezione Tipo di origine, per Origine, seleziona PayPal.
Nella sezione Dettagli origine dati, segui questi passaggi:
- Per ID client, inserisci l'ID client PayPal. Per maggiori informazioni, consulta la sezione Prerequisiti di PayPal.
- Per Client secret, inserisci la chiave client secret di PayPal. Per maggiori informazioni, consulta la sezione Prerequisiti di PayPal.
- Seleziona Is Sandbox se utilizzi un account PayPal sandbox.
- Per Data di inizio, inserisci una data nel formato
YYYY-MM-DD
. Il trasferimento dei dati carica i dati di PayPal a partire da questa data.- Se questo campo viene lasciato vuoto, il trasferimento recupera i dati degli ultimi tre anni.
- Per informazioni sugli oggetti che supportano il filtro della data di inizio, consulta Oggetti supportati.
- Per Oggetti PayPal da trasferire, inserisci i nomi degli oggetti PayPal da trasferire oppure fai clic su Sfoglia e seleziona gli oggetti da trasferire.
Nella sezione Impostazioni destinazione, per Set di dati, seleziona il set di dati che hai creato per archiviare i dati.
Nella sezione Nome configurazione di trasferimento, per Nome visualizzato, inserisci un nome per il trasferimento di dati.
Nella sezione Opzioni di pianificazione, segui questi passaggi:
- Nell'elenco Frequenza di ripetizione, seleziona un'opzione per specificare la frequenza con cui viene eseguito questo trasferimento di dati. Per specificare una frequenza di ripetizione personalizzata, seleziona Personalizzata. Se selezioni On demand, questo trasferimento viene eseguito quando attivi manualmente il trasferimento.
- Se applicabile, seleziona Inizia ora o Inizia all'ora impostata e fornisci una data di inizio e un'ora di esecuzione.
(Facoltativo) Nella sezione Opzioni di notifica, segui questi passaggi:
- Per attivare le notifiche via email, sposta il pulsante di attivazione/disattivazione Notifica email sulla posizione di attivazione. Quando attivi questa opzione, l'amministratore del trasferimento riceve una notifica via email quando l'esecuzione di un trasferimento non riesce.
- Per attivare le notifiche di esecuzione del trasferimento Pub/Sub per questo trasferimento, attiva l'opzione Notifiche Pub/Sub. Puoi selezionare il nome del tuo argomento oppure fare clic su Crea un argomento per crearne uno.
Fai clic su Salva.
bq
Inserisci il comando bq mk
e fornisci il flag di creazione del trasferimento --transfer_config
:
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=DISPLAY_NAME --target_dataset=DATASET --params='PARAMETERS'
Dove:
- PROJECT_ID (facoltativo): il tuo ID progetto Google Cloud .
Se non viene fornito
--project_id
per specificare un progetto particolare, viene utilizzato il progetto predefinito. - DATA_SOURCE: l'origine dati
paypal
. - DISPLAY_NAME: il nome visualizzato per la configurazione del trasferimento dei dati. Il nome del trasferimento può essere qualsiasi valore che ti consenta di identificare il trasferimento se devi modificarlo in un secondo momento.
- DATASET: il set di dati di destinazione per la configurazione del trasferimento.
PARAMETERS: i parametri per la configurazione del trasferimento creata in formato JSON. Ad esempio:
--params='{"param":"param_value"}'
. Di seguito sono riportati i parametri per un trasferimento di dati PayPal:assets
: un elenco di oggetti PayPal da includere in questo trasferimento.connector.authentication.clientId
: ID client dell'applicazione PayPal.connector.authentication.clientSecret
: il client secret dell'applicazione PayPal.connector.isSandbox
: imposta il valore sutrue
se utilizzi un account PayPal sandbox o sufalse
se utilizzi un account PayPal di produzione.connector.createdStartDate
: (facoltativo) inserisci una data nel formatoYYYY-MM-DD
. Il trasferimento dei dati carica i dati di PayPal a partire da questa data.
Ad esempio, il seguente comando crea un trasferimento di dati PayPal nel progetto predefinito con tutti i parametri richiesti:
bq mk \ --transfer_config \ --target_dataset=mydataset \ --data_source=PayPal \ --display_name='My Transfer' \ --params='{"assets": ["Payments", "TransactionReports"], "connector.authentication.clientId": "112233445566", "connector.authentication.clientSecret":"123456789", "connector.isSandbox":"false", "connector.createdStartDate": "2025-01-01"}'
Quando crei un trasferimento di dati utilizzando lo strumento a riga di comando bq, la configurazione del trasferimento pianifica i trasferimenti di dati una volta ogni 8 ore.
API
Utilizza il
metodo projects.locations.transferConfigs.create
e fornisci un'istanza della
risorsa TransferConfig
.
Per eseguire manualmente un trasferimento di dati al di fuori della pianificazione regolare, puoi avviare un'esecuzione di backfill.
Mappatura dei tipi di dati
La seguente tabella mappa i tipi di dati di PayPal ai tipi di dati BigQuery corrispondenti.
Tipo di dati PayPal | Tipo di dati BigQuery |
---|---|
String |
STRING |
Decimal |
BIGNUMERIC |
Boolean |
BOOL |
Datetime |
TIMESTAMP |
Risolvere i problemi di configurazione del trasferimento
Se riscontri problemi durante la configurazione del trasferimento dei dati, consulta Problemi di trasferimento PayPal.
Prezzi
Il trasferimento dei dati di PayPal in BigQuery non prevede costi durante l'anteprima di questa funzionalità.
Passaggi successivi
- Per una panoramica di BigQuery Data Transfer Service, consulta Introduzione a BigQuery Data Transfer Service.
- Per informazioni sulla gestione delle configurazioni di trasferimento, tra cui come ottenere informazioni, elencare le configurazioni e visualizzare la cronologia delle esecuzioni, consulta Gestire i trasferimenti.
- Scopri come caricare i dati con operazioni cross-cloud.