Utilizzare i dati di Salesforce Data 360 in BigQuery

Questo documento descrive come accedere ai dati di Salesforce Data 360 e analizzarli in BigQuery utilizzando BigQuery Omni. Il documento mostra come collegare i set di dati Data 360 in BigQuery per eseguire query, unire i dati con le tabelle in Google Cloude replicare i dati utilizzando le viste materializzate di BigQuery Omni.

Questo documento è destinato agli utenti di Data 360 che vogliono utilizzare BigQuery per analisi approfondite dei dati di Data 360 o combinarli con i dati in Google Cloud per l'analisi cross-cloud, il tutto senza creare e gestire pipeline di estrazione, trasformazione e caricamento (ETL).

Prima di iniziare

Prima di utilizzare i dati di Data 360, devi essere un utente di Data 360. Se nel progetto sono attivi i Controlli di servizio VPC, avrai bisogno di autorizzazioni aggiuntive.

Ruoli obbligatori

Sono richiesti i seguenti ruoli e autorizzazioni:

  • Analytics Hub Subscriber (roles/analyticshub.subscriber)
  • Amministratore BigQuery (roles/bigquery.admin)

Condividere i dati da Data 360

Questa documentazione mostra come condividere i dati da Data 360 a BigQuery - condivisioni di dati BYOL - integrazione Zero-ETL con BigQuery.

Per accedere a un set di dati Data 360 in BigQuery, devi prima collegare il set di dati a BigQuery seguendo questi passaggi:

  1. Nella Google Cloud console, vai alla pagina BigQuery.

    Vai a BigQuery

  2. Fai clic su Salesforce Data Cloud.

    Vengono visualizzati i set di dati Data 360. Puoi trovare il set di dati per nome utilizzando il seguente pattern di denominazione: 

    listing_DATA_SHARE_NAME_TARGET_NAME
    Sostituisci quanto segue:

    • DATA_SHARE_NAME: il nome della condivisione dei dati in Data 360.
    • TARGET_NAME: il nome della destinazione BigQuery in Data 360.

  3. Fai clic sul set di dati che vuoi aggiungere a BigQuery.

  4. Fai clic su Aggiungi set di dati al progetto.

  5. Specifica il nome del set di dati collegato.

Una volta creato il set di dati collegato, puoi esplorarlo e le tabelle al suo interno. Tutti i metadati delle tabelle vengono recuperati dinamicamente da Data 360. Tutti gli oggetti all'interno del set di dati sono visualizzazioni che eseguono il mapping agli oggetti Data 360. BigQuery supporta tre tipi di oggetti Data 360:

  • Oggetti Data Lake (DLO)
  • Oggetti del modello di dati (DMO)
  • Oggetti di insight calcolati (CIO)

Tutti questi oggetti sono rappresentati come visualizzazioni in BigQuery. Queste visualizzazioni rimandano a tabelle nascoste archiviate in Amazon S3.

Utilizzare i dati di Data 360

Gli esempi seguenti utilizzano un set di dati denominato Northwest Trail Outfitters (NTO) ospitato in Data 360. Questo set di dati è costituito da tre tabelle che rappresentano i dati di vendita online dell'organizzazione NTO:

  • linked_nto_john.nto_customers__dll
  • linked_nto_john.nto_products__dll
  • linked_nto_john.nto_orders__dll

L'altro set di dati utilizzato in questi esempi è costituito dai dati offline dei point of sale. Questi dati riguardano le vendite offline e sono costituiti da tre tabelle:

  • nto_pos.customers
  • nto_pos.products
  • nto_pos.orders

I seguenti set di dati archiviano oggetti aggiuntivi:

  • aws_data
  • us_data

Eseguire query ad hoc

Utilizzando BigQuery Omni, puoi eseguire query ad hoc per analizzare i dati di Data 360 tramite il set di dati a cui hai eseguito la sottoscrizione. L'esempio seguente mostra una query semplice che esegue una query sulla tabella dei clienti di Data 360.

SELECT name__c, age__c
  FROM `listing_nto_john.nto_customers__dll`
  WHERE age > 40
  LIMIT 1000;

Eseguire query BigQuery Omni

Le query BigQuery Omni ti consentono di unire una qualsiasi delle tabelle nella regione BigQuery Omni e le tabelle nelle regioni BigQuery. Per saperne di più sulle query BigQuery Omni, consulta questo post del blog. In questo esempio, recuperiamo le vendite totali per un cliente di nome john.

-- Get combined sales for a customer from both offline and online sales
USING (
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
  UNION ALL
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
) a SELECT SUM(total_price);

Trasferimento di dati BigQuery Omni tramite CTAS

Puoi utilizzare Create Table As Select (CTAS) per spostare i dati dalle tabelle Data 360 nella regione BigQuery Omni alla regione US.

-- Move all the orders for March to the US region
CREATE OR REPLACE TABLE us_data.online_orders_march
  AS SELECT * FROM listing_nto_john.nto_orders__dll
    WHERE EXTRACT(MONTH FROM order_time) = 3

La tabella di destinazione è una tabella gestita BigQuery nella regione US. Questa tabella può essere unita ad altre tabelle. Questa operazione comporta costi di uscita AWS in base alla quantità di dati trasferiti.

Una volta spostati i dati, non dovrai più pagare le tariffe di uscita per le query eseguite nella tabella online_orders_march.

Viste materializzate BigQuery Omni

Le viste materializzate BigQuery Omni (CCMV) trasferiscono i dati da una regione BigQuery Omni a una regione BigQuery non BigQuery Omni in modo incrementale. Configura una nuova CCMV che trasferisca un riepilogo delle vendite totali dalle transazioni online e replichi questi dati nella regione US.

Puoi accedere alle CCMV da Ads Data Hub e unirle ad altri dati di Ads Data Hub. Le CCMV si comportano come le normali tabelle gestite BigQuery per la maggior parte.

Creare una vista materializzata locale

Per creare una vista materializzata locale:

-- Create a local materialized view that keeps track of total sales by day

CREATE MATERIALIZED VIEW `aws_data.total_sales`
  OPTIONS (enable_refresh = true, refresh_interval_minutes = 60)
  AS SELECT EXTRACT(DAY FROM order_time) AS date, SUM(order_total) as sales
    FROM `listing_nto_john.nto_orders__dll`
    GROUP BY 1;

Autorizzare la vista materializzata

Devi autorizzare le viste materializzate per creare una CCMV. Puoi autorizzare la visualizzazione (aws_data.total_sales) o il set di dati (aws_data). Per autorizzare la vista materializzata:

  1. Nella Google Cloud console, vai alla pagina BigQuery.

    Vai a BigQuery

  2. Apri il set di dati di origine listing_nto_john.

  3. Fai clic su Condivisione e poi su Autorizza set di dati.

  4. Inserisci il nome del set di dati (in questo caso listing_nto_john) e fai clic su Ok.

Creare una vista materializzata della replica

Crea una nuova vista materializzata della replica nella regione US. La vista materializzata viene replicata periodicamente ogni volta che si verifica una modifica dei dati di origine per mantenere aggiornata la replica.

-- Create a replica MV in the us region.
CREATE MATERIALIZED VIEW `us_data.total_sales_replica`
  AS REPLICA OF `aws_data.total_sales`;

Eseguire una query su una vista materializzata della replica

L'esempio seguente esegue una query su una vista materializzata della replica:

-- Find total sales for the current month for the dashboard

SELECT EXTRACT(MONTH FROM CURRENT_DATE()) as month, SUM(sales)
  FROM us_data.total_sales_replica
  WHERE month = EXTRACT(MONTH FROM date)
  GROUP BY 1

Utilizzare i dati di Data 360 con INFORMATION_SCHEMA

I set di dati Data 360 supportano le visualizzazioni INFORMATION_SCHEMA di BigQuery. I dati nelle visualizzazioni INFORMATION_SCHEMA vengono sincronizzati regolarmente da Data 360 e potrebbero essere inattivi. La colonna SYNC_STATUS nelle visualizzazioni TABLES e SCHEMATA mostra l'ultima ora di sincronizzazione completata, eventuali errori che impediscono a BigQuery di fornire dati aggiornati e tutti i passaggi necessari per correggere l'errore.

Le query INFORMATION_SCHEMA non riflettono i set di dati creati di recente prima della sincronizzazione iniziale.

I set di dati Data 360 sono soggetti alle stesse limitazioni degli altri set di dati collegati, ad esempio sono accessibili solo in INFORMATION_SCHEMA nelle query con ambito del set di dati.

Passaggi successivi