Mit Salesforce Data Cloud-Daten in BigQuery arbeiten

Data Cloud-Nutzer können nativ in BigQuery auf ihre Data Cloud-Daten zugreifen. Sie können Data Cloud-Daten mit BigQuery Omni analysieren und cloudübergreifende Analysen mit den Daten in Google Clouddurchführen. In diesem Dokument finden Sie eine Anleitung zum Zugriff auf Ihre Data Cloud-Daten und zu verschiedenen Analyseaufgaben, die Sie mit diesen Daten in BigQuery ausführen können.

Data Cloud funktioniert mit BigQuery gemäß der folgenden Architektur:

Data Cloud-Architektur.

Hinweise

Bevor Sie mit Data Cloud-Daten arbeiten, müssen Sie Data Cloud-Nutzer sein. Wenn Sie VPC Service Controls für Ihr Projekt aktiviert haben, benötigen Sie zusätzliche Berechtigungen.

Erforderliche Rollen

Die folgenden Rollen und Berechtigungen sind erforderlich:

  • Analytics Hub Subscriber (roles/analyticshub.subscriber)
  • BigQuery Administrator (roles/bigquery.admin)

Daten aus Data Cloud teilen

In dieser Dokumentation wird gezeigt, wie Sie Daten aus Data Cloud für BigQuery freigeben: BYOL-Datenfreigaben – Zero-ETL-Integration mit BigQuery.

Wenn Sie in BigQuery auf ein Data Cloud-Dataset zugreifen möchten, müssen Sie es zuerst mit den folgenden Schritten mit BigQuery verknüpfen:

  1. Rufen Sie in der Google Cloud Console die Seite "BigQuery" auf.

    BigQuery aufrufen

  2. Klicken Sie auf Salesforce Data Cloud.

    Data Cloud-Datasets werden angezeigt. Sie können das Dataset anhand des Namens mit dem folgenden Namensmuster finden:

    listing_DATA_SHARE_NAME_TARGET_NAME
    
    Ersetzen Sie Folgendes:

    • DATA_SHARE_NAME: der Name der Datenfreigabe in Data Cloud.
    • TARGET_NAME: der Name des BigQuery-Ziels in Data Cloud.
  3. Klicken Sie auf das Dataset, das Sie BigQuery hinzufügen möchten.

  4. Klicken Sie auf Dataset zum Projekt hinzufügen.

  5. Geben Sie den Namen des verknüpften Datasets an.

Nachdem das verknüpfte Dataset erstellt wurde, können Sie es und die darin enthaltenen Tabellen untersuchen. Alle Metadaten der Tabellen werden dynamisch aus Data Cloud abgerufen. Alle Objekte im Dataset sind Ansichten, die den Data Cloud-Objekten zugeordnet sind. BigQuery unterstützt drei Arten von Data Cloud-Objekten:

  • Data Lake-Objekte (DLO)
  • Data Model-Objekte (DMO)
  • Berechnete Insights-Objekte (CIO)

Alle diese Objekte werden in BigQuery als Ansichten dargestellt. Diese Ansichten verweisen auf verborgene Tabellen, die in Amazon S3 gespeichert sind.

Mit Data Cloud-Daten arbeiten

In den folgenden Beispielen wird ein Dataset namens Northwest Trail Outfitters (NTO) verwendet, das in Data Cloud gehostet wird. Dieses Dataset besteht aus drei Tabellen, die die Online-Verkaufsdaten der NTO-Organisation darstellen:

  • linked_nto_john.nto_customers__dll
  • linked_nto_john.nto_products__dll
  • linked_nto_john.nto_orders__dll

Das andere in diesen Beispielen verwendete Dataset enthält Offline-POS-Daten. Es umfasst die Offline-Verkäufe und besteht aus drei Tabellen:

  • nto_pos.customers
  • nto_pos.products
  • nto_pos.orders

In den folgenden Datasets sind zusätzliche Objekte gespeichert:

  • aws_data
  • us_data

Ad-hoc-Abfragen ausführen

Mit BigQuery Omni können Sie Ad-hoc-Abfragen ausführen, um die Data Cloud-Daten über das abonnierte Dataset zu analysieren. Das folgende Beispiel zeigt eine einfache Abfrage, mit der die Tabelle „customers“ aus Data Cloud abgefragt wird.

SELECT name__c, age__c
  FROM `listing_nto_john.nto_customers__dll`
  WHERE age > 40
  LIMIT 1000;

Cloudübergreifende Abfragen ausführen

Mit cloudübergreifenden Abfragen können Sie beliebige Tabellen in der BigQuery Omni-Region und Tabellen in den BigQuery-Regionen verknüpfen. Weitere Informationen zu cloudübergreifenden Abfragen finden Sie in diesem Blog post. In diesem Beispiel rufen wir den Gesamtumsatz für einen Kunden namens john ab.

-- Get combined sales for a customer from both offline and online sales
USING (
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
  UNION ALL
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
) a SELECT SUM(total_price);

Cloudübergreifende Datenübertragung über CTAS

Sie können Create Table As Select (CTAS) verwenden, um Daten aus Data Cloud-Tabellen in der BigQuery Omni-Region in die Region US zu verschieben.

-- Move all the orders for March to the US region
CREATE OR REPLACE TABLE us_data.online_orders_march
  AS SELECT * FROM listing_nto_john.nto_orders__dll
    WHERE EXTRACT(MONTH FROM order_time) = 3

Die Zieltabelle ist eine verwaltete BigQuery-Tabelle in der Region US. Diese Tabelle kann mit anderen Tabellen verknüpft werden. Für diesen Vorgang fallen AWS-Kosten für ausgehenden Traffic an, die von der Menge der übertragenen Daten abhängen.

Nachdem die Daten verschoben wurden, müssen Sie keine Gebühren für ausgehenden Traffic mehr für Abfragen zahlen, die in der Tabelle online_orders_march ausgeführt werden.

Cloudübergreifende materialisierte Ansichten

Mit cloudübergreifenden materialisierten Ansichten (CCMV) werden Daten inkrementell von einer BigQuery Omni-Region in eine BigQuery-Region übertragen, die keine BigQuery Omni-Region ist. Richten Sie eine neue CCMV ein, die eine Zusammenfassung des Gesamtumsatzes aus Online-Transaktionen überträgt und diese Daten in die Region US repliziert.

Sie können über Ads Data Hub auf CCMVs zugreifen und sie mit anderen Ads Data Hub-Daten verknüpfen. CCMVs funktionieren größtenteils wie normale verwaltete BigQuery-Tabellen.

Lokale materialisierte Ansicht erstellen

So erstellen Sie eine lokale materialisierte Ansicht:

-- Create a local materialized view that keeps track of total sales by day

CREATE MATERIALIZED VIEW `aws_data.total_sales`
  OPTIONS (enable_refresh = true, refresh_interval_minutes = 60)
  AS SELECT EXTRACT(DAY FROM order_time) AS date, SUM(order_total) as sales
    FROM `listing_nto_john.nto_orders__dll`
    GROUP BY 1;

Materialisierte Ansicht autorisieren

Sie müssen materialisierte Ansichten autorisieren, um eine CCMV zu erstellen. Sie können entweder die Ansicht (aws_data.total_sales) oder das Dataset (aws_data) autorisieren. So autorisieren Sie die materialisierte Ansicht:

  1. Rufen Sie in der Google Cloud Console die Seite "BigQuery" auf.

    BigQuery aufrufen

  2. Öffnen Sie das Quelldataset listing_nto_john.

  3. Klicken Sie auf Freigabe und dann auf Datasets autorisieren.

  4. Geben Sie den Namen des Datasets ein (in diesem Fall listing_nto_john) und klicken Sie auf OK.

Materialisierte Replikatansicht erstellen

Erstellen Sie in der Region US eine neue materialisierte Replikatansicht. Die materialisierte Ansicht wird regelmäßig repliziert, wenn sich die Quelldaten ändern, damit das Replikat auf dem neuesten Stand ist.

-- Create a replica MV in the us region.
CREATE MATERIALIZED VIEW `us_data.total_sales_replica`
  AS REPLICA OF `aws_data.total_sales`;

Abfrage für eine materialisierte Ansicht eines Replikats ausführen

Im folgenden Beispiel wird eine Abfrage für eine materialisierte Ansicht eines Replikats ausgeführt:

-- Find total sales for the current month for the dashboard

SELECT EXTRACT(MONTH FROM CURRENT_DATE()) as month, SUM(sales)
  FROM us_data.total_sales_replica
  WHERE month = EXTRACT(MONTH FROM date)
  GROUP BY 1

Data Cloud-Daten mit INFORMATION_SCHEMA verwenden

Data Cloud-Datasets unterstützen INFORMATION_SCHEMA-Ansichten von BigQuery. Die Daten in den INFORMATION_SCHEMA-Ansichten werden regelmäßig aus Data Cloud synchronisiert und sind möglicherweise veraltet. In der Spalte SYNC_STATUS in den Ansichten TABLES und SCHEMATA werden die letzte abgeschlossene Synchronisierungszeit, alle Fehler, die verhindern, dass BigQuery aktuelle Daten bereitstellt, sowie alle Schritte, die zur Behebung des Fehlers erforderlich sind, angezeigt.

INFORMATION_SCHEMA -Abfragen spiegeln keine Datasets wider, die erst kürzlich vor der ersten Synchronisierung erstellt wurden.

Data Cloud-Datasets unterliegen den gleichen Einschränkungen wie andere verknüpfte Datasets, z. B. sind sie nur in INFORMATION_SCHEMA in Dataset-bezogenen Abfragen zugänglich.

Nächste Schritte