Mit Salesforce Data Cloud-Daten in BigQuery arbeiten

In diesem Dokument wird beschrieben, wie Sie mit BigQuery Omni in BigQuery auf Salesforce Data Cloud-Daten zugreifen und diese analysieren. In diesem Dokument wird beschrieben, wie Sie Ihre Data Cloud-Datasets in BigQuery verknüpfen, um Abfragen auszuführen, Daten mit Tabellen in Google Cloudzusammenzuführen und Daten mit materialisierten Ansichten von BigQuery Omni zu replizieren.

Dieses Dokument richtet sich an Data Cloud-Nutzer, die BigQuery für detaillierte Analysen ihrer Data Cloud-Daten verwenden oder sie mit Daten in Google Cloud für cloudübergreifende Analysen kombinieren möchten – und das alles ohne Erstellung und Wartung von ETL-Pipelines (Extract, Transform, Load).

Hinweis

Bevor Sie mit Data Cloud-Daten arbeiten können, müssen Sie Data Cloud-Nutzer sein. Wenn Sie VPC Service Controls für Ihr Projekt aktiviert haben, benötigen Sie zusätzliche Berechtigungen.

Erforderliche Rollen

Die folgenden Rollen und Berechtigungen sind erforderlich:

  • Analytics Hub Subscriber (roles/analyticshub.subscriber)
  • BigQuery Administrator (roles/bigquery.admin)

Daten aus Data Cloud teilen

In dieser Dokumentation wird beschrieben, wie Sie Daten aus Data Cloud für BigQuery freigeben: BYOL Data Shares – Zero-ETL-Integration mit BigQuery.

Wenn Sie in BigQuery auf ein Data Cloud-Dataset zugreifen möchten, müssen Sie es zuerst mit BigQuery verknüpfen. Gehen Sie dazu so vor:

  1. Rufen Sie in der Google Cloud Console die Seite "BigQuery" auf.

    BigQuery aufrufen

  2. Klicken Sie auf Salesforce Data Cloud.

    Data Cloud-Datasets werden angezeigt. Sie können das Dataset anhand des Namens mit dem folgenden Namensmuster finden: 

    listing_DATA_SHARE_NAME_TARGET_NAME
    Ersetzen Sie Folgendes:

    • DATA_SHARE_NAME: Der Name der Datenfreigabe in der Data Cloud.
    • TARGET_NAME: Der Name des BigQuery-Ziels in Data Cloud.

  3. Klicken Sie auf das Dataset, das Sie BigQuery hinzufügen möchten.

  4. Klicken Sie auf Dataset in Projekt aufnehmen.

  5. Geben Sie den Namen des verknüpften Datasets an.

Nachdem das verknüpfte Dataset erstellt wurde, können Sie es und die darin enthaltenen Tabellen untersuchen. Alle Metadaten der Tabellen werden dynamisch aus Data Cloud abgerufen. Alle Objekte im Datensatz sind Ansichten, die den Data Cloud-Objekten zugeordnet sind. BigQuery unterstützt drei Arten von Data Cloud-Objekten:

  • Data Lake-Objekte (DLOs)
  • Data Model Objects (DMO)
  • Berechnete Analyseobjekte (Calculated Insights Objects, CIO)

Alle diese Objekte werden als Ansichten in BigQuery dargestellt. Diese Ansichten verweisen auf verborgene Tabellen, die in Amazon S3 gespeichert sind.

Mit Data Cloud-Daten arbeiten

In den folgenden Beispielen wird ein Dataset namens „Northwest Trail Outfitters (NTO)“ verwendet, das in Data Cloud gehostet wird. Dieses Dataset besteht aus drei Tabellen, die die Onlineverkaufsdaten der NTO-Organisation darstellen:

  • linked_nto_john.nto_customers__dll
  • linked_nto_john.nto_products__dll
  • linked_nto_john.nto_orders__dll

Das andere in diesen Beispielen verwendete Dataset enthält Offline-POS-Daten. Diese Daten umfassen die Offlineverkäufe und bestehen aus drei Tabellen:

  • nto_pos.customers
  • nto_pos.products
  • nto_pos.orders

In den folgenden Datasets werden zusätzliche Objekte gespeichert:

  • aws_data
  • us_data

Ad-hoc-Abfragen ausführen

Mit BigQuery Omni können Sie Ad-hoc-Abfragen ausführen, um die Data Cloud-Daten über das abonnierte Dataset zu analysieren. Das folgende Beispiel zeigt eine einfache Abfrage, mit der die Tabelle „customers“ aus Data Cloud abgefragt wird.

SELECT name__c, age__c
  FROM `listing_nto_john.nto_customers__dll`
  WHERE age > 40
  LIMIT 1000;

BigQuery Omni-Abfragen ausführen

Mit BigQuery Omni-Abfragen können Sie alle Tabellen in der BigQuery Omni-Region und Tabellen in den BigQuery-Regionen verknüpfen. Weitere Informationen zu BigQuery Omni-Abfragen finden Sie in diesem Blogbeitrag. In diesem Beispiel rufen wir den Gesamtumsatz für einen Kunden namens john ab.

-- Get combined sales for a customer from both offline and online sales
USING (
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
  UNION ALL
  SELECT total_price FROM `listing_nto_john.nto_orders__dll`
       WHERE customer_name = 'john'
) a SELECT SUM(total_price);

BigQuery Omni-Datenübertragung über CTAS

Sie können Create Table As Select (CTAS) verwenden, um Daten aus Data Cloud-Tabellen in der BigQuery Omni-Region in die Region US zu verschieben.

-- Move all the orders for March to the US region
CREATE OR REPLACE TABLE us_data.online_orders_march
  AS SELECT * FROM listing_nto_john.nto_orders__dll
    WHERE EXTRACT(MONTH FROM order_time) = 3

Die Zieltabelle ist eine verwaltete BigQuery-Tabelle in der Region US. Diese Tabelle kann mit anderen Tabellen verknüpft werden. Für diesen Vorgang fallen AWS-Kosten für ausgehenden Traffic an, die davon abhängen, wie viele Daten übertragen werden.

Sobald die Daten verschoben wurden, müssen Sie für Abfragen, die in der Tabelle online_orders_march ausgeführt werden, keine Gebühren für ausgehenden Traffic mehr bezahlen.

Materialisierte Ansichten in BigQuery Omni

Mit BigQuery Omni-materialisierten Ansichten (CCMV) werden Daten inkrementell aus einer BigQuery Omni-Region in eine BigQuery-Region übertragen, die nicht BigQuery Omni ist. Richten Sie ein neues CCMV ein, mit dem eine Zusammenfassung der Gesamtumsätze aus Onlinetransaktionen übertragen und in der Region US repliziert wird.

Sie können auf CCMVs in Ads Data Hub zugreifen und sie mit anderen Ads Data Hub-Daten zusammenführen. CCMVs verhalten sich größtenteils wie normale verwaltete BigQuery-Tabellen.

Lokale materialisierte Ansicht erstellen

So erstellen Sie eine lokale materialisierte Ansicht:

-- Create a local materialized view that keeps track of total sales by day

CREATE MATERIALIZED VIEW `aws_data.total_sales`
  OPTIONS (enable_refresh = true, refresh_interval_minutes = 60)
  AS SELECT EXTRACT(DAY FROM order_time) AS date, SUM(order_total) as sales
    FROM `listing_nto_john.nto_orders__dll`
    GROUP BY 1;

Materialisierte Ansicht autorisieren

Sie müssen materialisierte Ansichten autorisieren, um eine CCMV zu erstellen. Sie können entweder die Ansicht (aws_data.total_sales) oder das Dataset (aws_data) autorisieren. So autorisieren Sie die materialisierte Ansicht:

  1. Rufen Sie in der Google Cloud Console die Seite "BigQuery" auf.

    BigQuery aufrufen

  2. Öffnen Sie das Quelldataset listing_nto_john.

  3. Klicken Sie auf Freigabe und dann auf Datasets autorisieren.

  4. Geben Sie den Dataset-Namen ein (in diesem Fall listing_nto_john) und klicken Sie auf Ok.

Materialisierte Replikatansicht erstellen

Erstellen Sie eine neue materialisierte Replikatansicht in der Region US. Die materialisierte Ansicht wird regelmäßig repliziert, wenn sich die Quelldaten ändern, damit das Replikat auf dem neuesten Stand bleibt.

-- Create a replica MV in the us region.
CREATE MATERIALIZED VIEW `us_data.total_sales_replica`
  AS REPLICA OF `aws_data.total_sales`;

Abfrage für eine materialisierte Ansicht eines Replikats ausführen

Im folgenden Beispiel wird eine Abfrage für eine materialisierte Ansicht eines Replikats ausgeführt:

-- Find total sales for the current month for the dashboard

SELECT EXTRACT(MONTH FROM CURRENT_DATE()) as month, SUM(sales)
  FROM us_data.total_sales_replica
  WHERE month = EXTRACT(MONTH FROM date)
  GROUP BY 1

Data Cloud-Daten mit INFORMATION_SCHEMA verwenden

Data Cloud-Datasets unterstützen BigQuery-INFORMATION_SCHEMA-Ansichten. Die Daten in den INFORMATION_SCHEMA-Ansichten werden regelmäßig aus Data Cloud synchronisiert und sind möglicherweise veraltet. In der Spalte SYNC_STATUS in den Ansichten TABLES und SCHEMATA werden die letzte abgeschlossene Synchronisierungszeit, alle Fehler, die verhindern, dass BigQuery aktuelle Daten bereitstellt, sowie alle Schritte, die zur Behebung des Fehlers erforderlich sind, angezeigt.

Bei INFORMATION_SCHEMA-Abfragen werden keine Datasets berücksichtigt, die kurz vor der ersten Synchronisierung erstellt wurden.

Data Cloud-Datasets unterliegen den gleichen Einschränkungen wie andere verknüpfte Datasets, z. B. sind sie nur in INFORMATION_SCHEMA in Dataset-bezogenen Abfragen zugänglich.

Nächste Schritte