Shopify-Daten in BigQuery laden
Mit dem BigQuery Data Transfer Service für den Shopify-Connector können Sie Daten aus Shopify in BigQuery laden. Mit dem BigQuery Data Transfer Service können Sie wiederkehrende Übertragungsjobs planen, mit denen Ihre neuesten Daten aus Shopify in BigQuery übertragen werden.
Der Shopify-Connector unterstützt die Datenübertragung von GraphQL-basierten Ressourcen wie Collections und Orders aus den folgenden Ressourcen:
- Abobasierte Konten
- Partnerkonten
Beschränkungen
Für Shopify-Datenübertragungen gelten die folgenden Beschränkungen:
- Wenn Sie das Objekt
GiftCardsin die Datenübertragung einbeziehen möchten, muss das mit dieser Datenübertragung verknüpfte Konto ein ShopifyPlus-Abo haben. - Wenn Sie die folgenden App-Abo-Datenobjekte in die Datenübertragung einbeziehen möchten,
muss die im Shopify-Shop installierte App eine Vertriebskanal-App sein.
AppSubscriptionLineItemsAppSubscriptionsProductResourceFeedbacks
- Wenn Sie die folgenden Shopify-Datenobjekte einbeziehen möchten, für die eine
Rabattfunktion erforderlich ist, müssen Sie
mit der Shopify CLI
eine Shopify-App erstellen.
DiscountsCodeAppDiscountsCodeBasic
Hinweis
In den folgenden Abschnitten werden die Voraussetzungen beschrieben, die Sie erfüllen müssen, bevor Sie eine Shopify-Datenübertragung erstellen.
Voraussetzungen für Shopify
- Sie benötigen ein Shopify-Konto und einen Shopify-Shop.
- Sie benötigen eine benutzerdefinierte Shopify-App für Ihren Shopify-Shop. Weitere Informationen finden Sie unter Benutzerdefinierte Apps.
- Sie müssen Zugriff auf alle erforderlichen Zugriffsbereiche haben. Eine Liste aller erforderlichen Zugriffsbereiche finden Sie unter Authentifizierte Zugriffsbereiche.
Voraussetzungen für BigQuery
- Überprüfen Sie, ob Sie alle erforderlichen Aktionen ausgeführt haben, damit Sie den BigQuery Data Transfer Service aktivieren können.
- Erstellen Sie ein BigQuery-Dataset zum Speichern Ihrer Daten.
Erforderliche BigQuery-Rollen
Bitten Sie Ihren Administrator, Ihnen die
BigQuery-Administrator (roles/bigquery.admin)
IAM-Rolle für Ihr Projekt zu gewähren, um die Berechtigungen zu erhalten, die
Sie zum Erstellen einer BigQuery Data Transfer Service-Datenübertragung benötigen.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Diese vordefinierte Rolle enthält die Berechtigungen, die zum Erstellen einer BigQuery Data Transfer Service-Datenübertragung erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen , um die notwendigen Berechtigungen anzuzeigen, die erforderlich sind:
Erforderliche Berechtigungen
Die folgenden Berechtigungen sind erforderlich, um eine BigQuery Data Transfer Service-Datenübertragung zu erstellen:
-
Berechtigungen für BigQuery Data Transfer Service:
-
bigquery.transfers.update -
bigquery.transfers.get
-
-
BigQuery-Berechtigungen:
-
bigquery.datasets.get -
bigquery.datasets.getIamPolicy -
bigquery.datasets.update -
bigquery.datasets.setIamPolicy -
bigquery.jobs.create
-
Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.
Weitere Informationen finden Sie unter Zugriff auf bigquery.admin gewähren.
Wenn Sie Benachrichtigungen zur Übertragungsausführung für Pub/Sub einrichten möchten, benötigen Sie die IAM-Berechtigung (Identity and Access Management) pubsub.topics.setIamPolicy. Pub/Sub-Berechtigungen sind nicht erforderlich, wenn Sie nur E-Mail-Benachrichtigungen einrichten. Weitere Informationen finden Sie unter
Ausführungsbenachrichtigungen im BigQuery Data Transfer Service.
Shopify-Datenübertragung einrichten
Wenn Sie Shopify-Daten in BigQuery hinzufügen möchten, richten Sie eine Übertragungskonfiguration mit einer der folgenden Optionen ein:
Console
Rufen Sie in der Google Cloud Console die Seite „Datenübertragungen“ auf.
Klicken Sie auf Übertragung erstellen.
Wählen Sie im Abschnitt Quelltyp für Quelle die Option Shopify aus.
Führen Sie im Abschnitt Details zur Datenquelle folgende Schritte aus:
- Geben Sie unter Shopname den Namen Ihres Shopify-Shops ein.
Wenn Ihre Händlerkonto-ID beispielsweise
storename.myshopify.comlautet, ist Ihr Shopnamestorename. - Geben Sie unter Client-ID und Clientschlüssel die Client-ID und den Clientschlüssel für Ihre Shopify-App ein. Weitere Informationen finden Sie unter Clientschlüssel.
- Klicken Sie unter Zu übertragende Shopify-Objekte auf Durchsuchen:
- Wählen Sie alle Objekte aus, die an das BigQuery-Ziel-Dataset übertragen werden sollen. Sie können in diesem Feld auch manuell Objekte eingeben, die in die Datenübertragung einbezogen werden sollen.
- Geben Sie unter Shopname den Namen Ihres Shopify-Shops ein.
Wenn Ihre Händlerkonto-ID beispielsweise
Wählen Sie im Abschnitt Zieleinstellungen als Dataset das Dataset aus, das Sie zum Speichern Ihrer Daten erstellt haben.
Geben Sie im Abschnitt Konfigurationsname für Übertragung als Anzeigename einen Namen für die Datenübertragung ein.
Im Abschnitt Zeitplanoptionen:
- Wählen Sie in der Liste Wiederholungshäufigkeit aus, wie oft diese Datenübertragung ausgeführt werden soll. Wenn Sie eine benutzerdefinierte Wiederholungshäufigkeit angeben möchten, wählen Sie Benutzerdefiniert aus. Wenn Sie On demand auswählen, wird diese Datenübertragung ausgeführt, wenn Sie die Übertragung manuell auslösen.
- Wählen Sie gegebenenfalls Jetzt starten oder Zu festgelegter Zeit starten aus und geben Sie ein Startdatum und eine Laufzeit an.
Optional: Gehen Sie im Abschnitt Benachrichtigungsoptionen so vor:
- Klicken Sie zum Aktivieren von E‑Mail-Benachrichtigungen auf den Ein/Aus-Button E‑Mail-Benachrichtigung. Wenn Sie diese Option aktivieren, erhält der Übertragungsadministrator eine E‑Mail-Benachrichtigung, falls ein Übertragungsvorgang fehlschlägt.
- Klicken Sie auf den Ein/Aus-Button Pub/Sub-Benachrichtigungen, um Pub/Sub-Benachrichtigungen über die Ausführung von Übertragungen für diese Übertragung zu aktivieren. Sie können Ihr Thema auswählen oder auf Thema erstellen klicken, um eines zu erstellen.
Klicken Sie auf Speichern.
bq
Geben Sie den Befehl bq mk ein und geben Sie das Flag --transfer_config für die Übertragungserstellung an.
bq mk --transfer_config --project_id=PROJECT_ID --data_source=DATA_SOURCE --display_name=NAME --target_dataset=DATASET --params='PARAMETERS'
Wobei:
- PROJECT_ID (optional): Ihre Google Cloud Projekt-ID.
Wenn
--project_idnicht bereitgestellt wird, um ein bestimmtes Projekt anzugeben, wird das Standardprojekt verwendet. - DATA_SOURCE. Die Datenquelle –
shopify. - NAME: Der Anzeigename für die Datenübertragungs konfiguration. Der Übertragungsname kann ein beliebiger Wert sein, mit dem Sie die Übertragung identifizieren können, wenn Sie sie später ändern müssen.
- DATASET: Das Ziel-Dataset für die Übertragungskonfiguration.
PARAMETERS: die Parameter für die erstellte Übertragungskonfiguration im JSON-Format. Beispiel:
--params='{"param":"param_value"}'. Im Folgenden finden Sie die Parameter für eine Shopify-Datenübertragung:assets: der Pfad zu den Shopify-Objekten, die in BigQuery übertragen werden sollen.connector.shopName: der Name Ihres Shopify-Shops. Wenn Ihre Händlerkonto-ID beispielsweisestorename.myshopify.comlautet, ist Ihr Shopnamestorename.connector.authentication.accessToken: das Zugriffstoken der Shopify Admin API.
Mit dem folgenden Befehl wird eine inkrementelle Shopify-Datenübertragung im Standardprojekt erstellt.
bq mk --transfer_config --target_dataset=mydataset --data_source=shopify --display_name='My Transfer' --params='{"assets": ["Orders"] "connector.shopName": "storename", "connector.authentication.accessToken":"sk_test_123456789"}'
Wenn Sie eine Datenübertragung außerhalb des regulären Zeitplans manuell ausführen möchten, können Sie einen Backfill-Vorgang starten.
Unterstützte Tabellen
Der Shopify-Connector unterstützt die folgenden Datenobjekte:
AppFeedbacksAppSubscriptionLineItems(erfordert eine Vertriebskanal-App)AppSubscriptions(erfordert eine Vertriebskanal-App)CatalogsCollectionsCompaniesCompanyContactRoleAssignmentsCompanyContactsCompanyLocationsCustomersDeliveryProfilesDiscountsAutomaticApp(erfordert eine Rabattfunktion)DiscountsAutomaticBasic(erfordert eine Rabattfunktion)DiscountsAutomaticBxgyDiscountsCodeAppDiscountsCodeBasicDiscountsCodeBxgyDraftOrdersFilesFulfillmentEventsFulfillmentOrdersFulfillmentsFulfillmentServicesFulfillmentTrackingInfoGiftCards(erfordert ein ShopifyPlus-Abo)InventoryItemsLocationsMetafieldObjekte, wiemetafield_productodermetafield_order.OrderRiskAssessmentsOrdersOrderTransactionsPriceListsProductMediaImagesProductOptionsProductOptionValuesProductResourceFeedbacks(erfordert eine Vertriebskanal-App)ProductsProductVariantsPublicationsRefundsReturnsScriptTagsSegmentsSellingPlanGroupsStorefrontAccessTokensUrlRedirects
Datentypzuordnung
In der folgenden Tabelle werden Shopify-Datentypen den entsprechenden BigQuery-Datentypen zugeordnet:
| Shopify-Datentyp | BigQuery-Datentyp |
|---|---|
String |
STRING |
Int |
INT64 |
Decimal |
NUMERIC |
Double |
FLOAT64 |
Long |
BIGNUMERIC |
Bool |
BOOL |
Datetime |
TIMESTAMP |
Preise
Während sich dieses Feature in der Vorschaubefindet, fallen keine Kosten für die Übertragung von Shopify-Daten in BigQuery an.
Fehler bei der Übertragungseinrichtung beheben
Bei Problemen beim Einrichten von Datenübertragungen finden Sie weitere Informationen unter Probleme mit Shopify-Übertragungen.
Nächste Schritte
- Eine Übersicht über den BigQuery Data Transfer Service finden Sie unter Was ist der BigQuery Data Transfer Service?.
- Informationen zum Verwenden von Übertragungen, einschließlich des Abrufs von Informationen zu einer Übertragungskonfiguration, des Auflistens von Übertragungskonfigurationen und des Aufrufs des Ausführungsverlaufs der Übertragung finden Sie unter Übertragungen verwalten.