Mailchimp-Daten in BigQuery laden

Mit dem BigQuery Data Transfer Service-Connector für Mailchimp können Sie Daten aus Mailchimp in BigQuery laden. Mit dem BigQuery Data Transfer Service können Sie wiederkehrende Übertragungsjobs planen, mit denen Ihre neuesten Daten aus Mailchimp in BigQuery eingefügt werden. Der Mailchimp-Connector unterstützt mehrere Konten, darunter sowohl Standard- als auch Express-Mailchimp-Konten.

Beschränkungen

  • Die Mailchimp Marketing API unterstützt maximal 10 gleichzeitige Verbindungen pro Nutzer. Das Überschreiten dieses Limits führt zum Fehler 429: TooManyRequests: You have exceeded the limit of 10 simultaneous connections.
    • Um dieses Ratenlimit zu vermeiden, empfehlen wir, nur eine Datenübertragung pro Mailchimp-Konto auszuführen.
    • Weitere Informationen finden Sie im Fehlerglossar.
  • Der Datentyp Integer in Mailchimp hat einen maximal unterstützten Wert von 2.147.483.647 für alle Objekte.
    • Einige Mailchimp-Felder unterstützen jedoch höhere Werte, z. B. das Feld Quantity in EcommerceOrderLines und EcommerceCartLines.

Einschränkungen für Arrayfelder

Der Mailchimp-Connector unterstützt keine ARRAY-Felder in den folgenden Mailchimp-Objekten:

Mailchimp-Objekt Nicht unterstützte ARRAY-Felder
Campaigns VariateSettings_SubjectLines
VariateSettings_SendTimes
VariateSettings_FromNames
VariateSettings_ReplyToAddresses
VariateSettings_Contents
VariateSettings_Combinations
EcommerceCarts Lines
EcommerceProducts Variants
ListMembers TagsAggregate
ListMergeFields Options_Choices
Lists Modules
AuthorizedApps Users
AutomationEmails Settings_AutoFbPost
CampaignOpenEmailDetails Opens
EcommerceProductImages VariantIds
ListSignupForms Contents, Styles
ReportEmailActivity Activity
Reports Timewarp

Hinweise

In den folgenden Abschnitten werden die Voraussetzungen beschrieben, die Sie erfüllen müssen, bevor Sie eine Mailchimp-Datenübertragung erstellen.

Mailchimp-Voraussetzungen

Damit Daten von Mailchimp in BigQuery übertragen werden können, benötigen Sie einen Mailchimp-API-Schlüssel für die Autorisierung und den Zugriff. Informationen zum Abrufen eines API-Schlüssels finden Sie unter API-Schlüssel generieren.

Voraussetzungen für BigQuery

Erforderliche BigQuery-Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle BigQuery-Administrator (roles/bigquery.admin) für Ihr Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Erstellen einer Datenübertragung für den BigQuery Data Transfer Service benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Erstellen einer BigQuery Data Transfer Service-Datenübertragung erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die notwendigen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind erforderlich, um eine Datenübertragung für den BigQuery Data Transfer Service zu erstellen:

  • Berechtigungen für BigQuery Data Transfer Service:
    • bigquery.transfers.update
    • bigquery.transfers.get
  • BigQuery-Berechtigungen:
    • bigquery.datasets.get
    • bigquery.datasets.getIamPolicy
    • bigquery.datasets.update
    • bigquery.datasets.setIamPolicy
    • bigquery.jobs.create

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Weitere Informationen finden Sie unter Zugriff auf bigquery.admin gewähren.

Wenn Sie Benachrichtigungen zur Übertragungsausführung für Pub/Sub einrichten möchten, benötigen Sie die IAM-Berechtigung pubsub.topics.setIamPolicy. Pub/Sub-Berechtigungen sind nicht erforderlich, wenn Sie nur E-Mail-Benachrichtigungen einrichten. Weitere Informationen finden Sie unter Ausführungsbenachrichtigungen im BigQuery Data Transfer Service.

Mailchimp-Datenübertragung einrichten

Sie können Mailchimp-Daten in BigQuery einfügen, indem Sie eine Übertragungskonfiguration mit einer der folgenden Optionen einrichten:

Console

  1. Rufen Sie in der Google Cloud -Console die Seite „Datenübertragungen“ auf.

    Zu „Datenübertragungen”

  2. Klicken Sie auf Übertragung erstellen.

  3. Wählen Sie im Abschnitt Quelltyp für Quelle die Option Mailchimp – Vorschau aus.

  4. Führen Sie im Abschnitt Details zur Datenquelle folgende Schritte aus:

    • Geben Sie unter API-Schlüssel Ihren Mailchimp-API-Schlüssel ein. Weitere Informationen finden Sie unter Mailchimp-Voraussetzungen.
    • Optional: Geben Sie für Startdatum ein Startdatum für neue Datensätze an, die in die Datenübertragung einbezogen werden sollen. Nur Datensätze, die an oder nach diesem Datum erstellt wurden, werden in die Datenübertragung einbezogen.
      • Geben Sie ein Datum im Format YYYY-MM-DD ein. Der Mindestwert beträgt 2001-01-01.
    • Klicken Sie unter Zu übertragende Mailchimp-Objekte auf Durchsuchen, um alle Objekte auszuwählen, die an das BigQuery-Ziel-Dataset übertragen werden sollen. Sie können in dieses Feld auch manuell alle Objekte eingeben, die in die Datenübertragung einbezogen werden sollen.
  5. Wählen Sie im Abschnitt Zieleinstellungen als Dataset das Dataset aus, das Sie zum Speichern Ihrer Daten erstellt haben.

  6. Geben Sie im Abschnitt Konfigurationsname für Übertragung als Anzeigename einen Namen für die Datenübertragung ein.

  7. Im Abschnitt Zeitplanoptionen:

    • Wählen Sie in der Liste Wiederholungshäufigkeit aus, wie oft diese Datenübertragung ausgeführt werden soll. Wenn Sie eine benutzerdefinierte Wiederholungshäufigkeit angeben möchten, wählen Sie Benutzerdefiniert aus. Wenn Sie On demand auswählen, wird diese Datenübertragung ausgeführt, wenn Sie die Übertragung manuell auslösen.
    • Wählen Sie gegebenenfalls Jetzt starten oder Zu festgelegter Zeit starten aus und geben Sie ein Startdatum und eine Laufzeit an.
  8. Optional: Gehen Sie im Abschnitt Benachrichtigungsoptionen so vor:

    • Klicken Sie zum Aktivieren von E‑Mail-Benachrichtigungen auf die Ein/Aus-Schaltfläche E‑Mail-Benachrichtigung. Wenn Sie diese Option aktivieren, erhält der Übertragungsadministrator eine E‑Mail-Benachrichtigung, falls ein Übertragungsvorgang fehlschlägt.
    • Klicken Sie auf die Ein/Aus-Schaltfläche Pub/Sub-Benachrichtigungen, um Pub/Sub-Ausführungsbenachrichtigungen für diese Übertragung zu aktivieren. Sie können Ihr Thema auswählen oder auf Thema erstellen klicken, um eines zu erstellen.
  9. Klicken Sie auf Speichern.

bq

Geben Sie den Befehl bq mk ein und geben Sie das Flag --transfer_config für die Übertragungserstellung an.

bq mk
    --transfer_config
    --project_id=PROJECT_ID
    --data_source=DATA_SOURCE
    --display_name=NAME
    --target_dataset=DATASET
    --params='PARAMETERS'

Ersetzen Sie Folgendes:

  • PROJECT_ID (optional): Ihre Google Cloud Projekt-ID. Wenn --project_id nicht bereitgestellt wird, um ein bestimmtes Projekt anzugeben, wird das Standardprojekt verwendet.
  • DATA_SOURCE. Die Datenquelle – mailchimp.
  • NAME: Der Anzeigename für die Datenübertragungskonfiguration. Der Übertragungsname kann ein beliebiger Wert sein, mit dem Sie die Übertragung identifizieren können, wenn Sie sie später ändern müssen.
  • DATASET: Das Ziel-Dataset für die Übertragungskonfiguration.
  • PARAMETERS: die Parameter für die erstellte Übertragungskonfiguration im JSON-Format. Beispiel: --params='{"param":"param_value"}'. Im Folgenden finden Sie die Parameter für eine Mailchimp-Datenübertragung:

    • assets: der Pfad zu den Mailchimp-Objekten, die in BigQuery übertragen werden sollen.
    • connector.authentication.apiKey: Der Mailchimp-API-Schlüssel.
    • connector.startDate: (Optional) Ein Startdatum für neue Datensätze, die in die Datenübertragung aufgenommen werden sollen, im Format YYYY-MM-DD. Nur Datensätze, die an oder nach diesem Datum erstellt wurden, sind im Datenübertrag enthalten.

Mit dem folgenden Befehl wird eine Mailchimp-Datenübertragung im Standardprojekt erstellt.

    bq mk
        --transfer_config
        --target_dataset=mydataset
        --data_source=mailchimp
        --display_name='My Transfer'
        --params='{"assets": "Lists",
            "connector.authentication.apiKey":"1234567",
            "connector.startDate":"2025-01-01"}'
Wenn Sie die Übertragungskonfiguration speichern, wird vom Mailchimp-Connector automatisch ein Übertragungsvorgang gemäß Ihrer Planungsoption ausgelöst. Bei jeder Übertragung werden mit dem Mailchimp-Connector alle verfügbaren Daten aus Mailchimp in BigQuery übertragen.

Wenn Sie eine Datenübertragung manuell außerhalb des regulären Zeitplans ausführen möchten, können Sie einen Backfill-Vorgang starten.

Datentypzuordnung

In der folgenden Tabelle werden Mailchimp-Datentypen den entsprechenden BigQuery-Datentypen zugeordnet:

Mailchimp-Datentyp BigQuery-Datentyp Beschreibung
String STRING
Integer INT64
Number BIGNUMERIC Mailchimp-Number-Datenobjekte werden entweder dem Datentyp BIGNUMERIC für finanzbezogene Felder wie Price und OrderTotal oder dem Datentyp FLOAT64 für andere Felder wie Stats_OpenRate und Location_Latitude zugeordnet.
Number FLOAT64
Boolean BOOLEAN
String im Datums-/Uhrzeitformat TIMESTAMP STRING-Datentypen im Datums-/Uhrzeitformat werden im ISO 8601-Format dargestellt. Beispiel: 2019-08-24T14:15:22Z.

Preise

Während sich dieses Feature in der Vorschau befindet, fallen keine Kosten für die Übertragung von Mailchimp-Daten in BigQuery an.

Fehler bei der Übertragungseinrichtung beheben

Bei Problemen mit der Einrichtung von Datenübertragungen finden Sie weitere Informationen unter Mailchimp-Übertragungsprobleme.

Nächste Schritte

  • Eine Übersicht über den BigQuery Data Transfer Service finden Sie unter Was ist BigQuery Data Transfer Service?.
  • Informationen zum Verwenden von Übertragungen, einschließlich des Abrufs von Informationen zu einer Übertragungskonfiguration, des Auflistens von Übertragungskonfigurationen und des Aufrufs des Ausführungsverlaufs der Übertragung finden Sie unter Übertragungen verwalten.