Shopify データを BigQuery に読み込む

Shopify から BigQuery にデータを読み込むには、BigQuery Data Transfer Service for Shopify コネクタを使用します。BigQuery Data Transfer Service を使用すると、Shopify から BigQuery に最新のデータを追加する定期的な転送ジョブのスケジュールを設定できます。

Shopify コネクタは、次のリソースから Collections や Orders などの GraphQL ベースのリソースのデータ転送をサポートしています。

  • サブスクリプション ベースのアカウント
  • パートナー アカウント

制限事項

Shopify のデータ転送には、次の制限があります。

  • GiftCards オブジェクトをデータ転送に含めるには、このデータ転送に関連付けられているアカウントに ShopifyPlus サブスクリプションが必要です。
  • 次のアプリ サブスクリプション データ オブジェクトをデータ転送に含めるには、Shopify ストアにインストールされているアプリが販売チャネル アプリである必要があります。
    • AppSubscriptionLineItems
    • AppSubscriptions
    • ProductResourceFeedbacks
  • 割引関数を必要とする次の Shopify データ オブジェクトを含めるには、Shopify CLI を使用して Shopify アプリを作成する必要があります。
    • DiscountsCodeApp
    • DiscountsCodeBasic

始める前に

以降のセクションでは、Shopify のデータ転送を作成する前に必要な前提条件について説明します。

Shopify の前提条件

  • Shopify アカウントと Shopify ストアが必要です。
  • Shopify ストア用のカスタム Shopify アプリが必要です。詳細については、カスタムアプリをご覧ください。
  • 必要なすべてのアクセス スコープにアクセスできる必要があります。必要なアクセス スコープの一覧については、認証済みアクセス スコープをご覧ください。

BigQuery の前提条件

必要な BigQuery のロール

BigQuery Data Transfer Service データ転送の作成に必要な権限を取得するには、プロジェクトに対する BigQuery 管理者（roles/bigquery.admin）IAM ロールを付与するよう管理者に依頼します。ロールの付与については、プロジェクト、フォルダ、組織へのアクセス権の管理をご覧ください。

この事前定義ロールには、BigQuery Data Transfer Service のデータ転送の作成に必要な権限が含まれています。必要とされる正確な権限については、「必要な権限」セクションを開いてご確認ください。

必要な権限

BigQuery Data Transfer Service のデータ転送を作成するには、次の権限が必要です。

  • BigQuery Data Transfer Service の権限
    • bigquery.transfers.update
    • bigquery.transfers.get
  • BigQuery の権限
    • bigquery.datasets.get
    • bigquery.datasets.getIamPolicy
    • bigquery.datasets.update
    • bigquery.datasets.setIamPolicy
    • bigquery.jobs.create

カスタムロールや他の事前定義ロールを使用して、これらの権限を取得することもできます。

詳細については、bigquery.admin へのアクセス権を付与するをご覧ください。

Pub/Sub の転送実行通知を設定する場合は、Identity and Access Management（IAM）権限の pubsub.topics.setIamPolicy が付与されていることを確認します。メール通知のみを設定する場合は、Pub/Sub の権限は必要ありません。詳細については、BigQuery Data Transfer Service の実行通知をご覧ください。

Shopify のデータ転送を設定する

次のいずれかのオプションを使用して転送構成を設定し、Shopify データを BigQuery に追加します。

コンソール

  1. Google Cloud コンソールの [データ転送] ページに移動します。

    [データ転送] に移動

  2. [転送を作成] をクリックします。

  3. [ソースタイプ] セクションの [ソース] で、[Shopify] を選択します。

  4. [データソースの詳細] セクションで、次のようにします。

    • [ショップ名] に、Shopify ショップの名前を入力します。たとえば、販売者アカウント ID が storename.myshopify.com の場合、ショップ名は storename になります。
    • [クライアント ID] と [クライアント シークレット] に、Shopify アプリのクライアント ID とシークレットを入力します。詳細については、クライアント シークレットについてをご覧ください。
    • [Shopify objects to transfer] で、[参照] をクリックします。
      • BigQuery 宛先データセットに転送するオブジェクトを選択します。このフィールドには、データ転送に含めるオブジェクトを手動で入力することもできます。

  5. [転送先の設定] セクションの [データセット] で、データを保存するために作成したデータセットを選択します。

  6. [転送構成名] セクションの [表示名] に、データ転送の名前を入力します。

  7. [スケジュール オプション] セクションで:

    • [繰り返しの頻度] リストで、この転送の実行頻度を指定するオプションを選択します。カスタムの繰り返しの頻度を指定するには、[カスタム] を選択します。[オンデマンド] を選択した場合、手動で転送をトリガーすると、この転送が実行されます。
    • 必要に応じて、[すぐに開始] を選択するか、[設定した時刻に開始] を選択して開始日と実行時間を指定します。

  8. 省略可: [通知オプション] セクションで、次のようにします。

    • メール通知を有効にするには、[メール通知] をクリックします。このオプションを有効にした場合、転送の実行が失敗すると転送管理者にメール通知が送信されます。
    • この転送の Pub/Sub 転送実行通知を有効にするには、[Pub/Sub 通知] をクリックします。トピック名を選択するか、[トピックを作成] をクリックしてトピックを作成します。

  9. [保存] をクリックします。

bq

bq mk コマンドを入力して、転送作成フラグ --transfer_config を指定します。

bq mk
    --transfer_config
    --project_id=PROJECT_ID
    --data_source=DATA_SOURCE
    --display_name=NAME
    --target_dataset=DATASET
    --params='PARAMETERS'

各パラメータの説明は次のとおりです。

  • PROJECT_ID（省略可）: Google Cloud プロジェクト ID。--project_id で特定のプロジェクトを指定しない場合は、デフォルトのプロジェクトが使用されます。
  • DATA_SOURCE: データソース - shopify。
  • NAME: データ転送構成の表示名。転送名には、後で修正が必要になった場合に識別できる任意の名前を使用できます。
  • DATASET: 転送構成のターゲット データセット。

  • PARAMETERS: 作成される転送構成のパラメータを JSON 形式で指定します。例: --params='{"param":"param_value"}'。Shopify データ転送のパラメータは次のとおりです。

    • assets: BigQuery に転送する Shopify オブジェクトのパス。
    • connector.shopName: Shopify ショップの名前。たとえば、販売者アカウント ID が storename.myshopify.com の場合、ショップ名は storename になります。
    • connector.authentication.accessToken: Shopify Admin API アクセス トークン。

次のコマンドは、デフォルト プロジェクトに増分 Shopify データ転送を作成します。

bq mk
    --transfer_config
    --target_dataset=mydataset
    --data_source=shopify
    --display_name='My Transfer'
    --params='{"assets": ["Orders"]
        "connector.shopName": "storename",
        "connector.authentication.accessToken":"sk_test_123456789"}'
転送構成を保存すると、Shopify コネクタはスケジュール オプションに従って転送実行を自動的にトリガーします。転送を実行するたびに、Shopify コネクタは Shopify から BigQuery に使用可能なすべてのデータを転送します。

定期的なスケジュール外でデータ転送を手動で実行するには、バックフィル実行を開始します。

対応しているテーブル

Shopify コネクタは、次のデータ オブジェクトをサポートしています。

  • AppFeedbacks
  • AppSubscriptionLineItems（販売チャネル アプリが必要です）
  • AppSubscriptions（販売チャネル アプリが必要です）
  • Catalogs
  • Collections
  • Companies
  • CompanyContactRoleAssignments
  • CompanyContacts
  • CompanyLocations
  • Customers
  • DeliveryProfiles
  • DiscountsAutomaticApp（割引関数が必要）
  • DiscountsAutomaticBasic（割引関数が必要）
  • DiscountsAutomaticBxgy
  • DiscountsCodeApp
  • DiscountsCodeBasic
  • DiscountsCodeBxgy
  • DraftOrders
  • Files
  • FulfillmentEvents
  • FulfillmentOrders
  • Fulfillments
  • FulfillmentServices
  • FulfillmentTrackingInfo
  • GiftCards（ShopifyPlus サブスクリプションが必要）
  • InventoryItems
  • Locations
  • Metafield オブジェクト（metafield_product や metafield_order など）。
  • OrderRiskAssessments
  • Orders
  • OrderTransactions
  • PriceLists
  • ProductMediaImages
  • ProductOptions
  • ProductOptionValues
  • ProductResourceFeedbacks（販売チャネル アプリが必要です）
  • Products
  • ProductVariants
  • Publications
  • Refunds
  • Returns
  • ScriptTags
  • Segments
  • SellingPlanGroups
  • StorefrontAccessTokens
  • UrlRedirects

データ型マッピング

次の表に、Shopify のデータ型と対応する BigQuery データ型を示します。

Shopify のデータ型 BigQuery のデータ型
String STRING
Int INT64
Decimal NUMERIC
Double FLOAT64
Long BIGNUMERIC
Bool BOOL
Datetime TIMESTAMP

料金

この機能のプレビュー版では、Shopify データを BigQuery に転送しても費用はかかりません。

転送の設定に関するトラブルシューティング

データ転送の設定で問題が発生した場合は、Shopify の転送に関する問題をご覧ください。

次のステップ

  • BigQuery Data Transfer Service の概要については、BigQuery Data Transfer Service とはをご覧ください。
  • 転送構成に関する情報の取得、転送構成の一覧表示、転送の実行履歴の表示など、転送の使用方法については、転送の管理をご覧ください。