Memuat data Salesforce ke BigQuery

Untuk menjadwalkan transfer data berulang dari Salesforce Sales Cloud ke BigQuery, buat konfigurasi transfer untuk menentukan objek data yang akan ditransfer, dan seberapa sering transfer data akan dijadwalkan. Anda dapat membuat konfigurasi transfer menggunakan konsol Google Cloud , alat command line bq, atau BigQuery Data Transfer Service API. Setelah Anda menyiapkan konfigurasi transfer, BigQuery Data Transfer Service mentransfer data terbaru ke tabel BigQuery sesuai jadwal yang ditentukan.

Untuk mempelajari cara kerja transfer Salesforce, lihat Pengantar transfer Salesforce.

Batasan

Transfer data Salesforce tunduk pada batasan berikut:

  • Konektor Salesforce hanya mendukung transfer dari Sales Cloud Salesforce.
  • Konektor Salesforce hanya mendukung kolom yang disertakan dalam Salesforce Bulk API V1 versi 64.0. Beberapa kolom yang disertakan dalam versi sebelumnya dari Salesforce Bulk API mungkin tidak didukung. Untuk mengetahui informasi selengkapnya tentang perubahan pada konektor Salesforce ini, lihat Salesforce Bulk API.

  • Konektor Salesforce menggunakan Salesforce Bulk API V1 untuk terhubung ke endpoint Salesforce Sales Cloud guna mengambil data.

    • Konektor Salesforce hanya mendukung Salesforce Bulk API V1 untuk terhubung ke instance Salesforce, dan hanya mendukung transfer entitas yang didukung oleh Salesforce Bulk API. Untuk mengetahui informasi selengkapnya tentang entitas yang didukung, lihat Entitas tidak didukung oleh Bulk API.

  • Konektor Salesforce tidak mendukung transfer objek berikut yang memiliki kolom biner.

    • Attachment
    • ContentVersion
    • Document
    • StaticResource
    • Scontrol
    • EmailCapture
    • MailMergeTemplate

  • Waktu interval minimum antar-transfer data berulang adalah 15 menit. Interval default untuk transfer berulang adalah 24 jam.

  • Karena batas pemrosesan Salesforce, menjadwalkan terlalu banyak transfer data sekaligus dapat menyebabkan penundaan atau kegagalan. Sebaiknya batasi transfer data Salesforce ke hal berikut:

    • Tidak boleh memiliki lebih dari 10 aset per konfigurasi transfer.
    • Di berbagai konfigurasi transfer, Anda tidak boleh memiliki lebih dari 10 transfer simultan yang berjalan dalam satu waktu.

  • Satu konfigurasi transfer hanya dapat mendukung satu kali menjalankan transfer data pada waktu tertentu. Jika transfer data kedua dijadwalkan untuk berjalan sebelum transfer pertama selesai, maka hanya transfer data pertama yang selesai, sedangkan transfer data lain yang tumpang-tindih dengan transfer pertama akan dilewati.

    • Untuk menghindari transfer yang dilewati dalam satu konfigurasi transfer, sebaiknya Anda memperpanjang durasi waktu antara transfer data besar dengan mengonfigurasi Frekuensi pengulangan.

  • Jika Anda menggunakan lampiran jaringan dengan transfer data, Anda harus menyiapkan terjemahan alamat jaringan (NAT) publik dengan alamat IP statis. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan daftar IP yang diizinkan untuk transfer Salesforce.

  • Jika lampiran jaringan dan instance virtual machine (VM) yang dikonfigurasi berada di region yang berbeda, mungkin ada pergerakan data lintas region saat Anda mentransfer data dari Salesforce.

Batasan transfer inkremental

Transfer Salesforce inkremental tunduk pada batasan berikut:

  • Anda hanya dapat memilih TIMESTAMP kolom sebagai kolom tanda air.
  • Penyerapan inkremental hanya didukung untuk aset dengan kolom watermark yang valid.
  • Nilai dalam kolom tanda air harus meningkat secara monoton.
  • Transfer inkremental tidak dapat menyinkronkan operasi penghapusan di tabel sumber.
  • Konfigurasi transfer tunggal hanya dapat mendukung penyerapan inkremental atau penuh.
  • Anda tidak dapat memperbarui objek dalam daftar asset setelah menjalankan penyerapan inkremental pertama.
  • Anda tidak dapat mengubah mode penulisan dalam konfigurasi transfer setelah menjalankan penyerapan inkremental pertama.
  • Anda tidak dapat mengubah kolom tanda air atau kunci utama setelah menjalankan penyerapan inkremental pertama.
  • Tabel BigQuery tujuan dikelompokkan menggunakan kunci utama yang diberikan dan tunduk pada batasan tabel berklaster.
  • Saat Anda memperbarui konfigurasi transfer yang ada ke mode penyerapan inkremental untuk pertama kalinya, transfer data pertama setelah pembaruan tersebut akan mentransfer semua data yang tersedia dari sumber data Anda. Setiap transfer data inkremental berikutnya hanya akan mentransfer baris baru dan yang diperbarui dari sumber data Anda.

Untuk mempelajari cara kerja transfer inkremental, lihat Transfer penuh atau inkremental.

Sebelum memulai

Bagian berikut menjelaskan langkah-langkah yang perlu Anda lakukan sebelum membuat transfer data Salesforce.

Buat Aplikasi Terhubung Salesforce

Anda harus membuat Aplikasi Terhubung Salesforce dengan konfigurasi wajib berikut:

  • Konfigurasi Informasi Dasar di Aplikasi Terhubung. Kolom Nama Aplikasi Terhubung dan Email Kontak wajib diisi untuk transfer Salesforce.
  • Aktifkan Setelan OAuth dengan konfigurasi berikut:
    • Centang kotak Aktifkan Setelan OAuth.
    • Di kolom Callback URL, masukkan berikut ini:
      • Untuk lingkungan produksi, masukkan https://login.salesforce.com/services/oauth2/token.
      • Untuk lingkungan sandbox, masukkan https://test.salesforce.com/services/oauth2/token.
    • Pastikan kotak centang Terbitkan token akses berbasis Token Web JSON (JWT) untuk pengguna bernama tidak dicentang.
  • Di bagian Selected OAuth Scopes, pilih Manage user data via APIs (api).
  • Hapus centang pada kotak Required Proof Key for Code Exchange (PKCE) Extension for Supported Authorization Flows.
  • Pilih Enable Client Credentials Flow, lalu klik OK pada pemberitahuan yang muncul.

Setelah Anda mengonfigurasi Aplikasi Terhubung dengan konfigurasi yang diperlukan, klik Simpan. Anda akan dialihkan ke halaman detail Aplikasi Terhubung yang baru dibuat.

Setelah membuat Aplikasi Terhubung, Anda juga harus mengonfigurasi alur kredensial klien dengan melakukan hal berikut:

  1. Klik Penyiapan.
  2. Di kotak penelusuran, telusuri Aplikasi Terhubung.
  3. Klik Kelola Aplikasi > Aplikasi Terhubung. Jika Anda menggunakan Salesforce Lightning Experience, klik Kelola Aplikasi Terhubung.
  4. Di Aplikasi Terhubung yang telah Anda buat, klik Edit.
  5. Halaman Detail aplikasi akan muncul. Di bagian Client Credentials Flow, masukkan nama pengguna Anda di kolom Run As. Anda dapat menggunakan alat pencari di kolom ini untuk memastikan bahwa Anda telah memilih pengguna yang benar.
  6. Klik Simpan.

Informasi Salesforce yang diperlukan

Anda harus memiliki informasi Salesforce berikut saat membuat transfer data Salesforce:

Nama Parameter Deskripsi
myDomain My Domain Anda di Salesforce.
clientId Kunci Konsumen aplikasi terhubung Salesforce.
clientSecret

Rahasia Klien OAuth atau Rahasia Konsumen aplikasi terhubung Salesforce.

Untuk mendapatkan nilai myDomain, clientID, dan clientSecret, pilih salah satu opsi berikut:

Salesforce Classic

Mengambil detail myDomain

Untuk menemukan myDomain Anda, lakukan hal berikut:

  1. Login ke platform Salesforce.
  2. Klik Penyiapan.
  3. Di kotak penelusuran, telusuri Domain Saya.
  4. Di hasil penelusuran, klik Domain Management > My Domain.

Di bagian Detail Domain Saya, myDomain Anda akan muncul sebagai awalan di URL Domain Saya Saat Ini. Misalnya, jika URL My Domain adalah example.my.salesforce.com, nilai myDomain yang akan digunakan adalah example.

Mengambil detail ClientId dan ClientSecret

Untuk menemukan nilai ClientId dan ClientSecret, lakukan hal berikut:

  1. Login ke platform Salesforce.
  2. Klik Penyiapan.
  3. Di kotak penelusuran, telusuri Aplikasi.
  4. Di bagian Build di hasil penelusuran, klik Create > Apps.
  5. Klik Nama Aplikasi Terhubung.
  6. Di halaman detail Aplikasi Terhubung, klik Kelola Detail Konsumen.
  7. Verifikasi identitas Anda menggunakan salah satu metode terdaftar. Anda dapat melihat halaman detail konsumen hingga lima menit sebelum diminta untuk memverifikasi identitas Anda lagi.
  8. Di halaman Consumer Details, Consumer Key adalah nilai ClientId Anda. Customer Secret adalah nilai ClientSecret Anda.

Salesforce Lightning Experience

Mengambil detail myDomain

Untuk menemukan myDomain Anda, lakukan hal berikut:

  1. Login ke platform Salesforce.

  2. Klik Penyiapan.

    Buka halaman Penyiapan di platform Salesforce.

  3. Di kotak penelusuran, telusuri Domain Saya.

  4. Di hasil penelusuran, klik Setelan Perusahaan > Domain Saya.

Di bagian Detail Domain Saya, myDomain Anda akan muncul sebagai awalan di URL Domain Saya Saat Ini. Misalnya, jika URL My Domain adalah example.my.salesforce.com, nilai myDomain yang akan digunakan adalah example.

Mengambil detail ClientId dan ClientSecret

  1. Login ke platform Salesforce.
  2. Klik Penyiapan.
  3. Di kotak penelusuran, telusuri Aplikasi.
  4. Di hasil penelusuran, klik Aplikasi > Pengelola Aplikasi.
  5. Temukan aplikasi yang terhubung, lalu klik Lihat.
  6. Klik Kelola Detail Konsumen.
  7. Verifikasi identitas Anda menggunakan salah satu metode terdaftar. Anda dapat melihat halaman detail konsumen hingga lima menit sebelum diminta untuk memverifikasi identitas Anda lagi.
  8. Di halaman Consumer Details, Consumer Key adalah nilai ClientId Anda. Customer Secret adalah nilai ClientSecret Anda.

Menyiapkan daftar IP yang diizinkan untuk transfer Salesforce

Anda harus mengonfigurasi lingkungan Google Cloud dan akun Salesforce untuk menambahkan alamat IP tertentu ke daftar yang diizinkan untuk transfer data. Tindakan ini memastikan bahwa Salesforce hanya menerima koneksi dari alamat IP statis yang tepercaya. Langkah ini diperlukan jika Anda menggunakan lampiran jaringan dengan transfer data.

Untuk melakukannya, Anda harus menyiapkan dan mengonfigurasi jaringan Google Cloud terlebih dahulu untuk menggunakan alamat IP statis:

  1. Siapkan penafsiran alamat jaringan (NAT) publik dengan alamat IP statis dalam jaringan Virtual Private Cloud Anda. CloudNAT harus dikonfigurasi dalam region yang sama dengan set data tujuan untuk transfer data ini.
  2. Siapkan lampiran jaringan dalam jaringan VPC yang sama. Resource ini digunakan oleh BigQuery Data Transfer Service untuk mengakses layanan pribadi.

Selanjutnya, Anda harus mengonfigurasi rentang IP tepercaya di Salesforce. Saat menambahkan rentang alamat IP, gunakan alamat IP statis dari Google Cloud NAT publik untuk alamat IP awal dan akhir rentang IP.

Setelah menyiapkan rentang IP, Anda kini dapat menentukan IP statis saat menyiapkan konfigurasi transfer dengan memilih lampiran jaringan di kolom Lampiran jaringan.

Prasyarat BigQuery

Peran BigQuery yang diperlukan

Untuk mendapatkan izin yang diperlukan guna membuat transfer data BigQuery Data Transfer Service, minta administrator untuk memberi Anda peran IAM BigQuery Admin (roles/bigquery.admin) di project Anda. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk membuat transfer data BigQuery Data Transfer Service. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk membuat transfer data BigQuery Data Transfer Service:

  • Izin BigQuery Data Transfer Service:
    • bigquery.transfers.update
    • bigquery.transfers.get
  • Izin BigQuery:
    • bigquery.datasets.get
    • bigquery.datasets.getIamPolicy
    • bigquery.datasets.update
    • bigquery.datasets.setIamPolicy
    • bigquery.jobs.create

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Untuk mengetahui informasi selengkapnya, lihat Memberikan akses bigquery.admin.

Menyiapkan transfer data Salesforce

Tambahkan data Salesforce ke BigQuery dengan menyiapkan konfigurasi transfer menggunakan salah satu opsi berikut:

Konsol

  1. Buka halaman Transfer data di konsol Google Cloud .

    Buka Data transfers

  2. Klik Create transfer.

  3. Di bagian Source type, untuk Source, pilih Salesforce.

  4. Di bagian Detail sumber data, lakukan hal berikut:

    • Untuk Network attachment, pilih network attachment dari daftar. Anda harus mengonfigurasi NAT publik dan menyiapkan daftar yang diizinkan IP sebelum dapat menggunakan lampiran jaringan dengan transfer data ini.
    • Untuk My Domain, masukkan My Domain Salesforce Anda.
    • Untuk Client ID, masukkan Kunci Konsumen aplikasi terhubung Salesforce.
    • Untuk Client secret, masukkan Rahasia Pengguna aplikasi yang terhubung ke Salesforce.
    • Untuk Ingestion type, pilih Full atau Incremental.
      • Jika Anda memilih Incremental untuk Write mode, pilih Append atau Upsert. Untuk mengetahui informasi selengkapnya tentang berbagai mode penulisan, lihat Transfer penuh atau inkremental.
    • Untuk objek Salesforce yang akan ditransfer, klik Jelajahi:
      • Pilih objek yang akan ditransfer ke set data tujuan BigQuery. Anda juga dapat memasukkan objek secara manual untuk disertakan dalam transfer data di kolom ini.
      • Jika Anda telah memilih Tambahkan sebagai mode penulisan inkremental, Anda harus memilih kolom sebagai kolom tanda air.
      • Jika Anda telah memilih Upsert sebagai mode penulisan inkremental, Anda harus memilih kolom sebagai kolom tanda air, lalu memilih satu atau beberapa kolom sebagai kunci utama.

  5. Di bagian Setelan tujuan, untuk Set data, pilih set data yang Anda buat untuk menyimpan data.

  6. Di bagian Transfer config name, untuk Display name, masukkan nama untuk transfer data.

  7. Di bagian Schedule options:

    • Dalam daftar Frekuensi berulang, pilih opsi untuk menentukan seberapa sering transfer data ini dijalankan. Untuk menentukan frekuensi pengulangan kustom, pilih Kustom. Jika Anda memilih Sesuai permintaan, transfer ini akan berjalan saat Anda memicu transfer secara manual.
    • Jika berlaku, pilih Start now atau Start at set time, dan masukkan tanggal mulai dan waktu proses.

  8. Opsional: Di bagian Opsi notifikasi, lakukan hal berikut:

    • Untuk mengaktifkan notifikasi email, klik tombol Notifikasi email. Saat Anda mengaktifkan opsi ini, administrator transfer akan menerima notifikasi email saat proses transfer gagal.
    • Untuk mengaktifkan notifikasi operasi transfer Pub/Sub untuk transfer ini, klik tombol Notifikasi Pub/Sub. Anda dapat memilih nama topik, atau Anda dapat mengklik Buat topik untuk membuatnya.

  9. Klik Simpan.

bq

Masukkan perintah bq mk dan berikan flag pembuatan transfer --transfer_config:

bq mk
    --transfer_config
    --project_id=PROJECT_ID
    --data_source=DATA_SOURCE
    --display_name=NAME
    --target_dataset=DATASET
    --params='PARAMETERS'

Dengan:

  • PROJECT_ID (opsional): project ID Google Cloud Anda. Jika --project_id tidak diberikan untuk menentukan project tertentu, project default akan digunakan.
  • DATA_SOURCE: sumber data — salesforce.
  • NAME: nama tampilan untuk konfigurasi transfer data. Nama transfer dapat berupa nilai apa pun yang memungkinkan Anda mengidentifikasi transfer jika perlu mengubahnya nanti.
  • DATASET: set data target untuk konfigurasi transfer.

  • PARAMETERS: parameter untuk konfigurasi transfer yang dibuat dalam format JSON. Contoh: --params='{"param":"param_value"}'. Berikut adalah parameter untuk transfer data Salesforce:

    • connector.authentication.oauth.clientId: Kunci Konsumen aplikasi yang terhubung ke Salesforce.
    • connector.authentication.oauth.clientSecret: Rahasia Klien OAuth atau Rahasia Konsumen aplikasi yang terhubung ke Salesforce.
    • connector.authentication.oauth.myDomain: Salesforce My Domain. Misalnya, jika URL domain Anda adalah example.my.salesforce.com, maka nilainya adalah example.
    • ingestionType: tentukan full atau incremental. Untuk informasi selengkapnya, lihat Transfer penuh atau inkremental.
    • writeMode: tentukan WRITE_MODE_APPEND atau WRITE_MODE_UPSERT.
    • watermarkColumns: menentukan kolom dalam tabel Anda sebagai kolom watermark. Kolom ini wajib diisi untuk transfer inkremental.
    • primaryKeys: menentukan kolom dalam tabel Anda sebagai kunci utama. Kolom ini wajib diisi untuk transfer inkremental.
    • assets: jalur ke objek Salesforce yang akan ditransfer ke BigQuery.

Saat menentukan beberapa aset selama transfer inkremental, nilai kolom watermarkColumns dan primaryKeys sesuai dengan posisi nilai di kolom assets. Dalam contoh berikut, Id sesuai dengan tabel Account, sedangkan master_label dan type sesuai dengan tabel CaseHistory.

      "primaryKeys":[['Id'], ['master_label','type']],
      "assets":["Account","CaseHistory"],

Perintah berikut akan membuat transfer data Salesforce inkremental di project default, dan menggunakan mode penulisan APPEND.

bq mk
    --transfer_config
    --target_dataset=mydataset
    --data_source=salesforce
    --display_name='My Transfer'
    --params='{"assets": ["Account", "CaseHistory"]
        "connector.authentication.oauth.clientId": "1234567890",
        "connector.authentication.oauth.clientSecret":"ABC12345",
        "connector.authentication.oauth.myDomain":"MyDomainName",
        "connector.authentication.username":"user1@force.com",
        "connector.authentication.password":"abcdef1234",
        "ingestionType":"incremental",
        "writeMode":"WRITE_MODE_UPSERT",
        "watermarkColumns":["SystemModstamp","CreatedDate"]
        "primaryKeys":[['Id'], ['master_label','type']]}'

API

Gunakan metode projects.locations.transferConfigs.create dan berikan instance resource TransferConfig.

Saat Anda menyimpan konfigurasi transfer, konektor Salesforce akan otomatis memicu proses transfer sesuai opsi jadwal Anda. Dengan setiap operasi transfer, konektor Salesforce mentransfer semua data yang tersedia dari Salesforce ke BigQuery.

Untuk menjalankan transfer data secara manual di luar jadwal reguler, Anda dapat memulai operasi pengisian ulang.

Memecahkan masalah penyiapan transfer

Jika Anda mengalami masalah saat menyiapkan transfer data, lihat Masalah transfer Salesforce.

Langkah berikutnya