Mengumpulkan log Fivetran
Parser Version: 1.0
Dokumen ini menjelaskan cara mengonfigurasi Fivetran untuk mengirim log ke Google Security Operations menggunakan webhook.
Fivetran adalah platform integrasi data yang mengotomatiskan pipeline data dari berbagai sumber ke data warehouse. Fivetran menghasilkan peristiwa operasional, termasuk peristiwa sinkronisasi konektor, peristiwa transformasi, dan perubahan status koneksi. Peristiwa ini dapat dikirim ke endpoint eksternal melalui webhook keluar untuk pemantauan, pemberitahuan, dan analisis keamanan.
Sebelum memulai
Pastikan Anda memiliki prasyarat berikut:
- Instance Google SecOps.
- Akun Fivetran dengan izin admin atau tingkat akun.
- Akses ke Konsol Google Cloud (untuk pembuatan kunci API).
- Akun Fivetran dengan akses REST API diaktifkan.
Membuat feed webhook di Google SecOps
Membuat feed
- Buka SIEM Settings > Feeds.
- Klik + Tambahkan Baru.
- Pilih Konfigurasi satu feed.
- Di kolom Nama feed, masukkan nama (misalnya,
Fivetran Events). - Pilih Webhook sebagai Source type.
- Pilih Fivetran sebagai Log type.
- Klik Berikutnya.
- Tentukan nilai untuk parameter input berikut:
- Pemisah pemisahan (opsional): Kosongkan.
- Namespace aset: Namespace aset.
- Label penyerapan: Label yang akan diterapkan ke peristiwa dari feed ini.
- Klik Berikutnya.
- Tinjau konfigurasi feed berita baru Anda, lalu klik Kirim.
Membuat dan menyimpan kunci rahasia
- Di halaman detail feed, klik Buat Kunci Rahasia.
- Dialog akan menampilkan kunci rahasia.
- Salin dan simpan kunci rahasia dengan aman.
Mendapatkan URL endpoint feed
- Buka tab Detail untuk feed tersebut.
- Di bagian Endpoint Information, salin Feed endpoint URL.
- Simpan URL ini untuk langkah berikutnya.
- Klik Done.
Membuat kunci Google Cloud API
Google SecOps memerlukan kunci API untuk autentikasi.
Buat kunci API
- Buka halaman Kredensial Konsol Google Cloud.
- Pilih project Anda.
- Klik Create credentials > API key.
- Klik Edit API key untuk membatasi kunci.
Membatasi kunci API
- Di setelan API key:
- Name: Masukkan nama deskriptif (misalnya,
SecOps Webhook API Key).
- Name: Masukkan nama deskriptif (misalnya,
- Di bagian API restrictions:
- Pilih Restrict key.
- Di dropdown, telusuri dan pilih Google SecOps API (atau Chronicle API).
- Klik Simpan.
- Salin nilai kunci API dan simpan dengan aman.
Mengonfigurasi webhook Fivetran
Buat URL webhook
Gabungkan URL endpoint dan kunci API:
<ENDPOINT_URL>?key=<API_KEY>
Membuat webhook menggunakan REST API Fivetran
Mendapatkan kredensial Fivetran API
- Login ke akun Fivetran Anda.
- Buka Setelan Akun > Konfigurasi API.
- Klik Generate kunci API jika Anda belum memilikinya.
- Salin kunci API dan Rahasia API.
Membuat webhook tingkat akun
Gunakan metode ini untuk menerima peristiwa dari semua konektor di akun Anda.
Buka terminal dan jalankan perintah berikut:
curl -X POST https://api.fivetran.com/v1/webhooks/account \ -u "API_KEY:API_SECRET" \ -H "Content-Type: application/json" \ -H "Accept: application/json" \ -d '{ "url": "https://{region}-chronicle.googleapis.com/v1/{parent}/logs:import?key=YOUR_CHRONICLE_API_KEY", "events": [ "sync_start", "sync_end", "transformation_start", "transformation_succeeded", "transformation_failed", "connection_successful", "connection_failure", "create_connector", "pause_connector", "resume_connector", "edit_connector", "delete_connector", "force_update_connector", "resync_connector", "resync_table" ], "active": true, "secret": "YOUR_CHRONICLE_SECRET_KEY" }'- Dengan
{region}adalah region instance Google SecOps Anda (misalnya,us,europe, atauasia-southeast1), dan{parent}adalah jalur resource dalam formatprojects/<PROJECT_ID>/locations/<LOCATION>/instances/<INSTANCE_ID>/logTypes/<LOG_TYPE>.
- Dengan
Detail webhook
Peristiwa webhook yang tersedia
| Acara | Deskripsi |
|---|---|
sync_start |
Sinkronisasi konektor dimulai |
sync_end |
Sinkronisasi konektor selesai |
transformation_start |
Transformasi dimulai |
transformation_succeeded |
Transformasi berhasil diselesaikan |
transformation_failed |
Transformasi gagal |
connection_successful |
Pengujian koneksi berhasil |
connection_failure |
Uji koneksi gagal |
create_connector |
Konektor baru dibuat |
Perilaku percobaan ulang webhook
Fivetran otomatis mencoba ulang webhook yang gagal hingga 24 jam dengan jadwal berikut:
| Coba lagi | Waktu Setelah Upaya Awal |
|---|---|
| Upaya mencoba lagi ke-1 | 6 menit |
| Upaya ke-2 | 27 menit |
| Upaya mencoba lagi ke-3 | 1 jam 45 menit |
| Percobaan ulang ke-4 | 6 jam 25 menit |
| Upaya mencoba lagi ke-5 | 23 jam 13 menit |
Tabel pemetaan UDM
| Kolom Log | Pemetaan UDM | Logika |
|---|---|---|
jsonPayload.connector_id |
additional.connector_id |
Nilai disalin secara langsung. |
jsonPayload.connector_type |
additional.connector_type |
Nilai disalin secara langsung. |
jsonPayload.data.query |
additional.query |
Nilai disalin secara langsung. |
| T/A | metadata.event_type |
Ditetapkan berdasarkan keberadaan akun utama dan target. |
jsonPayload.event |
metadata.product_event_type |
Nilai disalin secara langsung. |
jsonPayload.sync_id |
metadata.product_log_id |
Nilai disalin secara langsung. |
jsonPayload.connector_name |
principal.hostname |
Nilai disalin secara langsung. |
resource.labels.email_id |
principal.user.email_addresses |
Dipetakan jika formatnya adalah email yang valid. |
resource.labels.unique_id |
principal.user.userid |
Nilai disalin secara langsung. |
severity |
security_result.severity |
"INFO" dipetakan ke INFORMATIONAL. |
logName |
target.resource.name |
Nilai disalin secara langsung. |
| T/A | target.resource.type |
Tetapkan ke DATABASE. |
| T/A | metadata.product_name |
Tetapkan ke FIVETRAN. |
| T/A | metadata.vendor_name |
Tetapkan ke FIVETRAN. |
Log Perubahan
Melihat Log Perubahan untuk parser ini
Perlu bantuan lain? Dapatkan jawaban dari anggota Komunitas dan profesional Google SecOps.