Anda dapat membuat, melihat, dan mengelola bucket Cloud Logging untuk menyimpan dan memusatkan data log menggunakan konsol Google Cloud , Google Cloud CLI, atau Logging API. Anda juga dapat mengonfigurasi periode retensi dan mengunci bucket untuk memenuhi persyaratan kepatuhan.
Untuk menganalisis data log Anda dengan Observability Analytics, yang menyediakan antarmuka SQL, upgrade bucket log Anda. Antarmuka ini memungkinkan Anda membuat kueri data log serta menggabungkan data log dan trace.
Untuk menganalisis data log dengan layanan BigQuery, buat set data BigQuery tertaut di bucket log Anda. Set data ini bersifat hanya baca dan dikueri dengan cara yang sama seperti set data BigQuery lainnya. Atau, Anda dapat mengarahkan entri log langsung ke BigQuery.
Untuk mengetahui informasi konseptual, lihat Menyimpan entri log.
Sebelum memulai
Konfigurasikan project, peran IAM, dan pilih antarmuka yang ingin Anda gunakan.
Mengonfigurasi project dan peran Anda
Untuk mulai menggunakan bucket, lakukan hal berikut:
- Konfigurasikan project Google Cloud Anda:
-
Pastikan penagihan diaktifkan untuk project Google Cloud Anda.
-
Untuk mendapatkan izin yang diperlukan untuk membuat, mengupgrade, dan menautkan bucket log, minta administrator untuk memberi Anda peran IAM Logs Configuration Writer (
roles/logging.configWriter) di project Anda. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.
Untuk mengetahui daftar lengkap izin dan peran, lihat Kontrol akses dengan IAM.
-
- Pahami wilayah yang didukung tempat Anda dapat menyimpan log.
- Jika Anda berencana menggunakan Google Cloud CLI atau Cloud Logging API untuk membuat atau mengelola bucket log, pahami persyaratan pemformatan
LogBucket.
Pilih antarmuka yang ingin Anda gunakan
Konsol Google Cloud
Saat menggunakan konsol Google Cloud untuk mengakses layanan dan API Google Cloud , Anda tidak perlu menyiapkan autentikasi.
gcloud
Di konsol Google Cloud , aktifkan Cloud Shell.
Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan prompt command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.
REST
Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.
Instal Google Cloud CLI.
Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.
Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .
Membuat bucket
Petunjuk ini mengasumsikan bahwa Anda menggunakan enkripsi yang dikelola Google. Jika Anda lebih memilih untuk menggunakan kunci enkripsi yang dikelola pelanggan (CMEK), lihat Mengonfigurasi CMEK untuk penyimpanan log.
Anda dapat membuat maksimum 100 bucket per projectGoogle Cloud . Anda tidak dapat membuat bucket log di folder atau organisasi.
Untuk membuat bucket log yang ditentukan pengguna untuk project Google Cloud Anda, lakukan hal berikut:
Konsol Google Cloud
Untuk membuat bucket log di project Google Cloud Anda, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Klik Create log bucket.
Masukkan Name dan Description untuk bucket Anda.
Opsional: Upgrade bucket Anda untuk menggunakan Observability Analytics.
- Pilih Upgrade untuk menggunakan Observability Analytics.
Saat mengupgrade bucket untuk menggunakan Observability Analytics, Anda dapat mengkueri log di halaman Observability Analytics menggunakan kueri SQL. Anda juga dapat terus melihat log menggunakan Logs Explorer.
- Opsional: Untuk melihat log Anda di BigQuery, pilih
Create a new BigQuery dataset that links to this bucket dan masukkan nama set data yang unik.
Jika Anda memilih opsi ini, BigQuery dapat membaca data yang disimpan di bucket log Anda. Sekarang Anda dapat membuat kueri di antarmuka BigQuery tempat Anda dapat menggabungkan data log, dan juga mengakses data dari alat lain seperti Data Studio dan Looker.
- Pilih Upgrade untuk menggunakan Observability Analytics.
Untuk memilih region penyimpanan log Anda, klik menu Select log bucket region, lalu pilih region.
Opsional: Untuk menetapkan periode retensi kustom untuk log di bucket, klik Berikutnya.
Di kolom Retention period, masukkan jumlah hari, antara 1 hari dan 3650 days, yang Anda inginkan agar Cloud Logging mempertahankan log Anda. Jika Anda tidak menyesuaikan periode retensi, defaultnya adalah
30 days.Anda juga dapat memperbarui periode retensi data untuk bucket log setelah membuatnya.
Klik Create bucket.
Setelah bucket log dibuat, Logging akan mengupgrade bucket dan membuat link set data, jika opsi ini dipilih.
Mungkin perlu waktu beberapa saat untuk menyelesaikan langkah-langkah ini.
gcloud
Untuk hanya membuat bucket log,
jalankan perintah gcloud logging buckets create. Jika Anda ingin mengupgrade bucket log untuk menggunakan Observability Analytics, sertakan flag --enable-analytics dan --async, dan pastikan Anda menetapkan variabel LOCATION ke wilayah yang didukung:
gcloud logging buckets create BUCKET_ID --location=LOCATION --enable-analytics --async OPTIONAL_FLAGS
Flag --async memaksa perintah menjadi asinkron. Hasil dari metode asinkron adalah objek Operation; objek ini berisi informasi tentang progres metode. Setelah metode selesai, objek Operation akan berisi informasi tentang keberhasilan atau kegagalan permintaan. Untuk mengetahui informasi selengkapnya, lihat Metode API asinkron.
Jika Anda tidak ingin mengupgrade bucket log untuk menggunakan Observability Analytics, hapus flag --enable-analytics dan --async.
Misalnya, jika Anda ingin membuat bucket dengan BUCKET_ID
my-bucket di region global, perintah Anda akan terlihat seperti
berikut:
gcloud logging buckets create my-bucket --location global --description "My first bucket"
Misalnya, untuk membuat bucket dengan my-upgraded-bucket
BUCKET_ID di lokasi global,
lalu mengupgrade bucket log untuk menggunakan Observability Analytics,
perintah Anda akan terlihat seperti berikut:
gcloud logging buckets create my-upgraded-bucket --location global \
--description "My first upgraded bucket" \
--enable-analytics --retention-days=45
REST
Untuk membuat bucket, gunakan metode
projects.locations.buckets.create
atau
projects.locations.buckets.createAsync. Siapkan argumen untuk metode ini sebagai berikut:
Tetapkan parameter
parentsebagai resource tempat bucket akan dibuat:projects/PROJECT_ID/locations/LOCATIONVariabel LOCATION mengacu pada region tempat Anda ingin menyimpan log.
Misalnya, jika Anda ingin membuat bucket untuk project
my-projectdi regionglobal, parameterparentAnda akan terlihat seperti ini:projects/my-project/locations/globalTetapkan parameter
bucketId; misalnya,my-bucket.Lakukan salah satu tindakan berikut:
Untuk membuat bucket log, lalu mengupgrade bucket log agar dapat menggunakan Observability Analytics:
Tetapkan boolean
LogBucket.analyticsEnabledketrue.Panggil metode asinkron
projects.locations.buckets.createAsyncuntuk membuat bucket.Respons terhadap metode asinkron adalah objek
Operation. Objek ini berisi informasi tentang progres metode. Setelah metode selesai, objekOperationakan berisi status. Untuk mengetahui informasi selengkapnya, lihat Metode API asinkron.Metode
createAsyncmemerlukan waktu beberapa menit hingga selesai. Metode ini tidak menghasilkan pesan error atau gagal saat booleananalyticsEnabledditetapkan ketrue.
Jika tidak, panggil metode sinkron
projects.locations.buckets.createuntuk membuat bucket.
Setelah membuat bucket, buat sink untuk merutekan entri log ke bucket Anda dan konfigurasikan tampilan log untuk mengontrol siapa yang dapat mengakses log di bucket baru Anda dan log mana yang dapat diakses oleh mereka. Anda juga dapat memperbarui bucket untuk mengonfigurasi retensi kustom dan kolom yang dibatasi.
Mencantumkan dan melihat detail bucket log
Bagian ini menjelaskan cara mencantumkan dan melihat detail bucket log dalam project, folder, atau organisasi.
Membuat daftar bucket
Untuk mencantumkan bucket log yang terkait dengan project Google Cloud , dan untuk melihat detail seperti setelan retensi, lakukan hal berikut:
Konsol Google Cloud
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Tabel bernama Log buckets mencantumkan bucket yang terkait dengan projectGoogle Cloud saat ini.
Tabel ini mencantumkan atribut berikut untuk setiap bucket log:
- Name: Nama bucket log.
- Description: Deskripsi bucket.
- Periode retensi data: Jumlah hari data bucket akan disimpan oleh Cloud Logging.
- Region: Lokasi geografis tempat data bucket disimpan.
- Status: Apakah bucket dikunci atau tidak dikunci.
Jika bucket menunggu penghapusan oleh Cloud Logging, entri tabelnya akan dianotasi dengan simbol peringatan warning.
gcloud
Jalankan perintah gcloud logging buckets list:
gcloud logging buckets list
Anda akan melihat atribut berikut untuk bucket log:
LOCATION: Region tempat data bucket disimpan.BUCKET_ID: Nama bucket log.RETENTION_DAYS: Jumlah hari data bucket akan disimpan oleh Cloud Logging.LIFECYCLE_STATE: Menunjukkan apakah bucket sedang menunggu penghapusan oleh Cloud Logging.LOCKED: Apakah bucket terkunci atau tidak terkunci.CREATE_TIME: Stempel waktu yang menunjukkan kapan bucket dibuat.UPDATE_TIME: Stempel waktu yang menunjukkan kapan bucket terakhir diubah.
Anda juga dapat melihat atribut untuk satu bucket saja. Misalnya, untuk melihat
detail bucket log _Default di region global, jalankan
perintah gcloud logging buckets describe:
gcloud logging buckets describe _Default --location=global
REST
Untuk mencantumkan bucket log yang terkait dengan project Google Cloud , gunakan
projects.locations.buckets.list
di Logging API.
Melihat detail bucket
Detail bucket log mencakup nama, deskripsi, lokasi, dan periode retensi. Anda juga dapat melihat informasi tentang kapan bucket log dibuat dan terakhir diperbarui, serta nama set data BigQuery yang ditautkan, jika ada.
Untuk melihat detail satu bucket log, lakukan hal berikut:
Konsol Google Cloud
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Di bucket log, klik more_vert More, lalu pilih View bucket details.
Dialog ini mencantumkan atribut berikut untuk bucket log:
- Name: Nama bucket log.
- Description: Deskripsi bucket log.
- Periode retensi data: Jumlah hari data bucket akan disimpan oleh Cloud Logging.
- Region: Lokasi geografis tempat data bucket disimpan.
- Observability Analytics: Menunjukkan apakah bucket Anda diupgrade untuk menggunakan Observability Analytics.
- Analisis BigQuery: Menunjukkan apakah set data BigQuery ditautkan ke bucket Anda.
- Set data BigQuery: Menyediakan link ke set data BigQuery Anda, yang akan terbuka di halaman BigQuery Studio. Tanggal penautan BigQuery diaktifkan juga ditampilkan.
gcloud
Jalankan perintah gcloud logging buckets describe.
Misalnya, perintah berikut melaporkan detail bucket _Default:
gcloud logging buckets describe _Default --location=global
Anda akan melihat atribut berikut untuk bucket log:
createTime: Stempel waktu yang menunjukkan kapan bucket dibuat.description: Deskripsi bucket log.lifecycleState: Menunjukkan apakah bucket sedang menunggu penghapusan oleh Cloud Logging.name: Nama bucket log.retentionDays: Jumlah hari data bucket akan disimpan oleh Cloud Logging.updateTime: Stempel waktu yang menunjukkan kapan bucket terakhir diubah.
REST
Untuk melihat detail satu bucket log, gunakan
projects.locations.buckets.get
di Logging API.
Mengelola bucket
Bagian ini menjelaskan cara mengelola bucket log menggunakan Google Cloud CLI atau konsol Google Cloud .
Mengupdate bucket
Untuk memperbarui properti bucket, seperti deskripsi atau periode retensi, lakukan hal berikut:
Konsol Google Cloud
Untuk memperbarui properti bucket, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Untuk bucket yang ingin Anda perbarui, klik more_vert More.
Pilih Edit bucket.
Edit bucket sesuai kebutuhan.
Klik Update bucket.
gcloud
Untuk memperbarui properti bucket, jalankan perintah gcloud logging buckets update:
gcloud logging buckets update BUCKET_ID --location=LOCATION UPDATED_ATTRIBUTES
Contoh:
gcloud logging buckets update my-bucket --location=global --description "Updated description"
REST
Untuk memperbarui properti bucket, gunakan
projects.locations.buckets.patch
di Logging API.
Mengonfigurasi retensi kustom
Saat membuat bucket log, Anda dapat menyesuaikan periode penyimpanan log oleh Cloud Logging di bucket tersebut. Anda juga dapat mengonfigurasi periode retensi data untuk bucket log _Default saat bucket log tersebut berada dalam project.
Anda tidak dapat mengubah periode retensi data bucket log _Required. Anda juga tidak dapat memperpanjang periode retensi data bucket log yang ada di folder atau organisasi. Namun, Anda dapat membuat sink log untuk merutekan entri log level folder atau organisasi ke bucket log yang ada dalam project, lalu mengonfigurasi periode retensi data bucket log tersebut.
Jika periode retensi data sebuah bucket log dipersingkat, akan ada masa tenggang 7 hari untuk mengamankan log yang telah habis masa berlakunya agar tidak dihapus. Anda tidak dapat membuat kueri atau melihat log yang telah habis masa berlakunya. Namun, selama periode 7 hari ini, Anda dapat memulihkan akses penuh dengan memperpanjang periode retensi bucket. Log yang disimpan selama masa tenggang ini mengurangi biaya retensi Anda.
Penerapan retensi adalah proses yang memiliki konsistensi tertunda. Jika Anda menulis entri log ke bucket log saat entri log tersebut lebih lama dari periode retensi bucket, Anda mungkin dapat melihat entri log ini secara singkat. Misalnya, jika Anda mengirim entri log yang berusia 10 hari ke bucket log dengan periode retensi 7 hari, entri log tersebut akan disimpan dan pada akhirnya dihapus. Entri log ini tidak berkontribusi pada biaya retensi Anda. Indeks ini termasuk dalam biaya penyimpanan Anda. Untuk meminimalkan biaya penyimpanan, jangan menulis entri log yang lebih lama dari periode retensi bucket Anda.
Untuk memperbarui periode retensi data untuk bucket log kustom atau untuk bucket log _Default yang ada dalam project, lakukan hal berikut:
Konsol Google Cloud
Untuk memperbarui periode retensi bucket log, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Untuk bucket yang ingin Anda perbarui, klik more_vert More, lalu pilih Edit bucket.
Di kolom Retention, masukkan jumlah hari, antara 1 hari dan3650 days, yang Anda inginkan agar Cloud Logging mempertahankan log Anda.
Klik Update bucket. Periode retensi baru Anda akan muncul di daftar Bucket log.
gcloud
Untuk memperbarui periode retensi data untuk bucket log yang ditentukan pengguna atau untuk bucket log _Default yang ada dalam project, jalankan perintah gcloud logging buckets update, setelah menetapkan nilai untuk RETENTION_DAYS:
gcloud logging buckets update BUCKET_ID --location=LOCATION --retention-days=RETENTION_DAYS
Misalnya, untuk mempertahankan log di bucket _Default di lokasi global selama setahun, perintah Anda akan terlihat seperti berikut:
gcloud logging buckets update _Default --location=global --retention-days=365
Jika Anda memperpanjang periode retensi bucket, aturan retensi akan berlaku untuk ke depannya dan tidak berlaku surut. Log tidak dapat dipulihkan setelah periode retensi yang berlaku berakhir.
Mengunci bucket
Saat mengunci bucket agar tidak diupdate, Anda juga mengunci kebijakan retensi bucket. Setelah kebijakan retensi dikunci, Anda tidak dapat menghapus bucket hingga setiap entri log dalam bucket memenuhi periode retensi bucket. Jika Anda ingin mencegah penghapusan project yang berisi bucket log terkunci secara tidak sengaja, tambahkan lien ke project tersebut. Untuk mempelajari lebih lanjut, lihat Melindungi project dengan lien.
Untuk mencegah siapa pun memperbarui atau menghapus bucket log, kunci bucket. Untuk mengunci bucket, lakukan hal berikut:
Konsol Google Cloud
Konsol Google Cloud tidak mendukung penguncian bucket log.
gcloud
Untuk mengunci bucket, jalankan perintah gcloud logging buckets update
dengan flag --locked:
gcloud logging buckets update BUCKET_ID --location=LOCATION --locked
Contoh:
gcloud logging buckets update my-bucket --location=global --locked
REST
Untuk mengunci atribut bucket, gunakan
projects.locations.buckets.patch
di Logging API. Tetapkan parameter locked ke true.
Menghapus bucket
Anda dapat menghapus bucket log yang memenuhi salah satu kondisi berikut:
- Bucket log tidak terkunci.
- Bucket log dikunci dan semua entri log di bucket log telah memenuhi periode retensi bucket.
Anda tidak dapat menghapus bucket log dalam salah satu situasi berikut:
- Bucket log dikunci dari update dan menyimpan entri log yang belum memenuhi periode retensi bucket.
Ada satu atau beberapa link di bucket log. Untuk menentukan apakah ada link di bucket log, Anda dapat menggunakan konsol Google Cloud atau menjalankan perintah
gcloud logging links list.Jika perlu, hapus link menggunakan perintah
gcloud logging links delete. Jika Anda menghapus link, Anda juga akan menghapus semua artefak terkait, yang mungkin mencakup set data BigQuery yang ditautkan.
Setelah Anda mengeluarkan perintah penghapusan, bucket log akan beralih ke
status DELETE_REQUESTED, dan tetap dalam status tersebut
selama 7 hari. Selama jangka waktu ini, Logging akan terus merutekan log ke bucket log. Anda dapat berhenti merutekan log ke bucket log
dengan menghapus atau mengubah sink log yang merutekan entri log ke bucket.
Anda tidak dapat membuat bucket log baru yang menggunakan nama yang sama dengan bucket log yang berada dalam status DELETE_REQUESTED.
Untuk menghapus bucket log, lakukan langkah-langkah berikut:
Konsol Google Cloud
Untuk menghapus bucket log, lakukan langkah-langkah berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Temukan bucket yang ingin Anda hapus, lalu klik more_vertMore.
Jika kolom Linked dataset in BigQuery menampilkan link, hapus set data BigQuery yang ditautkan:
- Klik Edit bucket.
- Hapus centang Create a new BigQuery dataset that links to this bucket, klik Done, lalu klik
Update bucket.
Setelah Anda kembali ke halaman Logs Storage, klik more_vertMore untuk bucket yang ingin Anda hapus, lalu lanjutkan ke langkah berikutnya.
Pilih Delete bucket.
Di panel konfirmasi, klik Hapus.
Di halaman Logs Storage, bucket Anda memiliki indikator bahwa bucket tersebut menunggu penghapusan. Bucket, termasuk semua log di dalamnya, akan dihapus setelah 7 hari.
gcloud
Untuk menghapus bucket log, jalankan perintah gcloud logging buckets delete:
gcloud logging buckets delete BUCKET_ID --location=LOCATION
REST
Untuk menghapus bucket, gunakan
projects.locations.buckets.delete
di Logging API.
Memulihkan bucket yang dihapus
Anda dapat memulihkan, atau membatalkan penghapusan, bucket log yang berada dalam status menunggu penghapusan. Untuk memulihkan bucket log, lakukan hal berikut:
Konsol Google Cloud
Untuk memulihkan bucket log yang menunggu penghapusan, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Untuk bucket yang ingin Anda pulihkan, klik more_vert More, lalu pilih Restore deleted bucket.
Di panel konfirmasi, klik Pulihkan.
Di halaman Logs Storage, indikator penghapusan yang tertunda akan dihapus dari bucket log Anda.
gcloud
Untuk memulihkan bucket log yang menunggu penghapusan, jalankan perintah gcloud logging buckets undelete:
gcloud logging buckets undelete BUCKET_ID --location=LOCATION
REST
Untuk memulihkan bucket yang menunggu penghapusan, gunakan
projects.locations.buckets.undelete
di Logging API.
Mengaktifkan Observability Analytics dan pembuatan kueri dari BigQuery
Bagian ini menjelaskan cara melakukan hal berikut:
Upgrade bucket log Anda agar dapat menganalisis data log menggunakan Observability Analytics, yang menyediakan antarmuka SQL.
Membuat link di bucket log. Link menyediakan koneksi antara bucket log dan set data BigQuery tertaut. Anda dapat menggunakan layanan BigQuery untuk mengkueri set data tertaut.
Mengupgrade bucket untuk menggunakan Observability Analytics
Setelah Anda mengupgrade bucket untuk menggunakan Observability Analytics, setiap entri log baru yang masuk akan tersedia untuk dianalisis di antarmuka Observability Analytics. Anda tidak dapat mengurungkan operasi upgrade pada bucket.
Untuk mengupgrade bucket yang ada agar dapat menggunakan Observability Analytics, batasan berikut berlaku:
- Bucket log dibuat di level project Google Cloud .
- Bucket log tidak dikunci kecuali jika bucket tersebut adalah bucket
_Required. - Tidak ada update yang tertunda pada bucket.
Untuk project di dalam perimeter Kontrol Layanan VPC:
Perimeter tidak boleh membatasi layanan berikut:
logging.googleapis.comcloudkms.googleapis.com: Diperlukan untuk bucket log yang menggunakan CMEK.
Anda tidak dapat menggunakan aturan ingress atau egress berbasis identitas untuk memberikan akses lintas perimeter ke kunci Cloud Key Management Service jika bucket log dan kunci Cloud KMS Anda berada di perimeter Kontrol Layanan VPC yang berbeda.
Mengupgrade bucket mungkin memerlukan waktu hingga 10 menit. Untuk mengetahui informasi pemecahan masalah, lihat Memecahkan masalah upgrade bucket untuk menggunakan Observability Analytics.
Konsol Google Cloud
Untuk mengupgrade bucket yang ada agar dapat menggunakan Observability Analytics, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Temukan bucket yang ingin Anda upgrade.
Jika kolom Observability Analytics available menampilkan Upgrade, Anda dapat mengupgrade bucket log untuk menggunakan Observability Analytics. Klik Upgrade.
Dialog akan terbuka. Klik Konfirmasi.
gcloud
Untuk mengupgrade bucket log agar dapat menggunakan Observability Analytics, jalankan perintah gcloud logging buckets update. Anda harus
menetapkan flag --enable-analytics, dan sebaiknya sertakan juga
flag --async:
gcloud logging buckets update BUCKET_ID --location=LOCATION --enable-analytics --async
Flag --async memaksa perintah menjadi asinkron.
Responsnya adalah objek Operation. Lakukan polling pada metode
projects.locations.operations.get
hingga kolom Operation.done ditetapkan ke true. Kolom lain dalam struktur Operation memberikan informasi tentang keberhasilan atau kegagalan permintaan. Untuk mengetahui informasi selengkapnya, lihat Metode API asinkron.
REST
Untuk mengupgrade bucket log agar dapat menggunakan Observability Analytics, gunakan metode
projects.locations.buckets.updateAsync
Cloud Logging API.
Siapkan argumen untuk metode ini sebagai berikut:
- Tetapkan boolean
LogBucket.analyticsEnabledketrue. - Untuk parameter kueri perintah, gunakan
updateMask=analyticsEnabled.
Respons terhadap metode asinkron adalah objek Operation. Objek ini berisi
informasi tentang progres metode. Setelah metode selesai, objek Operation akan berisi informasi tentang keberhasilan atau kegagalan permintaan. Untuk mengetahui informasi selengkapnya,
lihat Metode API asinkron.
Metode updateAsync mungkin memerlukan waktu beberapa menit untuk selesai.
Membuat set data BigQuery tertaut
Jika Anda ingin menggunakan kemampuan BigQuery untuk menganalisis data log, upgrade bucket log untuk menggunakan Observability Analytics, lalu buat set data tertaut. Dengan konfigurasi ini, Logging menyimpan data log Anda, tetapi BigQuery dapat membaca data log tersebut.
Konsol Google Cloud
Untuk membuat link ke set data BigQuery untuk bucket log yang ada, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Temukan bucket log dan pastikan kolom Observability Analytics available menampilkan Open.
Jika kolom ini menampilkan Upgrade, berarti bucket log belum diupgrade untuk menggunakan Observability Analytics. Konfigurasikan Observability Analytics:
- Klik Upgrade.
- Klik Confirm di dialog.
Setelah upgrade selesai, lanjutkan ke langkah berikutnya.
Di bucket log, klik Moremore_vert, lalu klik Edit bucket.
Dialog Edit log bucket akan terbuka.
Pilih Create a new BigQuery dataset that links to this bucket dan masukkan nama untuk set data baru.
Nama set data harus unik untuk setiap project Google Cloud . Jika Anda memasukkan nama set data yang sudah ada, Anda akan menerima error berikut:
Dataset name must be unique in the selected region.Klik Done, lalu klik Update bucket.
Setelah Logging menampilkan nama set data tertaut di halaman Logs Storage, mungkin perlu waktu beberapa menit sebelum BigQuery mengenali set data tersebut.
gcloud
Untuk membuat set data tertaut untuk bucket log yang diupgrade
agar dapat menggunakan Observability Analytics, jalankan
perintah gcloud logging links create:
gcloud logging links create LINK_ID --bucket=BUCKET_ID --location=LOCATION
LINK_ID yang Anda berikan digunakan sebagai nama set data BigQuery, dan nilai kolom ini harus unik untuk project Google Cloud Anda.
Perintah links create bersifat asinkron. Hasil dari metode asinkron adalah objek Operation, dan berisi informasi tentang progres metode. Setelah
metode selesai, objek Operation akan berisi status. Untuk mengetahui informasi selengkapnya, lihat Metode API asinkron.
Perintah links create memerlukan waktu beberapa menit hingga selesai.
Misalnya, perintah berikut akan membuat set data tertaut bernama
mylink untuk bucket log bernama my-bucket:
gcloud logging links create mylink --bucket=my-bucket --location=global
Nama set data harus unik untuk setiap project Google Cloud . Jika Anda mencoba membuat set data dengan nama yang sama dengan set data yang sudah ada, Anda akan menerima error berikut:
BigQuery dataset with name "LINK_ID" already exists.
Jika Anda mencoba membuat set data tertaut untuk bucket log yang tidak diupgrade untuk menggunakan Observability Analytics, error berikut akan dilaporkan:
A link can only be created for an analytics-enabled bucket.
REST
Untuk membuat set data BigQuery tertaut untuk bucket log yang ada
yang diupgrade menggunakan Observability Analytics, panggil metode
projects.locations.buckets.links.create
asinkron dari Cloud Logging API.
Siapkan argumen untuk metode ini sebagai berikut:
- Buat isi permintaan untuk perintah
create. Isi permintaan diformat sebagai objekLink. - Untuk parameter kueri perintah, gunakan
linkId=LINK_ID. LINK_ID yang Anda berikan digunakan sebagai nama set data BigQuery, dan nilai kolom ini harus unik untuk project Google Cloud Anda.
Respons terhadap metode asinkron adalah objek Operation. Objek ini berisi
informasi tentang progres metode. Setelah
metode selesai, objek Operation akan berisi status. Untuk mengetahui informasi selengkapnya, lihat Metode API asinkron.
Metode links.create memerlukan waktu beberapa menit hingga selesai.
Nama set data harus unik untuk setiap project Google Cloud . Jika Anda mencoba membuat set data dengan nama yang sama dengan set data yang sudah ada, Anda akan menerima error berikut:
BigQuery dataset with name "LINK_ID" already exists.
Jika Anda mencoba membuat set data tertaut untuk bucket log yang tidak diupgrade untuk menggunakan Observability Analytics, error berikut akan dilaporkan:
A link can only be created for an analytics-enabled bucket.
Melakukan polling metode API asinkron
Respons metode asinkron seperti
projects.locations.buckets.createAsync
adalah objek Operation.
Aplikasi yang memanggil metode API asinkron harus melakukan polling
metode operation.get hingga
nilai kolom Operation.done adalah true:
Jika
doneadalahfalse, berarti operasi sedang berlangsung.Untuk memuat ulang informasi status, kirim permintaan
GETke metodeoperation.get.Jika
doneadalahtrue, artinya operasi sudah selesai dan kolomerroratauresponseditetapkan:error: Jika ditetapkan, operasi asinkron gagal. Nilai kolom ini adalah objekStatusyang berisi kode error gRPC dan pesan error.response: Jika ditetapkan, operasi asinkron berhasil diselesaikan, dan nilainya mencerminkan hasilnya.
Untuk melakukan polling perintah asinkron menggunakan Google Cloud CLI, jalankan perintah berikut:
gcloud logging operations describe OPERATION_ID --location=LOCATION --project=PROJECT_ID
Untuk informasi selengkapnya, lihat gcloud logging operations describe.
Membaca dan menulis entri log
Anda tidak menulis log langsung ke bucket log. Sebagai gantinya, Anda menulis log ke resourceGoogle Cloud : project, folder, atau organisasi Google Cloud . Sink di resource induk kemudian merutekan log ke tujuan, termasuk bucket log. Sink merutekan log ke tujuan bucket log jika log cocok dengan filter sink dan sink memiliki izin untuk merutekan log ke bucket log. Untuk mengetahui informasi selengkapnya, lihat Entri log rute.
Setiap bucket log memiliki serangkaian tampilan log. Untuk membaca log dari bucket log, Anda memerlukan akses ke tampilan log di bucket log. Tampilan log memungkinkan Anda memberi pengguna akses hanya ke sebagian log yang disimpan di bucket log. Untuk mempelajari lebih lanjut tampilan log, lihat Menyimpan entri log dan Mengonfigurasi tampilan log di bucket log.
Untuk membaca log dari bucket log, lakukan hal berikut:
Konsol Google Cloud
-
Di konsol Google Cloud , buka halaman Logs Explorer:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Untuk menyesuaikan log yang ditampilkan di Logs Explorer, klik Refine scope, lalu pilih salah satu opsi. Misalnya, Anda dapat melihat log yang disimpan dalam project atau berdasarkan tampilan log.
Klik Terapkan. Panel Query results akan dimuat ulang dengan log yang cocok dengan opsi yang Anda pilih.
Untuk mengetahui informasi selengkapnya, lihat Ringkasan Logs Explorer: Mempersempit cakupan.
gcloud
Untuk membaca log dari bucket log, gunakan perintah gcloud logging read dan tambahkan LOG_FILTER untuk memilih data:
gcloud logging read LOG_FILTER --bucket=BUCKET_ID --location=LOCATION --view=LOG_VIEW_ID
REST
Untuk membaca log dari bucket log, gunakan metode entries.list. Tetapkan
resourceNames untuk menentukan bucket dan tampilan log yang sesuai, dan tetapkan
filter untuk memilih data.
Untuk mengetahui informasi mendetail tentang sintaksis pemfilteran, lihat Bahasa kueri logging.
Memantau volume
Bagian ini menjelaskan cara memantau volume data log Anda.
Melacak volume log yang disimpan di bucket log
Halaman Logs Storage di konsol Google Cloud melacak volume data log yang disimpan di bucket log:
Di konsol Google Cloud , buka halaman Logs Storage:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah Logging.
Halaman Logs Storage menampilkan ringkasan statistik untuk projectGoogle Cloud Anda:
Statistik berikut dilaporkan:
Penyerapan bulan berjalan: Jumlah data log yang telah disimpan projectGoogle Cloud Anda di bucket log sejak hari pertama bulan kalender berjalan.
Penyerapan bulan sebelumnya: Jumlah data log yang disimpan projectGoogle Cloud Anda di bucket log pada bulan kalender terakhir.
Projected ingestion by EOM: Perkiraan jumlah data log yang akan disimpan oleh projectGoogle Cloud Anda di bucket log pada akhir bulan kalender saat ini, berdasarkan penggunaan saat ini.
Penyimpanan yang dapat ditagih bulan ini: Jumlah data log yang telah dipertahankan selama lebih dari 30 hari yang ditagih.
Statistik sebelumnya tidak menyertakan log di
bucket _Required. Log dalam bucket tersebut tidak dapat dikecualikan atau dinonaktifkan.
Halaman Router Log di konsol Google Cloud memberi Anda alat yang dapat digunakan untuk meminimalkan biaya penyimpanan log di bucket log atau untuk penyimpanan yang melebihi alokasi bulanan Anda. Anda dapat melakukan hal berikut:
- Menonaktifkan penyimpanan log di level bucket.
- Mengecualikan entri log tertentu agar tidak disimpan di bucket log.
Untuk mengetahui informasi selengkapnya, lihat Mengelola sink.
Pemberitahuan tentang byte log bulanan yang disimpan di bucket log
Untuk membuat kebijakan pemberitahuan, buka halaman Logs Storage di konsolGoogle Cloud , klik add_alert Create usage alert, dan lengkapi dialog. Halaman Create alerting policy akan otomatis mengisi kolom jenis metrik dengan logging.googleapis.com/billing/bytes_ingested.
Untuk membuat kebijakan pemberitahuan yang akan dipicu saat jumlah byte log yang ditulis ke bucket log melampaui batas yang ditentukan pengguna untuk Cloud Logging, gunakan setelan berikut.
| Kolom New condition |
Nilai |
|---|---|
| Resource and Metric | Di menu Resources, pilih Global. Di menu Kategori metrik, pilih Metrik berbasis log. Di menu Metrics, pilih Monthly log bytes ingested. |
| Filter | Tidak ada. |
| Di seluruh deret waktu Agregasi deret waktu |
sum |
| Rolling window | 60 m |
| Rolling window function | max |
| Kolom Configure alert trigger |
Nilai |
|---|---|
| Condition type | Threshold |
| Alert trigger | Any time series violates |
| Threshold position | Above threshold |
| Threshold value | Anda menentukan nilai yang dapat diterima. |
| Retest window | Nilai minimum yang dapat diterima adalah 30 menit. |
Untuk mengetahui informasi selengkapnya tentang kebijakan pemberitahuan, lihat Ringkasan pemberitahuan.
Memecahkan masalah umum
Jika Anda mengalami masalah saat menggunakan bucket log, lihat langkah-langkah pemecahan masalah dan jawaban atas pertanyaan umum berikut.
Mengapa saya tidak dapat menghapus bucket ini?
Jika Anda mencoba menghapus bucket, lakukan hal berikut:
Pastikan Anda memiliki izin yang benar untuk menghapus bucket. Untuk mengetahui daftar izin yang Anda perlukan, lihat Kontrol akses dengan IAM.
Tentukan apakah bucket dikunci dengan mencantumkan atribut bucket. Jika bucket dikunci, periksa periode retensi bucket. Anda tidak dapat menghapus bucket yang terkunci hingga semua log dalam bucket telah memenuhi periode retensi data bucket.
Pastikan bucket log tidak memiliki link. Anda tidak dapat menghapus bucket log yang berisi link.
Error berikut ditampilkan sebagai respons terhadap perintah
deletepada bucket log yang memiliki set data BigQuery tertaut:FAILED_PRECONDITION: This bucket is used for advanced analytics and has an active link. The link must be deleted first before deleting the bucket
Untuk mencantumkan link yang terkait dengan bucket log, jalankan perintah
gcloud logging links listatau jalankan metode APIprojects.locations.buckets.links.list.Untuk menghapus link, gunakan perintah
gcloud logging links delete.
Akun layanan mana yang merutekan log ke bucket saya?
Untuk menentukan apakah ada akun layanan yang memiliki izin IAM untuk merutekan log ke bucket Anda, lakukan hal berikut:
-
Di konsol Google Cloud , buka halaman IAM:
Jika Anda menggunakan kotak penelusuran untuk menemukan halaman ini, pilih hasil yang subjudulnya adalah IAM & Admin.
Dari tab Permissions, lihat berdasarkan Roles. Anda akan melihat tabel yang berisi semua peran dan akun utama IAM yang terkait dengan projectGoogle Cloud Anda.
Di kotak teks filter_list Filter tabel, masukkan Logs Bucket Writer.
Anda akan melihat akun utama dengan peran Logs Bucket Writer. Jika akun utama adalah akun layanan, ID-nya akan berisi string
gserviceaccount.com.Opsional: Jika Anda ingin menghapus akun layanan agar tidak dapat merutekan log ke project Google Cloud Anda, pilih kotak centang check_box_outline_blank untuk akun layanan, lalu klik Hapus.
Mengapa saya melihat log untuk project Google Cloud meskipun saya mengecualikannya dari sink _Default?
Anda mungkin melihat log di bucket log dalam project Google Cloud terpusat, yang menggabungkan log dari seluruh organisasi Anda.
Jika Anda menggunakan Logs Explorer untuk mengakses log ini dan melihat log yang Anda kecualikan dari sink _Default, tampilan Anda mungkin ditetapkan ke level projectGoogle Cloud .
Untuk memperbaiki masalah ini, pilih Log view di menu Refine scope, lalu pilih tampilan log yang terkait dengan bucket _Default di projectGoogle Cloud Anda. Anda tidak akan melihat log yang dikecualikan lagi.
Langkah berikutnya
Untuk mengetahui informasi tentang metode API bucket log, lihat dokumentasi referensi LogBucket.
Jika Anda mengelola organisasi atau folder, Anda dapat menentukan lokasi bucket log _Default dan _Required resource turunan. Anda juga dapat
mengonfigurasi apakah bucket log menggunakan CMEK dan perilaku
sink log _Default. Untuk mengetahui informasi selengkapnya, lihat
Mengonfigurasi setelan default untuk organisasi dan folder.
Untuk mengetahui informasi tentang cara menangani kasus penggunaan umum dengan bucket log, lihat topik berikut: