Observabilitas di Google Cloud

Google Cloud Observability mencakup layanan kemampuan observasi yang membantu Anda memahami perilaku, kondisi, dan performa aplikasi, termasuk aplikasi agentic. Memahami perilaku aplikasi dan cara komponen terhubung akan membantu Anda mengantisipasi, mengidentifikasi, dan merespons perubahan yang tidak terduga dengan cepat dan efektif.

Dokumen ini mencakup informasi berikut:

Kemampuan observasi

Kemampuan observasi adalah pendekatan komprehensif untuk mengumpulkan dan menganalisis data telemetri guna membantu Anda memahami status aplikasi, termasuk aplikasi agentic, dan lingkungan operasinya. Data telemetri mencakup data log, data metrik, dan data trace. Data ini juga dapat mencakup data lain yang dihasilkan aplikasi Anda, seperti perintah dan respons. Data telemetri memberikan informasi yang Anda perlukan untuk memahami kondisi dan performa aplikasi Anda.

Data metrik
Data metrik adalah data numerik tentang kondisi atau performa yang diukur sistem pada interval reguler—misalnya, pemakaian CPU dan latensi permintaan. Perubahan yang tidak terduga pada data metrik mungkin mengindikasikan masalah yang perlu Anda selidiki. Seiring waktu, Anda juga dapat menganalisis pola untuk memahami pola penggunaan dan mengantisipasi kebutuhan resource.
Data log

Log adalah catatan aktivitas sistem atau aplikasi yang dihasilkan dari waktu ke waktu. Setiap log adalah kumpulan entri log yang diberi stempel waktu, dan setiap entri log menjelaskan peristiwa tertentu.

Data log sering kali berisi informasi yang lengkap dan mendetail yang membantu Anda memahami apa yang terjadi di bagian tertentu dari aplikasi Anda. Namun, data log tidak secara efektif menunjukkan hubungan antara perubahan dalam satu komponen aplikasi dengan aktivitas di komponen lain. Data rekaman aktivitas dapat menjembatani kesenjangan ini.

Data rekaman aktivitas

Trace mewakili jalur permintaan di seluruh komponen aplikasi terdistribusi Anda. Artinya, setiap trace mewakili satu operasi end-to-end. Karena trace terdiri dari span, yang merupakan data untuk satu fungsi atau operasi, trace memungkinkan Anda mengikuti alur permintaan dan memeriksa data latensi. Informasi ini dapat membantu Anda mengidentifikasi akar masalah.

Untuk aplikasi agentic, trace mencatat tindakan yang dilakukan agen Anda. Misalnya, trace dapat merekam panggilan MCP.

Data lainnya

Anda bisa mendapatkan insight tambahan dengan menganalisis data log, data metrik, dan data trace beserta informasi relevan lainnya. Misalnya, label yang menunjukkan tingkat keparahan pemberitahuan atau ID pelanggan dalam data log memberikan konteks yang berguna untuk pemecahan masalah dan proses debug.

Observabilitas agen

Observabilitas agen mengacu pada metode untuk memahami status internal dan perilaku agen software, terutama agen yang didukung AI yang dibangun menggunakan Model Bahasa Besar (LLM). Agen AI bersifat non-deterministik dan kompleks. Oleh karena itu, kemampuan observasi sangat penting untuk memahami, men-debug, mengevaluasi, dan meningkatkan performa, keamanan, dan keandalan model.

Google Cloud memberikan dukungan untuk kemampuan observasi aplikasi dengan Application Monitoring, yang membuat dasbor yang menampilkan data telemetri, data metrik resource AI, dan informasi seperti pemberitahuan terbuka. Untuk mempelajari lebih lanjut, lihat bagian Kemampuan observasi agen dan aplikasi di Google Cloud dalam dokumen ini.

Kemampuan observasi aplikasi dan APM

Pemantauan Performa Aplikasi (APM) memantau, mendiagnosis, dan mengelola performa, ketersediaan, dan pengalaman pengguna aplikasi software, termasuk aplikasi agen. Sistem APM biasanya menyediakan dasbor yang menampilkan data telemetri dan layanan yang memantau data telemetri. Sistem ini membantu Anda mengidentifikasi kegagalan.

Kemampuan observasi aplikasi menggunakan data telemetri untuk menghasilkan insight yang membantu Anda memahami perilaku aplikasi.

Google Cloud memberikan dukungan untuk kemampuan observasi aplikasi dengan Application Monitoring, yang membuat dasbor yang menampilkan data telemetri, data metrik resource AI, dan informasi seperti pemberitahuan terbuka. Untuk mempelajari lebih lanjut, lihat bagian Kemampuan observasi agen dan aplikasi di Google Cloud dalam dokumen ini.

Layanan kemampuan observasi

Layanan kemampuan observasi mengumpulkan, menganalisis, dan menghubungkan data telemetri, seperti data log, data metrik, dan data trace. Fitur ini menyediakan kemampuan berikut untuk membantu Anda menjaga keandalan aplikasi:

  • Deteksi masalah secara proaktif sebelum memengaruhi pengguna.
  • Memecahkan masalah umum dan masalah baru.
  • Men-debug aplikasi selama pengembangan.
  • Memahami dampak perubahan pada aplikasi Anda.
  • Menemukan insight baru melalui eksplorasi data.

Untuk mempelajari lebih lanjut praktik keandalan, termasuk prinsip dan praktik yang terkait dengan kemampuan observasi, baca buku Site Reliability Engineering: How Google Runs Production Systems. Topiknya mencakup Memantau sistem terdistribusi, Pemberitahuan, dan Pemecahan masalah.

Google Cloud Observability

Layanan di Google Cloud Observability membantu Anda mengumpulkan, menganalisis, dan menghubungkan data telemetri, baik dari aplikasi maupun infrastruktur yang mendasarinya. Layanan ini juga menyediakan setelan default bawaan untuk membantu Anda memulai. Misalnya, Pemantauan Aplikasi membuat dasbor dan peta topologi untuk aplikasi, layanan, dan workload yang terdaftar di App Hub.

Pengumpulan data telemetri otomatis

Monitoring, Logging, dan Trace adalah layanan yang diaktifkan secara default saat Anda membuat project Google Cloud . Layanan ini menyediakan kemampuan inti untuk mengumpulkan, menganalisis, dan memvisualisasikan data telemetri Anda:

  • Mengumpulkan data telemetri secara otomatis untuk sebagian besar layanan Google Cloud .
  • Otomatis mengumpulkan log audit untuk sebagian besar layanan Google Cloud.
  • Menyediakan layanan visualisasi, termasuk dasbor dan penjelajah telemetri, yang memungkinkan Anda melihat dan memeriksa data telemetri. Misalnya, Trace Explorer memungkinkan Anda melihat trace, span, dan metadata, termasuk perintah dan respons multimodal. Untuk mengetahui informasi selengkapnya, lihat Membuat kueri dan melihat data telemetri.
  • Menyediakan layanan analisis berbasis SQL untuk data log dan data trace Anda. Misalnya, Anda dapat menggunakan BigQuery untuk membandingkan URL dalam data log Anda dengan set data publik yang berisi URL berbahaya yang diketahui.
  • Menyediakan pemantauan aplikasi dan pemantauan telemetri. Misalnya, Anda dapat membuat kebijakan pemberitahuan yang memberi tahu Anda saat data log atau data metrik memenuhi kondisi yang Anda tentukan. Anda juga dapat menggunakan pemantauan sintetis untuk menguji performa aplikasi Anda.

  • Mengumpulkan data telemetri dari aplikasi yang diinstrumentasi. Instrumentasi adalah kode yang Anda tambahkan ke aplikasi untuk memancarkan data telemetri.

    Untuk melengkapi aplikasi Anda, sebaiknya gunakan framework instrumentasi open source yang netral terhadap vendor, seperti OpenTelemetry, bukan API atau library klien khusus vendor dan produk. Untuk mengetahui informasi tentang framework ini, lihat Kemampuan observasi untuk developer aplikasi dan Memilih pendekatan instrumentasi.

Kemampuan observasi agen dan aplikasi

Pemantauan Aplikasi di Google Cloud menyediakan observabilitas agen dan observabilitas aplikasi. Layanan ini menyediakan dasbor dan peta topologi yang memungkinkan Anda memahami kondisi dan performa aplikasi, layanan, dan workload App Hub Anda. Dasbor ini juga menghasilkan dan menampilkan metrik seperti rasio error dan penggunaan token untuk resource AI. Untuk membuat metrik ini, Pemantauan Aplikasi memfilter dan menggabungkan data trace Anda menggunakan label dan peristiwa khusus aplikasi yang mengikuti konvensi semantik GenAI OpenTelemetry.

Untuk observabilitas agen, sebaiknya bangun agen Anda dengan framework Agent Development Kit (ADK). Karena ADK mengandalkan OpenTelemetry, telemetri yang dihasilkan ADK konsisten dengan konvensi semantik GenAI OpenTelemetry.

Untuk men-debug kegagalan, memantau biaya, atau menganalisis perilaku agen—termasuk dari Gemini Enterprise Agent Platform, Agent Gateway, dan agen Model Armor—Anda memerlukan data log, metrik, dan trace:

  • Log memberikan informasi tentang peristiwa dan error.
  • Metrik memungkinkan Anda memantau latensi dan penggunaan token.
  • Trace memberikan informasi tentang jalur eksekusi, dan dianalisis untuk mendapatkan metrik seperti jumlah panggilan model atau total penggunaan token. Metrik turunan ini memberikan visibilitas terkait performa dan perilaku agen. Untuk mengetahui informasi selengkapnya, lihat Melihat resource AI.
  • Data perintah dan respons memungkinkan Anda menilai kualitas dan pengambilan keputusan agen menggunakan layanan evaluasi AI Generatif.

Dasbor Pemantauan Aplikasi untuk aplikasi menampilkan daftar layanan dan workload aplikasi, seperti aplikasi Gemini Enterprise, agen Gemini Enterprise Agent Platform, dan server MCP:

Ringkasan yang mencantumkan layanan dan workload dalam aplikasi.

Anda dapat mengidentifikasi layanan dan workload agentic menggunakan jenis infrastruktur atau jenis fungsional App Hub. Kolom jenis fungsional disembunyikan secara default.

Untuk contoh kode, lihat referensi berikut:

Dukungan untuk mengidentifikasi error

Error Reporting menganalisis entri log dari Cloud Logging untuk menemukan error. Saat menemukan error, Error Reporting akan menganotasi entri log terkait dan membuat grup error. Pelajari grup error ini untuk mengidentifikasi penyebab dan histori error.

Dukungan pembuatan profil

Cloud Profiler memungkinkan Anda menganalisis penggunaan CPU dan memori untuk aplikasi Anda guna mengidentifikasi peluang untuk meningkatkan performa.

Mulai

Bagian ini menjelaskan langkah-langkah yang dapat Anda lakukan untuk memahami fitur kemampuan observasi di Google Cloud.

Coba panduan memulai

Coba panduan memulai untuk memahami layanan yang tersedia.

Melihat data yang dikumpulkan secara otomatis

Sebagian besar layanan Google Cloud otomatis membuat data log dan data metrik. Artinya, Anda dapat mulai melihat beberapa data yang dapat diamati untuk layanan Google Cloud yang didukung tanpa konfigurasi tambahan.

  • Beberapa layanan Google Cloud seperti Google Kubernetes Engine (GKE), Compute Engine, dan Cloud SQL menyediakan dasbor default di konsol Google Cloud untuk melihat data yang dapat diamati dalam konteks layanan.
  • Compute Engine, GKE, dan Cloud Run menghasilkan data metrik sistem dan data log secara default. Anda mengonfigurasi pengumpulan data tambahan.
  • Cloud Run Functions dan App Engine otomatis menghasilkan data metrik, data log, dan data trace.

Anda juga dapat membuat diagram data metrik yang dikumpulkan di Metrics Explorer, melihat data log di Logs Explorer, atau melihat data trace di Trace. Untuk meninjau data terkait secara bersamaan, buat dasbor kustom. Misalnya, Anda dapat membuat dasbor yang mencakup data log, data metrik performa, dan kebijakan pemberitahuan untuk virtual machine.

Mengonfigurasi VM Compute Engine untuk mengumpulkan data tambahan

Secara default, VM Compute Engine hanya mengumpulkan data metrik sistem dasar dan data log. Namun, Anda dapat menginstal Agen Operasional untuk mengumpulkan data telemetri tambahan dari instance dan aplikasi Compute Engine untuk pemecahan masalah, pemantauan performa, dan pemberitahuan. Agen Operasional bukanlah aplikasi agentic. Sebaliknya, ini adalah software deterministik yang mengumpulkan data telemetri.

Mengonfigurasi cluster GKE untuk mengumpulkan data tambahan

Secara default, cluster GKE mengirim data log sistem dan data metrik sistem ke Logging dan Monitoring. Google Cloud Managed Service for Prometheus menangani pengumpulan data metrik pihak ketiga dan data metrik yang ditentukan pengguna.

  • Gunakan paket data metrik kemampuan observasi untuk memahami status aplikasi dan resource cluster Anda. Misalnya, data metrik bidang kontrol berguna untuk membuat SLO guna memantau ketersediaan dan latensi layanan.
  • Memantau aplikasi pihak ketiga seperti Postgres, MongoDB, dan Redis. Integrasi ini menyediakan dasbor dan kebijakan pemberitahuan yang telah dikonfigurasi sebelumnya.

Mengonfigurasi Cloud Run untuk mengumpulkan data kustom

Jika Anda memiliki layanan Cloud Run yang menulis data metrik Prometheus, Anda dapat menggunakan sidecar Prometheus untuk mengirim data metrik ke Cloud Monitoring.

Jika layanan Cloud Run Anda menulis data metrik OTLP, Anda dapat menggunakan file bantuan OpenTelemetry. Sebagai contoh, lihat tutorial untuk mengumpulkan data metrik OTLP menggunakan file bantuan.