Melihat dasbor pemantauan

Model Armor menyaring perintah dan respons untuk aplikasi AI Anda. Dasbor pemantauan memberi Anda data, metrik, dan visualisasi yang dihasilkan dari proses penyaringan ini. Gunakan insight ini untuk memahami cara Model Armor melindungi aplikasi AI Anda dan mengidentifikasi upaya injeksi perintah atau aktivitas berbahaya lainnya.

Sebelum memulai

Aktifkan Model Armor.

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk mengakses dasbor pemantauan, minta administrator untuk memberi Anda peran IAM Monitoring Viewer (roles/monitoring.viewer) di project. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk mengakses dasbor pemantauan. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk mengakses dasbor pemantauan:

• monitoring.monitoredResourceDescriptors.list
• monitoring.metricDescriptors.list

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Melihat dasbor pemantauan

1. Di Google Cloud konsol, buka halaman Model Armor.

   Buka Model Armor

2. Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.

3. Buka tab Monitoring.

Memantau penggunaan dan performa Model Armor

Untuk memantau penggunaan dan performa Model Armor secara mendetail, Anda dapat menggunakan jenis metrik tertentu yang tersedia dalam Cloud Monitoring. Jenis metrik berikut tersedia:

• modelarmor.googleapis.com/template/request_count: Jumlah permintaan SanitizeAPI
• modelarmor.googleapis.com/template/pi_jb_request_count: Jumlah filter injeksi perintah dan jailbreak
• modelarmor.googleapis.com/template/rai_request_count: Jumlah filter Responsible AI
• modelarmor.googleapis.com/template/sdp_request_count: Jumlah filter Sensitive Data Protection
• modelarmor.googleapis.com/template/malicious_uri_request_count: Jumlah filter URI berbahaya
• modelarmor.googleapis.com/template/used_token_count: Jumlah token yang digunakan

Untuk mengetahui informasi selengkapnya, lihat Jenis metrik Model Armor.

Melihat jumlah interaksi yang ditandai atau diblokir

Di dasbor pemantauan, lihat jumlah interaksi, termasuk interaksi yang ditandai dan diblokir. Dasbor pemantauan menampilkan metrik berikut:

• Total interaksi: Jumlah total perintah dan respons yang dianalisis oleh Model Armor.
• Interaksi yang ditandai: Jumlah interaksi yang melanggar kebijakan yang dikonfigurasi dalam template Model Armor atau setelan minimum Anda.
• Interaksi yang diblokir: Jumlah interaksi yang diblokir jika Anda mengonfigurasi Model Armor dalam INSPECT_AND_BLOCK mode. Interaksi yang diblokir ini melanggar setelan minimum atau template.

Memantau pelanggaran keamanan konten

Di diagram Pelanggaran dari waktu ke waktu, pantau jumlah pelanggaran yang terdeteksi dari waktu ke waktu.

Pelanggaran yang terdeteksi dikategorikan ke dalam area berikut:

• Injeksi perintah dan jailbreak: Pelanggaran konten yang menunjukkan adanya perintah yang berisi perintah berbahaya atau upaya jailbreak. Untuk mengetahui informasi selengkapnya, lihat Deteksi injeksi perintah dan jailbreak.
• URL berbahaya: Pelanggaran konten yang menunjukkan adanya URL berbahaya. Untuk mengetahui informasi selengkapnya, lihat Deteksi URL berbahaya.
• Responsible AI: Pelanggaran konten yang terdeteksi oleh filter keamanan, seperti pelecehan dan ujaran kebencian. Untuk mengetahui daftar lengkap kategori Responsible AI, lihat Filter keamanan Responsible AI.
• Data sensitif: Pelanggaran konten yang melibatkan adanya jenis informasi sensitif atau jenis informasi kustom yang Anda tentukan. Untuk mengetahui informasi selengkapnya, lihat Sensitive Data Protection.

Untuk mengetahui informasi selengkapnya tentang detektor ini, lihat Filter Model Armor.

Menerapkan filter ke tampilan

Saat Anda menerapkan filter ini di dasbor pemantauan, semua tampilan di dasbor pemantauan akan difilter berdasarkan kriteria yang Anda pilih:

• Template/Setelan minimum: Memfilter tampilan berdasarkan template atau setelan minimum terkait.
• Titik integrasi: Memfilter tampilan berdasarkan integrasi Model Armor.
• Lokasi: Memfilter tampilan berdasarkan tempat interaksi diproses.
• Jenis input: Memfilter tampilan berdasarkan jenis input yang dievaluasi: perintah atau respons.

Memeriksa log terkait

Untuk menjelajahi entri log yang terkait dengan data di dasbor pemantauan, aktifkan logging di template atau setelan minimum Anda. Anda harus memiliki peran IAM yang diperlukan untuk melihat log.

Untuk memeriksa log selama periode yang dipilih, di dasbor pemantauan, klik Opsi diagram lainnya > Periksa log terkait.

Mendownload data pelanggaran ke file PNG atau CSV

Untuk mendownload data pelanggaran ke file PNG atau CSV, ikuti langkah-langkah berikut:

1. Di tampilan Pelanggaran dari waktu ke waktu di dasbor pemantauan, pilih periode data yang ingin Anda download.
2. Klik Opsi diagram lainnya > Download.
3. Klik Download PNG atau Download CSV untuk mendownload data dalam format pilihan Anda.

Langkah berikutnya

• Pelajari tentang logging audit Model Armor.
• Mengonfigurasi logging untuk Model Armor
• Memecahkan masalah Model Armor.