Model Armor menyaring perintah dan respons untuk aplikasi AI Anda. Dasbor pemantauan memberi Anda data, metrik, dan visualisasi yang dihasilkan dari proses penyaringan ini. Gunakan insight ini untuk memahami cara Model Armor melindungi aplikasi AI Anda dan mengidentifikasi upaya injeksi perintah atau aktivitas berbahaya lainnya.
Sebelum memulai
Peran yang diperlukan
Untuk mendapatkan izin yang diperlukan untuk mengakses dasbor pemantauan, minta administrator untuk memberi Anda peran IAM Monitoring Viewer (roles/monitoring.viewer) pada project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk mengakses dasbor pemantauan. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk mengakses dasbor pemantauan:
-
monitoring.monitoredResourceDescriptors.list -
monitoring.metricDescriptors.list
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Melihat dasbor pemantauan
Di Google Cloud konsol, buka halaman Model Armor.
Pastikan Anda melihat project tempat Anda mengaktifkan Model Armor.
Buka tab Monitoring.
Melihat jumlah interaksi yang ditandai atau diblokir
Di dasbor pemantauan, lihat jumlah interaksi, termasuk interaksi yang ditandai dan diblokir. Dasbor pemantauan menampilkan metrik berikut:
- Total interaksi: Jumlah total perintah dan respons yang dianalisis oleh Model Armor.
- Interaksi yang ditandai: Jumlah interaksi yang melanggar kebijakan yang dikonfigurasi di template atau setelan minimum Model Armor Anda.
- Interaksi yang diblokir: Jumlah interaksi yang diblokir jika Anda
mengonfigurasi Model Armor dalam
INSPECT_AND_BLOCKmode. Interaksi yang diblokir ini melanggar setelan atau template minimum.
Memantau pelanggaran keamanan konten
Di diagram Pelanggaran dari waktu ke waktu, pantau jumlah pelanggaran yang terdeteksi dari waktu ke waktu.
Pelanggaran yang terdeteksi dikategorikan ke dalam area berikut:
- Semua detektor: Jumlah total pelanggaran yang terdeteksi oleh semua detektor, termasuk injeksi perintah dan jailbreak, URL berbahaya, AI yang bertanggung jawab, dan data sensitif.
- AI yang bertanggung jawab: Pelanggaran konten yang terdeteksi oleh filter keamanan, seperti pelecehan dan ujaran kebencian. Untuk daftar lengkap kategori AI yang bertanggung jawab, lihat Filter keamanan AI yang bertanggung jawab.
- Data sensitif: Pelanggaran konten yang melibatkan keberadaan jenis informasi sensitif atau jenis informasi kustom yang Anda tentukan. Untuk mengetahui informasi selengkapnya, lihat Perlindungan Data Sensitif.
Untuk mengetahui informasi selengkapnya tentang detektor ini, lihat Filter Model Armor.
Menerapkan filter ke tampilan
Saat Anda menerapkan filter ini di dasbor pemantauan, semua tampilan di dasbor pemantauan akan difilter berdasarkan kriteria yang Anda pilih.
- Template/Setelan minimum: Memfilter tampilan berdasarkan template atau setelan minimum terkait.
- Titik integrasi: Memfilter tampilan berdasarkan integrasi Model Armor.
- Lokasi: Memfilter tampilan berdasarkan tempat interaksi diproses.
- Jenis input: Memfilter tampilan berdasarkan jenis input yang dievaluasi: perintah atau respons.
Memeriksa log terkait
Untuk menjelajahi entri log yang terkait dengan data di dasbor pemantauan, aktifkan logging di template dan setelan minimum Anda. Anda harus memiliki peran IAM yang diperlukan untuk melihat log.
Untuk memeriksa log selama periode yang dipilih, di dasbor pemantauan, klik Opsi diagram lainnya > Periksa log terkait.
Mendownload data pelanggaran ke file PNG atau CSV
Untuk mendownload data pelanggaran ke file PNG atau CSV, ikuti langkah-langkah berikut:
- Di tampilan Pelanggaran dari waktu ke waktu di dasbor pemantauan, pilih periode data yang ingin Anda download.
- Klik Opsi diagram lainnya > Download.
- Klik Download PNG atau Download CSV untuk mendownload data dalam format pilihan Anda.
Langkah berikutnya
- Pelajari tentang logging audit Model Armor.
- Mengonfigurasi logging untuk Model Armor
- Memecahkan masalah Model Armor.