Ringkasan Agent Anomaly Detection

Deteksi Anomali Agen menyediakan pengawasan berbasis penalaran yang dinamis dan lapisan audit yang dirancang khusus untuk agen AI perusahaan otonom. Tidak seperti alat keamanan aplikasi konvensional yang hanya memindai kode statis untuk mencari kerentanan atau memeriksa traffic jaringan di perimeter, Deteksi Anomali Agen mengevaluasi jejak penalaran live, interaksi alat, dan alur eksekusi agen untuk mendeteksi niat mencurigakan, pelanggaran kebijakan, dan anomali perilaku.

Inti dari Deteksi Anomali Agen adalah framework analisis anomali multi-layer yang menganalisis aktivitas sesi agen secara asinkron. Dengan menyerap log dan rekaman aktivitas eksekusi OpenTelemetry, layanan menentukan apakah agen beroperasi di luar batas yang dimaksudkan tanpa menimbulkan latensi eksekusi ke dalam alur kerja agen live Anda.

Manfaat utama

Agent Anomaly Detection mencakup fitur berikut:

Manfaat atau Fitur Deskripsi
Keamanan hampir real-time asinkron Telemetri (log dan rekaman aktivitas) diproses di luar band, sehingga mempertahankan waktu respons agen yang cepat. Model analisis multi-layer memungkinkan pemeliharaan efisiensi biaya dengan penilaian hampir real-time.
Analisis maksud berbasis penalaran Alasan analisis anomali atas rekaman aktivitas yang ditandai untuk membedakan logika bisnis yang kompleks dari tindakan yang tidak sah.
Deteksi ancaman komprehensif Mengaudit risiko keamanan khusus agen secara langsung dengan detektor default yang mencatat pola ancaman yang diuraikan dalam OWASP Top 10 untuk Ancaman Keamanan Agentic, termasuk penyalahgunaan alat, penyalahgunaan hak istimewa, kegagalan agen bertingkat, perilaku tidak sah, dan kehabisan resource.
Integrasi dengan Security Command Center Temuan anomali ditampilkan langsung di Security Command Center untuk pengelolaan keamanan, penelusuran, dan pelacakan insiden yang terpusat. Untuk mengetahui informasi tentang Security Command Center, lihat Ringkasan Security Command Center. Catatan: Integrasi ini memerlukan salah satu tingkat yang didukung Security Command Center: Standard, Premium, atau Enterprise.

Sistem deteksi berlapis

Untuk menyeimbangkan cakupan dan biaya penilaian, Deteksi Anomali Agen menggunakan sistem deteksi berlapis yang menganalisis log agen untuk mengidentifikasi dan melaporkan sesi yang tidak wajar:

  • Lapisan 1 (Detektor ML ringan): Model machine learning ringan dan statistik berkecepatan tinggi mengidentifikasi pencilan awal dan tren telemetri hilir untuk mengurangi sampel traffic dasar.
  • Lapisan 2 (Analisis anomali): Analisis anomali mengevaluasi sesi yang ditandai secara asinkron untuk memberikan putusan ancaman dan alasan penjelasan bahasa alami.
  • Lapisan 3 (Analisis tingkat pemanggilan): Melakukan analisis mendalam terhadap setiap eksekusi alat, status eksekusi, dan histori parameter dalam rekaman aktivitas percakapan.

Ketersediaan

Agent Anomaly Detection tersedia untuk agen yang memenuhi kriteria berikut. Agen yang memenuhi kriteria akan otomatis dikenali sebagai agen yang dipantau oleh Deteksi Anomali Agen (layanan ini mengetahui keberadaan agen, tetapi tidak ada yang dijalankan di log agen dan tidak ada biaya yang dikeluarkan). Anda harus mengaktifkan agen yang dipantau secara eksplisit agar Deteksi Anomali Agen untuk analisis anomali aktif dapat berjalan di log dan rekaman aktivitasnya.

  • Runtime yang kompatibel: Di-deploy di Agent Runtime.
  • Versi ADK: Dibangun menggunakan Agent Development Kit (ADK) untuk Python, versi 1.2 atau yang lebih baru. Versi 2.1.0 atau yang lebih baru direkomendasikan.
  • Bucket Logging dan Observability wilayah AS: Deteksi Anomali Agen saat ini tersedia untuk bucket AS (multi-region).
  • Bucket Logging dan Observability di region AS yang sama: Bucket logging dan observabilitas berada di region yang sama.
  • Pengambilan telemetri: Pelacakan dan logging OpenTelemetry diaktifkan menggunakan ADK.
  • Pengambilan metadata: Telemetri mentah dikonfigurasi untuk merekam konten input perintah dan output respons.
  • Pelacakan aktif: Flag enable_tracing tidak ditetapkan secara eksplisit ke false dalam konfigurasi ADK.
  • Izin dan akses: Akun layanan pemindai regional memiliki izin pembaca yang memadai atas log aktif dan bucket observabilitas. Bucket log harus mengaktifkan Log Analytics dan Observability Analytics.
  • Aliran data aktif: Agen harus memiliki data aktif; sistem tidak dapat memverifikasi konfigurasi atau mendaftarkan agen yang tidak memiliki data telemetri.

Agen yang tidak memenuhi kriteria ini tidak dapat ditemukan oleh Deteksi Anomali Agen dan tidak muncul dalam daftar agen yang dipantau untuk diaktifkan.

Kategori ancaman

Agent Anomaly Detection terus memantau aktivitas agen dan menandai risiko di seluruh kategori utama yang selaras dengan framework keamanan agentic:

  • Penyalahgunaan alat (OWASP ASI02): Mendeteksi saat alat digunakan dengan cara yang tidak aman atau tidak diinginkan, seperti melalui rangkaian alat berbahaya, manipulasi parameter, atau injeksi perintah tidak langsung.
  • Penyalahgunaan hak istimewa identitas (OWASP ASI03): Mengidentifikasi tindakan tidak sah yang dihasilkan dari delegasi kepercayaan dinamis, pemalsuan persona, eskalasi memori, atau kerentanan wakil yang bingung.
  • Kegagalan berjenjang agentic (OWASP ASI08): Memantau propagasi kesalahan, loop eksekusi tanpa batas, percobaan ulang berosilasi, dan amplifikasi loop umpan balik di seluruh alur kerja agen.
  • Agen berbahaya (OWASP ASI10): Ditandai saat agen meninggalkan peran yang dideklarasikan, melewati batas keamanan, atau menyimpang dari petunjuk sistem yang ditetapkan.
  • Kehabisan resource: Mendeteksi konsumsi berlebihan yang disengaja atau tidak terkendali pada komputasi, token LLM, atau bandwidth jaringan.

Memilih untuk mencoba Agent Anomaly Detection

Untuk mengaktifkan fitur Deteksi Anomali Agen, isi formulir ini: Formulir permintaan akses Deteksi Anomali Agen.

Menggunakan Agent Anomaly Detection

Jika Anda sudah memilih untuk menggunakan Deteksi Anomali Agen, lihat Deteksi Anomali Agen untuk mengetahui petunjuk penggunaannya.