התכונה Agent Anomaly Detection (זיהוי אנומליות אצל סוכנים) מספקת שכבת פיקוח וביקורת דינמית שמבוססת על נימוקים, ומיועדת במיוחד לסוכני AI אוטונומיים בארגונים. בניגוד לכלים רגילים לאבטחת אפליקציות שסורקים רק קוד סטטי כדי לאתר נקודות חולשה או בודקים את תעבורת הרשת בהיקף, זיהוי האנומליות של הסוכן מעריך את עקבות החשיבה בזמן אמת, את האינטראקציות עם הכלים ואת זרימות הביצוע של הסוכנים כדי לזהות כוונות חשודות, הפרות מדיניות ואנומליות התנהגותיות.
הבסיס של זיהוי אנומליות אצל סוכנים הוא מסגרת רב-שכבתית לניתוח אנומליות, שמנתחת את פעילות הסשן של הסוכנים באופן אסינכרוני. על ידי קליטת יומנים ועקבות ביצוע של OpenTelemetry, השירות קובע אם סוכן פועל מחוץ לגבולות המיועדים שלו, בלי להוסיף חביון ביצוע לזרימות העבודה של הסוכן הפעיל.
יתרונות מרכזיים
התכונות של זיהוי אנומליות אצל סוכנים:
| הטבה או תכונה | תיאור |
|---|---|
| אבטחה אסינכרונית כמעט בזמן אמת | הטלמטריה (יומנים ועקבות) מעובדת מחוץ לפס, כדי לשמור על זמני תגובה מהירים של הנציגים. מודל ניתוח רב-שכבתי מאפשר לשמור על יעילות עלויות באמצעות הערכות כמעט בזמן אמת. |
| ניתוח כוונות שמבוסס על נימוקים | ניתוח האנומליות מתבצע על עקבות מסומנים כדי להבחין בין לוגיקה עסקית מורכבת לבין פעולה לא מורשית. |
| זיהוי מקיף של איומים | מבצע ביקורות על סיכוני אבטחה ספציפיים לסוכנים מחוץ לקופסה באמצעות גלאים שמוגדרים כברירת מחדל, שתופסים דפוסי איומים שמפורטים ב-OWASP Top 10 for Agentic Security Threats, כולל שימוש לרעה בכלי, ניצול לרעה של הרשאות, כשלים מדורגים של סוכנים, התנהגויות לא רצויות וניצול משאבים. |
| שילוב עם Security Command Center | ממצאי האנומליות מוצגים ישירות ב-Security Command Center לניהול אבטחה מרכזי, לחיפוש ולמעקב אחר אירועים. מידע על Security Command Center זמין במאמר סקירה כללית של Security Command Center. הערה: כדי להשתמש בשילוב הזה צריך אחת מהמהדורות של Security Command Center: Standard, Premium או Enterprise. |
מערכת זיהוי רב-שכבתית
כדי לאזן בין היקף ההערכה לבין העלות, התכונה 'זיהוי אנומליות אצל סוכנים' משתמשת במערכת זיהוי רב-שכבתית שמנתחת את יומני הסוכנים כדי לזהות סשנים חריגים ולדווח עליהם:
- שכבה 1 (גלאי ML קלים): מודלים סטטיסטיים ומודלים קלים של למידת מכונה במהירות גבוהה מזהים חריגות ראשוניות ומגמות טלמטריה במורד הזרם כדי לבצע דגימת חסר של תנועת הבסיס.
- שכבה 2 (ניתוח אנומליות): ניתוח האנומליות מעריך סשנים שסומנו באופן אסינכרוני כדי להציג פסיקות לגבי איומים והסברים בשפה טבעית.
- שכבה 3 (ניתוח ברמת ההפעלה): ניתוח מעמיק של הפעלות ספציפיות של כלי, מצבי הפעלה והיסטוריית פרמטרים בתוך מעקב השיחה.
זמינות
התכונה 'זיהוי אנומליות אצל סוכנים' זמינה לסוכנים שעומדים בקריטריונים הבאים: סוכנים שעומדים בקריטריונים מזוהים אוטומטית כסוכנים בפיקוח על ידי התכונה'זיהוי אנומליות אצל סוכנים' (השירות מודע לקיום הסוכן, אבל לא מופעלות פעולות ביומני הסוכן ולא נוצרים חיובים). כדי שהניתוח הפעיל של זיהוי אנומליות אצל סוכנים יפעל ביומנים ובמעקבים של סוכן מסוים, צריך להפעיל אותו באופן מפורש.
- זמן ריצה תואם: נפרס ב-Agent Runtime.
- גרסת ADK: נוצרה באמצעות ערכה לפיתוח סוכנים (ADK) ל-Python, גרסה 1.2 ואילך. מומלץ להשתמש בגרסה 2.1.0 ואילך.
- קטגוריות של רישום ביומן וניראות (observability) באזור ארה"ב: זיהוי אנומליות אצל סוכנים זמין כרגע לקטגוריות בארה"ב (במספר אזורים).
- קטגוריות של רישום ביומן וניראות באותו אזור בארה"ב: הקטגוריות של רישום ביומן וניראות נמצאות באותו אזור.
- איסוף טלמטריה: מעקב ורישום ביומן של OpenTelemetry מופעלים באמצעות ADK.
- איסוף מטא-נתונים: טלמטריה גולמית מוגדרת לאיסוף של תוכן הקלט של ההנחיה ותוכן הפלט של התשובה.
- מעקב פעיל: הדגל
enable_tracingלא מוגדר באופן מפורש לערךfalseבהגדרות של ADK. - הרשאות וגישה: לחשבונות השירות של הסורקים האזוריים יש הרשאות קריאה מספיקות ביומנים הפעילים ובקטגוריות של נתוני הניטור. צריך להפעיל את Log Analytics ו-Observability Analytics בקטגוריית היומנים.
- זרימת נתונים פעילה: לסוכן צריכים להיות נתונים פעילים. המערכת לא יכולה לאמת את ההגדרה או לרשום סוכן שאין לו נתוני טלמטריה.
סוכנים שלא עומדים בקריטריונים האלה לא מזוהים על ידי התכונה 'זיהוי אנומליות אצל סוכנים' ולא מופיעים ברשימת הסוכנים למעקב שאפשר להפעיל.
קטגוריות של איומים
התכונה 'זיהוי אנומליות אצל סוכנים' עוקבת ברציפות אחרי פעילויות של סוכנים ומסמנת סיכונים בקטגוריות מרכזיות בהתאם למסגרות אבטחה של סוכנים:
- שימוש לרעה בכלי (OWASP ASI02): זיהוי מקרים שבהם נעשה שימוש בכלים בדרכים לא בטוחות או לא מכוונות, למשל באמצעות שרשור מסוכן של כלים, מניפולציה של פרמטרים או החדרת פרומפטים עקיפה.
- ניצול לרעה של הרשאות זהות (OWASP ASI03): זיהוי פעולות לא מורשות שנובעות מהעברת הרשאות דינמית, מזיוף פרסונה, מהרחבת זיכרון או מנקודות חולשה של סגן מבולבל.
- כשלים מדורגים של סוכנים (OWASP ASI08): מעקב אחר התפשטות של תקלות, לולאות ביצוע אינסופיות, ניסיונות חוזרים מתנדנדים והגברות של לולאות משוב בתהליכי עבודה של סוכנים.
- סוכנים סוררים (OWASP ASI10): דגל מוצג כשסוכן נוטש את התפקיד שהוגדר לו, עוקף את אמצעי ההגנה או חורג מההוראות שהוקצו לו במערכת.
- ניצול יתר של משאבים: זיהוי של צריכת יתר מכוונת או בלתי מבוקרת של משאבי מחשוב, טוקנים של מודלים גדולים של שפה (LLM) או רוחב פס ברשת.
הצטרפות לתוכנית לניסיון זיהוי אנומליות אצל סוכנים
כדי להצטרף לניסיון של זיהוי אנומליות אצל סוכנים, צריך למלא את הטופס הזה: טופס בקשה לגישה לזיהוי אנומליות אצל סוכנים.
שימוש בזיהוי אנומליות אצל סוכנים
אם כבר הצטרפתם לשימוש בזיהוי אנומליות אצל סוכנים, תוכלו לקרוא את הוראות השימוש במאמר בנושא זיהוי אנומליות אצל סוכנים.