התכונה "זיהוי אנומליות אצל סוכנים" מספקת שכבת פיקוח וביקורת דינמית שמבוססת על הסקת מסקנות, ומיועדת במיוחד לסוכני AI אוטונומיים בארגונים. בניגוד לכלי אבטחה רגילים של אפליקציות, שרק סורקים קוד סטטי כדי לאתר נקודות חולשה או בודקים את התנועה ברשת בהיקף, התכונה "זיהוי אנומליות אצל סוכנים" מעריכה את עקבות החשיבה הרציונלית בזמן אמת, את האינטראקציות בין הכלים ואת תהליכי ההפעלה של הסוכנים באמצעות גלאים מובנים כדי לזהות כוונה חשודה, הפרות מדיניות ואנומליות בהתנהגות.
הליבה של "זיהוי אנומליות אצל סוכנים" היא מסגרת לניתוח אנומליות בכמה שכבות, שמנתחת את הפעילות בסשנים של הסוכנים באופן אסינכרוני. השירות מקבל את יומני OpenTelemetry ואת נתוני המעקב אחרי הביצוע, וקובע אם הסוכן פועל מחוץ לגבולות שהוגדרו לו בלי להוסיף זמן אחזור לביצוע בתהליכי העבודה של הסוכן הפעיל.
יתרונות מרכזיים
התכונה "זיהוי אנומליות אצל סוכנים" כוללת את היכולות הבאות:
| הטבה או תכונה | תיאור |
|---|---|
| אבטחה אסינכרונית כמעט בזמן אמת | הטלמטריה (יומנים ועקבות) מעובדת מחוץ לפס, וכך נשמרים זמני תגובה מהירים של הנציג. מודל ניתוח רב-שכבתי מאפשר לשמור על יעילות תקציבית באמצעות הערכות כמעט בזמן אמת. |
| ניתוח כוונות שמבוסס על הסקת מסקנות | ניתוח אנומליות מבוסס על מעקבים מסומנים כדי להבדיל בין לוגיקה עסקית מורכבת לבין פעולה לא מורשית. |
| זיהוי איומים מקיף | מבצע ביקורת על סיכוני אבטחה ספציפיים לסוכנים, באמצעות גלאי ברירת מחדל שמזהים דפוסי איומים שמפורטים ב-OWASP Top 10 for Agentic Security Threats, כולל שימוש לרעה בכלים, ניצול לרעה של הרשאות, כשלים משורשרים של סוכנים, התנהגויות זדוניות וניצול יתר של משאבים. |
| שילוב עם Security Command Center | ממצאי האנומליות מוצגים ישירות ב-Security Command Center לצורך ניהול אבטחה, חיפוש ומעקב אחר אירועים באופן מרוכז. למידע נוסף על Security Command Center, קראו את הסקירה הכללית של Security Command Center. הערה: כדי להשתמש בשילוב הזה, צריך להשתמש באחת מהרמות שנתמכות ב-Security Command Center: Standard, Premium או Enterprise. |
| שילוב עם Cloud Monitoring | מדדי הזיהוי והכיסוי נכתבים ב-Cloud Monitoring, שם אפשר להציג אותם בתרשימים, להוסיף אותם ללוחות בקרה ולהשתמש בהם בכללי מדיניות התראה. פרטים נוספים זמינים במאמר מעקב אחרי מדדי אנומליות ב-Cloud Monitoring. |
מה חדש?
ב-22 באוקטובר 2026 נוספו התכונות הבאות לגרסת טרום-ההשקה של זיהוי אנומליות אצל סוכנים:
- תמיכה ב-ADK ב-Google Kubernetes Engine: מעקב אחרי סוכנים שנוצרו באמצעות ערכת הפיתוח לסוכנים (ADK) (גרסה 2.1.0 ואילך) ונפרסו באשכולות GKE (
GKE_WORKLOAD). - תמיכה ב-Cloud Run: מעקב אחרי סוכנים שנפרסו כשירותי Cloud Run (
CLOUD_RUN_SERVICE). כשמייצאים את המעקבים של OpenTelemetry ל-Cloud Trace ואת היומנים ל-Cloud Logging, שירותי Cloud Run מזוהים באופן אוטומטי ומופיעים בדף Settings, שבו אפשר להפעיל אותם לזיהוי אנומליות אצל סוכנים.
מערכת זיהוי רב-שכבתית
כדי לאזן בין היקף ההערכה לבין העלות, התכונה "זיהוי אנומליות אצל סוכנים" משתמשת במערכת זיהוי רב-שכבתית שמנתחת את יומני הפעילות של הסוכנים כדי לזהות סשנים חריגים ולדווח עליהם:
- שכבה 1 (גלאי ML קלים): מודלים סטטיסטיים מהירים ומודלים קלים של למידת מכונה מזהים חריגות ראשוניות ומגמות טלמטריה במורד הזרם כדי לדגום תנועה בסיסית.
- שכבה 2 (ניתוח חריגות): ניתוח חריגות מעריך סשנים שסומנו באופן אסינכרוני כדי להציג החלטות לגבי איומים והסברים בשפה טבעית.
- שכבה 3 (ניתוח ברמת ההפעלה): ניתוח מעמיק של הפעלות של כלים ספציפיים, מצבי הפעלה והיסטוריית פרמטרים בתוך מעקב השיחה.
זמינות
התכונה "זיהוי אנומליות אצל סוכנים" זמינה לסוכנים שעומדים בקריטריונים הבאים. סוכנים שעומדים בקריטריונים מזוהים באופן אוטומטי כסוכנים במעקב על ידי זיהוי אנומליות אצל סוכנים (השירות מודע לקיומו של הסוכן, אבל לא מריץ שום דבר ביומנים של הסוכן ולא כרוך בעלויות). כדי להפעיל ניתוח אנומליות פעיל ביומנים ובמעקבים של סוכן מנוטר, צריך להפעיל אותו באופן מפורש לזיהוי אנומליות אצל סוכנים.
- סביבת זמן ריצה תואמת: פריסה ב-Agent Runtime (מנוע חשיבה רציונלית), ב-Cloud Run (
CLOUD_RUN_SERVICE) או ב-Google Kubernetes Engine (GKE_WORKLOAD). - גרסת ADK: נוצר באמצעות ADK ל-Python, גרסה 2.1.0 ואילך.
- קטגוריות של רישום ביומן וניטור: שתי הקטגוריות צריכות להיות באותו מיקום כמו ההיקף של זיהוי אנומליות אצל סוכנים (למשל, במספר אזורים בארה"ב או באיחוד האירופי). במסגרת היקף ההרשאות במספר אזורים בארה"ב, הם יכולים להיות גם במיקום
global(למשל, קטגוריית ברירת המחדל לרישום ביומן_Default). כדי להגדיר היקף במספר אזורים באיחוד האירופי, צריך להשתמש בקטגוריית רישום במיקוםeu. - תיעוד נתוני טלמטריה: מעקב ורישום ביומן של OpenTelemetry מופעלים באמצעות ה-ADK.
- תיעוד מטא-נתונים: הטלמטריה הגולמית מוגדרת לתעד את תוכן הקלט של ההנחיה ואת תוכן הפלט של התשובה.
- מעקב פעיל: הדגל
enable_tracingלא מוגדר באופן מפורש לערךfalseבהגדרות של ה-ADK. - הרשאות וגישה: לחשבונות השירות של הסורקים האזוריים יש הרשאות קריאה מספיקות ביומנים הפעילים ובקטגוריות של יכולת התצפית. בקטגוריית היומנים צריך להפעיל את ניתוח נתוני היומן ואת Observability Analytics.
- זרימת נתונים פעילה: לסוכן חייבים להיות נתונים פעילים. המערכת לא יכולה לאמת את ההגדרות או לרשום סוכן שאין לו נתוני טלמטריה.
סוכנים שלא עומדים בקריטריונים האלה לא מזוהים על ידי זיהוי אנומליות אצל סוכנים ולא מופיעים ברשימת הסוכנים המנוטרים שאפשר להפעיל.
קטגוריות של איומים
התכונה "זיהוי אנומליות אצל סוכנים" עוקבת באופן רציף אחרי הפעילויות של הסוכנים ומסמנת סיכונים בקטגוריות מרכזיות שתואמות למסגרות אבטחה של סוכנים:
- שימוש לרעה בכלים (OWASP ASI02): זיהוי מקרים שבהם נעשה שימוש בכלים בדרכים לא בטוחות או לא מכוונות, כמו שרשור כלים מסוכן, שינוי פרמטרים או החדרת פרומפטים עקיפה.
- Identity privilege abuse (OWASP ASI03): זיהוי פעולות לא מורשות שנובעות מהעברת הרשאות דינמית, זיוף זהות, הסלמת זיכרון או נקודות חולשה של confused deputy.
- כשלים משורשרים של סוכנים (OWASP ASI08): מעקב אחרי התפשטות תקלות, לולאות אינסופיות של הרצה, ניסיונות חוזרים מתנדנדים והגברות של לולאות משוב בתהליכי עבודה של סוכנים.
- סוכנים סוררים (OWASP ASI10): זיהוי מקרים שבהם סוכן נוטש את התפקיד המוצהר שלו, עוקף את אמצעי ההגנה או חורג מההוראות שהוקצו למערכת.
- ניצול יתר של משאבים: זיהוי צריכת יתר מכוונת או בלתי נשלטת של משאבי מחשוב, טוקנים של LLM או רוחב פס ברשת.
איך מצטרפים לתוכנית הבטא של זיהוי אנומליות אצל סוכנים
כדי להביע הסכמה לנסות את זיהוי האנומליות אצל סוכנים, מלאו את טופס הבקשה לגישה לזיהוי אנומליות אצל סוכנים.
איך משתמשים בתכונה "זיהוי אנומליות אצל סוכנים"
אם כבר הצטרפתם לשימוש בזיהוי אנומליות אצל סוכנים, קראו את הוראות השימוש במאמר זיהוי אנומליות אצל סוכנים.