Agenten-Anomalieerkennung – Übersicht

Die Agenten-Anomalieerkennung bietet eine dynamische, auf Schlussfolgerungen basierende Überwachungs- und Auditebene, die speziell für autonome KI-Agenten in Unternehmen entwickelt wurde. Im Gegensatz zu herkömmlichen Tools für die Anwendungssicherheit, die nur statischen Code auf Schwachstellen scannen oder den Netzwerk-Traffic am Perimeter prüfen, bewertet die Agenten-Anomalieerkennung die Live-Schlussfolgerungs-Traces, Tool-Interaktionen und Ausführungsabläufe von Agenten, um verdächtige Absichten, Richtlinienverstöße und Verhaltensanomalien zu erkennen.

Das Herzstück der Agenten-Anomalieerkennung ist ein mehrschichtiges Framework zur Anomalieanalyse, das die Aktivität von Agentensitzungen asynchron analysiert. Durch die Aufnahme von OpenTelemetry-Logs und Ausführungs-Traces ermittelt der Dienst, ob ein Agent außerhalb seiner vorgesehenen Grenzen agiert, ohne die Ausführungslatenz in Ihren Live-Agenten-Workflows zu erhöhen.

Hauptvorteile

Die Agenten-Anomalieerkennung umfasst folgende Funktionen:

Vorteil oder Funktion Beschreibung
Asynchrone Sicherheit in Echtzeit Die Telemetriedaten (Logs und Traces) werden außerhalb des Bandes verarbeitet, wodurch schnelle Reaktionszeiten des Agenten gewährleistet werden. Ein mehrschichtiges Analysemodell ermöglicht kosteneffiziente Bewertungen in Echtzeit.
Schlussfolgerungsbasierte Absichtsanalyse Bei der Anomalieanalyse werden markierte Traces analysiert, um komplexe Geschäftslogik von nicht autorisierten Aktionen zu unterscheiden.
Umfassende Bedrohungserkennung Agentenspezifische Sicherheitsrisiken werden standardmäßig mit Standarddetektoren geprüft, die Bedrohungsmuster erfassen, die in den OWASP Top 10 für agentenbasierte Sicherheitsbedrohungen beschrieben sind, darunter Tool-Missbrauch, Berechtigungsmissbrauch, kaskadierende Agentenfehler, betrügerisches Verhalten und Ressourcenerschöpfung.
Integration mit Security Command Center Anomalieergebnisse werden direkt in Security Command Center angezeigt, um die Sicherheit zentral zu verwalten, zu suchen und Vorfälle zu verfolgen. Informationen zu Security Command Center finden Sie unter Übersicht über Security Command Center. Hinweis: Für diese Integration ist eine der von Security Command Center unterstützten Stufen erforderlich: Standard, Premium oder Enterprise.

Mehrschichtiges Erkennungssystem

Um die Abdeckung der Bewertung und die Kosten auszugleichen, verwendet die Agenten-Anomalieerkennung ein mehrschichtiges Erkennungssystem, das Agentenlogs analysiert, um anomale Sitzungen zu identifizieren und zu melden:

  • Ebene 1 (leichte ML-Detektoren): Mit statistischen und leichten Modellen für maschinelles Lernen werden erste Ausreißer und nachgelagerte Telemetrietrends identifiziert, um den Baseline-Traffic zu reduzieren.
  • Ebene 2 (Anomalieanalyse): Bei der Anomalieanalyse werden markierte Sitzungen asynchron ausgewertet, um Bedrohungsurteile und Erklärungen in natürlicher Sprache zu liefern.
  • Ebene 3 (Analyse auf Aufrufebene): Führt eine detaillierte Analyse einzelner Tool-Ausführungen, Ausführungsstatus und Parameterverläufe im Konversations-Trace durch.

Verfügbarkeit

Die Agenten-Anomalieerkennung ist für Agenten verfügbar, die die folgenden Kriterien erfüllen. Agenten, die die Kriterien erfüllen, werden von der Agenten-Anomalieerkennung automatisch als überwachte Agenten erkannt. Der Dienst ist sich der Existenz des Agenten bewusst, aber es werden keine Vorgänge für die Logs des Agenten ausgeführt und es fallen keine Kosten an. Sie müssen einen überwachten Agenten explizit für die Agenten-Anomalieerkennung aktivieren , damit eine aktive Anomalieanalyse für seine Logs und Traces ausgeführt werden kann.

  • Kompatible Laufzeitumgebung: In der Agent Runtime bereitgestellt.
  • ADK-Version: Mit dem Agent Development Kit (ADK) für Python, Version 1.2 oder höher, erstellt. Version 2.1.0 oder höher wird empfohlen.
  • Buckets für Logging und Observability in der Region USA: Die Agenten-Anomalieerkennung ist derzeit für Buckets der Region USA (mehrere Regionen) verfügbar.
  • Buckets für Logging und Observability in derselben Region USA: Die Buckets für Logging und Observability befinden sich in derselben Region.
  • Telemetrieerfassung: OpenTelemetry-Tracing und -Logging sind mit dem ADK aktiviert.
  • Metadatenerfassung: Die Rohdaten der Telemetrie sind so konfiguriert, dass sie die Eingabe von Prompts und die Ausgabedaten erfassen.
  • Aktives Tracing: Das Flag enable_tracing ist in der ADK-Konfiguration nicht explizit auf false gesetzt.
  • Berechtigungen und Zugriff: Die Dienstkonten der regionalen Scanner haben ausreichende Leserberechtigungen für die aktiven Logs und Observability Buckets. Für den Log-Bucket müssen Loganalysen und Observability Analytics aktiviert sein.
  • Aktiver Datenfluss: Der Agent muss aktive Daten haben. Das System kann die Konfiguration nicht überprüfen oder einen Agenten registrieren, der keine Telemetrie daten hat.

Agenten, die diese Kriterien nicht erfüllen, können von der Agenten-Anomalieerkennung nicht erkannt werden und werden nicht in der Liste der überwachten Agenten angezeigt, die aktiviert werden können.

Bedrohungskategorien

Die Agenten-Anomalieerkennung überwacht kontinuierlich die Aktivitäten von Agenten und kennzeichnet Risiken in wichtigen Kategorien, die auf agentenbasierten Sicherheitsframeworks basieren:

  • Tool-Missbrauch (OWASP ASI02): Erkennt, wenn Tools auf unsichere oder unbeabsichtigte Weise verwendet werden, z. B. durch gefährliche Tool-Verkettung, Parametermodifikation oder indirekte Prompt-Injection.
  • Missbrauch von Identitätsberechtigungen (OWASP ASI03): Erkennt nicht autorisierte Aktionen, die auf dynamischer Vertrauensdelegierung, Persona-Fälschung, Speicher-Escalation oder Confused Deputy-Schwachstellen beruhen.
  • Kaskadierende Agentenfehler (OWASP ASI08): Überwacht die Fehlerweiterleitung, unendliche Ausführungsschleifen, oszillierende Wiederholungen und Feedbackschleifen verstärkungen in Agenten-Workflows.
  • Betrügerische Agenten (OWASP ASI10): Kennzeichnet, wenn ein Agent seine deklarierte Rolle verlässt, Sicherheitsvorkehrungen umgeht oder von zugewiesenen System anweisungen abweicht.
  • Ressourcenerschöpfung: Erkennt die absichtliche oder unkontrollierte Übernutzung von Rechenleistung, LLM-Tokens oder Netzwerkbandbreite.

Für die Agenten-Anomalieerkennung registrieren

Wenn Sie die Agenten-Anomalieerkennung testen möchten, füllen Sie dieses Formular aus: Anfrageformular für den Zugriff auf die Agenten-Anomalieerkennung.

Agenten-Anomalieerkennung verwenden

Wenn Sie sich bereits für die Nutzung der Agenten-Anomalieerkennung registriert haben, finden Sie unter Agenten-Anomalieerkennung eine Anleitung zur Verwendung.