Agenten-Anomalieerkennung – Übersicht

Die Agenten-Anomalieerkennung bietet eine dynamische, auf Schlussfolgerungen basierende Überwachungs- und Prüfschicht, die speziell für autonome KI-Agenten in Unternehmen entwickelt wurde. Im Gegensatz zu herkömmlichen Tools für die Anwendungssicherheit, die nur statischen Code auf Sicherheitslücken scannen oder den Netzwerkverkehr am Perimeter prüfen, wertet die Agent-Anomalieerkennung die Live-Reasoning-Traces, Tool-Interaktionen und Ausführungsabläufe von Agenten mithilfe integrierter Detektoren aus, um verdächtige Absichten, Richtlinienverstöße und Verhaltensanomalien zu erkennen.

Das Herzstück der Agenten-Anomalieerkennung ist ein mehrschichtiges Framework für die Anomalieanalyse, das die Sitzungsaktivität von Agenten asynchron analysiert. Durch das Erfassen von OpenTelemetry-Logs und ‑Ausführungs-Traces ermittelt der Dienst, ob ein Agent außerhalb der vorgesehenen Grenzen arbeitet, ohne dass die Ausführungslatenz in Ihren Live-Agent-Workflows erhöht wird.

Hauptvorteile

Die KI-Agenten-Anomalieerkennung umfasst die folgenden Funktionen:

Vorteil oder Funktion Beschreibung
Asynchrone Sicherheit nahezu in Echtzeit Telemetriedaten (Logs und Traces) werden Out-of-Band verarbeitet, sodass die Antwortzeiten des KI-Agenten schnell bleiben. Ein mehrschichtiges Analysemodell ermöglicht es, die Kosteneffizienz mit Bewertungen nahezu in Echtzeit aufrechtzuerhalten.
Logikbasierte Intent-Analyse Die Anomalieanalyse untersucht markierte Traces, um komplexe Geschäftslogik von nicht autorisierten Aktionen zu unterscheiden.
Umfassende Bedrohungserkennung Prüft sofort einsatzbereit agentenspezifische Sicherheitsrisiken mit Standarddetektoren, die Bedrohungsmuster aus den OWASP Top 10 für agentische Sicherheitsbedrohungen erfassen, einschließlich Tool-Missbrauch, Missbrauch von Berechtigungen, kaskadierenden Agentenausfällen, bösartigem Verhalten und Ressourcenerschöpfung.
Integration in Security Command Center Anomalieergebnisse werden direkt im Security Command Center angezeigt, um die Sicherheitsverwaltung, Suche und Vorfallverfolgung zu zentralisieren. Informationen zum Security Command Center finden Sie unter Security Command Center – Übersicht. Hinweis: Für diese Integration ist eine der vom Security Command Center unterstützten Stufen erforderlich: Standard, Premium oder Enterprise.
Integration in Cloud Monitoring Erkennungs- und Abdeckungsmesswerte werden in Cloud Monitoring geschrieben, wo Sie sie in Diagrammen darstellen, Dashboards hinzufügen und in Benachrichtigungsrichtlinien verwenden können. Weitere Informationen finden Sie unter Anomaliemesswerte in Cloud Monitoring überwachen.

Das ist neu

Die folgenden Funktionen wurden am 22. Oktober 2026 zur Vorabversion der Agenten-Anomalieerkennung hinzugefügt:

  • Unterstützung für ADK in der Google Kubernetes Engine: Sie können Agenten überwachen, die mit dem Agent Development Kit (ADK) (Version 2.1.0 oder höher) erstellt und in Ihren GKE-Clustern (GKE_WORKLOAD) bereitgestellt wurden.
  • Unterstützung für Cloud Run: Überwachen Sie Agenten, die als Cloud Run-Dienste (CLOUD_RUN_SERVICE) bereitgestellt werden. Wenn Sie OpenTelemetry-Traces nach Cloud Trace und Logs nach Cloud Logging exportieren, werden Cloud Run-Dienste automatisch erkannt und auf der Seite „Einstellungen“ aufgeführt. Dort können Sie sie für die Agent-Anomalieerkennung aktivieren.

Mehrstufiges Erkennungssystem

Um die Abdeckung der Bewertung und die Kosten in Einklang zu bringen, verwendet die Agent-Anomalieerkennung ein mehrschichtiges Erkennungssystem, das Agent-Protokolle analysiert, um anomale Sitzungen zu identifizieren und zu melden:

  • Ebene 1 (Lightweight-ML-Detektoren): Schnelle statistische und Lightweight-Modelle für maschinelles Lernen identifizieren erste Ausreißer und nachgelagerte Telemetrietrends, um den Baseline-Traffic zu reduzieren.
  • Ebene 2 (Anomalieanalyse): Bei der Anomalieanalyse werden gemeldete Sitzungen asynchron bewertet, um Bedrohungsurteile und Erklärungen in natürlicher Sprache zu liefern.
  • Ebene 3 (Analyse auf Aufrufebene): Führt eine detaillierte Analyse einzelner Toolausführungen, Ausführungsstatus und Parameterverläufe im Unterhaltungstrace durch.

Verfügbarkeit

Die Agenten-Anomalieerkennung ist für Agenten verfügbar, die die folgenden Kriterien erfüllen. Agenten, die die Kriterien erfüllen, werden von der Agent-Anomalieerkennung automatisch als überwachte Agenten erkannt. Der Dienst ist sich der Existenz des Agenten bewusst, aber es wird nichts in den Logs des Agenten ausgeführt und es fallen keine Kosten an. Sie müssen einen überwachten Agenten für die Agenten-Anomalieerkennung explizit aktivieren, damit die aktive Anomalieanalyse für seine Logs und Traces ausgeführt wird.

  • Kompatible Laufzeit: Bereitgestellt in Agent Runtime (Reasoning Engine), Cloud Run (CLOUD_RUN_SERVICE) oder Google Kubernetes Engine (GKE_WORKLOAD).
  • ADK-Version: Erstellt mit ADK for Python, Version 2.1.0 oder höher.
  • Logging- und Beobachtbarkeits-Buckets: Beide Buckets müssen sich am selben Standort wie der Bereich für die Agenten-Anomalieerkennung befinden (z. B. in der Multiregion „US“ oder „EU“). Für einen Bereich in der multiregionalen Region „US“ können sie sich auch am Standort global befinden (z. B. im Standard-Logging-Bucket _Default). Verwenden Sie für einen Bereich in der Multiregion EU einen Logging-Bucket am Standort eu.
  • Telemetrieerfassung: OpenTelemetry-Tracing und -Logging werden mit dem ADK aktiviert.
  • Metadatenerfassung: Rohe Telemetriedaten werden so konfiguriert, dass Prompt-Eingaben und Antwortausgaben erfasst werden.
  • Aktives Tracing: Das Flag enable_tracing ist in der ADK-Konfiguration nicht explizit auf false gesetzt.
  • Berechtigungen und Zugriff: Die Dienstkonten der regionalen Scanner haben ausreichende Leseberechtigungen für die aktiven Logs und Observability-Buckets. Für den Log-Bucket müssen Loganalyse und Observability Analytics aktiviert sein.
  • Aktiver Datenfluss: Der Agent muss aktive Daten haben. Das System kann die Konfiguration nicht prüfen oder einen Agent registrieren, der keine Telemetriedaten hat.

Agents, die diese Kriterien nicht erfüllen, können von der Agent-Anomalieerkennung nicht erkannt werden und werden nicht in der Liste der zu aktivierenden überwachten Agents angezeigt.

Bedrohungskategorien

Die KI-Agenten-Anomalieerkennung überwacht kontinuierlich die Aktivitäten von KI-Agenten und meldet Risiken in wichtigen Kategorien, die auf Sicherheitsframeworks für KI-Agenten abgestimmt sind:

  • Tool-Missbrauch (OWASP ASI02): Erkennt, wenn Tools auf unsichere oder unbeabsichtigte Weise verwendet werden, z. B. durch gefährliche Tool-Verkettung, Parametermanipulation oder indirekte Prompt Injection.
  • Missbrauch von Identitätsberechtigungen (OWASP ASI03): Identifiziert nicht autorisierte Aktionen, die auf dynamische Vertrauensdelegierung, Persona-Fälschung, Speicher-Eskalation oder Confused-Deputy-Sicherheitslücken zurückzuführen sind.
  • Agentische kaskadierende Fehler (OWASP ASI08): Überwacht die Fehlerweitergabe, unendliche Ausführungsschleifen, oszillierende Wiederholungsversuche und die Verstärkung von Feedbackschleifen in Agenten-Workflows.
  • Abtrünnige Agenten (OWASP ASI10): Markiert, wenn ein Agent seine deklarierte Rolle verlässt, Sicherheitsvorkehrungen umgeht oder von zugewiesenen Systemanweisungen abweicht.
  • Ressourcenerschöpfung: Erkennt absichtlichen oder unkontrollierten übermäßigen Verbrauch von Rechenleistung, LLM-Tokens oder Netzwerkbandbreite.

Agenten-Anomalieerkennung aktivieren

Wenn Sie die Agenten-Anomalieerkennung ausprobieren möchten, füllen Sie dieses Formular aus: Anfrageformular für den Zugriff auf die Agenten-Anomalieerkennung.

Agenten-Anomalieerkennung verwenden

Wenn Sie die Agenten-Anomalieerkennung bereits aktiviert haben, finden Sie unter Agenten-Anomalieerkennung eine Anleitung zur Verwendung.