에이전트 이상 감지는 자율 Enterprise AI 에이전트를 위해 특별히 설계된 동적 추론 기반 감독 및 감사 레이어를 제공합니다. 취약점을 위해 정적 코드만 스캔하거나 경계에서 네트워크 트래픽을 검사하는 기존 애플리케이션 보안 도구와 달리 에이전트 이상 감지는 에이전트의 실시간 추론 추적, 도구 상호작용, 실행 흐름을 평가하여 의심스러운 의도, 정책 위반, 비정상적인 동작을 감지합니다.
에이전트 이상 감지의 핵심은 에이전트 세션 활동을 비동기식으로 분석하는 다중 계층 이상 분석 프레임워크입니다. 이 서비스는 OpenTelemetry 로그와 실행 추적을 수집하여 실시간 에이전트 워크플로에 실행 지연 시간을 도입하지 않고 에이전트가 의도된 경계 외부에서 작동하는지 확인합니다.
주요 이점
에이전트 이상 감지에는 다음과 같은 기능이 포함됩니다.
| 이점 또는 기능 | 설명 |
|---|---|
| 비동기식 거의 실시간 보안 | 텔레메트리 (로그 및 추적)는 대역 외에서 처리되어 빠른 에이전트 응답 시간을 유지합니다. 다중 계층 분석 모델을 사용하면 거의 실시간 평가로 비용 효율성을 유지할 수 있습니다. |
| 추론 기반 의도 분석 | 이상 분석은 플래그가 지정된 추적을 통해 추론하여 복잡한 비즈니스 로직과 무단 작업을 구분합니다. |
| 포괄적인 위협 감지 | 도구 오용, 권한 악용, 에이전트 실패 연쇄, 무단 동작, 리소스 소진을 비롯한 에이전트 보안 위협에 대한 OWASP 상위 10개에 설명된 위협 패턴을 포착하는 기본 감지기를 사용하여 에이전트별 보안 위험을 즉시 감사합니다. |
| Security Command Center와 통합 | 이상 발견 항목은 중앙 집중식 보안 관리, 검색, 인시던트 추적을 위해 Security Command Center에 직접 표시됩니다. Security Command Center에 대한 자세한 내용은 Security Command Center 개요를 참조하세요. 참고: 이 통합에는 Security Command Center 지원 등급(표준, 프리미엄, 엔터프라이즈) 중 하나가 필요합니다. |
다중 계층 감지 시스템
평가 범위와 비용의 균형을 맞추기 위해 에이전트 이상 감지는 에이전트 로그를 분석하여 비정상적인 세션을 식별하고 보고하는 다중 계층 감지 시스템을 사용합니다.
- 1단계 (경량 ML 감지기): 고속 통계 및 경량 머신러닝 모델은 초기 이상점과 다운스트림 텔레메트리 추세를 식별하여 기준 트래픽을 다운샘플링합니다.
- 레이어 2 (이상 분석): 이상 분석은 플래그가 지정된 세션을 비동기식으로 평가하여 위협 판정과 자연어 설명 추론을 렌더링합니다.
- 3단계 (호출 수준 분석): 대화 추적 내에서 개별 도구 실행, 실행 상태, 매개변수 기록에 대한 심층 분석을 수행합니다.
가용성
에이전트 이상 감지는 다음 기준을 충족하는 에이전트에 사용할 수 있습니다. 기준을 충족하는 에이전트는 에이전트 이상 감지에서 자동으로 모니터링되는 에이전트 로 인식됩니다 (서비스는 에이전트의 존재를 인식하지만 에이전트의 로그에서 실행되는 항목이 없으며 비용이 발생하지 않음). 로그 및 추적에서 활성 이상 분석을 실행하려면 에이전트 이상 감지를 위해 모니터링되는 에이전트를 명시적으로 사용 설정 해야 합니다.
- 호환되는 런타임: Agent Runtime에 배포됩니다.
- ADK 버전: Python용 에이전트 개발 키트 (ADK) 버전 1.2 이상을 사용하여 빌드됩니다. 버전 2.1.0 이상을 사용하는 것이 좋습니다.
- 미국 리전 로깅 및 관측 가능성 버킷: 에이전트 이상 감지는 현재 미국 (멀티 리전) 버킷에 사용할 수 있습니다.
- 동일한 미국 리전의 로깅 및 관측 가능성 버킷: 로깅 및 관측 가능성 버킷이 동일한 리전에 있습니다.
- 텔레메트리 캡처: OpenTelemetry 추적 및 로깅은 ADK 를 사용하여 사용 설정됩니다.
- 메타데이터 캡처: 프롬프트 입력 및 응답 출력 콘텐츠를 캡처하도록 원시 텔레메트리가 구성됩니다.
- 활성 추적:
enable_tracing플래그가 ADK 구성에서false으로 명시적으로 설정되지 않았습니다. - 권한 및 액세스: 리전 스캐너의 서비스 계정은 활성 로그 및 관측 가능성 버킷에 대한 충분한 읽기 권한을 보유합니다. 로그 버킷에 로그 애널리틱스 및 관측 가능성 애널리틱스가 사용 설정되어 있어야 합니다.
- 활성 데이터 흐름: 에이전트에 활성 데이터가 있어야 합니다. 시스템 은 텔레메트리 데이터가 없는 에이전트의 구성을 확인하거나 등록할 수 없습니다.
이 기준을 충족하지 않는 에이전트는 에이전트 이상 감지에서 검색할 수 없으며 사용 설정할 모니터링되는 에이전트 목록에 표시되지 않습니다.
위협 카테고리
에이전트 이상 감지는 에이전트 활동을 지속적으로 모니터링하고 에이전트 보안 프레임워크에 맞춰 주요 카테고리 전반에서 위험에 플래그를 지정합니다.
- 도구 오용 (OWASP ASI02): 위험한 도구 체이닝, 매개변수 조작, 간접 프롬프트 인젝션과 같이 도구가 안전하지 않거나 의도하지 않은 방식으로 사용되는 경우를 감지합니다.
- ID 권한 악용 (OWASP ASI03): 동적 신뢰 위임, 페르소나 위조, 메모리 에스컬레이션, 혼동된 대리인 취약점으로 인해 발생하는 무단 작업을 식별합니다.
- 에이전트 연쇄 실패 (OWASP ASI08): 오류 전파, 무한 실행 루프, 진동 재시도, 피드백 루프 증폭을 에이전트 워크플로 전반에서 모니터링합니다.
- 무단 에이전트 (OWASP ASI10): 에이전트가 선언된 역할을 포기하거나, 안전 가드레일을 우회하거나, 할당된 시스템 안내에서 벗어나는 경우에 플래그를 지정합니다.
- 리소스 소진: 컴퓨팅, LLM 토큰, 네트워크 대역폭의 의도적 또는 제어되지 않은 과도한 소비를 감지합니다.
에이전트 이상 감지 사용해 보기 선택
에이전트 이상 감지를 사용해 보려면 이 양식을 작성하세요. 에이전트 이상 감지 액세스 요청 양식.
에이전트 이상 감지 사용
에이전트 이상 감지를 이미 선택한 경우 사용 안내는 에이전트 이상 감지 를 참조하세요.