코딩 에이전트는 제어 사용자가 위임한 권한을 활용하여 데이터에 액세스하는 사용자의 워크스테이션에 로컬로 배포되는 경우가 많습니다. 일반적으로 코딩 에이전트는 사용자의 모든 권한으로 실행되지만 사람과 달리 작업을 지시하는 프롬프트 인젝션에 취약합니다. 이로 인해 고려해야 할 인프라 및 데이터 위험이 발생할 수 있습니다.
에이전트는 데이터를 간접 프롬프트 인젝션이라고도 하는 명령어로 잘못 해석할 수 있습니다. 예를 들어 악의적인 행위자가 악성 프롬프트를 만들고 피해자와 직접 (예: 이메일 또는 캘린더) 또는 간접적으로 (예: Cloud Storage 또는 BigQuery에 포함) 공유한 후 에이전트가 이러한 악성 프롬프트에 따라 조치를 취할 때까지 기다릴 수 있습니다.
위험을 줄이기 위해 다음과 같은 추가 보호 장치를 고려하는 것이 좋습니다.
가능한 경우 제한된 환경에서 에이전트를 실행합니다. 표준적인 예는 사용자가 Cloud Workstations에서만 에이전트를 가져오고 인터넷 액세스를 사용 중지하며 루트 권한이 없는 것입니다. Cloud Workstations에서 VPC-SC 보호를 구성하는 것도 좋습니다.
조직 제한 헤더 – 또는 기업 네트워크 경계에 네트워크 보안 프록시가 있는 조직은 조직 제한 헤더를 사용 설정할 수 있습니다. 배포되면 기업 네트워크에서 액세스할 수 있는 리소스 집합이 특정 조직 집합 (예: 기업의 기본 조직)으로 제한되어 에이전트 (및 사람)가 기업 테넌트 외부의 리소스에 액세스하지 못하도록 차단합니다.Google Cloud Google Cloud조직에서 이미 이그레스 프록시를 사용하는 경우 이 기능을 기본적으로 지원할 수 있습니다.
주 구성원 액세스 경계 (PAB) – PAB를 사용하면 특정 ID 집합이 액세스할 수 있는 리소스 집합을 제한할 수 있습니다. 코딩 에이전트의 경우 에이전트는 자체 ID (예: 서비스 계정 또는 Vertex AI Agent Engine에서 지원하는 새로 제공되는 에이전트 ID)로 실행되거나 사용자로부터 위임된 권한을 사용하여 실행될 수 있습니다. PAB를 사용 설정하여 두 경우 모두 조직의 리소스에 대한 액세스를 제한할 수 있지만 사람 ID에 제한을 적용하면 사람의 액세스도 제한됩니다.
VPC 서비스 제어 - VPC 서비스 제어 경계 내에 기업 네트워크를 포함하는 조직은 VPC 경계 외부에서 직접 발생한 경우 이러한 위험으로부터 이미 보호됩니다. 에이전트를 포함하여 데이터 무단 반출에 대해 우려하는 조직은 VPC 서비스 제어가 환경에 적합한지 고려해 볼 수 있습니다. Google Cloud
Model Armor - Model Armor를 사용 설정하여 Google의 관리형 MCP 서버를 통해 액세스한 데이터에서 발생할 수 있는 프롬프트 인젝션 공격을 감지하고 차단합니다.