Gemini Enterprise Agent Platform 및 제로 데이터 보관

Google은 업계 최초로 AI/ML 개인 정보 보호 약정을 발표했습니다. 여기에는 클라우드에 저장된 고객 데이터에 대해 고객이 가장 높은 수준의 보안 및 제어 권한을 가져야 한다는 Google의 신념이 표명되어 있습니다. 이 약정은 의 생성형 AI 제품으로 확장됩니다. Google CloudGoogle은 강력한 데이터 거버넌스 관행을 통해 팀에서 이러한 약정을 준수하도록 도와주고 있으며 여기에는 Google Cloud 에서 제품 개발에 사용하는 데이터에 대한 검토도 포함됩니다. Google의 데이터 처리 방식에 관한 자세한 내용은 Google의 클라우드 데이터 처리 부록 (CDPA)에서도 확인할 수 있습니다.

학습 제한

서비스별 약관의 서비스 약관 섹션의 '학습 제한'에 설명된 대로 Google은 사용자의 사전 허가나 지시 없이 사용자 데이터를 사용하여 AI/ML 모델을 학습하거나 미세 조정하지 않습니다. 이는 GA 및 GA 이전 모델을 비롯한 Gemini Enterprise Agent Platform의 모든 관리형 모델에 적용됩니다.

고객 데이터 보관 및 제로 데이터 보관 달성

고객 데이터는 다음 시나리오 및 조건에서 제한된 기간 동안 Gemini Enterprise Agent Platform for Models as a Service (MaaS)에 보관됩니다. 제로 데이터 보관를 달성하려면 고객이 다음 각 영역에서 특정 조치를 취해야 합니다.

이는 GA 및 GA 이전 모델을 비롯한 Gemini Enterprise Agent Platform의 모든 관리형 모델에 적용됩니다.

에이전트 제품

에이전트 제품의 제로 데이터 보관을 달성하려면 고객이 각 제품에 대해 다음 조건과 보관 일정을 준수해야 합니다.

  • CodeMender 세션 데이터 — 장기 실행 찾기 및 수정 검사를 재개할 수 있도록 CodeMender는 Spanner에 세션 상태를 저장합니다. 검사가 진행되는 동안 대상 소스 코드 스니펫, 차이점, 구성, 분석 체크포인트를 비롯한 세션 데이터는 세션 생성 후 최대 7일 동안 암호화되어 저장됩니다. 세션이 종료 상태에 도달하면 소스 코드와 관련 콘텐츠가 몇 초 이내에 삭제되고, 나머지 세션 기록은 7일 TTL에서 자동으로 삭제됩니다. 고객은 TTL이 만료되기 전에 세션을 삭제하여 연결된 모든 데이터를 삭제할 수 있습니다.

  • Deep Research 에이전트 세션 데이터 — Google은 Interactions API를 통해 프롬프트와 세션 데이터 (예: 검색 결과, 생성된 이미지)를 7일 동안 저장합니다. 이 세션 데이터는 저장 데이터 암호화되며 7일 TTL이 종료되면 자동으로 삭제됩니다. 고객은 TTL이 만료되기 전에 세션을 삭제하여 연결된 모든 데이터를 삭제할 수 있습니다. Deep Research 에이전트를 사용할 때는 이 기능을 사용 중지할 수 없습니다.

  • Agent Platform Sandbox 스냅샷: Snapshot API를 사용하여 Sandbox 상태를 유지하는 경우 이러한 스냅샷은 Sandbox TTL 기간 동안만 저장됩니다. 제로 데이터 보관을 달성하려면 Sandbox API를 사용하지 마세요.

Google 모델

Google 학습 모델의 제로 데이터 보관을 달성하려면 고객이 다음 각 영역에서 추가적인 특정 조치를 취해야 합니다.

Gemini Live API 세션 재개

Gemini Live API 세션 재개는 기본적으로 사용 중지되어 있습니다. 사용자는 API 요청에서 필드를 지정하여 API를 호출할 때마다 이 기능을 사용 설정해야 하며, 캐시된 데이터에는 프로젝트 수준의 개인 정보 보호가 적용됩니다. 세션 재개를 사용 설정하면 텍스트, 동영상, 오디오 프롬프트 데이터, 모델 출력 등 캐시된 데이터를 최대 24시간 동안 저장하여 사용자가 24시간 이내에 이전 세션에 다시 연결할 수 있습니다. 제로 데이터 보관을 달성하려면 이 기능을 사용 설정하지 마세요. 이 기능에 관한 자세한 내용(사용 설정 방법 포함)은 Gemini Live API를 참조하세요.

암시적 데이터 캐싱

기본적으로 Google에서 게시한 Gemini 모델은 지연 시간을 줄이고 응답 속도를 높이기 위해 고객 데이터를 캐시합니다. 암시적 캐싱은 두 가지 스토리지 계층을 사용합니다.

  • 인메모리 캐싱: 지원되는 Gemini 모델의 경우 기본적으로 사용 설정됩니다.
  • 영구 캐싱: 지원되는 Gemini 모델의 경우 기본적으로 사용 설정됩니다. 지원되는 모델 목록은 컨텍스트 캐싱 개요를 참조하세요.

인메모리 데이터 캐싱

암시적 캐싱은 고객 데이터 (입력, 출력, 파생 데이터)를 메모리에 저장합니다. 인메모리 캐시된 데이터에는 다음과 같은 속성이 있습니다.

  • 저장 시가 아니라 메모리에만 저장됩니다.
  • 프로젝트 범위로 지정되며 다른 프로젝트에 제공되지 않습니다.
  • 작성 후 24시간 이내에 삭제됩니다.
  • 요청을 처리하는 리전에서 처리됩니다.
  • 요청을 더 빠르게 처리하는 데만 사용되며 모델을 학습하거나 미세 조정하는 데는 사용되지 않습니다.

영구 데이터 캐싱

영구 캐싱을 지원하는 모델에서 인메모리 캐시 용량이 소진되면 Google은 파생된 캐시 데이터 (입력에서 계산된 키-값 표현)를 Agent Platform 제공 환경 내의 영구 스토리지에 저장합니다. 영구 캐시된 데이터에는 다음과 같은 속성이 있습니다.

  • 저장 시에 저장되며 Google 기본 암호화로 암호화됩니다.
  • 프로젝트 범위로 지정되며 다른 프로젝트에 제공되지 않습니다.
  • 작성 후 24시간 이내에 삭제되며 더 빨리 삭제되는 경우도 있습니다.
  • 리전 또는 멀티 리전 엔드포인트를 사용하면 선택한 위치 내에 유지되며 데이터 레지던시 요구사항을 준수합니다. 전역 엔드포인트를 사용하면 모든 리전에서 요청과 캐시된 데이터를 제공할 수 있습니다.
  • 요청을 더 빠르게 처리하는 데만 사용되며 모델을 학습하거나 미세 조정하는 데는 사용되지 않습니다.

고객 관리 암호화 키 (CMEK)는 영구 캐싱에서 지원되지 않습니다.

데이터 캐싱 제어

조직의 정책에서 고객 데이터가 저장 시에 저장되는 것을 허용하지 않는 경우 프로젝트별로 영구 캐싱을 사용 중지하고 인메모리 캐싱을 유지할 수 있습니다. 또는 캐싱을 완전히 사용 중지할 수도 있습니다. 프로젝트 수준이 아닌 조직 전체에서 영구 캐싱을 사용 중지하려면 계정팀에 문의하세요.

데이터 캐싱 사용 설정 및 사용 중지

다음 curl 명령어를 사용하여 캐싱 상태를 확인하거나 캐싱을 사용 중지하거나 캐싱을 다시 사용 설정하거나 영구 캐싱을 사용 또는 사용 중지할 수 있습니다. 캐싱을 사용 중지하면 인메모리 캐싱과 영구 캐싱이 모두 사용 중지됩니다. 캐싱을 중지하거나 다시 사용 설정하면 변경사항이 모든 Google Cloud 리전에 적용됩니다. Identity and Access Management를 사용하여 캐싱을 사용 설정하거나 중지하는 데 필요한 권한을 부여하는 방법에 대한 자세한 내용은 IAM을 사용한 Gemini Enterprise Agent Platform 액세스 제어를 참조하세요. 다음 섹션을 확장하여 현재 캐시 설정을 가져오고, 캐싱을 사용 중지 및 사용 설정하고, 영구 캐싱을 사용 또는 사용 중지하는 방법을 알아보세요.

현재 캐싱 설정 확인

다음 명령어를 실행하여 프로젝트에서 인메모리 캐싱과 영구 캐싱이 사용 설정되어 있는지 확인합니다. 이 명령어를 실행하려면 사용자에게 roles/aiplatform.viewer, roles/aiplatform.user, roles/aiplatform.admin 역할 중 하나가 부여되어 있어야 합니다.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if durable caching and in-memory caching are enabled (default).
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "DURABLE"
  }
}

# Response if durable caching is turned off and in-memory caching is enabled.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "EPHEMERAL"
  }
}

# Response if all caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": true
}

캐싱 사용 중지

다음 curl 명령어를 실행하여 Google Cloud 프로젝트의 모든 캐싱을 사용 중지합니다. 이렇게 하면 인메모리 캐싱과 영구 캐싱이 모두 사용 중지되고 캐시된 데이터가 보관되지 않습니다. 이 명령어를 실행하려면 사용자에게 Gemini Enterprise Agent Platform 관리자 역할인 roles/aiplatform.admin이 부여되어 있어야 합니다.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Turn off all caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# A successful response confirms that caching is turned off for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

인메모리 캐싱을 유지하고 영구 캐싱만 사용 중지하려면 영구 캐싱 사용 중지 를 참조하세요.

캐싱 사용 설정

프로젝트 Google Cloud 에서 캐싱을 중지한 후 다시 사용 설정하려면 다음 curl 명령어를 실행합니다. 이 명령어를 실행하려면 사용자에게 Gemini Enterprise Agent Platform 관리자 역할인 roles/aiplatform.admin이 부여되어 있어야 합니다.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# A successful response confirms that caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

영구 캐싱 사용 중지

다음 curl 명령어를 실행하여 영구 캐싱을 사용 중지하고 Google Cloud 프로젝트의 인메모리 캐싱을 유지합니다. 이 명령어를 실행하려면 사용자에게 Gemini Enterprise Agent Platform 관리자 역할인 roles/aiplatform.admin이 부여되어 있어야 합니다.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn off durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "EPHEMERAL"
      }
    }'

# A successful response confirms that durable caching is turned off and in-memory caching stays on.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

영구 캐싱 사용 설정

프로젝트 Google Cloud 에서 영구 캐싱을 사용 중지한 후 다시 사용 설정하려면 다음 curl 명령어를 실행합니다. 이 명령어를 실행하려면 사용자에게 Gemini Enterprise Agent Platform 관리자 역할인 roles/aiplatform.admin이 부여되어 있어야 합니다.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn on durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "DURABLE"
      }
    }'

# A successful response confirms that durable caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

다음 단계

개요

생성형 AI의 일부 제한사항과 생성형 AI 사용에 관한 권장사항을 알아보세요.

개요

Google Cloud를 위한 Gemini가 생성형 AI 기술로 Google 개인 정보 보호 노력을 따르는 방법을 알아보세요.