악용 모니터링

Google Cloud Platform 서비스 약관의 4.3항 '생성형 AI 안전 및 악용'에 설명된 대로, Google은 고객에게 생성형 AI 서비스를 제공하는 과정에서 잠재적인 악용 및 허용되는 사용 정책과 금지된 사용 정책 위반을 감지하기 위해 다음 절차를 사용합니다.

  • 자동 감지: Google은 자동화된 안전 분류기를 사용하여 잠재적인 악용과 위반을 감지합니다. 안전 분류기 작동 방식에 대한 기술적 세부정보는 안전 필터 구성을 참고하세요.

  • 프롬프트 로깅: 자동화된 안전 분류기가 고객이 정책을 위반했는지 추가 조사가 필요한 의심스러운 활동을 감지하는 경우 Google은 AUP 또는 금지된 사용 정책 위반이 발생했는지 조사하기 위한 목적으로만 고객 프롬프트를 로깅할 수 있습니다. 이 데이터는 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다. 이 데이터는 고객이 프로젝트에 선택한 리전과 동일한 리전이나 멀티 리전에 최대 90일 동안 안전하게 저장되며 데이터 상주, 액세스 투명성, VPC 서비스 제어와 같은Google Cloud 보증을 준수합니다. 악용 모니터링을 위한 프롬프트 로그는 고객 관리 암호화 키 (CMEK)로 암호화되지 않습니다. 고객은 악용 로깅을 선택 해제하도록 요청할 수도 있습니다 (아래 참조).

    • 조치: 승인된 Google 직원이 신고된 프롬프트를 평가하고 명확하게 하기 위해 고객에게 연락할 수 있습니다. 이러한 행위 또는 반복적이거나 심각한 악용을 해결하지 못하면 Gemini Enterprise Agent Platform 또는 Google Cloud서비스에 대한 고객 액세스가 정지되거나 해지될 수 있습니다.

    • 지원 범위 내 서비스: Google의 생성형 AI 서비스

    • 지원 범위 내 고객: Google Cloud 사용 시 Google Cloud Platform 서비스 약관이 적용되는 고객만 포함됩니다. 즉, Google Cloud 마스터 계약을 체결한 고객은 기본적으로 이 악용 사례 모니터링에 대한 프롬프트 로깅이 면제됩니다.

    • 고객 선택 해제: 고객은 이 양식을 작성하여 예외를 요청할 수 있습니다. 승인되면 Google은 승인된 Google Cloud계정과 연결된 프롬프트를 저장하지 않습니다.

고급 AI 안전

고급 AI 안전 부록에 설명된 대로Google Cloud 에서는 '고급 AI'로 지정된 모델에 대해 더 엄격한 악용 모니터링 시스템을 구현했습니다.

  • 프롬프트 및 대답 로깅: 모든 프롬프트와 대답은 악용 모니터링이라는 단일 목적으로 최대 30일 동안 로깅되고 안전하게 저장됩니다. 이 데이터는 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다. 이 데이터는 고객이 프로젝트에 선택한 리전과 동일한 리전이나 멀티 리전에 저장되며 데이터 상주, 액세스 투명성, VPC 서비스 제어와 같은Google Cloud 보증을 준수합니다. 악용 모니터링을 위한 프롬프트 및 응답 로그는 고객 관리 암호화 키 (CMEK)로 암호화되지 않습니다. 일부 고급 AI 기능을 사용하는 경우 프롬프트-응답 로깅을 선택 해제하지 못할 수 있습니다. 자세한 내용은 계정팀에 문의하세요.

  • 자동 조사: Google은 안전 분류기를 비롯한 자동 조사 도구를 배포하여 기록된 데이터를 분석하고 잠재적인 악용과 위반을 감지합니다.

  • 조치: 승인된 Google 직원이 신고된 프롬프트를 평가하고 명확하게 하기 위해 고객에게 연락할 수 있습니다. 이러한 행위 또는 반복적이거나 심각한 악용을 해결하지 못하면 Gemini Enterprise Agent Platform 또는 Google Cloud서비스에 대한 고객 액세스가 정지되거나 해지될 수 있습니다.

  • 범위 내 서비스: 다음을 포함하여 'Advanced AI'로 지정된 모델 및 기능

    • Claude Mythos (모든 버전)
    • Claude Fable (모든 버전)
    • Anthropic의 사이버 검증 프로그램에 포함된 고위험 이중 용도 또는 금지된 용도 사례에 사용되는 경우 Claude Opus >=4.7

  • 고객 선택 해제: 일부 고급 AI 기능을 사용하는 경우 제로 데이터 보관이 불가능할 수 있습니다. 자세한 내용은 계정팀에 문의하세요. 부록의 수락을 관리하는 방법은 다음 섹션을 참고하세요.

고급 AI 모델을 사용 설정하려면 프로젝트당 한 번 고급 AI 안전 부록에 동의해야 합니다. 고급 AI 모델을 사용 설정하기 전에 Google Cloud 콘솔을 통해 Model Garden에서 동의가 실행됩니다.

동의하는 사용자는 조직을 대신하여 행동하며 고객을 부록의 의무에 구속하는 데 필요한 권한을 보유하고 있음을 인정해야 합니다. 동의하려면 사용자에게 aiplatform.admin 역할에 포함된 aiplatform.consents.update 권한이 있어야 합니다.

고급 AI 안전 부록 관리

사용자가 이 부록에 동의하지 못하도록 관리자는 다음을 수행할 수 있습니다.

파트너별 약관

Gemini Enterprise Agent Platform에서 파트너 모델을 사용하는 경우 파트너별 약관이 적용됩니다.

Anthropic

Gemini Enterprise Agent Platform에서 Anthropic 모델을 사용하는 경우 Anthropic의 상업용 서비스 약관 또는 Anthropic과의 기타 관련 계약이 적용되며, Anthropic Advanced AI의 사용에는 Anthropic의 서비스별 약관 섹션 F가 적용됩니다. 이 페이지에 설명된 악용 사례 모니터링 시스템은 이러한 약관을 준수하는 데 사용됩니다.

데이터 보관

Google Cloud의 Anthropic Claude Fable 5 및 Mythos 5의 경우 프롬프트와 대답이 최대 30일 동안 보관됩니다. Google Cloud 및 Mythos 5에서 Claude Fable 5를 사용하려면 Anthropic의 요구사항에 따라 악용 모니터링을 위해 Anthropic과 이 데이터를 공유해야 합니다.

다음 단계