이미지 검사 및 수정

이 문서에서는 Sensitive Data Protection의 이미지 검사 및 수정 기능을 설명합니다.

Sensitive Data Protection은 infoType 감지기를 사용하여 base64로 인코딩된 이미지를 검사하고 이미지 내에서 민감한 정보를 감지합니다. 그런 다음 Sensitive Data Protection은 이미지 내의 민감한 정보의 위치에 대한 정보를 반환하거나 민감한 정보를 불투명한 직사각형으로 마스킹하여 수정할 수 있습니다.

검사 및 수정은 두 가지 별개의 작업입니다.

  • 검사: Sensitive Data Protection에서 제출된 base64 인코딩 이미지에서 지정된 infoType을 검사합니다. DLP는 감지된 infoType과 함께 하나 이상의 픽셀 좌표 및 크기 집합을 반환합니다. 각 픽셀 좌표 값과 크기 값 집합은 각각 왼쪽 하단 모서리 및 경계 상자의 크기를 나타냅니다. 각 경계 상자는 Sensitive Data Protection 발견 항목의 전체 또는 일부에 해당합니다.
  • 수정: Sensitive Data Protection에서 제출된 base64 인코딩 이미지에서 지정된 infoType을 검사합니다. Sensitive Data Protection은 민감한 정보 발견 항목을 불투명한 직사각형으로 마스킹하여 수정합니다. 수정된 base64 인코딩 이미지를 원본 이미지와 동일한 이미지 형식으로 반환합니다. 요청에서 수정 상자의 색상을 구성할 수도 있습니다.

이미지 검사 정보

Sensitive Data Protection 검사 서비스는 base64로 인코딩된 이미지를 수락한 후 이미지에서 검사 기준과 일치하는 데이터를 검색합니다. Sensitive Data Protection은 감지된 민감한 정보의 위치를 반환합니다.

다음 이미지를 살펴보세요.

민감한 객체가 포함된 원본 이미지입니다.
원본 이미지 (확대하려면 클릭)

이미지 검사 프로세스는 다음과 같습니다.

  1. DLP API에 content.inspect 요청을 보냅니다. 요청에는 base64로 인코딩된 이미지와 감지 기준이 포함된 검사 구성이 포함됩니다.
  2. Sensitive Data Protection은 검사 구성을 사용하여 이미지를 스캔하고 일치하는 항목을 식별합니다.
  3. Sensitive Data Protection은 감지 기준에 따라 민감한 정보를 발견한 이미지 내 리전의 좌표와 크기를 반환합니다.

반환된 좌표는 민감한 정보를 찾을 위치를 나타냅니다. Sensitive Data Protection은 종종 여러 상자를 사용하여 이미지에서 민감한 정보의 단일 인스턴스 위치를 나타냅니다.

Sensitive Data Protection이 이미지에서 감지 기준에 해당하는 데이터를 찾지 못하면 비어있는 성공적인 HTTP 200 응답을 반환합니다.

이미지 수정 정보

이미지 수정은 이미지 검사와 비슷하며 한 단계만 더 진행하면 됩니다. Sensitive Data Protection에서 이미지 내 민감한 정보의 위치를 식별하면 데이터가 포함된 영역의 좌표를 반환하는 대신 해당 영역에 불투명한 직사각형을 배치하고 base64로 인코딩된 수정 이미지를 반환합니다.

민감한 정보가 가려진 수정된 이미지
수정된 이미지 (확대하려면 클릭)

이미지 수정 프로세스는 다음과 같습니다.

  1. DLP API에 image.redact 요청 을 보냅니다. 요청에는 base64로 인코딩된 이미지 와 감지 기준이 포함된 이미지 수정 구성이 포함됩니다.
  2. Sensitive Data Protection은 이미지 수정 구성을 사용하여 이미지를 스캔하고 일치하는 항목을 식별합니다.
  3. Sensitive Data Protection은 감지된 모든 민감한 정보를 불투명한 직사각형으로 가려서 수정합니다. 그런 다음 이미지를 base64 로 인코딩하고 요청 응답에서 수정된 이미지를 반환합니다.

Sensitive Data Protection이 이미지에서 감지 기준에 해당하는 데이터를 찾지 못하면 base64로 인코딩된 이미지를 변경하지 않고 반환합니다.

이미지 감지 기능

이 섹션에서는 검사 및 수정 작업에 적용할 수 있는 이미지 감지 기능을 설명합니다. 이러한 모든 기능의 경우 이미지 스캔을 지원하는 위치에서 스캔을 실행해야 합니다.

이미지 속 텍스트 인식

Sensitive Data Protection은 광학 문자 인식 (OCR)을 사용하여 이미지 내에서 텍스트를 감지합니다. Sensitive Data Protection은 텍스트 본문을 분석하는 방식과 유사하게 감지된 텍스트를 분석합니다.

이미지에서 텍스트를 감지하려면 검사 또는 수정 구성에서 PERSON_NAME, CREDIT_CARD_NUMBER와 같은 텍스트 기반 infoType을 지정합니다.

이미지에서 객체 및 테마 인식

Sensitive Data Protection은 주로 텍스트 기반이 아닌 이미지의 픽셀과 기능을 분석할 수 있습니다. Sensitive Data Protection은 다음 기능에 이 기법을 사용합니다.

객체 감지

Sensitive Data Protection은 이미지의 객체를 분류하고 수정할 수 있습니다. 예를 들어 이미지에서 사진 ID 카드, 사람, 번호판을 감지하도록 스캔을 구성할 수 있습니다.

이미지에서 객체를 감지하려면 검사 또는 수정 구성에서 객체 infoType을 지정합니다.

자세한 내용은 다음을 참조하세요.

이미지 안전 분류

Sensitive Data Protection은 테마 콘텐츠를 기반으로 이미지를 분류하고 수정할 수 있습니다. 이 기능을 사용하면 미리 정의된 안전 카테고리에 따라 민감하거나 유해한 주제가 포함된 이미지를 식별할 수 있습니다.

Sensitive Data Protection은 이미지의 전반적인 컨텍스트와 의미를 분석하여 성적으로 노골적인 콘텐츠 또는 폭력적인 콘텐츠와 같은 카테고리에 속하는지 확인합니다. 이 기능을 사용하여 콘텐츠 조정 및 허용 가능한 사용 정책을 적용할 수 있습니다.

이미지 안전 분류를 실행할 때 Sensitive Data Protection은 전체 이미지를 분석합니다. 이미지 내에서 특정 항목을 식별하는 객체 감지와 달리 이 기능은 이미지의 주제를 전체적으로 평가합니다. 이미지 안전을 기반으로 수정을 구성하면 이 기능은 전체 이미지를 수정합니다.

이미지 안전 분류를 실행하려면 검사 또는 수정 구성에서 이미지 컨텍스트 infoType을 지정합니다.

생성된 이미지의 제한사항

Sensitive Data Protection에서 이미지 안전 분류 에 사용하는 모델은 주로 실제 이미지를 기반으로 학습되고 평가됩니다. 이러한 모델은 AI 생성 이미지를 분석하는 데 어느 정도 유용할 수 있지만 AI 생성 이미지에서 모든 유형의 정책 위반 콘텐츠를 감지하는 데 효과적이지 않을 수 있습니다.

AI 생성 이미지에서 이미지 컨텍스트 infoType 을 사용하는 경우 다음이 감지되지 않을 수 있습니다.

  • 미묘하거나 섬세한 콘텐츠
  • 비공개 설정과 같은 컨텍스트 종속 시나리오
  • 민감한 테마를 노골적으로 묘사하지 않은 콘텐츠

AI 생성 이미지에서 이러한 분류기의 성능은 자연 이미지에서 관찰되는 성능과 일치하지 않을 수 있습니다. 결과가 안전 요구사항을 충족하는지 확인하려면 특정 생성형 AI 사용 사례에 대한 철저한 테스트를 실행하는 것이 좋습니다. 고위험 생성형 AI 애플리케이션에서 안전 보장을 위해 이러한 분류기에만 의존하지 마세요.

다음 단계