Gemini 이미지 생성 및 책임감 있는 AI

안전하고 책임감 있는 환경을 보장하기 위해 Vertex AI의 이미지 생성 기능에는 다층적 안전 접근 방식을 갖추고 있습니다. 이는 음란물, 위험한 콘텐츠, 폭력적인 콘텐츠, 증오성 콘텐츠 또는 유해한 콘텐츠를 비롯한 부적절한 콘텐츠의 생성을 방지하기 위해 설계되었습니다.

모든 사용자는 생성형 AI에 관한 금지된 사용 정책을 준수해야 합니다. 이 정책에서는 다음과 같은 콘텐츠의 생성을 엄격하게 금지합니다.

  • 아동 성적 학대 또는 착취 관련
  • 폭력적 극단주의 또는 테러 조장
  • 동의하지 않은 사적인 이미지 조장 자해 조장
  • 음란물
  • 증오심 표현 구성
  • 괴롭힘 또는 폭력 조장

안전하지 않은 프롬프트가 제공되면 모델이 이미지 생성을 거부하거나 프롬프트 또는 생성된 응답이 안전 필터에 의해 차단될 수 있습니다.

  • 모델 거부: 프롬프트가 안전하지 않을 수 있는 경우 모델이 요청 처리를 거부할 수 있습니다. 이 경우 모델은 일반적으로 안전하지 않은 이미지를 생성할 수 없다는 텍스트 응답을 제공합니다. FinishReason은 STOP입니다.
  • 안전 필터 차단:
    • 안전 필터에 의해 프롬프트가 잠재적으로 유해한 것으로 식별되면 API는 PromptFeedback에서 BlockedReason을 반환합니다.
    • 안전 필터에서 응답이 잠재적으로 유해한 것으로 식별되면 API 응답에 IMAGE_SAFETY, IMAGE_PROHIBITED_CONTENT 등의 FinishReason이 포함됩니다.

안전 필터 코드 카테고리

구성하는 안전 필터에 따라 출력에 다음과 비슷한 안전 이유 코드가 포함될 수 있습니다.

    {
      "raiFilteredReason": "ERROR_MESSAGE. Support codes: 56562880"
    }

표시된 코드는 특정 유해한 카테고리에 해당합니다. 이러한 코드와 카테고리 간의 매핑은 다음과 같습니다.

오류 코드 안전 카테고리 설명 필터링 콘텐츠: 프롬프트 입력 또는 이미지 출력
58061214
17301594		 자녀 API 요청 설정 또는 허용 목록 작성에 따라 허용되지 않는 어린이 콘텐츠를 감지합니다. 입력(프롬프트): 58061214
출력(이미지): 17301594
29310472
15236754		 유명인 요청에서 유명인의 사진 표현을 감지합니다. 입력(프롬프트): 29310472
출력(이미지): 15236754
62263041 위험한 콘텐츠 잠재적으로 위험할 수 있는 콘텐츠를 감지합니다. 입력(프롬프트)
57734940
22137204		 혐오 혐오 관련 주제 또는 콘텐츠를 감지합니다. 입력(프롬프트): 57734940
출력(이미지): 22137204
74803281
29578790
42876398		 기타 요청에서 기타 안전 문제를 감지합니다. 입력(프롬프트): 42876398
출력(이미지): 29578790, 74803281
39322892 사람/얼굴 요청 안전 설정으로 인해 허용되지 않는 경우 사람 또는 얼굴을 감지합니다. 출력(이미지)
92201652 개인정보 신용카드 번호, 집 주소, 기타 관련 정보의 언급과 같이 텍스트에 포함된 개인 식별 정보(PII)를 감지합니다. 입력(프롬프트)
89371032
49114662
72817394		 금지된 콘텐츠 요청에서 금지된 콘텐츠 요청을 감지합니다. 입력(프롬프트): 89371032
출력(이미지): 49114662, 72817394
90789179
63429089
43188360		 성적 콘텐츠 본질적으로 성적 콘텐츠를 감지합니다. 입력(프롬프트): 90789179
출력(이미지): 63429089, 43188360
78610348 유해 텍스트에서 유해한 주제 또는 콘텐츠를 감지합니다. 입력(프롬프트)
61493863
56562880		 폭력 이미지 또는 텍스트에서 폭력 관련 콘텐츠를 감지합니다. 입력(프롬프트): 61493863
출력(이미지): 56562880
32635315 저속함 텍스트에서 저속한 주제 또는 콘텐츠를 감지합니다. 입력(프롬프트)
64151117 유명인 또는 아동 유명인 또는 아동에 대한 사실적인 표현이 Google의 안전 정책을 위반하는지 감지합니다. 입력(프롬프트)
출력(이미지)

다음 단계

Gemini 이미지 생성에 관한 자세한 내용은 다음 링크를 참고하세요.