Gemini Enterprise Agent Platform에서 Veo 동영상 생성을 위한 책임감 있는 AI

Gemini Enterprise Agent Platform 기반 Veo는 Google의 AI 원칙에 따라 설계되었습니다. 그러나 개발자가 Google 모델을 안전하고 책임감 있게 테스트하고 배포하는 방법을 이해하는 것이 중요합니다. 이를 지원하기 위해 Gemini Enterprise Agent Platform 기반 Veo에는 고객이 사용 사례 내에서 잠재적으로 유해한 출력을 차단할 수 있도록 돕는 내장된 안전 기능이 포함되어 있습니다. 자세한 내용은 안전 필터를 참조하세요.

AI 애플리케이션을 개발할 때는 공정성, 해석 가능성, 개인 정보 보호, 보안 권장사항을 적용하는 것이 좋습니다. 자세한 내용은 사람 + AI 가이드북을 참조하세요.

안전 필터

Gemini Enterprise Agent Platform의 Veo는 텍스트, 동영상, 이미지 등 다양한 방법으로 프롬프트를 입력받아 동영상을 생성할 수 있습니다. Veo에 제공된 프롬프트는 안전 필터 목록에 따라 평가되며, 이 목록에는 유해한 카테고리(예: violence, sexual, derogatory, toxic)가 포함됩니다. 이러한 안전 필터는 Google Cloud플랫폼 서비스이용 정책, 생성형 AI에 관한 금지된 사용 정책 또는 Google AI 원칙을 위반하는 입력 이미지나 동영상을 걸러내는 것을 목표로 합니다.

모델이 요청에 대해 The prompt couldn't be submitted 또는 it might violate our policies 같은 오류 메시지를 반환한다면, 이는 해당 입력이 안전 필터에 의해 차단되었음을 의미합니다. 요청한 개수보다 적은 동영상이 반환되는 경우, 일부 생성된 출력물이 안전 요구사항을 충족하지 못해 차단된 것입니다.

안전 필터 코드 카테고리

구성한 안전 필터에 따라 출력에 다음과 같은 안전 코드가 포함될 수 있습니다. '입력 이미지가 에이전트 플랫폼의 사용 가이드라인을 위반했기 때문에 Veo는 동영상을 생성할 수 없습니다. 오류라고 생각되면 의견을 보내주세요. 지원 코드: 15236754'

출력에 표시된 코드는 특정 유해 카테고리에 해당합니다.

다음 표에서는 지원 코드와 안전 카테고리 매핑을 보여줍니다.

지원 코드 안전 카테고리 설명
58061214
17301594 		자녀 personGeneration이 "allow_all"로 설정되지 않았거나 프로젝트가 해당 기능의 허용 목록에 포함되지 않은 경우 아동을 묘사하는 콘텐츠 생성 요청을 거부합니다.
29310472
15236754 		유명인 유명 인물의 사실적인 표현을 생성하는 요청이거나, 프로젝트가 허용 목록에 포함되지 않은 경우 요청을 거부합니다.
64151117
42237218 		동영상 안전 위반 일반 안전 위반입니다.
62263041 위험한 콘텐츠 잠재적으로 위험한 콘텐츠
57734940
22137204 		혐오 증오 관련 콘텐츠
74803281
29578790
42876398 		기타 요청과 관련된 기타 안전 문제
89371032
49114662
63429089
72817394
60599140
 금지된 콘텐츠 아동 보호 또는 기타 민감한 콘텐츠와 관련된 금지된 콘텐츠
35561574
35561575 		서드 파티 콘텐츠 서드 파티 콘텐츠와 관련된 안전 장치
90789179
43188360 		성 성적이거나 외설적인 콘텐츠
78610348 유해함 유해한 콘텐츠
61493863
56562880 		폭력 폭력적인 콘텐츠
32635315 저속함 저속한 콘텐츠

다음 단계