用于生成 Veo on Gemini Enterprise Agent Platform 视频的 Responsible AI

Veo on Gemini Enterprise Agent Platform 在设计时考虑到了 Google 的 AI 原则。但是，开发者必须了解如何以负责任的方式安全测试和部署 Google 的模型。为了帮助开发者，Veo on Gemini Enterprise Agent Platform 具有内置的安全功能，可帮助客户在其使用场景中阻止潜在的有害输出。如需了解详情，请参阅安全过滤器。

我们鼓励客户在开发 AI 应用时使用公平性、可解释性、隐私权和安全方面的最佳实践。如需了解详情，请参阅The People + AI 指南。

安全过滤器

Veo on Gemini Enterprise Agent Platform 提供多种输入提示以生成视频的方式，包括文本、视频和图片。系统会根据一系列安全过滤条件（包括有害类别，例如violence、sexual、derogatory和toxic）评估提供给 Veo 的提示。这些安全过滤条件旨在过滤掉违反Google Cloud 《平台使用政策》、《生成式 AI 使用限制政策》或《Google AI 原则》的输入图片和视频。

如果模型响应请求并显示错误消息，例如The prompt couldn't be submitted或it might violate our policies，则输入会触发安全过滤器。如果返回的视频少于请求的视频数，则由于不符合安全要求，某些生成的输出会被阻止。

安全过滤器代码类别

根据您配置的安全过滤器，您的输出可能包含类似于以下内容的安全代码：“Veo 无法生成视频，因为输入图片违反了 Agent Platform 的使用指南。如果您认为我们的处置结果有误，请发送反馈。支持代码：15236754”

输出中列出的代码对应于特定的有害类别。

下表显示了支持代码到安全类别的映射：

支持代码 安全类别 说明
58061214
17301594 		子女 如果 personGeneration 未设置为 "allow_all" ，或者项目不在此功能的许可名单中，则拒绝生成描绘儿童的内容的请求。
29310472
15236754 		名人 拒绝生成知名人士的逼真照片的请求，或者项目不在该功能的许可名单中。
64151117
42237218 		视频安全违规 一般安全违规。
62263041 危险内容 潜在的危险内容。
57734940
22137204 		仇恨 与仇恨相关的内容。
74803281
29578790
42876398 		其他 请求中的各种安全问题
89371032
49114662
63429089
72817394
60599140
 禁止的内容 与儿童安全或其他敏感内容相关的禁止内容。
35561574
35561575 		第三方内容 与第三方内容相关的防护措施。
90789179
43188360 		色情内容 色情或暗示性内容。
78610348 有害内容 有害内容。
61493863
56562880 		暴力 暴力内容。
32635315 粗俗 粗俗内容。

后续步骤