Gemini Enterprise Agent Platform 影片生成工具 Veo 的負責任 AI

Gemini Enterprise Agent Platform 的 Veo 遵照 Google AI 原則設計。不過，開發人員務必瞭解如何安全且負責任地測試及部署 Google 的模型。為協助開發人員，Gemini Enterprise Agent Platform 上的 Veo 內建安全防護功能，可協助客戶在用例中封鎖可能有害的輸出內容。詳情請參閱「安全篩選器」。

我們鼓勵顧客在開發 AI 應用程式時，採用公平性、可解釋性、隱私權和安全性最佳做法。詳情請參閱《People + AI Guidebook》。

安全篩選機制

在 Gemini Enterprise Agent Platform 上，Veo 提供多種輸入提示詞的方式來生成影片，包括文字、影片和圖片。系統會根據安全篩選器清單評估提供給 Veo 的提示，包括有害類別 (例如 violence、sexual、derogatory 和 toxic)。這些安全篩選器旨在濾除違反Google Cloud平台使用限制政策、生成式 AI 禁用政策或我們的 AI 原則的輸入圖片和影片。

如果模型回覆要求時顯示錯誤訊息 (例如 The prompt couldn't be submitted 或 it might violate our policies)，表示輸入內容觸發了安全篩選器。如果傳回的影片數量少於要求，表示部分生成的輸出內容因不符合安全規定而遭到封鎖。

安全篩選器代碼類別

視您設定的安全篩選器而定，輸出內容可能包含類似以下的安全碼：「Veo 無法生成影片，因為輸入圖片違反 Agent Platform 的使用規範。如果您認為這項處置有誤，請傳送意見回饋。支援代碼：15236754

輸出內容中列出的代碼對應至特定有害類別。

下表顯示支援代碼與安全類別的對應關係：

支援代碼 安全類別 說明
58061214
17301594 		子項 如果 personGeneration 未設為 "allow_all"，或專案不在這項功能的允許清單中，系統會拒絕生成描繪兒童的內容。
29310472
15236754 		名人 如果要求是生成知名人士的擬真圖像，或是專案不在這項功能的許可清單中，系統就會拒絕要求。
64151117
42237218 		違反影片安全政策 違反一般安全規定。
62263041 危險內容 可能含有危險內容。
57734940
22137204 		仇恨 仇恨相關內容。
74803281
29578790
42876398 		其他 要求有其他安全問題
89371032
49114662
63429089
72817394
60599140
 禁止宣傳的內容 禁止發布與兒童安全或其他私密內容相關的內容。
35561574
35561575 		第三方內容 第三方內容相關的限制。
90789179
43188360 		色情內容 與性相關或性暗示內容。
78610348 惡意言論 有害內容。
61493863
56562880 		暴力 暴力內容。
32635315 粗俗 粗俗內容。

後續步驟