Vertex AI 影片生成功能 Veo 的負責任 AI

Vertex AI 中的 Veo 遵照 Google AI 原則設計。不過，開發人員務必瞭解如何安全且負責任地測試及部署 Google 的模型。為協助開發人員，Vertex AI 上的 Veo 內建安全防護功能，可協助客戶在用例中封鎖可能有害的輸出內容。詳情請參閱安全篩選器。

我們鼓勵客戶在開發 AI 應用程式時，採用公平性、可解釋性、隱私權和安全性的最佳做法。詳情請參閱《People + AI Guidebook》。

安全篩選機制

在 Vertex AI 運用 Veo，輸入文字、影片和圖片等提示詞，生成影片。系統會根據安全篩選器清單評估提供給 Veo 的提示，包括有害類別 (例如 violence、sexual、derogatory 和 toxic)。這些安全篩選器旨在濾除違反Google Cloud平台使用限制政策、生成式 AI 禁用政策或我們的 AI 原則的輸入圖片和影片。

如果模型對要求的回覆是錯誤訊息 (例如 The prompt couldn't be submitted 或 it might violate our policies)，表示輸入內容觸發了安全防護篩選器。如果傳回的影片數量少於要求，表示部分生成的輸出內容因不符合安全規定而遭到封鎖。

安全篩選器代碼類別

視您設定的安全篩選器而定，輸出內容可能包含類似以下的安全代碼：「Veo 無法生成影片，因為輸入圖片違反 Vertex AI 的使用規範。如果您認為這項處置有誤，請傳送意見回饋。支援代碼：15236754

輸出內容中列出的代碼對應至特定有害類別。

下表顯示支援代碼與安全類別的對應關係：

支援代碼 安全類別 說明
58061214
17301594 		子項 如果 personGeneration 未設為 "allow_all"，或專案不在這項功能的允許清單中，系統會拒絕生成描繪兒童的內容。
29310472
15236754 		名人 如果專案不在這項功能的許可清單中，或是要求生成知名人士的擬真圖像，系統就會拒絕要求。
64151117
42237218 		違反影片安全規定 違反一般安全規定。
62263041 危險內容 可能危險的內容。
57734940
22137204 		仇恨 仇恨相關內容。
74803281
29578790
42876398 		其他 要求有其他安全問題
89371032
49114662
63429089
72817394
60599140 >
 禁止宣傳的內容 禁止發布與兒童安全或其他敏感內容相關的內容。
35561574
35561575 		第三方內容 第三方內容相關的防護措施。
90789179
43188360 		色情內容 與性相關或性暗示內容。
78610348 惡意言論 有害內容。
61493863
56562880 		暴力 暴力內容。
32635315 粗俗 粗俗內容。

後續步驟