Gemini Enterprise Agent Platform の動画生成機能 Veo における責任ある AI

Gemini Enterprise Agent Platform の Veo は、Google の AI に関する原則を念頭に置いて設計されています。ただし、Google のモデルを安全かつ責任を持ってテストしてデプロイする方法をデベロッパーが理解することが重要です。デベロッパーを支援するために、Gemini Enterprise Agent Platform の Veo には、ユーザーのユースケース内で潜在的に有害な出力をブロックできるようにする組み込みの安全機能があります。詳細については、安全フィルタをご覧ください。

AI アプリケーションを開発する際は、公平性、解釈可能性、プライバシー、セキュリティに関するベストプラクティスを採用するよう、お客様に推奨しています。詳細については、People + AI Guidebook をご覧ください。

安全フィルタ

Gemini Enterprise Agent Platform の Veo には、テキスト、動画、画像など、動画を生成するためのプロンプトを入力する方法がいくつかあります。Veo に提供されるプロンプトは、安全フィルターのリストに基づいて評価されます。このフィルターには、violence、sexual、derogatory、toxic などの有害カテゴリが含まれています。これらの安全フィルターは、Google Cloudプラットフォームの利用規定、生成 AI の使用禁止に関するポリシー、Google AI に関する原則に違反する入力画像や動画を除外することを目的としています。

リクエストに対して The prompt couldn't be submitted や it might violate our policies などのエラー メッセージが返された場合は、入力に対して安全フィルタがトリガーされています。リクエストした数よりも少ない動画しか返ってこなかった場合は、安全要件を満たしていないために、一部の生成結果がブロックされています。

安全フィルタのコードカテゴリ

構成した安全フィルタの内容によっては、出力結果に次のような安全コードが含まれる場合があります。「入力画像が Agent Platform の利用ガイドラインに違反しているため、Veo は動画を生成できませんでしたこれが間違いだと思われる場合は、フィードバックを送信してください。サポートコード: 15236754」

出力に表示されるコードは、特定の有害なカテゴリに対応しています。

次の表に、サポートコードと安全カテゴリのマッピングを示します。

サポートコード	安全性のカテゴリ	説明
58061214 17301594	子	personGeneration が "allow_all" に設定されていない場合、またはプロジェクトがこの機能の許可リストに登録されていない場合、子どもを描写したコンテンツを生成するリクエストを拒否します。
29310472 15236754	有名人	著名人のフォトリアリスティックな表現を生成するリクエストを拒否します。また、プロジェクトがこの機能の許可リストに登録されていない場合も拒否します。
64151117 42237218	動画の安全性の違反	安全に関する一般的な違反。
62263041	危険なコンテンツ	危険な可能性のあるコンテンツ。
57734940 22137204	悪意のあるコンテンツ	ヘイト関連のコンテンツ。
74803281 29578790 42876398	その他	リクエストに関するその他の安全性に関する問題
89371032 49114662 63429089 72817394 60599140	禁止コンテンツ	子供の安全に関する禁止コンテンツやその他のデリケートなコンテンツ。
35561574 35561575	第三者のコンテンツ	第三者のコンテンツに関する制限。
90789179 43188360	性的	性的または性的なものを暗示するコンテンツ。
78610348	有害	有害なコンテンツ。
61493863 56562880	暴力	暴力的なコンテンツ。
32635315	下品	下品なコンテンツ。

次のステップ

• 大規模言語モデル（LLM）用の責任ある AI について学ぶ。

• 責任ある AI への取り組みに関する Google の推奨事項について詳しく知る。

• Google のブログ、責任ある AI の進展に関する共有アジェンダを読む。