Vertex AI の動画生成機能 Veo における責任ある AI

Vertex AI の Veo は、Google の AI に関する原則を念頭に置いて設計されています。ただし、Google のモデルを安全かつ責任を持ってテストしてデプロイする方法をデベロッパーが理解することが重要です。デベロッパーを支援するために、Vertex AI の Veo には、ユーザーのユースケース内で潜在的に有害な出力をブロックできるようにする組み込みの安全機能があります。詳細については、安全フィルタをご覧ください。

AI アプリケーションを開発する際は、公平性、解釈可能性、プライバシー、セキュリティに関するベストプラクティスを採用するよう、お客様に推奨しています。詳細については、People + AI Guidebook をご覧ください。

安全フィルタ

Vertex AI の Veo には、テキスト、動画、画像など、動画を生成するためのプロンプトを入力する方法がいくつかあります。Veo に提供されるプロンプトは、安全フィルターのリストに基づいて評価されます。このフィルターには、violence、sexual、derogatory、toxic などの有害カテゴリが含まれています。これらの安全フィルターは、Google Cloudプラットフォームの利用規定、生成 AI の使用禁止に関するポリシー、Google AI に関する原則に違反する入力画像や動画を除外することを目的としています。

リクエストに対して The prompt couldn't be submitted や it might violate our policies などのエラー メッセージが返された場合は、入力に対して安全フィルタがトリガーされています。リクエストした数よりも少ない動画しか返ってこなかった場合は、安全要件を満たしていないために、一部の生成結果がブロックされています。

安全フィルタのコードカテゴリ

構成した安全フィルタの内容によっては、出力結果に次のような安全コードが含まれる場合があります。「入力画像が Vertex AI の利用ガイドラインに違反しているため、Veo は動画を生成できませんでしたこれが間違いだと思われる場合は、フィードバックを送信してください。サポートコード: 15236754」

出力に表示されるコードは、特定の有害なカテゴリに対応しています。

次の表に、サポートコードと安全カテゴリのマッピングを示します。

サポートコード	安全性のカテゴリ	説明
58061214 17301594	子	personGeneration が "allow_all" に設定されていない場合、またはプロジェクトがこの機能の許可リストに登録されていない場合、子どもを描写したコンテンツを生成するリクエストを拒否します。
29310472 15236754	有名人	著名人のフォトリアリスティックな表現を生成するリクエストを拒否します。また、プロジェクトがこの機能の許可リストに登録されていない場合も拒否します。
64151117 42237218	動画の安全性の違反	安全性に関する違反のコンテンツを検出します。
62263041	危険なコンテンツ	本質的に危険な可能性のあるコンテンツを検出します。
57734940 22137204	悪意のあるコンテンツ	ヘイト関連のトピックやコンテンツを検出します。
74803281 29578790 42876398	その他	リクエストに関するその他の安全性に関する問題を検出します。
92201652	個人情報	テキスト内の個人情報（PII）を検出します。たとえば、クレジット カード番号、自宅の住所、その他の個人情報の記載を検出します。
89371032 49114662 72817394	禁止コンテンツ	リクエストで禁止コンテンツのリクエストを検出します。
90789179 63429089 43188360	性的	性的なコンテンツを検出します。
78610348	有害	テキスト内の有害なトピックやコンテンツを検出します。
61493863 56562880	暴力	動画またはテキストから暴力関連のコンテンツを検出します。
32635315	下品	テキストから下品なトピックやコンテンツを検出します。

次のステップ

• 大規模言語モデル（LLM）用の責任ある AI について学ぶ。

• 責任ある AI への取り組みに関する Google の推奨事項について詳しく知る。

• Google のブログ、責任ある AI の進展に関する共有アジェンダを読む。