Verantwortungsbewusste Anwendung von KI für die Videogenerierung mit Veo auf der Gemini Enterprise Agent Platform

Veo auf der Gemini Enterprise Agent Platform wurde unter Berücksichtigung der Google-Prinzipien für KI entwickelt. Es ist jedoch wichtig, dass Entwickler wissen, wie sie die Modelle von Google sicher und verantwortungsvoll testen und bereitstellen können. Zur Unterstützung von Entwicklern verfügt Veo auf der Gemini Enterprise Agent Platform über integrierte Sicherheitsfunktionen, mit denen Kunden potenziell schädliche Ausgaben innerhalb ihrer Anwendungsfälle blockieren können. Weitere Informationen finden Sie unter Sicherheitsfilter.

Wir empfehlen unseren Kunden, bei der Entwicklung von KI-Anwendungen Best Practices für Fairness, Interpretierbarkeit, Datenschutz und Sicherheit zu verwenden. Weitere Informationen finden Sie im The People + AI Guidebook.

Sicherheitsfilter

Veo auf der Gemini Enterprise Agent Platform bietet verschiedene Möglichkeiten, Prompts einzugeben, um Videos zu generieren, darunter Text, Video und Bilder. Prompts, die an Veo gesendet werden, werden anhand einer Liste von Sicherheitsfiltern bewertet, die schädliche Kategorien enthalten (z. B. violence, sexual, derogatory und toxic). Diese Sicherheits filter dienen dazu, Eingabebilder und ‑videos herauszufiltern, die gegen die Google Cloud Richtlinien zur zulässigen Verwendung der Plattform, Richtlinie für verbotene Nutzung generativer KI oder unsere KI- Prinzipien verstoßen.

Wenn das Modell auf eine Anfrage mit einer Fehlermeldung wie The prompt couldn't be submitted oder it might violate our policies reagiert, löst die Eingabe einen Sicherheitsfilter aus. Wenn weniger Videos als angefordert zurückgegeben werden, werden generierte Ausgaben blockiert, weil sie die Sicherheitsanforderungen nicht erfüllen.

Kategorien von Sicherheitsfiltercodes

Je nachdem, welche Sicherheitsfilter Sie konfigurieren, kann Ihre Ausgabe einen Sicherheitscode wie den folgenden enthalten: „Veo konnte keine Videos generieren, da das Eingabebild gegen die Nutzungsrichtlinien der Agent Platform verstößt. Wenn Sie der Meinung sind, dass dies ein Fehler war, senden Sie uns Feedback. Support codes: 15236754"

Der in der Ausgabe aufgeführte Code entspricht einer bestimmten schädlichen Kategorie.

In der folgenden Tabelle sind die Zuordnungen von Supportcodes zu Sicherheitskategorien aufgeführt:

Support code Sicherheitskategorie Beschreibung
58061214
17301594 		Untergeordnet Lehnt Anfragen zum Generieren von Inhalten ab, die Kinder darstellen, wenn personGeneration nicht auf "allow_all" festgelegt ist oder wenn das Projekt nicht auf der Zulassungsliste für diese Funktion steht.
29310472
15236754 		Celebrity Lehnt Anfragen zum Generieren einer fotorealistischen Darstellung einer prominenten Person ab oder wenn das Projekt nicht auf der Zulassungsliste für diese Funktion steht.
64151117
42237218 		Verstoß gegen die Videosicherheit Allgemeiner Sicherheitsverstoß.
62263041 Gefährliche Inhalte Potenziell gefährliche Inhalte.
57734940
22137204 		Hass Hassbezogene Inhalte.
74803281
29578790
42876398 		Sonstiges Verschiedene Sicherheitsprobleme mit der Anfrage
89371032
49114662
63429089
72817394
60599140
 Unzulässige Inhalte Unzulässige Inhalte im Zusammenhang mit der Sicherheit von Kindern oder anderen sensiblen Inhalten.
35561574
35561575 		Inhalte von Dritten Sicherheitsvorkehrungen im Zusammenhang mit Inhalten von Dritten.
90789179
43188360 		Sexuelle Inhalte Sexuelle oder anzügliche Inhalte.
78610348 Schädlich Schädliche Inhalte.
61493863
56562880 		Gewalt Gewaltverherrlichende Inhalte.
32635315 Ordinär Ordinäre Inhalte.

Nächste Schritte