AI responsabile per la generazione di video di Veo su Gemini Enterprise Agent Platform

Veo su Gemini Enterprise Agent Platform è progettato tenendo presenti i principi dell'AI di Google. Tuttavia, è importante che gli sviluppatori comprendano come testare e implementare i modelli di Google in modo sicuro e responsabile. Per aiutare gli sviluppatori, Veo su Gemini Enterprise Agent Platform dispone di funzionalità di sicurezza integrate per aiutare i clienti a bloccare output potenzialmente dannosi nei loro casi d'uso. Per ulteriori informazioni, consulta Filtri di sicurezza.

Invitiamo i clienti a utilizzare le best practice per equità, interpretabilità, privacy e sicurezza quando sviluppano applicazioni di AI. Per ulteriori informazioni, consulta la Guida People + AI.

Filtri di sicurezza

Veo sulla piattaforma di agenti Gemini Enterprise offre diversi modi per inserire prompt per generare video, tra cui testo, video e immagini. I prompt forniti a Veo vengono valutati in base a un elenco di filtri di sicurezza, che includono categorie dannose (ad esempio, violence, sexual, derogatory e toxic). Questi filtri di sicurezza mirano a escludere immagini e video di input che violano le Google Cloud norme di utilizzo accettabile della piattaforma, le norme di utilizzo vietato dell'AI generativa o i nostri principi di AI.

Se il modello risponde a una richiesta con un messaggio di errore, ad esempio The prompt couldn't be submitted o it might violate our policies, l'input sta attivando un filtro di sicurezza. Se vengono restituiti meno video di quelli richiesti, alcuni output generati vengono bloccati perché non soddisfano i requisiti di sicurezza.

Categorie di codici del filtro di sicurezza

A seconda dei filtri di sicurezza che configuri, l'output potrebbe contenere un codice di sicurezza simile a: "Veo non è riuscito a generare video perché l'immagine di input viola le linee guida per l'utilizzo della piattaforma dell'agente. Se ritieni che si sia trattato di un errore, invia un feedback. Codici di assistenza: 15236754"

Il codice elencato nell'output corrisponde a una categoria dannosa specifica.

La tabella seguente mostra i mapping tra codice di assistenza e categoria di sicurezza:

Codice di assistenza Categoria di sicurezza Descrizione
58061214
17301594 		Figlio Rifiuta le richieste di generazione di contenuti che raffigurano bambini se personGeneration non è impostato su "allow_all" o se il progetto non è nella lista consentita per questa funzionalità.
29310472
15236754 		Celebrity Rifiuta le richieste di generare una rappresentazione fotorealistica di una persona di spicco o se il progetto non è nella lista consentita per questa funzionalità.
64151117
42237218 		Violazione della sicurezza dei video Violazione della sicurezza generale.
62263041 Contenuti pericolosi Contenuti potenzialmente pericolosi.
57734940
22137204 		Incitamento all'odio Contenuti correlati all'odio.
74803281
29578790
42876398 		Altro Problemi di sicurezza vari relativi alla richiesta
89371032
49114662
63429089
72817394
60599140
 Contenuti vietati Contenuti vietati relativi alla sicurezza dei minori o altri contenuti sensibili.
35561574
35561575 		Contenuti di terze parti Limitazioni relative ai contenuti di terze parti.
90789179
43188360 		Contenuti di natura sessuale Contenuti di natura sessuale o allusivi.
78610348 Contenuti tossici Contenuti tossici.
61493863
56562880 		Violenza Contenuti violenti.
32635315 Volgare Contenuti volgari.

Passaggi successivi