Veo en Gemini Enterprise Agent Platform se diseñó teniendo en cuenta los principios de IA de Google. Sin embargo, es importante que los desarrolladores comprendan cómo probar y, también, implementar los modelos de Google de manera segura y responsable. Para ayudar a los desarrolladores, Veo en Gemini Enterprise Agent Platform tiene funciones de seguridad integradas que ayudan a los clientes a bloquear los resultados potencialmente dañinos dentro de sus casos de uso. Para obtener más información, consulta los filtros de seguridad.
Recomendamos a los clientes que utilicen las prácticas recomendadas de equidad, interpretabilidad, privacidad y seguridad cuando desarrollen aplicaciones de IA. Para obtener más información, consulta The People + AI Guidebook.
Filtros de seguridad
Veo en Gemini Enterprise Agent Platform ofrece varias formas de ingresar instrucciones para generar videos, incluidos texto, video e imágenes. Las instrucciones que se proporcionan a Veo se
evalúan en función de una lista de filtros de seguridad, que incluyen categorías dañinas
(por ejemplo, violence, sexual, derogatory, y toxic). El propósito de estos filtros de seguridad es filtrar las imágenes y los videos de entrada que infrinjan la Google Cloud
Política de Uso Aceptable de la Plataforma,
Política de Uso Prohibido de la IA Generativao nuestros Principios de la IA.
Si el modelo responde a una solicitud con un mensaje de error como The
prompt couldn't be submitted o it might violate our
policies, la entrada activa un filtro de seguridad. Si se muestran menos videos de los solicitados, algunos resultados generados se bloquean por no cumplir con los requisitos de seguridad.
Categorías de códigos de filtro de seguridad
Según los filtros de seguridad que configures, tu resultado puede contener un código de seguridad similar al siguiente: "Veo could not generate videos because the input image violates Agent Platform's usage guidelines. If you think this was an error, send feedback. Códigos de asistencia: 15236754"
El código que se indica en el resultado corresponde a una categoría dañina específica.
En la siguiente tabla, se muestran las asignaciones de código de asistencia a categoría de seguridad:
| Código de asistencia | Categoría de seguridad | Descripción |
|---|---|---|
5806121417301594
|
Hijo o hija |
Rechaza las solicitudes para generar contenido que represente a niños si
personGeneration no está configurado como "allow_all"
o si el proyecto no está en la lista de entidades permitidas para esta función.
|
2931047215236754
|
Celebridad | Rechaza las solicitudes para generar una representación fotorrealista de una persona destacada o si el proyecto no está en la lista de entidades permitidas para esta función. |
6415111742237218
|
Incumplimiento de seguridad del video | Incumplimiento de seguridad general. |
62263041 |
Contenido peligroso | Contenido potencialmente peligroso. |
5773494022137204
|
Odio | Contenido relacionado con el odio. |
748032812957879042876398
|
Otro | Otros problemas de seguridad diversos con la solicitud |
8937103249114662634290897281739460599140 |
Contenido prohibido | Contenido prohibido relacionado con la seguridad infantil o cualquier otro contenido sensible. |
3556157435561575
|
Contenido de terceros | Protecciones relacionadas con el contenido de terceros. |
9078917943188360
|
Contenido sexual | Contenido sexual o provocativo. |
78610348 |
Tóxico | Contenido tóxico. |
6149386356562880
|
Violencia | Contenido violento. |
32635315 |
Vulgar | Contenido vulgar. |
¿Qué sigue?
Obtén información sobre la IA responsable para modelos grandes de lenguaje (LLM)
Obtén más información sobre las recomendaciones de Google para las prácticas de IA responsable
Lee nuestro blog, Un tema compartido para el IA responsable IA