O Veo na Gemini Enterprise Agent Platform foi projetado com os princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam como testar e implantar os modelos do Google com segurança e responsabilidade. Para ajudar os desenvolvedores, o Veo na Gemini Enterprise Agent Platform tem recursos de segurança integrados para ajudar os clientes a bloquear resultados potencialmente prejudiciais nos casos de uso. Para mais informações, consulte Filtros de segurança.
Incentivamos os clientes a usar as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança ao desenvolver aplicativos de IA. Para mais informações, consulte o Guia de pessoas e IA (em inglês).
Filtros de segurança
O Veo na Gemini Enterprise Agent Platform oferece várias maneiras de inserir comandos para gerar vídeos, incluindo texto, vídeo e imagens. Os comandos fornecidos ao Veo são
avaliados em relação a uma lista de filtros de segurança, que incluem categorias prejudiciais
(por exemplo, violence, sexual, derogatory, e toxic). Esses filtros de segurança
têm como objetivo filtrar imagens e vídeos de entrada que violem a Google Cloud
Política de Uso Aceitável da Plataforma,
Política de Uso Proibido de IA
Generativa, ou nossos Princípios
de IA.
Se o modelo responder a uma solicitação com uma mensagem de erro, como The
prompt couldn't be submitted ou it might violate our
policies, a entrada vai acionar um filtro de segurança. Se menos vídeos do que o solicitado forem retornados, algumas saídas geradas serão bloqueadas por não atender aos requisitos de segurança.
Categorias de código de filtro de segurança
Dependendo dos filtros de segurança configurados, a saída pode conter um código de segurança semelhante a: "O Veo não conseguiu gerar vídeos porque a imagem de entrada viola as diretrizes de uso da Agent Platform. Se você acha que isso foi um erro, envie feedback. Códigos de suporte: 15236754"
O código listado na saída corresponde a uma categoria nociva específica.
A tabela a seguir mostra os mapeamentos de código de suporte para categoria de segurança:
| Código de suporte | Categoria de segurança | Descrição |
|---|---|---|
5806121417301594
|
Criança |
Rejeita solicitações para gerar conteúdo que retrate crianças se
personGeneration não estiver definido como "allow_all"
ou se o projeto não estiver na lista de permissões para esse recurso.
|
2931047215236754
|
Celebridade | Rejeita solicitações para gerar uma representação fotorrealista de uma pessoa proeminente ou se o projeto não estiver na lista de permissões para este recurso. |
6415111742237218
|
Violação de segurança de vídeo | Violação de segurança geral. |
62263041 |
Conteúdo perigoso | Conteúdo potencialmente perigoso. |
5773494022137204
|
Incita o ódio | Conteúdo relacionado a incitação ao ódio. |
748032812957879042876398
|
Outro | Problemas de segurança diversos com a solicitação |
8937103249114662634290897281739460599140 |
Conteúdo proibido | Conteúdo proibido relacionado à segurança infantil ou outro conteúdo sensível. |
3556157435561575
|
Conteúdo de terceiros | Proteções relacionadas a conteúdo de terceiros. |
9078917943188360
|
Conteúdo sexual | Conteúdo sexual ou sugestivo. |
78610348 |
Tóxico | Conteúdo tóxico. |
6149386356562880
|
Violência | Conteúdo violento. |
32635315 |
Vulgar | Conteúdo vulgar. |
A seguir
Saiba mais sobre a IA responsável por modelos de linguagem grande (LLMs, na sigla em inglês)
Saiba mais sobre as recomendações do Google para práticas de IA responsável
Leia nosso blog, Uma programação compartilhada para o progresso da IA responsável