O Model Armor é um Google Cloud serviço concebido para melhorar a segurança das suas aplicações de IA, particularmente as que usam modelos de linguagem (conteúdo extenso) (MDIs/CEs). Funciona inspecionando os comandos enviados aos seus modelos e as respostas geradas por estes, ajudando a mitigar os riscos e a aplicar práticas de IA responsáveis.
Configure modelos
Defina como o Model Armor deve filtrar o conteúdo criando e usando modelos do Model Armor. Um modelo é um conjunto de configurações reutilizável onde especifica os filtros a ativar, os níveis de confiança dos filtros e o tipo de aplicação de cada filtro. Para mais informações, consulte o artigo Crie e faça a gestão de modelos.
Configure as definições do piso
Para garantir um nível de proteção base, os administradores de segurança podem configurar definições de limite mínimo ao nível da organização, da pasta ou do projeto. Estas definições exigem requisitos mínimos de filtros que todos os modelos do Model Armor criados nesse âmbito têm de cumprir, o que ajuda a evitar configurações excessivamente permissivas. Para mais informações, consulte o artigo Configure as definições do piso.
Limpe comandos e respostas
Quando um utilizador envia um comando para a sua aplicação, esta envia primeiro este comando para o Model Armor. O Model Armor processa o comando através dos filtros ativados no modelo e devolve uma resposta a indicar se foram encontradas violações de políticas e resultados detalhados de cada filtro. Em seguida, a lógica da aplicação decide o que fazer.
Quando um GML gera uma resposta, antes de apresentar esta resposta ao utilizador, a sua aplicação envia-a para o Model Armor. O Model Armor analisa a saída do GML através das configurações de filtro definidas no modelo e devolve os resultados da análise. Em seguida, a sua aplicação decide se apresenta a resposta ao utilizador, podendo bloqueá-la se forem encontradas violações.
Para mais informações, consulte o artigo Limpe comandos e respostas.