Ao integrar o Model Armor ao Gemini Enterprise, você pode examinar comandos e respostas dos usuários dos seus agentes de IA, mitigando riscos como injeção de comando, conteúdo nocivo e vazamento de dados sensíveis. Depois que a integração é configurada, ela se aplica a todas as interações do usuário.
Antes de começar
Crie um modelo do Model Armor e verifique se ele está no mesmo projeto Google Cloud do Gemini Enterprise. O local do modelo e da instância do Gemini Enterprise precisam ser iguais. Para mais informações sobre os locais compatíveis, consulte Locais do Model Armor e Locais do Gemini Enterprise.
Funções exigidas
Antes de integrar o Model Armor ao Gemini Enterprise, verifique se você tem a função necessária.
Para receber as permissões necessárias
para criar e gerenciar modelos do Model Armor,
peça ao administrador para conceder a você o
papel do IAM de Administrador do Model Armor (roles/modelarmor.admin)
nos modelos do Model Armor.
Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.
Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.
Ative a integração
Para ativar o Gemini Enterprise com o Model Armor, o administrador de segurança cria políticas no Model Armor, e o administrador do Gemini Enterprise aplica essas políticas à instância do Gemini Enterprise.
Como funciona
Depois que a integração é configurada, o Gemini Enterprise encaminha as entradas do usuário e as saídas do assistente pela API Model Armor para triagem usando os modelos selecionados. O Gemini Enterprise se autentica no Model Armor usando o agente de serviço. O Model Armor responde com base na configuração de filtro definida no modelo, que o Gemini Enterprise usa para bloquear ou permitir a solicitação ou resposta.
Por exemplo, o Gemini Enterprise pode detectar uma solicitação com informações de identificação pessoal e encaminhá-la para o Model Armor para triagem. Se o modelo do Model Armor estiver configurado para bloquear informações de identificação pessoal (PII), ele vai pedir ao Gemini Enterprise para bloquear a solicitação.
Logging
O Model Armor gera registros da plataforma para solicitações de higienização e
as respostas delas no Cloud Logging. Você precisa do papel do IAM Visualizador de registros particulares
(roles/logging.privateLogViewer) para acessar os registros de auditoria do
Model Armor. Para mais informações sobre os registros de auditoria gerados automaticamente, consulte Geração de registros de auditoria do Model Armor.
Para registrar as operações de limpeza, defina o campo templateMetadata.logSanitizeOperations como true. Para mais informações, consulte
Configurar a geração de registros em modelos.