Integrar o Model Armor ao Gemini Enterprise

Ao integrar o Model Armor ao Gemini Enterprise, você pode verificar comandos e respostas dos usuários dos seus agentes de IA, mitigando riscos como injeção de comando, conteúdo prejudicial e vazamento de dados sensíveis. Depois que a integração é configurada, ela se aplica a todas as interações do usuário.

Antes de começar

Crie um modelo do Model Armor e verifique se ele está no mesmo projeto Google Cloud do Gemini Enterprise. O local do modelo e da instância do Gemini Enterprise precisam ser iguais. Para mais informações sobre os locais compatíveis, consulte Locais do Model Armor e Locais do Gemini Enterprise.

Funções exigidas

Antes de integrar o Model Armor ao Gemini Enterprise, verifique se você tem a função necessária.

Para receber as permissões necessárias para criar e gerenciar modelos do Model Armor, peça ao administrador para conceder a você o papel do IAM de Administrador do Model Armor (roles/modelarmor.admin) nos modelos do Model Armor. Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.

Ative a integração

Para ativar o Gemini Enterprise com o Model Armor, o administrador de segurança cria políticas no Model Armor, e o administrador do Gemini Enterprise aplica essas políticas à instância do Gemini Enterprise.

  1. Crie um modelo do Model Armor.
  2. Ative e configure o Model Armor no Gemini Enterprise.

Limitações e considerações

Considere as seguintes limitações e considerações ao integrar o Model Armor com o Gemini Enterprise:

  • Desidentificação e mascaramento: quando o Model Armor usa um modelo da Proteção de Dados Sensíveis para verificar comandos ou respostas, ele verifica se o conteúdo corresponde aos critérios do detector de infoType definidos no modelo. Embora a Proteção de Dados Sensíveis ofereça suporte à desidentificação com base na configuração do modelo, o Model Armor não transmite dados desidentificados ou mascarados de volta para o Gemini Enterprise. Se o conteúdo acionar algum detector de infoType da Proteção de Dados Sensíveis e o tipo de aplicação for INSPECT_AND_BLOCK, o Gemini Enterprise vai bloquear a solicitação ou resposta em vez de remover a identificação.

  • Triagem de documentos e imagens: além de comandos de texto, a integração é compatível com documentos (como PDFs) e imagens. A integração verifica os seguintes arquivos apenas quando você os envia para o assistente do Gemini Enterprise:

    • Imagens que você envia diretamente.
    • Imagens contidas em outros arquivos e documentos que você envia diretamente.

    Se um arquivo ou uma imagem em um documento violar as políticas configuradas, todo o arquivo ou documento será descartado e excluído da solicitação.

  • Agentes e interações verificados: a verificação se aplica ao assistente do Gemini Enterprise, aos agentes criados por funcionários (no app Gemini Enterprise usando o Workflow Builder) e aos agentes criados pelo Google. As interações com agentes personalizados da sua organização (como ADK, A2A e Dialogflow) não são analisadas.

  • Limites e cotas de token: não há limites de token ao usar o Model Armor com o Gemini Enterprise. No entanto, a taxa de transferência total das avaliações do Model Armor é regida pelas cotas do sistema do Gemini Enterprise e pelos limites de taxa da API Model Armor.

  • Contrato de nível de serviço (SLA): o Gemini Enterprise oferece um contrato de nível de serviço. Quando o Gemini Enterprise é configurado para usar o Model Armor, as consultas bloqueadas não contam como violações de SLA, independentemente de o modo fail-open ou fail-closed ser usado.

  • Compliance: o Gemini Enterprise e o Model Armor oferecem várias certificações de compliance. Quando usados juntos, as certificações de compliance efetivas são o subconjunto comum dos dois produtos. Revise as certificações de compliance dos dois produtos para garantir que eles atendam aos seus requisitos regulatórios.

Como funciona

Depois que a integração é configurada, o Gemini Enterprise encaminha as entradas do usuário e as saídas do assistente pela API Model Armor para triagem usando os modelos selecionados. O Gemini Enterprise faz a autenticação no Model Armor usando o agente de serviço. O Model Armor responde com base na configuração de filtro definida no modelo, que o Gemini Enterprise usa para bloquear ou permitir a solicitação ou resposta.

Por exemplo, o Gemini Enterprise pode detectar uma solicitação que contenha informações de identificação pessoal e encaminhá-la para o Model Armor para triagem. Se o modelo do Model Armor estiver configurado para bloquear informações de identificação pessoal (PII), ele vai pedir ao Gemini Enterprise para bloquear a solicitação.

Logging

O Model Armor gera registros da plataforma para solicitações de higienização e as respostas delas no Cloud Logging. Você precisa do papel do IAM de Visualizador de registros particulares (roles/logging.privateLogViewer) para acessar os registros de auditoria do Model Armor. Para mais informações sobre os registros de auditoria gerados automaticamente, consulte Geração de registros de auditoria do Model Armor.

Para registrar as operações de limpeza, defina o campo templateMetadata.logSanitizeOperations como true. Para mais informações, consulte Configurar a geração de registros em modelos.

A seguir