Integrar o Model Armor ao Gemini Enterprise

A integração do Model Armor com Gemini Enterprise permite analisar os comandos do usuário e as respostas dos agentes de IA, mitigando riscos como injeção de comando, conteúdo prejudicial e vazamento de dados sensíveis. Depois de configurada, a integração é aplicada a todas as interações do usuário.

Antes de começar

Crie um modelo do Model Armor e verifique se ele está no mesmo Google Cloud projeto do Gemini Enterprise. O local do modelo e da instância do Gemini Enterprise precisam corresponder. Para mais informações sobre os locais compatíveis, consulte Locais do Model Armor e Locais do Gemini Enterprise.

Funções exigidas

Antes de integrar o Model Armor ao Gemini Enterprise, verifique se você tem a função necessária.

Para receber as permissões necessárias para criar e gerenciar modelos do Model Armor, peça ao administrador para conceder a você o papel do IAM de administrador do Model Armor (roles/modelarmor.admin) nos modelos do Model Armor. Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias com papéis personalizados ou outros papéis predefinidos.

Ative a integração

Para ativar o Gemini Enterprise com o Model Armor, o administrador de segurança cria políticas no Model Armor, e o administrador do Gemini Enterprise aplica essas políticas à instância do Gemini Enterprise.

  1. Criar um modelo do Model Armor.
  2. Ativar e configurar o Model Armor no Gemini Enterprise.

Limitações e considerações

Considere as seguintes limitações e considerações ao integrar o Model Armor ao Gemini Enterprise:

  • Desidentificação e mascaramento: quando o Model Armor usa um modelo da Proteção de Dados Sensíveis para analisar comandos ou respostas, ele verifica se o conteúdo corresponde aos critérios do detector de infoType definidos no modelo. Embora a Proteção de Dados Sensíveis ofereça suporte à desidentificação com base na configuração do modelo, o Model Armor não transmite dados desidentificados ou mascarados de volta ao Gemini Enterprise. Se o conteúdo acionar algum detector de infoType da Proteção de Dados Sensíveis e o tipo de aplicação for INSPECT_AND_BLOCK, o Gemini Enterprise vai bloquear a solicitação ou resposta em vez de desidentificá-la.

  • Análise de documentos e imagens: além de comandos de texto, a integração oferece suporte a documentos (como PDFs) e imagens. A integração analisa os seguintes arquivos somente quando você os envia ao assistente do Gemini Enterprise:

    • Imagens enviadas diretamente.
    • Imagens contidas em outros arquivos e documentos enviados diretamente.

    Se um arquivo ou uma imagem em um documento violar as políticas configuradas, todo o arquivo ou documento será descartado e excluído da solicitação.

  • Agentes e interações analisados: a análise se aplica ao assistente do Gemini Enterprise, aos agentes criados por funcionários (criados no app Gemini Enterprise usando o Agent Designer) e aos agentes criados pelo Google. As interações com agentes personalizados da sua organização (como ADK, A2A e Dialogflow) não são analisadas.

  • Limites e cotas de tokens: embora não haja limites diretos de tokens ao usar o Model Armor com o Gemini Enterprise, a taxa de transferência total das avaliações do Model Armor é regida pelas cotas do sistema do Gemini Enterprise e pelos limites de taxa da API Model Armor.

  • Contrato de nível de serviço (SLA): o Gemini Enterprise oferece um contrato de nível de serviço. Quando o Gemini Enterprise está configurado para usar o Model Armor, as consultas bloqueadas não são consideradas violações de SLA, independentemente do modo fail-open ou fail-closed usado.

  • Compliance: o Gemini Enterprise e o Model Armor oferecem várias certificações de compliance. Quando usados juntos, as certificações de compliance eficazes são o subconjunto comum de ambos os produtos. Analise as certificações de compliance dos dois produtos para garantir que eles atendam aos requisitos regulamentares.

Como funciona

Depois que a integração é configurada, o Gemini Enterprise encaminha as entradas do usuário e as saídas do assistente pela API Model Armor para análise usando os modelos selecionados. O Gemini Enterprise é autenticado no Model Armor usando o agente de serviço. O Model Armor responde com base na configuração de filtro definida no modelo, que o Gemini Enterprise usa para bloquear ou permitir a solicitação ou resposta.

Por exemplo, o Gemini Enterprise pode detectar uma solicitação que contém informações de identificação pessoal e encaminhá-la ao Model Armor para análise. Se o modelo do Model Armor estiver configurado para bloquear informações de identificação pessoal (PII), ele vai informar ao Gemini Enterprise para bloquear a solicitação.

Logging

O Model Armor gera registros da plataforma para solicitações de higienização e as respostas delas no Cloud Logging. Você precisa do papel do IAM de Visualizador de registros privados (roles/logging.privateLogViewer) para acessar os registros de auditoria do Model Armor. Para mais informações sobre os registros de auditoria gerados automaticamente, consulte Geração de registros de auditoria do Model Armor.

Para registrar as operações de higienização, defina o campo templateMetadata.logSanitizeOperations como true. Para mais informações, consulte Configurar a geração de registros em modelos.

A seguir