A integração do Model Armor com o Gemini Enterprise permite-lhe filtrar comandos de utilizadores e respostas dos seus agentes de IA, mitigando riscos como injeção de comandos, conteúdo prejudicial e fuga de dados confidenciais. Depois de configurar a integração, esta aplica-se a todas as interações dos utilizadores.
Antes de começar
Crie um modelo do Model Armor e certifique-se de que está no mesmo Google Cloud projeto que o Gemini Enterprise. A localização do modelo e da instância do Gemini Enterprise têm de corresponder. Para mais informações sobre as localizações suportadas, consulte as localizações do Model Armor e as localizações do Gemini Enterprise.
Funções necessárias
Antes de integrar o Model Armor com o Gemini Enterprise, certifique-se de que tem a função necessária.
Para receber as autorizações
necessárias para criar e gerir modelos do Model Armor,
peça ao administrador para lhe conceder a função de IAM
administrador do Model Armor (roles/modelarmor.admin)
nos modelos do Model Armor.
Para mais informações sobre a atribuição de funções, consulte o artigo Faça a gestão do acesso a projetos, pastas e organizações.
Também pode conseguir as autorizações necessárias através de funções personalizadas ou outras funções predefinidas.
Ative a integração
Para ativar o Gemini Enterprise com o Model Armor, o administrador de segurança cria políticas no Model Armor e o administrador do Gemini Enterprise aplica estas políticas à instância do Gemini Enterprise.
Como funciona
Depois de a integração ser configurada, o Gemini Enterprise encaminha as entradas do utilizador e as saídas do assistente através da API Model Armor para análise com os modelos selecionados. O Gemini Enterprise autentica-se no Model Armor através do agente de serviço. O Model Armor responde com base na configuração do filtro definida no modelo, que o Gemini Enterprise usa para bloquear ou permitir o pedido ou a resposta.
Por exemplo, o Gemini Enterprise pode detetar um pedido que contenha informações de identificação pessoal e encaminhá-lo para o Model Armor para análise. Se o modelo Model Armor estiver configurado para bloquear informações de identificação pessoal (IIP), indica ao Gemini Enterprise para bloquear o pedido.
Registo
O Model Armor gera registos da plataforma para pedidos de saneamento e respetivas respostas no Cloud Logging. Precisa da função do IAM Private Logs Viewer (roles/logging.privateLogViewer) para ver os registos de auditoria do Model Armor. Para mais informações sobre os registos de auditoria gerados automaticamente, consulte o artigo Registo de auditoria do Model Armor.
Para registar as operações de limpeza, defina o campo templateMetadata.logSanitizeOperations
como true. Para mais informações, consulte o artigo
Configure o registo nos modelos.