La integración de Model Armor con Gemini Enterprise te permite analizar las instrucciones de los usuarios y las respuestas de tus agentes de IA, lo que mitiga riesgos como la inyección de instrucciones, el contenido dañino y la filtración de datos sensibles. Una vez que se configura la integración, se aplica a todas las interacciones del usuario.
Antes de comenzar
Crea una plantilla de Model Armor y asegúrate de que esté en el mismo proyecto Google Cloudque Gemini Enterprise. La ubicación de la plantilla y la instancia de Gemini Enterprise deben coincidir. Para obtener más información sobre las ubicaciones admitidas, consulta Ubicaciones de Model Armor y Ubicaciones de Gemini Enterprise.
Roles obligatorios
Antes de integrar Model Armor con Gemini Enterprise, asegúrate de tener el rol requerido.
Para obtener los permisos que
necesitas para crear y administrar plantillas de Model Armor,
pídele a tu administrador que te otorgue el rol de IAM
Administrador de Model Armor (roles/modelarmor.admin)
en las plantillas de Model Armor.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.
Habilita la integración
Para habilitar Gemini Enterprise con Model Armor, tu administrador de seguridad crea políticas en Model Armor y tu administrador de Gemini Enterprise aplica estas políticas a la instancia de Gemini Enterprise.
Cómo funciona
Una vez que se configura la integración, Gemini Enterprise enruta las entradas del usuario y las salidas del asistente a través de la API de Model Armor para la detección con las plantillas seleccionadas. Gemini Enterprise se autentica en Model Armor con el agente de servicio. Model Armor responde según la configuración del filtro definida en la plantilla, que Gemini Enterprise aplica bloqueando o permitiendo la solicitud o la respuesta.
Por ejemplo, Gemini Enterprise podría detectar una solicitud que contiene información de identificación personal y enrutarla a Model Armor para su análisis. Si la plantilla de Model Armor está configurada para bloquear la información de identificación personal (PII), le indica a Gemini Enterprise que bloquee la solicitud.
Logging
Model Armor genera registros de la plataforma para las solicitudes de limpieza y sus respuestas en Cloud Logging. Necesitas el rol de IAM de visualizador de registros privados (roles/logging.privateLogViewer) para ver los registros de auditoría de Model Armor. Para obtener más información sobre los registros de auditoría generados automáticamente, consulta Registros de auditoría de Model Armor.
Para registrar las operaciones de limpieza, configura el campo templateMetadata.logSanitizeOperations en true. Para obtener más información, consulta Cómo configurar el registro en plantillas.