Al integrar Model Armor con Gemini Enterprise, puedes cribar las peticiones de los usuarios y las respuestas de tus agentes de IA, lo que reduce los riesgos, como la inyección de peticiones, el contenido dañino y la filtración de datos sensibles. Una vez configurada la integración, se aplica a todas las interacciones de los usuarios.
Antes de empezar
Crea una plantilla de Model Armor y asegúrate de que esté en el mismo proyecto Google Cloud que Gemini Enterprise. La ubicación de la plantilla y la instancia de Gemini Enterprise deben coincidir. Para obtener más información sobre las ubicaciones admitidas, consulta Ubicaciones de Model Armor y Ubicaciones de Gemini Enterprise.
Roles obligatorios
Antes de integrar Model Armor con Gemini Enterprise, asegúrate de que tienes el rol necesario.
Para obtener los permisos que necesitas para crear y gestionar plantillas de Model Armor, pide a tu administrador que te conceda el rol de gestión de identidades y accesos Administrador de Model Armor (roles/modelarmor.admin) en las plantillas de Model Armor.
Para obtener más información sobre cómo conceder roles, consulta el artículo Gestionar acceso a proyectos, carpetas y organizaciones.
También puedes conseguir los permisos necesarios a través de roles personalizados u otros roles predefinidos.
Habilitar la integración
Para habilitar Gemini Enterprise con Model Armor, el administrador de seguridad crea políticas en Model Armor y el administrador de Gemini Enterprise aplica estas políticas a la instancia de Gemini Enterprise.
Cómo funciona
Una vez configurada la integración, Gemini Enterprise dirige las entradas de los usuarios y las salidas del asistente a través de la API Model Armor para analizarlas con las plantillas seleccionadas. Gemini Enterprise se autentica en Model Armor mediante el agente de servicio. Model Armor responde en función de la configuración del filtro definida en la plantilla, que Gemini Enterprise aplica bloqueando la solicitud o la respuesta, o permitiéndola.
Por ejemplo, Gemini Enterprise puede detectar una petición que contenga información personal identificable y enviarla a Model Armor para que la analice. Si la plantilla de Model Armor está configurada para bloquear la información personal identificable (IPI), le indica a Gemini Enterprise que bloquee la solicitud.
Almacenamiento de registros
Model Armor genera registros de plataforma para las solicitudes de desinfección y sus respuestas en Cloud Logging. Necesitas el rol de gestión de identidades y accesos Visor de registros privados (roles/logging.privateLogViewer) para ver los registros de auditoría de Model Armor. Para obtener más información sobre los registros de auditoría generados automáticamente, consulta el artículo Registro de auditoría de Model Armor.
Para registrar las operaciones de saneamiento, asigna el valor true al campo templateMetadata.logSanitizeOperations. Para obtener más información, consulta Configurar el registro en plantillas.