La integración de Model Armor con Gemini Enterprise te permite examinar las instrucciones y las respuestas de los usuarios de tus agentes de IA, lo que mitiga riesgos como la inyección de instrucciones, el contenido dañino y la filtración de datos sensibles. Una vez que se configura la integración, se aplica a todas las interacciones del usuario.
Antes de comenzar
Crea una plantilla de Model Armor y asegúrate de que esté en el mismo Google Cloud proyecto que Gemini Enterprise. La ubicación de la plantilla y la instancia de Gemini Enterprise deben coincidir. Para obtener más información sobre las ubicaciones admitidas, consulta Ubicaciones de Model Armor y Ubicaciones de Gemini Enterprise.
Roles obligatorios
Antes de integrar Model Armor con Gemini Enterprise, asegúrate de tener el rol obligatorio.
Para obtener los permisos que
necesitas para crear y administrar plantillas de Model Armor,
pídele a tu administrador que te otorgue el
rol de IAM de Administrador de Model Armor (roles/modelarmor.admin) en las plantillas de Model Armor.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.
Habilita la integración
Para habilitar Gemini Enterprise con Model Armor, el administrador de seguridad crea políticas en Model Armor y el administrador de Gemini Enterprise aplica estas políticas a la instancia de Gemini Enterprise.
Cómo funciona
Una vez que se configura la integración, Gemini Enterprise enruta las entradas del usuario y las salidas del asistente a través de la API de Model Armor para su examen con las plantillas seleccionadas. Gemini Enterprise se autentica en Model Armor con el agente de servicio. Model Armor responde según la configuración del filtro definida en la plantilla, que Gemini Enterprise aplica bloqueando o permitiendo la solicitud o la respuesta.
Por ejemplo, Gemini Enterprise puede detectar una solicitud que contenga información de identificación personal y enrutarla a Model Armor para su examen. Si la plantilla de Model Armor está configurada para bloquear la información de identificación personal (PII), le indica a Gemini Enterprise que bloquee la solicitud.
Logging
Model Armor genera registros de la plataforma para las solicitudes de limpieza y sus respuestas en Cloud Logging. Necesitas el rol de IAM de Visor de registros privados (roles/logging.privateLogViewer) para ver los registros de auditoría de Model Armor. Para obtener más información sobre los
registros de auditoría generados automáticamente, consulta
Registro de auditoría de Model Armor.
Para registrar las operaciones de limpieza, establece el campo templateMetadata.logSanitizeOperations en true. Para obtener más información, consulta
Configura el registro en plantillas.