Integra Model Armor con Gemini Enterprise

La integración de Model Armor con Gemini Enterprise te permite filtrar las instrucciones del usuario y las respuestas de tus agentes de IA, lo que mitiga riesgos como la inyección de instrucciones, el contenido dañino y la filtración de datos sensibles. Una vez que se configura la integración, se aplica a todas las interacciones del usuario.

Antes de comenzar

Crea una plantilla de Model Armor y asegúrate de que esté en el mismo Google Cloud proyecto que Gemini Enterprise. La ubicación de la plantilla y la instancia de Gemini Enterprise deben coincidir. Para obtener más información sobre las ubicaciones admitidas, consulta Ubicaciones de Model Armor y Ubicaciones de Gemini Enterprise.

Roles obligatorios

Antes de integrar Model Armor con Gemini Enterprise, asegúrate de tener el rol obligatorio.

Para obtener los permisos que necesitas para crear y administrar plantillas de Model Armor, pídele a tu administrador que te otorgue el rol de IAM de Administrador de Model Armor (roles/modelarmor.admin) en las plantillas de Model Armor. Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

También puedes obtener los permisos necesarios mediante roles personalizados o cualquier otro rol predefinido.

Habilita la integración

Para habilitar Gemini Enterprise con Model Armor, el administrador de seguridad crea políticas en Model Armor y el administrador de Gemini Enterprise aplica estas políticas a la instancia de Gemini Enterprise.

  1. Crea una plantilla de Model Armor.
  2. Habilita y configura Model Armor en Gemini Enterprise.

Limitaciones y consideraciones

Ten en cuenta las siguientes limitaciones y consideraciones cuando integres Model Armor con Gemini Enterprise:

  • Desidentificación y enmascaramiento: Cuando Model Armor usa una plantilla de Sensitive Data Protection para analizar instrucciones o respuestas, Model Armor verifica si el contenido coincide con los criterios del detector de Infotipo definidos en la plantilla. Aunque Sensitive Data Protection admite la desidentificación basada en la configuración de la plantilla, Model Armor no pasa datos desidentificados o enmascarados a Gemini Enterprise. Si el contenido activa algún detector de Infotipo de Sensitive Data Protection y el tipo de aplicación es INSPECT_AND_BLOCK, Gemini Enterprise bloquea la solicitud o la respuesta en lugar de desidentificarla.

  • Análisis de documentos y de imágenes: Además de las instrucciones de texto, la integración admite documentos (como archivos PDF) y imágenes. La integración analiza los siguientes archivos solo cuando los subes al asistente de Gemini Enterprise:

    • Imágenes que subes directamente
    • Imágenes contenidas dentro de otros archivos y documentos que subes directamente

    Si un archivo o una imagen dentro de un documento incumple las políticas configuradas, se descarta todo el archivo o documento y se excluye de la solicitud.

  • Agentes e interacciones analizados: El análisis se aplica al asistente de Gemini Enterprise, a los agentes creados por empleados (creados en la app de Gemini Enterprise con el Agent Designer) y a los agentes creados por Google. No se analizan las interacciones con agentes personalizados de tu organización (como ADK, A2A y Dialogflow).

  • Límites y cuotas de tokens: Si bien no hay límites directos de tokens cuando usas Model Armor con Gemini Enterprise, el rendimiento total de las evaluaciones de Model Armor se rige por las cuotas del sistema de Gemini Enterprise y los límites de frecuencia de la API de Model Armor.

  • Acuerdo de Nivel de Servicio (ANS): Gemini Enterprise proporciona un Acuerdo de Nivel de Servicio. Cuando Gemini Enterprise está configurado para usar Model Armor, las consultas bloqueadas no se consideran incumplimientos del ANS, independientemente de si se usa el modo fail-open o fail-closed.

  • Cumplimiento: Tanto Gemini Enterprise como Model Armor ofrecen varias certificaciones de cumplimiento. Cuando se usan juntos, las certificaciones de cumplimiento efectivas son el subconjunto común de ambos productos. Revisa las certificaciones de cumplimiento de ambos productos para asegurarte de que cumplan con tus requisitos reglamentarios.

Cómo funciona

Una vez que se configura la integración, Gemini Enterprise enruta las entradas del usuario y las salidas del asistente a través de la API de Model Armor para su análisis con las plantillas seleccionadas. Gemini Enterprise se autentica en Model Armor con el agente de servicio. Model Armor responde según la configuración del filtro definida en la plantilla, que Gemini Enterprise aplica bloqueando la solicitud o la respuesta, o bien permitiéndola.

Por ejemplo, Gemini Enterprise podría detectar una solicitud que contiene información de identificación personal y enrutarla a Model Armor para su análisis. Si la plantilla de Model Armor está configurada para bloquear la información de identificación personal (PII), le indica a Gemini Enterprise que bloquee la solicitud.

Logging

Model Armor genera registros de la plataforma para las solicitudes de limpieza y sus respuestas en Cloud Logging. Necesitas el rol de IAM de Visor de registros privados (roles/logging.privateLogViewer) para ver los registros de auditoría de Model Armor. Para obtener más información sobre los registros de auditoría generados automáticamente, consulta Registro de auditoría de Model Armor.

Para registrar las operaciones de limpieza, establece el campo templateMetadata.logSanitizeOperations en true. Para obtener más información, consulta Configura el registro en plantillas.

¿Qué sigue?