Integra Model Armor con Gemini Enterprise

La integración de Model Armor con Gemini Enterprise te permite analizar las instrucciones de los usuarios y las respuestas de tus agentes de IA, lo que mitiga riesgos como la inyección de instrucciones, el contenido dañino y la filtración de datos sensibles. Una vez que se configura la integración, se aplica a todas las interacciones del usuario.

Antes de comenzar

Crea una plantilla de Model Armor y asegúrate de que esté en el mismo proyecto Google Cloudque Gemini Enterprise. La ubicación de la plantilla y la instancia de Gemini Enterprise deben coincidir. Para obtener más información sobre las ubicaciones admitidas, consulta Ubicaciones de Model Armor y Ubicaciones de Gemini Enterprise.

Roles obligatorios

Antes de integrar Model Armor con Gemini Enterprise, asegúrate de tener el rol requerido.

Para obtener los permisos que necesitas para crear y administrar plantillas de Model Armor, pídele a tu administrador que te otorgue el rol de IAM de Administrador de Model Armor (roles/modelarmor.admin) en las plantillas de Model Armor. Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.

Habilita la integración

Para habilitar Gemini Enterprise con Model Armor, tu administrador de seguridad crea políticas en Model Armor y tu administrador de Gemini Enterprise aplica estas políticas a la instancia de Gemini Enterprise.

  1. Crea una plantilla de Model Armor.
  2. Habilita y configura Model Armor en Gemini Enterprise.

Limitaciones y consideraciones

Ten en cuenta las siguientes limitaciones y consideraciones cuando integres Model Armor con Gemini Enterprise:

  • Desidentificación y enmascaramiento: Cuando Model Armor usa una plantilla de Sensitive Data Protection para analizar instrucciones o respuestas, Model Armor verifica si el contenido coincide con los criterios del detector de Infotipo definidos en la plantilla. Si bien Sensitive Data Protection admite la desidentificación según la configuración de la plantilla, Model Armor no devuelve datos desidentificados ni enmascarados a Gemini Enterprise. Si el contenido activa algún detector de Infotipo de Sensitive Data Protection y el tipo de aplicación es INSPECT_AND_BLOCK, Gemini Enterprise bloqueará la solicitud o la respuesta en lugar de anonimizarla.

  • Análisis de documentos e imágenes: Además de las instrucciones de texto, la integración admite documentos (como archivos PDF) e imágenes. La integración analiza los siguientes archivos solo cuando los subes al asistente de Gemini Enterprise:

    • Imágenes que subes directamente
    • Imágenes contenidas en otros archivos y documentos que subes directamente

    Si un archivo o una imagen dentro de un documento incumple las políticas que configuraste, se descarta todo el archivo o documento y se excluye de la solicitud.

  • Agentes e interacciones verificados: La verificación se aplica al asistente de Gemini Enterprise, a los agentes creados por empleados (en la app de Gemini Enterprise con el Workflow Builder) y a los agentes creados por Google. No se analizan las interacciones con agentes personalizados de tu organización (como ADK, A2A y Dialogflow).

  • Límites y cuotas de tokens: No hay límites de tokens cuando usas Model Armor con Gemini Enterprise. Sin embargo, el rendimiento total de las evaluaciones de Model Armor se rige por las cuotas del sistema de Gemini Enterprise y los límites de frecuencia de la API de Model Armor.

  • Acuerdo de Nivel de Servicio (ANS): Gemini Enterprise proporciona un Acuerdo de Nivel de Servicio. Cuando Gemini Enterprise está configurado para usar Model Armor, las búsquedas bloqueadas no se consideran incumplimientos del ANS, independientemente de si se usa el modo fail-open o fail-closed.

  • Cumplimiento: Tanto Gemini Enterprise como Model Armor ofrecen varias certificaciones de cumplimiento. Cuando se usan en conjunto, las certificaciones de cumplimiento efectivas son el subconjunto común de ambos productos. Revisa las certificaciones de cumplimiento de ambos productos para asegurarte de que satisfagan tus requisitos reglamentarios.

Cómo funciona

Una vez configurada la integración, Gemini Enterprise enruta las entradas del usuario y las salidas del asistente a través de la API de Model Armor para su revisión con las plantillas seleccionadas. Gemini Enterprise se autentica en Model Armor con el agente de servicio. Model Armor responde en función de la configuración del filtro definida en la plantilla, que Gemini Enterprise aplica bloqueando o permitiendo la solicitud o la respuesta.

Por ejemplo, Gemini Enterprise podría detectar una solicitud que contiene información de identificación personal y enrutarla a Model Armor para su análisis. Si la plantilla de Model Armor está configurada para bloquear la información de identificación personal (PII), le indica a Gemini Enterprise que bloquee la solicitud.

Logging

Model Armor genera registros de la plataforma para las solicitudes de limpieza y sus respuestas en Cloud Logging. Necesitas el rol de IAM de visualizador de registros privados (roles/logging.privateLogViewer) para ver los registros de auditoría de Model Armor. Para obtener más información sobre los registros de auditoría generados automáticamente, consulta Registro de auditoría de Model Armor.

Para registrar las operaciones de limpieza, configura el campo templateMetadata.logSanitizeOperations en true. Para obtener más información, consulta Cómo configurar el registro en plantillas.

¿Qué sigue?