Habilita Model Armor en Gemini Enterprise

En este documento, se describe cómo habilitar Model Armor para Gemini Enterprise. Model Armor es un servicio de Google Cloud que mejora la seguridad de tus aplicaciones de IA, ya que analiza de forma proactiva las instrucciones y respuestas que proporciona el asistente de Gemini Enterprise. Los datos de los almacenes de datos listos para usar de Gemini Enterprise (incluidos los de las fuentes de datos de Google y las fuentes de datos de terceros) también se analizan con la misma plantilla de Model Armor configurada para las instrucciones de los usuarios. Filtrar este contenido ayuda a proteger contra varios riesgos y garantizar prácticas de IA responsable.

Model Armor es compatible con todas las ediciones de Gemini Enterprise sin costo adicional.

Model Armor no quita ni altera la información de identificación personal (PII) ni enmascara los datos sensibles. Sin embargo, Gemini Enterprise bloquea cualquier respuesta del asistente de Gemini Enterprise que active los detectores de Sensitive Data Protection.

La respuesta de Model Armor a los posibles problemas en las consultas de los usuarios o las respuestas del asistente de Gemini Enterprise se rige por el tipo de aplicación de medidas por incumplimiento de la plantilla. Para obtener más información, consulta Define el tipo de aplicación de medidas por incumplimiento.

  • Si el tipo de aplicación de medidas por incumplimiento es Inspeccionar y bloquear, Gemini Enterprise bloquea la solicitud y muestra un mensaje de error. Este es el tipo de aplicación de medidas por incumplimiento predeterminado cuando creas una plantilla de Model Armor con la consola.

  • Si el tipo de aplicación de medidas por incumplimiento es Solo inspeccionar, Gemini Enterprise no bloquea las solicitudes ni las respuestas.

Cuando el servicio de filtrado de Model Armor no está disponible, puedes configurar Gemini Enterprise para que se comporte de una de las siguientes maneras:

Modo Descripción
Permitir interacciones del usuario En este modo, Gemini Enterprise permite que las solicitudes y respuestas pasen sin un filtrado proactivo cuando el servicio de filtrado de Model Armor no está disponible, lo que garantiza una comunicación continua con el usuario final. Sin embargo, esto puede, en ocasiones, exponer mensajes no filtrados o proporcionar respuestas a consultas no filtradas.
Bloquea todas las interacciones de los usuarios En este modo, cuando el servicio de filtrado de Model Armor no está disponible, Gemini Enterprise bloquea todas las solicitudes y respuestas, incluidas las legítimas.

Antes de comenzar

  • Asegúrate de tener asignados los roles necesarios para ti y la cuenta de servicio:

    • Si tu plantilla de Model Armor está en un proyecto diferente al de tu app de Gemini Enterprise, el proyecto de la plantilla debe otorgar el rol de usuario de Model Armor (roles/modelarmor.user) a la cuenta de servicio de la app de Gemini Enterprise. El ID de cuenta de servicio es service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com, en el que PROJECT_NUMBER es el número de proyecto de tu app de Gemini Enterprise.

  • Asegúrate de haber creado una app de Gemini Enterprise. Para crear una, consulta Crea una app.

Crea una plantilla de Model Armor

Te recomendamos que configures dos plantillas de Model Armor independientes: una para las instrucciones de los usuarios y otra para las respuestas. Las instrucciones y respuestas de los usuarios tienen diferentes perfiles de riesgo y objetivos:

  • Plantilla para instrucciones de usuario: Se enfoca en evitar que se envíen o suban entradas maliciosas, inyecciones de instrucciones, intentos de jailbreak y datos sensibles. Esta plantilla también filtra los datos de los conectores listos para usar de Gemini Enterprise, como Jira y los conectores federados de Microsoft 365 para SharePoint, OneDrive, Teams y Outlook. Aunque el contenido dañino también es una preocupación para las entradas de los usuarios, puedes inhabilitar los filtros de IA responsable en la plantilla de instrucciones del usuario, ya que Gemini incluye verificaciones de seguridad integradas para las instrucciones de los usuarios.
  • Plantilla para los resultados de las respuestas: Se enfoca en evitar que las respuestas devuelvan o filtren datos sensibles, generen contenido dañino o que no se ajuste a la marca, o devuelvan URLs maliciosas.

Para obtener más información sobre cómo crear plantillas, consulta Crea una plantilla de Model Armor.

Consideraciones de configuración

Cuando crees una plantilla de Model Armor para apps de Gemini Enterprise, ten en cuenta estos parámetros de configuración:

  • Puedes crear plantillas de Model Armor de forma centralizada en un proyecto y reutilizarlas en diferentes proyectos. Si usas una plantilla entre proyectos, asegúrate de que los permisos entre proyectos estén configurados como se describe en Antes de comenzar.

  • Selecciona Multirregión en el campo Regiones. En la siguiente tabla, se muestra cómo asignar las regiones de las plantillas de Model Armor a las regiones de las apps de Gemini Enterprise:

    Multirregión de la app de Gemini Enterprise Multirregión de Model Armor
    Global
    • us (múltiples regiones en Estados Unidos)
    • EU (múltiples regiones en la Unión Europea)
    US (multiple regions in United States) US (multiple regions in United States)
    EU (múltiples regiones en la Unión Europea) EU (múltiples regiones en la Unión Europea)

  • Google no recomienda configurar Cloud Logging en la plantilla de Model Armor para las apps de Gemini Enterprise. Esta configuración puede exponer datos sensibles a los usuarios con el rol de IAM de Visualizador de registros privados (roles/logging.privateLogViewer). En su lugar, considera las siguientes opciones:

    • Si necesitas registrar los datos que pasan por la plantilla de Model Armor, puedes volver a enrutar los registros a un almacenamiento seguro, como BigQuery, que ofrece controles de acceso más estrictos. Para obtener más información, consulta Enruta registros a destinos compatibles.

    • Puedes configurar los registros de auditoría de acceso a los datos para analizar y generar informes sobre los veredictos de filtrado de solicitudes y respuestas que genera Model Armor. Para obtener más información, consulta Configura los registros de auditoría.

  • Evita activar el filtro de detección de inyección de instrucciones y jailbreak para las respuestas. Los ataques de inyección de instrucciones y jailbreak son de uso frecuente en las instrucciones de los usuarios. Habilitar este filtro en las respuestas puede aumentar los falsos positivos y agregar latencia innecesaria.

Configura la app de Gemini Enterprise con las plantillas de Model Armor

En los siguientes pasos, se describe cómo agregar las plantillas de Model Armor a tu app de Gemini Enterprise.

Console

  1. En la consola de Google Cloud , ve a la página Gemini Enterprise.

    Gemini Enterprise

  2. Haz clic en el nombre de la app que quieres configurar.

  3. Haz clic en Configuraciones > Asistente.

  4. Para activar Model Armor, haz clic en Habilitar Model Armor.

  5. En Plantilla de Model Armor para instrucciones de usuarios y Plantillas de Model Armor para resultados de respuestas, ingresa el Nombre del recurso de las plantillas de Model Armor que creaste.

  6. Si deseas bloquear las interacciones del usuario durante las fallas de procesamiento de Model Armor, desactiva el botón de activación Permitir interacciones del usuario durante fallas de procesamiento de Model Armor. Para obtener más información, consulta los dos modos que admite Gemini Enterprise cuando Model Armor no está disponible.

  7. Haz clic en Guardar y publicar.

REST

Para agregar las plantillas de Model Armor a tu app de Gemini Enterprise, ejecuta el siguiente comando :

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

Reemplaza lo siguiente:

  • PROJECT_ID: el ID de tu proyecto.
  • ENDPOINT_LOCATION: Es la multirregión para tu solicitud a la API. Especifica uno de los siguientes valores:
    • us para la multirregión de EE.UU.
    • eu para la multirregión de la UE
    • global para la ubicación global
    Para obtener más información, consulta Cómo especificar una multirregión para tu almacén de datos.
  • LOCATION: Es la multirregión de tu almacén de datos: global, us o eu.
  • APP_ID: Es el ID de la app que deseas configurar.

  • QUERY_PROMPT_TEMPLATE: Es el nombre del recurso de la plantilla de Model Armor que filtra las instrucciones y los datos de los usuarios de los conectores listos para usar.
    Para obtener el nombre del recurso, sigue los pasos de la documentación de Visualiza una plantilla de Model Armor y copia el valor de Nombre del recurso.

  • RESPONSE_PROMPT_TEMPLATE: Es el nombre del recurso de las plantillas de Model Armor que creaste. Puedes usar plantillas de Model Armor creadas en el mismo proyecto o en un proyecto diferente.

  • FAIL_MODE: Es el modo de operación cuando Model Armor no está disponible: FAIL_CLOSED o FAIL_OPEN.
    Si no se define FAIL_MODE, FAIL_CLOSED es el modo predeterminado en el que se bloquean todas las interacciones con el asistente de Gemini Enterprise cuando hay fallas en el procesamiento de Model Armor. Para obtener más información, consulta los dos modos que admite Gemini Enterprise cuando Model Armor no está disponible.

Prueba si la plantilla de Model Armor está habilitada

Después de configurar la plantilla de Model Armor, prueba si tu app de Gemini Enterprise filtra y bloquea de forma proactiva las instrucciones y respuestas de los usuarios del asistente de Gemini Enterprise, según los niveles de confianza establecidos en los filtros de Model Armor.

Cuando la plantilla de Model Armor está configurada para inspeccionar y bloquear las solicitudes que incumplen la política, se muestra el siguiente mensaje de incumplimiento de política:

Console

Por ejemplo, verás el mensaje de incumplimiento de política:
Muestra el mensaje que recibe un usuario cuando infringe la plantilla de Model Armor habilitada para la app.
Mensaje de incumplimiento de política de Model Armor

REST

Una respuesta JSON que incluye lo siguiente:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Quita las plantillas de Model Armor de una app de Gemini Enterprise

Para quitar las plantillas de Model Armor de una app de Gemini Enterprise, usa la consola de Google Cloud o la API de REST.

Console

Para quitar las plantillas de Model Armor de tu app de Gemini Enterprise, sigue estos pasos:

  1. En la consola de Google Cloud , ve a la página Gemini Enterprise.

    Gemini Enterprise

  2. Haz clic en el nombre de la app que quieres configurar.

  3. Haz clic en Configuraciones > Asistente.

  4. Para desactivar Model Armor, haz clic en el botón de activación o desactivación Habilitar Model Armor para llevarlo a la posición desactivada.

  5. Haz clic en Guardar y publicar.

REST

Para quitar las plantillas de Model Armor de tu app de Gemini Enterprise, ejecuta el siguiente comando:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

Reemplaza lo siguiente:

  • PROJECT_ID: el ID de tu proyecto.
  • PROJECT_NUMBER: Es el número de tu proyecto de Google Cloud .
  • ENDPOINT_LOCATION: Es la multirregión para tu solicitud a la API. Especifica uno de los siguientes valores:
    • us para la multirregión de EE.UU.
    • eu para la multirregión de la UE
    • global para la ubicación global
    Para obtener más información, consulta Cómo especificar una multirregión para tu almacén de datos.
  • LOCATION: Es la multirregión de tu almacén de datos: global, us o eu.
  • APP_ID: Es el ID de la app que deseas configurar.

Configura registros de auditoría

Model Armor puede escribir registros de auditoría de acceso a los datos, que puedes usar para analizar y generar informes sobre los veredictos de filtrado de solicitudes y respuestas que genera Model Armor. Estos registros no contienen las consultas de los usuarios ni las respuestas del asistente de Gemini Enterprise, por lo que son seguros para los informes y los análisis. Para obtener más información, consulta Registros de auditoría para Model Armor.

Para acceder a estos registros, debes tener el rol de IAM de visor de registros privados (roles/logging.privateLogViewer).

Habilita los registros de auditoría de acceso a los datos

Para habilitar los registros de auditoría de acceso a los datos, sigue estos pasos:

  1. En la consola de Google Cloud , ve a IAM y administración > Registros de auditoría.

  2. Selecciona la API de Model Armor.

  3. En la sección Tipo de permiso, selecciona el tipo de permiso Lectura de datos.

  4. Haz clic en Guardar.

Examina los registros de auditoría de acceso a los datos

Para examinar los registros de auditoría de acceso a los datos, sigue estos pasos:

  1. En la consola de Google Cloud , accede al Explorador de registros.

  2. Busca en los registros los siguientes nombres de métodos:

    • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" para ver las solicitudes de usuarios que se filtraron.

    • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse para ver las respuestas que se filtraron.

Consideraciones para usar Model Armor

Cuando uses Model Armor con Gemini Enterprise, ten en cuenta lo siguiente:

Desidentificación y enmascaramiento Cuando Model Armor usa una plantilla de Sensitive Data Protection para analizar instrucciones o respuestas, verifica si el contenido coincide con los criterios del detector definidos en la plantilla. Aunque Sensitive Data Protection admite la desidentificación según la configuración de la plantilla, Model Armor no pasa datos desidentificados o enmascarados a Gemini Enterprise. Si el contenido activa algún detector de Sensitive Data Protection y el tipo de aplicación de política es INSPECT_AND_BLOCK, Gemini Enterprise bloquea la solicitud o la respuesta en lugar de desidentificarla.
Límites y cuotas de tokens No hay límites de tokens cuando usas Model Armor con Gemini Enterprise. Sin embargo, la capacidad de procesamiento total de tus evaluaciones de Model Armor sigue regida de forma indirecta por las cuotas del sistema de Gemini Enterprise y los límites de frecuencia de la API de Model Armor.
Acuerdo de Nivel de Servicio Gemini Enterprise proporciona un Acuerdo de Nivel de Servicio. Cuando Gemini Enterprise está configurado para usar Model Armor, las consultas bloqueadas no se consideran incumplimientos del ANS, independientemente de si se usa el modo fail-open o fail-closed.
Cumplimiento Tanto Gemini Enterprise como Model Armor ofrecen varias certificaciones de cumplimiento. Cuando se usan juntas, las certificaciones de cumplimiento efectivas son el subconjunto común de ambos productos. Google recomienda revisar las certificaciones de cumplimiento de ambos productos para garantizar que cumplan con tus requisitos reglamentarios.
Revisión de documentos y de imágenes Además de las instrucciones de texto, la integración de Model Armor admite documentos (como archivos PDF) e imágenes. La integración de Model Armor solo analiza los siguientes archivos cuando los subes al asistente de Gemini Enterprise:
  • Documentos (como archivos PDF, CSV y de texto)
  • Imágenes que subes directamente
  • Imágenes contenidas en otros archivos y documentos que subes directamente
Si un archivo o una imagen dentro de un documento incumple las políticas configuradas, se descarta todo el archivo o documento y se excluye de la solicitud. Para obtener la lista de tipos de documentos admitidos, consulta Revisión de documentos.
Conectores listos para usar Los datos de los conectores listos para usar de Gemini Enterprise se filtran con la plantilla de Model Armor configurada para las instrucciones de los usuarios. Esto incluye conectores como Jira y los conectores federados de Microsoft 365 para SharePoint, OneDrive, Teams y Outlook.
Interacciones y agentes filtrados Si se configura una plantilla de Model Armor para filtrar las solicitudes de los usuarios, solo se filtran las interacciones con los siguientes agentes en Gemini Enterprise: No se filtran las interacciones con agentes personalizados de tu organización, como ADK, A2A y Dialogflow.

¿Qué sigue?