Revisa la seguridad de la IA

AI Protection proporciona herramientas para visualizar el inventario de recursos de IA de tu organización, investigar los hallazgos de seguridad y revisar las mitigaciones propuestas para los riesgos y las amenazas. En esta guía, se describe cómo administrar la seguridad de la IA con el panel de seguridad de la IA y la página Recursos.

Antes de comenzar

  • Configura AI Protection.
  • Otorga los roles de Identity and Access Management (IAM) necesarios a los usuarios que acceden al panel de Seguridad de IA y a la pestaña Recursos de IA> de Activos. Para obtener más información, consulta los Roles requeridos.

Usa el panel de AI Security

El panel de AI Security te permite visualizar el inventario de activos de IA de tu organización y revisar las mitigaciones propuestas para los riesgos y las amenazas.

Accede al panel de AI Security

Para acceder al panel de seguridad de IA, ve a la página Resumen de riesgos > Seguridad de IA en la consola de Google Cloud :

Ir a Seguridad de la IA

Para obtener más información, consulta el panel de seguridad de la IA.

Comprende la administración de riesgos para los sistemas de IA

En esta sección, se identifican los riesgos potenciales para tus sistemas de IA y se muestran los principales riesgos de tu inventario de IA.

Para ver una visualización y los detalles de un problema específico, haz clic en él.

Ver amenazas de IA

En esta sección, se destacan las amenazas más recientes a tus recursos de IA.

En esta sección, puedes hacer lo siguiente:

  • Para ver todas las amenazas a tus recursos de IA, haz clic en Ver todo.
  • Para ver información detallada sobre una amenaza específica, haz clic en ella.

Visualiza tu inventario de IA

En esta sección, se proporciona un resumen visual de tu inventario de recursos de IA, incluidos los proyectos que usan IA generativa, los modelos activos de origen y de terceros, y los conjuntos de datos que se usan para entrenar modelos de terceros.

En esta sección, puedes hacer lo siguiente:

  • Para ver detalles sobre tu inventario, haz clic en cualquier nodo de la visualización.
  • Para ver una lista detallada de los activos individuales (como los modelos de Gemini y los modelos personalizados), haz clic en la sugerencia.
  • Para ver los detalles de un modelo, haz clic en él. En esta vista, se muestran detalles como los extremos en los que se aloja el modelo y el conjunto de datos de entrenamiento. Si Sensitive Data Protection está habilitado, la vista de conjuntos de datos también indica si el conjunto de datos contiene datos sensibles.

Revisa el resumen de los hallazgos del marco de trabajo de la IA

En esta sección, se te ayudará a evaluar los hallazgos generados por las políticas de seguridad de IA y las políticas de seguridad de los datos. Incluye las siguientes tarjetas:

  • Hallazgos: En esta sección, se muestra un resumen de los hallazgos generados por las políticas de seguridad de IA y las políticas de seguridad de los datos, como Gemini model detected y Gemini model not protected by Model Armor.

    • Para ver todos los hallazgos, haz clic en Ver todos los hallazgos.
    • Para ver los resultados de una categoría específica, haz clic en el recuento de resultados junto a esa categoría.
    • Para ver los detalles de un resultado individual, haz clic en él.

  • Datos sensibles en los conjuntos de datos de Vertex AI: Muestra un resumen de los hallazgos relacionados con los datos sensibles en tus conjuntos de datos, según lo informa Sensitive Data Protection. Para obtener más información, consulta Introducción a Gemini Enterprise Agent Platform.

Cómo examinar los resultados de Model Armor

En esta sección, se muestra un gráfico de la cantidad total de instrucciones y respuestas que analizó Model Armor, junto con la cantidad de problemas detectados. El gráfico también proporciona estadísticas resumidas para tipos de problemas específicos, como la inyección de instrucciones, los intentos de jailbreak y la exposición de datos sensibles.

En el caso de las cargas de trabajo basadas en agentes, puedes configurar Model Armor en Agent Gateway (vista previa) para examinar las instrucciones y las respuestas hacia y desde los agentes.

En este gráfico, se usan las métricas que Model Armor publica en Cloud Monitoring. Para obtener más información, consulta la descripción general de Model Armor.

Inspecciona los recursos de IA

Además del panel de seguridad de la IA, puedes inspeccionar y consultar el inventario de recursos de IA de tu organización en la página Recursos de la consola deGoogle Cloud con la pestaña Recursos de IA.

En la pestaña Recursos de IA, se proporciona una vista detallada y filtrable de los sistemas y recursos de IA descubiertos, incluidos los siguientes:

  • Modelos
  • Extremos
  • Fuentes de datos
  • Canalizaciones
  • Agentes (vista previa)
  • Servidores del Protocolo de contexto del modelo (MCP) (vista previa)
  • Notebooks

Puedes usar la pestaña Recursos de IA para obtener ayuda con lo siguiente:

  • Comprende tu inventario de IA: Consulta listas completas de los recursos de IA activos en toda tu organización, filtrados por proyecto, ubicación o tipo de recurso.
  • Realiza investigaciones de seguridad: Examina los metadatos completos, el historial de cambios y las políticas de IAM asociadas de activos de IA específicos.
  • Examina los hallazgos relacionados: Consulta rápidamente todos los hallazgos de seguridad asociados a un activo de IA específico para evaluar su exposición al riesgo y determinar los pasos de corrección necesarios.

Para obtener más información sobre cómo ver y filtrar recursos de IA en la consola, consulta Inspecciona los recursos que supervisa Security Command Center.

¿Qué sigue?