Este principio del pilar de seguridad del Google Cloud Well-Architected Framework proporciona recomendaciones para ayudarte a proteger tus sistemas de IA. Estas recomendaciones se alinean con el Secure AI Framework (SAIF) de Google, que proporciona un enfoque práctico para abordar las inquietudes de seguridad y riesgo de los sistemas de IA. El SAIF es un framework conceptual que tiene como objetivo proporcionar estándares para toda la industria para crear e implementar la IA de manera responsable.
Descripción general del principio
Para asegurarte de que tus sistemas de IA cumplan con tus requisitos de seguridad, privacidad y cumplimiento, debes adoptar una estrategia integral que comience con el diseño inicial y se extienda a la implementación y las operaciones. Puedes implementar esta estrategia integral aplicando los seis elementos principales del SAIF.
Google usa la IA para mejorar las medidas de seguridad, como identificar amenazas, automatizar tareas de seguridad y mejorar las capacidades de detección, al mismo tiempo que mantiene a las personas involucradas en las decisiones críticas.
Google enfatiza un enfoque colaborativo para avanzar en la seguridad de la IA. Este enfoque implica asociarse con clientes, industrias y gobiernos para mejorar los lineamientos del SAIF y ofrecer recursos prácticos y procesables.
Las recomendaciones para implementar este principio se agrupan en las siguientes secciones:
Recomendaciones para usar la IA de forma segura
Para usar la IA de forma segura, necesitas controles de seguridad fundamentales y controles de seguridad específicos de la IA. En esta sección, se proporciona una descripción general de las recomendaciones para garantizar que tus implementaciones de IA y AA cumplan con los requisitos de seguridad, privacidad y cumplimiento de tu organización. Para obtener una descripción general de los principios y las recomendaciones de arquitectura que son específicos de las cargas de trabajo de IA y AA en Google Cloud, consulta la perspectiva de IA y AA en el Framework de Well-Architected.
Define objetivos y requisitos claros para el uso de la IA
Esta recomendación es pertinente para las siguientes áreas de enfoque:
- Administración, riesgo y cumplimiento de la nube
- Seguridad de la IA y el AA
Esta recomendación se alinea con el elemento del SAIF sobre la contextualización de los riesgos del sistema de IA en los procesos comerciales del entorno. Cuando diseñas y desarrollas sistemas de IA, es importante comprender tus objetivos comerciales, riesgos y requisitos de cumplimiento específicos.
Protege los datos y evita la pérdida o el manejo inadecuado
Esta recomendación es pertinente para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
Esta recomendación se alinea con los siguientes elementos del SAIF:
- Amplía la infraestructura de seguridad sólida al ecosistema de IA. Este elemento incluye la recopilación de datos, el almacenamiento, el control de acceso y la protección contra el envenenamiento de datos.
- Contextualiza los riesgos del sistema de IA. Enfatiza la seguridad de los datos para respaldar los objetivos comerciales y el cumplimiento.
Protege las canalizaciones de IA y hazlas sólidas contra la manipulación
Esta recomendación es pertinente para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
Esta recomendación se alinea con los siguientes elementos del SAIF:
- Amplía la infraestructura de seguridad sólida al ecosistema de IA. Como elemento clave para establecer un sistema de IA seguro, protege tu código y los artefactos del modelo.
- Adapta los controles para obtener ciclos de retroalimentación más rápidos. Debido a que es importante para la mitigación y la respuesta ante incidentes, haz un seguimiento de tus recursos y ejecuciones de canalización.
Implementa apps en sistemas seguros con herramientas y artefactos seguros
Esta recomendación es pertinente para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
El uso de sistemas seguros y herramientas y artefactos validados en aplicaciones basadas en IA se alinea con el elemento del SAIF sobre la expansión de bases de seguridad sólidas al ecosistema y la cadena de suministro de IA. Esta recomendación se puede abordar con los siguientes pasos:
- Implementa un entorno seguro para el entrenamiento y la implementación de AA.
- Usa imágenes de contenedor validadas.
- Aplica los lineamientos de Niveles de cadena de suministro para artefactos de software (SLSA) .
Protege y supervisa las entradas
Esta recomendación es pertinente para las siguientes áreas de enfoque:
- Registro, auditoría y supervisión
- Operaciones de seguridad
- Seguridad de la IA y el AA
Esta recomendación se alinea con el elemento del SAIF sobre la ampliación de la detección y la respuesta para incorporar la IA al universo de las amenazas de una organización. Para evitar problemas, es fundamental administrar las instrucciones para los sistemas de IA generativa, supervisar las entradas y controlar el acceso de los usuarios.
Recomendaciones para la administración de la IA
Todas las recomendaciones de esta sección son pertinentes para la siguiente área de enfoque: Administración, riesgo y cumplimiento de la nube.
Google Cloud ofrece un conjunto sólido de herramientas y servicios que puedes usar para crear sistemas de IA responsables y éticos. También ofrecemos un framework de políticas, procedimientos y consideraciones éticas que pueden guiar el desarrollo, la implementación y el uso de sistemas de IA.
Como se refleja en nuestras recomendaciones, el enfoque de Google para la administración de la IA se guía por los siguientes principios:
- Equidad
- Transparencia
- Responsabilidad
- Privacidad
- Seguridad
Usa indicadores de equidad
Gemini Enterprise Agent Platform puede detectar sesgos durante el proceso de recopilación de datos o de evaluación posterior al entrenamiento. Agent Platform proporciona métricas de evaluación del modelo como sesgo de datos y sesgo del modelo para ayudarte a evaluar tu modelo en busca de sesgos.
Estas métricas se relacionan con la equidad en diferentes categorías, como raza, género y clase. Sin embargo, interpretar las desviaciones estadísticas no es un ejercicio sencillo, ya que las diferencias entre las categorías podrían no ser el resultado de un sesgo o una señal de daño.
Usa Vertex Explainable AI
Para comprender cómo toman decisiones los modelos de IA, usa Vertex Explainable AI. Esta función te ayuda a identificar posibles sesgos que podrían estar ocultos en la lógica del modelo.
Esta función de explicabilidad se integra con BigQuery ML y Vertex Explainable AI, que proporcionan explicaciones basadas en atributos. Puedes realizar la explicabilidad en BigQuery ML o registrar tu modelo en Agent Platform y realizar la explicabilidad en Agent Platform.
Realizar un seguimiento de linaje de datos
Haz un seguimiento del origen y la transformación de los datos que se usan en tus sistemas de IA. Este seguimiento te ayuda a comprender el recorrido de los datos y a identificar posibles fuentes de sesgo o error.
El linaje de datos es una función de Knowledge Catalog que te permite supervisar el movimiento de los a través de tus sistemas para saber de dónde provienen, a dónde se pasan y qué transformaciones se les aplican.
Establece la responsabilidad
Establece una responsabilidad clara para el desarrollo, la implementación y los resultados de tus sistemas de IA.
Usa Cloud Logging para registrar los eventos y las decisiones clave que toman tus sistemas de IA. Los registros proporcionan un seguimiento de auditoría para ayudarte a comprender el rendimiento del sistema y a identificar áreas de mejora.
Usa Error Reporting para analizar de forma sistemática los errores que cometen los sistemas de IA. Este análisis puede revelar patrones que señalan sesgos subyacentes o áreas en las que el modelo necesita más refinamiento.
Implementa la privacidad diferencial
Durante el entrenamiento de modelos, agrega ruido a los datos para que sea difícil identificar puntos de datos individuales, pero que el modelo pueda aprender de manera eficaz. Con SQL en BigQuery, puedes transformar los resultados de una consulta con agregaciones con privacidad diferencial .