Este principio del pilar de seguridad del Google Cloud Well-Architected Framework proporciona recomendaciones para ayudarte a proteger tus sistemas de IA. Estas recomendaciones se alinean con el Secure AI Framework (SAIF) de Google, que proporciona un enfoque práctico para abordar las inquietudes de seguridad y riesgo de los sistemas de IA. El SAIF es un marco conceptual que tiene como objetivo proporcionar estándares para toda la industria en lo que respecta a la creación y la implementación de la IA de forma responsable.
Descripción general del principio
Para garantizar que tus sistemas de IA cumplan con tus requisitos de seguridad, privacidad y cumplimiento, debes adoptar una estrategia integral que comience con el diseño inicial y se extienda a la implementación y las operaciones.
Google usa la IA para mejorar las medidas de seguridad, como identificar amenazas, automatizar tareas de seguridad y mejorar las capacidades de detección, a la vez que mantiene la intervención humana para las decisiones críticas.
Google enfatiza un enfoque colaborativo para avanzar en la seguridad de la IA. Este enfoque implica asociarse con clientes, industrias y gobiernos para mejorar los lineamientos del SAIF y ofrecer recursos prácticos y viables.
Las recomendaciones para implementar este principio se agrupan en las siguientes secciones:
Recomendaciones para usar la IA de forma segura
Para usar la IA de forma segura, necesitas controles de seguridad básicos y controles de seguridad específicos para la IA. En esta sección, se proporciona una descripción general de las recomendaciones para garantizar que tus implementaciones de IA y AA cumplan con los requisitos de seguridad, privacidad y cumplimiento de tu organización. Para obtener una descripción general de los principios y las recomendaciones de arquitectura específicos de las cargas de trabajo de IA y AA en Google Cloud, consulta la perspectiva de IA y AA en el Well-Architected Framework.
Define objetivos y requisitos claros para el uso de la IA
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Administración, riesgo y cumplimiento de la nube
- Seguridad de la IA y el AA
Esta recomendación se alinea con el elemento del SAIF sobre la contextualización de los riesgos del sistema de IA en los procesos empresariales circundantes. Cuando diseñas y desarrollas sistemas de IA, es importante que comprendas tus objetivos comerciales, riesgos y requisitos de cumplimiento específicos.
Mantener la seguridad de los datos y evitar pérdidas o un manejo inadecuado
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
Esta recomendación se alinea con los siguientes elementos del SAIF:
- Amplía la infraestructura de seguridad sólida al ecosistema de IA. Este elemento incluye la recopilación de datos, el almacenamiento, el control de acceso y la protección contra el envenenamiento de datos.
- Contextualiza los riesgos del sistema de IA. Destacar la seguridad de los datos para respaldar los objetivos comerciales y el cumplimiento
Mantén las canalizaciones de IA seguras y robustas contra la manipulación
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
Esta recomendación se alinea con los siguientes elementos del SAIF:
- Amplía la infraestructura de seguridad sólida al ecosistema de IA. Como elemento clave para establecer un sistema de IA seguro, protege tus artefactos de código y modelo.
- Adapta los controles para obtener ciclos de reacción más rápidos. Debido a que es importante para la mitigación y la respuesta ante incidentes, haz un seguimiento de tus recursos y ejecuciones de canalización.
Implementar apps en sistemas seguros con herramientas y artefactos seguros
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Seguridad de la infraestructura
- Administración de identidades y accesos
- Seguridad de los datos
- Seguridad para aplicaciones
- Seguridad de la IA y el AA
El uso de sistemas seguros y herramientas y artefactos validados en aplicaciones basadas en IA se alinea con el elemento del SAIF sobre la expansión de bases de seguridad sólidas al ecosistema y la cadena de suministro de la IA. Esta recomendación se puede abordar con los siguientes pasos:
- Implementar un entorno seguro para el entrenamiento y la implementación de AA
- Usa imágenes de contenedor validadas
- Aplica los lineamientos de los niveles de la cadena de suministro para artefactos de software (SLSA).
Protege y supervisa las entradas
Esta recomendación es relevante para las siguientes áreas de enfoque:
- Registro, auditoría y supervisión
- Operaciones de seguridad
- Seguridad de la IA y el AA
Esta recomendación se alinea con el elemento del SAIF sobre la ampliación de la detección y la respuesta para incorporar la IA al universo de amenazas de una organización. Para evitar problemas, es fundamental administrar las instrucciones de los sistemas de IA generativa, supervisar las entradas y controlar el acceso de los usuarios.
Recomendaciones para la gobernanza de la IA
Todas las recomendaciones de esta sección son pertinentes para el siguiente área de enfoque: Administración, riesgo y cumplimiento de la nube.
Google Cloud ofrece un conjunto sólido de herramientas y servicios que puedes usar para crear sistemas de IA responsables y éticos. También ofrecemos un marco de políticas, procedimientos y consideraciones éticas que pueden guiar el desarrollo, la implementación y el uso de sistemas de IA.
Como se refleja en nuestras recomendaciones, el enfoque de Google para la gobernanza de la IA se guía por los siguientes principios:
- Equidad
- Transparencia
- Responsabilidad
- Privacidad
- Seguridad
Usa indicadores de equidad
Gemini Enterprise Agent Platform puede detectar sesgos durante el proceso de recopilación de datos o de evaluación posterior al entrenamiento. Agent Platform proporciona métricas de evaluación de modelos, como el sesgo de datos y el sesgo de modelos, para ayudarte a evaluar el sesgo de tu modelo.
Estas métricas se relacionan con la equidad en diferentes categorías, como raza, género y clase. Sin embargo, interpretar las desviaciones estadísticas no es un ejercicio sencillo, ya que las diferencias entre las categorías podrían no ser el resultado de un sesgo o un indicador de daño.
Usa la IA explicable
Para comprender cómo toman decisiones tus modelos de IA, usa técnicas de explicabilidad, como las atribuciones de atributos. La explicabilidad te ayuda a identificar posibles sesgos que podrían estar ocultos en la lógica del modelo.
Por ejemplo, puedes generar explicaciones basadas en atributos en BigQuery ML y explicaciones tabulares en Agent Platform.
Realizar un seguimiento de linaje de datos
Haz un seguimiento del origen y la transformación de los datos que se usan en tus sistemas de IA. Este seguimiento te ayuda a comprender el recorrido de los datos y a identificar posibles fuentes de sesgo o error.
El linaje de datos es una función de Knowledge Catalog que te permite supervisar el movimiento de los datos a través de tus sistemas para saber de dónde provienen, a dónde se pasan y qué transformaciones se les aplican.
Establecer la responsabilidad
Establece una responsabilidad clara para el desarrollo, la implementación y los resultados de tus sistemas de IA.
Usa Cloud Logging para registrar eventos y decisiones clave que toman tus sistemas de IA. Los registros proporcionan un registro de auditoría que te ayuda a comprender el rendimiento del sistema y a identificar áreas de mejora.
Usa Error Reporting para analizar de forma sistemática los errores que cometen los sistemas de IA. Este análisis puede revelar patrones que indiquen sesgos subyacentes o áreas en las que el modelo necesite un mayor perfeccionamiento.
Implementa la privacidad diferencial
Durante el entrenamiento de modelos, agrega ruido a los datos para dificultar la identificación de puntos de datos individuales, pero permitir que el modelo aprenda de manera eficaz. Con SQL en BigQuery, puedes transformar los resultados de una consulta con agregaciones privadas diferenciales.