Cómo responder a los resultados de amenazas de la IA

En este documento, se ofrece orientación informal sobre cómo puedes responder a los hallazgos de actividades sospechosas en tus recursos de IA. Es posible que los pasos recomendados no sean adecuados para todos los hallazgos y que afecten tus operaciones. Antes de tomar cualquier medida, debes investigar los hallazgos, evaluar la información que recopilas y decidir cómo responder.

Antes de comenzar

  1. Revisa el hallazgo. Toma nota de los recursos afectados y los objetos binarios, procesos o bibliotecas detectados.
  2. Para obtener más información sobre el hallazgo que estás investigando, búscalo en el índice de hallazgos de amenazas.

Recomendaciones generales

  • Comunícate con el propietario del recurso afectado.
  • Trabaja con tu equipo de seguridad para identificar recursos desconocidos, incluidos instancias de Agent Runtime, sesiones, cuentas de servicio e identidades de agentes. Borra los recursos que se crearon con cuentas no autorizadas.
  • Para identificar y corregir los roles demasiado permisivos, usa el recomendador de IAM. Borra o inhabilita las cuentas que podrían estar hackeadas.
  • Para los niveles de servicio Standard-legacy, Standard, Premium y Enterprise (obsoleto), investiga cualquier hallazgo de identidad y acceso.
  • Para hacer una investigación más exhaustiva, puedes usar servicios de respuesta ante incidentes, por ejemplo, Mandiant.
  • Para el análisis forense, recopila y crea copias de seguridad de los registros de los recursos afectados.

Identidad de agente o cuenta de servicio potencialmente vulnerada

Robo y extracción de datos

  • Revoca los roles de la principal que aparece en la fila Correo electrónico de la principal en los detalles del hallazgo hasta que se complete la investigación.
  • Para detener el robo de datos, agrega políticas de IAM restrictivas a los recursos afectados.
  • Para determinar si los conjuntos de datos afectados tienen información sensible, inspecciónalos con Sensitive Data Protection. Puedes configurar el trabajo de inspección para que envíe los resultados a Security Command Center. Según la cantidad de información, los costos de Sensitive Data Protection pueden ser significativos. Sigue las prácticas recomendadas para mantener los costos de Sensitive Data Protection bajo control.
  • Usa los Controles del servicio de VPC para crear perímetros de seguridad alrededor de los servicios de datos, como BigQuery y Cloud SQL, y evitar las transferencias de datos a proyectos fuera del perímetro.

Generación sospechosa de tokens

  • Valida la necesidad de generar tokens entre proyectos. Si no es necesario, quita la vinculación de rol de IAM en el proyecto de destino que otorga el permiso iam.serviceAccounts.getAccessToken, iam.serviceAccounts.getOpenIdToken, iam.serviceAccounts.implicitDelegation o iam.serviceAccounts.signJwt a la principal del proyecto de origen.

  • Investiga los registros que se especifican en el hallazgo para validar los métodos de generación de tokens que usan tus cargas de trabajo de agentes.

Se otorgaron roles o permisos sensibles de IAM

Importaciones no autorizadas de documentos de Gemini Enterprise

  • Revisa los detalles de la solicitud de ImportDocuments en Logging para identificar el almacén de datos de Gemini Enterprise de destino y el recurso de principal externo o de fuente externa (como un bucket de Cloud Storage externo o un conjunto de datos de BigQuery).
  • Revoca los roles de IAM de la principal que inició la importación no autorizada hasta que se complete la investigación.
  • Inspecciona y borra definitivamente cualquier documento no confiable importado al almacén de datos de Gemini Enterprise afectado para evitar el envenenamiento del almacén de conocimiento o la inyección de instrucciones indirecta.
  • Usa los Controles del servicio de VPC para aplicar perímetros de servicio alrededor de Gemini Enterprise y tus servicios de almacenamiento de datos para bloquear las importaciones de datos no autorizadas entre perímetros.

¿Qué sigue?