Responder a descobertas de ameaças de IA

Este documento oferece orientações informais sobre como responder a descobertas de atividades suspeitas nos seus recursos de IA. As etapas recomendadas podem não ser adequadas para todas as descobertas e podem afetar suas operações. Antes de tomar qualquer medida, investigue as descobertas, avalie as informações coletadas e decida como responder.

Antes de começar

  1. Analise a descoberta. Anote os recursos afetados e os binários, processos ou bibliotecas detectados.
  2. Para saber mais sobre a descoberta que você está investigando, pesquise no Índice de descobertas de ameaças.

Recomendações gerais

  • Entre em contato com o proprietário do recurso afetado.
  • Trabalhe com sua equipe de segurança para identificar recursos desconhecidos, incluindo instâncias do Agent Runtime, sessões, contas de serviço e identidades de agentes. Exclua recursos que foram criados com contas não autorizadas.
  • Para identificar e corrigir papéis excessivamente permissivos, use o Recomendador do IAM. Exclua ou desative contas potencialmente comprometidas.
  • Para os níveis de serviço Standard-legacy, Standard, Premium e Enterprise (descontinuado), investigue todas as descobertas de identidade e acesso.
  • Para mais investigações, use serviços de resposta a incidentes, como a Mandiant.
  • Para análise forense, colete e faça backup dos registros dos recursos afetados.

Conta de serviço ou identidade do agente potencialmente comprometida

Exfiltração e extração

  • Revogue os papéis do principal listado na linha E-mail do principal nos detalhes da descoberta até que a investigação seja concluída.
  • Para interromper a exfiltração, adicione políticas restritivas do IAM aos recursos afetados.
  • Para determinar se os conjuntos de dados afetados têm informações sensíveis, inspecione-os com a Proteção de Dados Sensíveis. É possível configurar o job de inspeção para enviar os resultados ao Security Command Center. Dependendo da quantidade de informações, os custos da proteção de dados sensíveis podem ser significativos. Siga as práticas recomendadas para manter os custos da Proteção de Dados Sensíveis sob controle.
  • Use o VPC Service Controls para criar perímetros de segurança em torno de serviços de dados, como o BigQuery e o Cloud SQL, para evitar transferências de dados para projetos fora do perímetro.

Geração de token suspeito

  • Validar a necessidade de geração de tokens entre projetos. Se não for necessário, remova a vinculação de papel do IAM no projeto de destino que concede a permissão iam.serviceAccounts.getAccessToken, iam.serviceAccounts.getOpenIdToken, iam.serviceAccounts.implicitDelegation ou iam.serviceAccounts.signJwt ao principal do projeto de origem.

  • Investigue os registros especificados na descoberta para validar os métodos de geração de token usados pelas cargas de trabalho de agentes.

Papéis ou permissões confidenciais do IAM concedidos

Importações não autorizadas de documentos do Gemini Enterprise

  • Analise os detalhes da solicitação ImportDocuments na geração de registros para identificar o repositório de dados de destino do Gemini Enterprise e o principal externo ou o recurso de origem externa (como um bucket do Cloud Storage externo ou um conjunto de dados do BigQuery).
  • Revogue os papéis do IAM do principal que iniciou a importação não autorizada até que a investigação seja concluída.
  • Inspecione e limpe todos os documentos não confiáveis importados para o repositório de dados afetado do Gemini Enterprise para evitar o envenenamento do repositório de conhecimento ou a injeção indireta de comandos.
  • Use o VPC Service Controls para aplicar perímetros de serviço ao Gemini Enterprise e aos seus serviços de repositório de dados para bloquear importações de dados não autorizadas entre perímetros.

A seguir