Analisar a segurança da IA

Níveis de serviço Standard, Premium e Enterprise (descontinuado)

O nível de serviço do Security Command Center Enterprise será desativado em 21 de maio de 2027. Se sua organização usa o nível de serviço Enterprise, ela será movida automaticamente para o nível Premium em 21 de maio de 2027 ou depois dessa data. Entre em contato com seu representante de contas ou um especialista em vendas doGoogle Cloud se tiver dúvidas.

A Proteção para IA oferece ferramentas para visualizar o inventário de recursos de IA da sua organização ou projeto, investigar descobertas de segurança e analisar as mitigações propostas para riscos e ameaças. Este guia descreve como gerenciar a segurança de IA usando o painel de segurança de IA e a página "Recursos".

O nível de serviço do Security Command Center determina os recursos disponíveis no painel AI Security e na guia Recursos de IA da página Recursos. Para informações sobre os recursos disponíveis em cada nível de serviço, consulte Visão geral da proteção para IA.

Antes de começar

• Configurar a Proteção para IA.
• Conceda os papéis necessários do Identity and Access Management (IAM) aos usuários que acessam o painel Segurança de IA e a guia Ativos > Recursos de IA. Para mais informações, consulte Funções necessárias.

Usar o painel de segurança de IA

Com o painel AI Security, é possível visualizar o inventário de recursos de IA da sua organização ou projeto e analisar as mitigações propostas para riscos e ameaças.

Acessar o painel de segurança de IA

Para acessar o painel de segurança de IA, no console do Google Cloud , acesse a página Visão geral de risco > Segurança de IA:

Acessar "Segurança de IA"

Observação: para acessar o painel, você precisa de um dos papéis do IAM na seção Papéis necessários.

Para mais informações, consulte o painel de segurança de IA.

Entender o gerenciamento de riscos para sistemas de IA

Esta seção identifica possíveis riscos para seus sistemas de IA, mostrando os principais riscos no inventário de IA.

Para ver uma visualização e detalhes de um problema específico, clique nele.

Ver ameaças de IA

Esta seção destaca as ameaças mais recentes aos seus recursos de IA.

Nesta seção, você pode fazer o seguinte:

• Para conferir todas as ameaças aos seus recursos de IA, clique em Ver tudo.
• Para ver informações detalhadas sobre uma ameaça específica, clique nela.

Visualizar seu inventário de IA

Esta seção oferece um resumo visual do seu inventário de recursos de IA, incluindo projetos que usam IA generativa, modelos personalizados ativos (e modelos do Gemini para os níveis de serviço Premium e Enterprise (descontinuado)) e os conjuntos de dados usados para treinar modelos de terceiros.

Nesta seção, você pode fazer o seguinte:

• Para conferir detalhes sobre seu inventário, clique em qualquer nó na visualização.
• Para ver uma lista detalhada de recursos individuais, clique na dica. Essa lista inclui modelos personalizados ou modelos do Gemini (disponíveis para os níveis de serviço Premium e Enterprise (descontinuado)).
• Para conferir detalhes sobre um modelo, clique nele. Essa visualização mostra detalhes como os endpoints em que o modelo está hospedado e o conjunto de dados de treinamento. Se a Proteção de Dados Sensíveis estiver ativada, a visualização de conjuntos de dados também vai indicar se o conjunto contém dados sensíveis.

Analisar o resumo das descobertas da estrutura de IA

Esta seção ajuda você a avaliar as descobertas geradas pelas políticas de segurança de IA e de segurança de dados. Ela inclui os seguintes cards:

• Descobertas: esta seção mostra um resumo das descobertas geradas por políticas de segurança de IA e políticas de segurança de dados, como Gemini model detected e Gemini model not protected by Model Armor. As descobertas relacionadas aos modelos do Gemini estão disponíveis para os níveis de serviço Premium e Enterprise (descontinuado).

  • Para conferir todas as descobertas, clique em Ver todas as descobertas.
  • Para ver descobertas de uma categoria específica, clique na contagem ao lado dela.
  • Para ver detalhes sobre uma descoberta específica, clique nela.

• Dados sensíveis em conjuntos de dados da Vertex AI: mostra um resumo das descobertas relacionadas a dados sensíveis nos seus conjuntos de dados, conforme relatado pela Proteção de dados sensíveis. Para mais informações, consulte Introdução à Gemini Enterprise Agent Platform.

Analisar descobertas do Model Armor

Esta seção mostra um gráfico com o número total de comandos e respostas verificados pelo Model Armor, além do número de problemas detectados. O gráfico também fornece estatísticas resumidas para tipos específicos de problemas, como injeção de comandos, tentativas de jailbreak e exposição de dados sensíveis.

Para cargas de trabalho com agentes, é possível configurar o Model Armor no Agent Gateway para analisar comandos e respostas de e para agentes.

Esse gráfico usa as métricas que o Model Armor publica no Cloud Monitoring. Para mais informações, consulte a visão geral do Model Armor.

Analisar os resultados da avaliação de vulnerabilidades do Agent Platform

Visualizar

Este recurso está sujeito aos Termos das Soluções Pré-GA na seção Termos Gerais de Serviço dos Termos Específicos de Serviço. Os recursos pré-GA estão disponíveis "no estado em que se encontram" e podem ter suporte limitado. Para mais informações, consulte as descrições da fase de lançamento.

As descobertas geradas pela avaliação de vulnerabilidade da plataforma do agente incluem informações sobre o local e o tipo do secret, mas não o valor dele.

Para analisar as descobertas geradas pela Avaliação de vulnerabilidades da Agent Platform, faça o seguinte:

1. No console do Google Cloud , acesse a página Descobertas do Security Command Center.

   Acessar descobertas

2. Selecione Google Cloud o projeto ou a organização.
3. Na seção Filtros rápidos, na subseção Classe, selecione Secrets. Os resultados da consulta são atualizados para mostrar apenas as descobertas correspondentes.
4. Para visualizar os detalhes de uma descoberta específica, clique no nome dela na coluna Categoria. O painel de detalhes da descoberta é aberto e mostra a guia Resumo.
5. Na guia Resumo, na seção Foi detectado, confira a Descrição e clique nos seguintes links para mais detalhes:
   • Arquivos: veja informações sobre onde o secret foi encontrado.
   • Ver detalhes do secret: confira o tipo de secret identificado.

Inspecionar recursos de IA

Além do painel de segurança de IA, é possível inspecionar e consultar o inventário de recursos de IA da sua organização ou projeto na página Recursos do console doGoogle Cloud usando a guia Recursos de IA.

A guia Recursos de IA oferece uma visualização detalhada e filtrável dos sistemas e recursos de IA descobertos, incluindo:

• Modelos
• Endpoints
• Fontes de dados
• Pipelines
• Agentes
• Servidores do Protocolo de Contexto de Modelo (MCP, na sigla em inglês)
• Notebooks

Use a guia Recursos de IA para:

• Entenda seu inventário de IA: veja listas abrangentes de recursos de IA ativos em toda a organização ou projeto, filtrados por projeto, local ou tipo de recurso.
• Realizar investigações de segurança: examine todos os metadados, o histórico de mudanças e as políticas do IAM associadas de recursos específicos de IA.
• Examine descobertas relacionadas: veja rapidamente todas as descobertas de segurança associadas a um recurso de IA específico para avaliar a exposição a riscos e determinar as etapas de correção necessárias.

Para mais informações sobre como visualizar e filtrar recursos de IA no console, consulte Inspecionar recursos monitorados pelo Security Command Center.

A seguir

• Saiba mais sobre a Proteção para IA.
• Configurar a Proteção para IA.
• Avalie o risco usando o painel de segurança de IA.