Analisar a segurança da IA

Níveis de serviço Standard, Premium e Enterprise (descontinuado)

O nível de serviço Security Command Center Enterprise será desativado em 21 de maio de 2027. Se sua organização usa o nível de serviço Enterprise, ela será movida automaticamente para o nível de serviço Premium em 21 de maio de 2027 ou depois. Entre em contato com seu representante de contas ou um Google Cloud especialista em vendas se tiver dúvidas.

A Proteção para IA oferece ferramentas para visualizar o inventário de recursos de IA da sua organização ou projeto, investigar descobertas de segurança e analisar as mitigações propostas para riscos e ameaças. Este guia descreve como gerenciar a segurança de IA usando o painel AI Security e a página Recursos.

O nível de serviço do Security Command Center determina os recursos disponíveis no painel AI Security e na guia Recursos de IA na página Recursos. Para informações sobre os recursos disponíveis em cada nível de serviço, consulte Visão geral da Proteção para IA.

Antes de começar

• Configure a Proteção para IA.
• Conceda os papéis necessários do Identity and Access Management (IAM) aos usuários que acessam o AI Security painel e a guia Recursos > Recursos de IA. Para mais informações, consulte Papéis necessários.

Usar o painel AI Security

O painel AI Security permite visualizar o inventário de recursos de IA da sua organização ou projeto e analisar as mitigações propostas para riscos e ameaças.

Acessar o painel AI Security

Para acessar o painel AI Security, no Google Cloud console do, acesse a página Visão geral de riscos > Segurança de IA:

Acessar a segurança de IA

**Observação**: para visualizar o painel, você precisa de um dos papéis do IAM na seção **Papéis** necessários.

Para mais informações, consulte Painel AI Security.

Entender o gerenciamento de riscos para sistemas de IA

Esta seção identifica possíveis riscos para seus sistemas de IA, mostrando os principais riscos no inventário de IA.

Para visualizar uma visualização e detalhes de um problema específico, clique nele.

Ver ameaças de IA

Esta seção destaca as ameaças mais recentes aos seus recursos de IA.

Nesta seção, você pode fazer o seguinte:

• Para conferir todas as ameaças aos seus recursos de IA, clique em Ver tudo.
• Para conferir informações detalhadas sobre uma ameaça específica, clique nela.

Visualizar seu inventário de IA

Esta seção oferece um resumo visual do seu inventário de recursos de IA, incluindo projetos que usam IA generativa, modelos personalizados ativos (e modelos do Gemini para níveis de serviço Premium e Enterprise (descontinuado)) e os conjuntos de dados usados para treinar modelos de terceiros.

Nesta seção, você pode fazer o seguinte:

• Para conferir detalhes sobre seu inventário, clique em qualquer nó na visualização.
• Para conferir uma lista detalhada de recursos individuais, clique na dica de ferramenta. Essa lista inclui modelos personalizados ou modelos do Gemini (disponíveis para níveis de serviço Premium e Enterprise (descontinuado)).
• Para conferir detalhes sobre um modelo, clique nele. Essa visualização mostra detalhes como os endpoints em que o modelo está hospedado e o conjunto de dados de treinamento. Se a Proteção de dados sensíveis estiver ativada, a visualização dos conjuntos de dados também indicará se o conjunto de dados contém dados sensíveis.

Analisar o resumo das descobertas da estrutura de IA

Esta seção ajuda você a avaliar as descobertas geradas pelas políticas de segurança de IA e de segurança de dados. Ela inclui os seguintes cards:

• Descobertas: esta seção mostra um resumo das descobertas geradas pelas políticas de segurança de IA e de segurança de dados, como Gemini model detected e Gemini model not protected by Model Armor (as descobertas relacionadas aos modelos do Gemini estão disponíveis para níveis de serviço Premium e Enterprise (descontinuado)).

  • Para conferir todas as descobertas, clique em Ver todas as descobertas.
  • Para conferir as descobertas de uma categoria específica, clique na contagem de descobertas ao lado dessa categoria.
  • Para conferir detalhes de uma descoberta individual, clique nela.

• Dados sensíveis em conjuntos de dados da Vertex AI: mostra um resumo das descobertas relacionadas a dados sensíveis nos seus conjuntos de dados, conforme informado pela Proteção de dados sensíveis. Para mais informações, consulte Introdução à Gemini Enterprise Agent Platform.

Examinar as descobertas do Model Armor

Esta seção mostra um gráfico do número total de comandos e respostas verificados pelo Model Armor, além do número de problemas detectados. O gráfico também fornece estatísticas de resumo para tipos de problemas específicos, como injeção de comandos, tentativas de jailbreak e exposição de dados sensíveis.

Para cargas de trabalho de agentes, é possível configurar o Model Armor no Agent Gateway para verificar comandos e respostas de e para agentes.

Esse gráfico usa as métricas que o Model Armor publica no Cloud Monitoring. Para mais informações, consulte Visão geral do Model Armor.

Analisar as descobertas da Avaliação de vulnerabilidades da Agent Platform

Visualizar

Este recurso está sujeito aos Termos das Soluções Pré-GA na seção Termos Gerais de Serviço dos Termos Específicos de Serviço. Os recursos pré-GA estão disponíveis "no estado em que se encontram" e podem ter suporte limitado. Para mais informações, consulte as descrições da fase de lançamento.

As descobertas geradas pela Avaliação de vulnerabilidades da Agent Platform incluem informações sobre o local e o tipo do secret, mas não incluem o valor dele.

Para analisar as descobertas geradas pela Avaliação de vulnerabilidades da Agent Platform, faça o seguinte:

1. No Google Cloud console do, acesse a página Descobertas do Security Command Center.

   Acessar descobertas

2. Selecioneo seu Google Cloud projeto ou a organização.
3. Na seção Filtros rápidos, na subseção Classe, selecione Secrets. Os resultados da consulta são atualizados para mostrar apenas as descobertas correspondentes.
4. Para visualizar os detalhes de uma descoberta específica, clique no nome dela na coluna Categoria. O painel de detalhes da descoberta é aberto e mostra a guia Resumo.
5. Na guia Resumo, na seção Foi detectado, confira a Descrição e clique nos links a seguir para mais detalhes:
   • Arquivos: confira informações sobre onde o secret foi encontrado.
   • Ver detalhes do secret: confira o tipo de secret identificado.

Inspecionar recursos de IA

Além do painel AI Security, você pode inspecionar e consultar o inventário de recursos de IA da sua organização ou projeto na página Recursos do Google Cloud console usando a guia Recursos de IA.

A guia Recursos de IA oferece uma visualização detalhada e filtrável dos seus sistemas e recursos de IA descobertos, incluindo o seguinte:

• Modelos
• Endpoints
• Fontes de dados
• Pipelines
• Agentes
• Servidores do Protocolo de Contexto de Modelo (MCP, na sigla em inglês)
• Notebooks

Você pode usar a guia Recursos de IA para ajudar com o seguinte:

• Entender seu inventário de IA: confira listas abrangentes de recursos de IA ativos na sua organização ou projeto, filtrados por projeto, local ou tipo de recurso.
• Realizar investigações de segurança: examine os metadados completos, o histórico de alterações e as políticas do IAM associadas de recursos de IA específicos.
• Examinar descobertas relacionadas: confira rapidamente todas as descobertas de segurança associadas a um recurso de IA específico para avaliar a exposição ao risco e determinar as etapas de correção necessárias.

Para mais informações sobre como visualizar e filtrar recursos de IA no console, consulte Inspecionar recursos monitorados pelo Security Command Center.

A seguir

• Saiba mais sobre a Proteção para IA.
• Configure a Proteção para IA.
• Avalie o risco usando o painel AI Security.