Configurar a proteção de IA

A Proteção de IA ajuda a proteger seus recursos e fluxos de trabalho de IA monitorando seus modelos, dados e infraestrutura relacionada à IA. Para começar a detectar ameaças e vulnerabilidades em recursos compatíveis, configure os serviços de detecção e os papéis de acesso necessários para a Proteção de IA.

Serviços de detecção

A Proteção de IA usa os seguintes serviços e recursos. A Proteção por IA ativa alguns serviços e recursos automaticamente, mas você precisa configurar outros manualmente.

  • Serviço AI Discovery
  • Simulações de caminho de ataque criadas pelo Risk Engine (níveis de serviço Premium e Enterprise (descontinuado))
  • Registros de auditoria do Cloud
  • Cloud Monitoring
  • Compliance Manager
  • Event Threat Detection (níveis de serviço Premium e Enterprise (descontinuado))
  • Detecção de ameaças da Agent Platform (níveis de serviço Premium e Enterprise (descontinuado))
  • Model Armor
  • Notebook Security Scanner (pré-lançamento), que é ativado automaticamente no nível de serviço Enterprise (descontinuado).
  • Proteção de Dados Sensíveis (níveis de serviço Premium e Enterprise (descontinuado))
  • Avaliação de vulnerabilidades da plataforma de agentes, que é ativada automaticamente para novas ativações da AI Protection (níveis de serviço Premium e Enterprise (descontinuado)).

Configure os seguintes serviços necessários para a Proteção de IA:

Para mais informações sobre cada serviço e recurso, consulte Serviços de detecção na Proteção de IA.

Antes de começar

  1. Encontre o ID da organização ou do projeto.
  2. Para criar e conceder papéis, verifique se você tem as permissões necessárias, como os papéis de Administrador de papéis do Identity and Access Management (IAM) (roles/iam.roleAdmin) e Administrador da organização (roles/resourcemanager.organizationAdmin) ou Administrador de IAM do projeto (roles/resourcemanager.projectIamAdmin). Para mais informações, consulte o índice de papéis e permissões do IAM.

Funções exigidas

Depois de concluir as etapas em Antes de começar, siga as etapas em uma das seções a seguir para configurar os papéis necessários para o acesso à Proteção de IA:

Papéis predefinidos

Para receber as permissões necessárias para configurar a Proteção de IA e visualizar os dados do painel de segurança de IA, peça ao administrador para conceder a você os seguintes papéis do IAM na sua organização ou projeto:

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.

Os seguintes comandos da Google Cloud CLI podem ser usados para atribuir os papéis anteriores a um usuário:

Atribuir papéis usando a CLI gcloud

  • Para conceder o papel de administrador do Security Center a um usuário, execute o seguinte comando:

    gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
      --member=user:USER_EMAIL_ID \
      --role=roles/securitycenter.admin
    
  • Para conceder o papel de Leitor de Administrador do Security Center a um usuário, execute o seguinte comando:

    gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
      --member=user:USER_EMAIL_ID \
      --role=roles/securitycenter.adminViewer
    

    Substitua:

    • RESOURCE_TYPE: organizations ou projects.
    • RESOURCE_ID: o ID numérico da organização ou do projeto
    • USER_EMAIL_ID: o endereço de e-mail do usuário que precisa de acesso.

Papéis personalizados

Para seguir o princípio de privilégio mínimo, crie papéis personalizados do IAM que concedam apenas as permissões necessárias para acesso de leitor ou administrador.

Neste documento, mostramos como criar e conceder papéis personalizados para a Proteção de IA.

Configurar o acesso de visualização

O acesso Leitor permite que um usuário visualize o painel e os dados da proteção para IA. Para configurar o acesso de visualizador, crie um papel personalizado do AIP Viewer e conceda esse papel a um usuário.

Criar o papel personalizado de leitor do AIP

Crie um papel personalizado que contenha todas as permissões necessárias para acesso somente leitura à Proteção de IA.

Console

  1. No Google Cloud console, acesse a página Papéis.

Acessar "Papéis"

  1. Clique em Criar papel.
  2. No campo Título, insira AIP Viewer.
  3. O campo ID é preenchido automaticamente. Se quiser, mude para aip.viewer.
  4. No campo Descrição, use Grants permissions required to view the AI Security dashboard and data.
  5. Defina o Estágio de lançamento do papel como Disponibilidade geral.
  6. Clique em Adicionar permissões
  7. Filtre e selecione cada uma das seguintes permissões:

    • Descoberta de recursos e conexões de nuvem (cloudasset.*):
      • cloudasset.assets.exportResource
      • cloudasset.assets.searchAllIamPolicies
      • cloudasset.assets.searchAllResources
      • cloudasset.assets.searchEnrichmentResourceOwners
      • cloudasset.othercloudconnections.get
      • cloudasset.othercloudconnections.list
    • Resumos de compliance (cloudsecuritycompliance.*):
      • cloudsecuritycompliance.controlComplianceSummaries.list
      • cloudsecuritycompliance.frameworkComplianceReports.get
    • Monitoramento (monitoring.*):
      • monitoring.timeSeries.list
    • Gerenciamento de recursos (resourcemanager.*):
      • resourcemanager.organizations.get
      • resourcemanager.projects.get
    • Gerenciamento do Security Command Center (securitycentermanagement.*):
      • securitycentermanagement.securityCommandCenter.get
    • Leitor do Security Command Center (securitycenter.*):
      • securitycenter.assets.group
      • securitycenter.assets.list
      • securitycenter.attackpaths.list
      • securitycenter.complianceReports.aggregate
      • securitycenter.findings.group
      • securitycenter.findings.list
      • securitycenter.issues.get
      • securitycenter.issues.group
      • securitycenter.issues.list
      • securitycenter.issues.listFilterValues
      • securitycenter.simulations.get
      • securitycenter.sources.get
      • securitycenter.sources.list
      • securitycenter.userinterfacemetadata.get
      • securitycenter.valuedresources.list
  8. Clique em Adicionar.

  9. Clique em Criar.

gcloud

  1. Em um terminal, execute o seguinte comando gcloud para criar o papel:
gcloud iam roles create aip.viewer \
    --RESOURCE_TYPE=RESOURCE_ID \
    --title="AIP Viewer" \
    --description="Grants permissions required to view AIP dashboard and data." \
    --permissions="cloudasset.assets.exportResource,cloudasset.assets.searchAllIamPolicies,cloudasset.assets.searchAllResources,cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,cloudsecuritycompliance.controlComplianceSummaries.list,cloudsecuritycompliance.frameworkComplianceReports.get,monitoring.timeSeries.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.issues.get,securitycenter.issues.group,securitycenter.issues.list,securitycenter.issues.listFilterValues,securitycenter.simulations.get,securitycenter.sources.get,securitycenter.sources.list,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \

Substitua:

  • RESOURCE_TYPE: organization ou project.
  • RESOURCE_ID: o ID da organização ou o ID do projeto. #### Conceder acesso de visualização a um usuário

Depois de criar o papel personalizado AIP Viewer, conceda-o aos usuários que precisam de acesso de leitor.

Console

  1. No console do Google Cloud , acesse a página IAM.

Acessar IAM

  1. Clique em Permitir acesso.
  2. No campo Novos principais, insira o endereço de e-mail do usuário.
  3. No menu suspenso Selecionar um papel, pesquise e selecione o papel personalizado Leitor da AIP.
  4. Clique em Salvar.

gcloud

  1. Em um terminal, execute o seguinte comando gcloud:
gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="RESOURCE_TYPE/RESOURCE_ID/roles/aip.viewer"

Substitua:

  • RESOURCE_TYPE: organizations ou projects.
  • RESOURCE_ID: o ID da organização ou do projeto.
  • USER_EMAIL: o endereço de e-mail do usuário.

Configurar o acesso de administrador

O acesso de administrador permite que um usuário gerencie os recursos da Proteção de IA. Para configurar o acesso de administrador, primeiro crie o papel personalizado AIP Essentials. Em seguida, conceda esse papel e os papéis predefinidos necessários a um usuário.

Criar o papel personalizado do AIP Essentials

Crie um papel personalizado que contenha as permissões de suporte essenciais necessárias para a Proteção de IA.

Console

  1. No Google Cloud console, acesse a página Papéis.

Acessar "Papéis"

  1. Clique em Criar papel.
  2. No campo Título, insira AIP Essentials.
  3. O campo ID é preenchido automaticamente. Se quiser, mude para aip.essentials.
  4. No campo Descrição, use Grants supporting permissions required to view AIP dashboard and data.
  5. Defina o Estágio de lançamento do papel como Disponibilidade geral.
  6. Clique em Adicionar permissões
  7. Filtre e selecione cada uma das seguintes permissões:

    • Descoberta de recursos e conexões de nuvem (cloudasset.*):
      • cloudasset.assets.searchEnrichmentResourceOwners
      • cloudasset.othercloudconnections.get
      • cloudasset.othercloudconnections.list
    • Gerenciamento de recursos (resourcemanager.*):
      • resourcemanager.organizations.get
      • resourcemanager.projects.get
    • Gerenciamento do Security Command Center (securitycentermanagement.*):
      • securitycentermanagement.securityCommandCenter.get
    • Leitor do Security Command Center (securitycenter.*):
      • securitycenter.assets.group
      • securitycenter.assets.list
      • securitycenter.attackpaths.list
      • securitycenter.complianceReports.aggregate
      • securitycenter.findings.group
      • securitycenter.findings.list
      • securitycenter.simulations.get
      • securitycenter.userinterfacemetadata.get
      • securitycenter.valuedresources.list
  8. Clique em Adicionar.

  9. Clique em Criar.

gcloud

  1. Em um terminal, execute o seguinte comando gcloud para criar o papel:
gcloud iam roles create aip.essentials \
    --RESOURCE_TYPE=RESOURCE_ID \
    --title="AIP Essentials" \
    --description="Grants supporting permissions required to view AIP dashboard and data." \
    --permissions="cloudasset.assets.searchEnrichmentResourceOwners,cloudasset.othercloudconnections.get,cloudasset.othercloudconnections.list,resourcemanager.organizations.get,resourcemanager.projects.get,securitycentermanagement.securityCommandCenter.get,securitycenter.assets.group,securitycenter.assets.list,securitycenter.attackpaths.list,securitycenter.complianceReports.aggregate,securitycenter.findings.group,securitycenter.findings.list,securitycenter.simulations.get,securitycenter.userinterfacemetadata.get,securitycenter.valuedresources.list" \

Substitua:

  • RESOURCE_TYPE: organization ou project.
  • RESOURCE_ID: o ID da organização ou do projeto.

Conceder acesso de administrador a um usuário

Depois de criar o papel personalizado AIP Essentials, conceda-o com os papéis predefinidos necessários aos usuários que precisam de acesso de administrador.

Console

  1. No console do Google Cloud , acesse a página IAM.

Acessar IAM

  1. Clique em Permitir acesso.
  2. No campo Novos principais, insira o endereço de e-mail do usuário.
  3. No menu suspenso Selecionar um papel, pesquise e adicione cada um dos seguintes papéis:
    • Model Armor Admin (roles/modelarmor.admin)
    • Model Armor Floor Settings Admin (roles/modelarmor.floorSettingsAdmin)
    • Cloud Security Compliance Admin (roles/cloudsecuritycompliance.admin)
    • Security Center Findings Viewer (roles/securityCenter.findingsViewer)
    • Monitoring Viewer (roles/monitoring.viewer)
    • Cloud Asset Viewer (roles/cloudasset.viewer)
    • A função personalizada do AIP Essentials que você criou.
  4. Clique em Salvar.

gcloud

  1. Em um terminal, execute os seguintes comandos, um para cada papel:
gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/modelarmor.admin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/modelarmor.floorSettingsAdmin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/cloudsecuritycompliance.admin"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/securityCenter.findingsViewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/monitoring.viewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="roles/cloudasset.viewer"

gcloud RESOURCE_TYPE add-iam-policy-binding RESOURCE_ID \
    --member="user:USER_EMAIL" \
    --role="RESOURCE_TYPE/RESOURCE_ID/roles/aip.essentials"

Substitua:

  • RESOURCE_TYPE: organizations ou projects.
  • RESOURCE_ID: o ID da organização ou do projeto.
  • USER_EMAIL: o endereço de e-mail do usuário.

Regiões compatíveis

Para uma lista de regiões em que a Proteção de IA é compatível, consulte Endpoints regionais.

Acesso para contas de serviço

Verifique se as políticas da organização não bloqueiam as contas de serviço mencionadas nas seções a seguir.

Configurar a proteção de IA

A Proteção para IA é ativada por padrão para novas ativações do Security Command Center. No entanto, se você ativou qualquer nível do Security Command Center antes da disponibilidade da Proteção de IA, será necessário ativar o recurso manualmente.

Para ativar a Proteção para IA no nível da organização ou do projeto, faça o seguinte:

Padrão

  1. Se o Security Command Center não estiver ativado na sua organização ou projeto, ative o Security Command Center Standard.
  2. Confira o painel de segurança de IA em Visão geral de riscos > Segurança de IA.

Premium

  1. Se você não ativou o Security Command Center na sua organização ou projeto, consulte as instruções para ativar o Security Command Center Premium.
  2. Se você já ativou o Premium, ative a Proteção para IA em Configurações > Gerenciar configurações no card "Proteção para IA".

    Acessar as configurações da Proteção de IA

  3. Para descobrir os recursos de IA que você quer proteger, ative a descoberta de dados sensíveis.
  4. Acesse Visão geral de riscos > Segurança de IA para conferir o painel de segurança de IA.

Depois de concluir a integração, se um serviço crítico estiver desativado, o painel fornecerá instruções para o serviço específico e onde configurá-lo. Para mais informações, consulte Configurar serviços do Google Cloud para a Proteção de IA.

Depois que todos os serviços necessários forem configurados, o painel de segurança de IA poderá levar algum tempo para refletir os dados dos seus recursos de IA.

Enterprise

  1. Se você não tiver ativado o Security Command Center na sua organização, siga as instruções para ativar o Security Command Center Enterprise.
  2. Configure a Proteção de IA e verifique os serviços dependentes usando as orientações no Guia de configuração do SCC.

    Acessar o Guia de configuração

    1. Abra o painel de resumo Analisar recursos de segurança.
    2. No painel Proteção de IA, clique em Configurar.
    3. Siga as instruções para verificar se os serviços necessários e dependentes da Proteção de IA estão ativados e configurados corretamente. Para mais informações, consulte Configurar serviços doGoogle Cloud para proteção de IA.
  3. Para descobrir os recursos de IA que você quer proteger, ative a descoberta:

Depois que todos os serviços necessários forem ativados e configurados, o painel de segurança de IA pode levar algum tempo para refletir os dados provenientes dos seus recursos de IA.

Configurar serviços manualmente

Depois de ativar a Proteção para IA, conclua as seções a seguir para configurar os recursos manualmente.

Configurar o serviço AI Discovery

O Security Command Center ativa automaticamente o serviço AI Discovery como parte da integração do Security Command Center Enterprise. Verifique se o papel do IAM de Leitor do Monitoring (roles/monitoring.viewer) foi concedido à conta de serviço da organização ou do projeto do Security Command Center Enterprise.

  1. No console do Google Cloud , acesse a página IAM.

    Acessar IAM

  2. Clique em Permitir acesso.

  3. No campo Novos principais, insira a conta de serviço da organização ou do projeto do Security Command Center Enterprise. A conta de serviço usa o formato service-org-ORG_ID@security-center-api.gserviceaccount.com ou service-project-PROJECT_NUMBER@security-center-api.gserviceaccount.com. Substitua ORG_ID pelo ID da organização ou PROJECT_NUMBER pelo número do projeto.

  4. No campo Selecionar um papel, escolha Leitor do Monitoring.

  5. Clique em Salvar.

Configurar o Model Armor

  1. Ative o serviço modelarmor.googleapis.com para cada projeto que usa atividades de IA generativa. Para mais informações, consulte Começar a usar o Model Armor.
  2. Defina as configurações a seguir para estabelecer as configurações de segurança e proteção para comandos e respostas de modelos de linguagem grandes (LLMs):
    • Modelos do Model Armor: crie um modelo do Model Armor. Esses modelos definem os tipos de riscos a serem detectados, como dados sensíveis, injeções de comandos e detecção de jailbreak. Eles também definem os limites mínimos para esses filtros.
    • Filtros: o Model Armor usa vários filtros para identificar riscos, incluindo detecção de URLs maliciosos, detecção de jailbreak e injeção de comandos e proteção de dados sensíveis.
    • Configurações mínimas: defina as configurações mínimas para envolvidos no projeto para estabelecer uma proteção padrão para todos os modelos do Gemini.

Configurar o Notebook Security Scanner

  1. Nível de serviço Premium: ative o serviço Notebook Security Scanner para sua organização ou projeto. Para mais informações, consulte Ativar o Notebook Security Scanner.
  2. Conceda o papel de Leitor do Dataform (roles/dataform.viewer) a notebook-security-scanner-prod@system.gserviceaccount.com em todos os projetos que contêm notebooks.

Configurar a proteção de dados sensíveis

Ative a API dlp.googleapis.com no seu projeto e configure a Proteção de Dados Sensíveis para verificar dados sensíveis.

  1. Ative a API Data Loss Prevention, se ainda não estiver ativada.

    Funções necessárias para ativar APIs

    Para ativar APIs, você precisa da permissão serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão pelo papel de proprietário (roles/owner). Caso contrário, é possível conseguir essa permissão pelo papel de administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis.

    Ativar a API

  2. Conceda os papéis DLP Reader e DLP Data Profiles Admin aos usuários da Proteção de IA.

  3. Configure a Proteção de Dados Sensíveis para verificar se há dados sensíveis.

Configurar a Avaliação de Vulnerabilidades da Agent Platform

A Avaliação de Vulnerabilidades da Plataforma de Agentes identifica vulnerabilidades de software (CVEs) em cargas de trabalho agênticas implantadas com a Gemini Enterprise Agent Platform. Para novas ativações da Proteção de IA, a Avaliação de Vulnerabilidades da Plataforma de Agentes é ativada por padrão.

Se você já é cliente, pode ativar o verificador na página de configurações da Proteção de IA, que está disponível apenas na visualização da organização ou do projeto.

  1. No console do Google Cloud , acesse Configurações > Gerenciar configurações no card "Proteção de IA".

    Acessar as configurações da Proteção de IA

  2. Na seção Avaliação de vulnerabilidade para a plataforma de agente, clique em Gerenciar configurações.

  3. Ative o serviço para sua organização ou projeto.

Configurar o App Hub para o inventário de servidores MCP

Para conferir os servidores do Protocolo de Contexto de Modelo (MCP) no painel de segurança de IA, é necessário ativar a API App Hub (apphub.googleapis.com) em cada projeto que hospeda servidores MCP.

Para mais informações, consulte Configurar o App Hub.

Opcional: configurar outros recursos de alto valor

Para criar uma configuração de valor de recurso, siga as etapas em Criar uma configuração de valor de recurso.

Definir o escopo dos recursos de agentes

Para definir o escopo da configuração do valor do recurso para recursos agênticos, como agentes ou servidores do Protocolo de Contexto de Modelo (MCP), selecione um tipo de recurso agêntico no menu Selecionar tipo de recurso (por exemplo, aiplatform.googleapis.com/ReasoningEngine) ou especifique rótulos ou tags que identifiquem recursos agênticos na sua organização ou projeto.

Quando a próxima simulação de caminho de ataque é executada, ela abrange o conjunto de recursos de alto valor e gera caminhos de ataque.

A seguir