Programa de verificação cibernética para o Claude

A Anthropic aplica proteções cibernéticas em tempo real aos modelos avançados do Claude para evitar o uso indevido em operações cibernéticas maliciosas. O Programa de verificação cibernética (CVP, na sigla em inglês) da Anthropic é uma estrutura de confiança que permite que organizações verificadas usem os modelos do Claude para tarefas legítimas de cibersegurança defensiva com restrições padrão de uso duplo removidas.

Este documento descreve como o CVP funciona na Gemini Enterprise Agent Platform, quais modelos são compatíveis e como inscrever e configurar modelos para seu projeto.

Como funcionam as proteções cibernéticas

Os classificadores de avaliação em tempo real da Anthropic inspecionam comandos e conclusões para proteger contra riscos relacionados à segurança cibernética. Essas proteções classificam as atividades em dois níveis:

  • Uso proibido: atividades maliciosas de alto risco que têm pouca ou nenhuma aplicação defensiva legítima, como desenvolvimento de ransomware, geração de infraestrutura de comando e controle (C2), criação de malware ou exfiltração automatizada de dados em massa. As atividades proibidas são bloqueadas permanentemente para todos os usuários. O Programa de verificação cibernética nunca remove restrições de atividades proibidas.
  • Duplo uso de alto risco: atividades essenciais para operações de segurança autorizadas, mas que também podem ser usadas indevidamente por agentes de ameaças. Exemplos incluem descoberta de vulnerabilidades, análise de capacidade de exploração, verificação de exploração de prova de conceito, simulação de caminho de ataque de equipe vermelha e adversário. As atividades de uso duplo são bloqueadas por padrão, mas as organizações verificadas podem ajustar essas proteções pelo Programa de verificação cibernética.

Para mais informações sobre as políticas de uso da Anthropic, consulte Proteções cibernéticas em tempo real no Claude.

Modelos compatíveis

O programa de verificação cibernética na Agent Platform é compatível com os seguintes modelos da Anthropic:

  • Claude Opus 4.7, Claude Opus 4.8 e Claude Sonnet 5: exigem a ativação dos recursos avançados de IA (advancedAiEnabled: true).
  • Claude Opus 5 e Claude Opus 5.5: exigem a ativação dos recursos avançados de IA (advancedAiEnabled: true) e o compartilhamento de dados pessoais com a Anthropic (dataSharingEnabledProvider: ANTHROPIC).

Antes de começar

Antes de se inscrever no programa de verificação cibernética, verifique se você atende aos seguintes pré-requisitos:

  • Um projeto do Google Cloud com a API Agent Platform ativada.

  • As seguintes permissões do Identity and Access Management (IAM) no projeto:

    • Para aceitar o adendo de segurança avançada de IA: aiplatform.consents.update, que está incluído no papel Administrador da Agent Platform (roles/aiplatform.admin).
    • Para configurar as opções do modelo do editor: aiplatform.endpoints.setPublisherModelConfig, que está incluído no papel Administrador da Agent Platform (roles/aiplatform.admin).

  • Entendimento da retenção de dados: ao inscrever um modelo no CVP, ele é designado como "IA avançada" no Adendo sobre segurança de IA avançada do Google. De acordo com as políticas de segurança da Anthropic, os comandos e as respostas enviados aos modelos ativados para CVP são retidos para monitoramento de abuso por até 30 dias. Para mais informações, consulte Segurança avançada de IA.

  • Entendimento sobre compartilhamento de dados pessoais (somente Claude Opus 5 e Claude Opus 5.5): para o Claude Opus 5 e o Claude Opus 5.5 com CVP, a Anthropic exige que o compartilhamento de dados pessoais seja ativado para monitoramento de abuso. Para inscrever esses modelos, é necessário consentir com a retenção de dados e configurar o compartilhamento de dados pessoais com a Anthropic. Para mais informações, consulte Registrar e compartilhar solicitações e respostas.

Como se inscrever

A inscrição no programa de verificação cibernética na Agent Platform é feita em três etapas:

  1. Aceite o adendo de segurança avançada de IA no consoleGoogle Cloud .
  2. Preencha o formulário de inscrição de caso de uso cibernético da Anthropic.
  3. Ative a IA avançada em cada modelo e local de destino usando a API setPublisherModelConfig e, se estiver usando o Claude Opus 5 ou o Claude Opus 5.5, ative o compartilhamento de dados pessoais.

Etapa 1: aceitar o adendo de segurança avançada de IA

Um administrador autorizado precisa aceitar o adendo de segurança avançada de IA uma vez por projeto do Google Cloud .

Para aceitar o aditivo, faça o seguinte:

  1. No console Google Cloud , acesse Model Garden.

    Acessar o Model Garden

  2. Selecione um modelo do Claude qualificado. Consulte Modelos compatíveis.

  3. Na página de detalhes do modelo, encontre o card Programa de verificação cibernética (opcional).

  4. Clique em Etapas para fazer a inscrição e abrir a lista de verificação de inscrição.

  5. Na Etapa 1: aceitar o adendo de segurança avançada de IA, leia o adendo e marque a caixa de seleção de confirmação para reconhecer que você tem autorização para vincular sua organização a ele.

  6. Clique em Aceitar.

Etapa 2: preencher o formulário de caso de uso cibernético da Anthropic

Um representante autorizado da sua equipe de segurança precisa enviar uma inscrição diretamente para a Anthropic:

  1. Acesse o formulário de caso de uso cibernético da Anthropic.
  2. Na seção Plataforma, selecione Google Cloud.
  3. Digite as informações necessárias.
  4. Descreva seus fluxos de trabalho e casos de uso de segurança defensiva (por exemplo, testes de penetração autorizados, pesquisa de vulnerabilidades ou operações de segurança).
  5. Envie o formulário.

Etapa 3: ativar a IA avançada no modelo

Depois de aceitar o adendo de segurança avançada de IA e receber a aprovação da Anthropic, configure as opções necessárias em cada modelo do Claude que você quer usar para trabalho de cibersegurança defensiva. A configuração precisa ser aplicada por projeto, local, editora e modelo.

Para o Claude Opus 4.7, o Claude Opus 4.8 e o Claude Sonnet 5

Chame setPublisherModelConfig no endpoint v1beta1 para ativar advancedAiEnabled:

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

Substitua:

  • PROJECT_ID: o ID do projeto do Google Cloud .
  • MODEL_ID: o identificador do modelo do Claude (por exemplo, claude-opus-4-8 ou claude-sonnet-5).

Para o Claude Opus 5 e o Claude Opus 5.5

Para o Claude Opus 5 e o Claude Opus 5.5, a Anthropic exige que você ative o advancedAiEnabled e o compartilhamento de dados pessoais com a Anthropic (dataSharingEnabledProvider):

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

Substitua:

  • PROJECT_ID: o ID do projeto do Google Cloud .
  • MODEL_ID: o identificador do modelo do Claude (claude-opus-5 ou claude-opus-5-5).

Considerações importantes sobre a API

  • Use v1beta1: o método setPublisherModelConfig é compatível com a superfície da API v1beta1.
  • Sempre inclua updateMask: o campo updateMask é essencial. Se você omitir updateMask, a chamada vai substituir todo o objeto PublisherModelConfig, o que vai limpar inadvertidamente outras configurações, como loggingConfig ou dataSharingEnabledProvider.
  • Operação de longa duração: esse método retorna um google.longrunning.Operation. Pesquise a operação até que done: true seja retornado.
  • Escopo da configuração: as configurações do modelo do publisher são definidas por projeto, local, publisher e modelo. Se você usa modelos em várias regiões, configure cada endpoint.

Verificar a configuração do modelo

Para verificar se a IA avançada está ativada para um modelo específico, chame o método fetchPublisherModelConfig:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

Se a IA avançada estiver ativada para o Claude Opus 4.7, o Claude Opus 4.8 e o Claude Sonnet 5, a resposta será a seguinte:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

Se a IA avançada estiver ativada para o Claude Opus 5 ou 5.5, a resposta será a seguinte:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Solução de problemas

Nesta seção, descrevemos como resolver problemas comuns que podem ocorrer ao se inscrever ou usar o Programa de verificação cibernética.

As solicitações ainda estão bloqueadas em tarefas de cibersegurança

Se os comandos continuarem acionando recusas de proteção:

  1. Confirme a categoria de atividade: verifique se a tarefa é legítima de uso duplo e não um caso de uso proibido. Atividades proibidas (como criação de código de ransomware ou desenvolvimento de malware) são bloqueadas permanentemente para todos os usuários e não podem ser desbloqueadas de acordo com a CVP.
  2. Verifique a aprovação da Anthropic: confirme se a Anthropic enviou um e-mail de confirmação de aprovação para a inscrição no CVP da sua organização.
  3. Verifique o alinhamento do projeto: confira se as solicitações de inferência se originam do mesmo ID do projeto Google Cloud enviado no seu aplicativo da Anthropic e para o qual o anexo foi aceito.
  4. Confirme a configuração no nível do modelo: chame fetchPublisherModelConfig no ID e na região exatos do modelo para confirmar se advancedAiEnabled: true está ativo (e dataSharingEnabledProvider: ANTHROPIC para o Claude Opus 5 e o Claude Opus 5.5). As configurações de modelo são definidas por modelo, local e projeto.
  5. Envie uma contestação de falso positivo: se você acredita que um comando defensivo legítimo está sendo bloqueado por engano, envie uma contestação usando o formulário de denúncia e contestação de bloqueio cibernético da Anthropic (em inglês).

Permissão negada ao aceitar o adendo

Se você receber um erro de permissão ao tentar aceitar o anexo no Model Garden, verifique se sua conta tem a permissão aiplatform.consents.update. Entre em contato com o administrador do projeto para atribuir o papel de administrador do Agent Platform (roles/aiplatform.admin).

Campos ausentes nas respostas da API

Se a chamada de fetchPublisherModelConfig retornar um objeto vazio ({}), nenhuma configuração de modelo de editor personalizado foi aplicada a esse modelo. Execute setPublisherModelConfig novamente com o updateMask adequado.

A seguir