Programma di verifica cyber per Claude

Anthropic applica misure di sicurezza informatica in tempo reale ai modelli Claude di frontiera per prevenire l'uso improprio nelle operazioni informatiche dannose. Il Programma di verifica cyber (CVP) di Anthropic è un framework di attendibilità che consente alle organizzazioni verificate di utilizzare i modelli Claude per attività di cybersicurezza difensiva legittime con le restrizioni di duplice uso predefinite rimosse.

Questo documento descrive come funziona CVP su Gemini Enterprise Agent Platform, quali modelli sono supportati e come registrare e configurare i modelli per il tuo progetto.

Come funzionano le protezioni informatiche

I classificatori di valutazione in tempo reale di Anthropic esaminano i prompt e i completamenti per proteggere dai rischi correlati alla cybersicurezza. Queste misure di salvaguardia classificano le attività in due livelli:

  • Uso vietato: attività dannose ad alto rischio che hanno poca o nessuna applicazione difensiva legittima, come lo sviluppo di ransomware, la generazione di infrastrutture di comando e controllo (C2), la creazione di malware o l'esfiltrazione automatica di dati di massa. Le attività vietate sono bloccate definitivamente per tutti gli utenti. Il programma di verifica cyber non rimuove mai le limitazioni alle attività vietate.
  • Duplice uso ad alto rischio: attività essenziali per le operazioni di sicurezza autorizzate, ma che potrebbero essere utilizzate in modo improprio dagli autori delle minacce. Gli esempi includono il rilevamento delle vulnerabilità, l'analisi dell'exploitabilità, la verifica dell'exploit proof-of-concept, il red teaming e la simulazione del percorso di attacco degli avversari. Le attività a duplice uso sono bloccate per impostazione predefinita, ma le organizzazioni verificate possono richiedere l'adeguamento di queste misure di salvaguardia tramite il programma di verifica cyber.

Per ulteriori informazioni sulle norme di utilizzo di Anthropic, consulta Protezioni informatiche in tempo reale su Claude.

Modelli supportati

Il Programma di verifica cyber su Agent Platform supporta i seguenti modelli Anthropic:

  • Claude Opus 4.7, Claude Opus 4.8 e Claude Sonnet 5: richiede l'attivazione delle funzionalità di AI avanzata (advancedAiEnabled: true).
  • Claude Opus 5 e Claude Opus 5.5: richiedono l'attivazione sia delle funzionalità di AI avanzata (advancedAiEnabled: true) sia della condivisione dei dati con Anthropic (dataSharingEnabledProvider: ANTHROPIC).

Prima di iniziare

Prima di registrarti al programma di verifica cyber, assicurati di soddisfare i seguenti prerequisiti:

  • Un progetto Google Cloud con l'API Agent Platform abilitata.

  • Le seguenti autorizzazioni Identity and Access Management (IAM) per il progetto:

    • Per accettare l'Appendice sulla sicurezza dell'AI avanzata: aiplatform.consents.update, incluso nel ruolo Amministratore della Agent Platform (roles/aiplatform.admin).
    • Per configurare le impostazioni del modello dell'editore: aiplatform.endpoints.setPublisherModelConfig, che è incluso nel ruolo Amministratore di Agent Platform (roles/aiplatform.admin).

  • Comprensione della conservazione dei dati: la registrazione di un modello in CVP lo designa come "AI avanzata" ai sensi dell'Addendum sulla sicurezza dell'AI avanzata di Google. In conformità alle norme di sicurezza di Anthropic, i prompt e le risposte inviati ai modelli abilitati a CVP vengono conservati per il monitoraggio di comportamenti illeciti per un massimo di 30 giorni. Per saperne di più, consulta Sicurezza dell'AI avanzata.

  • Comprensione della condivisione dei dati (solo Claude Opus 5 e Claude Opus 5.5): per Claude Opus 5 e Claude Opus 5.5 con CVP, Anthropic richiede che la condivisione dei dati sia attivata per il monitoraggio degli abusi. La registrazione di questi modelli richiede sia il consenso alla conservazione dei dati sia la configurazione della condivisione dei dati con Anthropic. Per maggiori informazioni, consulta Registrare e condividere richieste e risposte.

Come registrarsi

La registrazione al Programma di verifica cyber su Agent Platform è una procedura composta da tre passaggi:

  1. Accetta l'Appendice sulla sicurezza dell'AI avanzata nella consoleGoogle Cloud .
  2. Compila il modulo di richiesta per il caso d'uso informatico di Anthropic.
  3. Abilita l'AI avanzata su ogni modello e posizione di destinazione utilizzando l'API setPublisherModelConfig e, se utilizzi Claude Opus 5 o Claude Opus 5.5, abilita la condivisione dei dati.

Passaggio 1: accetta l'Appendice sulla sicurezza dell'AI avanzata

Un amministratore autorizzato deve accettare l'Appendice sulla sicurezza dell'AI avanzata una volta per Google Cloud progetto.

Per accettare l'appendice, procedere come segue:

  1. Nella console Google Cloud , vai a Model Garden.

    Vai a Model Garden

  2. Seleziona un modello Claude idoneo. Consulta Modelli supportati.

  3. Nella pagina dei dettagli del modello, individua la scheda Programma di verifica cyber (facoltativo).

  4. Fai clic su Passaggi per la registrazione per espandere l'elenco di controllo della registrazione.

  5. Nel Passaggio 1: accetta l'Appendice sulla sicurezza dell'AI avanzata, esamina l'appendice e poi seleziona la casella di controllo di conferma che attesta che hai l'autorizzazione a vincolare la tua organizzazione all'appendice.

  6. Fai clic su Accetto.

Passaggio 2: compila il modulo per i casi d'uso informatici di Anthropic

Un rappresentante autorizzato del tuo team di sicurezza deve inviare una richiesta direttamente ad Anthropic:

  1. Vai al modulo per il caso d'uso di Anthropic Cyber.
  2. Nella sezione Superficie, seleziona Google Cloud.
  3. Inserisci le informazioni richieste.
  4. Descrivi i tuoi workflow e casi d'uso di sicurezza difensiva (ad esempio, test di penetrazione autorizzati, ricerca di vulnerabilità o operazioni di sicurezza).
  5. Invia il modulo.

Passaggio 3: attiva l'AI avanzata sul modello

Dopo aver accettato l'Appendice sulla sicurezza dell'AI avanzata e aver ricevuto l'approvazione da Anthropic, configura le impostazioni richieste su ogni modello Claude che vuoi utilizzare per il lavoro di cybersicurezza difensiva. La configurazione deve essere applicata per progetto, posizione, editore e modello.

Per Claude Opus 4.7, Claude Opus 4.8 e Claude Sonnet 5

Chiama setPublisherModelConfig sull'endpoint v1beta1 per attivare advancedAiEnabled:

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto Google Cloud .
  • MODEL_ID: l'identificatore del modello Claude (ad esempio, claude-opus-4-8 o claude-sonnet-5).

Per Claude Opus 5 e Claude Opus 5.5

Per Claude Opus 5 e Claude Opus 5.5, Anthropic richiede l'attivazione sia di advancedAiEnabled sia della condivisione dei dati con Anthropic (dataSharingEnabledProvider):

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto Google Cloud .
  • MODEL_ID: l'identificatore del modello Claude (claude-opus-5 o claude-opus-5-5).

Considerazioni importanti sulle API

  • Utilizza v1beta1: il metodo setPublisherModelConfig è supportato sulla superficie API v1beta1.
  • Includi sempre updateMask: il campo updateMask è essenziale. Se ometti updateMask, la chiamata sostituisce l'intero oggetto PublisherModelConfig, il che cancella inavvertitamente altre impostazioni come loggingConfig o dataSharingEnabledProvider.
  • Operazione a lunga esecuzione: questo metodo restituisce un google.longrunning.Operation. Esegui il polling dell'operazione fino a quando non viene restituito done: true.
  • Ambito di configurazione: le configurazioni del modello di editore sono limitate per progetto, località, editore e modello. Se utilizzi modelli in più regioni, configura ogni endpoint.

Verifica della configurazione del modello

Per verificare che l'AI avanzata sia abilitata per un modello specifico, chiama il metodo fetchPublisherModelConfig:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

Se l'AI avanzata è abilitata per Claude Opus 4.7, Claude Opus 4.8 e Claude Sonnet 5, la risposta è la seguente:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

Se l'AI avanzata è attivata per Claude Opus 5 o Claude Opus 5.5, la risposta è la seguente:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Risoluzione dei problemi

Questa sezione descrive come risolvere i problemi comuni che potresti riscontrare durante la registrazione o l'utilizzo del programma di verifica della sicurezza informatica.

Le richieste sono ancora bloccate per le attività di cybersecurity

Se i tuoi prompt continuano a generare rifiuti di salvaguardia:

  1. Conferma la categoria di attività: verifica che l'attività sia un'attività legittima a duplice uso e non un caso d'uso vietato. Le attività vietate (come la creazione di codice ransomware o lo sviluppo di malware) sono bloccate in modo permanente per tutti gli utenti e non possono essere sbloccate ai sensi del programma CVP.
  2. Verifica l'approvazione di Anthropic: conferma che Anthropic abbia inviato un'email di conferma dell'approvazione per la richiesta di CVP della tua organizzazione.
  3. Verifica l'allineamento del progetto: assicurati che le richieste di inferenza provengano dallo stesso ID progetto Google Cloud inviato nella tua applicazione Anthropic e per il quale è stato accettato l'addendum.
  4. Conferma della configurazione a livello di modello: chiama fetchPublisherModelConfig sull'ID modello e sulla regione esatti che stai chiamando per confermare che advancedAiEnabled: true è attivo (e dataSharingEnabledProvider: ANTHROPIC per Claude Opus 5 e Claude Opus 5.5). Le configurazioni dei modelli sono limitate per modello, per località e per progetto.
  5. Presenta un ricorso per falso positivo: se ritieni che un prompt difensivo legittimo venga bloccato erroneamente, presenta un ricorso utilizzando il modulo di segnalazione e ricorso per blocchi informatici di Anthropic.

Autorizzazione negata durante l'accettazione dell'appendice

Se ricevi un errore di autorizzazione quando tenti di accettare l'appendice in Model Garden, assicurati che il tuo account disponga dell'autorizzazione aiplatform.consents.update. Contatta l'amministratore del progetto per assegnare il ruolo Amministratore di Agent Platform (roles/aiplatform.admin).

Campi mancanti nelle risposte API

Se la chiamata a fetchPublisherModelConfig restituisce un oggetto vuoto ({}), non sono state applicate impostazioni personalizzate del modello di publisher. Esegui di nuovo setPublisherModelConfig con il updateMask appropriato.

Passaggi successivi