Programme de vérification de cybersécurité pour Claude

Aperçu

Cette fonctionnalité est soumise aux "Conditions des offres de pré-DG" de la section "Conditions générales du service" des Conditions spécifiques du service. Les fonctionnalités pré-DG sont disponibles "en l'état" et peuvent avoir une prise en charge limitée. Pour en savoir plus, consultez les descriptions des étapes de lancement.

Anthropic applique des mesures de cybersécurité en temps réel aux modèles Claude avancés pour éviter toute utilisation abusive dans des opérations cybermalveillantes. Le programme de validation cyber (CVP, Cyber Verification Program) d'Anthropic est un framework de confiance qui permet aux organisations validées d'utiliser les modèles Claude pour des tâches légitimes de cybersécurité défensive, sans les restrictions par défaut liées à la double utilisation.

Ce document décrit le fonctionnement de CVP sur Gemini Enterprise Agent Platform, les modèles compatibles, ainsi que la procédure d'inscription et de configuration des modèles pour votre projet.

Fonctionnement des mesures de protection cybernétiques

Les classificateurs d'évaluation en temps réel d'Anthropic inspectent les requêtes et les réponses pour se protéger contre les risques liés à la cybersécurité. Ces mesures de protection classent les activités en deux niveaux :

• Utilisation interdite : activités malveillantes à haut risque qui n'ont que peu ou pas d'application défensive légitime, comme le développement de rançongiciels, la génération d'infrastructures de commande et de contrôle (C2), la création de logiciels malveillants ou l'exfiltration massive et automatisée de données. Les activités interdites sont bloquées de manière permanente pour tous les utilisateurs. Le programme de vérification de cybersécurité ne lève jamais les restrictions sur les activités interdites.
• Double usage à haut risque : activités essentielles pour les opérations de sécurité autorisées, mais qui pourraient également être utilisées de manière abusive par des personnes malveillantes. Par exemple, la découverte de failles, l'analyse de l'exploitabilité, la vérification de l'exploitation de la preuve de concept, le red teaming et la simulation de chemin d'attaque adverse. Les activités à double usage sont bloquées par défaut, mais les organisations validées peuvent faire ajuster ces mesures de protection grâce au programme de vérification de cybersécurité.

Pour en savoir plus sur les règles d'utilisation d'Anthropic, consultez Mesures de protection cybernétique en temps réel sur Claude.

Modèles compatibles

Le programme de vérification de cybersécurité sur Agent Platform est compatible avec les modèles Anthropic suivants :

• Claude Opus 4.7, Claude Opus 4.8 et Claude Sonnet 5 : vous devez activer les fonctionnalités d'IA avancées (advancedAiEnabled: true).
• Claude Opus 5 et Claude Opus 5.5 : vous devez activer les fonctionnalités d'IA avancées (advancedAiEnabled: true) et le partage de données avec Anthropic (dataSharingEnabledProvider: ANTHROPIC).

Avant de commencer

Avant de vous inscrire au programme de vérification de cybersécurité, assurez-vous de remplir les conditions préalables suivantes :

• Un projet Google Cloud avec l'API Agent Platform activée.

• Les autorisations Identity and Access Management (IAM) suivantes pour le projet :

  • Pour accepter l'avenant sur la sécurité de l'IA avancée, vous devez disposer de l'autorisation aiplatform.consents.update, laquelle est incluse dans le rôle Administrateur de la plate-forme d'agents (roles/aiplatform.admin).
  • Pour configurer les paramètres du modèle d'éditeur : aiplatform.endpoints.setPublisherModelConfig, qui est inclus dans le rôle Administrateur Agent Platform (roles/aiplatform.admin).

• Comprendre la conservation des données : l'enregistrement d'un modèle dans CVP désigne ce modèle comme "IA avancée" dans l'Addendum sur la sécurité de l'IA avancée de Google. Conformément aux règles de sécurité d'Anthropic, les requêtes et les réponses envoyées aux modèles compatibles avec CVP sont conservées pendant 30 jours maximum pour surveiller les utilisations abusives. Pour en savoir plus, consultez Sécurité avancée de l'IA.

• Comprendre le partage de données (Claude Opus 5 et Claude Opus 5.5 uniquement) : pour Claude Opus 5 et Claude Opus 5.5 avec CVP, Anthropic exige que le partage de données soit activé pour la surveillance des utilisations abusives. Pour enregistrer ces modèles, vous devez à la fois accepter la conservation des données et configurer le partage de données avec Anthropic. Pour en savoir plus, consultez Enregistrer et partager les requêtes et les réponses.

S'inscrire

L'inscription au programme de vérification de cybersécurité sur Agent Platform se déroule en trois étapes :

1. Acceptez l'avenant sur la sécurité de l'IA avancée dans la consoleGoogle Cloud .
2. Remplissez le formulaire de demande de cas d'utilisation de cybersécurité d'Anthropic.
3. Activez l'IA avancée pour chaque modèle et emplacement cibles à l'aide de l'API setPublisherModelConfig. Si vous utilisez Claude Opus 5 ou Claude Opus 5.5, activez le partage de données.

Étape 1 : Acceptez l'avenant sur la sécurité de l'IA avancée

Un administrateur autorisé doit accepter l'avenant sur la sécurité de l'IA avancée une fois par projet Google Cloud .

Pour accepter l'avenant :

1. Dans la console Google Cloud , accédez à Model Garden.

   Accéder à la page "Jardin de modèles"

2. Sélectionnez un modèle Claude éligible. Consultez la section Modèles compatibles.

3. Sur la page d'informations sur le modèle, recherchez la fiche Programme de vérification de cybersécurité (facultatif).

4. Cliquez sur Étapes à suivre pour vous inscrire afin de développer la checklist d'inscription.

5. À l'étape 1 : Accepter l'avenant sur la sécurité de l'IA avancée, lisez l'avenant, puis cochez la case de confirmation pour indiquer que vous êtes autorisé à engager votre organisation vis-à-vis de l'avenant.

6. Cliquez sur Accepter.

Remarque : L'acceptation doit être effectuée via Model Garden dans la console Google Cloud . Aucune méthode d'API n'est disponible pour cette étape.

Étape 2 : Remplissez le formulaire Anthropic sur les cas d'utilisation de la cybersécurité

Un représentant autorisé de votre équipe de sécurité doit envoyer une demande directement à Anthropic :

1. Accédez au formulaire Anthropic Cyber Use Case.
2. Dans la section Surface, sélectionnez Google Cloud.
3. Saisissez les informations demandées.
4. Décrivez vos workflows et cas d'utilisation de sécurité défensive (par exemple, tests d'intrusion autorisés, recherche de failles ou opérations de sécurité).
5. Envoyez le formulaire.

Étape 3 : Activez l'IA avancée sur le modèle

Une fois que vous avez accepté l'avenant sur la sécurité de l'IA avancée et que vous avez reçu l'approbation d'Anthropic, configurez les paramètres requis sur chaque modèle Claude que vous souhaitez utiliser pour les tâches de cybersécurité défensive. La configuration doit être appliquée par projet, emplacement, éditeur et modèle.

Pour Claude Opus 4.7, Claude Opus 4.8 et Claude Sonnet 5

Appelez setPublisherModelConfig sur le point de terminaison v1beta1 pour activer advancedAiEnabled :

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

Remplacez les éléments suivants :

• PROJECT_ID : ID de votre projet Google Cloud .
• MODEL_ID : identifiant du modèle Claude (par exemple, claude-opus-4-8 ou claude-sonnet-5).

Pour Claude Opus 5 et Claude Opus 5.5

Pour Claude Opus 5 et Claude Opus 5.5, Anthropic exige que vous activiez à la fois advancedAiEnabled et le partage de données avec Anthropic (dataSharingEnabledProvider) :

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

Remplacez les éléments suivants :

• PROJECT_ID : ID de votre projet Google Cloud .
• MODEL_ID : identifiant du modèle Claude (claude-opus-5 ou claude-opus-5-5).

Points importants concernant l'API

• Utiliser v1beta1 : la méthode setPublisherModelConfig est compatible avec la surface de l'API v1beta1.
• Incluez toujours updateMask : le champ updateMask est essentiel. Si vous omettez updateMask, l'appel remplace l'intégralité de l'objet PublisherModelConfig, ce qui efface par inadvertance d'autres paramètres tels que loggingConfig ou dataSharingEnabledProvider.
• Opération de longue durée : cette méthode renvoie un google.longrunning.Operation. Interrogez l'opération jusqu'à ce que done: true soit renvoyé.
• Étendue de la configuration : les configurations de modèle d'éditeur sont définies par projet, emplacement, éditeur et modèle. Si vous utilisez des modèles dans plusieurs régions, configurez chaque point de terminaison.

Vérifier la configuration du modèle

Pour vérifier que l'IA avancée est activée pour un modèle spécifique, appelez la méthode fetchPublisherModelConfig :

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

Si l'IA avancée est activée pour Claude Opus 4.7, Claude Opus 4.8 et Claude Sonnet 5, la réponse est la suivante :

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

Si l'IA avancée est activée pour Claude Opus 5 ou Claude Opus 5.5, la réponse est la suivante :

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Dépannage

Cette section explique comment résoudre les problèmes courants que vous pouvez rencontrer lors de l'inscription au programme de validation de la cybersécurité ou de son utilisation.

Les requêtes sont toujours bloquées pour les tâches de cybersécurité

Si vos requêtes continuent de déclencher des refus de protection :

1. Confirmer la catégorie d'activité : vérifiez que la tâche est une tâche à double usage légitime et non un cas d'utilisation interdit. Les activités interdites (telles que la création de code de ransomware ou le développement de logiciels malveillants) sont bloquées de manière permanente pour tous les utilisateurs et ne peuvent pas être débloquées dans le cadre du programme CVP.
2. Vérifier l'approbation d'Anthropic : vérifiez qu'Anthropic a envoyé un e-mail de confirmation de l'approbation de la demande de votre organisation concernant le programme CVP.
3. Vérifier l'alignement du projet : assurez-vous que les demandes d'inférence proviennent du même ID de projet Google Cloud que celui indiqué dans votre demande Anthropic et pour lequel l'avenant a été accepté.
4. Confirmer la configuration au niveau du modèle : appelez fetchPublisherModelConfig sur l'ID et la région exacts du modèle que vous appelez pour confirmer que advancedAiEnabled: true est actif (et dataSharingEnabledProvider: ANTHROPIC pour Claude Opus 5 et Claude Opus 5.5). Les configurations de modèle sont définies par modèle, par emplacement et par projet.
5. Faire appel d'un faux positif : si vous pensez qu'une requête défensive légitime est bloquée par erreur, faites appel à l'aide du formulaire de signalement et d'appel de blocage cybernétique d'Anthropic.

Autorisation refusée lors de l'acceptation de l'avenant

Si vous recevez une erreur d'autorisation lorsque vous essayez d'accepter l'avenant dans Model Garden, assurez-vous que votre compte dispose de l'autorisation aiplatform.consents.update. Contactez l'administrateur de votre projet pour qu'il vous attribue le rôle Administrateur Agent Platform (roles/aiplatform.admin).

Champs manquants dans les réponses de l'API

Si l'appel de fetchPublisherModelConfig renvoie un objet vide ({}), cela signifie qu'aucun paramètre de modèle d'éditeur personnalisé n'a été appliqué à ce modèle. Exécutez à nouveau setPublisherModelConfig avec le updateMask approprié.

Étapes suivantes

• En savoir plus sur les classificateurs de sécurité pour Claude sur Agent Platform
• Consultez la section Surveillance des utilisations abusives dans Agent Platform.
• En savoir plus sur les pratiques pour une IA responsable.