Programa de verificación cibernética para Claude

Anthropic aplica medidas de protección cibernética en tiempo real a los modelos Claude de vanguardia para evitar el uso inadecuado en operaciones cibernéticas maliciosas. El Programa de verificación cibernética (CVP) de Anthropic es un marco de confianza que permite a las organizaciones verificadas usar los modelos de Claude para tareas legítimas de ciberseguridad defensiva con las restricciones predeterminadas de doble uso levantadas.

En este documento, se describe cómo funciona CVP en Gemini Enterprise Agent Platform, qué modelos son compatibles y cómo inscribir y configurar modelos para tu proyecto.

Cómo funcionan las medidas de protección cibernética

Los clasificadores de evaluación en tiempo real de Anthropic inspeccionan las instrucciones y las respuestas para proteger contra los riesgos relacionados con la ciberseguridad. Estas protecciones clasifican las actividades en dos niveles:

  • Uso prohibido: Actividades maliciosas de alto riesgo que tienen poca o ninguna aplicación defensiva legítima, como el desarrollo de ransomware, la generación de infraestructura de comando y control (C2), la creación de malware o la filtración masiva automatizada de datos. Las actividades prohibidas se bloquean de forma permanente para todos los usuarios. El Programa de verificación cibernética nunca levanta las restricciones sobre las actividades prohibidas.
  • Doble uso de alto riesgo: Son las actividades que son fundamentales para las operaciones de seguridad autorizadas, pero que también podrían ser objeto de abuso por parte de los agentes de amenazas. Entre los ejemplos, se incluyen el descubrimiento de vulnerabilidades, el análisis de explotabilidad, la verificación de la explotación de prueba de concepto, el equipo rojo y la simulación de la ruta de ataque del adversario. Las actividades de doble uso se bloquean de forma predeterminada, pero las organizaciones verificadas pueden ajustar estas medidas de protección a través del Programa de Verificación Cibernética.

Para obtener más información sobre las políticas de uso de Anthropic, consulta Protecciones cibernéticas en tiempo real en Claude.

Modelos compatibles

El Programa de verificación cibernética en Agent Platform admite los siguientes modelos de Anthropic:

  • Claude Opus 4.7, Claude Opus 4.8 y Claude Sonnet 5: Requiere habilitar las funciones avanzadas de IA (advancedAiEnabled: true).
  • Claude Opus 5 y Claude Opus 5.5: Requieren que se habiliten las funciones avanzadas basadas en IA (advancedAiEnabled: true) y el uso compartido de datos con Anthropic (dataSharingEnabledProvider: ANTHROPIC).

Antes de comenzar

Antes de inscribirte en el Programa de verificación cibernética, asegúrate de cumplir con los siguientes requisitos previos:

  • Un proyecto Google Cloud con la API de Agent Platform habilitada

  • Los siguientes permisos de Identity and Access Management (IAM) en el proyecto:

    • Para aceptar el Anexo de Seguridad de IA avanzada: aiplatform.consents.update, que se incluye en el rol de Administrador de la Agent Platform (roles/aiplatform.admin).
    • Para configurar los parámetros del modelo del publicador, debes tener el permiso aiplatform.endpoints.setPublisherModelConfig, que se incluye en el rol de administrador de Agent Platform (roles/aiplatform.admin).

  • Comprensión de la retención de datos: Cuando se inscribe un modelo en el CVP, se lo designa como "IA avanzada" en el Anexo de seguridad de la IA avanzada de Google. De conformidad con las políticas de seguridad de Anthropic, las instrucciones y respuestas enviadas a los modelos habilitados para CVP se conservan para la supervisión de abusos durante un máximo de 30 días. Para obtener más información, consulta Seguridad avanzada de la IA.

  • Comprensión del uso compartido de datos (solo para Claude Opus 5 y Claude Opus 5.5): Para Claude Opus 5 y Claude Opus 5.5 con CVP, Anthropic requiere que se habilite el uso compartido de datos para la supervisión del abuso. Para inscribir estos modelos, se debe dar el consentimiento para la retención de datos y configurar el uso compartido de datos con Anthropic. Para obtener más información, consulta Cómo registrar y compartir solicitudes y respuestas.

Cómo inscribirte

La inscripción en el programa de verificación cibernética en Agent Platform es un proceso de tres pasos:

  1. Acepta el Anexo de Seguridad de IA Avanzada en la consola deGoogle Cloud .
  2. Completa el formulario de solicitud de casos de uso cibernéticos de Anthropic.
  3. Habilita la IA avanzada en cada modelo y ubicación objetivo con la API de setPublisherModelConfig y, si usas Claude Opus 5 o Claude Opus 5.5, habilita el uso compartido de datos.

Paso 1: Acepta el Anexo de Seguridad de IA Avanzada

Un administrador autorizado debe aceptar el Anexo de Seguridad de IA Avanzada una vez por Google Cloud proyecto.

Para aceptar el suplemento, haz lo siguiente:

  1. En la consola de Google Cloud , ve a Model Garden.

    Ir a Model Garden

  2. Selecciona un modelo de Claude apto. Consulta Modelos compatibles.

  3. En la página de detalles del modelo, busca la tarjeta Programa de verificación cibernética (opcional).

  4. Haz clic en Pasos para inscribirse para expandir la lista de tareas de inscripción.

  5. En el Paso 1: Acepta el Anexo de Seguridad de IA Avanzada, revisa el anexo y, luego, selecciona la casilla de verificación de confirmación para reconocer que tienes autorización para obligar a tu organización a cumplir con el anexo.

  6. Haz clic en Aceptar.

Paso 2: Completa el formulario de caso de uso cibernético de Anthropic

Un representante autorizado de tu equipo de seguridad debe enviar una solicitud directamente a Anthropic:

  1. Ve al formulario de caso de uso cibernético de Anthropic.
  2. En la sección Surface, selecciona Google Cloud.
  3. Ingresa la información requerida.
  4. Describe tus flujos de trabajo y casos de uso de seguridad defensiva (por ejemplo, pruebas de penetración autorizadas, investigación de vulnerabilidades o operaciones de seguridad).
  5. Envía el formulario.

Paso 3: Habilita la IA avanzada en el modelo

Después de aceptar el Anexo de Seguridad de IA Avanzada y recibir la aprobación de Anthropic, configura los parámetros necesarios en cada modelo de Claude que desees usar para el trabajo de ciberseguridad defensiva. La configuración se debe aplicar por proyecto, ubicación, publicador y modelo.

Para Claude Opus 4.7, Claude Opus 4.8 y Claude Sonnet 5

Llama a setPublisherModelConfig en el extremo v1beta1 para habilitar advancedAiEnabled:

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • MODEL_ID: Es el identificador del modelo de Claude (por ejemplo, claude-opus-4-8 o claude-sonnet-5).

Para Claude Opus 5 y Claude Opus 5.5

En el caso de Claude Opus 5 y Claude Opus 5.5, Anthropic requiere que se habiliten tanto advancedAiEnabled como el uso compartido de datos con Anthropic (dataSharingEnabledProvider):

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

Reemplaza lo siguiente:

  • PROJECT_ID: Es el ID del proyecto de Google Cloud .
  • MODEL_ID: Es el identificador del modelo de Claude (claude-opus-5 o claude-opus-5-5).

Consideraciones importantes sobre la API

  • Usa v1beta1: El método setPublisherModelConfig se admite en la superficie de la API de v1beta1.
  • Siempre incluye updateMask: El campo updateMask es fundamental. Si omites updateMask, la llamada reemplaza todo el objeto PublisherModelConfig, lo que borra inadvertidamente otros parámetros de configuración, como loggingConfig o dataSharingEnabledProvider.
  • Operación de larga duración: Este método devuelve un objeto google.longrunning.Operation. Consulta la operación hasta que se devuelva done: true.
  • Alcance de la configuración: Los parámetros de configuración del modelo del editor se definen para cada proyecto, ubicación, editor y modelo. Si usas modelos en varias regiones, configura cada extremo.

Verifica la configuración del modelo

Para verificar que la IA avanzada esté habilitada para un modelo específico, llama al método fetchPublisherModelConfig:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

Si la IA avanzada está habilitada para Claude Opus 4.7, Claude Opus 4.8 y Claude Sonnet 5, la respuesta será la siguiente:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

Si la IA avanzada está habilitada para Claude Opus 5 o Claude Opus 5.5, la respuesta será la siguiente:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Soluciona problemas

En esta sección, se describe cómo resolver problemas comunes que puedes encontrar cuando te inscribes en el Programa de Verificación Cibernética o lo usas.

Las solicitudes siguen bloqueadas en las tareas de ciberseguridad

Si tus instrucciones siguen activando rechazos de protección, haz lo siguiente:

  1. Confirma la categoría de actividad: Verifica que la tarea sea legítima de doble uso y no un caso de uso prohibido. Las actividades prohibidas (como la creación de código de ransomware o el desarrollo de software malicioso) se bloquean de forma permanente para todos los usuarios y no se pueden desbloquear en virtud del CVP.
  2. Verifica la aprobación de Anthropic: Confirma que Anthropic haya enviado un correo electrónico de confirmación de aprobación para la solicitud de CVP de tu organización.
  3. Verifica la alineación del proyecto: Asegúrate de que las solicitudes de inferencia provengan del mismo ID del proyecto Google Cloud que se envió en tu solicitud de Anthropic y para el que se aceptó la adenda.
  4. Confirma la configuración a nivel del modelo: Llama a fetchPublisherModelConfig en el ID y la región exactos del modelo al que llamas para confirmar que advancedAiEnabled: true está activo (y dataSharingEnabledProvider: ANTHROPIC para Claude Opus 5 y Claude Opus 5.5). Los parámetros de configuración del modelo se definen por modelo, por ubicación y por proyecto.
  5. Envía una apelación por falso positivo: Si crees que se está bloqueando erróneamente una instrucción defensiva legítima, envía una apelación a través del formulario de denuncia y apelación de bloqueo cibernético de Anthropic.

Se denegó el permiso cuando se aceptó el suplemento

Si recibes un error de permiso cuando intentas aceptar el anexo en Model Garden, asegúrate de que tu cuenta tenga el permiso aiplatform.consents.update. Comunícate con el administrador de tu proyecto para que te asigne el rol de administrador de Agent Platform (roles/aiplatform.admin).

Faltan campos en las respuestas de la API

Si la llamada a fetchPublisherModelConfig devuelve un objeto vacío ({}), no se aplicó ningún parámetro de configuración del modelo de publicador personalizado a ese modelo. Vuelve a ejecutar setPublisherModelConfig con el updateMask adecuado.

¿Qué sigue?