Cyber Verification Program für Claude

Anthropic wendet auf die neuesten Claude-Modelle Cyber-Sicherheitsmaßnahmen in Echtzeit an, um Missbrauch bei böswilligen Cyber-Operationen zu verhindern. Das Cyber Verification Program (CVP) von Anthropic ist ein Vertrauens-Framework, das es verifizierten Organisationen ermöglicht, Claude-Modelle für legitime defensive Cybersicherheitsaufgaben zu verwenden, wobei die standardmäßigen Dual-Use-Einschränkungen aufgehoben werden.

In diesem Dokument wird beschrieben, wie CVP in der Gemini Enterprise Agent Platform funktioniert, welche Modelle unterstützt werden und wie Sie Modelle für Ihr Projekt registrieren und konfigurieren.

So funktionieren Cybersicherheitsmaßnahmen

Die Echtzeit-Bewertungsklassifikatoren von Anthropic prüfen Prompts und Vervollständigungen, um vor Risiken im Zusammenhang mit Cybersicherheit zu schützen. Diese Sicherheitsmaßnahmen unterteilen Aktivitäten in zwei Stufen:

  • Verbotene Nutzung: Hochriskante, böswillige Aktivitäten, die kaum oder gar keine legitime defensive Anwendung haben, z. B. die Entwicklung von Ransomware, die Generierung von Command-and-Control-Infrastruktur (C2), die Entwicklung von Malware oder die automatisierte Massendatenexfiltration. Verbotene Aktivitäten werden für alle Nutzer dauerhaft blockiert. Das Cyber Verification Program hebt niemals Einschränkungen für verbotene Aktivitäten auf.
  • Dual-Use mit hohem Risiko: Aktivitäten, die für autorisierte Sicherheitsvorgänge von entscheidender Bedeutung sind, aber auch von Angreifern missbraucht werden könnten. Beispiele sind die Erkennung von Sicherheitslücken, die Analyse der Ausnutzbarkeit, die Überprüfung von Proof-of-Concept-Exploits, Red Teaming und die Simulation von Angriffspfaden. Aktivitäten mit doppeltem Verwendungszweck sind standardmäßig blockiert. Über das Cyber Verification Program können diese Sicherheitsmaßnahmen jedoch für bestätigte Organisationen angepasst werden.

Weitere Informationen zu den Nutzungsrichtlinien von Anthropic finden Sie unter Real-time cyber safeguards on Claude.

Unterstützte Modelle

Das Cyber Verification Program auf der Agent Platform unterstützt die folgenden Anthropic-Modelle:

  • Claude Opus 4.7, Claude Opus 4.8 und Claude Sonnet 5: Hierfür müssen die erweiterten KI-Funktionen (advancedAiEnabled: true) aktiviert sein.
  • Claude Opus 5 und Claude Opus 5.5: Hierfür müssen sowohl die erweiterten KI-Funktionen (advancedAiEnabled: true) als auch die Datenfreigabe für Anthropic (dataSharingEnabledProvider: ANTHROPIC) aktiviert sein.

Hinweis

Bevor Sie sich für das Cyber Verification Program registrieren, müssen Sie die folgenden Voraussetzungen erfüllen:

  • Ein Google Cloud -Projekt mit aktivierter Agent Platform API.

  • Die folgenden IAM-Berechtigungen (Identity and Access Management) für das Projekt:

    • Um den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen zu akzeptieren, benötigen Sie die Berechtigung aiplatform.consents.update, die in der Rolle Agent Platform Administrator (roles/aiplatform.admin) enthalten ist.
    • So konfigurieren Sie die Einstellungen für das Publisher-Modell: aiplatform.endpoints.setPublisherModelConfig, die in der Rolle Agent Platform Administrator (roles/aiplatform.admin) enthalten ist.

  • Informationen zur Datenaufbewahrung: Wenn Sie ein Modell in CVP registrieren, wird es gemäß dem Zusatz zur Sicherheit von Advanced AI von Google als „Advanced AI“ eingestuft. Gemäß den Sicherheitsrichtlinien von Anthropic werden Prompts und Antworten, die an CVP-fähige Modelle gesendet werden, bis zu 30 Tage lang zur Missbrauchsüberwachung aufbewahrt. Weitere Informationen finden Sie unter Erweiterte KI-Sicherheit.

  • Einverständnis zur Datenweitergabe (nur Claude Opus 5 und Claude Opus 5.5): Für Claude Opus 5 und Claude Opus 5.5 mit CVP ist es erforderlich, dass die Datenweitergabe für die Missbrauchsüberwachung aktiviert ist. Für die Registrierung dieser Modelle ist sowohl die Einwilligung zur Datenaufbewahrung als auch die Konfiguration der Datenfreigabe mit Anthropic erforderlich. Weitere Informationen finden Sie unter Anfragen und Antworten protokollieren und freigeben.

Registrierung

Die Registrierung für das Cyber Verification Program auf der Agent Platform erfolgt in drei Schritten:

  1. Akzeptieren Sie den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen in derGoogle Cloud -Konsole.
  2. Füllen Sie das Antragsformular für Cyber-Anwendungsfälle von Anthropic aus.
  3. Aktivieren Sie die erweiterte KI für jedes Zielmodell und jeden Standort mit der setPublisherModelConfig API. Wenn Sie Claude Opus 5 oder Claude Opus 5.5 verwenden, aktivieren Sie die Datenfreigabe.

Schritt 1: Zusatz zur Sicherheit fortschrittlicher KI-Funktionen akzeptieren

Ein autorisierter Administrator muss den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen einmal pro Google Cloud Projekt akzeptieren.

So akzeptieren Sie die Ergänzung:

  1. Rufen Sie in der Google Cloud Console Model Garden auf.

    Zu Model Garden

  2. Wählen Sie ein geeignetes Claude-Modell aus. Weitere Informationen finden Sie unter Unterstützte Modelle.

  3. Suchen Sie auf der Seite mit den Modelldetails nach der Karte Cyber Verification Program (Optional).

  4. Klicken Sie auf Schritte zur Registrierung, um die Checkliste für die Registrierung zu maximieren.

  5. Lesen Sie in Schritt 1: Zusatz zur Sicherheit fortschrittlicher KI-Funktionen akzeptieren den Zusatz und setzen Sie dann ein Häkchen in das Bestätigungskästchen, um zu bestätigen, dass Sie berechtigt sind, Ihre Organisation an den Zusatz zu binden.

  6. Klicken Sie auf Akzeptieren.

Schritt 2: Formular für Cyber-Anwendungsfälle von Anthropic ausfüllen

Ein bevollmächtigter Vertreter Ihres Sicherheitsteams muss einen Antrag direkt bei Anthropic einreichen:

  1. Rufen Sie das Anthropic-Formular für Cyber-Anwendungsfälle auf.
  2. Wählen Sie im Bereich Surface (Oberfläche) die Option Google Cloud aus.
  3. Geben Sie die erforderlichen Informationen ein.
  4. Beschreiben Sie Ihre defensiven Sicherheits-Workflows und Anwendungsfälle (z. B. autorisierte Penetrationstests, Schwachstellenforschung oder Sicherheitsvorgänge).
  5. Übermitteln Sie das Formular.

Schritt 3: Erweiterte KI für das Modell aktivieren

Nachdem Sie den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen akzeptiert und die Genehmigung von Anthropic erhalten haben, konfigurieren Sie die erforderlichen Einstellungen für jedes Claude-Modell, das Sie für defensive Cybersicherheitsaufgaben verwenden möchten. Die Konfiguration muss pro Projekt, Standort, Publisher und Modell angewendet werden.

Für Claude Opus 4.7, Claude Opus 4.8 und Claude Sonnet 5

Rufen Sie setPublisherModelConfig am Endpunkt v1beta1 auf, um advancedAiEnabled zu aktivieren:

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      }
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled"
  }'

Ersetzen Sie Folgendes:

  • PROJECT_ID: Ihre Google Cloud Projekt-ID
  • MODEL_ID: Die Claude-Modell-ID (z. B. claude-opus-4-8 oder claude-sonnet-5).

Für Claude Opus 5 und Claude Opus 5.5

Für Claude Opus 5 und Claude Opus 5.5 muss sowohl advancedAiEnabled als auch die Datenfreigabe mit Anthropic (dataSharingEnabledProvider) aktiviert werden:

curl -X POST \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:setPublisherModelConfig" \
  -d '{
    "publisherModelConfig": {
      "claudeFeatureConfig": {
        "advancedAiEnabled": true
      },
      "dataSharingEnabledProvider": "ANTHROPIC"
    },
    "updateMask": "claudeFeatureConfig.advancedAiEnabled,dataSharingEnabledProvider"
  }'

Ersetzen Sie Folgendes:

  • PROJECT_ID: Ihre Google Cloud Projekt-ID
  • MODEL_ID: Die Claude-Modellkennung (claude-opus-5 oder claude-opus-5-5).

Wichtige Überlegungen zu APIs

  • v1beta1 verwenden: Die Methode setPublisherModelConfig wird auf der v1beta1-API-Oberfläche unterstützt.
  • Immer updateMask einfügen: Das Feld updateMask ist unerlässlich. Wenn Sie updateMask weglassen, wird das gesamte PublisherModelConfig-Objekt durch den Aufruf ersetzt. Dadurch werden versehentlich andere Einstellungen wie loggingConfig oder dataSharingEnabledProvider gelöscht.
  • Vorgang mit langer Ausführungszeit: Diese Methode gibt eine google.longrunning.Operation zurück. Fragen Sie den Vorgang ab, bis done: true zurückgegeben wird.
  • Konfigurationsbereich: Publisher-Modellkonfigurationen sind auf Projekt, Standort, Publisher und Modell beschränkt. Wenn Sie Modelle in mehreren Regionen verwenden, müssen Sie jeden Endpunkt konfigurieren.

Modellkonfiguration prüfen

Rufen Sie die Methode fetchPublisherModelConfig auf, um zu prüfen, ob die erweiterte KI für ein bestimmtes Modell aktiviert ist:

curl -X GET \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  -H "Content-Type: application/json" \
  "https://aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/global/publishers/anthropic/models/MODEL_ID:fetchPublisherModelConfig"

Wenn die erweiterte KI für Claude Opus 4.7, Claude Opus 4.8 und Claude Sonnet 5 aktiviert ist, sieht die Antwort so aus:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  }
}

Wenn die erweiterte KI für Claude Opus 5 oder Claude Opus 5.5 aktiviert ist, sieht die Antwort so aus:

{
  "claudeFeatureConfig": {
    "advancedAiEnabled": true
  },
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Fehlerbehebung

In diesem Abschnitt wird beschrieben, wie Sie häufige Probleme beheben können, die bei der Registrierung für das Cyber-Verifizierungsprogramm oder bei der Verwendung des Programms auftreten können.

Anfragen für Cybersecurity-Aufgaben werden weiterhin blockiert

Wenn Ihre Prompts weiterhin Ablehnungen aufgrund von Sicherheitsvorkehrungen auslösen:

  1. Aktivitätskategorie bestätigen: Prüfen Sie, ob es sich bei der Aufgabe um eine zulässige Aufgabe mit doppeltem Verwendungszweck und nicht um einen verbotenen Anwendungsfall handelt. Verbotene Aktivitäten (z. B. das Erstellen von Ransomware-Code oder die Entwicklung von Malware) sind für alle Nutzer dauerhaft gesperrt und können im Rahmen des CVP nicht entsperrt werden.
  2. Anthropic-Genehmigung bestätigen: Prüfen Sie, ob Anthropic eine E‑Mail zur Bestätigung der Genehmigung für den CVP-Antrag Ihrer Organisation gesendet hat.
  3. Projektabstimmung prüfen: Prüfen Sie, ob die Inferenzanfragen von derselben Google Cloud Projekt-ID stammen, die Sie in Ihrem Anthropic-Antrag eingereicht haben und für die das Addendum akzeptiert wurde.
  4. Konfiguration auf Modellebene bestätigen: Rufen Sie fetchPublisherModelConfig mit der genauen Modell-ID und Region auf, um zu bestätigen, dass advancedAiEnabled: true aktiv ist (und dataSharingEnabledProvider: ANTHROPIC für Claude Opus 5 und Claude Opus 5.5). Modellkonfigurationen sind auf das jeweilige Modell, den jeweiligen Standort und das jeweilige Projekt beschränkt.
  5. Einspruch gegen Falschmeldungen einlegen: Wenn Sie der Meinung sind, dass ein legitimer defensiver Prompt fälschlicherweise blockiert wird, legen Sie Einspruch ein. Verwenden Sie dazu das Formular zum Melden und Einlegen von Einspruch gegen Cyber-Blockierungen von Anthropic.

Berechtigung beim Akzeptieren des Nachtrags verweigert

Wenn Sie beim Versuch, das Addendum in Model Garden zu akzeptieren, eine Berechtigungsfehlermeldung erhalten, prüfen Sie, ob Ihrem Konto die Berechtigung aiplatform.consents.update zugewiesen ist. Wenden Sie sich an Ihren Projektadministrator, um die Rolle „Agent Platform Administrator“ (roles/aiplatform.admin) zuzuweisen.

Fehlende Felder in API-Antworten

Wenn beim Aufrufen von fetchPublisherModelConfig ein leeres Objekt ({}) zurückgegeben wird, wurden keine benutzerdefinierten Einstellungen für das Publisher-Modell auf dieses Modell angewendet. Führen Sie setPublisherModelConfig noch einmal mit dem entsprechenden updateMask aus.

Nächste Schritte