Missbrauchsüberwachung

Wie in Abschnitt 4.3 "Sicherheit und Missbrauch im Zusammenhang mit generativer KI" der Nutzungsbedingungen der Google Cloud Platform beschrieben, verwendet Google den folgenden Prozess, um potenziellen Missbrauch und Verstöße gegen die Richtlinien zur zulässigen Verwendung und die Richtlinie zur unzulässigen Nutzung zu erkennen, wenn Kunden Dienste auf der Basis von generativer KI nutzen.

  • Automatisierte Erkennung: Google verwendet automatisierte Sicherheitsklassifikatoren, um potenziellen Missbrauch und Verstöße zu erkennen. Technische Details zur Funktionsweise von Sicherheits klassifikatoren finden Sie unter Sicherheits filter konfigurieren.

  • Prompt-Protokollierung: Wenn automatisierte Sicherheitsklassifikatoren verdächtige Aktivitäten erkennen, die eine weitere Untersuchung erfordern, um festzustellen, ob ein Kunde gegen unsere Richtlinien verstoßen hat, kann Google Kunden-Prompts protokollieren. Dies geschieht ausschließlich zu dem Zweck, zu prüfen, ob ein Verstoß gegen die Richtlinien zur zulässigen Verwendung oder die Richtlinie zur unzulässigen Nutzung vorliegt. Diese Daten werden nicht zum Trainieren oder Optimieren von KI/ML-Modellen verwendet. Sie werden bis zu 90 Tage lang sicher in derselben Region oder Multi-Region gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden Zusicherungen wie Datenresidenz, Access Transparency und VPC Service Controls eingehalten.Google Cloud Prompt-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (Customer-Managed Encryption Keys, CMEKs) verschlüsselt. Kunden haben auch die Möglichkeit, die Protokollierung von Missbrauch zu deaktivieren (siehe unten).

    • Maßnahme: Autorisierte Google-Mitarbeiter können die gekennzeichneten Prompts prüfen und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht korrigiert wird oder es zu wiederholtem oder schwerwiegendem Missbrauch kommt, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder die Dienste gesperrt oder beendet werden. Google Cloud

    • Betroffene Dienste: Dienste auf der Basis von generativer KI von Google.

    • Betroffene Kunden: Nur Kunden, deren Nutzung von Google Cloud den Nutzungsbedingungen der Google Cloud Platform unterliegt. Das bedeutet, dass Kunden mit einer Google Cloud Hauptvereinbarung standardmäßig von der Prompt-Protokollierung für diese Missbrauchsüberwachung ausgenommen sind.

    • Deaktivierung durch den Kunden: Kunden können eine Ausnahme beantragen, indem sie dieses Formular ausfüllen. Wenn der Antrag genehmigt wird, speichert Google keine Prompts, die mit dem genehmigten Google Cloud Konto verknüpft sind.

Erweiterte KI-Sicherheit

Wie im Zusatz zur Sicherheit fortschrittlicher KI-Funktionen beschrieben, Google Cloud hat für Modelle, die als „Erweiterte KI“ bezeichnet werden, ein strengeres System zur Missbrauchsüberwachung implementiert.

  • Protokollierung von Prompts und Antworten: Alle Prompts und Antworten werden protokolliert und bis zu 30 Tage lang sicher gespeichert. Dies geschieht ausschließlich zur Überwachung auf Missbrauch. Diese Daten werden nicht zum Trainieren oder Optimieren von KI/ML-Modellen verwendet. Sie werden in derselben Region oder Multi-Region gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden Google Cloud Zusicherungen wie Datenresidenz, Access Transparency und VPC Service Controls eingehalten. Prompt- und Antwort-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (Customer-Managed Encryption Keys, CMEKs) verschlüsselt. Bei der Verwendung einiger erweiterter KI-Funktionen ist es möglicherweise nicht möglich, die Protokollierung von Prompts und Antworten zu deaktivieren. Wenden Sie sich zur Klärung an Ihr Account-Management-Team.

  • Automatisierte Untersuchung: Google setzt automatisierte Untersuchungstools ein, darunter Sicherheitsklassifikatoren, um protokollierte Daten zu analysieren und potenziellen Missbrauch und Verstöße zu erkennen.

  • Maßnahme: Autorisierte Google-Mitarbeiter können die gekennzeichneten Prompts prüfen und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht korrigiert wird oder es zu wiederholtem oder schwerwiegendem Missbrauch kommt, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder die Google Cloud Dienste gesperrt oder beendet werden.

  • Betroffene Dienste: Modelle und Funktionen, die als „Erweiterte KI“ bezeichnet werden, darunter:

    • Claude Mythos (alle Versionen)
    • Claude Fable (alle Versionen)
    • Claude Sonnet >=5 und Claude Opus >=4.7 bei Verwendung für Dual-Use-Anwendungsfälle mit hohem Risiko oder verbotene Anwendungsfälle, die unter das Cyber Verification Program von Anthropic fallen

  • Deaktivierung durch den Kunden: Bei der Verwendung einiger erweiterter KI-Funktionen ist es möglicherweise nicht möglich, die Datenaufbewahrung auf null zu setzen. Wenden Sie sich zur Klärung an Ihr Account-Management-Team. Im folgenden Abschnitt erfahren Sie, wie Sie die Annahme des Zusatzes regeln können.

Die Zustimmung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen ist einmal pro Projekt erforderlich, bevor erweiterte KI-Modelle in diesem Projekt aktiviert werden können. Die Zustimmung erfolgt in Model Garden über die Google Cloud Konsole, bevor ein erweitertes KI-Modell aktiviert wird.

Zustimmende Nutzer müssen bestätigen, dass sie im Namen ihrer Organisation handeln und die erforderliche Befugnis haben, den Kunden an die Verpflichtungen des Zusatzes zu binden. Um zuzustimmen, muss ein Nutzer die Berechtigung aiplatform.consents.update haben, die in der Rolle aiplatform.admin enthalten ist.

Zusatz zur Sicherheit fortschrittlicher KI-Funktionen regeln

Administratoren können verhindern, dass Nutzer diesem Zusatz zustimmen. Dazu haben sie folgende Möglichkeiten:

Partnerspezifische Nutzungsbedingungen

Die Verwendung von Partnermodellen auf der Gemini Enterprise Agent Platform unterliegt partnerspezifischen Nutzungsbedingungen.

Anthropic

Die Verwendung von Anthropic-Modellen auf der Gemini Enterprise Agent Platform unterliegt den kommerziellen Nutzungsbedingungen von Anthropic oder einer anderen anwendbaren Vereinbarung mit Anthropic. Die Verwendung von erweiterter KI von Anthropic unterliegt Abschnitt F der dienstspezifischen Nutzungsbedingungenvon Anthropic. Die auf dieser Seite beschriebenen Systeme zur Missbrauchsüberwachung werden verwendet, um die Einhaltung dieser Nutzungsbedingungen zu gewährleisten.

Datenaufbewahrung

Bei Anthropic Claude Fable 5 in Google Cloud und Mythos 5 werden Prompts und Antworten bis zu 30 Tage lang aufbewahrt. Wenn Sie Claude Fable 5 in Google Cloud und Mythos 5 verwenden möchten, müssen Sie gemäß den Anforderungen von Anthropic die Freigabe dieser Daten für die Missbrauchsüberwachung durch Anthropic aktivieren.

Nächste Schritte