Generative KI-Modelle wie Gemini erfordern robuste Sicherheitsmaßnahmen, um Risiken wie die Generierung schädlicher Inhalte, die Offenlegung vertraulicher Informationen oder Missbrauch zu minimieren. Die Gemini Enterprise Agent Platform von Google Cloudbietet eine Reihe von Tools und Best Practices, um ganzheitliche Sicherheit für Ihre Gemini-Modelle zu implementieren.
Potenzielle Sicherheitsrisiken und Strategien zur Risikominderung
Bei der Bereitstellung von Gemini-Modellen ist es wichtig, verschiedene potenzielle Risiken zu identifizieren und zu minimieren. Ein proaktiver Ansatz zum Verständnis dieser Risiken ermöglicht eine effektivere Umsetzung von Sicherheitsmaßnahmen. Ein mehrstufiger Sicherheitsansatz ist entscheidend, da er Folgendes abmildern oder verhindern kann:
- Inhaltsrisiken: Dazu gehören schädliche Inhalte, vulgäre Sprache und Sexualisierung sowie drastische und blutrünstige Gewaltdarstellungen.
- Risiken für die Markensicherheit: Generierte Inhalte entsprechen möglicherweise nicht dem Ton oder den Werten Ihrer Marke, bewerben Mitbewerber oder unangemessene Produkte oder generieren Inhalte, die zu Rufschädigung führen können.
- Ausrichtungsrisiken: Generierte Inhalte können irrelevant oder ungenau sein.
- Sicherheits- und Datenschutzrisiken: Generierte Inhalte können vertrauliche Trainingsdaten oder Prompts preisgeben. Außerdem können böswillige Nutzer versuchen, das Modell zu zwingen, Sicherheitsprotokolle zu umgehen oder sich auf unbeabsichtigte Weise zu verhalten.
Unsere bereitgestellten Modelle bieten verschiedene Funktionen, um diese potenziellen Probleme zu beheben:
- Das Standardmodell und die nicht konfigurierbaren Filter bieten ein allgemeines Sicherheitsnetz.
- Systemanweisungen geben dem Modell direkte Anweisungen zum bevorzugten Verhalten und zu Themen, die vermieden werden sollten.
- Mit Inhaltsfiltern können Sie bestimmte Schwellenwerte für gängige Arten von schädlichen Inhalten festlegen.
- Gemini als Filter bietet einen erweiterten, anpassbaren Prüfpunkt für komplexe oder nuancierte Sicherheitsbedenken, die von den vorherigen Ebenen möglicherweise übersehen werden oder eine kontextbezogenere Bewertung erfordern.
- Model Armor bietet Schutz auf Unternehmensniveau vor Prompt Injections und Jailbreaks, schädlichen Inhalten, Schutz sensibler Daten sowie Malware-Erkennung und Safe Browsing.
- DLP befasst sich speziell mit dem kritischen Risiko des Verlusts sensibler Daten, falls das Modell Zugriff auf sensible Daten hat. Außerdem können Sie benutzerdefinierte Sperrlisten erstellen.
- Content Credentials fügen Bildern, die mit dem Gemini 3 Pro Image-Modell generiert wurden, kryptografisch signierte C2PA-Metadaten hinzu. Diese Metadaten weisen darauf hin, dass die Bilder KI-generiert sind, und bieten einen überprüfbaren Verlauf ihres Ursprungs.
Verfügbare Sicherheitstools in der Gemini Enterprise Agent Platform für Gemini
Die Gemini Enterprise Agent Platform bietet mehrere Tools zum Verwalten der Sicherheit Ihrer Gemini-Modelle. Wenn Sie die Funktionsweise, die Überlegungen und die idealen Anwendungsfälle der einzelnen Optionen kennen, können Sie eine maßgeschneiderte Sicherheitslösung entwickeln.
| Ansatz | Funktionsweise | Bereitgestellter Schutz | Risiken | Geeignet für |
|---|---|---|---|---|
| Standardeinstellungen: Gemini und nicht konfigurierbare Filter | Gemini-Modelle sind von Grund auf so konzipiert, dass sie auch bei bösartigen Prompts sicher und fair sind. Google hat in umfassende Sicherheitsbewertungen investiert, einschließlich der Bewertung von Verzerrungen und Toxizität. Die Standardeinstellungen umfassen eine unabhängige Schutzebene, die die Erstellung von Inhalten im Zusammenhang mit Darstellungen des sexuellen Missbrauchs von Kindern (CSAM) oder urheberrechtlich geschützten Inhalten (Rezitation) verhindern soll. | Grundlegender Schutz vor Darstellungen des sexuellen Missbrauchs von Kindern und Urheberrechtsverletzungen (Rezitation) | Die Standardsicherheit von Gemini entspricht möglicherweise nicht den Anforderungen Ihrer Organisation. Das Modell kann halluzinieren oder Anweisungen nicht befolgen. Motivierte Angreifer können dennoch Jailbreaks und Prompt Injections durchführen. | Workflows, bei denen keine schädlichen Eingaben erwartet werden |
| Konfigurierbare Filter |
Die vordefinierten Inhaltsfilter von Gemini bieten zusätzlichen Schutz vor verschiedenen Kategorien schädlicher Inhalte, z. B. sexuellen, hasserfüllten, belästigenden oder gefährlichen Inhalten. Sie können Blockierungsschwellenwerte für jede Schadenskategorie (z.B. BLOCK_LOW_AND_ABOVE, BLOCK_MEDIUM_AND_ABOVE, BLOCK_ONLY_HIGH) basierend auf der Wahrscheinlichkeit und/oder dem Schweregrad der schädlichen Inhalte konfigurieren. Diese sind eine vom Modell unabhängige Ebene und daher robust gegen Jailbreaks.
|
Robust gegen Verstöße für vordefinierte Kategorien, einstellbare Empfindlichkeit | Es fehlen detaillierte Anpassungsmöglichkeiten, die über die Grenzwerteinstellungen für vordefinierte Kategorien hinausgehen. Es kann gelegentlich vorkommen, dass unbedenkliche Inhalte blockiert werden (falsch-positive Ergebnisse) oder schädliche Inhalte nicht erkannt werden (falsch-negative Ergebnisse). Nur für das Filtern von Antworten verfügbar, nicht für das Filtern von Prompts. | Ein grundlegendes Sicherheitsniveau für Anwendungen oder Agenten, die für Nutzer sichtbar sind, bereitstellen. Wenn Sie Inhalte und Markensicherheit gewährleisten möchten, sollten Inhaltsfilter mit Systemanweisungen kombiniert werden. |
| Systemanweisungen | Sie können dem Modell über Systemanweisungen oder Präambeln Ihre Richtlinien zur Markensicherheit und Inhaltssicherheit mitteilen. Sie können dem Modell beispielsweise sagen, dass es keine Fragen zu Politik beantworten soll, oder es anweisen, sich an bestimmte Richtlinien für die Markenstimme und den Markenton zu halten. Systemanweisungen steuern das Verhalten des Modells direkt. | Anpassbar für die Sicherheit von Inhalten und Markensicherheit, kann sehr effektiv sein. | Das Modell kann halluzinieren oder Anweisungen nicht befolgen. Motivierten Angreifern kann es dennoch gelingen, Jailbreaks und Prompt Injections durchzuführen. | Anwendungen oder Agenten, die die Einhaltung bestimmter Markenrichtlinien oder differenzierter Inhaltsrichtlinien erfordern. Wenn Sie die Sicherheit von Inhalten und Markensicherheit gewährleisten möchten, sollten Systemanweisungen mit Inhaltsfiltern kombiniert werden. |
| Model Armor | Model Armor ist ein Dienst von Google Cloud , der die Sicherheit Ihrer KI-Anwendungen verbessern soll. Es prüft proaktiv LLM-Prompts und ‑Antworten, schützt vor verschiedenen Risiken und sorgt für Best Practices für eine verantwortungsbewusste Anwendung von KI. Unabhängig davon, ob Sie KI in Google Cloud oder bei anderen Cloud-Anbietern bereitstellen, kann Model Armor Ihnen helfen, schädliche Eingaben zu verhindern, die Sicherheit von Inhalten zu überprüfen, sensible Daten zu schützen, die Compliance aufrechtzuerhalten und Ihre KI-Sicherheitsrichtlinien konsistent in Ihren KI-Anwendungen durchzusetzen. | Prompt Injection- und Jailbreak-Filter, Inhaltsfilter, Schutz sensibler Daten, Malware-Erkennung und Safe Browsing. | Kosten und Latenz. | Kostenpflichtiges Angebot für Kunden mit Unternehmensanforderungen. |
| DLP für benutzerdefinierte Sperrlisten und Sensitive Data Protection | Die DLP API kann Text prüfen, um sensible Informationen anhand einer Vielzahl vordefinierter und benutzerdefinierter infoType-Detektoren zu identifizieren und zu klassifizieren. Sobald sie identifiziert wurden, können De-Identifikationstechniken wie Entfernen, Maskieren oder Tokenisieren angewendet werden. Die DLP API kann auch zum Blockieren von Keywords verwendet werden. Eingabeschutz: Bevor Sie Nutzer-Prompts oder Daten an Gemini senden, können Sie den Text über die DLP API leiten, um vertrauliche Informationen zu entfernen oder zu maskieren. So wird verhindert, dass sensible Daten vom Modell verarbeitet oder protokolliert werden. Ausgabeschutz: Wenn das Risiko besteht, dass Gemini versehentlich vertrauliche Informationen generiert oder offenlegt (z.B. wenn Quelldokumente mit personenidentifizierbaren Informationen zusammengefasst werden), kann die Ausgabe des Modells von der DLP API gescannt werden, bevor sie an den Nutzer gesendet wird. | Robuste Filterung nach anstößigen oder benutzerdefinierten Wörtern. Zuverlässige Filterung sensibler Daten. | Führt zu Latenz. Kann zu übermäßigem Blockieren führen. | Schutz vor Datenverlust für KI-Agenten, die Zugriff auf sensible Daten haben. |
| Gemini als Filter | Sie können Gemini verwenden, um Prompts und Antworten für Ihren Agenten oder Ihre App zu filtern. Dazu wird ein zweiter Aufruf an ein schnelles und kostengünstiges Gemini-Modell (z. B. Gemini Flash oder Flash Lite) gesendet, um zu prüfen, ob die Eingabe eines Nutzers oder Tools oder die Ausgabe Ihres primären Gemini-Modells sicher ist. Das Filtermodell erhält Anweisungen, um anhand Ihrer definierten Richtlinien zu entscheiden, ob die Inhalte sicher oder unsicher sind. Dazu gehören Inhaltssicherheit, Markensicherheit und Agentenabweichung. Dies bietet einen robusten und hochgradig anpassbaren Schutz vor Verstößen gegen die Inhaltssicherheit, Problemen mit der Markensicherheit, Modelldrift und Halluzinationen. Außerdem können Texte, Bilder, Videos und Audioinhalte analysiert werden, um ein ganzheitliches Verständnis zu erhalten. | Sehr robust und anpassbar für Inhalts-/Markensicherheit, Drift, Halluzination; multimodales Verständnis. | Zusätzliche Kosten und Latenz. Chance auf extrem seltene falsch negative Ergebnisse. | Benutzerdefinierte Sicherheitsstufe für Anwendungen oder Agenten für Nutzer bereitstellen |
| Mehrstufiger Ansatz: konfigurierbare Filter + Systemanweisungen + DLP + Gemini als Filter | Sehr robust und anpassbar für Inhalts-/Markensicherheit, Drift, Halluzination; multimodales Verständnis | Zusätzliche Kosten und Latenz. | Ein hohes Maß an Sicherheit für Anwendungen oder Agents bieten, die für Nutzer sichtbar sind, insbesondere wenn mit böswilliger Nutzung zu rechnen ist | |
| C2PA-Content-Credentials | Bei unterstützten Modellen fügt die Gemini Enterprise Agent Platform generierten Bildern automatisch kryptografisch signierte Content Credentials hinzu. Diese weisen darauf hin, dass die Bilder KI-generiert sind, und bieten einen überprüfbaren Herkunftsnachweis gemäß dem C2PA-Standard. Weitere Informationen finden Sie unter Content Credentials. | Transparenz über den Ursprung von Inhalten; hilft Nutzern, KI-generierte Bilder zu erkennen. | Die Verwendung nicht konformer Tools kann die Authentizität von Dateien beeinträchtigen und garantiert nicht die Vertrauenswürdigkeit der Medienquelle. | Anwendungsfälle für die Mediengenerierung, bei denen Transparenz über den Ursprung und die Herkunft der Datei für das Vertrauen der Nutzer wichtig ist. |
Kontinuierliche Sicherheitsbewertung
Die kontinuierliche Sicherheitsbewertung ist für KI-Systeme von entscheidender Bedeutung, da sich die KI-Landschaft und die Methoden des Missbrauchs ständig weiterentwickeln. Regelmäßige Bewertungen helfen dabei, Sicherheitslücken zu identifizieren, die Wirksamkeit von Maßnahmen zur Risikominderung zu bewerten, sich an neue Risiken anzupassen, die Einhaltung von Richtlinien und Werten sicherzustellen, Vertrauen aufzubauen und die Compliance aufrechtzuerhalten. Dazu tragen verschiedene Arten von Bewertungen bei, darunter Entwicklungsbewertungen, Qualitätssicherungsbewertungen, Red Teaming, externe Bewertungen und Benchmarktests. Der Umfang der Bewertung sollte die Sicherheit von Inhalten, die Markensicherheit, die Relevanz, die Verzerrung und Fairness, die Wahrhaftigkeit und die Robustheit gegenüber Angriffen abdecken. Tools wie der Gen AI Evaluation Service der Gemini Enterprise Agent Platform können Sie dabei unterstützen. Iterative Verbesserungen auf Grundlage von Bewertungsergebnissen sind für eine verantwortungsbewusste KI-Entwicklung unerlässlich.