Model Armor ist ein Google Cloud Dienst, der die Sicherheit Ihrer KI-Anwendungen verbessern soll, insbesondere der Anwendungen, die Large Language Models (LLMs) verwenden. Dabei werden die an Ihre Modelle gesendeten Prompts und die von ihnen generierten Antworten geprüft, um Risiken zu minimieren und verantwortungsbewusste KI-Praktiken durchzusetzen.
Weitere Informationen zu den von Model Armor erstellten Ergebnissen finden Sie unter Model Armor-Ergebnisse.
Vorlagen konfigurieren
Sie können festlegen, wie Model Armor Inhalte prüfen soll, indem Sie Model Armor-Vorlagen erstellen und verwenden. Eine Vorlage ist eine wiederverwendbare Konfiguration, in der Sie angeben, welche Filter aktiviert werden sollen, die Konfidenzniveaus für die Filter und den Erzwingungstyp für jeden Filter. Weitere Informationen finden Sie unter Vorlagen erstellen und verwalten.
Mindesteinstellungen konfigurieren
Um ein Mindestmaß an Schutz zu gewährleisten, können Sicherheitsadministratoren Mindesteinstellungen auf Organisations-, Ordner- oder Projektebene konfigurieren. Diese Einstellungen legen Mindestanforderungen für Filter fest, die für alle Model Armor-Vorlagen gelten, die in diesem Bereich erstellt wurden. So werden zu permissive Konfigurationen verhindert. Weitere Informationen finden Sie unter Mindesteinstellungen konfigurieren.
Prompts und Antworten bereinigen
Wenn ein Nutzer einen Prompt an Ihre Anwendung sendet, sendet Ihre Anwendung diesen Prompt zuerst an Model Armor. Model Armor verarbeitet den Prompt mit den in der Vorlage aktivierten Filtern und gibt eine Antwort zurück, in der angegeben wird, ob Richtlinienverstöße gefunden wurden, sowie detaillierte Ergebnisse von jedem Filter. Die Anwendungslogik entscheidet dann, was als Nächstes geschehen soll.
Wenn ein LLM eine Antwort generiert, sendet Ihre Anwendung diese Antwort an Model Armor, bevor sie dem Nutzer angezeigt wird. Model Armor prüft die LLM-Ausgabe anhand der in der Vorlage definierten Filterkonfigurationen und gibt die Analyseergebnisse zurück. Ihre Anwendung entscheidet dann, ob die Antwort dem Nutzer angezeigt werden soll. Bei Verstößen kann sie blockiert werden.
Weitere Informationen finden Sie unter Prompts und Antworten bereinigen.