Schutzmaßnahmen

Guardrails sind eine Reihe von Kontrollen und Sicherheitsmaßnahmen, die dazu beitragen, Anwendungen mit KI-Agenten zu schützen und sicher zu halten. Sie enthalten Inhaltsbeschränkungen sowohl für die Modelleingabe als auch für die Modellausgabe. Für jede Agent-Anwendung werden Standard-Guardrails bereitgestellt, die Sie an Ihre Anforderungen anpassen können. Wenn Sie auf die Sicherheitsvorkehrungen für Ihre Agent-Anwendung zugreifen möchten, klicken Sie rechts im Agent Builder auf die Schaltfläche „Sicherheitsvorkehrungen“.

Ergebnis

Jeder Typ von Schutzmaßnahmen enthält eine Ergebniseinstellung. Damit wird festgelegt, was passiert, wenn die Schutzmaßnahme ausgelöst wird. Folgende Aktionstypen stehen zur Auswahl:

  • Sag genau: Gib die genaue Antwort des Kundenservicemitarbeiters an.

  • Übergabe an einen Kundenservicemitarbeiter: Die Steuerung wird an einen bestimmten Kundenservicemitarbeiter übergeben.

  • Antwort generieren: Geben Sie Anweisungen zum Generieren einer Antwort an. Es wird ein Standardwert angegeben, den Sie überschreiben können, um die Einstellungen anzupassen.

Prompt-Schutz

Prompt Guard bietet grundlegenden Schutz vor promptbasierten Angriffen wie „Ignoriere deine Anweisungen und …“. Folgende Einstellungen sind verfügbar:

  • Prompt-Schutz aktivieren: Aktivieren oder deaktivieren Sie die Prompt-Karte.
  • Ergebnisse: Siehe Ergebnis
  • Benutzerdefiniert: Geben Sie einen benutzerdefinierten Sicherheitshinweis für Screening-Anfragen an.

Sperrliste

Sperrlisten verhindern, dass Nutzer und Ihr Agent bestimmte Wörter und Formulierungen verwenden. Wenn Sie eine Liste erstellen, sind die folgenden Einstellungen verfügbar:

  • Wie soll Ihr KI-Agent mit blockierten Inhalten übereinstimmen?: So können Sie die Abgleichsmethode auswählen:
    • Ganze Wörter: Übereinstimmungen für ganze Wörter.
    • Erwähnung: Es werden Inhalte gefunden, die Wörter und Wortgruppen enthalten.
    • Regex-Muster: Entspricht regulären Ausdrücken.
  • Gesperrte Wörter und Wortgruppen: Die Liste der gesperrten Wörter und Wortgruppen, wobei die einzelnen Einträge durch Kommas getrennt sind.
  • Blockierte Inhalte von: Blockieren Sie Inhalte von einem oder beiden:
    • Auf Nutzereingabe
    • Bei Antwort des KI-Agenten
  • Ergebnisse: Siehe Ergebnis
  • Details: Geben Sie optional einen Namen und eine Beschreibung für diese Blockierliste an.

Sicherheit

Diese Richtlinien setzen Best Practices für eine verantwortungsbewusste Anwendung von KI durch. Diese Einstellungen sind verfügbar:

  • Sicherheitsstufe: Wählen Sie die Sicherheitsstufe aus:
    • Entspannt: Priorisiert flexible Generierung und niedrige Latenz. Geben Sie niemals illegale oder schädliche Prompts ein. Explizit schädliche Inhalte müssen immer blockiert werden.
    • Ausgewogen: Priorisieren Sie sichere und natürliche Interaktionen mit Kunden. Unsichere Inhalte immer stoppen. Verwenden Sie niemals schädliche Prompts.
    • Streng: Priorisieren Sie das Filtern von schädlichen Inhalten. Generierte Inhalte mit sensiblen Elementen nie zulassen. Weisen Sie schädliche Prompts immer zurück.
  • Ergebnisse: Siehe Ergebnis
  • Benutzerdefiniert: Sie können bestimmte Sicherheitsstufen für Sicherheitsvorkehrungen individuell anpassen oder deaktivieren.

Regeln

Sie können eigene Schutzmaßnahmen mit Regeln erstellen. Diese Einstellungen sind verfügbar:

  • Verhalten: Wählen Sie eine der folgenden Optionen aus, um die Regel zu definieren:
    • Natürlich: Geben Sie Anweisungen in natürlicher Sprache.
    • Code: Geben Sie den Code für einen after_model_callback-Callback an.
  • Ergebnisse: Siehe Ergebnis
  • Details: Geben Sie optional einen Namen und eine Beschreibung für diese Regel an.

Vorgesetzten-Agents

Sie können Supervisor-Agents konfigurieren, die die Leistung des aktiven Agents überwachen, der gerade mit dem Endnutzer interagiert. Supervisor-Agents sorgen dafür, dass der aktive Agent Tools richtig aufruft und eine gute Audioqualität beibehält. Wenn ein Supervisor-Agent ein Problem erkennt, kann er ein Ergebnis auslösen, ähnlich wie andere Schutzmaßnahmen.

Sie können auch Triggerereignisse für Supervisor-Agents im Monitoring-Dashboard sehen.

Sie können die folgenden Supervisor-Agents konfigurieren:

  • Audio Quality Supervisor (Audio-Qualitätsüberwachung): Diese Funktion überwacht die Audioqualität und enthält die folgenden Einstellungen:

    • Name: Name des Supervisor-Agents.
    • Hinweise: Optionale Hinweise.
    • Erkennungsmodus: „Blockieren“ (aktive Reaktion des Agents wird blockiert, bis der Supervisor-Agent die Bewertung abgeschlossen hat) oder „Nicht blockieren“ (aktiver Agent wird fortgesetzt, während der Supervisor-Agent die Bewertung fortsetzt).

    • Problemtyp: Wählen Sie einen der folgenden Problemtypen aus:

      • Audio-Fehler: Das generierte Audio und der generierte Text stimmen nicht überein.
      • Sprecherwechsel: Die synthetische Stimme klingt im Laufe der Zeit anders.
      • Fehlender Toolaufruf: Das Modell sollte im gegebenen Kontext der Unterhaltung einen Toolaufruf durchführen, hat dies aber nicht getan.

    • Ergebnisse: Siehe Ergebnis

  • Supervisor für verpasste Tool-Aufrufe: Diese Funktion überwacht verpasste Tool-Aufrufe und enthält die folgenden Einstellungen:

    • Name: Name des Supervisor-Agents.
    • Hinweise: Optionale Hinweise.
    • Erkennungsmodus: „Blockieren“ (aktive Reaktion des Agents wird blockiert, bis der Supervisor-Agent die Bewertung abgeschlossen hat) oder „Nicht blockieren“ (aktiver Agent wird fortgesetzt, während der Supervisor-Agent die Bewertung fortsetzt).
    • Ergebnisse: Siehe Ergebnis