Die Funktion generativer Fallback verwendet die neuesten generativen Large Language Models (LLMs) von Google, um Antworten von virtuellen Agenten zu generieren, wenn die Endnutzereingabe nicht mit einem Intent oder Parameter zum Ausfüllen von Formularen übereinstimmt.
Die Funktion kann mit einem Text-Prompt konfiguriert werden, der dem LLM mitteilt, wie es reagieren soll. Sie können einen vordefinierten Text-Prompt verwenden oder eigene Prompts hinzufügen. Mit dem vordefinierten Prompt kann der virtuelle Kundenservicemitarbeiter grundlegende Unterhaltungssituationen bewältigen. Beispiel:
- Begrüßen Sie den Nutzer und verabschieden Sie sich.
- Wiederhole, was der Kundenservicemitarbeiter gesagt hat, falls der Nutzer es nicht verstanden hat.
- Halte die Leitung, wenn der Nutzer darum bittet.
- Fassen Sie die Unterhaltung zusammen.
Sie können generativen Fallback für Event-Handler mit fehlender Übereinstimmung aktivieren, die in Abläufen, Seiten oder während der Parameterausfüllung verwendet werden. Wenn der generative Fallback für ein „No-Match“-Ereignis aktiviert ist, versucht Dialogflow CX, bei jedem Auslösen dieses Ereignisses eine generierte Antwort zu erstellen, die dem Nutzer vorgelesen wird. Wenn die Antwortgenerierung fehlschlägt, wird stattdessen die reguläre vorgeschriebene Agent-Antwort ausgegeben.
Beschränkungen
Die Funktion ist in den von der Gemini API unterstützten Sprachen verfügbar.
Generativen Fallback aktivieren
Sie können generativen Fallback in Ihrem Agent für Event-Handler mit fehlender Übereinstimmung aktivieren. Diese können in der Auftragsausführung von Abläufen, Seiten oder Parametern verwendet werden.
Generativen Fallback für die Ereignisse „Keine Übereinstimmung“ eines gesamten Flows aktivieren:
- Zur Dialogflow CX Console
- Wählen Sie ein Projekt aus.
- Wählen Sie einen Agent und dann einen Ablauf aus.
- Klicken Sie auf die Startseite des Ablaufs, um sie zu maximieren.
- Klicken Sie unter Event-Handler auf sys.no-match-default.
- Aktivieren Sie unter Antworten des KI-Agenten die Option Generativen Fallback aktivieren.
- Klicken Sie auf Speichern.
Generativen Fallback für bestimmte Ereignisse ohne Übereinstimmung aktivieren:
- Rufen Sie den Ziel-Event-Handler No-match auf (alle Ereignisse, die mit No-match beginnen, z. B. No-match default, No-match 1 usw.).
- Aktivieren Sie unter Antworten des KI-Agenten die Option Generativen Fallback aktivieren.
- Klicken Sie auf Speichern.
Generativen Fallback konfigurieren
Wie oben erwähnt, wird bei der Funktion generativer Fallback eine Anfrage an ein großes Sprachmodell weitergeleitet, um die generierte Antwort zu erstellen. Die Anfrage erfolgt in Form eines Text-Prompts, der eine Mischung aus natürlicher Sprache und Informationen zum aktuellen Status des Agenten und der Unterhaltung ist. Der Prompt und die generierte Antwort werden mit einer Liste verbotener Begriffe abgeglichen. Wenn sie eine verbotene Wortgruppe enthalten oder anderweitig als unsicher eingestuft werden, schlägt die Generierung fehl und stattdessen wird die reguläre vorgeschriebene Antwort (unter Agent says in derselben Ausführung) ausgegeben.
Die Funktion kann auf verschiedene Arten konfiguriert werden:
- Wählen Sie einen vordefinierten Prompt aus.
- Definieren Sie einen benutzerdefinierten Prompt.
- Fügen Sie der Liste verbotener Ausdrücke Ausdrücke hinzu oder entfernen Sie sie daraus.
Beim Erstellen eines Prompts können Sie neben einer Beschreibung in natürlicher Sprache, welche Art von Kontext generiert werden soll, auch die folgenden Platzhalter verwenden:
| Begriff | Definition |
|---|---|
| $conversation | Die Unterhaltung zwischen dem KI-Agenten und der Nutzerin oder dem Nutzer, ohne die letzte Nutzeräußerung. |
| ${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} | Eine parametrisierte Version des Platzhalters $conversation. Sie können das Endnutzerpräfix (USER), das Agent-Präfix (AI) und die Anzahl der vorherigen Turns, die eingeschlossen werden sollen (TURNS), anpassen. Alle Platzhalterparameterwerte müssen angegeben werden. Beispiel: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
| $last-user-utterance | Die letzte Äußerung des Nutzers. |
| $flow-description | Die Ablaufbeschreibung des aktiven Ablaufs. |
| $route-descriptions | Die Absichtsbeschreibungen der aktiven Intents. |
Achten Sie auf einen guten Ablauf und eine gute Beschreibung der Intentionen.
Vordefinierten Prompt auswählen
- Rufen Sie in den Agent-Einstellungen den Tab Generative KI und dann den Untertab Generativer Fallback auf.
- Wählen Sie eine der Optionen im Drop-down-Menü Vorlage aus.
- Klicken Sie auf Speichern.
Die Funktion bietet zwei Vorlagen-Prompts: die Standardvorlage (die nicht sichtbar ist) und die Beispielvorlage, die als Leitfaden für das Schreiben eigener Prompts dienen kann.
Eigenen Prompt definieren
- Rufen Sie in den Agent-Einstellungen den Tab Generative KI und dann den Untertab Generativer Fallback auf.
- Wählen Sie im Drop-down-Menü Vorlage die Option + Neue Vorlage aus.
- Geben Sie einen Vorlagennamen ein.
- Fügen Sie einen Text-Prompt hinzu.
- Klicken Sie auf Speichern.
Sie können auch mit der Bearbeitung der Vorlage Beispiel beginnen und sie als neue Vorlage speichern:
- Wählen Sie im Drop-down-Menü Vorlage die Option Beispiel aus.
- Klicken Sie auf Bearbeiten.
- Bearbeiten Sie den Vorlagennamen.
- Bearbeiten Sie den Text-Prompt.
- Klicken Sie auf Speichern.
Liste verbotener Ausdrücke ändern
- Rufen Sie in den KI-Agenteneinstellungen den Tab Generative KI und dann den Untertab Allgemein auf.
- Im Abschnitt Verbotene Wortgruppen können Sie die Liste prüfen, Wortgruppen hinzufügen oder entfernen.
- Klicken Sie auf Speichern.
Generativen Fallback testen
Sie können die Funktion generativer Fallback im Simulator testen. Wenn eine Nutzeräußerung zu keinem Treffer in einem Ablauf/auf einer Seite führt, auf der das No-Match-Ereignis so konfiguriert wurde, dass eine generative Antwort ausgegeben wird (und die Generierung erfolgreich ist), gibt der Agent die generierte Antwort aus.
Codelab
Weitere Informationen finden Sie im Codelab zum generativen Fallback.
Fehlerbehebung
Wenn Sie die Funktion debuggen möchten, können Sie den aufgelösten LLM-Eingabeaufforderung (Large Language Model) im Dialogflow Console-Simulator prüfen:
Klicken Sie auf die Schaltfläche Originalantwort:
Suchen Sie das Feld Generative Fallback Prompt. Lesen Sie diese Felder als Nur-Text und prüfen Sie, ob die LLM-Eingabe sinnvoll ist. Wenn eine Phrase
$enthält, prüfen Sie die Simulatoreingabe und klären Sie, ob die$in den Prompts beabsichtigt ist (z. B. wäre$inprice is $10wahrscheinlich beabsichtigt, währendvisit $citywahrscheinlich nicht beabsichtigt ist und entweder auf eine falsche Verwendung oder einen Fehler hindeuten könnte). Wenn Sie sich nicht sicher sind, wenden Sie sich an den Support.Wenn Sie eine nicht standardmäßige Prompt-Vorlage verwenden, das Feld „Generative Fallback-Aufforderung“ aber nicht sehen, wenden Sie sich an den Support.