La funzionalità di fallback generativo utilizza i più recenti modelli linguistici di grandi dimensioni (LLM) generativi di Google per generare risposte dell'agente virtuale quando l'input utente finale non corrisponde a un intent o a un parametro per il riempimento del modulo.
La funzionalità può essere configurata con un prompt di testo che indica all'LLM come rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungere i tuoi prompt. Con il prompt predefinito, l'agente virtuale è in grado di gestire situazioni conversazionali di base. Ad esempio:
- Saluta l'utente e congedati.
- Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
- Mantieni la linea quando l'utente lo richiede.
- Riassumi la conversazione.
Puoi attivare il fallback generativo nei gestori di eventi senza corrispondenza utilizzati nei flussi, nelle pagine o durante il riempimento dei parametri. Quando il fallback generativo è abilitato per un evento di mancata corrispondenza, ogni volta che viene attivato, Dialogflow CX tenta di produrre una risposta generata che verrà restituita all'utente. Se la generazione della risposta non va a buon fine, verrà emessa la normale risposta prescritta dell'agente.
Limitazioni
La funzionalità è disponibile nelle lingue supportate dall'API Gemini.
Attiva il fallback generativo
Puoi attivare il fallback generativo nell'agente nei gestori di eventi senza corrispondenza, che possono essere utilizzati nel completamento del flusso, della pagina o dei parametri.
Attiva il fallback generativo per gli eventi di mancata corrispondenza di un intero flusso:
- Vai alla console Dialogflow CX.
- Seleziona un progetto.
- Seleziona un agente, poi un flusso.
- Fai clic sulla Pagina iniziale del flusso per espanderla.
- Fai clic su sys.no-match-default in Gestori di eventi.
- Seleziona Attiva fallback generativo in Risposte dell'agente.
- Fai clic su Salva.
Attiva il fallback generativo su eventi specifici senza corrispondenza:
- Vai al gestore eventi Nessuna corrispondenza di destinazione (qualsiasi evento che inizia con Nessuna corrispondenza, ad esempio Nessuna corrispondenza predefinita, Nessuna corrispondenza 1 e così via).
- Seleziona Attiva fallback generativo in Risposte dell'agente.
- Fai clic su Salva.
Configurare il fallback generativo
Come accennato in precedenza, la funzionalità di fallback generativo passa una richiesta a un modello linguistico di grandi dimensioni per produrre la risposta generata. La richiesta assume la forma di un prompt di testo che è un mix di linguaggio naturale e informazioni sullo stato attuale dell'agente e della conversazione. Il prompt e la risposta generata vengono confrontati con un elenco di frasi vietate. Se contengono una frase vietata o sono ritenute non sicure, la generazione non andrà a buon fine e verrà emessa la risposta prescritta standard (in L'agente dice nello stesso completamento).
La funzionalità può essere configurata in diversi modi:
- Seleziona un prompt predefinito.
- Definisci un prompt personalizzato.
- Aggiungi o rimuovi frasi dall'elenco delle frasi vietate.
Quando crei un prompt, oltre a una descrizione in linguaggio naturale del tipo di contesto da generare, puoi utilizzare anche i seguenti segnaposto:
| Termine | Definizione |
|---|---|
| $conversation | La conversazione tra l'agente e l'utente, escluso l'ultimo messaggio dell'utente. |
| ${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} | Una versione con parametri del segnaposto $conversation. Puoi personalizzare il prefisso dell'utente finale (USER), il prefisso dell'agente (AI) e il numero di turni precedenti da includere (TURNS). Devono essere specificati tutti i valori dei parametri segnaposto. Ad esempio, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4} |
| $last-user-utterance | L'ultima espressione dell'utente. |
| $flow-description | La descrizione del flusso del flusso attivo. |
| $route-descriptions | Le descrizioni delle intenzioni delle intenzioni attive. |
Assicurati di avere descrizioni di flusso e intenti efficaci.
Scegliere un prompt predefinito
- In Impostazioni agente, vai alla scheda AI generativa e poi alla scheda secondaria Fallback generativo.
- Seleziona una delle opzioni nel menu a discesa Modello.
- Fai clic su Salva.
La funzionalità fornisce due prompt modello: il modello Predefinito (non visibile) e il modello Esempio, che può fungere da guida per scrivere i tuoi prompt.
Definisci il tuo prompt
- In Impostazioni agente, vai alla scheda AI generativa e poi alla scheda secondaria Fallback generativo.
- Seleziona + Nuovo modello nel menu a discesa Modello.
- Aggiungi un Nome modello.
- Aggiungi un prompt di testo.
- Fai clic su Salva.
Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:
- Seleziona Esempio nel menu a discesa Modello.
- Fai clic su Modifica.
- Modifica il nome del modello.
- Modifica il prompt di testo.
- Fai clic su Salva.
Modificare l'elenco delle frasi vietate
- In Impostazioni agente, vai alla scheda AI generativa e poi alla scheda secondaria Generali.
- Nella sezione Frasi vietate, esamina, aggiungi o rimuovi frasi dall'elenco.
- Fai clic su Salva.
Testare il fallback generativo
Puoi testare la funzionalità di fallback generativo nel simulatore. Ogni volta che l'espressione di un utente non corrisponde a un flusso/pagina in cui l'evento di mancata corrispondenza è stato configurato per produrre una risposta generativa (e la generazione ha esito positivo), l'agente restituirà la risposta generata.
Codelab
Consulta anche il Codelab sul fallback generativo.
Risoluzione dei problemi
Se vuoi eseguire il debug della funzionalità, puoi controllare il prompt di input del modello linguistico di grandi dimensioni (LLM) risolto nel simulatore della console Dialogflow:
Fai clic sul pulsante Risposta originale:
Individua il campo "Generative Fallback Prompt". Leggi questi campi come testo normale e controlla se l'input LLM ha senso. Se una frase contiene
$, esamina l'input del simulatore e chiarisci se$nei prompt è intenzionale (ad esempio,$inprice is $10è probabilmente intenzionale, mentrevisit $cityprobabilmente non lo è e potrebbe implicare un utilizzo improprio o un bug). In caso di dubbi, contatta l'assistenza.Se utilizzi un modello di prompt non predefinito, ma non riesci a visualizzare il campo "Prompt di riserva generativo ", contatta l'assistenza.