Alternativa generativa

O recurso de resposta generativa de substituição usa os modelos de linguagem grandes (LLMs) generativos mais recentes do Google para gerar respostas do agente virtual quando a entrada do usuário final não corresponde a uma intent ou um parâmetro para preencher formulários.

Esse recurso pode ser configurado com um comando de texto que instrui o LLM a responder. Você pode usar um comando de texto predefinido ou adicionar seus próprios comandos. Com o comando predefinido, o agente virtual pode lidar com situações básicas de conversa. Exemplo:

  • Cumprimentar e se despedir do usuário.
  • Repetir o que o agente disse, caso o usuário não tenha entendido.
  • Esperar na linha quando o usuário pedir.
  • Resumir a conversa.

É possível ativar a substituição generativa em manipuladores de eventos de não correspondência usados em fluxos, páginas ou durante o preenchimento de parâmetros. Quando ela estiver ativada, sempre que o evento for acionado, o Dialogflow CX tentará gerar uma resposta para o usuário. Se a geração de resposta não der certo, a resposta regular do agente será mostrada.

Limitações

O recurso está disponível nos idiomas aceitos pela API Gemini.

Ativar a substituição generativa

É possível ativar a substituição generativa no seu agente em manipuladores de eventos de não correspondência, que podem ser usados no fulfillment de fluxo, página ou parâmetro.

Ativar a substituição generativa para todos os eventos de não correspondência de um fluxo:

  1. Acesse o console do Dialogflow CX.
  2. Selecione um projeto.
  3. Selecione um agente e um fluxo.
  4. Clique na Start Page do fluxo para abrir.
  5. Em Event handlers, clique em sys.no-match-default.
  6. Marque a opção Enable generative fallback em Agent responses.
  7. Clique em Salvar.

Ative a substituição generativa em eventos específicos de não correspondência:

  1. Navegue até o manipulador de eventos No-match desejado (qualquer evento que comece com No-match, como No-match default, No-match 1 e assim por diante).
  2. Marque a opção Enable generative fallback em Agent responses.
  3. Clique em Salvar.

Configurar a substituição generativa

Como mencionado acima, o recurso de substituição generativa transmite uma solicitação para um modelo de linguagem grande para produzir a resposta gerada. A solicitação é um comando de texto que mistura linguagem natural e informações sobre o estado atual do agente e da conversa. O comando e a resposta gerada são comparados com uma lista de frases proibidas. Se elas contiverem alguma frase proibida ou forem consideradas não seguras, a geração será impedida. Em vez dela, a resposta prescrita regular (em O agente diz, no mesmo fulfillment) será mostrada ao usuário.

O recurso pode ser configurado de várias maneiras:

  1. Selecione um comando predefinido.
  2. Definir um comando personalizado.
  3. Adicione ou remova frases da lista de frases proibidas.

Ao criar um comando, além de uma descrição em linguagem natural sobre o contexto, os seguintes marcadores de posição também podem ser usados:

Termo Definição
$conversation A conversa entre o agente e o usuário, excluindo a última declaração do usuário.
${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} Uma versão parametrizada do marcador de posição $conversation. É possível personalizar o prefixo do usuário final (USER), o prefixo do agente (AI) e o número de turnos anteriores a serem incluídos (TURNS). Todos os valores de parâmetros de marcador de posição precisam ser especificados. Por exemplo: ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance A última coisa que o usuário disse.
$flow-description A descrição do fluxo do fluxo ativo.
$route-descriptions As descrições de intent das intents ativas.

Tenha boas descrições de fluxo e intent.

Escolher um comando predefinido

  1. Em Configurações do agente, acesse a guia IA generativa e depois a subguia Substituição generativa.
  2. Selecione uma das opções no menu suspenso Modelo.
  3. Clique em Salvar.

O recurso oferece dois comandos de modelo: o modelo Default (que não é visível) e o modelo Example, que pode servir como um guia para escrever seus próprios comandos.

Definir seu próprio comando

  1. Em Configurações do agente, acesse a guia IA generativa e depois a subguia Substituição generativa.
  2. Selecione + novo modelo no menu suspenso Modelo.
  3. Adicione um Nome do modelo.
  4. Adicione um comando de texto.
  5. Clique em Salvar.

Você também pode começar editando o modelo Exemplo e salvando como um novo modelo:

  1. Selecione Exemplo no menu suspenso Modelo.
  2. Clique em Editar.
  3. Edite o Nome do modelo.
  4. Edite o comando de texto.
  5. Clique em Salvar.

Modificar a lista de frases proibidas

  1. Em Configurações do agente, acesse a guia IA generativa e depois a subguia Geral.
  2. Na seção Frases proibidas, inspecione, adicione ou remova frases da lista.
  3. Clique em Salvar.

Testar a substituição generativa

Você pode testar o recurso de substituição generativa no simulador. Sempre que uma declaração do usuário não corresponder a um fluxo/página em que o evento de não correspondência foi configurado para produzir uma resposta generativa (e a geração for bem-sucedida), o agente vai gerar a resposta.

Codelab

Consulte também o codelab de resposta generativa de substituição.

Solução de problemas

Se quiser depurar o recurso, inspecione o comando de entrada do modelo de linguagem grande (LLM) resolvido no simulador do console do Dialogflow:

  1. Clique no botão Resposta original:

    Resposta original

  2. Localize o campo "Comando de substituição generativa". Leia esses campos como texto simples e verifique se a entrada do LLM faz sentido. Se alguma frase contiver $, examine a entrada do simulador e esclareça se o $ nos comandos é intencional. Por exemplo, $ em price is $10 provavelmente é intencional, enquanto visit $city provavelmente não é e pode implicar uso indevido ou um bug. Se não tiver certeza, entre em contato com o suporte.

  3. Se você estiver usando um modelo de solicitação não padrão, mas não encontrar o campo "Solicitação de retorno generativo", entre em contato com o suporte.