Garde-fous

Les garde-fous sont un ensemble de contrôles et d'équilibres qui permettent de protéger et de sécuriser les applications d'agent. Elles fournissent des restrictions de contenu pour les entrées et les sorties du modèle. Chaque application d'agent est fournie avec des garde-fous par défaut, que vous pouvez modifier en fonction de vos besoins. Pour accéder aux garde-fous de votre application d'agent, cliquez sur le bouton des garde-fous à droite du générateur d'agents.

Résultat

Chaque type de garde-fou contient un paramètre de résultat. Cela contrôle ce qui se passe si le garde-fou est déclenché. Vous pouvez choisir parmi les types d'actions suivants :

  • Dis exactement : Fournis la réponse exacte de l'agent.

  • Passer le relais à un agent : transférez le contrôle à un agent spécifique.

  • Générer une réponse : fournissez des instructions pour générer une réponse. Une valeur par défaut vous est fournie, que vous pouvez remplacer pour personnaliser le paramètre.

Protection des prompts

La protection des requêtes offre une protection de base contre les attaques basées sur les requêtes, comme "ignore tes instructions et ...". Les paramètres suivants sont disponibles :

  • Activer la protection des invites : Activez ou désactivez la carte d'invite.
  • Résultats : voir Résultat
  • Personnalisé : fournissez une invite de sécurité personnalisée pour les requêtes de sélection.

Liste de blocage

Les listes de blocage empêchent les utilisateurs et votre agent d'utiliser certains mots et expressions. Lorsque vous créez une liste, les paramètres suivants sont disponibles :

  • Comment votre agent doit-il faire correspondre le contenu bloqué ? Vous pouvez ainsi choisir la méthode de mise en correspondance :
    • Mots entiers : la recherche correspond aux mots entiers.
    • Toute mention : correspond au contenu contenant des mots et des expressions.
    • Modèle d'expression régulière : correspond aux expressions régulières.
  • Mots et expressions à bloquer : liste des mots et expressions à bloquer, où chaque entrée est séparée par une virgule.
  • Contenu bloqué provenant de : Bloquez le contenu provenant d'une ou des deux sources suivantes :
    • Sur saisie de l'utilisateur
    • Sur la réponse de l'agent
  • Résultats : voir Résultat
  • Détails : vous pouvez ajouter un nom et une description facultatifs pour cette liste de blocage.

Sécurité

Il s'agit de consignes qui appliquent les pratiques pour une IA responsable. Voici les paramètres disponibles :

  • Niveau de sécurité : Sélectionnez le niveau de sécurité :
    • Détendu : privilégiez la génération flexible et la faible latence. Ne répondez jamais à des requêtes illicites ou nuisibles. Bloquez toujours les contenus explicitement dangereux.
    • Équilibré : privilégiez les interactions sécurisées et naturelles avec les clients. Arrêtez toujours le contenu dangereux. N'interagissez jamais avec des requêtes dangereuses.
    • Strict : la priorité est donnée au filtrage des contenus profondément préjudiciables. N'autorisez jamais les contenus générés comportant des éléments sensibles. Repoussez toujours les requêtes dangereuses.
  • Résultats : voir Résultat
  • Personnalisé : ajustez ou désactivez individuellement les niveaux de sécurité spécifiques des garde-fous.

Règles

Créez vos propres garde-fous à l'aide de règles. Voici les paramètres disponibles :

  • Comportement : Sélectionnez l'une des options suivantes pour définir votre règle :
    • Naturel : fournissez des instructions en langage naturel.
    • Code : Fournissez le code pour un after_model_callback rappel.
  • Résultats : voir Résultat
  • Détails : fournissez un nom et une description facultatifs pour cette règle.

Agents superviseurs

Vous pouvez configurer des agents superviseurs qui surveillent les performances de l'agent actif interagissant actuellement avec l'utilisateur final. Les agents superviseurs s'assurent que l'agent actif appelle correctement les outils et maintient une bonne qualité audio. Si un agent superviseur détecte un problème, il peut déclencher un résultat, comme les autres garde-fous.

Vous pouvez également consulter les événements de déclenchement de l'agent superviseur sur le tableau de bord de surveillance.

Vous pouvez configurer les agents superviseurs suivants :

  • Superviseur de la qualité audio : Il surveille la qualité audio et contient les paramètres suivants :

    • Nom : nom de l'agent superviseur.
    • Remarques : remarques facultatives.
    • Mode de détection : blocage (la réponse active de l'agent est bloquée jusqu'à ce que l'agent superviseur ait terminé l'évaluation) ou non-blocage (l'agent actif poursuit son action pendant que l'agent superviseur continue l'évaluation).

    • Type de problème : Sélectionnez l'un des types de problèmes suivants :

      • Incohérence audio : l'audio et le texte générés ne correspondent pas.
      • Changement de voix : la voix synthétisée change au fil du temps.
      • Appel d'outil manquant : le modèle est censé effectuer un appel d'outil dans le contexte donné de la conversation, mais il n'a pas réussi à le faire.

    • Résultats : voir Résultat

  • Superviseur d'appel d'outil manqué : cette option surveille les appels d'outil manqués et contient les paramètres suivants :

    • Nom : nom de l'agent superviseur.
    • Remarques : remarques facultatives.
    • Mode de détection : blocage (la réponse active de l'agent est bloquée jusqu'à ce que l'agent superviseur ait terminé l'évaluation) ou non-blocage (l'agent actif poursuit son action pendant que l'agent superviseur continue l'évaluation).
    • Résultats : voir Résultat