Contromisure

I guardrail sono un insieme di controlli ed equilibri che contribuiscono a proteggere e mantenere sicure le applicazioni dell'agente. Forniscono limitazioni dei contenuti sia per l'input che per l'output del modello. Ogni applicazione agente viene fornita con guardrail predefiniti, che puoi modificare in base alle tue esigenze. Per accedere ai sistemi di protezione per l'applicazione dell'agente, fai clic sul pulsante dei sistemi di protezione sul lato destro del generatore di agenti.

Risultato

Ogni tipo di guardrail contiene un'impostazione del risultato. Controlla cosa succede se la protezione viene attivata. Puoi scegliere tra i seguenti tipi di azioni:

  • Di' esattamente: Fornisci la risposta esatta dell'agente.

  • Trasferimento a un agente: trasferisci il controllo a un agente specifico.

  • Genera una risposta: fornisci istruzioni per generare una risposta. Viene fornito un valore predefinito che puoi sostituire per personalizzare l'impostazione.

Protezione prompt

Prompt Guard fornisce una protezione di base contro gli attacchi basati sui prompt come "ignora le tue istruzioni e…". Sono disponibili le seguenti impostazioni:

  • Attiva la protezione dei prompt: Attiva o disattiva la scheda dei prompt.
  • Risultati: vedi Risultato
  • Personalizzato: Fornisci un prompt di sicurezza personalizzato per le query di screening.

Lista bloccata

Le liste bloccate impediscono agli utenti e al tuo agente di utilizzare determinate parole e frasi. Quando crei un elenco, sono disponibili le seguenti impostazioni:

  • Come deve corrispondere l'agente ai contenuti bloccati? In questo modo puoi scegliere il metodo di corrispondenza:
    • Parole intere: corrispondenze per parole intere.
    • Qualsiasi menzione: corrisponde ai contenuti che contengono parole e frasi.
    • Pattern regex: corrisponde alle espressioni regolari.
  • Parole e frasi bloccate: L'elenco di parole e frasi bloccate, in cui ogni voce è separata da una virgola.
  • Contenuti bloccati da: Blocca i contenuti da uno o entrambi i seguenti servizi:
    • In base all'input utente
    • Risposta dell'agente
  • Risultati: vedi Risultato
  • Dettagli: Fornisci un nome e una descrizione facoltativi per questa blocklist.

Sicurezza

Si tratta di misure di salvaguardia che applicano le pratiche di AI responsabile. Sono disponibili le seguenti impostazioni:

  • Livello di sicurezza: Seleziona il livello di sicurezza:
    • Rilassata: Dai la priorità alla generazione flessibile e alla bassa latenza. Non interagire mai con prompt illeciti o dannosi. Blocca sempre i contenuti esplicitamente dannosi.
    • Bilanciato: Dai la priorità a interazioni sicure e naturali con i clienti. Bloccare sempre i contenuti non sicuri. Non interagire mai con prompt dannosi.
    • Rigoroso: Dai la priorità al filtraggio dei contenuti dannosi. Non consentire mai contenuti generati con elementi sensibili. Respingi sempre i prompt dannosi.
  • Risultati: vedi Risultato
  • Personalizzato: Regola o disattiva singolarmente i livelli di sicurezza specifici.

Regole

Crea le tue barriere protettive utilizzando le regole. Sono disponibili le seguenti impostazioni:

  • Comportamento: Seleziona una delle seguenti opzioni per definire la regola:
    • Naturale: Fornisci istruzioni in linguaggio naturale.
    • Codice: fornisci il codice per un after_model_callback callback.
  • Risultati: vedi Risultato
  • Dettagli: Fornisci un nome e una descrizione facoltativi per questa regola.

Agenti supervisori

Puoi configurare agenti supervisori che monitorano il rendimento dell'agente attivo che interagisce con l'utente finale. Gli agenti supervisori si assicurano che l'agente attivo chiami correttamente gli strumenti e mantenga una buona qualità audio. Se un agente supervisore rileva un problema, può attivare un risultato, in modo simile ad altri guardrail.

Puoi anche visualizzare gli eventi di attivazione dell'agente supervisore nella dashboard di monitoraggio.

Puoi configurare i seguenti agenti supervisori:

  • Supervisore della qualità audio: Monitora la qualità audio e contiene le seguenti impostazioni:

    • Nome: il nome dell'agente supervisore.
    • Note: note facoltative.
    • Modalità di rilevamento: Blocco (la risposta dell'agente attivo viene bloccata finché l'agente supervisore non termina la valutazione) o Non blocco (l'agente attivo procede mentre l'agente supervisore continua la valutazione).

    • Tipo di problema: seleziona uno dei seguenti tipi di problema:

      • Mancata corrispondenza dell'audio: l'audio generato e il testo generato non corrispondono.
      • Spostamento dell'oratore: la voce sintetizzata cambia nel tempo.
      • Chiamata allo strumento mancante: il modello dovrebbe effettuare una chiamata allo strumento nel contesto dato della conversazione, ma non è riuscito a farlo.

    • Risultati: vedi Risultato

  • Supervisore chiamate allo strumento senza risposta: monitora le chiamate allo strumento senza risposta e contiene le seguenti impostazioni:

    • Nome: il nome dell'agente supervisore.
    • Note: note facoltative.
    • Modalità di rilevamento: Blocco (la risposta dell'agente attivo viene bloccata finché l'agente supervisore non termina la valutazione) o Non blocco (l'agente attivo procede mentre l'agente supervisore continua la valutazione).
    • Risultati: vedi Risultato