Filtri di Assistente AI

I filtri ti aiutano a restringere una ricerca e a garantire che il generatore di assistenza knowledge base produca suggerimenti utili. Filtra i documenti in un datastore per specificare una categoria di documenti a cui fare riferimento sia nell'assistenza knowledge base generativa (GKA) sia nell'assistenza knowledge base generativa proattiva (PGKA). Personalizza i filtri di sicurezza sui contenuti generati per assicurarti che i suggerimenti PGKA siano il più utili e il meno dannosi possibile per le esigenze della tua attività.

Filtri dei documenti

Filtra i documenti di assistenza knowledge base sia per GKA sia per PGKA con SearchConfig.

Passaggio 1: configura il datastore con i metadati

Importa con i metadati per creare un datastore per GKA e PGKA. Devi fornire i metadati come uno o più file JSONL, che si trovano nella cartella di livello superiore dei contenuti utilizzati per l'importazione.

  1. Segui i passaggi nella pagina degli strumenti del datastore per aggiungere un datastore a un agente.
  2. Nella pagina Applicazioni AI, fai clic su Datastore > + Crea datastore.
  3. Vai a Cloud Storage e fai clic su Seleziona.
  4. Fai clic su File, poi inserisci il percorso del file in Cloud Storage o fai clic su Sfoglia per selezionare il file.
  5. Vai a Che tipo di dati stai importando? e seleziona Documenti non strutturati collegati (JSONL con metadati).
  6. Vai a Opzioni di importazione dei dati e seleziona Completa.
  7. Fai clic su Importa.
  8. Dopo aver creato correttamente il datastore, visualizza la tabella Documenti. La tabella elenca ciascuno dei tuoi documenti con i seguenti dettagli.
    • ID
    • Link URI
    • Stato dell'indicizzazione
    • Azioni
  9. Fai clic su Visualizza documento per esaminare le proprietà di un documento.

Di seguito è riportato un esempio di file JSONL. Puoi anche specificare i metadati nel campo structData.

{ "id": "d001", "content": {"mimeType": "text/html", "uri": "gs://example-import/unstructured/first_doc.html"}, "structData": {"property0": "value0", "property1": "value1", "property2": "value2"} }
{ "id": "d002", "content": {"mimeType": "application/pdf", "uri": "gs://example-import/unstructured/second_doc.pdf"}, "structData": {"property0": "value0", "property1": "value3", "property2": "value4"} }

Passaggio 2: configura i filtri

Per applicare direttamente i valori dei filtri a una ricerca GKA, chiama l'API SearchKnowledge. Puoi anche applicare un SearchConfig campo nella richiesta, come segue. Per altri esempi di espressioni di filtro, consulta la documentazione di Vertex AI Search.

{
  "query": {
     "text": "test query"
  },
  "conversationProfile": "projects/PROJECT_ID/locations/LOCATION_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
  "sessionId": "SESSION_ID",
  "conversation": "projects/PROJECT_ID/locations/LOCATION_ID/conversations/CONVERSATION_ID",
  "querySource": "AGENT_QUERY",
  "searchConfig": 
    "filterSpecs": [{
      "dataStores": ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"],
      "filter": "property1 : ANY(\"value1\")" 
      }]
    }
  }
}

Per applicare i valori dei filtri a tutte le query di ricerca della conoscenza e ai suggerimenti all'interno di una singola conversazione, utilizza IngestContextReferences e collega l'ID della conversazione alla chiamata SearchKnowledge.

Filtri dei documenti PGKA

Applica un SearchConfig alle chiamate PGKA utilizzando l'API IngestContextReferences o il simulatore nella console Agent Assist.

API

Chiama l'API IngestContextReferences per applicare un SearchConfig alle chiamate PGKA.

  1. Chiama CreateConversation > IngestContextReferences.
  2. La configurazione viene applicata automaticamente a tutte le query PGKA e ai suggerimenti di risposta successivi nella stessa conversazione.

L'esempio seguente mostra come utilizzare l'API IngestContextReferences.

{
  "conversation": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID",
  "contextReferences": {
   "gka_search_config": {
      "contextContents": [{
"content": "{ \"filterSpecs\": [{ \"dataStores\": [\"projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID\"], \"filter\": \"property1: ANY    (\\\"value1\\\")\" }] }",
        "contentFormat": "JSON"
      }],
      "updateMode": "OVERWRITE",
      "languageCode": "en-US"
    }
  }
}

Console

  1. Vai alla console Agent Assist, accedi e seleziona il tuo progetto.

    Vai alla console

  2. Fai clic su Simulatore e seleziona il profilo di conversazione.

  3. Fai clic su Inizia > Inserisci contesto.

  4. Inserisci la chiave e i contenuti e seleziona uno dei seguenti formati.

    • Testo normale
    • JSON

  5. Fai clic su Salva.

Di seguito è riportato un esempio di contesto per il simulatore.

  • Chiave: gka_search_config
  • Formato: JSON
  • Contenuti:
{ "filterSpecs": [{"dataStores" : ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"], "filter" : "property1 : ANY(\"value1\")" }] }

Filtri di sicurezza

Le funzionalità generative di Agent Assist includono filtri di sicurezza di AI responsabile (RAI) integrati. Questi filtri sono essenziali per impedire la generazione di contenuti potenzialmente dannosi o inappropriati. Tuttavia, i livelli di sicurezza predefiniti possono essere troppo restrittivi per determinati settori. Ad esempio, un fornitore di servizi sanitari potrebbe dover rispondere a query legittime su argomenti sanitari sensibili bloccati dai filtri predefiniti. Per allineare il comportamento del generatore alle esigenze e ai casi d'uso della tua attività, puoi personalizzare la sensibilità dei filtri di sicurezza per la funzionalità PGKA.

Nozioni di base

Esistono due componenti chiave dei filtri di sicurezza:

  • La categoria di contenuti da filtrare
  • Il livello di sensibilità del filtro

Categorie RAI

Puoi impostare un livello di sensibilità per le seguenti categorie di contenuti:

  • Contenuti pericolosi: contenuti che fanno riferimento all'autolesionismo o a qualsiasi cosa illegale, regolamentata o pericolosa.
  • Contenuti sessualmente espliciti: contenuti sessualmente espliciti o che contengono materiale pornografico.
  • Molestie: contenuti offensivi, intimidatori o violenti.
  • Incitamento all'odio: contenuti che promuovono la violenza o incitano all'odio nei confronti di individui o gruppi sulla base di determinate caratteristiche.

Livelli di sensibilità

Per ogni categoria RAI, puoi scegliere una delle seguenti soglie di sensibilità:

  • BLOCK_MOST: blocca un'ampia gamma di contenuti che potrebbero potenzialmente rientrare nella categoria.
  • BLOCK_SOME: blocca i contenuti chiaramente identificati come appartenenti alla categoria.
  • BLOCK_FEW: blocca solo le istanze più gravi di contenuti per la categoria.
  • BLOCK_NONE: disattiva tutti i filtri per la categoria specificata.

Impostazioni predefinite

Se non fornisci una configurazione personalizzata per una categoria, l'assistenza knowledge base generativa proattiva utilizza i seguenti livelli di sensibilità predefiniti:

  • Contenuti pericolosi:BLOCK_FEW
  • Contenuti sessualmente espliciti:BLOCK_SOME
  • Molestie:BLOCK_SOME
  • Incitamento all'odio:BLOCK_SOME

Configura i filtri di sicurezza

Configura i filtri di sicurezza all'interno del profilo di conversazione. Puoi specificare un livello di sensibilità per una o più categorie RAI aggiungendo un oggetto rai_settings alla configurazione della funzionalità per KNOWLEDGE_ASSIST. Puoi trovare le impostazioni dei filtri di sicurezza all'interno dell'array feature_configs per la funzionalità di suggerimento KNOWLEDGE_ASSIST.

{
  "name": "projects/PROJECT_ID/locations/LOCATION/conversationProfiles/PROFILE_ID",
  "human_agent_assistant_config": {
    "human_agent_suggestion_config": {
      "feature_configs": [
        {
          "suggestion_feature": {
            "type": "KNOWLEDGE_ASSIST"
          },
          "rai_settings": {
            "rai_category_configs": [
              {
                "category": "DANGEROUS_CONTENT",
                "sensitivity_level": "BLOCK_FEW"
              },
              {
                "category": "HARASSMENT",
                "sensitivity_level": "BLOCK_MOST"
              }
            ]
          }
        }
      ]
    }
  }
}

Esempi di configurazione

Gli esempi seguenti illustrano come aumentare o diminuire il livello di sensibilità per una singola categoria in base alle esigenze della tua attività.

Esempio 1: consenti query sanitarie sensibili

In qualità di fornitore di servizi sanitari, vuoi assicurarti che le query su argomenti sensibili di salute mentale non vengano bloccate. Puoi ridurre la sensibilità per la categoria dei contenuti pericolosi, come segue.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "DANGEROUS_CONTENT",
      "sensitivity_level": "BLOCK_NONE"
    }
  ]
}

Con questa impostazione, l'assistenza knowledge base generativa proattiva è più probabile che elabori e fornisca una risposta utile per una query come Quali sono i segnali di allarme del suicidio?.

Esempio 2: aumenta severità

Se la tua attività vuole essere particolarmente cauta in merito alle molestie, puoi aumentare la sensibilità per questa categoria lasciando le altre ai livelli predefiniti, come segue.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "HARASSMENT",
      "sensitivity_level": "BLOCK_MOST"
    }
  ]
}