Filtros de assistência de conhecimentos

Os filtros ajudam a restringir uma pesquisa e garantem que o gerador de assistência de conhecimentos produz sugestões úteis. Filtre documentos num Datastore para especificar uma categoria de documentos para referência na ajuda de conhecimento generativo (GKA) e na ajuda de conhecimento generativo proativa (PGKA). Personalize os filtros de segurança no conteúdo gerado para garantir que as sugestões de PGKA são o mais úteis possível e o menos prejudiciais possível para as necessidades da sua empresa.

Filtros de documentos

Filtre documentos de assistência de conhecimentos para o GKA e o PGKA com SearchConfig.

Passo 1: configure o arquivo de dados com metadados

Importe com metadados para criar um repositório de dados para o GKA e o PGKA. Tem de fornecer metadados como um ou mais ficheiros JSONL, localizados na pasta de nível superior do conteúdo usado para importação.

  1. Siga os passos na página de ferramentas do Datastore para adicionar um Datastore a um agente.
  2. Na página Aplicações de IA, clique em Armazenamentos de dados > + Criar armazenamento de dados.
  3. Navegue até Cloud Storage e clique em Selecionar.
  4. Clique em Ficheiro e, de seguida, introduza o caminho para o ficheiro no Cloud Storage ou clique em Procurar para selecionar o ficheiro.
  5. Navegue para Que tipo de dados está a importar? e selecione Documentos não estruturados associados (JSONL com metadados).
  6. Navegue até Opções de importação de dados e selecione Completa.
  7. Clique em Importar.
  8. Depois de criar o Datastore com êxito, veja a tabela Documents. A tabela apresenta cada um dos seus documentos com os seguintes detalhes.
    • ID
    • Link URI
    • Estado do índice
    • Ações
  9. Clique em Ver documento para examinar as propriedades de um documento.

Segue-se um exemplo de um ficheiro JSONL. Também pode especificar metadados no campo structData.

{ "id": "d001", "content": {"mimeType": "text/html", "uri": "gs://example-import/unstructured/first_doc.html"}, "structData": {"property0": "value0", "property1": "value1", "property2": "value2"} }
{ "id": "d002", "content": {"mimeType": "application/pdf", "uri": "gs://example-import/unstructured/second_doc.pdf"}, "structData": {"property0": "value0", "property1": "value3", "property2": "value4"} }

Passo 2: configure filtros

Para aplicar diretamente valores de filtros a uma pesquisa da GKA, chame a API SearchKnowledge. Também pode aplicar um campo SearchConfig no pedido, da seguinte forma. Consulte a documentação do Vertex AI Search para ver mais exemplos de expressões de filtro.

{
  "query": {
     "text": "test query"
  },
  "conversationProfile": "projects/PROJECT_ID/locations/LOCATION_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
  "sessionId": "SESSION_ID",
  "conversation": "projects/PROJECT_ID/locations/LOCATION_ID/conversations/CONVERSATION_ID",
  "querySource": "AGENT_QUERY",
  "searchConfig": 
    "filterSpecs": [{
      "dataStores": ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"],
      "filter": "property1 : ANY(\"value1\")" 
      }]
    }
  }
}

Para aplicar valores de filtro a todas as consultas de pesquisa de conhecimentos e sugestões numa única conversa, use IngestContextReferences e anexe o ID da conversa à chamada SearchKnowledge.

Filtros de documentos PGKA

Aplique um SearchConfig a chamadas PGKA através da API IngestContextReferences ou do simulador na consola do Agent Assist.

API

Chame a API IngestContextReferences para aplicar um SearchConfig a chamadas PGKA.

  1. Ligue para CreateConversation > IngestContextReferences.
  2. A configuração aplica-se automaticamente a todas as consultas PGKA subsequentes e sugestões de respostas na mesma conversa.

O exemplo seguinte mostra como usar a APIIngestContextReferences.

{
  "conversation": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID",
  "contextReferences": {
   "gka_search_config": {
      "contextContents": [{
"content": "{ \"filterSpecs\": [{ \"dataStores\": [\"projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID\"], \"filter\": \"property1: ANY    (\\\"value1\\\")\" }] }",
        "contentFormat": "JSON"
      }],
      "updateMode": "OVERWRITE",
      "languageCode": "en-US"
    }
  }
}

Consola

  1. Navegue para a consola do Agent Assist, inicie sessão e selecione o seu projeto.

    Aceder à consola

  2. Clique em Simulador e selecione o seu perfil de conversa.

  3. Clique em Iniciar > Inserir contexto.

  4. Introduza a Chave, o Conteúdo e selecione um dos seguintes Formatos.

    • Texto simples
    • JSON

  5. Clique em Guardar.

Segue-se um exemplo de contexto para o simulador.

  • Chave: gka_search_config
  • Formato: JSON
  • Conteúdo:
{ "filterSpecs": [{"dataStores" : ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"], "filter" : "property1 : ANY(\"value1\")" }] }

Filtros de segurança

As funcionalidades generativas no Agent Assist têm filtros de segurança de IA responsável (RAI) incorporados. Estes filtros são essenciais para impedir a geração de conteúdo potencialmente prejudicial ou impróprio. No entanto, os níveis de segurança predefinidos podem ser demasiado restritivos para determinados setores. Por exemplo, um prestador de cuidados de saúde pode ter de responder a consultas legítimas sobre tópicos de saúde sensíveis que os filtros predefinidos bloqueiam. Para alinhar o comportamento do gerador com as necessidades e os exemplos de utilização da sua empresa, pode personalizar a sensibilidade dos filtros de segurança para a funcionalidade PGKA.

Noções básicas

Existem dois componentes principais dos filtros de segurança:

  • A categoria de conteúdo para filtragem
  • O nível de sensibilidade do filtro

Categorias da RAI

Pode definir um nível de sensibilidade para as seguintes categorias de conteúdo:

  • Conteúdo perigoso: conteúdo que se refere a automutilação ou a qualquer coisa que seja ilegal, regulamentada ou perigosa.
  • Sexualmente explícito: conteúdo sexualmente explícito ou que contenha material pornográfico.
  • Assédio: conteúdo insultuoso, intimidatório ou abusivo.
  • Incitamento ao ódio: conteúdo que promove a violência ou incita ao ódio contra indivíduos ou grupos com base em determinados atributos.

Níveis de sensibilidade

Para cada categoria de RAI, pode escolher um dos seguintes limites de sensibilidade:

  • BLOCK_MOST: bloqueia uma vasta gama de conteúdo que pode potencialmente enquadrar-se na categoria.
  • BLOCK_SOME: bloqueia conteúdo claramente identificado como pertencente à categoria.
  • BLOCK_FEW: bloqueia apenas as instâncias mais graves de conteúdo para a categoria.
  • BLOCK_NONE: desativa todos os filtros para a categoria especificada.

Predefinições

Se não fornecer uma configuração personalizada para uma categoria, a assistência de conhecimento generativo proativa usa os seguintes níveis de sensibilidade predefinidos:

  • Conteúdo perigoso: BLOCK_FEW
  • Sexualmente explícito: BLOCK_SOME
  • Assédio: BLOCK_SOME
  • Incitamento ao ódio: BLOCK_SOME

Configure filtros de segurança

Configure filtros de segurança no seu perfil de conversa. Pode especificar um nível de sensibilidade para uma ou mais categorias de RAI adicionando um objeto rai_settings à configuração da funcionalidade para KNOWLEDGE_ASSIST. Pode encontrar as definições do filtro de segurança na matriz feature_configs para a funcionalidade de sugestões KNOWLEDGE_ASSIST.

{
  "name": "projects/PROJECT_ID/locations/LOCATION/conversationProfiles/PROFILE_ID",
  "human_agent_assistant_config": {
    "human_agent_suggestion_config": {
      "feature_configs": [
        {
          "suggestion_feature": {
            "type": "KNOWLEDGE_ASSIST"
          },
          "rai_settings": {
            "rai_category_configs": [
              {
                "category": "DANGEROUS_CONTENT",
                "sensitivity_level": "BLOCK_FEW"
              },
              {
                "category": "HARASSMENT",
                "sensitivity_level": "BLOCK_MOST"
              }
            ]
          }
        }
      ]
    }
  }
}

Exemplos de configuração

Os exemplos seguintes ilustram como aumentar ou diminuir o nível de sensibilidade para uma única categoria de acordo com as necessidades da sua empresa.

Exemplo 1: permitir consultas de cuidados de saúde sensíveis

Como prestador de cuidados de saúde, quer garantir que as consultas sobre tópicos sensíveis de saúde mental não são bloqueadas. Pode diminuir a sensibilidade da categoria de conteúdo perigoso da seguinte forma.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "DANGEROUS_CONTENT",
      "sensitivity_level": "BLOCK_NONE"
    }
  ]
}

Com esta definição, a assistência de conhecimento generativo proativa tem maior probabilidade de processar e fornecer uma resposta útil para uma consulta como Quais são os sinais de alerta de suicídio?.

Exemplo 2: aumentar o rigor

Se a sua empresa quiser ser mais cautelosa em relação ao assédio, pode aumentar a sensibilidade para essa categoria, enquanto deixa as outras nos respetivos níveis predefinidos, da seguinte forma.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "HARASSMENT",
      "sensitivity_level": "BLOCK_MOST"
    }
  ]
}