Filtros da Assistência de conhecimento

Os filtros ajudam a restringir uma pesquisa e garantir que o gerador de assistência de conhecimento produza sugestões úteis. Filtre documentos em um Datastore para especificar uma categoria de documentos para referência em assistência de conhecimento generativa (GKA) e assistência de conhecimento generativa proativa (PGKA). Personalize os filtros de segurança no conteúdo gerado para garantir que as sugestões da PGKA sejam o mais úteis e o menos prejudiciais possível para as necessidades da sua empresa.

Filtros de documentos

Filtre documentos de assistência de conhecimento para GKA e PGKA com SearchConfig.

Etapa 1: configurar o Datastore com metadados

Importe com metadados para criar um Datastore para GKA e PGKA. Você precisa fornecer metadados como um ou mais arquivos JSONL, localizados na pasta de nível superior do conteúdo usado para importação.

  1. Siga as etapas na página de ferramentas do Datastore para adicionar um Datastore a um agente.
  2. Na página Aplicativos de IA, clique em Repositórios de dados > + Criar repositório de dados.
  3. Navegue até o Cloud Storage e clique em Selecionar.
  4. Clique em Arquivo e insira o caminho para o arquivo no Cloud Storage ou clique em Procurar para selecionar o arquivo.
  5. Navegue até Que tipo de dados você está importando? e selecione Documentos não estruturados vinculados (JSONL com metadados).
  6. Navegue até Opções de importação de dados e selecione Completo.
  7. Clique em Importar.
  8. Depois de criar o Datastore, consulte a tabela "Documentos". A tabela lista cada um dos seus documentos com os seguintes detalhes.
    • ID
    • Link do URI
    • Status do índice
    • Ações
  9. Clique em Visualizar documento para examinar as propriedades de um documento.

Confira abaixo um exemplo de arquivo JSONL. Também é possível especificar metadados no campo structData.

{ "id": "d001", "content": {"mimeType": "text/html", "uri": "gs://example-import/unstructured/first_doc.html"}, "structData": {"property0": "value0", "property1": "value1", "property2": "value2"} }
{ "id": "d002", "content": {"mimeType": "application/pdf", "uri": "gs://example-import/unstructured/second_doc.pdf"}, "structData": {"property0": "value0", "property1": "value3", "property2": "value4"} }

Etapa 2: configurar filtros

Para aplicar valores de filtro diretamente a uma pesquisa da GKA, chame a SearchKnowledge API. Também é possível aplicar um SearchConfig campo na solicitação, conforme mostrado abaixo. Consulte a documentação da Pesquisa do agente para mais exemplos de expressões de filtro.

{
  "query": {
     "text": "test query"
  },
  "conversationProfile": "projects/PROJECT_ID/locations/LOCATION_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
  "sessionId": "SESSION_ID",
  "conversation": "projects/PROJECT_ID/locations/LOCATION_ID/conversations/CONVERSATION_ID",
  "querySource": "AGENT_QUERY",
  "searchConfig": 
    "filterSpecs": [{
      "dataStores": ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"],
      "filter": "property1 : ANY(\"value1\")" 
      }]
    }
  }
}

Para aplicar valores de filtro a todas as consultas e sugestões de pesquisa de conhecimento em uma única conversa, use IngestContextReferences e anexe o ID da conversa à chamada SearchKnowledge.

Filtros de documentos da PGKA

Aplique um SearchConfig às chamadas da PGKA usando a API IngestContextReferences ou o simulador no console do Agent Assist.

API

Chame a API IngestContextReferences para aplicar um SearchConfig às chamadas da PGKA.

  1. Chame CreateConversation > IngestContextReferences.
  2. A configuração é aplicada automaticamente a todas as consultas e sugestões de respostas da PGKA na mesma conversa.

O exemplo a seguir mostra como usar a API IngestContextReferences.

{
  "conversation": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID",
  "contextReferences": {
   "gka_search_config": {
      "contextContents": [{
"content": "{ \"filterSpecs\": [{ \"dataStores\": [\"projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID\"], \"filter\": \"property1: ANY    (\\\"value1\\\")\" }] }",
        "contentFormat": "JSON"
      }],
      "updateMode": "OVERWRITE",
      "languageCode": "en-US"
    }
  }
}

Console

  1. Navegue até o console do Agent Assist, faça login e selecione seu projeto.

    Acesse o console

  2. Clique em Simulador e selecione o perfil de conversa.

  3. Clique em Iniciar > Inserir contexto.

  4. Insira sua chave, conteúdo e selecione um dos seguintes formatos.

    • Texto simples
    • JSON

  5. Clique em Salvar.

Confira abaixo um exemplo de contexto para o simulador.

  • Chave: gka_search_config
  • Formato: JSON
  • Conteúdo:
{ "filterSpecs": [{"dataStores" : ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"], "filter" : "property1 : ANY(\"value1\")" }] }

Filtros de segurança

Os recursos generativos no Agent Assist têm filtros de segurança de IA responsável (RAI, na sigla em inglês) integrados. Esses filtros são essenciais para evitar a geração de conteúdo potencialmente prejudicial ou inadequado. No entanto, os níveis de segurança padrão podem ser muito restritivos para determinados setores. Por exemplo, um prestador de cuidados de saúde pode precisar responder a consultas legítimas sobre temas de saúde sensíveis que os filtros padrão bloqueiam. Para alinhar o comportamento do gerador às necessidades e casos de uso da sua empresa, é possível personalizar a sensibilidade dos filtros de segurança para o recurso PGKA.

Princípios básicos

Há dois componentes principais para filtros de segurança:

  • A categoria de conteúdo para filtragem
  • O nível de sensibilidade do filtro

Categorias de RAI

É possível definir um nível de sensibilidade para as seguintes categorias de conteúdo:

  • Conteúdo perigoso: conteúdo que se refere a automutilação ou qualquer coisa ilegal, regulamentada ou perigosa.
  • Conteúdo sexualmente explícito: conteúdo sexualmente explícito ou que contém material pornográfico.
  • Assédio: conteúdo insultuoso, intimidador ou abusivo.
  • Discurso de ódio: conteúdo que promove violência ou incita ódio contra indivíduos ou grupos com base em determinados atributos.

Níveis de sensibilidade

Para cada categoria de RAI, é possível escolher um dos seguintes limites de sensibilidade:

  • BLOCK_MOST: bloqueia uma ampla variedade de conteúdo que pode se enquadrar na categoria.
  • BLOCK_SOME: bloqueia conteúdo claramente identificado como pertencente à categoria.
  • BLOCK_FEW: bloqueia apenas as instâncias mais graves de conteúdo para a categoria.
  • BLOCK_NONE: desativa todos os filtros para a categoria especificada.

Configurações padrão

Se você não fornecer uma configuração personalizada para uma categoria, a assistência de conhecimento generativa proativa usará os seguintes níveis de sensibilidade padrão:

  • Conteúdo perigoso:BLOCK_FEW
  • Conteúdo sexualmente explícito:BLOCK_SOME
  • Assédio:BLOCK_SOME
  • Discurso de ódio:BLOCK_SOME

Configurar filtros de segurança

Configure os filtros de segurança no perfil de conversa. É possível especificar um nível de sensibilidade para uma ou mais categorias de RAI adicionando um objeto rai_settings à configuração de recursos para KNOWLEDGE_ASSIST. As configurações de filtro de segurança podem ser encontradas na matriz feature_configs para o recurso de sugestão KNOWLEDGE_ASSIST.

{
  "name": "projects/PROJECT_ID/locations/LOCATION/conversationProfiles/PROFILE_ID",
  "human_agent_assistant_config": {
    "human_agent_suggestion_config": {
      "feature_configs": [
        {
          "suggestion_feature": {
            "type": "KNOWLEDGE_ASSIST"
          },
          "rai_settings": {
            "rai_category_configs": [
              {
                "category": "DANGEROUS_CONTENT",
                "sensitivity_level": "BLOCK_FEW"
              },
              {
                "category": "HARASSMENT",
                "sensitivity_level": "BLOCK_MOST"
              }
            ]
          }
        }
      ]
    }
  }
}

Exemplos de configuração

Os exemplos a seguir ilustram como aumentar ou diminuir o nível de sensibilidade de uma única categoria de acordo com as necessidades da sua empresa.

Exemplo 1: permitir consultas sensíveis de saúde

Como prestador de cuidados de saúde, você quer garantir que as consultas sobre temas sensíveis de saúde mental não sejam bloqueadas. É possível diminuir a sensibilidade da categoria de conteúdo perigoso, conforme mostrado abaixo.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "DANGEROUS_CONTENT",
      "sensitivity_level": "BLOCK_NONE"
    }
  ]
}

Com essa configuração, a assistência de conhecimento generativa proativa tem mais chances de processar e fornecer uma resposta útil para uma consulta como Quais são os sinais de alerta de suicídio?.

Exemplo 2: aumentar a abordagem restrita

Se a sua empresa quiser ser mais cautelosa em relação ao assédio, é possível aumentar a sensibilidade dessa categoria, deixando as outras nos níveis padrão, conforme mostrado abaixo.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "HARASSMENT",
      "sensitivity_level": "BLOCK_MOST"
    }
  ]
}