IA responsável

A Pesquisa de agentes permite que os desenvolvedores aproveitem o poder dos modelos de base, a experiência em pesquisa e as tecnologias de IA conversacional do Google para criar aplicativos de IA generativa de nível empresarial. Por ser uma tecnologia em estágio inicial, os recursos e usos em evolução que ela oferece criam potencial para aplicação incorreta, uso indevido e consequências não intencionais ou imprevistas. Por exemplo, a Pesquisa de agentes pode gerar resultados inesperados, incluindo texto ofensivo, insensível ou incorreto.

Considerando esses riscos e complexidades, a Pesquisa de agentes foi projetada com base nos Princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam e testem os modelos para implantá-los com segurança e responsabilidade. Para ajudar os desenvolvedores, a Pesquisa de agentes tem filtros de segurança integrados para ajudar os clientes a bloquear resultados potencialmente prejudiciais nos casos de uso. Para mais informações, consulte Configurações de segurança da Pesquisa de agentes.

Quando a Pesquisa de agentes é integrada ao contexto e ao caso de uso exclusivo de um cliente, considerações adicionais de IA responsável e limitações de modelo talvez precisem ser consideradas. Incentivamos os clientes a usar as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança recomendadas práticas.

A Pesquisa de agentes oferece filtros do SafeSearch para filtrar resultados de pesquisa de sites com conteúdo explícito. Resultados com conteúdo explícito podem incluir conteúdo como pornografia, violência e imagens sangrentas. A filtragem do SafeSearch não está disponível para conteúdo particular.

A sumarização (para pesquisa de sites e conteúdo particular) filtra respostas como informações depreciativas, sexualmente explícitas, tóxicas ou violentas. Além disso, a resposta de sumarização contém atributos de segurança, que incluem "categorias prejudiciais" e temas que podem ser considerados sensíveis.

Pesquisa de sites

O SafeSearch pode ser aplicado a conteúdo público indexado pela Pesquisa de agentes, como sites. Quando o SafeSearch está ativado, a Pesquisa de agentes ajuda a filtrar conteúdo explícito nos resultados da pesquisa do cliente para todas as consultas de imagens, vídeos e sites. Embora esses filtros não sejam 100% precisos, avaliamos e atualizamos continuamente os recursos de filtragem.

Em determinados contextos e casos de uso, os clientes podem precisar de acesso a uma ampla variedade de informações, mesmo que incluam conteúdo explícito, para reunir insights e resultados abrangentes da Pesquisa de agentes. Os clientes podem ativar e desativar os filtros de segurança usando a API, definindo safe_search como "true" ou "false".

Para ativar o SafeSearch na Pesquisa de agentes, use a seguinte chamada de API:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para ativar o SafeSearch na Pesquisa com acompanhamento na Pesquisa de agentes, use a seguinte chamada de API:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

A configuração safe_search se aplica aos resultados da pesquisa e também às saídas da Pesquisa de agentes, como a sumarização (que é baseada nos resultados da pesquisa).

As saídas da Pesquisa de agentes, como a sumarização, são avaliadas em relação a uma lista de atributos de segurança que filtram conteúdo nocivo, mesmo quando safe_search está desativado.

Sumarização para conteúdo particular e pesquisa de sites

As saídas da Pesquisa de agentes, como a sumarização, são avaliadas em relação a uma lista de atributos de segurança, que filtram conteúdo nocivo, como informações depreciativas, sexualmente explícitas, tóxicas ou violentas, mesmo quando safe_search para pesquisa de sites está desativado. Além disso, é possível filtrar respostas que incluem "categorias prejudiciais" e temas que podem ser considerados sensíveis usando safetyAttributes na resposta da API da Pesquisa de agentes.

Respostas substitutas

Se o modelo de sumarização responder a uma solicitação com uma string vazia ou uma resposta genérica, isso significa que a entrada ou a saída está acionando um filtro de segurança. Na resposta da API da Pesquisa de agentes, SummarySkippedReason é definido como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se uma possível violação da política for detectada.

Se você achar que um filtro de segurança está sendo acionado de maneira inadequada, informe o problema usando o Google Cloud console.

Outros recursos