IA responsable

Agent Search permite que los desarrolladores aprovechen el poder de los modelos de base, la experiencia de búsqueda y las tecnologías de IA conversacional de Google para crear aplicaciones de IA generativa de nivel empresarial. Como tecnología en etapa inicial, sus capacidades y usos en evolución generan potencial para aplicaciones incorrectas, usos inadecuados y consecuencias no deseadas o imprevistas. Por ejemplo, Agent Search puede generar resultados que no esperas, incluido texto ofensivo, insensible o incorrecto desde el punto de vista fáctico.

Debido a estos riesgos y complejidades, la Búsqueda con agente se diseñó teniendo en cuenta los principios de la IA de Google. Sin embargo, es importante que los desarrolladores comprendan y prueben sus modelos para implementarlos de manera segura y responsable. Para ayudar a los desarrolladores, Agent Search tiene filtros de seguridad integrados que ayudan a los clientes a bloquear los resultados potencialmente dañinos dentro de su caso de uso. Para obtener más información, consulta Configuración de seguridad de la Búsqueda con agente.

Cuando la Búsqueda con agente se integra en el contexto y el caso de uso único de un cliente, es posible que se deban tener en cuenta consideraciones adicionales de IA responsable y limitaciones del modelo. Recomendamos a los clientes que apliquen las prácticas recomendadas de equidad, interpretabilidad, privacidad y seguridad.

La Búsqueda con agente ofrece filtros de SafeSearch para filtrar los resultados de búsqueda de sitios web con contenido explícito. Los resultados con contenido explícito pueden incluir contenido como pornografía, violencia e imágenes sangrientas. El filtro SafeSearch no está disponible para el contenido privado.

El resumen (tanto para la búsqueda en sitios web como para el contenido privado) filtra las respuestas que incluyen información peyorativa, sexual explícita, tóxica o violenta. Además, la respuesta de resumen contiene atributos de seguridad, que incluyen “categorías perjudiciales” y temas que podrían considerarse sensibles.

Búsqueda en sitio web

SafeSearch se puede aplicar al contenido público indexado por la Búsqueda con agente, como los sitios web. Cuando SafeSearch está activado, la Búsqueda con agente ayuda a filtrar el contenido explícito de los resultados de la Búsqueda con agente de un cliente para todas las búsquedas en imágenes, videos y sitios web. Si bien esos filtros no son 100% precisos, evaluamos y actualizamos continuamente las capacidades de filtrado.

En ciertos contextos y casos de uso, es posible que los clientes necesiten acceder a una amplia variedad de información, incluso si incluye contenido explícito, para recopilar estadísticas y resultados integrales de Agent Search. Los clientes pueden habilitar y inhabilitar los filtros de seguridad con la API estableciendo safe_search en "true" o "false".

Para habilitar la Búsqueda segura para la Búsqueda con agente, usa la siguiente llamada a la API:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para habilitar la Búsqueda segura en la Búsqueda con seguimiento en Agent Search, usa la siguiente llamada a la API:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

El parámetro de configuración safe_search se aplica a los resultados de la búsqueda y también a los resultados de la Búsqueda con agente, como el resumen (que se basa en los resultados de la búsqueda).

Los resultados de la Búsqueda con agente, como los resúmenes, se evalúan en función de una lista de atributos de seguridad que filtran el contenido dañino incluso cuando safe_search está desactivado.

Resúmenes para la búsqueda de contenido privado y sitios web

Los resultados de la Búsqueda con agente, como los resúmenes, se evalúan en función de una lista de atributos de seguridad que filtran el contenido dañino, como la información peyorativa, sexualmente explícita, tóxica o violenta, incluso cuando safe_search para la búsqueda de sitios web está desactivado. Además, puedes filtrar las respuestas que incluyen "categorías dañinas" y temas que podrían considerarse sensibles con safetyAttributes en la respuesta de la API de Agent Search.

Respuestas de resguardo

Si el modelo de resumen responde a una solicitud con una cadena vacía o una respuesta genérica, significa que la entrada o la salida activan un filtro de seguridad. En la respuesta de la API de Agent Search, SummarySkippedReason se establece en BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si se detecta un posible incumplimiento de política.

Si crees que un filtro de seguridad se está activando de forma inadecuada, informa este problema a través de la consola deGoogle Cloud .

Recursos adicionales