Une IA responsable

Agent Search permet aux développeurs d'exploiter la puissance des modèles de fondation, l'expertise en recherche et les technologies d'IA conversationnelle de Google pour créer des applications d'IA générative de niveau entreprise. En tant que technologie précoce, ses capacités et ses utilisations en constante évolution peuvent être sujettes à une mauvaise application, une utilisation abusive et des conséquences imprévues ou inattendues. Par exemple, la recherche par agent peut générer des résultats inattendus, y compris du texte offensant, insensible ou incorrect.

Compte tenu de ces risques et de ces complexités, la recherche par agent est conçue en appliquant les principes de Google concernant l'IA. Cependant, il est important que les développeurs comprennent et testent leurs modèles afin d'effectuer un déploiement en toute sécurité et de manière responsable. Pour aider les développeurs, Agent Search dispose de filtres de sécurité intégrés qui aident les clients à bloquer les sorties potentiellement dangereuses dans leur cas d'utilisation. Pour en savoir plus, consultez Paramètres de sécurité pour la recherche par agent.

Lorsque la recherche d'agents est intégrée au cas d'utilisation et au contexte uniques d'un client, des considérations d'IA responsable supplémentaires et des limites de modèle peuvent être nécessaires. Nous encourageons les clients à adopter les pratiques recommandées d'équité, d'interprétabilité, de confidentialité et de sécurité.

La recherche par agent propose des filtres SafeSearch pour filtrer les résultats de recherche de sites Web explicites. Les résultats explicites peuvent inclure des contenus comme de la pornographie, de la violence et des images sanglantes. Le filtrage SafeSearch n'est pas disponible pour le contenu privé.

La synthèse (pour la recherche sur le Web et le contenu privé) filtre les réponses telles que les informations dégradantes, à caractère sexuel explicite, toxiques ou violentes. De plus, la réponse de synthèse contient des attributs de sécurité, qui incluent des "catégories dangereuses" et des sujets pouvant être considérés comme sensibles.

Recherche pour site Web

SafeSearch peut être appliqué au contenu public indexé par la recherche d'agents, comme les sites Web. Lorsque SafeSearch est activé, la recherche d'agent filtre les images, vidéos et sites Web explicites dans les résultats de recherche d'un client pour toutes les requêtes. Bien que ces filtres ne soient pas fiables à 100 %, nous évaluons et mettons à jour en permanence les fonctionnalités de filtrage.

Dans certains contextes et cas d'utilisation, les clients peuvent avoir besoin d'accéder à un large éventail d'informations, même si elles incluent du contenu explicite, afin de recueillir des insights et des résultats complets à partir d'Agent Search. Les clients peuvent activer et désactiver les filtres de sécurité à l'aide de l'API en définissant safe_search sur "true" ou "false".

Pour activer SafeSearch pour la recherche d'agent, utilisez l'appel d'API suivant :


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Pour activer SafeSearch pour la recherche avec suivi dans la recherche d'agent, utilisez l'appel d'API suivant :


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Le paramètre safe_search s'applique aux résultats de recherche, mais aussi aux résultats de la recherche par agent, comme la synthèse (qui est basée sur les résultats de recherche).

Les résultats de recherche de l'agent, tels que les résumés, sont évalués par rapport à une liste d'attributs de sécurité qui filtrent le contenu potentiellement dangereux, même lorsque safe_search est désactivé.

Résumés pour le contenu privé et la recherche sur le site Web

Les résultats de la recherche par agent, comme les résumés, sont évalués par rapport à une liste d'attributs de sécurité, qui filtre les contenus potentiellement dangereux tels que les informations dégradantes, à caractère sexuel, toxiques ou violentes, même lorsque safe_search pour la recherche sur le site Web est désactivé. De plus, vous pouvez filtrer les réponses qui incluent des "catégories dangereuses" et des sujets qui peuvent être considérés comme sensibles en utilisant safetyAttributes dans la réponse de l'API Agent Search.

Réponses de remplacement

Si le modèle de synthèse répond à une requête avec une chaîne vide ou une réponse générique, cela signifie que l'entrée ou la sortie déclenche un filtre de sécurité. Dans la réponse de l'API Agent Search, SummarySkippedReason est défini sur BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si un non-respect potentiel des règles est détecté.

Si vous pensez qu'un filtre de sécurité est déclenché de manière inappropriée, signalez le problème à l'aide de la consoleGoogle Cloud .

Autres ressources