AI responsabile

La ricerca con agenti consente agli sviluppatori di sfruttare la potenza dei modelli di base, l'esperienza di ricerca e le tecnologie di AI conversazionale di Google per creare applicazioni di AI generativa di livello aziendale. Essendo una tecnologia ancora in fase iniziale, le sue capacità e i suoi utilizzi in evoluzione generano un potenziale di applicazioni errate, usi impropri e conseguenze non volute o impreviste. Ad esempio, la ricerca con agenti può generare output imprevisti, inclusi testi offensivi, insensibili o fattualmente errati.

Dati questi rischi e queste complessità, la ricerca con agenti è stata progettata in base ai principi di Google AI. Tuttavia, è importante che gli sviluppatori comprendano e testino i propri modelli per eseguirne il deployment in modo sicuro e responsabile. Per aiutare gli sviluppatori, la ricerca con agenti include filtri di sicurezza integrati per consentire ai clienti di bloccare gli output potenzialmente dannosi all'interno del loro caso d'uso. Per ulteriori informazioni, consulta Impostazioni di sicurezza per la ricerca con agenti.

Quando la ricerca con agenti viene integrata nel contesto e nel caso d'uso univoco di un cliente, potrebbe essere necessario considerare ulteriori aspetti di AI responsabile e limitazioni del modello. Invitiamo i clienti a seguire le best practice consigliate in materia di equità, interpretabilità, privacy e sicurezza raccomandate pratiche.

La ricerca con agenti offre filtri SafeSearch per filtrare i risultati di ricerca di siti web espliciti. I risultati espliciti potrebbero includere contenuti come pornografia, violenza e spargimenti di sangue. Il filtro SafeSearch non è disponibile per i contenuti privati.

La funzionalità di riepilogo (sia per la ricerca di siti web sia per i contenuti privati) filtra le risposte che contengono informazioni dispregiative, sessualmente esplicite, dannose o violente. Inoltre, la risposta del riepilogo contiene attributi di sicurezza, tra cui "categorie dannose" e argomenti che potrebbero essere considerati sensibili.

Ricerca nel sito web

SafeSearch può essere applicato ai contenuti pubblici indicizzati dalla ricerca con agenti, ad esempio i siti web. Se SafeSearch è attivato, la ricerca con agenti aiuta a filtrare i contenuti espliciti nei risultati di ricerca di un cliente per tutte le query relative a immagini, video e siti web. Sebbene questi filtri non siano accurati al 100%, valutiamo e aggiorniamo continuamente le funzionalità di filtraggio.

In determinati contesti e casi d'uso, i clienti potrebbero aver bisogno di accedere a un'ampia gamma di informazioni, anche se includono contenuti espliciti, per raccogliere approfondimenti e risultati completi dalla ricerca con agenti. I clienti possono attivare e disattivare i filtri di sicurezza utilizzando l'API impostando safe_search su "true" o "false".

Per attivare SafeSearch per la ricerca con agenti, utilizza la seguente chiamata API:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Per attivare SafeSearch per la ricerca con follow-up nella ricerca con agenti, utilizza la seguente chiamata API:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

L'impostazione safe_search si applica ai risultati di ricerca e anche agli output della ricerca con agenti, ad esempio il riepilogo (che si basa sui risultati di ricerca).

Gli output della ricerca con agenti, come il riepilogo, vengono valutati in base a un elenco di attributi di sicurezza che filtrano i contenuti dannosi anche quando safe_search è disattivato.

Riepilogo per contenuti privati e ricerca di siti web

Gli output della ricerca con agenti, come il riepilogo, vengono valutati in base a un elenco di attributi di sicurezza che filtrano i contenuti dannosi, ad esempio informazioni dispregiative, sessualmente esplicite, dannose o violente, anche quando safe_search per la ricerca di siti web è disattivato. Inoltre, puoi filtrare le risposte che includono "categorie dannose" e argomenti che potrebbero essere considerati sensibili utilizzando safetyAttributes nella risposta dell'API della ricerca con agenti.

Risposte di riserva

Se il modello di riepilogo risponde a una richiesta con una stringa vuota o una risposta generica, significa che l'input o l'output sta attivando un filtro di sicurezza. Nella risposta dell'API della ricerca con agenti, SummarySkippedReason è impostato su BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se viene rilevata una potenziale violazione delle norme.

Se ritieni che un filtro di sicurezza venga attivato in modo inappropriato triggered, segnala il problema utilizzando la Google Cloud console.

Risorse aggiuntive