Verantwortungsbewusste Anwendung von KI

Mit der Agent Search können Entwickler die Foundation Models, die Suchexpertise und die Technologien für konversationelle KI von Google nutzen, um generative KI-Anwendungen für Unternehmen zu erstellen. Die Technologie ist noch in einem frühen Stadium, Funktionen und Anwendung werden ständig weiterentwickelt – deshalb besteht das Risiko, dass sie falsch eingesetzt oder missbraucht wird und unbeabsichtigte oder unvorhergesehene Folgen hat. Die Agent Search kann beispielsweise unerwartete Ausgaben generieren, einschließlich Text, der anstößig, beleidigend oder sachlich falsch ist.

Angesichts dieser Risiken und Komplexität wurde die Agent Search unter Berücksichtigung der KI‑Grundsätze von Google entwickelt. Es ist jedoch wichtig, dass Entwickler ihre Modelle verstehen und testen, um sie sicher und verantwortungsvoll bereitstellen zu können. Zur Unterstützung von Entwicklern verfügt die Agent Search über integrierte Sicherheitsfilter, mit denen Kunden potenziell schädliche Ausgaben innerhalb ihres Anwendungsfalls blockieren können. Weitere Informationen finden Sie unter Sicherheitseinstellungen für die Agent Search.

Wenn die Agent Search in den individuellen Anwendungsfall und Kontext eines Kunden eingebunden wird, müssen zusätzliche Überlegungen im Hinblick auf die verantwortungsbewusste Anwendung von KI und Modelleinschränkungen berücksichtigt werden. Wir empfehlen unseren Kunden, empfohlene Vorgehensweisen in Sachen Fairness, Interpretierbarkeit, Datenschutz und Sicherheit zu nutzen.

Die Agent Search bietet SafeSearch-Filter, mit denen Sie explizite Website-Suchergebnisse herausfiltern können. Zu den anstößigen Ergebnissen gehören möglicherweise Inhalte wie Pornografie, Gewalt und Grausamkeiten. Die SafeSearch-Filterung ist für private Inhalte nicht verfügbar.

Bei der Zusammenfassung (sowohl für die Website-Suche als auch für private Inhalte) werden Antworten wie abfällige, sexuell explizite, schädliche oder gewaltverherrlichende Informationen herausgefiltert. Außerdem enthält die Zusammenfassungsantwort Sicherheitsattribute, darunter „schädliche Kategorien“ und Themen, die als sensitiv eingestuft werden können.

Websitesuche

SafeSearch kann auf öffentliche Inhalte angewendet werden, die von der Agent Search indexiert wurden, z. B. Websites. Wenn SafeSearch aktiviert ist, werden bei allen Suchanfragen nach Bildern, Videos und Websites anstößige Inhalte aus den Agent Search-Ergebnissen eines Kunden herausgefiltert. Diese Filter sind zwar nicht 100% genau, aber wir bewerten und aktualisieren die Filterfunktionen kontinuierlich.

In bestimmten Kontexten und Anwendungsfällen benötigen Kunden möglicherweise Zugriff auf eine Vielzahl von Informationen, auch wenn diese explizite Inhalte enthalten, um umfassende Erkenntnisse und Ergebnisse aus der Agent Search zu erhalten. Kunden können Sicherheitsfilter über die API aktivieren und deaktivieren, indem sie safe_search auf „true“ oder „false“ setzen.

Verwenden Sie den folgenden API-Aufruf, um SafeSearch für die Agent Search zu aktivieren:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Verwenden Sie den folgenden API-Aufruf, um SafeSearch für die Suche mit Follow-ups in der Agent Search zu aktivieren:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Die Einstellung safe_search gilt für Suchergebnisse und auch für Agent Search-Ausgaben wie Zusammenfassungen (die auf den Suchergebnissen basieren).

Agent Search-Ausgaben wie Zusammenfassungen werden anhand einer Liste von Sicherheitsattributen bewertet, die potenziell schädliche Inhalte herausfiltern, auch wenn safe_search deaktiviert ist.

Zusammenfassung für private Inhalte und die Website-Suche

Agent Search-Ausgaben wie Zusammenfassungen werden anhand einer Liste von Sicherheitsattributen bewertet, die potenziell schädliche Inhalte wie abfällige, sexuell explizite, schädliche oder gewaltverherrlichende Informationen herausfiltern, auch wenn safe_search für die Website-Suche deaktiviert ist. Außerdem können Sie Antworten herausfiltern, die „schädliche Kategorien“ und Themen enthalten, die als sensitiv eingestuft werden können, indem Sie safetyAttributes in der Agent Search API-Antwort verwenden.

Fallback-Antworten

Wenn das Zusammenfassungsmodell auf eine Anfrage mit einem leeren String oder einer allgemeinen Antwort reagiert, löst entweder die Ein- oder die Ausgabe einen Sicherheitsfilter aus. In der Agent Search API-Antwort wird SummarySkippedReason auf BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION gesetzt, wenn ein potenzieller Richtlinienverstoß erkannt wird.

Wenn Sie der Meinung sind, dass die Auslösung eines Sicherheitsfilters unangemessen war, melden Sie dieses Problem über die Google Cloud Konsole.

Zusätzliche Ressourcen