Responsible AI

Dengan Penelusuran Agen, developer dapat memanfaatkan keunggulan teknologi AI percakapan, keahlian penelusuran, dan model dasar Google untuk menciptakan aplikasi AI generatif tingkat perusahaan. Sebagai teknologi tahap awal, kemampuan dan penggunaannya yang terus berkembang berpotensi menimbulkan penerapan yang salah, penyalahgunaan, dan konsekuensi yang tidak terduga atau tidak diinginkan. Misalnya, Penelusuran Agen dapat menghasilkan output yang tidak Anda harapkan, termasuk teks yang menyinggung, tidak sensitif, atau salah secara faktual.

Mengingat risiko dan kompleksitas ini, Penelusuran Agen dirancang dengan mempertimbangkan Prinsip AI Google. Namun, penting bagi developer untuk memahami dan menguji model mereka agar dapat di-deploy dengan aman dan bertanggung jawab. Untuk membantu developer, Penelusuran Agen memiliki filter keamanan bawaan untuk membantu pelanggan memblokir output yang berpotensi berbahaya dalam kasus penggunaan mereka. Untuk mengetahui informasi selengkapnya, lihat Setelan keamanan untuk Penelusuran Agen.

Saat Penelusuran Agen diintegrasikan ke dalam konteks dan kasus penggunaan unik pelanggan, pertimbangan responsible AI tambahan dan batasan model mungkin perlu dipertimbangkan. Kami mendorong pelanggan untuk menerapkan praktik yang direkomendasikan untuk keadilan, penafsiran, privasi, dan keamanan.

Penelusuran Agen menawarkan filter SafeSearch untuk memfilter hasil penelusuran situs vulgar. Hasil vulgar mungkin mencakup konten seperti pornografi, kekerasan, dan luka berdarah. Pemfilteran SafeSearch tidak tersedia untuk konten pribadi.

Ringkasan (baik untuk penelusuran situs maupun konten pribadi) memfilter respons seperti informasi yang merendahkan, seksual vulgar, negatif, atau kekerasan. Selain itu, respons ringkasan berisi atribut keamanan, yang mencakup "kategori berbahaya" dan topik yang mungkin dianggap sensitif.

Penelusuran situs

SafeSearch dapat diterapkan pada konten publik yang diindeks oleh Penelusuran Agen, seperti situs. Jika SafeSearch diaktifkan, Penelusuran Agen akan membantu memfilter konten vulgar dalam hasil Penelusuran Agen pelanggan untuk semua kueri di seluruh gambar, video, dan situs. Meskipun filter tersebut tidak 100% akurat, kami terus mengevaluasi dan memperbarui kemampuan pemfilteran.

Dalam konteks dan kasus penggunaan tertentu, pelanggan mungkin memerlukan akses ke berbagai informasi, meskipun jika informasi tersebut mencakup konten vulgar, untuk mengumpulkan insight dan hasil yang komprehensif dari Penelusuran Agen. Pelanggan dapat mengaktifkan dan menonaktifkan filter keamanan menggunakan API dengan menyetel safe_search ke "true" atau "false".

Untuk mengaktifkan SafeSearch untuk Penelusuran Agen, gunakan panggilan API berikut:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Untuk mengaktifkan SafeSearch untuk Penelusuran dengan tindak lanjut di Penelusuran Agen, gunakan panggilan API berikut:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Setelan safe_search berlaku untuk hasil penelusuran dan juga untuk output Penelusuran Agen seperti ringkasan (yang didasarkan pada hasil penelusuran).

Output Penelusuran Agen, seperti ringkasan, dinilai berdasarkan daftar atribut keamanan yang memfilter konten yang berpotensi berbahaya meskipun safe_search dinonaktifkan.

Ringkasan untuk penelusuran situs dan konten pribadi

Output Penelusuran Agen, seperti ringkasan, dinilai berdasarkan daftar atribut keamanan, yang memfilter konten yang berpotensi berbahaya seperti informasi yang menghina, seksual vulgar, negatif, atau kekerasan, meskipun safe_search untuk penelusuran situs dinonaktifkan. Selain itu, Anda dapat memfilter respons yang menyertakan "kategori berbahaya" dan topik yang mungkin dianggap sensitif dengan menggunakan safetyAttributes dalam respons Agent Search API.

Respons penggantian

Jika model ringkasan merespons permintaan dengan string kosong atau respons umum, artinya input atau output sedang memicu filter keamanan. Dalam respons Agent Search API, SummarySkippedReason disetel ke BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION jika terdeteksi potensi pelanggaran kebijakan.

Jika Anda merasa filter keamanan dipicu dengan tidak semestinya, laporkan masalah ini menggunakan Google Cloud konsol.

Referensi lainnya