אתיקה של בינה מלאכותית

התכונה חיפוש מבוסס סוכנים מאפשרת למפתחים להשתמש ביכולות של מודלים בסיס של Google, במומחיות שלה בחיפוש ובטכנולוגיות של AI בממשק שיחה, כדי ליצור אפליקציות AI גנרטיבי ברמה ארגונית. מכיוון שפיתוח הטכנולוגיה הזאת נמצא בשלב מוקדם, יכול להיות שהיכולות והשימושים שלה יתפתחו ויובילו לשימוש לא נכון, לשימוש לרעה ולתוצאות לא מכוונות או לא צפויות. לדוגמה, חיפוש באמצעות סוכן יכול ליצור פלט שלא ציפיתם לו, כולל טקסט פוגעני, חסר רגישות או לא מדויק מבחינה עובדתית.

לאור הסיכונים והמורכבויות האלה, חיפוש באמצעות סוכן מתוכנן בהתאם לעקרונות ה-AI של Google. עם זאת, חשוב שמפתחים יבינו את המודלים שלהם ויבדקו אותם כדי לפרוס אותם בצורה בטוחה ואחראית. כדי לעזור למפתחים, חיפוש באמצעות סוכן כולל מסנני בטיחות מובנים שעוזרים ללקוחות לחסום פלט שעלול להיות מזיק בתרחיש השימוש שלהם. מידע נוסף זמין במאמר הגדרות בטיחות לחיפוש באמצעות סוכן.

כשמשלבים את חיפוש מבוסס סוכנים בתרחיש שימוש ייחודי של לקוח ובהקשר שלו, יכול להיות שיהיה צורך לקחת בחשבון שיקולים נוספים של אתיקה של בינה מלאכותית ומגבלות של המודל. אנחנו ממליצים ללקוחות להשתמש בשיטות מומלצות כדי להבטיח הוגנות, יכולת הסבר, פרטיות ואבטחה.

התכונה 'חיפוש באמצעות סוכן' מציעה מסנני חיפוש בטוח כדי לסנן תוצאות חיפוש של אתרים עם תוכן בוטה. תוצאות עם תוכן בוטה עשויות לכלול תוכן כמו פורנוגרפיה, אלימות ושפיכות דמים. הסינון של החיפוש הבטוח לא זמין לתוכן פרטי.

הסיכום (גם בחיפוש באתרים וגם בתוכן פרטי) מסנן תשובות שמכילות מידע מזלזל, מיני בוטה, רעיל או אלים. בנוסף, תשובת הסיכום מכילה מאפייני בטיחות, כולל 'קטגוריות מזיקות' ונושאים שאפשר להגדיר כרגישים.

חיפוש באתר

אפשר להחיל את החיפוש הבטוח על תוכן ציבורי שמאונדקס על ידי חיפוש מבוסס סוכנים, כמו אתרים. כשהחיפוש הבטוח מופעל, חיפוש מבוסס סוכנים עוזר לסנן תוכן בוטה בתוצאות החיפוש של הלקוח עבור כל השאילתות בתמונות, בסרטונים ובאתרים. המסננים האלה לא מדויקים ב-100%, אבל אנחנו בודקים ומעדכנים כל הזמן את יכולות הסינון.

בהקשרים מסוימים ובמקרים מסוימים, יכול להיות שלקוחות יצטרכו גישה למגוון רחב של מידע, גם אם הוא כולל תוכן בוטה, כדי לקבל תובנות ותוצאות מקיפות מחיפוש הסוכן. לקוחות יכולים להפעיל ולהשבית את מסנני הבטיחות באמצעות ה-API על ידי הגדרת safe_search לערך true או false.

כדי להפעיל את החיפוש הבטוח בחיפוש מבוסס סוכנים, משתמשים בקריאה הבאה ל-API:


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

כדי להפעיל את החיפוש הבטוח בחיפוש עם שאילתות המשך בחיפוש מבוסס סוכנים, משתמשים בקריאה הבאה ל-API:


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

ההגדרה safe_search חלה על תוצאות החיפוש וגם על הפלט של חיפוש באמצעות סוכן, כמו סיכום (שמבוסס על תוצאות החיפוש).

הפלט של חיפוש מבוסס סוכנים, כמו סיכום, נבדק מול רשימה של מאפייני בטיחות שמסננים תוכן פוגעני גם כש-safe_search מושבת.

סיכום של תוכן פרטי וחיפוש באתר

הפלט של Agent Search, כמו סיכום, נבדק מול רשימה של מאפייני בטיחות, שמסננים תוכן פוגעני שעלול להיות מזיק, כמו מידע מזלזל, בוטה, רעיל או אלים, גם אם safe_search לחיפוש באתר מושבת. בנוסף, אפשר לסנן תשובות שכוללות 'קטגוריות מזיקות' ונושאים שאפשר להגדיר כרגישים באמצעות safetyAttributes בתגובה של Agent Search API.

תשובות חלופיות

אם מודל הסיכום משיב לבקשה עם מחרוזת ריקה או עם תשובה כללית, זה אומר שהקלט או הפלט מפעילים מסנן בטיחות. בתגובה של חיפוש מבוסס סוכנים API, הערך של SummarySkippedReason מוגדר כ-BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION אם המערכת מזהה הפרה פוטנציאלית של המדיניות.

אם לדעתכם מסנן הבטיחות מופעל שלא לצורך, אתם יכולים לדווח על הבעיה באמצעותGoogle Cloud המסוף.

מקורות מידע נוספים