注: Vertex AI Search は Agent Search に名称変更されます。現在、新しいブランディングを反映するようにコンテンツの更新を進めています。

責任ある AI

Agent Search を使用すると、デベロッパーは Google の基盤モデル、検索技術、会話型 AI テクノロジーを活用して、エンタープライズグレードの生成 AI アプリケーションを構築できます。 AI は初期段階の技術であるため、その進化する機能の適用方法や利用方法を誤ると、意図しない結果や予期せぬ結果を招く可能性があります。たとえば、Agent Search では、不適切なテキスト、配慮に欠けるテキスト、事実と異なるテキストなど、予期しない出力が生成される場合があります。

こうしたリスクと複雑さを考慮して、Agent Search は Google の AI に関する原則を念頭に置いて設計されています。ただし、安全かつ責任を持ってデプロイするには、デベロッパーがモデルを理解してテストすることが重要です。デベロッパーを支援するため、Agent Search には、お客様がユースケース内で有害な可能性がある出力をブロックできるように、安全フィルタが組み込まれています。詳しくは、Agent Search の安全設定をご覧ください。

Agent Search をお客様固有のユースケースやコンテキストに統合する場合は、責任ある AI に関する追加の考慮事項とモデルの制限事項を考慮することが必要になる場合があります。お客様には、公平性、解釈可能性、プライバシー、セキュリティの推奨プラクティスを実践することをおすすめします。

Agent Search の安全設定

Agent Search には、露骨な表現を含むウェブサイトの検索結果を除外するセーフサーチフィルタが用意されています。露骨な表現を含む検索結果には、ポルノ、暴力、流血などのコンテンツが含まれる場合があります。セーフサーチフィルタリングは、非公開コンテンツでは使用できません。

要約（ウェブサイト検索と非公開コンテンツの両方）では、中傷的、性的描写が露骨、有害、暴力的な情報などのレスポンスが除外されます。また、要約レスポンスには、安全性属性（「有害なカテゴリ」や機密情報とみなされるトピックなど）が含まれています。

ウェブサイト検索

セーフサーチは、ウェブサイトなど、 Agent Search によってインデックス登録された公開コンテンツに適用できます。セーフサーチをオンにすると、画像、動画、ウェブサイトのすべてのクエリについて、お客様の Agent Search の結果から露骨な表現を含むコンテンツを除外できます。これらのフィルタは 100% 正確ではありませんが、フィルタリング機能は継続的に評価、更新されています。

特定のコンテキストやユースケースでは、Agent Search から包括的な分析情報と結果を収集するために、露骨な表現を含むコンテンツであっても、幅広い情報にアクセスする必要がある場合があります。API を使用して safe_search を「true」または「false」に設定することで、安全フィルタを有効または無効にできます。

Agent Search でセーフサーチを有効にするには、次の API 呼び出しを使用します。


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Agent Search でフォローアップ検索のセーフサーチを有効にするには、次の API 呼び出しを使用します。


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

safe_search 設定は、検索結果と、検索結果に基づく要約などの Agent Search の出力に適用されます。

要約などの Agent Search の出力は、安全性属性のリストと照らし合わせて評価されます。このリストでは、safe_search がオフの場合でも、有害なコンテンツが除外されます。

非公開コンテンツとウェブサイト検索の要約

要約などの Agent Search の出力は、安全性属性のリストと照らし合わせて評価されます。このリストでは、ウェブサイト検索の safe_search がオフの場合でも、中傷的、性的描写が露骨、有害、暴力的な情報などの有害なコンテンツが除外されます。また、Agent Search API レスポンスで safetyAttributes を使用すると、「有害なカテゴリ」や機密情報とみなされるトピックを含むレスポンスを除外できます。

フォールバックレスポンス

要約モデルがリクエストに対して空の文字列または汎用的なレスポンスを返す場合、入力または出力のいずれかによって安全フィルタがトリガーされています。ポリシー違反の可能性が検出された場合、Agent Search API レスポンスで SummarySkippedReason が BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION に設定されます。

安全フィルタが不適切にトリガーされていると思われる場合は、コンソールを使用してこの問題を報告してください Google Cloud 。

参考情報

責任ある AI への取り組みに関する Google の推奨事項について学ぶ。
Google のブログ、責任ある AI の進展に関する共有アジェンダを読む。

責任ある AI コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。