責任ある AI

Vertex AI Search を使用すると、デベロッパーは Google の基盤モデル、検索技術、会話型 AI テクノロジーの力を活用して、エンタープライズ グレードの生成 AI アプリケーションを作成できます。AI は初期段階の技術であるため、その進化する機能の適用方法や利用方法を誤ると、意図しない結果や予期せぬ結果を招く可能性があります。たとえば、Vertex AI Search では、不適切なテキスト、配慮に欠けるテキスト、事実と異なるテキストなど、予期しない出力が生成される場合があります。

こうしたリスクと複雑さを考慮して、Vertex AI Search は Google の AI に関する原則を念頭に置いて設計されています。ただし、安全かつ責任を持ってデプロイするには、デベロッパーがモデルを理解してテストすることが重要です。デベロッパーを支援するため、Vertex AI Search には、お客様がユースケース内で有害な可能性がある出力をブロックできるように、安全フィルタが組み込まれています。詳細については、Vertex AI Search の安全設定をご覧ください。

Vertex AI Search をお客様固有のユースケースやコンテキストに統合するときは、責任ある AI に関する追加の考慮事項とモデルの制限を考慮する必要があります。お客様には、公平性、解釈可能性、プライバシー、セキュリティの推奨プラクティスを実践することをおすすめします。

Vertex AI Search には、露骨な表現を含むウェブサイトの検索結果をフィルタするセーフサーチ フィルタが用意されています。露骨な表現を含むコンテンツには、ポルノ、暴力、流血などが含まれます。非公開コンテンツではセーフサーチ フィルタリングはご利用いただけません。

要約（ウェブサイト検索とプライベート コンテンツの両方）では、中傷的、性的描写が露骨、有害、暴力的な情報などのレスポンスが除外されます。また、要約レスポンスには、安全性属性（「有害なカテゴリ」や機密情報とみなされるトピックなど）が含まれます。

ウェブサイト検索

セーフサーチは、ウェブサイトなど、Vertex AI Search によってインデックス登録された一般公開コンテンツに適用できます。セーフサーチがオンになっている場合、Vertex AI Search は、画像、動画、ウェブサイトのすべてのクエリについて、顧客の Vertex AI Search の検索結果から露骨な表現を含むコンテンツを除外します。これらのフィルタの精度は 100% ではありませんが、Google はフィルタリング機能を継続的に評価し、更新しています。

特定のコンテキストやユースケースでは、Vertex AI Search から包括的な分析情報と結果を収集するために、露骨なコンテンツを含む場合でも、幅広い情報へのアクセスが必要になることがあります。お客様は、API を使用して safe_search を「true」または「false」に設定することで、セーフティ フィルタを有効または無効にできます。

Vertex AI Search でセーフサーチを有効にするには、次の API 呼び出しを使用します。


curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Vertex AI Search でフォローアップ付き検索のセーフサーチを有効にするには、次の API 呼び出しを使用します。


curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

safe_search 設定は、検索結果と、要約（検索結果に基づく）などの Vertex AI Search 出力にも適用されます。

Vertex AI Search の出力（要約など）は、安全性属性のリストと照らし合わせて評価されます。このリストは、safe_search がオフの場合でも、有害な可能性のあるコンテンツをフィルタします。

非公開コンテンツとウェブサイト検索の要約

Vertex AI Search の出力（要約など）は、安全性属性のリストと照らし合わせて評価されます。これにより、ウェブサイト検索の safe_search がオフになっている場合でも、中傷的、性的、有害、暴力的などの有害なコンテンツがフィルタされます。また、Vertex AI Search API レスポンスで safetyAttributes を使用すると、「有害なカテゴリ」や機密情報とみなされる可能性のあるトピックを含むレスポンスをフィルタできます。

フォールバック レスポンス

要約モデルがリクエストに対して空の文字列または一般的なレスポンスを返す場合、入力または出力のいずれかによって安全フィルタがトリガーされています。Vertex AI Search API レスポンスで、ポリシー違反の可能性が検出された場合、SummarySkippedReason は BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION に設定されます。

安全フィルタが不適切にトリガーされていると思われる場合は、Google Cloud コンソールを使用してこの問題を報告してください。

参考情報