逐句顯示答案 (舊版)

本頁面將介紹串流回答方法。

串流回答方法與回答方法有許多相同的功能,但多了一項額外功能:串流。串流答案時,生成的答案會分成多個部分,並依序傳送。

如果生成的答案很長,一次傳送整個答案會造成延遲,這時串流答案就特別實用。串流答案可減少延遲感。

限制

串流解答方法與解答方法的功能相同,但有下列例外狀況:

  • 串流回答僅支援英文。

  • 換句話說的步驟只有一個。您無法停用改寫功能,也無法變更步驟數量上限。

  • 您無法取得串流答案的基準分數,也無法選擇只傳回有充分依據的答案。

  • 只有 Gemini 模型可以使用串流回答方法。如需型號清單,請參閱「可用型號」。

逐句回覆

下列指令說明如何呼叫 streaming answer 方法,並以一系列 JSON 回應的形式傳回生成的答案。通常,每個回應都包含答案中的一個句子。

這個基本指令只會顯示必要輸入內容。其餘選項則保留預設值。

如需其他選項的範例,請參閱「取得答案和後續查詢」。部分答案選項不適用於答案串流;請參閱本頁的限制。

REST

如要搜尋並取得串流生成的答案,請按照下列步驟操作:

  1. 執行下列 curl 指令:

    curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
      -H "Content-Type: application/json" \
      "https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/engines/APP_ID/servingConfigs/default_search:streamAnswer" \
      -d '{
            "query": { "text": "QUERY"}
          }'
    

    更改下列內容:

    • PROJECT_ID:專案的 ID。
    • APP_ID:要查詢的應用程式 ID。
    • QUERY:包含問題或搜尋查詢的自由文字字串。例如「Which database is faster, bigquery or spanner?」(BigQuery 和 Spanner 哪個資料庫比較快?)。

其他範例

「串流傳輸答案」中顯示的基本指令是最簡單的指令,未指定任何選項。不過,您可以套用 answer 方法提供的相同選項,但本頁列出的限制除外。

串流答案也可以與後續工作階段搭配使用。