選擇文字生成功能

本文比較 BigQuery ML AI.GENERATE_TEXT 和 AI.GENERATE 文字生成函式。如果函式的功能重疊，您可以參考本文資訊，決定要使用哪個函式。

函式相似性

AI.GENERATE_TEXT 和 AI.GENERATE 函式在下列方面相似：

  • 用途：將提示傳送至大型語言模型 (LLM)，藉此生成文字。
  • 帳單：系統會針對處理的資料收取 BigQuery ML 費用。 詳情請參閱 BigQuery ML 定價一文。呼叫 LLM 時會產生 Vertex AI 費用。如果您使用 Gemini 2.0 以上版本，系統會依批次 API 費率計費。詳情請參閱「在 Vertex AI 中建構及部署 AI 模型的費用」。
  • 可擴充性：每個 6 小時的查詢工作可處理 100 萬到 1,000 萬列資料。實際處理量取決於輸入資料列中的平均權杖長度等因素。詳情請參閱「生成式 AI 函式」。
  • 輸入資料：支援來自 BigQuery 標準資料表和物件資料表的文字和非結構化資料。

功能差異

請參閱下表，評估 AI.GENERATE_TEXT 和 AI.GENERATE 函式之間的差異：

AI.GENERATE_TEXT AI.GENERATE
函式簽章 資料表值函式會將資料表做為輸入內容，並傳回資料表做為輸出內容。 這個純量函式會將單一值做為輸入內容，並傳回單一值做為輸出內容。
支援的 LLM
  • Gemini 模型
  • 合作夥伴模型，例如 Anthropic Claude、Llama 和 Mistral AI
  • 開放式模型
 Gemini 模型
函式輸出內容

Gemini 模型函式輸出內容：

  • 生成的文字
  • 負責任的 AI 技術 (RAI) 結果
  • 如果啟用，系統會顯示 Google 搜尋基準建立結果
  • 大型語言模型通話狀態

其他類型模型的函式輸出內容：

  • 生成的文字
  • 大型語言模型通話狀態
  • 生成的文字
  • JSON 格式的完整模型回覆
  • 大型語言模型通話狀態
函式輸出格式 系統會以單一 JSON 資料欄或個別資料表資料欄的形式傳回生成的值，視 flatten_json_output 引數值而定。 產生的值會以 STRUCT 物件中的欄位形式傳回。
使用者歷程 您必須先建立遠端模型，才能使用這項函式。 您可以直接使用函式，不必建立遠端模型。
設定權限 您必須手動建立 BigQuery 連線，並將 Vertex AI 使用者角色權限授予連線的服務帳戶。如果使用 BigQuery 預設連線，可以略過這個步驟。 您可以使用使用者憑證呼叫此函式。
優點 可使用更彈性的輸入和輸出格式。 更容易整合到 SQL 查詢中。
擴充函式 您可以使用 AI.GENERATE_TABLE 函式，根據您指定的 SQL 輸出結構定義產生結構化輸出內容。 您可以使用 AI.GENERATE_BOOL、AI.GENERATE_INT 和 AI.GENERATE_DOUBLE 函式產生不同類型的純量值。