關於 Gemini 模型的監督式微調

如果您的任務明確，且可提供已加上標籤的資料，就很適合使用監督式微調功能。在特定領域的應用實例中，如果大型模型的語言或生成內容，與最初的訓練資料大相逕庭，則這項工具的成效將格外顯著。您可以調整文字、圖片、音訊、影片和文件資料類型。您也可以建立 Gemini 應用程式和代理，與即時資訊和服務互動，例如資料庫、客戶關係管理系統和文件存放區。

監督式微調功能會運用加上標籤的資料集，調整模型運作方式。這個程序會調整模型權重，盡可能減少預測結果和實際標籤間的差異。舉例來說，這樣當執行下列類型的任務時，便可提升模型效能：

  • 分類
  • 摘要
  • 擷取問題答案
  • 即時通訊

如要瞭解熱門調整用途，請參閱網誌文章「Hundreds of organizations are fine-tuning Gemini models. 以下是他們最喜歡的用途。

詳情請參閱「何時該對 Gemini 進行監督式微調」。

支援的模型

下列 Gemini 模型支援監督式微調：

按一下即可展開支援的模型

限制

監督式微調並非涵蓋服務，且不適用於任何服務水準協議的 SLO。

下表列出監督式微調資料集的限制：

Gemini 3.5 Flash

規格 值
每個訓練範例的輸入和輸出詞元數量上限 131,072
輸入和輸出服務符記數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5000 個範例，或訓練範例數量的 30% (如果驗證範例超過 1000 個)
訓練資料集檔案大小上限 JSONL 檔案為 1 GB
訓練資料集大小上限 1 千萬個純文字範例或 30 萬個多模態範例
轉接器大小 支援的值為 1、2、4、8 和 16
支援的模型調整端點 us-central1和europe-west4
支援的微調模型服務端點 僅限 us 和 eu 多區域端點
CMEK 支援 不支援

Gemini 3.1 Flash-Lite

規格 值
每個訓練範例的輸入和輸出詞元數量上限 131,072
輸入和輸出服務符記數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5000 個範例，或訓練範例數量的 30% (如果驗證範例超過 1000 個)
訓練資料集檔案大小上限 JSONL 檔案為 1 GB
訓練資料集大小上限 1 千萬個純文字範例或 30 萬個多模態範例
轉接器大小 支援的值為 1、2、4、8 和 16
支援的模型調整端點 us-central1和europe-west4
支援的微調模型服務端點 僅限 us 和 eu 多區域端點
CMEK 支援 不支援

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

規格 值
每個訓練範例的輸入和輸出詞元數量上限 131,072
輸入和輸出服務符記數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5000 個範例，或訓練範例數量的 30% (如果驗證範例超過 1000 個)
訓練資料集檔案大小上限 JSONL 檔案為 1 GB
訓練資料集大小上限 1 千萬個純文字範例或 30 萬個多模態範例
轉接器大小 支援的值為 1、2、4、8 和 16

Gemini 2.5 Pro

規格 值
輸入和輸出訓練詞元數量上限 131,072
輸入和輸出服務符記數量上限 與基礎 Gemini 模型相同
驗證資料集大小上限 5000 個範例，或訓練範例數量的 30% (如果驗證範例超過 1000 個)
訓練資料集檔案大小上限 JSONL 檔案為 1 GB
訓練資料集大小上限 1 千萬個純文字範例或 30 萬個多模態範例
轉接器大小 支援的值為 1、2、4 和 8

已知問題

  • 對已微調的 Gemini 模型提交推論要求時，套用控制生成內容可能會導致模型品質下降，因為微調和推論期間的資料不一致。微調期間不會套用控制生成內容功能，因此微調後的模型在推論時無法妥善處理控制生成內容功能。監督式微調可有效自訂模型，生成結構化輸出內容。因此，對調整後的模型提出推論要求時，不需套用控制生成內容功能。

使用監督式微調的應用實例

如果預期輸出內容或工作可在提示中清楚簡潔地定義，且提示能持續產生預期輸出內容，基礎模型就能發揮良好效果。如果您希望模型學習與一般模式偏離的特定領域或特定知識，可以考慮微調模型。舉例來說，您可以透過模型微調，讓模型學會下列事項：

  • 生成輸出內容的特定結構或格式。
  • 特定行為，例如何時提供簡潔或詳細的輸出內容。
  • 針對特定類型的輸入內容，提供特定的自訂輸出內容。

以下是僅使用提示指令難以擷取的用途範例：

  • 分類：預期的回應是特定字詞或詞組。

    調整模型可避免模型生成冗長的回覆。

  • 摘要：摘要會以特定格式顯示。舉例來說，您可能需要移除對話摘要中的個人識別資訊 (PII)。

    以 #Person1 和 #Person2 取代講者姓名的格式並不容易描述，基礎模型可能無法自然產生這類回應。

  • 擷取問題解答：問題與內容相關，答案是內容的子字串。

    「Last Glacial Maximum」回應是內容中的特定詞組。

  • 對話：你必須自訂模型回覆，讓模型扮演特定角色或人物。

您也可以在下列情況微調模型：

  • 提示無法穩定產生預期結果。
  • 工作太複雜，無法在提示中定義。舉例來說，您希望模型複製難以在提示中清楚說明的行為。
  • 您對某項工作有複雜的直覺，但難以在提示中正式說明。
  • 您想移除少量樣本範例，縮短脈絡長度。

設定微調工作區域

使用者資料 (例如轉換後的資料集和調整後的模型) 會儲存在調整工作區域。在微調期間，運算作業可能會卸載至其他 US 或 EU 區域，以使用可用的加速器。使用者不會察覺到卸載作業。

  • 如果您使用 Vertex AI SDK，可以在初始化時指定區域。例如：

    import vertexai
vertexai.init(project='myproject', location='us-central1')

  • 如果您使用 tuningJobs.create 方法傳送 POST 要求，藉此建立監督式微調工作，則須透過網址指定微調工作的執行區域。舉例來說，在下列網址中，您只要將兩個 TUNING_JOB_REGION 執行個體都換成工作執行的區域，即可指定區域。

     https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • 如果使用 Google Cloud 控制台，可以在「Model details」(模型詳細資料) 頁面的「Region」(區域) 下拉式欄位中選取區域名稱。您可以在這個頁面選取基礎模型和調整後的模型名稱。

評估微調模型

您可以透過下列方式評估調整後的模型：

  • 微調和驗證指標：微調作業完成後，請使用微調和驗證指標評估微調模型。

  • 整合式評估與 Gen AI Evaluation Service (搶先版)：設定微調工作，在微調期間使用 Gen AI Evaluation Service 自動執行評估。下列介面、模型和區域支援與 Gen AI Evaluation Service 整合的微調功能：

    • 支援的介面：Google Gen AI SDK 和 REST API。

    • 支援的型號：gemini-2.5-pro、gemini-2.5-flash 和 gemini-2.5-flash-lite。

    • 支援的地區：如需支援的地區清單，請參閱「支援的地區」。

配額

系統會對並行微調工作數量強制執行配額。每項專案都有預設配額，至少可執行一項調整工作。這是全域配額，適用於所有可用區域和支援的模型。如要同時執行更多工作，請申請提高 Global concurrent tuning jobs 的配額。

如果您設定 Gen AI Evaluation Service，在微調期間自動執行評估，請參閱 Gen AI Evaluation Service 配額。

定價

如要瞭解 Gemini 監督式微調的定價，請參閱 Gemini Enterprise Agent Platform 定價。

訓練詞元數量是訓練資料集中的詞元數量乘以訓練週期數。調整後，調整後的模型仍會產生推論 (預測要求) 費用。Gemini 每個穩定版本的推論定價都相同。詳情請參閱「可用的 Gemini 穩定模型版本」。

如果您將 Gen AI Evaluation Service 設為在微調期間自動執行，系統會將評估作業視為批次預測工作收費。詳情請參閱「定價」。

後續步驟