調校簡介

模型調整是讓 Gemini 更精準地執行特定工作的重要程序。模型調整的運作方式是為模型提供訓練資料集,資料集內有一組特定下游任務的範例。

本頁面將概略說明 Gemini 的模型微調功能、介紹 Gemini 適用的微調選項,並協助您判斷何時應使用各項微調選項。

模型調整的好處

模型調整是根據任務自訂大型模型的有效方法。這是提升模型品質和效率的關鍵步驟。模型調整有下列好處:

  • 提升特定工作的品質
  • 提升模型穩健性
  • 提示較短,因此推論延遲時間和成本較低

微調與提示設計的比較

  • 使用預先訓練的 Gemini 模型撰寫提示:撰寫提示是一門藝術,要能有效引導 Gemini 等 AI 模型生成所需輸出內容。這包括設計提示詞,清楚傳達您要執行的工作、所需格式和任何相關脈絡。你只需進行少量設定,即可使用 Gemini 的功能。最適合:
    • 標籤資料有限:如果您只有少量標籤資料,或無法負擔長時間的微調程序。
    • 快速原型設計:需要快速測試概念或取得基準效能,但不想投入大量資源進行微調。
  • 自訂微調 Gemini 模型:如要取得更符合需求的結果,您可以根據特定資料集微調 Gemini 模型。如要建立擅長特定領域的 AI 模型,請考慮微調。這包括使用您自己的標記資料集重新訓練基礎模型,並根據您的工作和資料調整權重。您可以根據自己的用途調整 Gemini。微調最適合用於以下情況:
    • 您有標籤資料:可供訓練的大量資料集 (例如 100 個以上的範例),讓模型深入瞭解特定工作。
    • 複雜或獨特的工作:如果進階提示策略不足以應付,且需要根據資料量身打造模型。

建議您先從提示詞著手,找出最佳提示詞。接著視需要進行微調,進一步提升成效或修正重複發生的錯誤。雖然增加更多範例可能會有幫助,但請務必先評估模型出錯的地方,再新增更多資料。優質且標籤清楚的資料對良好成效至關重要,比資料量更重要。此外,用於微調的資料應反映模型在實際工作環境中遇到的提示分布情形、格式和背景資訊。

與提示設計相比,微調有下列好處:

  • 可深度自訂模型,並提升特定工作的成效。
  • 根據自訂語法、指令和特定領域的語意規則調整模型。
  • 提供更一致且可靠的結果。
  • 可一次處理更多範例。
  • 在提示中移除少量樣本和長篇指令,即可在推論時節省費用

調整方法

高效參數調整和全面微調是兩種自訂大型模型的方法。這兩種方法在模型品質和資源效率方面各有優缺點和影響。

理想情況下

高效參數調整 (又稱適應器調整) 可有效率地調整大型模型,因應您的特定任務或領域。參數效率調整會在調整過程中,更新模型一小部分的參數。

如要瞭解 Gemini Enterprise Agent Platform 如何支援轉接器微調和服務,請參閱下列白皮書:Adaptation of Large Foundation Models

完整微調

全面微調會更新模型的所有參數,因此適合用於調整模型,以執行複雜度高的工作,並可能提高品質。不過,全面微調需要較多運算資源,因此調整和提供服務的成本較高。

高效參數調整與全面微調的比較

與全面微調相比,高效參數調整更有效率,也更具成本效益。訓練時所需的運算資源大幅減少。因此能以較小的資料集更快調整模型。 參數效率調整的彈性為多工作學習提供解決方案,不必進行大規模重新訓練。

支援的調整方法

Agent Platform 支援以監督式微調自訂基礎模型。

監督式微調

監督式微調能讓模型學會新技能,進而提升效能。含數百個有標籤樣本的資料會用於指導模型,讓模型可以模仿所需行為或工作。每個有標籤樣本都會示範模型在推論期間應輸出什麼樣的結果。

執行監督式微調作業時,模型會學習額外參數,以便將必要資訊編碼,並執行所需工作或瞭解應有行為。這些參數會在推論期間使用。 完成調整後,就會產生一個新的模型,結合新學到的參數與原始模型。

如果文字模型的輸出內容不複雜且較容易定義,對模型進行監督式微調會是不錯的選擇,如果內容不複雜,建議使用監督式微調進行分類、情緒分析、實體擷取和摘要,以及撰寫特定領域的查詢。程式碼模型僅支援監督式調整。

支援監督式微調的模型

下列 Gemini 模型支援監督式調整:

按一下即可展開支援的機型

如要進一步瞭解如何搭配各模型使用監督式微調,請參閱下列頁面:調整文字圖片音訊文件資料類型。

偏好調整

Gemini Enterprise Agent Platform 偏好設定微調功能以監督式微調為基礎,可讓您使用人工回饋資料微調 Gemini 模型。

偏好設定調整功能可讓模型從主觀使用者偏好設定中學習,這些偏好設定難以單獨使用特定標籤和監督式微調來定義。

支援偏好調整的模型

下列 Gemini 模型支援偏好設定調整功能:

按一下即可展開支援的機型

如要進一步瞭解偏好調整,請參閱「關於 Gemini 模型偏好調整」。

調整檢查點

您可以透過調整查核點儲存調整進度、比較查核點成效,並選擇成效最佳的查核點。

支援調整查核點的模型

下列 Gemini 模型支援調整檢查點:

按一下即可展開支援的機型

如要進一步瞭解如何調整檢查點,請參閱「在 Gemini 微調作業中使用檢查點」。

持續調整

持續微調功能可讓您新增更多訓練週期或訓練範例,繼續微調已微調的模型或模型檢查點。

支援持續調整的模型

下列 Gemini 模型支援持續微調:

按一下即可展開支援的機型

如要進一步瞭解持續微調,請參閱「關於 Gemini 模型持續微調」。

後續步驟