最佳化提示

本文說明如何使用 Vertex AI 提示詞最佳化工具,透過改善一組提示的系統指令,自動提升提示詞成效。

Vertex AI 提示最佳化工具可協助您快速大規模改善提示,不必手動重寫系統指令或個別提示。如果您想使用為某個模型編寫的系統指令和提示,但要搭配其他模型,這項功能就特別實用。

我們提供兩種最佳化提示的方法:

  • 零樣本最佳化工具是一種即時低延遲最佳化工具,可改善單一提示或系統指令範本。速度快,而且除了提供原始提示或系統指令外,不需要額外設定。零樣本最佳化工具與模型無關,可改善任何Google 模型的提示。此外,還提供 gemini_nano 模式,可專門針對裝置端模型 (例如 Gemini NanoGemma 3n E4B) 最佳化提示。
  • 以資料為準的最佳化工具是批次工作層級的疊代最佳化工具,可根據所選目標模型的指定評估指標,評估模型對標示樣本提示的回應,進而改善提示。這項功能適用於進階最佳化,可讓您設定最佳化參數,並提供幾個有標籤的樣本。此外,資料驅動最佳化工具支援一般可用的 Gemini 模型最佳化,以及從本機或 Vertex AI Model Garden 部署的自訂模型。

使用者可以透過使用者介面 (UI) 或 Vertex AI SDK 使用這些方法。

後續步驟