最佳化提示

本文說明如何使用 Vertex AI 提示詞最佳化工具,透過改善一組提示的系統指令,自動提升提示詞效能。

Vertex AI 提示最佳化工具可協助您快速大規模改良提示,不必手動重寫系統指令或個別提示。如果您要在不同模型之間切換,並想重複使用系統指令和提示,這項功能就非常實用。

您可以透過下列方式最佳化提示:

  • 零樣本最佳化工具是一種即時低延遲最佳化工具,可改善單一提示或系統指令範本。速度快,除了提供原始提示或系統指令外,不需要額外設定。零樣本最佳化工具與模型無關,可改善任何Google 模型的提示。此外,這項工具還提供 gemini_nano 模式,可針對較小的模型最佳化提示,例如 Gemini NanoGemma 3n E4B
  • 少量樣本最佳化工具 是低延遲的即時最佳化工具,可分析模型回覆未達預期的範例,進而修正系統指令。提供提示、模型回覆和回覆意見回饋的具體範例,有助於系統性地提升提示成效。
  • 以資料為準最佳化工具是批次工作層級的疊代最佳化工具,可根據所選目標模型的指定評估指標,評估模型對標示提示樣本的回覆,進而改善提示。這項功能適用於進階最佳化作業,可讓您設定最佳化參數,並提供幾個有標籤的樣本。此外,資料驅動最佳化工具支援針對一般可用的 Gemini 模型 (例如 Gemini NanoGemma 3n E4B),以及從 Vertex AI Model Garden 部署的本機或自訂模型進行最佳化。

使用者可以透過 Google Cloud 控制台或 Vertex AI SDK 使用這些方法。

後續步驟