优化提示

本文档介绍了如何使用 Vertex AI 提示优化器通过改进一组提示的系统指令来自动优化提示效果。

Vertex AI 提示优化器可帮助您快速大规模改进提示，而无需手动重写系统指令或各个提示。如果您想将针对一个模型编写的系统指令和提示用于另一个模型，则此优化器特别有用。

我们提供两种优化提示的方法：

  • 零样本优化器是一种实时低延迟优化器，可改进单个提示或系统指令模板。它速度快，并且除了提供原始提示或系统指令外，无需进行任何额外设置。 零样本优化器与模型无关，可以改进任何Google 模型的提示。此外，它还提供 gemini_nano 模式，专门针对设备端模型（例如 Gemini Nano 和 Gemma 3n E4B）优化提示。
  • 数据驱动的优化器是一种批量任务级迭代优化器，它可针对所选目标模型，根据指定评估指标来评估模型对已加标签的样本提示的回答，从而改进提示。它适用于可让您配置优化参数并提供一些已加标签的样本的更高级优化。 此外，数据驱动的优化器支持针对正式版 Gemini 模型进行优化，并支持从本地或 Vertex AI Model Garden 部署的自定义模型。

用户可以通过界面 (UI) 或 Vertex AI SDK 使用这些方法。

后续步骤