Optimiza las instrucciones

En este documento, se describe cómo usar el optimizador de instrucciones de Vertex AI para optimizar automáticamente el rendimiento de las instrucciones mejorando las instrucciones del sistema para un conjunto de instrucciones.

El optimizador de instrucciones de Vertex AI puede ayudarte a mejorar tus instrucciones rápidamente a gran escala, sin tener que volver a escribir instrucciones del sistema ni instrucciones individuales de forma manual. Esto es especialmente útil cuando deseas usar indicaciones e instrucciones del sistema que se escribieron para un modelo con uno diferente.

Ofrecemos dos enfoques para optimizar las instrucciones:

  • El optimizador sin ejemplos es un optimizador de baja latencia en tiempo real que mejora una sola instrucción o plantilla de instrucciones del sistema. Es rápido y no requiere ninguna configuración adicional, además de proporcionar tu instrucción original o del sistema. El optimizador sin ejemplos es independiente del modelo y puede mejorar las instrucciones para cualquier modelo deGoogle . También proporciona un modo gemini_nano para optimizar específicamente las instrucciones para los modelos integrados en el dispositivo, como Gemini Nano y Gemma 3n E4B.
  • El optimizador basado en datos es un optimizador iterativo a nivel de tareas por lotes que mejora las instrucciones evaluando la respuesta del modelo a instrucciones de muestra etiquetadas en función de las métricas de evaluación especificadas para el modelo objetivo seleccionado. Es para una optimización más avanzada que te permite configurar los parámetros de optimización y proporcionar algunas muestras etiquetadas. Además, el optimizador basado en datos admite la optimización para los modelos de Gemini disponibles de forma general y los modelos personalizados implementados de forma local o desde Vertex AI Model Garden.

Estos métodos están disponibles para los usuarios a través de la interfaz de usuario (IU) o el SDK de Vertex AI.

¿Qué sigue?