Optimiza las instrucciones

En este documento, se describe cómo usar el optimizador de instrucciones de Vertex AI para optimizar automáticamente el rendimiento de las instrucciones mejorando las instrucciones del sistema para un conjunto de instrucciones.

El optimizador de instrucciones de Vertex AI puede ayudarte a mejorar tus instrucciones rápidamente a gran escala, sin tener que volver a escribir instrucciones del sistema ni instrucciones individuales de forma manual. Esto es útil cuando cambias de modelo y deseas reutilizar las instrucciones y las indicaciones del sistema.

Están disponibles los siguientes enfoques para optimizar instrucciones:

  • El optimizador sin ejemplos es un optimizador de baja latencia y en tiempo real que mejora una sola instrucción o plantilla de instrucción del sistema. Es rápido y no requiere ninguna configuración adicional, además de proporcionar tu instrucción original o del sistema. El optimizador sin ejemplos es independiente del modelo y puede mejorar las instrucciones para cualquier modelo deGoogle . Además, proporciona un modo gemini_nano para optimizar instrucciones específicamente para modelos más pequeños, como Gemini Nano y Gemma 3n E4B.
  • El optimizador de pocos ejemplos es un optimizador en tiempo real de baja latencia que perfecciona las instrucciones del sistema analizando ejemplos en los que la respuesta de un modelo no cumplió con las expectativas. Si proporcionas ejemplos específicos de instrucciones, respuestas del modelo y comentarios sobre esas respuestas, puedes mejorar sistemáticamente el rendimiento de las instrucciones.
  • El optimizador basado en datos es un optimizador iterativo a nivel de tareas por lotes que mejora las instrucciones evaluando la respuesta del modelo a instrucciones de muestra etiquetadas en función de las métricas de evaluación especificadas para el modelo objetivo seleccionado. Es para una optimización más avanzada que te permite configurar los parámetros de optimización y proporcionar algunas muestras etiquetadas. Además, el optimizador basado en datos admite la optimización para los modelos de Gemini disponibles de forma general, como Gemini Nano y Gemma 3n E4B, y los modelos personalizados implementados de forma local o desde Vertex AI Model Garden.

Estos métodos están disponibles para los usuarios a través de la consola de Google Cloud o el SDK de Vertex AI.

¿Qué sigue?