Otimizar comandos

Este documento descreve como usar o otimizador de comandos da Vertex AI para otimizar automaticamente a performance de comandos melhorando as instruções do sistema para um conjunto de comandos.

O otimizador de comandos da Vertex AI pode ajudar você a melhorar seus comandos rapidamente em grande escala, sem precisar reescrever manualmente instruções do sistema ou comandos individuais. Isso é útil quando você muda de modelo e quer reutilizar instruções e comandos do sistema.

As seguintes abordagens estão disponíveis para otimizar comandos:

  • O otimizador de aprendizagem sem exemplos é um otimizador de baixa latência em tempo real que melhora um único modelo de solicitação ou instrução do sistema. Ele é rápido e não exige nenhuma configuração adicional além de fornecer o comando ou a instrução do sistema original. O otimizador zero-shot é independente do modelo e pode melhorar os comandos para qualquer modelo deGoogle . Além disso, ele oferece um modo gemini_nano para otimizar comandos para modelos menores, como o Gemini Nano e o Gemma 3n E4B.
  • O otimizador de poucos disparos (few-shot) é um otimizador de baixa latência em tempo real que refina as instruções do sistema analisando exemplos em que a resposta de um modelo não atendeu às expectativas. Ao fornecer exemplos específicos de comandos, respostas do modelo e feedback sobre essas respostas, você pode melhorar sistematicamente o desempenho dos comandos.
  • O otimizador baseado em dados é um otimizador iterativo no nível da tarefa em lote que melhora os comandos ao avaliar a resposta do modelo a comandos de amostra rotulados com métricas de avaliação especificadas para o modelo de destino selecionado. É para uma otimização mais avançada que permite configurar os parâmetros de otimização e fornecer algumas amostras rotuladas. Além disso, o otimizador orientado a dados oferece suporte à otimização para modelos do Gemini disponíveis ao público, como o Gemini Nano e o Gemma 3n E4B, e modelos personalizados implantados localmente ou no Model Garden da Vertex AI.

Esses métodos estão disponíveis para os usuários no console do Google Cloud ou no SDK da Vertex AI.

A seguir