Este documento descreve como usar o otimizador de comandos da Vertex AI para otimizar automaticamente o desempenho dos comandos melhorando as instruções do sistema para um conjunto de comandos.
O otimizador de comandos da Vertex AI pode ajudar a melhorar os seus comandos rapidamente em grande escala, sem reescrever manualmente as instruções do sistema nem os comandos individuais. Isto é especialmente útil quando quer usar instruções do sistema e comandos escritos para um modelo com um modelo diferente.
Oferecemos duas abordagens para otimizar os comandos:
- O otimizador de
zero-shot
é um otimizador de baixa latência em tempo real que melhora um único comando ou modelo de
instruções do sistema. É rápido e não requer configuração adicional, além de fornecer o comando original ou a instrução do sistema.
O otimizador de zero-shot é independente do modelo e pode melhorar os comandos para qualquer
Google modelo. Além disso, oferece um modo
gemini_nanopara otimizar especificamente os comandos para modelos no dispositivo, como o Gemini Nano e o Gemma 3n E4B. - O otimizador com orientação por dados é um otimizador iterativo ao nível da tarefa em lote que melhora os comandos através da avaliação da resposta do modelo a comandos etiquetados de amostra em função das métricas de avaliação especificadas para o modelo de destino selecionado. É para uma otimização mais avançada que lhe permite configurar os parâmetros de otimização e fornecer alguns exemplos etiquetados. Além disso, o otimizador com base em dados suporta a otimização para modelos do Gemini geralmente disponíveis e suporta modelos personalizados implementados localmente ou a partir do Vertex AI Model Garden.
Estes métodos estão disponíveis para os utilizadores através da interface do utilizador (IU) ou do SDK da Vertex AI.
O que se segue?
Saiba mais sobre o otimizador de tiro zero
Saiba mais acerca do otimizador com orientação por dados