A Example Store permite-lhe armazenar e obter dinamicamente exemplos de poucos disparos. Os exemplos de poucos disparos permitem-lhe demonstrar os padrões de resposta esperados a um GML para melhorar a qualidade, a precisão e a consistência das respetivas respostas a consultas semelhantes.
O que são exemplos de poucos disparos?
Um exemplo de poucos disparos são dados etiquetados específicos do seu exemplo de utilização do MDG. Inclui um par de entrada/saída que demonstra a resposta esperada do modelo para um pedido do modelo. Pode usar exemplos para demonstrar o comportamento ou o padrão de resposta esperado de um MDG.
Ao usar apenas alguns exemplos relevantes, pode abranger um conjunto maior de possíveis resultados, comportamento pretendido e entradas do utilizador sem aumentar correspondentemente o tamanho ou a complexidade dos comandos. Isto é feito incluindo apenas exemplos relevantes (diminuindo o número de exemplos incluídos) e "mostrando, não dizendo" o comportamento esperado.
A utilização de exemplos de poucos disparos é uma forma de aprendizagem no contexto. Um exemplo demonstra um padrão claro de entradas e resultados, sem explicar como o modelo gera o conteúdo. Pode abranger mais resultados possíveis ou consultas de utilizadores usando apenas relativamente poucos exemplos, sem aumentar o tamanho do comando nem a complexidade do código. A utilização de exemplos não envolve a atualização dos parâmetros do modelo pré-treinado e não afeta a amplitude de conhecimentos do MDI/CE. Isto torna a aprendizagem no contexto com exemplos uma abordagem relativamente simples e concisa para personalizar, corrigir ou melhorar o raciocínio e a resposta de um GML a comandos não vistos.
Ao recolher exemplos relevantes que sejam representativos das consultas dos utilizadores, ajuda o modelo a manter a atenção, demonstrar o padrão esperado e também retificar o comportamento incorreto ou inesperado. Isto não afeta outros pedidos que resultem nas respostas esperadas.
Tal como todas as estratégias de engenharia de comandos, a utilização de exemplos de poucos disparos é complementar a outras técnicas de otimização de MDIs, como o ajuste fino ou a RAG.
Como usar a loja de exemplo
Os passos seguintes descrevem como pode usar a loja de exemplo:
Crie ou reutilize um recurso
ExampleStore, também denominado "instância da loja de exemplo".- Para cada região e projeto, pode ter um máximo de 50 instâncias da loja de exemplo.
Escrever e carregar exemplos com base nas respostas do MDI/CE. Existem dois cenários possíveis:
Se o comportamento e o padrão de resposta do GML forem os esperados, escreva exemplos com base nestas respostas e carregue-os para a instância da Example Store.
Se o MDI/CE apresentar um comportamento ou padrões de resposta inesperados, escreva um exemplo para demonstrar como corrigir a resposta e, em seguida, carregue-o para a instância da loja de exemplos.
Os exemplos carregados ficam imediatamente disponíveis para a aplicação de agente ou LLM associada à instância da loja de exemplos.
Se um agente baseado no Vertex AI Agent Development Kit estiver associado à instância da loja de exemplo, o agente obtém automaticamente os exemplos e inclui-os no pedido do MDG.
Para todas as outras aplicações de MDIs, tem de pesquisar e obter os exemplos e, em seguida, incluí-los nos seus comandos.
Pode continuar a adicionar exemplos iterativamente a uma instância da loja de exemplos sempre que observar um desempenho inesperado do MDG ou encontrar consultas de utilizadores adversárias ou inesperadas. Não precisa de atualizar o código nem reimplementar uma nova versão da sua aplicação de MDG. Os exemplos ficam disponíveis para o agente ou a aplicação assim que os carregar para a instância da loja de exemplos.
Além disso, pode fazer o seguinte:
Recuperar exemplos através da realização de uma pesquisa de semelhança de cossenos entre as chaves de pesquisa dos exemplos armazenados e os da sua consulta.
Filtre exemplos por nome da função e refine a lista de exemplos candidatos para aqueles que representam as possíveis respostas do MDI/CE.
Melhore iterativamente a sua aplicação de MDI/CE ou agente.
Partilhe exemplos com vários agentes ou aplicações de MDIs.
Diretrizes para a criação de exemplos de aprendizagem com poucos exemplos
O impacto dos exemplos no desempenho do modelo depende dos tipos de exemplos incluídos nos comandos e da forma como são incluídos.
Seguem-se as práticas geralmente recomendadas para criar exemplos:
Relevância e semelhança: os exemplos têm de estar estreitamente relacionados com a tarefa ou o domínio específicos. Isto ajuda o modelo a focar-se nos aspetos mais relevantes dos seus conhecimentos, diminui a utilização de tokens e mantém ou até melhora o desempenho. Precisa de menos exemplos se estes forem relevantes para a conversa. O conjunto de exemplos disponíveis tem de ser representativo das possíveis consultas dos utilizadores. Além disso, um exemplo tem de ser relevante para uma determinada consulta do utilizador.
Complexidade: para ajudar o MDG a ter um melhor desempenho, use exemplos de baixa complexidade para demonstrar o raciocínio esperado.
Representativo dos possíveis resultados do modelo: as respostas esperadas num exemplo têm de ser consistentes com o possível resultado. Isto permite que o exemplo demonstre claramente o raciocínio consistente com o raciocínio esperado do MDI/CE para o comando.
Formato: para um melhor desempenho, formate os exemplos de poucos disparos no comando de uma forma consistente com os dados de preparação do MDG e diferenciada do histórico de conversas. A formatação dos exemplos num comando pode afetar consideravelmente o desempenho do MDI/CE.
Exemplo de utilização: chamadas de funções
Pode usar exemplos de poucos disparos para melhorar o desempenho das chamadas de funções.
Pode indicar a chamada de função esperada para uma consulta do utilizador num padrão consistente. O exemplo pode modelar a resposta esperada ao pedido, incluindo a função que tem de ser invocada e os argumentos a incluir na chamada da função. Considere um exemplo de utilização em que a função get_store_location devolve a localização de uma loja e a respetiva descrição. Se uma consulta não invocar esta função
conforme esperado ou mostrar um resultado inesperado, pode usar exemplos de poucos disparos para
corrigir este comportamento para consultas subsequentes.
Para mais informações sobre a chamada de funções, consulte o artigo Chamada de funções.
Para saber mais, consulte o Início rápido da loja de exemplo.
O que se segue?
Saiba como criar uma loja de exemplo.
Saiba como ensinar um agente com exemplos