Ottimizza i prompt

Questo documento descrive come utilizzare lo strumento di ottimizzazione dei prompt di Vertex AI per ottimizzare automaticamente le prestazioni dei prompt migliorando le istruzioni di sistema per un insieme di prompt.

Vertex AI Prompt Optimizer può aiutarti a migliorare i tuoi prompt in modo rapido e su larga scala, senza riscrivere manualmente le istruzioni di sistema o i singoli prompt. Questa funzionalità è utile quando passi da un modello all'altro e vuoi riutilizzare le istruzioni di sistema e i prompt.

Per ottimizzare i prompt sono disponibili i seguenti approcci:

  • L'ottimizzatore zero-shot è un ottimizzatore in tempo reale a bassa latenza che migliora un singolo prompt o un modello di istruzioni di sistema. È veloce e non richiede configurazioni aggiuntive, oltre a fornire il prompt originale o le istruzioni di sistema. L'ottimizzatore zero-shot è indipendente dal modello e può migliorare i prompt per qualsiasi modelloGoogle . Inoltre, fornisce una modalità gemini_nano per ottimizzare i prompt per i modelli più piccoli, come Gemini Nano e Gemma 3n E4B.
  • L'ottimizzatore few-shot è un ottimizzatore in tempo reale a bassa latenza che perfeziona le istruzioni di sistema analizzando gli esempi in cui la risposta di un modello non ha soddisfatto le aspettative. Fornendo esempi specifici di prompt, risposte del modello e feedback su queste risposte, puoi migliorare sistematicamente il rendimento dei prompt.
  • L'ottimizzatore basato sui dati è un ottimizzatore iterativo a livello di attività batch che migliora i prompt valutando la risposta del modello a prompt etichettati di esempio rispetto a metriche di valutazione specifiche per il modello di destinazione selezionato. È per l'ottimizzazione più avanzata che ti consente di configurare i parametri di ottimizzazione e fornire alcuni campioni etichettati. Inoltre, lo strumento di ottimizzazione basato sui dati supporta l'ottimizzazione per i modelli Gemini disponibili a livello generale, come Gemini Nano e Gemma 3n E4B, e per i modelli personalizzati di cui è stato eseguito il deployment localmente o da Vertex AI Model Garden.

Questi metodi sono disponibili per gli utenti tramite la console Google Cloud o l'SDK Vertex AI.

Passaggi successivi