Ottimizza i prompt

Questo documento descrive come utilizzare lo strumento di ottimizzazione dei prompt di Vertex AI per ottimizzare automaticamente le prestazioni dei prompt migliorando le istruzioni di sistema per un insieme di prompt.

Lo strumento di ottimizzazione dei prompt di Vertex AI può aiutarti a migliorare i tuoi prompt in modo rapido e su larga scala, senza riscrivere manualmente le istruzioni di sistema o i singoli prompt. Ciò è particolarmente utile quando vuoi utilizzare istruzioni e prompt di sistema scritti per un modello con un modello diverso.

Offriamo due approcci per ottimizzare i prompt:

  • L'ottimizzatore zero-shot è un ottimizzatore in tempo reale a bassa latenza che migliora un singolo prompt o un modello di istruzioni di sistema. È veloce e non richiede configurazioni aggiuntive, oltre a fornire il prompt originale o le istruzioni di sistema. L'ottimizzatore zero-shot è indipendente dal modello e può migliorare i prompt per qualsiasi modelloGoogle . Inoltre, fornisce una modalità gemini_nano per ottimizzare in modo specifico i prompt per i modelli on-device, come Gemini Nano e Gemma 3n E4B.
  • L'ottimizzatore basato sui dati è un ottimizzatore iterativo a livello di attività batch che migliora i prompt valutando la risposta del modello a prompt etichettati di esempio rispetto a metriche di valutazione specifiche per il modello di destinazione selezionato. È per l'ottimizzazione più avanzata che ti consente di configurare i parametri di ottimizzazione e fornire alcuni campioni etichettati. Inoltre, lo strumento di ottimizzazione basato sui dati supporta l'ottimizzazione per i modelli Gemini disponibili a livello generale e supporta i modelli personalizzati di cui è stato eseguito il deployment localmente o da Vertex AI Model Garden.

Questi metodi sono disponibili per gli utenti tramite l'interfaccia utente o l'SDK Vertex AI.

Passaggi successivi