Mengoptimalkan perintah

Dokumen ini menjelaskan cara menggunakan pengoptimal perintah Vertex AI untuk mengoptimalkan performa perintah secara otomatis dengan meningkatkan petunjuk sistem untuk serangkaian perintah.

Pengoptimal perintah Vertex AI dapat membantu Anda meningkatkan kualitas perintah dengan cepat dalam skala besar, tanpa menulis ulang petunjuk sistem atau perintah individual secara manual. Hal ini sangat berguna saat Anda ingin menggunakan petunjuk dan perintah sistem yang ditulis untuk satu model dengan model yang berbeda.

Kami menawarkan dua pendekatan untuk mengoptimalkan perintah:

  • Pengoptimal zero-shot adalah pengoptimal latensi rendah real-time yang meningkatkan kualitas satu perintah atau template petunjuk sistem. Fitur ini cepat dan tidak memerlukan penyiapan tambahan selain memberikan perintah atau petunjuk sistem asli Anda. Pengoptimal zero-shot tidak bergantung pada model dan dapat meningkatkan kualitas perintah untuk modelGoogle apa pun. Selain itu, tersedia mode gemini_nano untuk mengoptimalkan perintah secara khusus untuk model di perangkat, seperti Gemini Nano dan Gemma 3n E4B.
  • Pengoptimal berbasis data adalah pengoptimal iteratif tingkat tugas batch yang meningkatkan kualitas perintah dengan mengevaluasi respons model terhadap perintah berlabel sampel berdasarkan metrik evaluasi yang ditentukan untuk model target yang Anda pilih. Fitur ini ditujukan untuk pengoptimalan yang lebih canggih yang memungkinkan Anda mengonfigurasi parameter pengoptimalan dan memberikan beberapa sampel berlabel. Selain itu, pengoptimal berbasis data mendukung pengoptimalan untuk model Gemini yang tersedia secara umum dan mendukung model kustom yang di-deploy secara lokal atau dari Vertex AI Model Garden.

Metode ini tersedia bagi pengguna melalui antarmuka pengguna (UI) atau Vertex AI SDK.

Langkah berikutnya