Mengoptimalkan perintah

Dokumen ini menjelaskan cara menggunakan pengoptimal perintah Vertex AI untuk mengoptimalkan performa perintah secara otomatis dengan meningkatkan petunjuk sistem untuk serangkaian perintah.

Pengoptimal perintah Vertex AI dapat membantu Anda meningkatkan kualitas perintah dengan cepat dalam skala besar, tanpa menulis ulang petunjuk sistem atau perintah individual secara manual. Hal ini berguna saat beralih antar-model dan Anda ingin menggunakan kembali petunjuk dan perintah sistem.

Pendekatan berikut tersedia untuk mengoptimalkan perintah:

  • Pengoptimal zero-shot adalah pengoptimal latensi rendah real-time yang meningkatkan kualitas satu perintah atau template instruksi sistem. Fitur ini cepat dan tidak memerlukan penyiapan tambahan selain memberikan perintah atau petunjuk sistem asli Anda. Pengoptimal zero-shot tidak bergantung pada model dan dapat meningkatkan kualitas perintah untuk modelGoogle apa pun. Selain itu, ada mode gemini_nano untuk mengoptimalkan perintah secara khusus untuk model yang lebih kecil, seperti Gemini Nano dan Gemma 3n E4B.
  • Pengoptimal few-shot adalah pengoptimal latensi rendah real-time yang menyempurnakan petunjuk sistem dengan menganalisis contoh saat respons model tidak memenuhi ekspektasi. Dengan memberikan contoh spesifik perintah, respons model, dan masukan tentang respons tersebut, Anda dapat meningkatkan performa perintah secara sistematis.
  • Pengoptimal berbasis data adalah pengoptimal iteratif tingkat tugas batch yang meningkatkan kualitas perintah dengan mengevaluasi respons model terhadap perintah berlabel sampel berdasarkan metrik evaluasi yang ditentukan untuk model target yang Anda pilih. Fitur ini ditujukan untuk pengoptimalan yang lebih canggih yang memungkinkan Anda mengonfigurasi parameter pengoptimalan dan memberikan beberapa sampel berlabel. Selain itu, pengoptimal berbasis data mendukung pengoptimalan untuk model Gemini yang tersedia secara umum, seperti Gemini Nano dan Gemma 3n E4B, serta model kustom yang di-deploy secara lokal atau dari Vertex AI Model Garden.

Metode ini tersedia bagi pengguna melalui konsol Google Cloud atau Vertex AI SDK.

Langkah berikutnya