Praktik terbaik berikut dapat membantu Anda membangun agen yang andal.
Nama playbook dalam bahasa alami
Nama playbook harus jelas, deskriptif, dan dalam bahasa Inggris yang alami. Hal ini membantu performa Pembuat AI saat runtime. Misalnya, "Panduan Pusat Bantuan Pelanggan" lebih baik daripada "pakar_perusahaan".
Gunakan nama yang tidak lebih dari 64 karakter, termasuk huruf dan spasi dalam bahasa Inggris.
Sasaran yang ringkas
Tujuan harus berupa deskripsi singkat tentang tujuan playbook.
Memberikan petunjuk yang berkualitas
Petunjuk harus:
- mencerminkan pendekatan langkah demi langkah untuk memecahkan masalah pengguna akhir
- berupa kalimat natural language yang ringkas berisi petunjuk tingkat tinggi
- langsung dan menentukan skenario penggunaan alat
Setidaknya satu contoh untuk setiap playbook
Anda harus memiliki minimal satu contoh untuk setiap playbook, tetapi sebaiknya memiliki minimal empat contoh. Contoh harus mencakup skenario jalur yang berhasil.
Tanpa contoh yang cukup, playbook kemungkinan akan menghasilkan perilaku yang tidak dapat diprediksi. Jika playbook Anda tidak merespons atau berperilaku seperti yang Anda harapkan, kemungkinan penyebabnya adalah contoh yang tidak ada atau tidak didefinisikan dengan baik. Coba tingkatkan kualitas contoh Anda atau tambahkan contoh baru.
Ketepatan petunjuk dan contoh
Meskipun membantu untuk menulis petunjuk yang jelas dan deskriptif, kualitas dan kuantitas contoh Anda yang menentukan akurasi perilaku playbook. Dengan kata lain, luangkan lebih banyak waktu untuk menulis contoh yang menyeluruh daripada menulis petunjuk yang sangat tepat.
Alat referensi dalam contoh
Jika playbook dirancang untuk memberikan respons dengan menggunakan alat, rujuk alat dalam contoh yang sesuai dengan jenis permintaan ini.
Kolom skema alat operationId
Saat menentukan skema untuk alat Anda, nilai operationId
sangat penting.
Petunjuk playbook Anda akan merujuk pada nilai ini.
Berikut adalah rekomendasi penamaan untuk kolom ini:
- Hanya huruf, angka, dan garis bawah.
- Harus unik di antara semua
operationId
yang dijelaskan dalam skema. - Harus berupa nama yang bermakna yang mencerminkan kemampuan yang diberikan.
Validasi skema alat
Anda harus memvalidasi skema alat Anda. Anda dapat menggunakan Swagger Editor untuk memeriksa sintaksis skema openAPI 3.0.
Menangani hasil alat yang kosong
Jika playbook Anda mengandalkan alat untuk menginformasikan responsnya, hasil alat yang kosong dapat menyebabkan perilaku playbook yang tidak dapat diprediksi. Terkadang, Generator AI playbook akan berhalusinasi informasi dalam respons, bukan hasil alat. Untuk mencegah hal ini, Anda dapat menambahkan petunjuk khusus untuk memastikan Generator AI Playbook tidak mencoba menjawab sendiri.
Beberapa kasus penggunaan memerlukan respons playbook yang didasarkan pada hasil alat atau data yang diberikan dan perlu memitigasi respons yang hanya didasarkan pada pengetahuan Generator AI playbook.
Contoh petunjuk untuk mengurangi halusinasi:
- "Anda harus menggunakan alat ini untuk menjawab semua pertanyaan pengguna"
- "Jika Anda tidak mendapatkan data apa pun dari alat, respons bahwa Anda tidak tahu jawaban atas kueri pengguna"
- "Jangan mengarang jawaban jika Anda tidak mendapatkan data apa pun dari alat"
Membuat skema dengan Gemini
Gemini dapat membuat skema untuk Anda. Misalnya, coba "dapatkah Anda membuat contoh skema OpenAPI 3.0 untuk Google Kalender".
Playbook terfokus
Hindari membuat playbook yang sangat besar dan rumit. Setiap playbook harus menyelesaikan tugas yang spesifik dan jelas. Jika Anda memiliki playbook yang kompleks, pertimbangkan untuk membaginya menjadi sub-playbook yang lebih kecil.
Hindari loop dan rekursi
Jangan membuat loop atau rekursi saat menautkan agen dalam petunjuk Anda. Loop dapat terjadi jika Anda mencoba merutekan ke playbook induk yang, secara langsung atau tidak langsung, memanggil playbook saat ini.
Memberikan informasi perutean ke contoh
Jika playbook harus merutekan ke playbook lain, Anda harus memberikan informasi ini ke contoh. Ini diberikan ke contoh dari kolom End example with output information di bagian contoh Input & Output.
Misalnya, kalimat terakhir di kolom ini bisa berupa "Reroute back to the default playbook for further queries" (Alihkan kembali ke playbook default untuk kueri lebih lanjut).
Menggunakan fungsi JavaScript Messenger Agen Percakapan (Dialogflow CX) untuk personalisasi
Saat menggunakan Messenger Agen Percakapan (Dialogflow CX), fungsi berikut berguna untuk mengirim informasi personalisasi pengguna dari antarmuka web ke playbook:
Merencanakan performa
Fitur generatif biasanya memerlukan waktu beberapa detik atau bahkan puluhan detik untuk menghasilkan respons. Meskipun playbook meningkatkan kealamian percakapan, Anda harus mengelola waktu respons untuk mempertahankan pengalaman positif pengguna akhir. Berikut beberapa strategi untuk mengoptimalkan performa:
Menyeimbangkan Penggunaan Fitur Generatif
Pertimbangkan dengan cermat kompromi antara waktu yang diperlukan untuk menjalankan beberapa fitur generatif dan nilai yang mereka berikan pada percakapan. Hindari penggunaan fitur ini secara berlebihan jika tidak memberikan kontribusi yang signifikan terhadap sasaran pengguna.
Meminimalkan Input fitur Generatif
Berusahalah untuk mengumpulkan dan memproses jumlah informasi minimum yang diperlukan agar Generator AI dapat menghasilkan respons yang berguna. Hal ini dapat mengurangi waktu pemrosesan secara signifikan.
Menggunakan Context Caching
Jika Anda menggunakan Gemini melalui alat dan memiliki konteks awal yang besar, pelajari informasi caching menggunakan Vertex AI Context Caching untuk menghindari permintaan berulang untuk data yang sama. Menerapkan respons tetap untuk kecepatan:
Jika aplikasi Anda tidak memerlukan konten dinamis yang unik, pertimbangkan untuk menyimpan respons yang sering digunakan dalam database tradisional seperti Firebase. Karena telah ditentukan sebelumnya dan tersedia, respons tetap ini memberikan waktu respons yang jauh lebih cepat daripada fitur generatif yang perlu menghitung jawaban secara langsung.
Memberi petunjuk kepada Generator AI untuk menghasilkan Respons Playbook yang Singkat
Untuk input dan output teks, waktu respons Generator AI sangat bergantung pada model yang digunakan dan panjang output. Respons singkat dapat meningkatkan performa secara signifikan. Meskipun panjang input juga menjadi faktor, panjang output memiliki dampak yang lebih besar.