Resource: EvaluationCase
Kasus evaluasi individual.
| Representasi JSON |
|---|
{ "name": string, "displayName": string, "description": string, "evaluationContext": string, "evaluationMatchers": [ string ], // Union field |
| Kolom | |
|---|---|
name |
ID. Nama resource kasus evaluasi. Format: projects/{project}/locations/{location}/brands/{brand}/evaluationCases/{evaluationCase} |
displayName |
Wajib. Nama kasus evaluasi yang dapat dibaca manusia. |
description |
Opsional. Deskripsi kasus evaluasi. |
evaluationContext |
Wajib. Nama resource konteks evaluasi yang terkait dengan kasus ini. Format: projects/{project}/locations/{location}/brands/{brand}/evaluationContexts/{evaluationContext} |
evaluationMatchers[] |
Opsional. Daftar pencocok evaluasi yang akan digunakan untuk kasus evaluasi. Evaluasi dilakukan sekali di akhir sesi BidiProcessOrder. Setiap matcher menghasilkan hasil boolean yang menunjukkan apakah matcher evaluasi lulus atau gagal. |
Kolom union test_case. Kasus pengujian yang akan digunakan untuk kasus evaluasi. test_case hanya ada berupa salah satu diantara berikut: |
|
staticTextTurnCase |
Opsional. Kasus pengujian saat giliran teks pengguna dan agen bersifat statis. |
dynamicTextTurnCase |
Opsional. Kasus pengujian saat input teks pengguna dibuat secara dinamis menggunakan LLM dengan petunjuk pengurutan. |
StaticTextTurnCase
Kasus evaluasi dengan input pengguna berupa input teks statis.
| Representasi JSON |
|---|
{
"textTurns": [
{
object ( |
| Kolom | |
|---|---|
textTurns[] |
Wajib. Daftar giliran teks dalam kasus evaluasi. |
TextTurn
Satu giliran teks dalam kasus evaluasi, yang terdiri dari input pengguna dan respons agen.
| Representasi JSON |
|---|
{ "userTextInput": string, "exampleAgentResponse": string } |
| Kolom | |
|---|---|
userTextInput |
Wajib. Input teks pengguna untuk giliran ini. |
exampleAgentResponse |
Opsional. Contoh respons agen untuk giliran ini. Perhatikan bahwa ini bukan respons agen yang sebenarnya. Respons agen yang sebenarnya mungkin berbeda dari contoh respons ini. Contoh respons TIDAK digunakan untuk evaluasi, tetapi hanya untuk tujuan tampilan agar kasus evaluasi lebih mudah dipahami. |
DynamicTextTurnCase
Kasus evaluasi saat input pengguna dibuat secara dinamis menggunakan LLM dengan petunjuk pengurutan.
| Representasi JSON |
|---|
{ "orderingInstruction": string } |
| Kolom | |
|---|---|
orderingInstruction |
Wajib. Petunjuk pemesanan bagi pengguna untuk berinteraksi dengan Agen Pemesanan Makanan. LLM secara dinamis menghasilkan input teks pengguna berdasarkan petunjuk pemesanan. Hal ini dapat mencakup item yang ditargetkan untuk dipesan, preferensi dan batasan pengguna, serta tindakan spesifik yang harus diinformasikan pengguna kepada agen pemesanan. |
Metode |
|
|---|---|
|
Membuat EvaluationCase secara batch. |
|
Melakukan kumpulan update pada EvaluationCases. |
|
Membuat EvaluationCase. |
|
Menghapus EvaluationCase yang ditentukan. |
|
Mendapatkan EvaluationCase. |
|
Mencantumkan EvaluationCases. |
|
Memperbarui EvaluationCase yang ditentukan. |
|
Menjalankan kasus evaluasi. |