Alat: get_evaluation_run
Mendapatkan detail proses evaluasi yang ditentukan.
Contoh kode berikut menunjukkan cara menggunakan curl untuk memanggil alat MCP get_evaluation_run.
| Permintaan Curl |
|---|
curl --location 'https://ces.googleapis.com/mcp' \ --header 'content-type: application/json' \ --header 'accept: application/json, text/event-stream' \ --data '{ "method": "tools/call", "params": { "name": "get_evaluation_run", "arguments": { // Provide these details according to the MCP tool specification. } }, "jsonrpc": "2.0", "id": 1 }' |
Skema Input
Pesan permintaan untuk EvaluationService.GetEvaluationRun.
GetEvaluationRunRequest
| Representasi JSON |
|---|
{ "name": string } |
| Kolom | |
|---|---|
name |
Wajib. Nama resource proses evaluasi yang akan diambil. |
Skema Output
Jalannya evaluasi mewakili semua hasil evaluasi dari eksekusi evaluasi.
EvaluationRun
| Representasi JSON |
|---|
{ "name": string, "displayName": string, "evaluationResults": [ string ], "createTime": string, "initiatedBy": string, "appVersion": string, "appVersionDisplayName": string, "changelog": string, "changelogCreateTime": string, "evaluations": [ string ], "evaluationDataset": string, "evaluationType": enum ( |
| Kolom | |
|---|---|
name |
ID. ID unik proses evaluasi. Format: |
displayName |
Opsional. Nama tampilan yang ditentukan pengguna untuk proses evaluasi. default: " |
evaluationResults[] |
Hanya output. Hasil evaluasi yang merupakan bagian dari proses ini. Format: |
createTime |
Hanya output. Stempel waktu saat proses evaluasi dibuat. Menggunakan RFC 3339 yang outputnya akan selalu dinormalisasi Z dan menggunakan 0, 3, 6, atau 9 digit pecahan. Offset selain "Z" juga diterima. Contoh: |
initiatedBy |
Hanya output. Pengguna yang memulai proses evaluasi. |
appVersion |
Hanya output. Versi aplikasi yang akan dievaluasi. Format: |
appVersionDisplayName |
Hanya output. Nama tampilan |
changelog |
Hanya output. Log perubahan versi aplikasi yang digunakan untuk menjalankan evaluasi. Kolom ini diisi jika pengguna menjalankan evaluasi pada versi terbaru/draf. |
changelogCreateTime |
Hanya output. Waktu pembuatan log perubahan versi aplikasi yang digunakan untuk menjalankan evaluasi. Kolom ini diisi jika pengguna menjalankan evaluasi pada versi terbaru/draf. Menggunakan RFC 3339 yang outputnya akan selalu dinormalisasi Z dan menggunakan 0, 3, 6, atau 9 digit pecahan. Offset selain "Z" juga diterima. Contoh: |
evaluations[] |
Hanya output. Evaluasi yang merupakan bagian dari proses ini. Daftar dapat berisi evaluasi dari kedua jenis. Kolom ini tidak dapat muncul bersamaan dengan |
evaluationDataset |
Hanya output. Set data evaluasi yang terkait dengan proses ini. Kolom ini tidak dapat muncul bersamaan dengan |
evaluationType |
Hanya output. Jenis evaluasi dalam proses ini. |
state |
Hanya output. Status proses evaluasi. |
progress |
Hanya output. Progres eksekusi evaluasi. |
config |
Hanya output. Konfigurasi yang digunakan dalam run. |
error |
Hanya output. Tidak digunakan lagi: Gunakan error_info sebagai gantinya. Terjadi error selama eksekusi. |
errorInfo |
Hanya output. Informasi error untuk proses evaluasi. |
evaluationRunSummaries |
Hanya output. Peta nama evaluasi ke EvaluationRunSummary. Objek yang berisi daftar pasangan |
latencyReport |
Hanya output. Laporan latensi untuk proses evaluasi. |
runCount |
Hanya output. Jumlah berapa kali evaluasi di dalam proses dijalankan. |
personaRunConfigs[] |
Hanya output. Konfigurasi yang akan digunakan untuk menjalankan per persona. |
optimizationConfig |
Opsional. Konfigurasi untuk menjalankan langkah pengoptimalan setelah menjalankan evaluasi. Jika tidak disetel, langkah pengoptimalan tidak akan dijalankan. |
scheduledEvaluationRun |
Hanya output. Nama resource eksekusi evaluasi terjadwal yang membuat eksekusi evaluasi ini. Kolom ini hanya disetel jika proses evaluasi dibuat oleh proses evaluasi terjadwal. Format: |
goldenRunMethod |
Hanya output. Metode yang digunakan untuk menjalankan evaluasi. |
operation |
Hanya output. Operasi yang membuat proses evaluasi ini. Format: |
Stempel waktu
| Representasi JSON |
|---|
{ "seconds": string, "nanos": integer } |
| Kolom | |
|---|---|
seconds |
Mewakili detik waktu UTC sejak epoch Unix 1970-01-01T00:00:00Z. Harus antara -62135596800 dan 253402300799 inklusif (yang sesuai dengan 0001-01-01T00:00:00Z hingga 9999-12-31T23:59:59Z). |
nanos |
Pecahan detik non-negatif pada resolusi nanodetik. Kolom ini adalah bagian nanodetik dari durasi, bukan alternatif untuk detik. Nilai detik negatif dengan pecahan harus tetap memiliki nilai nanos non-negatif yang dihitung maju dalam waktu. Harus antara 0 dan 999.999.999 inklusif. |
Progres
| Representasi JSON |
|---|
{ "totalCount": integer, "failedCount": integer, "errorCount": integer, "completedCount": integer, "passedCount": integer, "cancelledCount": integer } |
| Kolom | |
|---|---|
totalCount |
Hanya output. Jumlah total hasil evaluasi dalam proses ini. |
failedCount |
Hanya output. Jumlah hasil evaluasi yang selesai dengan hasil GAGAL. (EvaluationResult.execution_state adalah COMPLETED dan EvaluationResult.evaluation_status adalah FAIL). |
errorCount |
Hanya output. Jumlah hasil evaluasi yang gagal dieksekusi. (EvaluationResult.execution_state adalah ERROR). |
completedCount |
Hanya output. Jumlah hasil evaluasi yang berhasil diselesaikan. (EvaluationResult.execution_state adalah COMPLETED). |
passedCount |
Hanya output. Jumlah hasil evaluasi yang selesai dengan hasil LULUS. (EvaluationResult.execution_state adalah COMPLETED dan EvaluationResult.evaluation_status adalah PASS). |
cancelledCount |
Hanya output. Jumlah hasil evaluasi yang dibatalkan. (EvaluationResult.execution_state adalah CANCELLED). |
EvaluationConfig
| Representasi JSON |
|---|
{ "inputAudioConfig": { object ( |
| Kolom | |
|---|---|
inputAudioConfig |
Opsional. Konfigurasi untuk memproses audio input. |
outputAudioConfig |
Opsional. Konfigurasi untuk membuat audio output. |
evaluationChannel |
Opsional. Channel yang akan dievaluasi. |
toolCallBehaviour |
Opsional. Menentukan apakah evaluasi harus menggunakan panggilan alat asli atau alat palsu. |
InputAudioConfig
| Representasi JSON |
|---|
{
"audioEncoding": enum ( |
| Kolom | |
|---|---|
audioEncoding |
Wajib. Encoding data audio input. |
sampleRateHertz |
Wajib. Frekuensi sampel (dalam Hertz) data audio input. |
noiseSuppressionLevel |
Opsional. Apakah akan mengaktifkan peredam bising pada audio input. Nilai yang tersedia adalah "low", "moderate", "high", "very_high". |
OutputAudioConfig
| Representasi JSON |
|---|
{
"audioEncoding": enum ( |
| Kolom | |
|---|---|
audioEncoding |
Wajib. Encoding data audio output. |
sampleRateHertz |
Wajib. Frekuensi sampel (dalam Hertz) data audio output. |
Status
| Representasi JSON |
|---|
{ "code": integer, "message": string, "details": [ { "@type": string, field1: ..., ... } ] } |
| Kolom | |
|---|---|
code |
Kode status, harus berupa nilai enum dari |
message |
Pesan error yang ditampilkan ke developer dan seharusnya dalam bahasa Inggris. Setiap pesan error yang ditampilkan kepada pengguna harus dilokalkan dan dikirim di kolom |
details[] |
Daftar pesan yang membawa detail error. Ada seperangkat jenis pesan umum untuk digunakan API. Objek yang berisi kolom tipe arbitrer. Kolom tambahan |
Semua
| Representasi JSON |
|---|
{ "typeUrl": string, "value": string } |
| Kolom | |
|---|---|
typeUrl |
Mengidentifikasi jenis pesan Protobuf yang diserialisasi dengan referensi URI yang terdiri dari awalan yang diakhiri dengan garis miring dan nama jenis yang sepenuhnya memenuhi syarat. Contoh: type.googleapis.com/google.protobuf.StringValue String ini harus berisi setidaknya satu karakter Awalan bersifat arbitrer dan implementasi Protobuf diharapkan cukup menghapus semua yang ada hingga dan termasuk Semua string URL tipe harus berupa referensi URI yang sah dengan batasan tambahan (untuk format teks) bahwa konten referensi hanya boleh terdiri dari karakter alfanumerik, escape yang dienkode persen, dan karakter dalam set berikut (tidak termasuk tanda petik terbalik luar): Dalam desain asli |
value |
Berisi serialisasi Protobuf dari jenis yang dijelaskan oleh type_url. String berenkode base64. |
EvaluationErrorInfo
| Representasi JSON |
|---|
{
"errorType": enum ( |
| Kolom | |
|---|---|
errorType |
Hanya output. Jenis error. |
errorMessage |
Hanya output. Pesan error. |
sessionId |
Hanya output. ID sesi untuk percakapan yang menyebabkan error. |
userFacingErrorMessage |
Hanya output. Pesan error yang ditampilkan kepada pengguna. |
EvaluationRunSummariesEntry
| Representasi JSON |
|---|
{
"key": string,
"value": {
object ( |
| Kolom | |
|---|---|
key |
|
value |
|
EvaluationRunSummary
| Representasi JSON |
|---|
{ "passedCount": integer, "failedCount": integer, "errorCount": integer } |
| Kolom | |
|---|---|
passedCount |
Hanya output. Jumlah hasil lulus untuk Evaluasi terkait dalam proses ini. |
failedCount |
Hanya output. Jumlah hasil yang gagal untuk Evaluasi terkait dalam operasi ini. |
errorCount |
Hanya output. Jumlah hasil error untuk Evaluasi terkait dalam proses ini. |
LatencyReport
| Representasi JSON |
|---|
{ "toolLatencies": [ { object ( |
| Kolom | |
|---|---|
toolLatencies[] |
Hanya output. Daftar yang tidak diurutkan. Metrik latensi untuk setiap alat. |
callbackLatencies[] |
Hanya output. Daftar yang tidak diurutkan. Metrik latensi untuk setiap callback. |
guardrailLatencies[] |
Hanya output. Daftar yang tidak diurutkan. Metrik latensi untuk setiap pembatas. |
llmCallLatencies[] |
Hanya output. Daftar yang tidak diurutkan. Metrik latensi untuk setiap panggilan LLM. |
sessionCount |
Hanya output. Jumlah total sesi yang dipertimbangkan dalam laporan latensi. |
ToolLatency
| Representasi JSON |
|---|
{ "toolDisplayName": string, "latencyMetrics": { object ( |
| Kolom | |
|---|---|
toolDisplayName |
Hanya output. Nama tampilan alat. |
latencyMetrics |
Hanya output. Metrik latensi untuk alat. |
Kolom union tool_identifier. ID alat. tool_identifier hanya ada berupa salah satu diantara berikut: |
|
tool |
Hanya output. Format: |
toolsetTool |
Hanya output. ID alat toolset. |
ToolsetTool
| Representasi JSON |
|---|
{ "toolset": string, "toolId": string } |
| Kolom | |
|---|---|
toolset |
Wajib. Nama resource Toolset dari mana alat ini berasal. Format: |
toolId |
Opsional. ID alat untuk memfilter alat yang akan diambil skemanya. |
LatencyMetrics
| Representasi JSON |
|---|
{ "p50Latency": string, "p90Latency": string, "p99Latency": string, "callCount": integer } |
| Kolom | |
|---|---|
p50Latency |
Hanya output. Latensi persentil ke-50. Durasi dalam detik dengan maksimal sembilan digit pecahan, diakhiri dengan ' |
p90Latency |
Hanya output. Latensi persentil ke-90. Durasi dalam detik dengan maksimal sembilan digit pecahan, diakhiri dengan ' |
p99Latency |
Hanya output. Latensi persentil ke-99. Durasi dalam detik dengan maksimal sembilan digit pecahan, diakhiri dengan ' |
callCount |
Hanya output. Frekuensi resource dipanggil. |
Durasi
| Representasi JSON |
|---|
{ "seconds": string, "nanos": integer } |
| Kolom | |
|---|---|
seconds |
Detik yang ditandatangani dari rentang waktu. Harus dari -315.576.000.000 hingga +315.576.000.000 inklusif. Catatan: batas ini dihitung dari: 60 dtk/mnt * 60 mnt/j * 24 j/hr * 365,25 hr/thn * 10.000 thn |
nanos |
Pecahan detik bertanda pada resolusi nanodetik rentang waktu. Durasi kurang dari satu detik ditampilkan dengan kolom |
CallbackLatency
| Representasi JSON |
|---|
{
"stage": string,
"latencyMetrics": {
object ( |
| Kolom | |
|---|---|
stage |
Hanya output. Tahap callback. |
latencyMetrics |
Hanya output. Metrik latensi untuk callback. |
GuardrailLatency
| Representasi JSON |
|---|
{
"guardrail": string,
"guardrailDisplayName": string,
"latencyMetrics": {
object ( |
| Kolom | |
|---|---|
guardrail |
Hanya output. Nama pembatas. Format: |
guardrailDisplayName |
Hanya output. Nama tampilan pembatas. |
latencyMetrics |
Hanya output. Metrik latensi untuk pembatasan. |
LlmCallLatency
| Representasi JSON |
|---|
{
"model": string,
"latencyMetrics": {
object ( |
| Kolom | |
|---|---|
model |
Hanya output. Nama model. |
latencyMetrics |
Hanya output. Metrik latensi untuk panggilan LLM. |
PersonaRunConfig
| Representasi JSON |
|---|
{ "persona": string, "taskCount": integer } |
| Kolom | |
|---|---|
persona |
Opsional. Persona yang akan digunakan untuk evaluasi. Format: |
taskCount |
Opsional. Jumlah tugas yang akan dijalankan untuk persona. |
OptimizationConfig
| Representasi JSON |
|---|
{
"generateLossReport": boolean,
"assistantSession": string,
"reportSummary": string,
"shouldSuggestFix": boolean,
"status": enum ( |
| Kolom | |
|---|---|
generateLossReport |
Opsional. Apakah akan membuat laporan kehilangan. |
assistantSession |
Hanya output. Sesi asisten yang akan digunakan untuk pengoptimalan berdasarkan proses evaluasi ini. Format: |
reportSummary |
Hanya output. Ringkasan laporan kehilangan. |
shouldSuggestFix |
Hanya output. Apakah akan menyarankan perbaikan untuk kerugian. |
status |
Hanya output. Status proses pengoptimalan. |
errorMessage |
Hanya output. Pesan error jika proses pengoptimalan gagal. |
lossReport |
Hanya output. Laporan kerugian yang dibuat. |
Struct
| Representasi JSON |
|---|
{ "fields": { string: value, ... } } |
| Kolom | |
|---|---|
fields |
Peta nilai yang diketik secara dinamis dan tidak berurutan. Objek yang berisi daftar pasangan |
FieldsEntry
| Representasi JSON |
|---|
{ "key": string, "value": value } |
| Kolom | |
|---|---|
key |
|
value |
|
Nilai
| Representasi JSON |
|---|
{ // Union field |
| Kolom | |
|---|---|
Kolom union kind. Jenis nilai. kind hanya ada berupa salah satu diantara berikut: |
|
nullValue |
Mewakili JSON |
numberValue |
Mewakili angka JSON. Tidak boleh |
stringValue |
Mewakili string JSON. |
boolValue |
Mewakili boolean JSON (literal |
structValue |
Mewakili objek JSON. |
listValue |
Mewakili array JSON. |
ListValue
| Representasi JSON |
|---|
{ "values": [ value ] } |
| Kolom | |
|---|---|
values[] |
Kolom berulang dari nilai yang diketik secara dinamis. |
EvaluationType
Jenis evaluasi dalam proses ini. Nilai tambahan dapat ditambahkan di masa mendatang.
| Enum | |
|---|---|
EVALUATION_TYPE_UNSPECIFIED |
Jenis evaluasi tidak ditentukan. |
GOLDEN |
Evaluasi golden. |
SCENARIO |
Evaluasi skenario. |
MIXED |
Menunjukkan bahwa proses mencakup campuran evaluasi emas dan skenario. |
EvaluationRunState
Status proses evaluasi.
| Enum | |
|---|---|
EVALUATION_RUN_STATE_UNSPECIFIED |
Status eksekusi evaluasi tidak ditentukan. |
QUEUED |
Menunjukkan bahwa proses evaluasi dimasukkan dalam antrean. |
RUNNING |
Evaluasi sedang berjalan. |
COMPLETED |
Eksekusi evaluasi telah selesai. |
ERROR |
Terjadi error pada proses evaluasi. |
CANCELLED |
Eksekusi evaluasi dibatalkan. |
AudioEncoding
AudioEncoding menentukan format encoding untuk data audio.
| Enum | |
|---|---|
AUDIO_ENCODING_UNSPECIFIED |
Encoding audio tidak ditentukan. |
LINEAR16 |
Encoding audio PCM linear 16-bit. |
MULAW |
Sampel 8-bit yang memadatkan sampel audio 14-bit menggunakan G.711 PCMU/mu-law. |
ALAW |
Sampel 8-bit yang memadatkan sampel audio 14-bit menggunakan G.711 PCMU/A-law. |
EvaluationChannel
Channel yang akan dievaluasi.
| Enum | |
|---|---|
EVALUATION_CHANNEL_UNSPECIFIED |
Saluran evaluasi tidak ditentukan. |
TEXT |
Saluran evaluasi hanya teks. |
AUDIO |
Saluran evaluasi audio. |
EvaluationToolCallBehaviour
Mengonfigurasi perilaku panggilan alat untuk menjalankan evaluasi.
| Enum | |
|---|---|
EVALUATION_TOOL_CALL_BEHAVIOUR_UNSPECIFIED |
Perilaku panggilan alat tidak ditentukan. Akan menggunakan panggilan alat asli secara default. |
REAL |
Gunakan panggilan alat sebenarnya. |
FAKE |
Menggunakan panggilan alat palsu. |
ErrorType
Jenis error
| Enum | |
|---|---|
ERROR_TYPE_UNSPECIFIED |
Jenis error tidak ditentukan. |
RUNTIME_FAILURE |
Kegagalan selama eksekusi runtime. |
CONVERSATION_RETRIEVAL_FAILURE |
Gagal mengambil percakapan dari CES Runtime. |
METRIC_CALCULATION_FAILURE |
Gagal menghitung metrik / hasil. |
EVALUATION_UPDATE_FAILURE |
Gagal memperbarui evaluasi. |
QUOTA_EXHAUSTED |
Kehabisan kuota. |
USER_SIMULATION_FAILURE |
Kegagalan selama simulasi pengguna. |
OptimizationStatus
Status proses pengoptimalan.
| Enum | |
|---|---|
OPTIMIZATION_STATUS_UNSPECIFIED |
Status pengoptimalan tidak ditentukan. |
RUNNING |
Pengoptimalan sedang berjalan. |
COMPLETED |
Pengoptimalan telah selesai. |
ERROR |
Pengoptimalan gagal karena error internal. |
NullValue
Mewakili JSON null.
NullValue adalah sentinel, menggunakan enum dengan hanya satu nilai untuk merepresentasikan nilai null untuk gabungan jenis Value.
Kolom berjenis NullValue dengan nilai selain 0 dianggap tidak valid. Sebagian besar serializer ProtoJSON akan memancarkan Value dengan null_value yang ditetapkan sebagai null JSON, terlepas dari nilai bilangan bulatnya, dan akan melakukan round trip ke nilai 0.
| Enum | |
|---|---|
NULL_VALUE |
Nilai null. |
GoldenRunMethod
Metode yang digunakan untuk menjalankan evaluasi.
| Enum | |
|---|---|
GOLDEN_RUN_METHOD_UNSPECIFIED |
Metode menjalankan tidak ditentukan. |
STABLE |
Jalankan evaluasi sebagai pemutaran ulang yang stabil, dengan setiap giliran merupakan sesi unik dengan giliran yang diharapkan sebelumnya disisipkan sebagai konteks. |
NAIVE |
Jalankan evaluasi sebagai pemutaran ulang naif, dengan menjalankan satu sesi tanpa konteks yang disisipkan. |
Anotasi Alat
Anotasi alat dikirim ke klien MCP untuk menjelaskan risiko dasar alat tertentu. Sebagian besar klien memperlakukan petunjuk ini sebagai tidak tepercaya, tetapi petunjuk ini dapat digunakan untuk memutuskan kapan perintah konfirmasi dapat dikirim ke pengguna.
Selain string judul, petunjuk boolean berikut ditentukan sebagai berikut:
readOnlyHint: Jika benar, alat tidak akan mengubah lingkungannya. Default: salah.destructiveHint: Jika benar, alat dapat melakukan tindakan yang merusak. Jika salah (false), alat hanya dapat melakukan tindakan tambahan. Default: true.idempotentHint: Jika benar (true), memanggil alat berulang kali dengan argumen yang sama tidak akan memberikan efek tambahan pada lingkungannya. Default: salah.openWorldHint: Jika benar, alat dapat berinteraksi dengan 'dunia terbuka' entitas eksternal. Jika salah (false), alat hanya dapat berinteraksi dengan entitas internal. Misalnya, alat penelusuran web akan menjadi open world, sedangkan alat memori tidak akan menjadi open world.
Petunjuk Destruktif: ❌ | Petunjuk Idempoten: ✅ | Petunjuk Hanya Baca: ✅ | Petunjuk Dunia Terbuka: ❌