- משאב: EvaluationRun
- EvaluationRun.EvaluationType
- EvaluationRun.EvaluationRunState
- EvaluationRun.Progress
- EvaluationRun.EvaluationRunSummary
- LatencyReport
- LatencyReport.ToolLatency
- LatencyReport.LatencyMetrics
- LatencyReport.CallbackLatency
- LatencyReport.GuardrailLatency
- LatencyReport.LlmCallLatency
- Methods
משאב: EvaluationRun
הרצת הערכה מייצגת את כל תוצאות ההערכה מהרצת הערכה.
| ייצוג ב-JSON |
|---|
{ "name": string, "displayName": string, "evaluationResults": [ string ], "createTime": string, "initiatedBy": string, "appVersion": string, "appVersionDisplayName": string, "changelog": string, "changelogCreateTime": string, "evaluations": [ string ], "evaluationDataset": string, "evaluationType": enum ( |
| שדות | |
|---|---|
name |
מזהה. המזהה הייחודי של הרצת ההערכה. פורמט: |
displayName |
זה שינוי אופציונלי. השם המוצג של הרצת ההערכה שהוגדר על ידי המשתמש. ברירת מחדל: |
evaluationResults[] |
פלט בלבד. תוצאות ההערכה שקשורות להרצה הזו. פורמט: |
createTime |
פלט בלבד. חותמת הזמן שבה נוצרת ההרצה של ההערכה. הפורמט הוא RFC 3339, והפלט שנוצר תמיד יהיה בפורמט Z עם 0, 3, 6 או 9 ספרות אחרי הנקודה. אפשר להשתמש גם בהיסטים אחרים, לא רק ב-Z. דוגמאות: |
initiatedBy |
פלט בלבד. המשתמש שהפעיל את הרצת ההערכה. |
appVersion |
פלט בלבד. גרסת האפליקציה להערכה. פורמט: |
appVersionDisplayName |
פלט בלבד. השם המוצג של |
changelog |
פלט בלבד. יומן השינויים של גרסת האפליקציה שההערכה בוצעה לגביה. השדה הזה מאוכלס אם המשתמש מריץ הערכה בגרסה האחרונה או בטיוטה. |
changelogCreateTime |
פלט בלבד. זמן היצירה של יומן השינויים של גרסת האפליקציה שההערכה בוצעה לגביה. השדה הזה מאוכלס אם המשתמש מריץ הערכה בגרסה האחרונה או בטיוטה. הפורמט הוא RFC 3339, והפלט שנוצר תמיד יהיה בפורמט Z עם 0, 3, 6 או 9 ספרות אחרי הנקודה. אפשר להשתמש גם בהיסטים אחרים, לא רק ב-Z. דוגמאות: |
evaluations[] |
פלט בלבד. ההערכות שכלולות בהרצה הזו. הרשימה יכולה להכיל הערכות מכל אחד מהסוגים. השדה הזה לא יכול להופיע יחד עם השדה |
evaluationDataset |
פלט בלבד. מערך נתוני ההערכה שהריצה הזו משויכת אליו. השדה הזה לא יכול להופיע יחד עם השדה |
evaluationType |
פלט בלבד. סוג ההערכות בהרצה הזו. |
state |
פלט בלבד. המצב של ההרצה של ההערכה. |
progress |
פלט בלבד. ההתקדמות של הרצת ההערכה. |
config |
פלט בלבד. ההגדרה שבה נעשה שימוש בהרצה. |
error |
פלט בלבד. המאפיין הזה הוצא משימוש. במקומו צריך להשתמש ב-errorInfo. שגיאות שאירעו במהלך הביצוע. |
errorInfo |
פלט בלבד. פרטי השגיאה של הרצת ההערכה. |
evaluationRunSummaries |
פלט בלבד. מיפוי של שם ההערכה ל-EvaluationRunSummary. אובייקט שמכיל רשימה של |
latencyReport |
פלט בלבד. דוח השהיה של הרצת ההערכה. |
runCount |
פלט בלבד. מספר הפעמים שההערכות בתוך ההרצה הופעלו. |
personaRunConfigs[] |
פלט בלבד. ההגדרה שתשמש להרצה לכל פרסונה. |
optimizationConfig |
זה שינוי אופציונלי. הגדרה להרצת שלב האופטימיזציה אחרי הרצת ההערכה. אם לא מוגדרת אופטימיזציה, שלב האופטימיזציה לא יופעל. |
scheduledEvaluationRun |
פלט בלבד. שם המשאב של ההפעלה המתוזמנת של ההערכה שיצרה את הפעלת ההערכה הזו. השדה הזה מוגדר רק אם ההרצה של ההערכה נוצרה על ידי הרצה מתוזמנת של הערכה. פורמט: |
goldenRunMethod |
פלט בלבד. השיטה שבה נעשה שימוש להרצת ההערכה. |
operation |
פלט בלבד. הפעולה שיצרה את ההרצה הזו של ההערכה. פורמט: |
EvaluationRun.EvaluationType
סוג ההערכות בהרצה הזו. יכול להיות שבעתיד נוסיף עוד ערכים.
| טיפוסים בני מנייה (enum) | |
|---|---|
EVALUATION_TYPE_UNSPECIFIED |
לא צוין סוג הערכה. |
GOLDEN |
הערכה מוזהבת. |
SCENARIO |
הערכת התרחיש. |
MIXED |
מציין שההרצה כוללת שילוב של הערכות של תשובות מוזהבות ושל תרחישים. |
EvaluationRun.EvaluationRunState
המצב של ההרצה של ההערכה.
| טיפוסים בני מנייה (enum) | |
|---|---|
EVALUATION_RUN_STATE_UNSPECIFIED |
לא צוין מצב של הפעלת הערכה. |
QUEUED |
המשמעות היא שהרצת ההערכה ממתינה בתור. |
RUNNING |
הפעלת ההערכה מתבצעת. |
COMPLETED |
ההרצה של ההערכה הושלמה. |
ERROR |
יש שגיאה בהרצת ההערכה. |
CANCELLED |
הפעלת ההערכה בוטלה. |
EvaluationRun.Progress
ההתקדמות של הרצת ההערכה.
| ייצוג ב-JSON |
|---|
{ "totalCount": integer, "failedCount": integer, "errorCount": integer, "completedCount": integer, "passedCount": integer, "cancelledCount": integer } |
| שדות | |
|---|---|
totalCount |
פלט בלבד. המספר הכולל של תוצאות ההערכה בהרצה הזו. |
failedCount |
פלט בלבד. מספר התוצאות של בדיקות שהושלמו עם התוצאה FAIL. (EvaluationResult.execution_state הוא COMPLETED ו-EvaluationResult.evaluation_status הוא FAIL). |
errorCount |
פלט בלבד. מספר התוצאות של ההערכה שנכשלו בהרצה. (EvaluationResult.execution_state is ERROR). |
completedCount |
פלט בלבד. מספר התוצאות של ההערכה שהושלמו בהצלחה. (EvaluationResult.execution_state is COMPLETED). |
passedCount |
פלט בלבד. מספר התוצאות של הערכות שהושלמו עם תוצאה של PASS. (EvaluationResult.execution_state הוא COMPLETED ו-EvaluationResult.evaluation_status הוא PASS). |
cancelledCount |
פלט בלבד. מספר התוצאות של הערכות שבוטלו. (EvaluationResult.execution_state הוא CANCELLED). |
EvaluationRun.EvaluationRunSummary
המאפיין מכיל את סיכום התוצאות של בדיקה ספציפית בתהליך הערכה, כולל מספר התוצאות שעברו את הבדיקה ומספר התוצאות שנכשלו.
| ייצוג ב-JSON |
|---|
{ "passedCount": integer, "failedCount": integer, "errorCount": integer } |
| שדות | |
|---|---|
passedCount |
פלט בלבד. מספר התוצאות שעברו בבדיקה המשויכת בהרצה הזו. |
failedCount |
פלט בלבד. מספר התוצאות שנכשלו בהרצה הזו של ההערכה המשויכת. |
errorCount |
פלט בלבד. מספר תוצאות השגיאה להערכה המשויכת בהרצה הזו. |
LatencyReport
דוח השהיה של הרצת ההערכה.
| ייצוג ב-JSON |
|---|
{ "toolLatencies": [ { object ( |
| שדות | |
|---|---|
toolLatencies[] |
פלט בלבד. רשימה לא ממוינת. מדדי זמן האחזור של כל כלי. |
callbackLatencies[] |
פלט בלבד. רשימה לא ממוינת. מדדי זמן האחזור של כל קריאה חוזרת. |
guardrailLatencies[] |
פלט בלבד. רשימה לא ממוינת. מדדי השהיה לכל אמצעי הגנה. |
llmCallLatencies[] |
פלט בלבד. רשימה לא ממוינת. מדדי זמן האחזור לכל קריאה למודל שפה גדול. |
sessionCount |
פלט בלבד. המספר הכולל של הסשנים שנכללים בדוח זמן האחזור. |
LatencyReport.ToolLatency
מדדי השהיה של כלי יחיד.
| ייצוג ב-JSON |
|---|
{ "toolDisplayName": string, "latencyMetrics": { object ( |
| שדות | |
|---|---|
toolDisplayName |
פלט בלבד. השם המוצג של הכלי. |
latencyMetrics |
פלט בלבד. מדדי זמן האחזור של הכלי. |
| המזהה של הכלי. הרשימה הבאה כוללת שדות שאי אפשר להשתמש בהם בו-זמנית. בכל תשובה יוגדר לכל היותר אחד מהשדות: | |
tool |
פלט בלבד. פורמט: |
toolsetTool |
פלט בלבד. מזהה הכלי בערכת הכלים. |
| סוף השדות הבלעדיים. | |
LatencyReport.LatencyMetrics
מדדי זמן האחזור של רכיב.
| ייצוג ב-JSON |
|---|
{ "p50Latency": string, "p90Latency": string, "p99Latency": string, "callCount": integer } |
| שדות | |
|---|---|
p50Latency |
פלט בלבד. זמן האחזור באחוזון ה-50. משך זמן בשניות עם עד תשע ספרות אחרי הנקודה העשרונית, שמסתיים ב- |
p90Latency |
פלט בלבד. זמן האחזור באחוזון ה-90. משך זמן בשניות עם עד תשע ספרות אחרי הנקודה העשרונית, שמסתיים ב- |
p99Latency |
פלט בלבד. זמן האחזור באחוזון ה-99. משך זמן בשניות עם עד תשע ספרות אחרי הנקודה העשרונית, שמסתיים ב- |
callCount |
פלט בלבד. מספר הפעמים שהייתה קריאה למשאב. |
LatencyReport.CallbackLatency
מדדי השהיה של קריאה חוזרת אחת.
| ייצוג ב-JSON |
|---|
{
"stage": string,
"latencyMetrics": {
object ( |
| שדות | |
|---|---|
stage |
פלט בלבד. השלב של הקריאה החוזרת. |
latencyMetrics |
פלט בלבד. מדדי זמן האחזור של הקריאה החוזרת. |
LatencyReport.GuardrailLatency
מדדי השהיה של אמצעי בקרה יחיד.
| ייצוג ב-JSON |
|---|
{
"guardrail": string,
"guardrailDisplayName": string,
"latencyMetrics": {
object ( |
| שדות | |
|---|---|
guardrail |
פלט בלבד. השם של אמצעי הבקרה. פורמט: |
guardrailDisplayName |
פלט בלבד. השם המוצג של אמצעי הבקרה. |
latencyMetrics |
פלט בלבד. מדדי זמן האחזור של אמצעי הבקרה. |
LatencyReport.LlmCallLatency
מדדי השהיה של קריאה יחידה למודל LLM.
| ייצוג ב-JSON |
|---|
{
"model": string,
"latencyMetrics": {
object ( |
| שדות | |
|---|---|
model |
פלט בלבד. שם המודל. |
latencyMetrics |
פלט בלבד. מדדי זמן הטעינה של קריאת ה-LLM. |
Methods |
|
|---|---|
|
מחיקת הפעלה של הערכה. |
|
ייצוא של הפעלות הערכה. |
|
קבלת פרטים על הפעלת ההערכה שצוינה. |
|
רשימה של כל ההרצות של ההערכה באפליקציה הנתונה. |