- Ressource : EvaluationRun
- EvaluationRun.EvaluationType
- EvaluationRun.EvaluationRunState
- EvaluationRun.Progress
- EvaluationRun.EvaluationRunSummary
- LatencyReport
- LatencyReport.ToolLatency
- LatencyReport.LatencyMetrics
- LatencyReport.CallbackLatency
- LatencyReport.GuardrailLatency
- LatencyReport.LlmCallLatency
- Méthodes
Ressource : EvaluationRun
Une exécution d'évaluation représente tous les résultats d'une exécution d'évaluation.
| Représentation JSON |
|---|
{ "name": string, "displayName": string, "evaluationResults": [ string ], "createTime": string, "initiatedBy": string, "appVersion": string, "appVersionDisplayName": string, "changelog": string, "changelogCreateTime": string, "evaluations": [ string ], "evaluationDataset": string, "evaluationType": enum ( |
| Champs | |
|---|---|
name |
Identifiant. Identifiant unique de l'exécution de l'évaluation. Format : |
displayName |
Facultatif. Nom à afficher défini par l'utilisateur pour l'exécution de l'évaluation. Par défaut : " |
evaluationResults[] |
Uniquement en sortie. Résultats de l'évaluation qui font partie de cette exécution. Format : |
createTime |
Uniquement en sortie. Code temporel de la création de l'exécution d'évaluation. Utilise la norme RFC 3339, où la sortie générée utilise toujours le format UTC (indiqué par "Z" pour le temps universel coordonné) avec des secondes fractionnaires de 0, 3, 6 ou 9 chiffres décimaux. Des décalages horaires autres que "Z" (UTC) sont également acceptés. Exemples : |
initiatedBy |
Uniquement en sortie. Utilisateur à l'origine de l'exécution de l'évaluation. |
appVersion |
Uniquement en sortie. Version de l'application à évaluer. Format : |
appVersionDisplayName |
Uniquement en sortie. Nom à afficher du |
changelog |
Uniquement en sortie. Journal des modifications de la version de l'application par rapport à laquelle l'évaluation a été exécutée. Cette valeur est renseignée si l'utilisateur exécute une évaluation sur la dernière version ou le brouillon. |
changelogCreateTime |
Uniquement en sortie. Heure de création du journal des modifications de la version de l'application sur laquelle l'évaluation a été exécutée. Cette valeur est renseignée si l'utilisateur exécute une évaluation sur la dernière version ou le brouillon. Utilise la norme RFC 3339, où la sortie générée utilise toujours le format UTC (indiqué par "Z" pour le temps universel coordonné) avec des secondes fractionnaires de 0, 3, 6 ou 9 chiffres décimaux. Des décalages horaires autres que "Z" (UTC) sont également acceptés. Exemples : |
evaluations[] |
Uniquement en sortie. Évaluations qui font partie de cette exécution. La liste peut contenir des évaluations de l'un ou l'autre type. Ce champ s'exclut mutuellement avec |
evaluationDataset |
Uniquement en sortie. Ensemble de données d'évaluation auquel cette exécution est associée. Ce champ s'exclut mutuellement avec |
evaluationType |
Uniquement en sortie. Type des évaluations de cette exécution. |
state |
Uniquement en sortie. État de l'exécution de l'évaluation. |
progress |
Uniquement en sortie. Progression de l'exécution de l'évaluation. |
config |
Uniquement en sortie. Configuration utilisée lors de l'exécution. |
error |
Uniquement en sortie. Obsolète : utilisez errorInfo à la place. Erreurs rencontrées lors de l'exécution. |
errorInfo |
Uniquement en sortie. Informations sur les erreurs d'exécution de l'évaluation. |
evaluationRunSummaries |
Uniquement en sortie. Mappage du nom de l'évaluation à EvaluationRunSummary. Objet contenant une liste de paires |
latencyReport |
Uniquement en sortie. Rapport sur la latence pour l'exécution de l'évaluation. |
runCount |
Uniquement en sortie. Nombre de fois où les évaluations de l'exécution ont été effectuées. |
personaRunConfigs[] |
Uniquement en sortie. Configuration à utiliser pour l'exécution par persona. |
optimizationConfig |
Facultatif. Configuration pour exécuter l'étape d'optimisation après l'exécution de l'évaluation. Si elle n'est pas définie, l'étape d'optimisation ne sera pas exécutée. |
scheduledEvaluationRun |
Uniquement en sortie. Nom de ressource de l'exécution d'évaluation planifiée ayant créé cette exécution d'évaluation. Ce champ n'est défini que si l'exécution de l'évaluation a été créée par une exécution d'évaluation planifiée. Format : |
goldenRunMethod |
Uniquement en sortie. Méthode utilisée pour exécuter l'évaluation. |
operation |
Uniquement en sortie. Opération qui a créé cette exécution d'évaluation. Format : |
EvaluationRun.EvaluationType
Type des évaluations de cette exécution. D'autres valeurs pourront être ajoutées à l'avenir.
| Enums | |
|---|---|
EVALUATION_TYPE_UNSPECIFIED |
Le type d'évaluation n'est pas spécifié. |
GOLDEN |
Évaluation de référence. |
SCENARIO |
Évaluation de scénarios. |
MIXED |
Indique que l'exécution inclut un mélange d'évaluations de scénarios et de référence. |
EvaluationRun.EvaluationRunState
État de l'exécution de l'évaluation.
| Enums | |
|---|---|
EVALUATION_RUN_STATE_UNSPECIFIED |
L'état d'exécution de l'évaluation n'est pas spécifié. |
QUEUED |
Indique que l'exécution de l'évaluation est en file d'attente. |
RUNNING |
L'exécution de l'évaluation est en cours. |
COMPLETED |
L'exécution de l'évaluation est terminée. |
ERROR |
L'exécution de l'évaluation comporte une erreur. |
CANCELLED |
L'exécution de l'évaluation a été annulée. |
EvaluationRun.Progress
Progression de l'exécution de l'évaluation.
| Représentation JSON |
|---|
{ "totalCount": integer, "failedCount": integer, "errorCount": integer, "completedCount": integer, "passedCount": integer, "cancelledCount": integer } |
| Champs | |
|---|---|
totalCount |
Uniquement en sortie. Nombre total de résultats d'évaluation dans cette exécution. |
failedCount |
Uniquement en sortie. Nombre de résultats d'évaluation terminés avec un résultat ÉCHEC. (EvaluationResult.execution_state est COMPLETED et EvaluationResult.evaluation_status est FAIL). |
errorCount |
Uniquement en sortie. Nombre de résultats d'évaluation dont l'exécution a échoué. (EvaluationResult.execution_state est défini sur ERROR). |
completedCount |
Uniquement en sortie. Nombre de résultats d'évaluation qui se sont terminés avec succès. (EvaluationResult.execution_state est défini sur COMPLETED). |
passedCount |
Uniquement en sortie. Nombre de résultats d'évaluation terminés avec un résultat "RÉUSSITE". (EvaluationResult.execution_state est défini sur COMPLETED et EvaluationResult.evaluation_status est défini sur PASS). |
cancelledCount |
Uniquement en sortie. Nombre de résultats d'évaluation annulés. (EvaluationResult.execution_state est défini sur CANCELLED). |
EvaluationRun.EvaluationRunSummary
Contient le récapitulatif du nombre de résultats réussis et échoués pour une évaluation spécifique dans une exécution d'évaluation.
| Représentation JSON |
|---|
{ "passedCount": integer, "failedCount": integer, "errorCount": integer } |
| Champs | |
|---|---|
passedCount |
Uniquement en sortie. Nombre de résultats réussis pour l'évaluation associée à cette exécution. |
failedCount |
Uniquement en sortie. Nombre de résultats ayant échoué pour l'évaluation associée à cette exécution. |
errorCount |
Uniquement en sortie. Nombre de résultats d'erreur pour l'évaluation associée lors de cette exécution. |
LatencyReport
Rapport sur la latence pour l'exécution de l'évaluation.
| Représentation JSON |
|---|
{ "toolLatencies": [ { object ( |
| Champs | |
|---|---|
toolLatencies[] |
Uniquement en sortie. Liste non triée. Métriques de latence pour chaque outil. |
callbackLatencies[] |
Uniquement en sortie. Liste non triée. Métriques de latence pour chaque rappel. |
guardrailLatencies[] |
Uniquement en sortie. Liste non triée. Métriques de latence pour chaque garde-fou. |
llmCallLatencies[] |
Uniquement en sortie. Liste non triée. Métriques de latence pour chaque appel LLM. |
sessionCount |
Uniquement en sortie. Nombre total de sessions prises en compte dans le rapport sur la latence. |
LatencyReport.ToolLatency
Métriques de latence pour un seul outil.
| Représentation JSON |
|---|
{ "toolDisplayName": string, "latencyMetrics": { object ( |
| Champs | |
|---|---|
toolDisplayName |
Uniquement en sortie. Nom à afficher de l'outil. |
latencyMetrics |
Uniquement en sortie. Métriques de latence de l'outil. |
| Identifiant de l'outil. Vous trouverez ci-dessous la liste des champs mutuellement exclusifs. Au maximum, un seul des champs sera défini dans une réponse : | |
tool |
Uniquement en sortie. Format : |
toolsetTool |
Uniquement en sortie. Identifiant de l'outil dans l'ensemble d'outils. |
| Fin des champs qui s'excluent mutuellement. | |
LatencyReport.LatencyMetrics
Métriques de latence pour un composant.
| Représentation JSON |
|---|
{ "p50Latency": string, "p90Latency": string, "p99Latency": string, "callCount": integer } |
| Champs | |
|---|---|
p50Latency |
Uniquement en sortie. Latence au 50e centile. Durée en secondes avec neuf chiffres au maximum après la virgule et se terminant par " |
p90Latency |
Uniquement en sortie. Latence au 90e centile. Durée en secondes avec neuf chiffres au maximum après la virgule et se terminant par " |
p99Latency |
Uniquement en sortie. Latence au 99e centile. Durée en secondes avec neuf chiffres au maximum après la virgule et se terminant par " |
callCount |
Uniquement en sortie. Nombre de fois où la ressource a été appelée. |
LatencyReport.CallbackLatency
Métriques de latence pour un seul rappel.
| Représentation JSON |
|---|
{
"stage": string,
"latencyMetrics": {
object ( |
| Champs | |
|---|---|
stage |
Uniquement en sortie. Étape du rappel. |
latencyMetrics |
Uniquement en sortie. Métriques de latence pour le rappel. |
LatencyReport.GuardrailLatency
Métriques de latence pour un seul garde-fou.
| Représentation JSON |
|---|
{
"guardrail": string,
"guardrailDisplayName": string,
"latencyMetrics": {
object ( |
| Champs | |
|---|---|
guardrail |
Uniquement en sortie. Nom de la barrière de sécurité. Format : |
guardrailDisplayName |
Uniquement en sortie. Nom à afficher de la barrière de sécurité. |
latencyMetrics |
Uniquement en sortie. Métriques de latence pour le garde-fou. |
LatencyReport.LlmCallLatency
Métriques de latence pour un seul appel LLM.
| Représentation JSON |
|---|
{
"model": string,
"latencyMetrics": {
object ( |
| Champs | |
|---|---|
model |
Uniquement en sortie. Nom du modèle. |
latencyMetrics |
Uniquement en sortie. Métriques de latence pour l'appel LLM. |
Méthodes |
|
|---|---|
|
Supprime une exécution d'évaluation. |
|
Exporte les exécutions d'évaluation. |
|
Obtient les détails de l'exécution de l'évaluation spécifiée. |
|
Liste toutes les exécutions d'évaluation dans l'application donnée. |