Instrumenta aplicaciones de IA generativa

En este documento, se describe el beneficio de instrumentar tus aplicaciones de IA generativa. También se resume cómo puedes instrumentar una aplicación que usa los frameworks de LangGraph o el Kit de desarrollo de agentes (ADK). Ambos frameworks te permiten recopilar instrucciones de texto. Sin embargo, el framework del ADK también te permite recopilar y ver instrucciones y respuestas multimodales.

Acerca de los agentes de IA generativa

Las aplicaciones que usan IA generativa dependen de agentes para completar tareas o alcanzar objetivos. Los agentes son aplicaciones que completan tareas o persiguen objetivos en nombre de un usuario. Por ejemplo, un agente de IA generativa puede navegar por un sitio web y emitir comandos de API. Estos comandos de la API pueden recuperar información o realizar una acción.

Los agentes actúan de forma autónoma y usan el razonamiento para determinar cómo desglosar un objetivo o una tarea en subtareas y, luego, determinar qué herramientas usar para completar esas subtareas. En el contexto de la IA generativa, las herramientas determinan cómo el agente puede interactuar con su entorno. Por ejemplo, un agente podría tener una herramienta que le permita emitir comandos de API.

Para obtener más información sobre los agentes, consulta los siguientes recursos:

Por qué instrumentar tus aplicaciones de IA generativa

Instrumentar tus aplicaciones de IA generativa es la única forma de comprender el razonamiento que utilizan los agentes autónomos. Este proceso de razonamiento no es determinístico.

Cuando instrumentas una aplicación de IA generativa, los datos de telemetría incluyen las decisiones y las acciones de los agentes. Puedes usar estos datos para validar o mejorar tu aplicación.

Cómo instrumentar tus aplicaciones de IA generativa

Instrumentar tu aplicación implica generar telemetría y enviarla a un lugar en el que se puedan almacenar, consultar y analizar los datos. Por ejemplo, cuando tu instrumentación envía telemetría a tu proyecto Google Cloud , puedes usar Google Cloud Observability para ver y analizar esos datos.

Te recomendamos que instrumentes tu aplicación con OpenTelemetry, un proyecto de código abierto que proporciona un framework unificado para la instrumentación de aplicaciones. Los ejemplos que proporcionamos se basan en OpenTelemetry.

Para obtener información sobre la instrumentación, consulta los siguientes documentos:

  • En Cómo recopilar y ver instrucciones y respuestas multimodales, se describe cómo configurar un agente de IA generativa creado con el ADK para recopilar instrucciones y respuestas multimodales. También se describe cómo hacer lo siguiente:

    • Consulta los mensajes y las respuestas con la página Explorador de Trace.
    • Analiza las instrucciones y las respuestas con BigQuery.
    • Evalúa las instrucciones y las respuestas con el SDK de Vertex AI para Python.
  • En Instrumenta un agente de ReAct de LangGraph con OpenTelemetry, se describe cómo usar OpenTelemetry para instrumentar una aplicación de IA generativa que usa el framework de LangChain o LangGraph. También se vincula a una aplicación de ejemplo que puedes cargar y ejecutar.

  • En Instrumenta aplicaciones del ADK con OpenTelemetry, se describe cómo habilitar la instrumentación integrada que recopila telemetría de las acciones clave del agente. La telemetría incluye instrucciones de texto y respuestas del agente. También se vincula a una aplicación de ejemplo que puedes cargar y ejecutar.

Cómo ver tus instrucciones y respuestas

Cloud Trace está configurado para extraer eventos de los intervalos escritos por las aplicaciones de IA generativa, siempre que los intervalos cumplan con las convenciones semánticas de OpenTelemetry para los intervalos de IA generativa y que incluyan atributos o eventos que sigan las convenciones semánticas para los eventos de IA generativa.

Cloud Trace también puede mostrar instrucciones y respuestas multimodales. En este caso, tus instrucciones y respuestas no se adjuntan a tus datos de registro. En cambio, se almacenan en un bucket de Cloud Storage. Para obtener más información sobre esta configuración, consulta Cómo recopilar y ver mensajes y respuestas multimodales.