Instrumenta aplicaciones de IA generativa

En este documento, se describe el beneficio de instrumentar tus aplicaciones de IA generativa. También se resume cómo puedes instrumentar una aplicación que usa los frameworks de LangGraph o el Kit de desarrollo de agentes (ADK). Ambos frameworks te permiten recopilar y ver instrucciones y respuestas multimodales.

Acerca de los agentes de IA generativa

Las aplicaciones que usan IA generativa dependen de agentes para completar tareas o lograr objetivos. Los agentes son aplicaciones que completan tareas o persiguen objetivos en nombre de un usuario. Por ejemplo, un agente de IA generativa puede navegar por un sitio web y emitir comandos de API. Estos comandos de la API pueden recuperar información o realizar una acción.

Los agentes actúan de forma autónoma y usan el razonamiento para determinar cómo desglosar un objetivo o una tarea en subtareas y, luego, determinar qué herramientas usar para completar esas subtareas. En el contexto de la IA generativa, las herramientas determinan cómo el agente puede interactuar con su entorno. Por ejemplo, un agente podría tener una herramienta que le permita emitir comandos de API.

Para obtener más información sobre los agentes, consulta los siguientes recursos:

Por qué instrumentar tus aplicaciones de IA generativa

Instrumentar tus aplicaciones de IA generativa es la única forma de comprender el razonamiento que usan los agentes autónomos. Este proceso de razonamiento no es determinístico.

Cuando instrumentas una aplicación de IA generativa, los datos de telemetría incluyen las decisiones y las acciones de los agentes. Puedes usar estos datos para validar o mejorar tu aplicación.

Cómo instrumentar tus aplicaciones de IA generativa

Instrumentar tu aplicación implica generar telemetría y enviarla a un lugar en el que se puedan almacenar, consultar y analizar los datos. Por ejemplo, cuando tu instrumentación envía telemetría a tu proyecto Google Cloud , puedes usar Google Cloud Observability para ver y analizar esos datos.

Prácticas recomendadas

Google recomienda que instrumentes tu aplicación con OpenTelemetry, que es un proyecto de código abierto que proporciona un framework unificado para la instrumentación de aplicaciones. Los ejemplos que se enumeran en este documento se basan en OpenTelemetry.

Google también recomienda que almacenes tus instrucciones y respuestas en un bucket de Cloud Storage en lugar de en una entrada de registro:

  • Tienes un control detallado sobre el contenido del bucket de Cloud Storage. Por ejemplo, puedes borrar conversaciones individuales almacenadas en un bucket. Sin embargo, no puedes borrar entradas de registro individuales.

  • Los buckets de Cloud Storage pueden almacenar objetos que son mucho más grandes que el tamaño máximo de una entrada de registro, que está limitado a 256 KiB. Cloud Logging responde con un error INVALID_ARGUMENT y descarta los datos si los datos recibidos superan el tamaño máximo de la entrada de registro. Si el comando se completa sin errores, pero los campos individuales superan sus límites de tamaño, Cloud Logging trunca esos datos.

Ejemplos de instrumentación

Para obtener información sobre la instrumentación, consulta los siguientes documentos:

  • En Cómo recopilar y ver instrucciones y respuestas multimodales, se describe cómo configurar un agente de LangGraph ReAct o un agente de IA generativa creado con el ADK para recopilar instrucciones y respuestas multimodales. También se describe cómo hacer lo siguiente:

    • Almacena instrucciones y respuestas en un bucket de Cloud Storage.
    • Consulta las instrucciones y las respuestas con la página Explorador de Trace.
    • Analiza instrucciones y respuestas con BigQuery.
    • Evalúa las instrucciones y las respuestas con el SDK de Vertex AI para Python.

  • En Instrumenta un agente de ReAct de LangGraph con OpenTelemetry, se describe cómo usar OpenTelemetry para instrumentar una aplicación de IA generativa que usa el framework de LangChain o LangGraph. También se vincula a una aplicación de ejemplo que puedes descargar y ejecutar. La aplicación de ejemplo recopila instrucciones y respuestas de texto.

  • En Instrumenta aplicaciones del ADK con OpenTelemetry, se describe cómo habilitar la instrumentación integrada que recopila telemetría de las acciones clave del agente. La telemetría incluye instrucciones de texto y respuestas del agente. También se vincula a una aplicación de ejemplo que puedes descargar y ejecutar. La aplicación de ejemplo recopila instrucciones y respuestas de texto.

  • En Investiga las llamadas a MCP con Trace, se describe cómo configurar tu aplicación para pasar el contexto de seguimiento a los servidores MCP remotos de Google Cloud, lo que permite que esos servidores adjunten intervalos a un seguimiento.

Cómo ver tus instrucciones y respuestas

Cloud Trace está configurado para extraer eventos de los intervalos escritos por las aplicaciones de IA generativa, siempre que los intervalos cumplan con las convenciones semánticas de OpenTelemetry para los intervalos de IA generativa y que incluyan atributos o eventos que sigan las convenciones semánticas para los eventos de IA generativa.

Cloud Trace también puede mostrar instrucciones y respuestas multimodales. En este caso, tus instrucciones y respuestas no se adjuntan a tus datos de registro. En su lugar, se almacenan en un bucket de Cloud Storage. Para obtener más información sobre esta configuración, consulta Cómo recopilar y ver mensajes y respuestas multimodales.