Este documento descreve o benefício de instrumentar seus aplicativos de IA generativa. Ele também resume como instrumentar um aplicativo que usa os frameworks LangGraph ou Kit de Desenvolvimento de Agente (ADK). Os dois frameworks permitem coletar comandos de texto. No entanto, a estrutura ADK também permite coletar e visualizar comandos e respostas multimodais.
Sobre os agentes de IA generativa
Os aplicativos que usam IA generativa dependem de agentes para concluir tarefas ou alcançar metas. Os agentes são aplicativos que concluem tarefas ou buscam metas em nome de um usuário. Por exemplo, um agente de IA generativa pode navegar em um site e emitir comandos de API. Esses comandos de API podem recuperar informações ou realizar uma ação.
Os agentes agem de forma autônoma e usam o raciocínio para determinar como decompor uma meta ou tarefa em subtarefas e, em seguida, determinar quais ferramentas usar para concluir essas subtarefas. No contexto da IA generativa, as ferramentas determinam como o agente pode interagir com o ambiente. Por exemplo, um agente pode ter uma ferramenta que permite emitir comandos de API.
Para saber mais sobre agentes, consulte:
- Observabilidade de agentes de IA: padrões e práticas recomendadas em evolução
- O que é um agente de IA?
Por que instrumentar seus aplicativos de IA generativa
A instrumentação dos seus aplicativos de IA generativa é a única maneira de entender o raciocínio usado pelos agentes autônomos. Esse processo de raciocínio não é determinista.
Quando você instrumenta um aplicativo de IA generativa, os dados de telemetria incluem as decisões e ações dos agentes. Você pode usar esses dados para validar ou melhorar seu aplicativo.
Como instrumentar seus aplicativos de IA generativa
A instrumentação do aplicativo envolve a geração de telemetria e o envio dela para o local de armazenamento, consulta e análise dos dados. Por exemplo, quando sua instrumentação envia telemetria para o projeto Google Cloud , é possível usar o Google Cloud Observability para ver e analisar esses dados.
Recomendamos que você instrumente seu aplicativo com o OpenTelemetry, que é um projeto de código aberto que fornece um framework unificado para instrumentação de aplicativos. Os exemplos que fornecemos dependem do OpenTelemetry.
Para informações sobre instrumentação, consulte os seguintes documentos:
Coletar e visualizar comandos e respostas multimodais descreve como configurar um agente de IA generativa criado com o ADK para coletar comandos e respostas multimodais. Ele também descreve como fazer o seguinte:
- Confira comandos e respostas na página Explorador de traces.
- Analise comandos e respostas com o BigQuery.
- Avalie comandos e respostas com o SDK da Vertex AI para Python.
Instrumentar um agente ReAct do LangGraph com o OpenTelemetry descreve como usar o OpenTelemetry para instrumentar um aplicativo de IA generativa que usa o framework LangChain ou LangGraph. Ele também tem um link para um aplicativo de amostra que pode ser carregado e executado.
Instrumentar aplicativos do ADK com o OpenTelemetry descreve como ativar a instrumentação integrada que coleta telemetria das principais ações do agente. A telemetria inclui comandos de texto e respostas do agente. Ele também tem um link para um aplicativo de amostra que pode ser carregado e executado.
Como acessar seus comandos e respostas
O Cloud Trace está configurado para extrair eventos de períodos gravados por aplicativos de IA generativa, desde que os períodos estejam de acordo com as Convenções semânticas do OpenTelemetry para períodos de IA generativa e incluam atributos ou eventos que sigam as Convenções semânticas para eventos de IA generativa.
O Cloud Trace também pode mostrar comandos e respostas multimodais. Nesse cenário, seus comandos e respostas não são anexados aos dados de rastreamento. Em vez disso, eles são armazenados em um bucket do Cloud Storage. Para saber mais sobre essa configuração, consulte Coletar e visualizar comandos e respostas multimodais.