Instrumente aplicações de IA generativa

Este documento descreve a vantagem de instrumentar as suas aplicações de IA generativa. Também resume como pode instrumentar uma aplicação que usa as frameworks LangGraph ou Agent Development Kit (ADK). Ambas as estruturas permitem recolher comandos de texto. No entanto, a framework ADK também permite recolher e ver comandos e respostas multimodais.

Acerca dos agentes de IA generativa

As aplicações que usam IA generativa dependem de agentes para concluir tarefas ou alcançar objetivos. Os agentes são aplicações que concluem tarefas ou alcançam objetivos em nome de um utilizador. Por exemplo, um agente de IA generativa pode navegar num Website e emitir comandos de API. Estes comandos da API podem obter informações ou realizar uma ação.

Os agentes atuam de forma autónoma e usam o raciocínio para determinar como decompor um objetivo ou uma tarefa em subtarefas e, em seguida, determinar que ferramentas usar para realizar essas subtarefas. No contexto da IA generativa, as ferramentas determinam como o agente pode interagir com o respetivo ambiente. Por exemplo, um agente pode ter uma ferramenta que lhe permita emitir comandos da API.

Para saber mais sobre os agentes, consulte o seguinte:

Por que motivo deve instrumentar as suas aplicações de IA generativa

A instrumentação das suas aplicações de IA generativa é a única forma de compreender o raciocínio usado pelos agentes autónomos. Este processo de raciocínio não é determinístico.

Quando instrumenta uma aplicação de IA generativa, os dados de telemetria incluem as decisões e as ações dos agentes. Pode usar estes dados para validar ou melhorar a sua aplicação.

Como instrumentar as suas aplicações de IA generativa

A instrumentação da sua aplicação envolve a geração de telemetria e o envio da mesma para onde os dados podem ser armazenados, consultados e analisados. Por exemplo, quando a sua instrumentação envia telemetria para o seu Google Cloud projeto, pode usar o Google Cloud Observability para ver e analisar esses dados.

Recomendamos que instrumente a sua aplicação com o OpenTelemetry, que é um projeto de código aberto que fornece uma framework unificada para a instrumentação de aplicações. Os exemplos que fornecemos baseiam-se no OpenTelemetry.

Para obter informações sobre a instrumentação, consulte os seguintes documentos:

  • O artigo Recolha e veja comandos e respostas multimodais descreve como configurar um agente de IA generativa criado com o ADK para recolher comandos e respostas multimodais. Também descreve como fazer o seguinte:

    • Veja comandos e respostas com a página Explorador de rastreios.
    • Analise comandos e respostas com o BigQuery.
    • Avalie comandos e respostas com o SDK Vertex AI para Python.

  • O artigo Instrumente um agente ReAct do LangGraph com o OpenTelemetry descreve como usar o OpenTelemetry para instrumentar uma aplicação de IA generativa que usa a framework LangChain ou LangGraph. Também inclui um link para uma aplicação de exemplo que pode carregar e executar.

  • O artigo Instrumente aplicações ADK com o OpenTelemetry descreve como ativar a instrumentação incorporada que recolhe telemetria das ações principais do agente. A telemetria inclui comandos de texto e respostas do agente. Também inclui um link para uma aplicação de exemplo que pode carregar e executar.

Como ver os seus comandos e respostas

O Cloud Trace está configurado para extrair eventos de intervalos escritos por aplicações de IA generativa, desde que os intervalos estejam em conformidade com as convenções semânticas do OpenTelemetry para intervalos de IA generativa e incluam atributos ou eventos que sigam as convenções semânticas para eventos de IA generativa.

O Cloud Trace também pode apresentar comandos e respostas multimodais. Neste cenário, os seus comandos e respostas não são anexados aos dados de rastreio. Em vez disso, são armazenados num contentor do Cloud Storage. Para saber mais acerca desta configuração, consulte o artigo Recolha e veja comandos e respostas multimodais.