Questo documento descrive i vantaggi dell'instrumentazione delle applicazioni di AI generativa. Riassume anche come instrumentare un'applicazione che utilizza i framework LangGraph o Agent Development Kit (ADK). Entrambi i framework consentono di raccogliere e visualizzare prompt e risposte multimodali.
Informazioni sugli agenti di AI generativa
Le applicazioni che utilizzano l'AI generativa si basano sugli agenti per completare le attività o raggiungere gli obiettivi. Gli agenti sono applicazioni che completano attività o perseguono obiettivi per conto di un utente. Ad esempio, un agente di AI generativa può navigare in un sito web ed emettere comandi API. Questi comandi API potrebbero recuperare informazioni o eseguire un'azione.
Gli agenti agiscono in modo autonomo e utilizzano il ragionamento per determinare come scomporre un obiettivo o un'attività in sottoattività e quindi per determinare quali strumenti utilizzare per svolgere queste sottoattività. Nel contesto dell'AI generativa, gli strumenti determinano il modo in cui l'agente può interagire con il suo ambiente. Ad esempio, un agente potrebbe avere uno strumento che gli consente di emettere comandi API.
Per saperne di più sugli agenti, consulta le seguenti risorse:
Perché instrumentare le applicazioni di AI generativa
L'instrumentazione delle applicazioni di AI generativa è l'unico modo per comprendere il ragionamento utilizzato dagli agenti autonomi. Questo processo di ragionamento non è deterministico.
Quando instrumenti un'applicazione di AI generativa, i dati di telemetria includono le decisioni e le azioni degli agenti. Puoi utilizzare questi dati per convalidare o migliorare l'applicazione.
Come instrumentare le applicazioni di AI generativa
L'instrumentazione dell'applicazione comporta la generazione di dati di telemetria e l'invio a una posizione in cui i dati possono essere archiviati, sottoposti a query e analizzati. Ad esempio, quando l'instrumentazione invia dati di telemetria al tuo Google Cloud progetto, puoi utilizzare Google Cloud Observability per visualizzare e analizzare questi dati.
Ti consigliamo di instrumentare l'applicazione con OpenTelemetry, un progetto open source che fornisce un framework unificato per l'instrumentazione delle applicazioni. Gli esempi che forniamo si basano su OpenTelemetry.
Per informazioni sull'instrumentazione, consulta i seguenti documenti:
Raccogliere e visualizzare prompt e risposte multimodali descrive come configurare un agente LangGraph ReAct o un agente AI generativa creato con ADK per raccogliere prompt e risposte multimodali. Descrive anche come eseguire le seguenti operazioni:
- Visualizzare prompt e risposte con la pagina Esplora tracce.
- Analizzare prompt e risposte con BigQuery.
- Valutare prompt e risposte con l'SDK Vertex AI Python.
Instrumentare un agente LangGraph ReAct con OpenTelemetry descrive come utilizzare OpenTelemetry per instrumentare un'applicazione di AI generativa che utilizza il framework LangChain o LangGraph. Fornisce anche un link a un'applicazione di esempio che puoi scaricare ed eseguire. L'applicazione di esempio raccoglie prompt e risposte di testo.
Instrumentare le applicazioni ADK con OpenTelemetry descrive come abilitare l'instrumentazione integrata che raccoglie i dati di telemetria dalle azioni chiave dell'agente. I dati di telemetria includono prompt di testo e risposte dell'agente. Fornisce anche un link a un'applicazione di esempio che puoi scaricare ed eseguire. L'applicazione di esempio raccoglie prompt e risposte di testo.
Esaminare le chiamate MCP utilizzando Trace descrive come configurare l'applicazione per passare il contesto di traccia ai server MCP di Google Cloud remoti, in modo che questi server possano collegare gli span a una traccia.
Come visualizzare prompt e risposte
Cloud Trace è configurato per estrarre gli eventi dagli span scritti dalle applicazioni di AI generativa, a condizione che gli span siano conformi alle convenzioni semantiche OpenTelemetry per gli span di AI generativa e includano attributi o eventi che seguono le convenzioni semantiche per gli eventi di AI generativa.
Cloud Trace può anche visualizzare prompt e risposte multimodali. In questo scenario, i prompt e le risposte non sono collegati ai dati di traccia. Vengono invece archiviati in un bucket Cloud Storage. Per saperne di più su questa configurazione, consulta Raccogliere e visualizzare prompt e risposte multimodali.