Questo documento descrive il vantaggio di instrumentare le tue applicazioni di AI generativa. Inoltre, riassume come instrumentare un'applicazione che utilizza i framework LangGraph o Agent Development Kit (ADK). Entrambi i framework ti consentono di raccogliere prompt di testo. Tuttavia, il framework ADK ti consente anche di raccogliere e visualizzare prompt e risposte multimodali.
Informazioni sugli agenti di AI generativa
Le applicazioni che utilizzano l'AI generativa si basano su agenti per completare attività o raggiungere obiettivi. Gli agenti sono applicazioni che completano attività o perseguono obiettivi per conto di un utente. Ad esempio, un agente di AI generativa può navigare in un sito web ed eseguire comandi API. Questi comandi API potrebbero recuperare informazioni o eseguire un'azione.
Gli agenti agiscono in modo autonomo e utilizzano il ragionamento per determinare come scomporre un obiettivo o un'attività in sottoattività e poi per determinare quali strumenti utilizzare per portare a termine queste sottoattività. Nel contesto dell'AI generativa, gli strumenti determinano il modo in cui l'agente può interagire con il suo ambiente. Ad esempio, un agente potrebbe avere uno strumento che gli consente di inviare comandi API.
Per saperne di più sugli agenti, consulta le seguenti risorse:
Perché strumentare le applicazioni di AI generativa
L'instrumentazione delle applicazioni di AI generativa è l'unico modo per comprendere il ragionamento utilizzato dagli agenti autonomi. Questo processo di ragionamento non è deterministico.
Quando strumenti un'applicazione di AI generativa, i dati di telemetria includono le decisioni e le azioni degli agenti. Puoi utilizzare questi dati per convalidare o migliorare la tua applicazione.
Come instrumentare le applicazioni di AI generativa
L'instrumentazione dell'applicazione comporta la generazione di dati di telemetria e il loro invio a una posizione in cui possono essere archiviati, interrogati e analizzati. Ad esempio, quando la tua instrumentazione invia dati di telemetria al tuo Google Cloud progetto, puoi utilizzare Google Cloud Observability per visualizzare e analizzare questi dati.
Ti consigliamo di instrumentare l'applicazione con OpenTelemetry, un progetto open source che fornisce un framework unificato per l'instrumentazione delle applicazioni. Gli esempi che forniamo si basano su OpenTelemetry.
Per informazioni sulla strumentazione, consulta i seguenti documenti:
Raccogliere e visualizzare prompt e risposte multimodali descrive come configurare un agente di AI generativa creato con ADK per raccogliere prompt e risposte multimodali. Descrive inoltre come:
- Visualizza i prompt e le risposte con la pagina Esplora tracce.
- Analizza i prompt e le risposte con BigQuery.
- Valuta prompt e risposte con l'SDK Vertex AI per Python.
Instrumentare un agente LangGraph ReAct con OpenTelemetry descrive come utilizzare OpenTelemetry per instrumentare un'applicazione di AI generativa che utilizza il framework LangChain o LangGraph. Inoltre, rimanda a un'applicazione di esempio che puoi caricare ed eseguire.
Instrumentare le applicazioni ADK con OpenTelemetry descrive come attivare la strumentazione integrata che raccoglie i dati di telemetria dalle azioni chiave dell'agente. La telemetria include prompt di testo e risposte dell'agente. Inoltre, include un link a un'applicazione di esempio che puoi caricare ed eseguire.
Come visualizzare i prompt e le risposte
Cloud Trace è configurato per estrarre eventi dagli intervalli scritti dalle applicazioni di AI generativa, a condizione che gli intervalli siano conformi alle convenzioni semantiche OpenTelemetry per gli intervalli di AI generativa e includano attributi o eventi che seguono le convenzioni semantiche per gli eventi di AI generativa.
Cloud Trace può anche visualizzare prompt e risposte multimodali. In questo scenario, i prompt e le risposte non sono allegati ai dati di traccia. Vengono invece archiviati in un bucket Cloud Storage. Per saperne di più su questa configurazione, consulta Raccogliere e visualizzare prompt e risposte multimodali.