In diesem Dokument wird der Nutzen der Instrumentierung Ihrer Anwendungen für generative KI beschrieben. Außerdem wird zusammengefasst, wie Sie eine Anwendung instrumentieren können, die die Frameworks LangGraph oder Agent Development Kit (ADK) verwendet. Mit beiden Frameworks können Sie multimodale Prompts und Antworten erfassen und ansehen.
Informationen zu Agenten für generative KI
Anwendungen, die generative KI verwenden, nutzen Agenten, um Aufgaben zu erledigen oder Ziele zu erreichen. Agenten sind Anwendungen, die Aufgaben im Namen eines Nutzers erledigen oder Ziele verfolgen. Ein Agent für generative KI kann beispielsweise auf einer Website navigieren und API-Befehle ausgeben. Mit diesen API-Befehlen können Informationen abgerufen oder eine Aktion ausgeführt werden.
Agenten agieren autonom und verwenden logische Schlussfolgerungen, um ein Ziel oder eine Aufgabe in Unteraufgaben zu zerlegen und dann zu bestimmen, welche Tools verwendet werden sollen, um diese Unteraufgaben zu erledigen. Im Kontext der generativen KI bestimmen Tools, wie der Agent mit seiner Umgebung interagieren kann. Ein Agent kann beispielsweise ein Tool haben, mit dem er API-Befehle ausgeben kann.
Weitere Informationen zu Agenten finden Sie in den folgenden Ressourcen:
Warum sollten Sie Ihre Anwendungen für generative KI instrumentieren?
Die Instrumentierung Ihrer Anwendungen für generative KI ist die einzige Möglichkeit, die logischen Schlussfolgerungen der autonomen Agenten zu verstehen. Dieser Prozess ist nicht deterministisch.
Wenn Sie eine Anwendung für generative KI instrumentieren, enthalten die Telemetriedaten die Entscheidungen und Aktionen der Agenten. Sie können diese Daten verwenden, um Ihre Anwendung zu validieren oder zu verbessern.
Anwendungen für generative KI instrumentieren
Bei der Instrumentierung Ihrer Anwendung werden Telemetriedaten generiert und an einen Ort gesendet, an dem die Daten gespeichert, abgefragt und analysiert werden können. Wenn Ihre Instrumentierung beispielsweise Telemetriedaten an Ihr Google Cloud Projekt sendet, können Sie diese Daten mit Google Cloud Observability ansehen und analysieren.
Wir empfehlen, Ihre Anwendung mit OpenTelemetry zu instrumentieren. OpenTelemetry ist ein Open-Source-Projekt, das ein einheitliches Framework für die Instrumentierung von Anwendungen bietet. Die von uns bereitgestellten Beispiele basieren auf OpenTelemetry.
Informationen zur Instrumentierung finden Sie in den folgenden Dokumenten:
Collect and view multimodal prompts and responses (Multimodale Prompts und Antworten erfassen und ansehen) beschreibt, wie Sie einen LangGraph ReAct-Agenten oder einen mit ADK erstellten Agenten für generative KI so konfigurieren, dass multimodale Prompts und Antworten erfasst werden. Außerdem wird beschrieben, wie Sie Folgendes tun:
- Prompts und Antworten auf der Seite Trace-Explorer ansehen
- Prompts und Antworten mit BigQuery analysieren
- Prompts und Antworten mit dem Vertex AI SDK für Python auswerten.
Instrument a LangGraph ReAct agent with OpenTelemetry (LangGraph ReAct-Agenten mit OpenTelemetry instrumentieren) beschreibt, wie Sie OpenTelemetry verwenden, um eine Anwendung für generative KI zu instrumentieren, die das LangChain- oder LangGraph-Framework verwendet. Außerdem wird auf eine Beispielanwendung verlinkt, die Sie herunterladen und ausführen können. Die Beispielanwendung erfasst Text-Prompts und -Antworten.
Instrument ADK applications with OpenTelemetry (ADK-Anwendungen mit OpenTelemetry instrumentieren) beschreibt, wie Sie die integrierte Instrumentierung aktivieren, mit der Telemetriedaten von den wichtigsten Aktionen des Agenten erfasst werden. Die Telemetriedaten umfassen Text-Prompts und Agentenantworten. Außerdem wird auf eine Beispielanwendung verlinkt, die Sie herunterladen und ausführen können. Die Beispielanwendung erfasst Text-Prompts und -Antworten.
Investigate MCP calls using Trace (MCP-Aufrufe mit Trace untersuchen) beschreibt, wie Sie Ihre Anwendung so konfigurieren, dass der Trace-Kontext an Remote-Google Cloud-MCP-Server übergeben wird. So können diese Server Spans an einen Trace anhängen.
Prompts und Antworten ansehen
Cloud Trace ist so konfiguriert, dass Ereignisse aus Spans extrahiert werden, die von Anwendungen für generative KI geschrieben wurden. Voraussetzung ist, dass die Spans den OpenTelemetry Konventionen für Spans für generative KI entsprechen und Attribute oder Ereignisse enthalten, die den Konventionen für Ereignisse für generative KIentsprechen.
Cloud Trace kann auch multimodale Prompts und Antworten anzeigen. In diesem Fall sind Ihre Prompts und Antworten nicht an Ihre Tracedaten angehängt. Stattdessen werden sie in einem Cloud Storage-Bucket gespeichert. Weitere Informationen zu dieser Konfiguration finden Sie unter Multimodale Prompts und Antworten erfassen und ansehen.