Observability in Google Cloud

Google Cloud Observability umfasst Beobachtbarkeitsdienste, mit denen Sie das Verhalten, den Zustand und die Leistung Ihrer Anwendungen besser verstehen können, einschließlich agentischer Anwendungen. Wenn Sie wissen, wie sich Anwendungen verhalten und wie Komponenten verbunden sind, können Sie unerwartete Änderungen schnell und effektiv vorhersehen, erkennen und darauf reagieren.

Dieses Dokument enthält die folgenden Informationen:

Beobachtbarkeit

Beobachtbarkeit ist ein umfassender Ansatz zum Erfassen und Analysieren von Telemetriedaten, mit dem Sie den Zustand Ihrer Anwendungen, einschließlich agentischer Anwendungen, und ihrer Betriebsumgebung besser verstehen können. Telemetriedaten umfassen Logdaten, Messwertdaten und Trace-Daten. Sie können auch andere Daten enthalten, die von Ihren Anwendungen generiert werden, z. B. Prompts und Antworten. Telemetriedaten liefern die Informationen, die Sie benötigen, um den Zustand und die Leistung Ihrer Anwendungen zu verstehen.

Messwertdaten
Messwertdaten sind numerische Daten zum Zustand oder zur Leistung, die das System in regelmäßigen Abständen misst, z. B. CPU-Auslastung und Anfragelatenz. Unerwartete Änderungen an Messwertdaten können auf ein Problem hinweisen, das Sie untersuchen müssen. Im Laufe der Zeit können Sie auch Muster analysieren, um Nutzungsmuster zu verstehen und den Ressourcenbedarf vorherzusagen.
Logdaten

Ein Log ist ein generierter Datensatz der System- oder Anwendungsaktivität im Zeitverlauf. Jedes Log ist eine Sammlung von Logeinträgen mit Zeitstempel und jeder Logeintrag beschreibt ein bestimmtes Ereignis.

Logdaten enthalten oft umfangreiche, detaillierte Informationen, die Ihnen helfen, zu verstehen, was in einem bestimmten Teil Ihrer Anwendung passiert ist. Logdaten zeigen jedoch nicht effektiv, wie sich eine Änderung in einer Anwendungskomponente auf die Aktivität in anderen Komponenten auswirkt. Trace-Daten können diese Lücke schließen.

Trace-Daten

Ein Trace stellt den Pfad einer Anfrage über die Komponenten Ihrer verteilten Anwendung hinweg dar. Das bedeutet, dass jeder Trace einen einzelnen End-to-End-Vorgang darstellt. Traces bestehen aus Spans, also Datensätzen für eine einzelne Funktion oder einen einzelnen Vorgang. So können Sie den Ablauf von Anfragen verfolgen und Latenzdaten untersuchen. Anhand dieser Informationen können Sie die Ursache eines Problems ermitteln.

Bei agentenbasierten Anwendungen erfassen Traces die Aktionen, die Ihr Agent ausführt. Ein Trace kann beispielsweise MCP-Aufrufe erfassen.

Weitere Daten

Sie können zusätzliche Informationen erhalten, wenn Sie Logdaten, Messwertdaten und Trace-Daten zusammen mit anderen relevanten Informationen analysieren. Ein Label, das den Schweregrad einer Benachrichtigung oder eine Kundennummer in Logdaten angibt, liefert beispielsweise Kontext, der für die Fehlerbehebung und das Debugging nützlich ist.

Beobachtbarkeit von KI-Agenten

Beobachtbarkeit von KI-Agenten bezieht sich auf Methoden, um den internen Zustand und das Verhalten von Software-Agenten zu verstehen, insbesondere von KI-basierten Agenten, die mit Large Language Models (LLMs) erstellt wurden. KI-Agenten sind nicht deterministisch und komplex. Daher ist die Beobachtbarkeit entscheidend, um die Leistung, Sicherheit und Zuverlässigkeit zu verstehen, zu debuggen, zu bewerten und zu verbessern.

Google Cloud bietet Unterstützung für die Anwendungsbeobachtbarkeit mit Anwendungsmonitoring. Dabei werden Dashboards erstellt, die Telemetriedaten, Messwertdaten zu KI-Ressourcen und Informationen wie offene Benachrichtigungen anzeigen. Weitere Informationen finden Sie im Abschnitt Agent- und Anwendungsbeobachtbarkeit in Google Cloud in diesem Dokument.

Beobachtbarkeit der Anwendung und APM

Application Performance Monitoring (APM) überwacht, diagnostiziert und verwaltet die Leistung, Verfügbarkeit und Nutzererfahrung von Softwareanwendungen, einschließlich agentischer Anwendungen. Ein APM-System bietet in der Regel Dashboards, auf denen Telemetriedaten angezeigt werden, und Dienste, die Telemetriedaten überwachen. Diese Systeme helfen Ihnen, Fehler zu erkennen.

Bei der Anwendungsbeobachtbarkeit werden Telemetriedaten verwendet, um Statistiken zu generieren, mit denen Sie das Verhalten Ihrer Anwendungen besser nachvollziehen können.

Google Cloud bietet Unterstützung für die Anwendungsbeobachtbarkeit mit Anwendungsmonitoring. Dabei werden Dashboards erstellt, die Telemetriedaten, Messwertdaten zu KI-Ressourcen und Informationen wie offene Benachrichtigungen anzeigen. Weitere Informationen finden Sie im Abschnitt Agent- und Anwendungsbeobachtbarkeit in Google Cloud in diesem Dokument.

Beobachtbarkeitsdienste

Beobachtbarkeitsdienste erfassen, analysieren und korrelieren Telemetriedaten wie Logdaten, Messwertdaten und Trace-Daten. Sie bieten die folgenden Funktionen, mit denen Sie die Zuverlässigkeit von Anwendungen aufrechterhalten können:

  • Probleme proaktiv erkennen, bevor sie sich auf Nutzer auswirken.
  • Beheben Sie sowohl bekannte als auch neue Probleme.
  • Anwendungen während der Entwicklung debuggen
  • Auswirkungen von Änderungen auf Anwendungen verstehen
  • Neue Erkenntnisse durch Datenexploration gewinnen

Weitere Informationen zu Zuverlässigkeitspraktiken, einschließlich Prinzipien und Praktiken im Zusammenhang mit Beobachtbarkeit, finden Sie im Buch Site Reliability Engineering: How Google Runs Production Systems. Zu den Themen gehören Verteilte Systeme überwachen, Benachrichtigungen und Fehlerbehebung.

Google Cloud Observability

Mit Diensten in Google Cloud Observability können Sie Telemetriedaten sowohl aus Ihren Anwendungen als auch aus der zugrunde liegenden Infrastruktur erfassen, analysieren und korrelieren. Diese Dienste bieten auch integrierte Standardeinstellungen, die Ihnen den Einstieg erleichtern. Beispielsweise werden beim Anwendungsmonitoring Dashboards und Topologiekarten für Ihre in App Hub registrierten Anwendungen, Dienste und Arbeitslasten erstellt.

Automatische Erhebung von Telemetriedaten

Monitoring, Logging und Trace sind Dienste, die standardmäßig aktiviert sind, wenn Sie ein Google Cloud -Projekt erstellen. Diese Dienste bieten die grundlegenden Funktionen zum Erfassen, Analysieren und Visualisieren Ihrer Telemetriedaten:

  • Erfassen Sie automatisch Telemetriedaten für die meisten Google Cloud -Dienste.
  • Erfassen Sie automatisch Audit-Logs für die meisten Google Cloud-Dienste.
  • Visualisierungsdienste wie Dashboards und Telemetrie-Explorer, mit denen Sie Ihre Telemetriedaten ansehen und untersuchen können. Mit dem Trace Explorer können Sie beispielsweise Traces, Spans und Metadaten ansehen, einschließlich multimodaler Prompts und Antworten. Weitere Informationen finden Sie unter Telemetriedaten abfragen und ansehen.
  • SQL-basierte Analysedienste für Ihre Log- und Trace-Daten bereitstellen. Beispielsweise können Sie mit BigQuery URLs in Ihren Logdaten mit einem öffentlichen Dataset von bekannten schädlichen URLs vergleichen.
  • Anwendungsmonitoring und Telemetriemonitoring bereitstellen Sie können beispielsweise Benachrichtigungsrichtlinien erstellen, die Sie benachrichtigen, wenn Ihre Log- oder Messwertdaten die von Ihnen angegebenen Bedingungen erfüllen. Sie können auch synthetisches Monitoring verwenden, um die Leistung Ihrer Anwendungen zu testen.

  • Erfassen Sie Telemetriedaten aus Ihren instrumentierten Anwendungen. Bei der Instrumentierung handelt es sich um Code, den Sie einer Anwendung hinzufügen, um Telemetriedaten auszugeben.

    Wir empfehlen, für die Instrumentierung Ihrer Anwendung ein anbieterneutrales als Open Source veröffentliches Instrumentierungs-Framework wie OpenTelemetry anstelle von anbieter- und produktspezifischen APIs oder Clientbibliotheken zu verwenden. Informationen zu diesen Frameworks finden Sie unter Beobachtbarkeit für Anwendungsentwickler und Instrumentierungsansatz auswählen.

Beobachtbarkeit von KI-Agenten und Anwendungen

Anwendungsmonitoring in Google Cloud bietet sowohl Beobachtbarkeit von KI-Agenten als auch Beobachtbarkeit von Anwendungen. Dieser Dienst bietet Dashboards und Topologiekarten, mit denen Sie den Zustand und die Leistung Ihrer App Hub-Anwendungen, -Dienste und -Arbeitslasten nachvollziehen können. Außerdem werden Messwerte wie Fehlerraten und Tokennutzung für KI-Ressourcen generiert und angezeigt. Zum Generieren dieser Messwerte filtert und aggregiert Application Monitoring Ihre Trace-Daten mithilfe von anwendungsspezifischen Labels und Ereignissen, die den semantischen OpenTelemetry-Konventionen für generative KI entsprechen.

Für die Beobachtbarkeit von KI-Agenten empfehlen wir, Ihre KI-Agenten mit dem Agent Development Kit (ADK) zu erstellen. Da das ADK auf OpenTelemetry basiert, entsprechen die vom ADK generierten Telemetriedaten den semantischen Konventionen von OpenTelemetry für generative KI.

Wenn Sie Fehler beheben, Kosten überwachen oder das Verhalten von KI-Agenten analysieren möchten, einschließlich KI-Agenten von Gemini Enterprise Agent Platform, Agent Gateway und Model Armor, benötigen Sie Log-, Messwert- und Trace-Daten:

  • Protokolle enthalten Informationen zu Ereignissen und Fehlern.
  • Mit Messwerten können Sie die Latenz und die Tokennutzung im Blick behalten.
  • Traces liefern Informationen zu Ausführungspfaden und werden analysiert, um Messwerte wie die Anzahl der Modellaufrufe oder die Gesamtzahl der verwendeten Tokens abzuleiten. Diese abgeleiteten Messwerte bieten Einblick in die Leistung und das Verhalten von KI-Agenten. Weitere Informationen finden Sie unter KI-Ressourcen ansehen.
  • Anhand von Prompt- und Antwortdaten können Sie die Qualität und Entscheidungsfindung des KI-Agenten mit dem Gen AI Evaluation Service bewerten.

Das Dashboard „Anwendungsmonitoring“ für eine Anwendung enthält eine Liste der Dienste und Arbeitslasten der Anwendung, z. B. Gemini Enterprise-Apps, Gemini Enterprise Agent Platform-Agenten und MCP-Server:

Eine Übersicht, in der die Dienste und Arbeitslasten in einer Anwendung aufgeführt sind.

Sie können agentische Dienste und Arbeitslasten anhand des Infrastrukturtyps oder des funktionalen App Hub-Typs identifizieren. Die Spalte „Funktionstyp“ ist standardmäßig ausgeblendet.

Codebeispiele finden Sie hier:

Unterstützung bei der Fehlererkennung

Error Reporting analysiert Logeinträge aus Cloud Logging, um Fehler zu finden. Wenn Error Reporting Fehler findet, werden die zugehörigen Logeinträge mit Anmerkungen versehen und es wird eine Fehlergruppe erstellt. Sehen Sie sich diese Fehlergruppen an, um die Ursache und den Verlauf des Fehlers zu ermitteln.

Unterstützung für die Profilerstellung

Mit Cloud Profiler können Sie die CPU- und Arbeitsspeichernutzung Ihrer Anwendungen analysieren, um Möglichkeiten zur Leistungsverbesserung zu ermitteln.

Jetzt starten

In diesem Abschnitt werden Schritte beschrieben, mit denen Sie sich mit den Funktionen zur Beobachtbarkeit in Google Cloudvertraut machen können.

Kurzanleitungen ausprobieren

Probieren Sie die Kurzanleitungen aus, um sich mit den verfügbaren Diensten vertraut zu machen.

Automatisch erhobene Daten ansehen

Die meisten Google Cloud -Dienste generieren automatisch Log- und Messwertdaten. Das bedeutet, dass Sie sich ohne zusätzliche Konfiguration einige Beobachtbarkeitsdaten für unterstützte Google Cloud -Dienste ansehen können.

  • Einige Google Cloud -Dienste wie Google Kubernetes Engine (GKE), Compute Engine und Cloud SQL stellen Standard-Dashboards in der Google Cloud Console bereit, damit sich Beobachtbarkeitsdaten im Kontext des Dienstes aufrufen lassen.
  • Compute Engine, GKE und Cloud Run generieren standardmäßig Systemmesswert- und Logdaten. Sie konfigurieren die Erfassung zusätzlicher Daten.
  • Cloud Run-Funktionen und App Engine generieren automatisch Messwert-, Log- und Trace-Daten.

Sie können erfasste Messwertdaten auch im Metrics Explorer in einem Diagramm darstellen, Logdaten im Log-Explorer ansehen oder Trace-Daten in Trace aufrufen. Wenn Sie zusammengehörige Daten gemeinsam prüfen möchten, erstellen Sie benutzerdefinierte Dashboards. Sie können beispielsweise ein Dashboard erstellen, das Logdaten, Leistungsmesswerte und Benachrichtigungsrichtlinien für virtuelle Maschinen enthält.

Compute Engine-VMs für die Erfassung zusätzlicher Daten konfigurieren

Compute Engine-VMs erfassen standardmäßig nur grundlegende Systemmesswerte und Logdaten. Sie können jedoch den Ops-Agent installieren, um zusätzliche Telemetriedaten aus Ihren Compute Engine-Instanzen und -Anwendungen zur Fehlerbehebung, Leistungsüberwachung und für Benachrichtigungen zu erfassen. Der Ops-Agent ist keine agentische Anwendung. Stattdessen handelt es sich um eine deterministische Software, die Telemetriedaten erfasst.

GKE-Cluster für die Erfassung zusätzlicher Daten konfigurieren

Standardmäßig senden GKE-Cluster Systemprotokolldaten und Systemmesswertdaten an Logging und Monitoring. Google Cloud Managed Service for Prometheus übernimmt die Erfassung von Messwertdaten von Drittanbietern und benutzerdefinierten Messwertdaten.

  • Verwenden Sie Pakete für Messwerte zur Beobachtbarkeit, um den Status Ihrer Anwendungen und Clusterressourcen besser zu verstehen. Messwertdaten der Steuerungsebene sind beispielsweise nützlich, um SLOs zu erstellen, mit denen die Dienstverfügbarkeit und -latenz überwacht werden können.
  • Überwachen Sie Anwendungen von Drittanbietern wie Postgres, MongoDB und Redis. Diese Integrationen bieten vorkonfigurierte Dashboards und Benachrichtigungsrichtlinien.

Cloud Run für die Erfassung benutzerdefinierter Daten konfigurieren

Wenn Sie einen Cloud Run-Dienst haben, der Prometheus-Messwertdaten schreibt, können Sie den Prometheus-Sidecar verwenden, um die Messwertdaten an Cloud Monitoring zu senden.

Wenn Ihr Cloud Run-Dienst stattdessen OTLP-Messwertdaten schreibt, können Sie einen OpenTelemetry-Sidecar verwenden. Ein Beispiel finden Sie in der Anleitung zum Erfassen von OTLP-Messwertdaten mit dem Sidecar.