Osservabilità in Google Cloud

Google Cloud Observability include servizi di osservabilità che ti aiutano a comprendere il comportamento, l'integrità e le prestazioni delle tue applicazioni, incluse quelle agentiche. La visibilità sul comportamento delle applicazioni e sul modo in cui i componenti sono collegati ti aiuta ad anticipare, identificare e rispondere a cambiamenti imprevisti in modo più rapido ed efficace.

Questo documento include le seguenti informazioni:

Osservabilità

L'osservabilità è un approccio olistico alla raccolta e all'analisi dei dati di telemetria per comprendere lo stato delle tue applicazioni, incluse quelle agentiche, e del loro ambiente operativo. I dati di telemetria includono log, metriche e dati di tracciamento. Potrebbero essere inclusi anche altri dati generati dalle tue applicazioni, come prompt e risposte. I dati di telemetria forniscono le informazioni necessarie per comprendere l'integrità e le prestazioni delle tue applicazioni.

Dati delle metriche
I dati delle metriche sono dati numerici relativi all'integrità o alle prestazioni che il sistema misura a intervalli regolari, ad esempio l'utilizzo della CPU e la latenza delle richieste. Modifiche impreviste ai dati delle metriche potrebbero indicare un problema da esaminare. Nel tempo, puoi anche analizzare i pattern per comprendere meglio i modelli di utilizzo e anticipare le esigenze di risorse.
Dati di log

Un log è un record generato dell'attività di sistema o dell'applicazione nel tempo. Ogni log è una raccolta di voci di log con timestamp e ogni voce di log descrive un evento specifico.

I log spesso contengono informazioni dettagliate e complete che ti aiutano a capire cosa è successo in una parte specifica della tua applicazione. Tuttavia, i dati di log non mostrano in modo efficace la relazione tra una modifica in un componente dell'applicazione e l'attività in altri componenti. I dati di Trace possono colmare questo divario.

Dati di Trace

Una traccia rappresenta il percorso di una richiesta nelle parti della tua applicazione distribuita. ovvero ogni traccia rappresenta una singola operazione end-to-end. Poiché le tracce sono composte da intervalli, ovvero record per una singola funzione o operazione, ti consentono di seguire il flusso delle richieste ed esaminare i dati sulla latenza. Queste informazioni possono aiutarti a identificare la causa principale di un problema.

Per le applicazioni con agenti, le tracce acquisiscono le azioni eseguite dall'agente. Ad esempio, una traccia può acquisire le chiamate MCP.

Altri dati

Puoi ottenere ulteriori approfondimenti analizzando i dati di log, metriche e tracce insieme ad altre informazioni pertinenti. Ad esempio, un'etichetta che indica la gravità di un incidente o un ID cliente nei log fornisce un contesto utile per la risoluzione dei problemi e il debug.

Osservabilità dell'agente

L'osservabilità degli agenti si riferisce ai metodi per comprendere lo stato interno e il comportamento degli agenti software, in particolare degli agenti basati sull'AI creati utilizzando modelli linguistici di grandi dimensioni (LLM). Poiché gli agenti AI sono non deterministici e complessi, l'osservabilità è fondamentale per comprendere, eseguire il debug, valutare e migliorare le loro prestazioni, sicurezza e affidabilità.

Google Cloud supporta l'osservabilità delle applicazioni con Application Monitoring, che crea dashboard che mostrano la telemetria, le metriche delle risorse AI e informazioni come gli incidenti aperti. Per saperne di più, consulta la sezione Osservabilità di agenti e applicazioni in Google Cloud di questo documento.

Osservabilità delle applicazioni e APM

Il monitoraggio delle prestazioni delle applicazioni (APM) monitora, diagnostica e gestisce le prestazioni, la disponibilità e l'esperienza utente delle applicazioni software, incluse le applicazioni con agenti. Un sistema APM in genere fornisce dashboard che mostrano la telemetria e i servizi che la monitorano. Questi sistemi ti aiutano a identificare cosa non funziona.

L'osservabilità delle applicazioni utilizza i dati di telemetria per generare approfondimenti che possono aiutarti a comprendere il comportamento delle tue applicazioni.

Google Cloud supporta l'osservabilità delle applicazioni con Application Monitoring, che crea dashboard che mostrano la telemetria, le metriche delle risorse AI e informazioni come gli incidenti aperti. Per saperne di più, consulta la sezione Osservabilità di agenti e applicazioni in Google Cloud di questo documento.

Servizi di osservabilità

I servizi di osservabilità raccolgono, analizzano e correlano i dati di telemetria, come log, metriche e tracce. Questi servizi ti aiutano a mantenere l'affidabilità delle applicazioni fornendo le seguenti funzionalità:

  • Rileva in modo proattivo i problemi prima che abbiano un impatto sugli utenti.
  • Risolvi i problemi noti e quelli nuovi.
  • Eseguire il debug delle applicazioni durante lo sviluppo.
  • Comprendere l'impatto delle modifiche alle tue applicazioni.
  • Scopri nuovi insight tramite l'esplorazione dei dati.

Per saperne di più sulle pratiche di affidabilità, inclusi principi e pratiche relativi all'osservabilità, leggi il libro Site Reliability Engineering: How Google Runs Production Systems. Gli argomenti includono Monitoraggio dei sistemi distribuiti, Avvisi e Risoluzione dei problemi.

Google Cloud Observability

I servizi di Google Cloud Observability ti aiutano a raccogliere, analizzare e correlare i dati di telemetria, sia dalle tue applicazioni sia dall'infrastruttura sottostante. Questi servizi forniscono anche valori predefiniti integrati per aiutarti a iniziare più rapidamente. Ad esempio, Application Monitoring crea dashboard e mappe della topologia per le applicazioni, i servizi e i workload registrati in App Hub.

Raccolta automatica dei dati di telemetria

Monitoring, Logging e Trace sono tra i servizi abilitati per impostazione predefinita quando crei un progetto Google Cloud . Questi servizi forniscono le funzionalità di base per raccogliere, analizzare e visualizzare la telemetria:

  • Raccogli automaticamente la telemetria per la maggior parte dei Google Cloud servizi.
  • Raccogli automaticamente i log di controllo per la maggior parte dei servizi Google Cloud.
  • Fornire servizi di visualizzazione, inclusi esploratori di dashboard e telemetria, che ti consentono di visualizzare ed esaminare la telemetria. Ad esempio, l'Esplora tracce ti consente di visualizzare tracce, intervalli e metadati, inclusi prompt e risposte multimodali. Per maggiori informazioni, consulta Eseguire query e visualizzare i dati di telemetria.
  • Fornisci servizi di analisi basati su SQL per i dati di log e traccia. Ad esempio, puoi utilizzare BigQuery per confrontare gli URL nei log con un set di dati pubblico di URL dannosi noti.
  • Fornire il monitoraggio di applicazioni e telemetria. Ad esempio, puoi creare criteri di avviso che ti avvisano quando i dati di log o delle metriche soddisfano le condizioni che specifichi. Puoi anche utilizzare il monitoraggio sintetico per testare le prestazioni delle tue applicazioni.

  • Raccogli la telemetria dalle applicazioni instrumentate. L'instrumentazione è il codice che aggiungi a un'applicazione per emettere dati di telemetria.

    Per instrumentare l'applicazione, ti consigliamo di utilizzare un framework di instrumentazione open source indipendente dal fornitore, come OpenTelemetry, anziché API o librerie client specifiche del fornitore e del prodotto. Per informazioni su questi framework, vedi Instrumentazione e osservabilità e Scegliere un approccio di instrumentazione.

Osservabilità di agenti e applicazioni

Application Monitoring in Google Cloud fornisce l'osservabilità sia dell'agente che dell'applicazione. Questo servizio fornisce dashboard e mappe della topologia che ti consentono di comprendere l'integrità e le prestazioni di applicazioni, servizi e carichi di lavoro di App Hub. Genera e mostra anche metriche come percentuali di errore e utilizzo dei token per le risorse di AI. Per generare queste metriche, Application Monitoring filtra e aggrega i dati di traccia utilizzando etichette ed eventi specifici dell'applicazione che seguono le convenzioni semantiche OpenTelemetry GenAI.

Per l'osservabilità degli agenti, ti consigliamo di crearli con il framework Agent Development Kit (ADK). Poiché ADK si basa su OpenTelemetry, la telemetria generata da ADK è coerente con le convenzioni semantiche di OpenTelemetry GenAI.

Per eseguire il debug degli errori, monitorare i costi o analizzare il comportamento degli agenti, inclusi quelli di Gemini Enterprise Agent Platform, Agent Gateway e Model Armor, sono necessari dati di log, metriche e tracce:

  • I log forniscono informazioni su eventi ed errori.
  • Le metriche ti consentono di monitorare la latenza e l'utilizzo dei token.
  • Le tracce forniscono informazioni sui percorsi di esecuzione e vengono analizzate per derivare metriche come il numero di chiamate al modello o l'utilizzo totale dei token. Queste metriche derivate forniscono visibilità sul rendimento e sul comportamento degli agenti. Per maggiori informazioni, consulta Visualizzare le risorse AI.
  • I dati di prompt e risposta ti consentono di valutare la qualità e il processo decisionale dell'agente utilizzando Gen AI evaluation service.

La dashboard Monitoraggio applicazioni per un'applicazione mostra un elenco dei servizi e dei carichi di lavoro dell'applicazione, ad esempio app Gemini Enterprise, agenti della piattaforma agentica Gemini Enterprise e server MCP:

Una panoramica che elenca i servizi e i workload in un'applicazione.

Puoi identificare i servizi e i workload agentic utilizzando il tipo di infrastruttura o il tipo funzionale di App Hub. La colonna del tipo funzionale è nascosta per impostazione predefinita.

Per esempi di codice, vedi quanto segue:

Supporto per l'identificazione degli errori

Error Reporting analizza le voci di log di Cloud Logging per gli errori. Quando Error Reporting rileva errori, annota le voci di log associate e crea un gruppo di errori. Esplora questi gruppi di errori per identificare la causa e la cronologia dell'errore.

Supporto per la profilazione

Cloud Profiler ti consente di analizzare l'utilizzo di CPU e memoria utilizzata per le tue applicazioni per identificare le opportunità di migliorare le prestazioni.

Inizia

Questa sezione descrive i passaggi che puoi seguire per acquisire familiarità con le funzionalità di osservabilità in Google Cloud.

Prova le guide rapide

Prova le guide rapide per acquisire familiarità con i servizi disponibili.

Visualizzare i dati raccolti automaticamente

La maggior parte dei Google Cloud servizi genera automaticamente dati di log e metriche. Ciò significa che puoi iniziare a esaminare alcuni dati di osservabilità per i serviziGoogle Cloud supportati senza configurazioni aggiuntive.

  • Alcuni Google Cloud servizi come Google Kubernetes Engine (GKE), Compute Engine e Cloud SQL forniscono dashboard predefinite nella console Google Cloud per visualizzare i dati di osservabilità nel contesto del servizio.
  • Compute Engine, GKE e Cloud Run generano metriche e log di sistema per impostazione predefinita e tu configuri la raccolta di dati aggiuntivi.
  • Cloud Run Functions e App Engine generano automaticamente metriche, log e tracce.

Puoi anche rappresentare graficamente le metriche raccolte in Esplora metriche, visualizzare i log in Esplora log o visualizzare le tracce in Trace. Per esaminare insieme i dati correlati, crea dashboard personalizzate. Ad esempio, puoi creare una dashboard che includa log, metriche delle prestazioni e criteri di avviso per le macchine virtuali.

Configura le VM di Compute Engine per raccogliere dati aggiuntivi

Per impostazione predefinita, le VM Compute Engine raccolgono solo log e metriche di sistema di base. Tuttavia, puoi installare Ops Agent per raccogliere dati di telemetria aggiuntivi dalle tue istanze e applicazioni Compute Engine per la risoluzione dei problemi, il monitoraggio delle prestazioni e la generazione di avvisi. L'Ops Agent non è un'applicazione agentica. Si tratta invece di un software deterministico che raccoglie la telemetria.

Configura i cluster GKE per raccogliere dati aggiuntivi

Per impostazione predefinita, i cluster GKE inviano log e metriche di sistema a Logging e Monitoring. Google Cloud Managed Service per Prometheus gestisce la raccolta di metriche di terze parti e definite dall'utente.

  • Utilizza i pacchetti di metriche di osservabilità per comprendere meglio lo stato delle applicazioni e delle risorse del cluster. Ad esempio, le metriche del piano di controllo sono utili per creare SLO per monitorare la disponibilità e la latenza del servizio.
  • Monitora applicazioni di terze parti come Postgres, MongoDB e Redis. Queste integrazioni forniscono dashboard e criteri di avviso preconfigurati.

Configura Cloud Run per raccogliere dati personalizzati

Se hai un servizio Cloud Run che scrive metriche Prometheus, puoi utilizzare il sidecar Prometheus per inviare le metriche a Cloud Monitoring.

Se il tuo servizio Cloud Run scrive metriche OTLP, puoi utilizzare un sidecar OpenTelemetry. Per un esempio, consulta il tutorial per la raccolta delle metriche OTLP utilizzando il sidecar.