Google verwendet KI-Technologie, um Inhalte in Ihre bevorzugte Sprache zu übersetzen. KI-Übersetzungen können Fehler enthalten.

DCGM-Messwerte für Vertex AI-Inferenz ansehen

Auf dieser Seite wird beschrieben, wie Sie NVIDIA Data Center GPU Manager (DCGM)-Messwerte im Zusammenhang mit Ihren Vertex AI Inference-Endpunkten untersuchen.

Was ist DCGM?

NVIDIA Data Center GPU Manager (DCGM) ist eine Reihe von Tools von NVIDIA, mit denen Sie NVIDIA-GPUs verwalten und überwachen können. Vertex AI Inference exportiert automatisch DCGM-Messwerte der Gemini Enterprise Agent Platform nach Cloud Monitoring, wenn Ihre Endpunkte unterstützte GPUs verwenden. Diese Messwerte bieten eine umfassende Ansicht von GPU-Auslastung, -Leistung und -Zustand.

Vorbereitung

Bevor Sie beginnen, muss Cloud Monitoring für Ihr Projekt aktiviert sein. Weitere Informationen finden Sie unter Cloud Monitoring API aktivieren.

DCGM-Messwerte verwenden

So rufen Sie DCGM-Messwerte im Metrics Explorer auf:

Rufen Sie in der Google Cloud Console die Seite Metrics Explorer auf.

Zum Metrics Explorer
Wählen Sie unter Messwert auswählen die Option Prometheus-Ziel aus.
Wählen Sie unter Aktive Messwertkategorien die Option Vertex aus.
Wählen Sie unter Aktive Messwerte den gewünschten Messwert aus.
Klicken Sie auf Übernehmen.

Sie können Messwerte auch mit Grafana oder der Prometheus API oder UI abfragen.

Kontingent

DCGM-Messwerte verbrauchen das Kontingent für Zeitachsenaufnahmeanfragen pro Minute der Cloud Monitoring API. Bevor Sie die Messwertpakete aktivieren, prüfen Sie Ihre letzte Spitzennutzung dieses Kontingents. Wenn Sie dieses Kontingentlimit bereits fast erreicht haben, können Sie ein höheres Kontingent anfordern.

DCGM-Messwerte für die Gemini Enterprise Agent Platform

Die Cloud Monitoring-Messwertnamen in dieser Tabelle müssen das Präfix prometheus.googleapis.com/ haben. Dieses Präfix wurde in den Einträgen der Tabelle weggelassen.

Zusätzlich zu den Labels für die überwachte Ressource prometheus_target sind alle erfassten DCGM-Messwerte auf der Gemini Enterprise Agent Platform mit den folgenden Labels versehen:

GPU-Labels:

gpu_model: das GPU-Gerätemodell, z. B. NVIDIA L4.
gpu_uuid: die UUID des GPU-Geräts.
gpu_i_id: die Instanz-ID der NVIDIA-Multi-Instanz-GPU (MIG).

Labels für die Gemini Enterprise Agent Platform:

deployed_model_id: Die ID eines bereitgestellten Modells, das Inferenzanfragen verarbeitet.
model_display_name: der Anzeigename eines bereitgestellten Modells.
replica_id: die eindeutige ID, die dem bereitgestellten Modellreplikat (Pod-Name) entspricht.
endpoint_id: die ID eines Modellendpunkts.
endpoint_display_name: der Anzeigename eines Modellendpunkts.
product: der Name des Features in der Gemini Enterprise Agent Platform. Dies ist immer Online Inference.

PromQL-Messwertname Cloud Monitoring-Messwertname
Art, Typ, Einheit Überwachte Ressourcen	Beschreibung
`vertex_dcgm_fi_dev_fb_free` `vertex_dcgm_fi_dev_fb_free/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Verfügbarer Frame-Puffer in MB.
`vertex_dcgm_fi_dev_fb_total` `vertex_dcgm_fi_dev_fb_total/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Gesamter Framebuffer der GPU in MB.
`vertex_dcgm_fi_dev_fb_used` `vertex_dcgm_fi_dev_fb_used/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Verwendeter Framebuffer in MB.
`vertex_dcgm_fi_dev_gpu_temp` `vertex_dcgm_fi_dev_gpu_temp/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Aktuelle Temperaturmesswerte des Geräts (in °C).
`vertex_dcgm_fi_dev_gpu_util` `vertex_dcgm_fi_dev_gpu_util/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	GPU-Auslastung (in %).
`vertex_dcgm_fi_dev_mem_copy_util` `vertex_dcgm_fi_dev_mem_copy_util/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Arbeitsspeicherauslastung (in %).
`vertex_dcgm_fi_dev_memory_temp` `vertex_dcgm_fi_dev_memory_temp/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Arbeitsspeichertemperatur des Geräts (in °C).
`vertex_dcgm_fi_dev_power_usage` `vertex_dcgm_fi_dev_power_usage/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Stromverbrauch des Geräts (in Watt).
`vertex_dcgm_fi_dev_sm_clock` `vertex_dcgm_fi_dev_sm_clock/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	SM-Taktfrequenz (in MHz).
`vertex_dcgm_fi_dev_total_energy_consumption` `vertex_dcgm_fi_dev_total_energy_consumption/counter`
`CUMULATIVE`, `DOUBLE`, `1` prometheus_target	Gesamtenergieverbrauch der GPU in mJ seit dem letzten Neuladen des Treibers.
`vertex_dcgm_fi_prof_dram_active` `vertex_dcgm_fi_prof_dram_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen die Gerätespeicherschnittstelle aktiv Daten sendet oder empfängt.
`vertex_dcgm_fi_prof_gr_engine_active` `vertex_dcgm_fi_prof_gr_engine_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Der Anteil der Zeit, in der die Grafik-Engine aktiv ist.
`vertex_dcgm_fi_prof_nvlink_rx_bytes` `vertex_dcgm_fi_prof_nvlink_rx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Die Rate der aktiven NvLink-rx-Daten (Lesen) in Byte, einschließlich Header und Nutzlast.
`vertex_dcgm_fi_prof_nvlink_tx_bytes` `vertex_dcgm_fi_prof_nvlink_tx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Die Rate der aktiven NvLink-tx-Daten (Übertragung) in Byte, einschließlich Header und Nutzlast.
`vertex_dcgm_fi_prof_pcie_rx_bytes` `vertex_dcgm_fi_prof_pcie_rx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Die Rate der aktiven PCIe-rx-Daten (gelesen) in Byte, einschließlich Header und Nutzlast.
`vertex_dcgm_fi_prof_pcie_tx_bytes` `vertex_dcgm_fi_prof_pcie_tx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Die Rate der aktiven PCIe-tx-Daten (Übertragung) in Byte, einschließlich Header und Nutzlast.
`vertex_dcgm_fi_prof_pipe_fp16_active` `vertex_dcgm_fi_prof_pipe_fp16_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen die fp16-Pipe aktiv ist.
`vertex_dcgm_fi_prof_pipe_fp32_active` `vertex_dcgm_fi_prof_pipe_fp32_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen die fp32-Pipe aktiv ist.
`vertex_dcgm_fi_prof_pipe_fp64_active` `vertex_dcgm_fi_prof_pipe_fp64_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen die fp64-Pipe aktiv ist.
`vertex_dcgm_fi_prof_pipe_tensor_active` `vertex_dcgm_fi_prof_pipe_tensor_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen eine beliebige Tensor Pipe aktiv ist.
`vertex_dcgm_fi_prof_sm_active` `vertex_dcgm_fi_prof_sm_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	Das Verhältnis der Zyklen, in denen einer SM mindestens 1 Warp zugewiesen ist.

Unterstützte GPUs

Alle NVIDIA-GPUs werden unterstützt, mit Ausnahme der folgenden, die aufgrund von Ressourcenbeschränkungen nicht unterstützt werden:

Nächste Schritte

Weitere Informationen zum Metrics Explorer

DCGM-Messwerte für Vertex AI-Inferenz ansehen Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.