In diesem Dokument wird beschrieben, wie Sie mit Cloud Monitoring den Dienststatus von Knowledge Catalog (früher Dataplex Universal Catalog) verfolgen, die Leistung optimieren und Einblick in Ihre Datenplattform erhalten können. Durch proaktives Monitoring können Sie die Zuverlässigkeit von Datenanwendungen sicherstellen und fundierte Entscheidungen zur Ressourcenzuweisung und Kostenverwaltung treffen.
Informationen zu den Kosten finden Sie unter Monitoring-Preise.
Weitere Informationen zur Aufbewahrung von Messwertdaten finden Sie unter Kontingente und Limits für Monitoring.
Anwendungsfälle
Sie können Knowledge Catalog-Messwerte in Cloud Monitoring für die folgenden Anwendungsfälle verwenden:
- Zuverlässigkeit von Datenpipelines sicherstellen: Überwachen Sie die Erfolgs- und Fehlerraten von Knowledge Catalog-Aufgaben wie Datenaufnahme oder Datenqualitätsjobs. Konfigurieren Sie Benachrichtigungen für Fehler oder ungewöhnliche Laufzeiten, um Ausfallzeiten für kritische Arbeitslasten zu minimieren.
- Leistung optimieren: Messwerte für die Dauer von Jobs und die Ressourcennutzung im Blick behalten, um Leistungsengpässe bei der Datenverarbeitung, Datenqualität und Datenermittlung zu erkennen und zu beheben.
- Kosten verwalten: Überwachen Sie den Ressourcenverbrauch von Knowledge Catalog (z. B. Lakes, Zonen und Assets) in Monitoring und verwenden Sie den Cloud Billing-Export nach BigQuery, um die Kosten für serverlose Compute-Einheiten (DCU) für Data Quality-, Data Profiling- und Data Lineage-Arbeitslasten zuzuordnen.
- Data Governance aufrechterhalten: Messwerte im Zusammenhang mit der Metadatenerkennung und der Kataloganreicherung im Blick behalten, um sicherzustellen, dass Datenassets gemäß Ihren Governance-Richtlinien gescannt und getaggt werden.
Funktionsweise
Knowledge Catalog ist in Cloud Monitoring eingebunden, das Messwerte, Ereignisse und Metadaten aus Knowledge Catalog-Diensten erfasst. Diese Messwerte geben Aufschluss über Bereiche wie den Jobausführungsstatus, die API-Nutzung und den Ressourcenstatus. Sie können diese Messwerte mit Tools in Cloud Monitoring analysieren, z. B. mit dem Metrics Explorer, benutzerdefinierten Dashboards und Benachrichtigungen. Mit diesen Tools können Sie das Verhalten Ihres Dienstes visualisieren, Leistungstrends erkennen und Benachrichtigungsrichtlinien erstellen, die Sie benachrichtigen, wenn die Leistung von den definierten Schwellenwerten abweicht oder Fehler auftreten.
Auf Dienstmesswerte in Monitoring zugreifen
Messwerte zu Knowledge Catalog-Dienstressourcen werden automatisch für Knowledge Catalog-Dienste aktiviert. Verwenden Sie Monitoring, um sich diese Messwerte anzusehen.
Sie können über die Google Cloud -Konsole oder die Monitoring API auf Monitoring zugreifen.
Wenn Sie die Monitoring-Diagramme nicht sehen oder keine Benachrichtigungen erstellen können, benötigen Sie möglicherweise zusätzliche Monitoring-Berechtigungen.
Console
Wechseln Sie in der Google Cloud Console zur Seite Metrics Explorer.
Wählen Sie im Menü Messwert auswählen eine
Cloud Dataplex-Ressource aus.Wählen Sie eine Messwertkategorie und dann einen Messwert aus der Liste aus.
Wenn Sie Informationen zu einem Messwert aufrufen möchten, bewegen Sie den Mauszeiger auf den Messwertnamen.
Klicken Sie auf Übernehmen.
Optional: Wählen Sie Filter aus, gruppieren Sie nach Messwertlabels, führen Sie Aggregationen aus und wählen Sie Optionen für die Diagrammanzeige aus.
REST
Mit der Monitoring-Methode timeSeries.list können Sie Messwerte erfassen und auflisten, die durch einen filter-Ausdruck definiert werden.
Wenn Sie eine API-Anfrage senden und die Antwort aufrufen möchten, verwenden Sie auf der API-Seite die Vorlage API testen.
Messwerte für den Knowledge Catalog-Dienst in Monitoring
Mit den Dienstmesswerten von Knowledge Catalog lässt sich der Dienststatus überwachen.
Den Strings vom Typ "metric type" in dieser Tabelle muss dataplex.googleapis.com/ vorangestellt werden. Dieses Präfix wurde in den Einträgen der Tabelle weggelassen.
Verwenden Sie beim Abfragen eines Labels das Präfix metric.labels.. Beispiel: metric.labels.LABEL="VALUE".
| Messwerttyp Startphase (Ebenen der Ressourcenhierarchie) Anzeigename |
|
|---|---|
| Art, Typ, Einheit Überwachte Ressourcen |
Beschreibung Labels |
asset/active
BETA
(Projekt)
Aktiv |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Gibt an, ob das Asset aktiv ist.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/data_items
BETA
(Projekt)
Datenelemente |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Die Anzahl der Elemente in der referenzierten Ressource.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/data_size
BETA
(Projekt)
Datengröße |
|
GAUGE, INT64, By
dataplex.googleapis.com/Asset |
Die Anzahl der gespeicherten Byte in der referenzierten Ressource.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/entities_pending_bigquery_iampolicy_updates
BETA
(project)
Entitäten mit ausstehenden BigQuery-IAM-Richtlinienaktualisierungen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Anzahl der Entitäten, die dem Asset zugeordnet sind und für die BigQuery-IAM-Richtlinienaktualisierungen ausstehen.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/entities_pending_bigquery_metadata_updates
BETA
(project)
Entitäten mit ausstehenden BigQuery-Metadatenaktualisierungen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Anzahl der Entitäten, die mit dem Asset verknüpft sind und für die BigQuery-Metadatenaktualisierungen ausstehen.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/filesets
BETA
(Projekt)
Filesets |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Die Anzahl der Dateisatz-Entitäten in der referenzierten Ressource.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/requires_action
BETA
(Projekt)
Erfordert Maßnahmen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Gibt an, ob für das Asset noch nicht behobene Administratoraktionen vorliegen.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
asset/tables
BETA
(Projekt)
Tabellen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Asset |
Die Anzahl der Tabellenentitäten in der referenzierten Ressource.
resource_type:
Der Typ der referenzierten Ressource.
zone_type:
Der Typ der übergeordneten Zone.
|
lake/requires_action
BETA
(Projekt)
Erfordert Maßnahmen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Lake |
Ob für den Lake noch nicht abgeschlossene Administratoraktionen vorhanden sind. |
zone/requires_action
BETA
(Projekt)
Erfordert Maßnahmen |
|
GAUGE, INT64, 1
dataplex.googleapis.com/Zone |
Ob für die Zone noch ausstehende Administratoraktionen vorhanden sind.
type:
Der Typ der Zone.
|
Die Tabelle wurde am 09.09.2026 um 21:16:05 Uhr (UTC) erstellt.
Dataplex-DCU-Kosten mit Cloud Billing-Export überwachen und zuordnen
Da bei Knowledge Catalog-Datenscans (einschließlich automatischer Datenqualität und Datenprofilerstellung) und Datenherkunft keine Zeitreihenmesswerte in Cloud Monitoring veröffentlicht werden, können Sie den Cloud Billing-Export nach BigQuery verwenden, um die Nutzung und Kosten von Data Compute Units (DCUs) für Projekte, Scans und Datenressourcen zu erfassen, zu überwachen und zuzuordnen.
Dataplex-Abrechnungslabels
Knowledge Catalog fügt Abrechnungsdatensätzen, die für Daten-Scans und Datenherkunft ausgegeben werden, automatisch Systemlabels hinzu. Sie können diese Labels im labels-Array in Ihrer Cloud Billing-Exporttabelle abfragen:
| Labelschlüssel | Arbeitslast | Beschreibung |
|---|---|---|
goog-dataplex-datascan-id |
Datenqualität, Datenprofilerstellung | Die ID oder der Name des Datenscans. |
goog-dataplex-datascan-job-id |
Datenqualität, Datenprofilerstellung | Die spezifische Ausführungs-ID für den Daten-Scan-Job. |
goog-dataplex-datascan-data-source-project |
Datenqualität, Datenprofilerstellung | Das Google Cloud Projekt, das die gescannte Datenquelle enthält. |
goog-dataplex-datascan-data-source-region |
Datenqualität, Datenprofilerstellung | Die Google Cloud Region der gescannten Datenquelle. |
goog-dataplex-datascan-data-source-bigquery-dataset |
Datenqualität, Datenprofilerstellung | Die BigQuery-Dataset-ID der gescannten Tabelle. |
goog-dataplex-datascan-data-source-bigquery-table |
Datenqualität, Datenprofilerstellung | Die gescannte BigQuery-Tabelle-ID. |
goog-dataplex-datascan-data-source-dataplex-lake |
Datenqualität, Datenprofilerstellung | Die Dataplex-Lake-ID (falls zutreffend). |
goog-dataplex-datascan-data-source-dataplex-zone |
Datenqualität, Datenprofilerstellung | Die Dataplex-Datenzonen-ID (falls zutreffend). |
goog-dataplex-datascan-data-source-dataplex-entity |
Datenqualität, Datenprofilerstellung | Die Dataplex-Entitäts-ID (falls zutreffend). |
goog-dataplex-datascan-data-source-biglake-catalog |
Datenqualität, Datenprofilerstellung | Die BigLake-Katalog-ID (falls zutreffend). |
goog-dataplex-datascan-data-source-biglake-namespace |
Datenqualität, Datenprofilerstellung | Der BigLake-Namespace (falls zutreffend). |
goog-dataplex-datascan-data-source-biglake-table |
Datenqualität, Datenprofilerstellung | Die BigLake-Tabellen-ID (falls zutreffend). |
goog-dataplex-workload-type |
Data Lineage | Identifiziert die Arbeitslast. Auf LINEAGE setzen, um Gebühren für die Data-Lineage-Verarbeitung zu berechnen. |
Beispielabfragen
Bevor Sie diese Abfragen ausführen, müssen Sie den Cloud Billing-Export nach BigQuery aktivieren. Ersetzen Sie in den Beispielabfragen die folgenden Platzhalter:
PROJECT_ID: Die Google Cloud Projekt-ID, in der sich Ihr BigQuery-Dataset für den Abrechnungsexport befindet.DATASET_NAME: Der Name des BigQuery-Datasets, das Ihre Abrechnungsexporttabelle enthält.BILLING_ACCOUNT_ID: Die ID Ihres Cloud-Rechnungskonto (mit Unterstrichen formatiert, z. B.012345_567890_ABCDEF).
Abfrage 1: DCU-Kosten und ‑Nutzung nach DataScan und Zieltabelle zuordnen
Mit dieser Abfrage werden die Kosten für die Dataplex-Verarbeitung und die Premium-Verarbeitung nach DataScan-ID und BigQuery-Zieltabelle für die letzten 30 Tage zusammengefasst:
SELECT project.id AS project_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-project') AS data_source_project, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-dataset') AS data_source_dataset, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-table') AS data_source_table, sku.description AS sku_description, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY) GROUP BY project_id, datascan_id, data_source_project, data_source_dataset, data_source_table, sku_description, usage_unit, currency ORDER BY total_cost DESC;
Abfrage 2: Dataplex-Kosten nach Arbeitslasttyp zuordnen (Lineage vs. DataScan)
Mit dieser Abfrage werden die Kosten für Dataplex-SKUs nach Arbeitslastkategorie (z. B. Datenherkunft im Vergleich zu DataScan) für alle Projekte aufgeschlüsselt:
SELECT project.id AS project_id, sku.description AS sku_description, COALESCE( (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-workload-type'), IF(EXISTS(SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id'), 'DATASCAN', 'OTHER') ) AS workload_type, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY) GROUP BY project_id, sku_description, workload_type, usage_unit, currency ORDER BY total_cost DESC;
Abfrage 3: Täglicher DCU-Nutzungs- und Kostentrend pro DataScan-Jobausführung
Mit dieser Abfrage werden der tägliche DCU-Verbrauch und die Kosten für einzelne DataScan-Jobausführungen in den letzten 7 Tagen erfasst:
SELECT DATE(usage_start_time) AS usage_date, project.id AS project_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id, (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-job-id') AS job_id, SUM(usage.amount) AS total_usage, usage.unit AS usage_unit, SUM(cost) AS total_cost, currency FROM `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID` WHERE service.description = 'Dataplex' AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY) GROUP BY usage_date, project_id, datascan_id, job_id, usage_unit, currency ORDER BY usage_date DESC, total_cost DESC;
Benutzerdefiniertes Monitoring-Dashboard erstellen
Sie können ein benutzerdefiniertes Monitoring-Dashboard erstellen, das Diagramme ausgewählter Knowledge Catalog-Dienstmesswerte anzeigt. Weitere Informationen zum Erstellen eines Dashboards finden Sie unter Benutzerdefinierte Dashboards erstellen und verwalten. Wenn Sie einen Messwert für ein Widget in Ihrem Dashboard auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.
Monitoring-Benachrichtigungen verwenden
Sie können eine Monitoring-Benachrichtigung erstellen, um informiert zu werden, wenn ein Knowledge Catalog-Dienst oder Jobmesswert einen bestimmten Grenzwert überschreitet.
Benachrichtigung erstellen
Folgen Sie zum Erstellen einer Benachrichtigung der Anleitung unter Benachrichtigungsrichtlinien mit Messwertschwellen erstellen.
Wenn Sie eine zu überwachende Zeitreihe auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.
Benachrichtigungen ansehen
Wenn eine Benachrichtigung durch eine Messwertschwellenbedingung ausgelöst wird, erstellt Monitoring einen Vorfall sowie ein entsprechendes Ereignis.
So rufen Sie einen Vorfall auf:
Rufen Sie in der Google Cloud -Console- die Seite Benachrichtigungen auf.
Wenn in der Benachrichtigungsrichtlinie eine Benachrichtigungsmethode wie E-Mail oder SMS definiert wurde, wird von Monitoring außerdem eine Benachrichtigung zu dem Vorfall gesendet.
Weitere Informationen zu Benachrichtigungen finden Sie unter Vorfälle für messwertbasierte Benachrichtigungen.
Nächste Schritte
- Weitere Informationen zu Cloud Monitoring
- Informationen zum Cloud Billing-Export nach BigQuery
- Informationen zur Verwendung der automatischen Datenqualität
- Informationen zur Verwendung der Datenprofilerstellung
- Informationen zur Verwendung von Datenherkunft