Knowledge Catalog-Messwerte überwachen

In diesem Dokument wird beschrieben, wie Sie mit Cloud Monitoring den Dienststatus von Knowledge Catalog (früher Dataplex Universal Catalog) verfolgen, die Leistung optimieren und Einblick in Ihre Datenplattform erhalten können. Durch proaktives Monitoring können Sie die Zuverlässigkeit von Datenanwendungen sicherstellen und fundierte Entscheidungen zur Ressourcenzuweisung und Kostenverwaltung treffen.

Informationen zu den Kosten finden Sie unter Monitoring-Preise.

Weitere Informationen zur Aufbewahrung von Messwertdaten finden Sie unter Kontingente und Limits für Monitoring.

Anwendungsfälle

Sie können Knowledge Catalog-Messwerte in Cloud Monitoring für die folgenden Anwendungsfälle verwenden:

  • Zuverlässigkeit von Datenpipelines sicherstellen: Überwachen Sie die Erfolgs- und Fehlerraten von Knowledge Catalog-Aufgaben wie Datenaufnahme oder Datenqualitätsjobs. Konfigurieren Sie Benachrichtigungen für Fehler oder ungewöhnliche Laufzeiten, um Ausfallzeiten für kritische Arbeitslasten zu minimieren.
  • Leistung optimieren: Messwerte für die Dauer von Jobs und die Ressourcennutzung im Blick behalten, um Leistungsengpässe bei der Datenverarbeitung, Datenqualität und Datenermittlung zu erkennen und zu beheben.
  • Kosten verwalten: Überwachen Sie den Ressourcenverbrauch von Knowledge Catalog (z. B. Lakes, Zonen und Assets) in Monitoring und verwenden Sie den Cloud Billing-Export nach BigQuery, um die Kosten für serverlose Compute-Einheiten (DCU) für Data Quality-, Data Profiling- und Data Lineage-Arbeitslasten zuzuordnen.
  • Data Governance aufrechterhalten: Messwerte im Zusammenhang mit der Metadatenerkennung und der Kataloganreicherung im Blick behalten, um sicherzustellen, dass Datenassets gemäß Ihren Governance-Richtlinien gescannt und getaggt werden.

Funktionsweise

Knowledge Catalog ist in Cloud Monitoring eingebunden, das Messwerte, Ereignisse und Metadaten aus Knowledge Catalog-Diensten erfasst. Diese Messwerte geben Aufschluss über Bereiche wie den Jobausführungsstatus, die API-Nutzung und den Ressourcenstatus. Sie können diese Messwerte mit Tools in Cloud Monitoring analysieren, z. B. mit dem Metrics Explorer, benutzerdefinierten Dashboards und Benachrichtigungen. Mit diesen Tools können Sie das Verhalten Ihres Dienstes visualisieren, Leistungstrends erkennen und Benachrichtigungsrichtlinien erstellen, die Sie benachrichtigen, wenn die Leistung von den definierten Schwellenwerten abweicht oder Fehler auftreten.

Auf Dienstmesswerte in Monitoring zugreifen

Messwerte zu Knowledge Catalog-Dienstressourcen werden automatisch für Knowledge Catalog-Dienste aktiviert. Verwenden Sie Monitoring, um sich diese Messwerte anzusehen.

Sie können über die Google Cloud -Konsole oder die Monitoring API auf Monitoring zugreifen.

Wenn Sie die Monitoring-Diagramme nicht sehen oder keine Benachrichtigungen erstellen können, benötigen Sie möglicherweise zusätzliche Monitoring-Berechtigungen.

Console

  1. Wechseln Sie in der Google Cloud Console zur Seite Metrics Explorer.

    Zum Metrics Explorer

  2. Wählen Sie im Menü Messwert auswählen eine Cloud Dataplex-Ressource aus.

  3. Wählen Sie eine Messwertkategorie und dann einen Messwert aus der Liste aus.

    Wenn Sie Informationen zu einem Messwert aufrufen möchten, bewegen Sie den Mauszeiger auf den Messwertnamen.

  4. Klicken Sie auf Übernehmen.

  5. Optional: Wählen Sie Filter aus, gruppieren Sie nach Messwertlabels, führen Sie Aggregationen aus und wählen Sie Optionen für die Diagrammanzeige aus.

REST

Mit der Monitoring-Methode timeSeries.list können Sie Messwerte erfassen und auflisten, die durch einen filter-Ausdruck definiert werden.

Wenn Sie eine API-Anfrage senden und die Antwort aufrufen möchten, verwenden Sie auf der API-Seite die Vorlage API testen.

Messwerte für den Knowledge Catalog-Dienst in Monitoring

Mit den Dienstmesswerten von Knowledge Catalog lässt sich der Dienststatus überwachen.

Den Strings vom Typ "metric type" in dieser Tabelle muss dataplex.googleapis.com/ vorangestellt werden. Dieses Präfix wurde in den Einträgen der Tabelle weggelassen. Verwenden Sie beim Abfragen eines Labels das Präfix metric.labels.. Beispiel: metric.labels.LABEL="VALUE".

Messwerttyp Startphase (Ebenen der Ressourcenhierarchie)
Anzeigename
Art, Typ, Einheit
Überwachte Ressourcen
Beschreibung
Labels
asset/active BETA(Projekt)
Aktiv
GAUGEINT641
dataplex.googleapis.com/Asset
Gibt an, ob das Asset aktiv ist.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/data_items BETA(Projekt)
Datenelemente
GAUGEINT641
dataplex.googleapis.com/Asset
Die Anzahl der Elemente in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/data_size BETA(Projekt)
Datengröße
GAUGEINT64By
dataplex.googleapis.com/Asset
Die Anzahl der gespeicherten Byte in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/entities_pending_bigquery_iampolicy_updates BETA(project)
Entitäten mit ausstehenden BigQuery-IAM-Richtlinienaktualisierungen
GAUGEINT641
dataplex.googleapis.com/Asset
Anzahl der Entitäten, die dem Asset zugeordnet sind und für die BigQuery-IAM-Richtlinienaktualisierungen ausstehen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/entities_pending_bigquery_metadata_updates BETA(project)
Entitäten mit ausstehenden BigQuery-Metadatenaktualisierungen
GAUGEINT641
dataplex.googleapis.com/Asset
Anzahl der Entitäten, die mit dem Asset verknüpft sind und für die BigQuery-Metadatenaktualisierungen ausstehen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/filesets BETA(Projekt)
Filesets
GAUGEINT641
dataplex.googleapis.com/Asset
Die Anzahl der Dateisatz-Entitäten in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/requires_action BETA(Projekt)
Erfordert Maßnahmen
GAUGEINT641
dataplex.googleapis.com/Asset
Gibt an, ob für das Asset noch nicht behobene Administratoraktionen vorliegen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/tables BETA(Projekt)
Tabellen
GAUGEINT641
dataplex.googleapis.com/Asset
Die Anzahl der Tabellenentitäten in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
lake/requires_action BETA(Projekt)
Erfordert Maßnahmen
GAUGEINT641
dataplex.googleapis.com/Lake
Ob für den Lake noch nicht abgeschlossene Administratoraktionen vorhanden sind.
zone/requires_action BETA(Projekt)
Erfordert Maßnahmen
GAUGEINT641
dataplex.googleapis.com/Zone
Ob für die Zone noch ausstehende Administratoraktionen vorhanden sind.
type: Der Typ der Zone.

Die Tabelle wurde am 09.09.2026 um 21:16:05 Uhr (UTC) erstellt.

Dataplex-DCU-Kosten mit Cloud Billing-Export überwachen und zuordnen

Da bei Knowledge Catalog-Datenscans (einschließlich automatischer Datenqualität und Datenprofilerstellung) und Datenherkunft keine Zeitreihenmesswerte in Cloud Monitoring veröffentlicht werden, können Sie den Cloud Billing-Export nach BigQuery verwenden, um die Nutzung und Kosten von Data Compute Units (DCUs) für Projekte, Scans und Datenressourcen zu erfassen, zu überwachen und zuzuordnen.

Dataplex-Abrechnungslabels

Knowledge Catalog fügt Abrechnungsdatensätzen, die für Daten-Scans und Datenherkunft ausgegeben werden, automatisch Systemlabels hinzu. Sie können diese Labels im labels-Array in Ihrer Cloud Billing-Exporttabelle abfragen:

Labelschlüssel Arbeitslast Beschreibung
goog-dataplex-datascan-id Datenqualität, Datenprofilerstellung Die ID oder der Name des Datenscans.
goog-dataplex-datascan-job-id Datenqualität, Datenprofilerstellung Die spezifische Ausführungs-ID für den Daten-Scan-Job.
goog-dataplex-datascan-data-source-project Datenqualität, Datenprofilerstellung Das Google Cloud Projekt, das die gescannte Datenquelle enthält.
goog-dataplex-datascan-data-source-region Datenqualität, Datenprofilerstellung Die Google Cloud Region der gescannten Datenquelle.
goog-dataplex-datascan-data-source-bigquery-dataset Datenqualität, Datenprofilerstellung Die BigQuery-Dataset-ID der gescannten Tabelle.
goog-dataplex-datascan-data-source-bigquery-table Datenqualität, Datenprofilerstellung Die gescannte BigQuery-Tabelle-ID.
goog-dataplex-datascan-data-source-dataplex-lake Datenqualität, Datenprofilerstellung Die Dataplex-Lake-ID (falls zutreffend).
goog-dataplex-datascan-data-source-dataplex-zone Datenqualität, Datenprofilerstellung Die Dataplex-Datenzonen-ID (falls zutreffend).
goog-dataplex-datascan-data-source-dataplex-entity Datenqualität, Datenprofilerstellung Die Dataplex-Entitäts-ID (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-catalog Datenqualität, Datenprofilerstellung Die BigLake-Katalog-ID (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-namespace Datenqualität, Datenprofilerstellung Der BigLake-Namespace (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-table Datenqualität, Datenprofilerstellung Die BigLake-Tabellen-ID (falls zutreffend).
goog-dataplex-workload-type Data Lineage Identifiziert die Arbeitslast. Auf LINEAGE setzen, um Gebühren für die Data-Lineage-Verarbeitung zu berechnen.

Beispielabfragen

Bevor Sie diese Abfragen ausführen, müssen Sie den Cloud Billing-Export nach BigQuery aktivieren. Ersetzen Sie in den Beispielabfragen die folgenden Platzhalter:

  • PROJECT_ID: Die Google Cloud Projekt-ID, in der sich Ihr BigQuery-Dataset für den Abrechnungsexport befindet.
  • DATASET_NAME: Der Name des BigQuery-Datasets, das Ihre Abrechnungsexporttabelle enthält.
  • BILLING_ACCOUNT_ID: Die ID Ihres Cloud-Rechnungskonto (mit Unterstrichen formatiert, z. B. 012345_567890_ABCDEF).

Abfrage 1: DCU-Kosten und ‑Nutzung nach DataScan und Zieltabelle zuordnen

Mit dieser Abfrage werden die Kosten für die Dataplex-Verarbeitung und die Premium-Verarbeitung nach DataScan-ID und BigQuery-Zieltabelle für die letzten 30 Tage zusammengefasst:

SELECT
  project.id AS project_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-project') AS data_source_project,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-dataset') AS data_source_dataset,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-table') AS data_source_table,
  sku.description AS sku_description,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id')
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
GROUP BY
  project_id,
  datascan_id,
  data_source_project,
  data_source_dataset,
  data_source_table,
  sku_description,
  usage_unit,
  currency
ORDER BY
  total_cost DESC;

Abfrage 2: Dataplex-Kosten nach Arbeitslasttyp zuordnen (Lineage vs. DataScan)

Mit dieser Abfrage werden die Kosten für Dataplex-SKUs nach Arbeitslastkategorie (z. B. Datenherkunft im Vergleich zu DataScan) für alle Projekte aufgeschlüsselt:

SELECT
  project.id AS project_id,
  sku.description AS sku_description,
  COALESCE(
    (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-workload-type'),
    IF(EXISTS(SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id'), 'DATASCAN', 'OTHER')
  ) AS workload_type,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
GROUP BY
  project_id,
  sku_description,
  workload_type,
  usage_unit,
  currency
ORDER BY
  total_cost DESC;

Abfrage 3: Täglicher DCU-Nutzungs- und Kostentrend pro DataScan-Jobausführung

Mit dieser Abfrage werden der tägliche DCU-Verbrauch und die Kosten für einzelne DataScan-Jobausführungen in den letzten 7 Tagen erfasst:

SELECT
  DATE(usage_start_time) AS usage_date,
  project.id AS project_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-job-id') AS job_id,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id')
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY)
GROUP BY
  usage_date,
  project_id,
  datascan_id,
  job_id,
  usage_unit,
  currency
ORDER BY
  usage_date DESC,
  total_cost DESC;

Benutzerdefiniertes Monitoring-Dashboard erstellen

Sie können ein benutzerdefiniertes Monitoring-Dashboard erstellen, das Diagramme ausgewählter Knowledge Catalog-Dienstmesswerte anzeigt. Weitere Informationen zum Erstellen eines Dashboards finden Sie unter Benutzerdefinierte Dashboards erstellen und verwalten. Wenn Sie einen Messwert für ein Widget in Ihrem Dashboard auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.

Monitoring-Benachrichtigungen verwenden

Sie können eine Monitoring-Benachrichtigung erstellen, um informiert zu werden, wenn ein Knowledge Catalog-Dienst oder Jobmesswert einen bestimmten Grenzwert überschreitet.

Benachrichtigung erstellen

Folgen Sie zum Erstellen einer Benachrichtigung der Anleitung unter Benachrichtigungsrichtlinien mit Messwertschwellen erstellen. Wenn Sie eine zu überwachende Zeitreihe auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.

Benachrichtigungen ansehen

Wenn eine Benachrichtigung durch eine Messwertschwellenbedingung ausgelöst wird, erstellt Monitoring einen Vorfall sowie ein entsprechendes Ereignis.

So rufen Sie einen Vorfall auf:

Wenn in der Benachrichtigungsrichtlinie eine Benachrichtigungsmethode wie E-Mail oder SMS definiert wurde, wird von Monitoring außerdem eine Benachrichtigung zu dem Vorfall gesendet.

Weitere Informationen zu Benachrichtigungen finden Sie unter Vorfälle für messwertbasierte Benachrichtigungen.

Nächste Schritte