Knowledge Catalog-Messwerte überwachen

In diesem Dokument wird erläutert, wie Sie mit Cloud Monitoring den Zustand von Knowledge Catalog-Diensten (früher Dataplex Universal Catalog) verfolgen, die Leistung optimieren und Einblick in Ihre Datenplattform erhalten. Durch proaktives Monitoring können Sie die Zuverlässigkeit von Datenanwendungen sicherstellen und fundierte Entscheidungen zur Ressourcenzuweisung und Kostenverwaltung treffen.

Informationen zu den Kosten finden Sie unter Monitoring-Preise.

Weitere Informationen zur Datenaufbewahrung von Messwerten finden Sie unter Kontingente und Limits für Monitoring.

Anwendungsfälle

Sie können Knowledge Catalog-Messwerte in Cloud Monitoring für die folgenden Anwendungsfälle verwenden:

  • Zuverlässigkeit der Datenpipeline sicherstellen: Überwachen Sie die Erfolgs- und Fehlerraten von Knowledge Catalog-Aufgaben, z. B. Datenaufnahme- oder Datenqualitätsjobs. Konfigurieren Sie Benachrichtigungen für Fehler oder ungewöhnliche Dauern, um die Ausfallzeit für kritische Arbeitslasten zu minimieren.
  • Leistung optimieren: Verfolgen Sie die Jobdauer und die Messwerte zur Ressourcennutzung, um Leistungsengpässe in Ihren Arbeitslasten für Datenverarbeitung, Datenqualität und Datenerkennung zu identifizieren und zu beheben.
  • Kosten verwalten: Überwachen Sie den Ressourcenverbrauch von Knowledge Catalog (z. B. Lakes, Zonen und Assets) in Monitoring und verwenden Sie den Cloud Billing-Export nach BigQuery, um serverlose Computing-Kosten (DCU) für Datenqualitäts-, Datenprofilerstellungs- und Datenherkunfts-Arbeitslasten zuzuordnen.
  • Data Governance aufrechterhalten: Behalten Sie Messwerte im Zusammenhang mit der Metadatenermittlung und der Kataloganreicherung im Blick, um sicherzustellen, dass Daten-Assets gemäß Ihren Governance-Richtlinien gescannt und getaggt werden.

Funktionsweise

Knowledge Catalog ist in Cloud Monitoring eingebunden, das Messwerte, Ereignisse und Metadaten von Knowledge Catalog-Diensten erfasst. Diese Messwerte bieten Einblicke in Bereiche wie den Status der Jobausführung, die API-Nutzung und den Ressourcenzustand. Sie können diese Messwerte mit Tools in Cloud Monitoring analysieren, z. B. mit dem Metrics Explorer, benutzerdefinierten Dashboards und Benachrichtigungen. Mit diesen Tools können Sie das Verhalten Ihres Dienstes visualisieren, Leistungstrends erkennen und Benachrichtigungsrichtlinien erstellen, die Sie informieren, wenn die Leistung von definierten Grenzwerten abweicht oder Fehler auftreten.

In Monitoring auf Dienstmesswerte zugreifen

Ressourcenmesswerte für Knowledge Catalog-Dienste werden automatisch für Knowledge Catalog-Dienste aktiviert. Verwenden Sie Monitoring, um diese Messwerte aufzurufen.

Sie können über die Google Cloud Console oder die Monitoring API auf Monitoring zugreifen.

Wenn Sie die Monitoring-Diagramme nicht sehen oder keine Benachrichtigungen erstellen können, benötigen Sie möglicherweise zusätzliche Monitoring-Berechtigungen.

Console

  1. Wechseln Sie in der Google Cloud Console zur Seite Metrics Explorer.

    Zum Metrics Explorer

  2. Wählen Sie im Menü Messwert auswählen eine Cloud Dataplex-Ressource aus.

  3. Wählen Sie eine Messwertkategorie und dann einen Messwert aus der Liste aus.

    Wenn Sie Informationen zu einem Messwert aufrufen möchten, bewegen Sie den Mauszeiger auf den Namen des Messwerts.

  4. Klicken Sie auf Übernehmen.

  5. Optional: Wählen Sie Filter aus, gruppieren Sie nach Messwertlabels, führen Sie Aggregationen durch und wählen Sie Anzeigeoptionen für Diagramme aus.

REST

Verwenden Sie die Monitoring-Methode timeSeries.list, um Messwerte zu erfassen und aufzulisten, die durch einen filter-Ausdruck definiert sind.

Wenn Sie eine API-Anfrage senden und die Antwort anzeigen lassen möchten, verwenden Sie auf der API-Seite die Vorlage API testen.

Knowledge Catalog-Dienstmesswerte in Monitoring

Mit den Messwerten des Knowledge Catalog-Dienstes können Sie den Zustand Ihres Dienstes überwachen.

Den Strings vom Typ "metric type" in dieser Tabelle muss dataplex.googleapis.com/ vorangestellt werden. Dieses Präfix wurde in den Einträgen der Tabelle weggelassen. Verwenden Sie beim Abfragen eines Labels das Präfix metric.labels.. Beispiel: metric.labels.LABEL="VALUE".

Messwerttyp Startphase (Ressourcenhierarchieebenen)
Anzeigename
Art, Typ, Einheit
Überwachte Ressourcen
Beschreibung
Labels
asset/active BETA  (Projekt)
Aktiv
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Gibt an, ob das Asset aktiv ist.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/data_items BETA  (Projekt)
Datenelemente
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Die Anzahl der Elemente in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/data_size BETA  (Projekt)
Datengröße
GAUGE, INT64, By
dataplex.googleapis.com/Asset
Die Anzahl der gespeicherten Byte in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/entities_pending_bigquery_iampolicy_updates BETA  (Projekt)
Entitäten mit ausstehenden Aktualisierungen der BigQuery-IAM-Richtlinie
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Anzahl der Entitäten, die mit dem Asset verknüpft sind, für die BigQuery-IAM-Richtlinienaktualisierungen ausstehen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/entities_pending_bigquery_metadata_updates BETA  (Projekt)
Entitäten mit ausstehenden BigQuery-Metadatenaktualisierungen
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Anzahl der Entitäten, die mit dem Asset verknüpft sind, für das BigQuery-Metadatenaktualisierungen ausstehen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/filesets BETA  (Projekt)
Dateisätze
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Die Anzahl der Dateisatzentitäten in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/requires_action BETA  (Projekt)
Maßnahme erforderlich
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Gibt an, ob für das Asset noch Administratoraktionen ausstehen.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
asset/tables BETA  (Projekt)
Tabellen
GAUGE, INT64, 1
dataplex.googleapis.com/Asset
Die Anzahl der Tabellenentitäten in der referenzierten Ressource.
resource_type: Der Typ der referenzierten Ressource.
zone_type: Der Typ der übergeordneten Zone.
lake/requires_action BETA  (Projekt)
Maßnahme erforderlich
GAUGE, INT64, 1
dataplex.googleapis.com/Lake
Ob der Lake ungelöste Administratoraktionen hat.
zone/requires_action BETA  (Projekt)
Maßnahme erforderlich
GAUGE, INT64, 1
dataplex.googleapis.com/Zone
Gibt an, ob die Zone ungelöste Administratoraktionen hat.
type: Der Typ der Zone.

Die Tabelle wurde am 22.10.2026 um 02:44:18 Uhr (UTC) erstellt.

Knowledge Catalog-DCU-Kosten mit Cloud Billing-Export überwachen und zuordnen

Da Datenscans von Knowledge Catalog (einschließlich automatischer Datenqualität und Datenprofilerstellung) und Datenherkunft keine Zeitreihenmesswerte in Cloud Monitoring veröffentlichen, können Sie den Cloud Billing-Export nach BigQuery verwenden, um die Nutzung und Kosten von Data Compute Units (DCUs) projekt-, scan- und datenressourcenübergreifend zu verfolgen, zu überwachen und zuzuordnen.

Knowledge Catalog-Abrechnungs-Labels

Knowledge Catalog hängt automatisch Systemlabels an Abrechnungsdatensätze an, die für Datenscans und Datenherkunft ausgegeben werden. Sie können diese Labels im Array labels in Ihrer Cloud Billing-Exporttabelle abfragen:

Labelschlüssel Arbeitslast Beschreibung
goog-dataplex-datascan-id Datenqualität, Datenprofilerstellung Die ID oder der Name des Datenscans.
goog-dataplex-datascan-job-id Datenqualität, Datenprofilerstellung Die spezifische Ausführungs-ID für den Datenscanjob.
goog-dataplex-datascan-data-source-project Datenqualität, Datenprofilerstellung Das Google Cloud -Projekt, das die gescannte Datenquelle enthält.
goog-dataplex-datascan-data-source-region Datenqualität, Datenprofilerstellung Die Google Cloud -Region der gescannten Datenquelle.
goog-dataplex-datascan-data-source-bigquery-dataset Datenqualität, Datenprofilerstellung Die BigQuery-Dataset-ID der gescannten Tabelle.
goog-dataplex-datascan-data-source-bigquery-table Datenqualität, Datenprofilerstellung Die gescannte BigQuery-Tabelle-ID.
goog-dataplex-datascan-data-source-dataplex-lake Datenqualität, Datenprofilerstellung Die Knowledge Catalog-Lake-ID (falls zutreffend).
goog-dataplex-datascan-data-source-dataplex-zone Datenqualität, Datenprofilerstellung Die ID der Knowledge Catalog-Datenzone (falls zutreffend).
goog-dataplex-datascan-data-source-dataplex-entity Datenqualität, Datenprofilerstellung Die Knowledge Catalog-Entitäts-ID (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-catalog Datenqualität, Datenprofilerstellung Die BigLake-Katalog-ID (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-namespace Datenqualität, Datenprofilerstellung Der BigLake-Namespace (falls zutreffend).
goog-dataplex-datascan-data-source-biglake-table Datenqualität, Datenprofilerstellung Die BigLake-Tabellen-ID (falls zutreffend).
goog-dataplex-workload-type Data Lineage Identifiziert die Arbeitslast. Legen Sie LINEAGE für die Gebühren für die Verarbeitung der Datenherkunft fest.

Beispielabfragen

Bevor Sie diese Abfragen ausführen, müssen Sie den Cloud Billing-Export nach BigQuery aktivieren. Ersetzen Sie in den Beispielabfragen die folgenden Platzhalter:

  • PROJECT_ID: Die Google Cloud -Projekt-ID, die Ihr BigQuery-Abrechnungsexport-Dataset hostet.
  • DATASET_NAME: Der Name des BigQuery-Datasets, das Ihre Abrechnungsexporttabelle enthält.
  • BILLING_ACCOUNT_ID: Ihre Cloud-Rechnungskonto-ID (mit Unterstrichen formatiert, z. B. 012345_567890_ABCDEF).

Abfrage 1: DCU-Kosten und -Nutzung nach DataScan und Zieltabelle zuordnen

Mit dieser Abfrage werden die Kosten für die Knowledge Catalog-Verarbeitung und die Premium-Verarbeitung nach DataScan-ID und BigQuery-Zieltabelle für die letzten 30 Tage aggregiert:

SELECT
  project.id AS project_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-project') AS data_source_project,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-dataset') AS data_source_dataset,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-data-source-bigquery-table') AS data_source_table,
  sku.description AS sku_description,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id')
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
GROUP BY
  project_id,
  datascan_id,
  data_source_project,
  data_source_dataset,
  data_source_table,
  sku_description,
  usage_unit,
  currency
ORDER BY
  total_cost DESC;

Abfrage 2: Knowledge Catalog-Kosten nach Arbeitslasttyp zuordnen (Herkunft im Vergleich zu DataScan)

Diese Abfrage schlüsselt die Kosten für Knowledge Catalog-SKUs nach Arbeitslastkategorie (z. B. Datenherkunft im Vergleich zu DataScan) für alle Projekte auf:

SELECT
  project.id AS project_id,
  sku.description AS sku_description,
  COALESCE(
    (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-workload-type'),
    IF(EXISTS(SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id'), 'DATASCAN', 'OTHER')
  ) AS workload_type,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 30 DAY)
GROUP BY
  project_id,
  sku_description,
  workload_type,
  usage_unit,
  currency
ORDER BY
  total_cost DESC;

Abfrage 3: Tägliche DCU-Nutzung und Kostentrend pro DataScan-Jobausführung

Mit dieser Abfrage werden der tägliche DCU-Verbrauch und die Kosten für einzelne DataScan-Jobausführungen in den letzten 7 Tagen erfasst:

SELECT
  DATE(usage_start_time) AS usage_date,
  project.id AS project_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id') AS datascan_id,
  (SELECT value FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-job-id') AS job_id,
  SUM(usage.amount) AS total_usage,
  usage.unit AS usage_unit,
  SUM(cost) AS total_cost,
  currency
FROM
  `PROJECT_ID.DATASET_NAME.gcp_billing_export_v1_BILLING_ACCOUNT_ID`
WHERE
  service.description = 'Dataplex'
  AND EXISTS (SELECT 1 FROM UNNEST(labels) WHERE key = 'goog-dataplex-datascan-id')
  AND _PARTITIONDATE >= DATE_SUB(CURRENT_DATE(), INTERVAL 7 DAY)
GROUP BY
  usage_date,
  project_id,
  datascan_id,
  job_id,
  usage_unit,
  currency
ORDER BY
  usage_date DESC,
  total_cost DESC;

Benutzerdefiniertes Monitoring-Dashboard erstellen

Sie können ein benutzerdefiniertes Monitoring-Dashboard erstellen, in dem Diagramme ausgewählter Knowledge Catalog-Dienstmesswerte angezeigt werden. Weitere Informationen zum Erstellen eines Dashboards finden Sie unter Benutzerdefinierte Dashboards erstellen und verwalten. Wenn Sie einen Messwert für ein Widget in Ihrem Dashboard auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.

Monitoring-Benachrichtigungen verwenden

Sie können eine Monitoring-Benachrichtigung erstellen, die Sie benachrichtigt, wenn ein Knowledge Catalog-Dienst oder ein Jobmesswert einen bestimmten Grenzwert überschreitet.

Benachrichtigung erstellen

Folgen Sie der Anleitung unter Benachrichtigungsrichtlinien mit Messwertschwellen erstellen, um eine Benachrichtigung zu erstellen. Wenn Sie eine Zeitreihe für das Monitoring auswählen, wählen Sie eine Cloud Dataplex-Ressource und dann einen Knowledge Catalog-Messwert aus.

Benachrichtigungen ansehen

Wenn eine Benachrichtigung durch eine Messwertschwellenbedingung ausgelöst wird, erstellt Monitoring einen Vorfall sowie ein entsprechendes Ereignis.

So rufen Sie einen Vorfall auf:

Wenn Sie in der Benachrichtigungsrichtlinie einen Benachrichtigungsmechanismus wie eine E-Mail- oder SMS-Benachrichtigung definiert haben, sendet Monitoring auch eine Benachrichtigung über den Vorfall.

Weitere Informationen zu Benachrichtigungen finden Sie unter Vorfälle für messwertbasierte Benachrichtigungen.

Nächste Schritte