In diesem Dokument wird beschrieben, wie Sie Metadaten aus einem Drittanbietersystem mithilfe der API-Methoden für den Metadatenimport und Ihrer eigenen Pipeline in Knowledge Catalog (ehemals Dataplex Universal Catalog) importieren. Knowledge Catalog-Metadaten bestehen aus Einträgen und ihren Aspekten.
Wenn Sie stattdessen eine von Google Cloudverwaltete Orchestrierungspipeline zum Extrahieren und Importieren von Metadaten verwenden möchten, empfehlen wir eine Pipeline für verwaltete Verbindungen. Bei einer Pipeline für verwaltete Verbindungen stellen Sie Ihren eigenen Connector bereit, der Metadaten extrahiert und eine Ausgabe in einem Format generiert, das als Eingabe für die API-Methoden für den Metadatenimport (die Metadaten-Importdatei) verwendet werden kann. Anschließend verwenden Sie Workflows, um die Pipelineaufgaben zu orchestrieren.
Sie können die folgenden Arten von Metadatenimportjobs ausführen:
- Vollständige Synchronisierung von Einträgen mit inkrementellem Import ihrer Aspekte. Wird für benutzerdefinierte Einträge unterstützt.
- Nur inkrementeller Import von Aspekten. Wird für Aspekte unterstützt, die zu benutzerdefinierten Einträgen und Systemeinträgen gehören. Bei benutzerdefinierten Einträgen können Sie sowohl optionale als auch erforderliche Aspekte ändern. Bei Systemeinträgen können Sie optionale Aspekte ändern.
Allgemeine Schritte
So importieren Sie Metadaten mit der Metadata Import API:
Legen Sie den Umfang des Jobs fest.
Außerdem erfahren Sie, wie Knowledge Catalog die Vergleichslogik und den Synchronisierungsmodus für Einträge und Aspekte anwendet.
Erstellen Sie eine oder mehrere Metadaten-Importdateien, in denen die zu importierenden Daten definiert sind.
Speichern Sie die Metadaten-Importdateien in einem Cloud Storage-Bucket.
Führen Sie einen Metadatenimportjob aus.
Bei den Schritten auf dieser Seite wird davon ausgegangen, dass Sie mit den Metadatenkonzepten von Knowledge Catalog vertraut sind, einschließlich Eintragsgruppen, Eintragstypen und Aspekttypen. Weitere Informationen finden Sie unter Metadaten in Knowledge Catalog.
Hinweis
Führen Sie die Aufgaben in diesem Abschnitt aus, bevor Sie Metadaten importieren.
Erforderliche Rollen
Bitten Sie Ihren Administrator, dem Knowledge Catalog-Dienstkonto die IAM-Rolle Storage-Objekt-Betrachter (roles/storage.objectViewer) und die Berechtigung storage.buckets.get für den Bucket zuzuweisen, damit das Knowledge Catalog-Dienstkonto die erforderlichen Berechtigungen für den Zugriff auf den Cloud Storage-Bucket hat.
Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie zur Verwaltung von Metadaten-Importjobs benötigen:
-
Einträge und ihre Aspekte in einem Metadatenjob für die vollständige Synchronisierung von Einträgen ändern:
- Dataplex Entry Type User (
roles/dataplex.entryTypeUser) für den Eintragstyp oder das Projekt, in dem der Eintragstyp definiert ist - Dataplex Aspect Type User (
roles/dataplex.aspectTypeUser) für den Aspekttyp oder das Projekt, in dem der Aspekttyp definiert ist
- Dataplex Entry Type User (
-
Erforderliche Aspekte in einem Metadatenjob nur mit Aspekten ändern:
- Dataplex Entry Type User (
roles/dataplex.entryTypeUser) für den Eintragstyp oder das Projekt, in dem der Eintragstyp definiert ist - Dataplex Aspect Type User (
roles/dataplex.aspectTypeUser) für den Aspekttyp oder das Projekt, in dem der Aspekttyp definiert ist
- Dataplex Entry Type User (
-
Optionale Aspekte in einem Metadatenjob nur für Aspekte ändern:
Dataplex Aspect Type User (
roles/dataplex.aspectTypeUser) für den Aspekttyp oder das Projekt, in dem der Aspekttyp definiert ist. Wenn Sie optionale Aspekte in einem Metadatenjob nur für Aspekte ändern, benötigen Sie keine Berechtigungen für den zugehörigen Eintragstyp. -
Erstellen Sie Metadaten-Importjobs:
- Dataplex Entry Group Importer (
roles/dataplex.entryGroupImporter) für das Projekt oder die Ressource - Dataplex Entry and EntryLink Owner (
roles/dataplex.entryOwner) für das Projekt oder die Ressource
- Dataplex Entry Group Importer (
-
Metadatenjobs ansehen:
Dataplex Metadata Job Viewer (
roles/dataplex.metadataJobViewer) für das Projekt -
Metadatenjobs erstellen, ansehen und abbrechen:
Dataplex Metadata Job Owner (
roles/dataplex.metadataJobOwner) für das Projekt
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.
Google Cloud -Ressourcen erstellen
Bereiten Sie die folgenden Google Cloud Ressourcen vor:
- Erstellen Sie Eintragsgruppen für die Einträge, die Sie importieren möchten.
- Erstellen Sie Aspekttypen für die Aspekte, die Sie importieren möchten.
- Erstellen Sie Eintragstypen für die Einträge, die Sie importieren möchten.
- Wenn Sie einen Metadatenjob nur für Aspekte ausführen, erstellen Sie Einträge für die Aspekte, die Sie importieren möchten.
- Erstellen Sie einen Cloud Storage-Bucket, um Ihre Metadaten-Importdateien zu speichern.
Komponenten eines Metadatenimportjobs
Berücksichtigen Sie beim Importieren von Metadaten die folgenden Komponenten eines Metadatenjobs:
- Jobumfang: Die Eintragsgruppen, Eintragstypen und Aspekttypen, die in den Job einbezogen werden sollen.
- Synchronisierungsmodus: wie die Einträge und Aspekte im Job aktualisiert werden.
- Metadaten-Importdatei: Eine Datei, in der die Werte für die Einträge und Aspekte im Job definiert sind. Sie können mehrere Metadaten-Importdateien im selben Metadatenjob angeben. Sie speichern die Dateien in Cloud Storage.
- Vergleichslogik: wie Knowledge Catalog bestimmt, welche Einträge und Aspekte geändert werden sollen.
Jobumfang
Der Jobumfang definiert die Eintragsgruppen, Eintragstypen und Aspekttypen, die in einen Metadatenimportjob einbezogen werden sollen. Wenn Sie Metadaten importieren, ändern Sie die Einträge und Aspekte, die zu Ressourcen im Bereich des Jobs gehören.
Beachten Sie die folgenden Richtlinien, um den Jobumfang zu definieren:
Eintragsgruppen: Geben Sie eine oder mehrere Eintragsgruppen an, die in den Job aufgenommen werden sollen. Der Job ändert nur die Einträge und Aspekte, die zu diesen Eintragsgruppen gehören. Die Eintraggruppen und der Job müssen sich in derselben Region befinden.
Eintragstypen: Geben Sie einen oder mehrere Eintragstypen an, die in den Job aufgenommen werden sollen. Der Job ändert nur die Einträge und Aspekte, die zu diesen Eintragstypen gehören. Der Standort eines Eintragstyps muss entweder mit dem Standort des Jobs übereinstimmen oder der Eintragstyp muss global sein.
Aspekttypen: Geben Sie einen oder mehrere Aspekttypen an, die in den Job einbezogen werden sollen. Der Job ändert nur die Aspekte, die zu diesen Aspekttypen gehören. Der Standort eines Aspekttyps muss entweder mit dem Standort des Jobs übereinstimmen oder der Aspekttyp muss global sein.
Der Jobumfang muss alle Eintragstypen und Aspekttypen enthalten, die Sie in der Metadaten-Importdatei angeben.
Sie geben den Jobumfang an, wenn Sie einen Metadatenjob erstellen.
Synchronisierungsmodus
Der Synchronisierungsmodus gibt an, wie die Einträge und Aspekte in einem Metadatenimportjob aktualisiert werden. Sie geben einen Synchronisierungsmodus für Einträge und Aspekte an. Je nachdem, welche Ressourcen Sie importieren möchten, werden die folgenden Kombinationen von Synchronisierungsmodi unterstützt.
| Ziel | Synchronisierungsmodus für Einträge | Synchronisierungsmodus für Seitenverhältnis | Ergebnisse |
|---|---|---|---|
| Einträge und ihre Aspekte importieren | FULL |
INCREMENTAL |
Alle Einträge im Bereich des Jobs werden geändert. Wenn ein Eintrag in Knowledge Catalog vorhanden ist, aber nicht in der Metadatenimportdatei enthalten ist, wird der Eintrag gelöscht, wenn Sie den Metadatenjob ausführen. Ein Aspekt wird nur geändert, wenn die Metadaten-Importdatei einen Verweis auf den Aspekt im Feld |
| Nur Aspekte importieren | NONE |
INCREMENTAL |
Aspekte werden geändert, wenn sie Teil des Jobumfangs sind und die Metadaten-Importdatei einen Verweis auf die Aspekte im Feld Andere Metadaten, die zu Einträgen im Bereich des Jobs gehören, werden nicht geändert. |
Sie geben den Synchronisierungsmodus an, wenn Sie einen Metadatenjob erstellen.
Metadaten-Importdatei
Die Metadaten-Importdatei ist eine Sammlung der Einträge und Aspekte, die Sie ändern möchten. Sie definiert die Werte, die für alle Felder festgelegt werden sollen, die zu diesen Einträgen und Aspekten gehören. Sie bereiten die Datei vor, bevor Sie einen Metadatenimportjob ausführen.
Es gelten die folgenden allgemeinen Richtlinien:
- Sie können mehrere Metadaten-Importdateien im selben Metadatenjob bereitstellen.
Wenn Sie einen Metadatenjob für die vollständige Synchronisierung von Einträgen ausführen, werden alle vorhandenen Einträge für alle Ressourcen im Bereich des Jobs vollständig durch die Einträge in der Datei ersetzt. Das bedeutet, dass Sie Werte für alle Einträge in einem Job angeben müssen, nicht nur die Werte, die Sie hinzufügen oder aktualisieren möchten. Wenn Sie eine Liste der aktuellen Einträge in Ihrem Projekt als Ausgangspunkt verwenden möchten, verwenden Sie die API-Methode
entries.list.Sie müssen im Rahmen eines Metadatenjobs eine Metadaten-Importdatei bereitstellen. Wenn Sie alle vorhandenen Daten für die Einträge im Bereich des Jobs löschen möchten, stellen Sie eine leere Metadaten-Importdatei bereit.
Alle Einträge und Aspekte, die Sie in die Datei aufnehmen, müssen zu den Eintragstypen, Eintragstypen und Aspekttypen gehören, die Sie im Bereich des Jobs definieren.
Verwenden Sie die detaillierten Richtlinien in den folgenden Abschnitten, um eine Metadaten-Importdatei zu erstellen.
Struktur der Datei
Jede Zeile in der Metadaten-Importdatei enthält ein JSON-Objekt, das einem Importelement entspricht. Ein Importelement ist ein Objekt, das die Werte beschreibt, die für einen Eintrag und die zugehörigen Aspekte geändert werden sollen.
Sie können mehrere Importelemente in einer einzigen Metadaten-Importdatei angeben. Geben Sie dasselbe Importelement jedoch nicht mehrmals in einem Metadatenjob an. Verwenden Sie einen Zeilenumbruch (0x0a), um die einzelnen Importelemente voneinander zu trennen.
Eine Metadaten-Importdatei mit einem Zeilenumbruchzeichen zwischen den einzelnen Importelementen sieht so aus:
{ "entry": { "name": "entry 1", #Information about entry 1 }
{ "entry": { "name": "entry 2", #Information about entry 2 }
Struktur eines Importelements
Jedes Importelement in der Metadaten-Importdatei kann die folgenden Felder enthalten (siehe ImportItem). Das folgende Beispiel ist zur besseren Lesbarkeit mit Zeilenumbrüchen formatiert. Wenn Sie die Datei speichern, fügen Sie jedoch nur nach jedem Importelement ein Zeilenumbruchzeichen ein. Fügen Sie keine Zeilenumbrüche zwischen den Feldern eines einzelnen Importelements ein.
{
"entry": {
"name": "ENTRY_NAME",
"entryType": "ENTRY_TYPE",
"entrySource": {
"resource": "RESOURCE",
"system": "SYSTEM",
"platform": "PLATFORM",
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION",
"createTime": "ENTRY_CREATE_TIMESTAMP",
"updateTime": "ENTRY_UPDATE_TIMESTAMP"
},
"aspects": {
"ASPECT": {
"data": {
"KEY": "VALUE"
},
"aspectSource": {
"createTime": "ASPECT_CREATE_TIMESTAMP",
"updateTime": "ASPECT_UPDATE_TIMESTAMP"
}
},
# Additional aspect maps
},
"parentEntry": "PARENT_ENTRY",
"fullyQualifiedName": "FULLY_QUALIFIED_NAME"
},
"updateMask": "UPDATE_MASK_FIELDS",
"aspectKeys": [
"ASPECT_KEY",
# Additional aspect keys
],
}
Ersetzen Sie Folgendes:
entry: Informationen zu einem Eintrag und den zugehörigen Aspekten. In einem Metadatenimportjob, der nur Aspekte enthält, ignoriert Knowledge Catalog alle optionalen Felder für einen Eintrag mit Ausnahme der Aspektzuordnungen.- ENTRY_NAME: der relative Ressourcenname des Eintrags im Format
projects/PROJECT_ID_OR_NUMBER/locations/LOCATION_ID/entryGroups/ENTRY_GROUP_ID/entries/ENTRY_ID. - ENTRY_TYPE: der relative Ressourcenname des Eintragstyps, der zum Erstellen dieses Eintrags verwendet wurde, im Format
projects/PROJECT_ID_OR_NUMBER/locations/LOCATION_ID/entryTypes/ENTRY_TYPE_ID. entrySource: Informationen aus dem Quellsystem zur Datenressource, die durch den Eintrag dargestellt wird:- RESOURCE: der Name der Ressource im Quellsystem.
- SYSTEM: der Name des Quellsystems.
- PLATFORM: die Plattform, die das Quellsystem enthält.
- DISPLAY_NAME: ein nutzerfreundlicher Anzeigename.
- DESCRIPTION: Eine Beschreibung des Eintrags.
- ENTRY_CREATE_TIMESTAMP: der Zeitpunkt, zu dem der Eintrag im Quellsystem erstellt wurde.
- ENTRY_UPDATE_TIMESTAMP: der Zeitpunkt, zu dem der Eintrag im Quellsystem aktualisiert wurde.
aspects: die Aspekte, die dem Eintrag zugeordnet sind. Dasaspect-Objekt und seine Daten werden als Aspektkarte bezeichnet.ASPECT: Ein Aspekt, der an den Eintrag angehängt ist. Je nachdem, wie der Aspekt an den Eintrag angehängt ist, verwenden Sie eines der folgenden Formate:
- Wenn der Aspekt direkt an den Eintrag angehängt ist, geben Sie den relativen Ressourcennamen des Aspekttyps im Format
PROJECT_ID_OR_NUMBER.LOCATION_ID.ASPECT_TYPE_IDan. - Wenn der Aspekt an den Pfad des Eintrags angehängt ist, geben Sie den Pfad des Aspekttyps im Format
PROJECT_ID_OR_NUMBER.LOCATION_ID.ASPECT_TYPE_ID@PATHan.
- Wenn der Aspekt direkt an den Eintrag angehängt ist, geben Sie den relativen Ressourcennamen des Aspekttyps im Format
KEY und VALUE: Der Inhalt des Aspekts gemäß der Metadatenvorlage für den Aspekttyp. Der Inhalt muss als UTF-8 codiert sein. Die maximale Größe des Felds beträgt 120 KB. Das Wörterbuch
dataist erforderlich, auch wenn es leer ist.ASPECT_CREATE_TIMESTAMP: der Zeitpunkt, zu dem der Aspekt im Quellsystem erstellt wurde.
ASPECT_UPDATE_TIMESTAMP: Der Zeitpunkt, zu dem der Aspekt im Quellsystem aktualisiert wurde.
PARENT_ENTRY: der Ressourcenname des übergeordneten Eintrags.
FULLY_QUALIFIED_NAME: Ein Name für den Eintrag, auf den ein externes System verweisen kann. Weitere Informationen finden Sie unter Voll qualifizierte Namen.
- ENTRY_NAME: der relative Ressourcenname des Eintrags im Format
UPDATE_MASK_FIELDS: die zu aktualisierenden Felder in Pfaden, die relativ zur Ressource
Entrysind. Trennen Sie die einzelnen Felder durch ein Komma.Bei einem vollständigen Eintragssynchronisierungsjob enthält Knowledge Catalog die Pfade aller Felder für einen Eintrag, die geändert werden können, einschließlich Aspekte. Das Feld
updateMaskwird ignoriert, wenn ein Eintrag erstellt oder neu erstellt wird.Legen Sie diesen Wert in einem Metadatenjob, der nur Aspekte enthält, auf
aspectsfest.ASPECT_KEY: die zu ändernden Aspekte. Unterstützt die folgenden Syntaxen:
ASPECT_TYPE_REFERENCE: Entspricht dem Aspekttyp für Aspekte, die direkt an den Eintrag angehängt sind.ASPECT_TYPE_REFERENCE@PATH: Stimmt mit dem Aspekttyp und dem angegebenen Pfad überein.ASPECT_TYPE_REFERENCE@*: Entspricht dem Aspekttyp für alle Pfade.*@PATH: stimmt mit allen Aspekttypen im angegebenen Pfad überein.
Ersetzen Sie
ASPECT_TYPE_REFERENCEdurch einen Verweis auf den Aspekttyp im FormatPROJECT_ID_OR_NUMBER.LOCATION_ID.ASPECT_TYPE_ID.Wenn Sie dieses Feld bei einem vollständigen Eintragssynchronisierungsjob leer lassen, wird es so behandelt, als würden Sie genau die Aspekte angeben, die im angegebenen Eintrag vorhanden sind. Knowledge Catalog fügt implizit die Schlüssel für alle erforderlichen Aspekte eines Eintrags hinzu.
Anforderungen für Dateien
Für die Metadaten-Importdatei gelten die folgenden Anforderungen:
- Die Datei muss als JSON Lines-Datei formatiert sein, also als JSON-Datei mit Zeilenumbrüchen als Trennzeichen. Verwenden Sie ein Zeilenumbruchzeichen (
0x0a), um die einzelnen Importelemente voneinander zu trennen. - Die Datei muss die UTF-8-Zeichencodierung verwenden.
- Unterstützte Dateiendungen sind
.jsonlund.json. - Die Dateigröße jeder Metadaten-Importdatei muss kleiner als 1 GiB sein. Die maximale Gesamtgröße aller Daten im Metadatenjob beträgt 3 GB. Dazu gehören alle mit dem Job verknüpften Dateien und Metadaten.
- Die Eintragstypen und Aspekttypen, die Sie in der Datei angeben, müssen im Bereich des Metadatenjobs enthalten sein.
- Die Datei muss in einen Cloud Storage-Bucket hochgeladen werden. Speichern Sie die Datei nicht in einem Ordner mit dem Namen
CLOUD_STORAGE_URI/deletions/.
Vergleichslogik
Knowledge Catalog bestimmt, welche Einträge und Aspekte geändert werden sollen, indem die Werte und Zeitstempel, die Sie in der Metadaten-Importdatei angeben, mit den Werten und Zeitstempeln in Ihrem Projekt verglichen werden.
Allgemein aktualisiert Knowledge Catalog die Werte in Ihrem Projekt, wenn mindestens eine vorgeschlagene Änderung in der Metadaten-Importdatei den Status Ihres Projekts ändert, wenn der Job ausgeführt wird, ohne dass veraltete Daten eingeführt werden. Die vorgeschlagene Änderung muss im Feld für die Aktualisierungsmaske oder im Feld für die Aspektschlüssel in der Metadaten-Importdatei referenziert werden.
Die Vergleichslogik variiert je nach Art des ausgeführten Metadatenimportjobs.
Synchronisierungsauftrag für vollständige Einträge
Bei einem Metadatenjob zur vollständigen Synchronisierung von Einträgen führt Knowledge Catalog für jeden Eintrag, der zum Umfang des Jobs gehört, eine der folgenden Aktionen aus:
- Erstellt einen Eintrag und angehängte Aspekte. Wenn die Metadaten-Importdatei einen Eintrag enthält, der in Ihrem Projekt nicht vorhanden ist, erstellt Knowledge Catalog den Eintrag und die angehängten Aspekte.
- Löscht einen Eintrag und die angehängten Aspekte. Wenn ein Eintrag in Ihrem Projekt vorhanden ist, aber nicht in der Metadaten-Importdatei enthalten ist, löscht Knowledge Catalog den Eintrag und die zugehörigen Aspekte aus Ihrem Projekt.
Aktualisiert einen Eintrag und die angehängten Aspekte. Wenn ein Eintrag sowohl in der Metadaten-Importdatei als auch in Ihrem Projekt vorhanden ist, wertet Knowledge Catalog die Zeitstempel der Eintragsquelle und die Zeitstempel der Aspektquelle aus, die mit dem Eintrag verknüpft sind, um zu bestimmen, welche Werte geändert werden sollen. Anschließend führt Knowledge Catalog einen oder mehrere der folgenden Schritte aus:
- Erstellt den Eintrag neu. Wenn der Zeitstempel für die Erstellung der Eintragsquelle in der Metadaten-Importdatei aktueller ist als der entsprechende Zeitstempel in Ihrem Projekt, erstellt Knowledge Catalog den Eintrag in Ihrem Projekt neu.
- Aktualisiert den Eintrag. Wenn der Zeitstempel der letzten Aktualisierung der Eintragsquelle in der Metadaten-Importdatei aktueller ist als der entsprechende Zeitstempel in Ihrem Projekt, aktualisiert Knowledge Catalog den Eintrag in Ihrem Projekt.
- Erstellt einen Aspekt. Wenn ein Aspekt in Ihrem Projekt nicht vorhanden ist und in einer Aspektzuordnung, dem Feld für die Aktualisierungsmaske und dem Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist, erstellt Knowledge Catalog den Aspekt.
- Löscht einen Aspekt. Wenn ein Aspekt in Ihrem Projekt vorhanden ist und im Feld für die Aktualisierungsmaske und im Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist, aber nicht in einer Aspektzuordnung, löscht Knowledge Catalog den Aspekt.
Aktualisiert einen Aspekt. Wenn ein Aspekt in Ihrem Projekt vorhanden ist und in einer Aspektzuordnung, dem Feld für die Aktualisierungsmaske und dem Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist und der Zeitstempel für die Aktualisierung der Aspektquelle in der Metadaten-Importdatei aktueller ist als der entsprechende Zeitstempel in Ihrem Projekt, aktualisiert Knowledge Catalog den Aspekt.
Wenn in der Metadaten-Importdatei kein Zeitstempel für die Aktualisierung der Aspektquelle angegeben ist, der entsprechende Eintrag aber für eine Aktualisierung markiert ist, aktualisiert Knowledge Catalog den Aspekt ebenfalls.
Wenn jedoch mindestens ein Aspekt in der Metadaten-Importdatei einen älteren Zeitstempel als der entsprechende Zeitstempel in Ihrem Projekt hat, nimmt Knowledge Catalog keine Aktualisierungen für den angehängten Eintrag vor.
Job nur für Aspekte
In einem Metadatenjob, der nur Aspekte enthält, führt Knowledge Catalog für jeden Aspekt, der Teil des Jobumfangs ist, eine der folgenden Aktionen aus:
- Erstellt einen Aspekt. Wenn ein Aspekt in Ihrem Projekt nicht vorhanden ist und in einer Aspektzuordnung, dem Feld für die Aktualisierungsmaske und dem Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist, erstellt Knowledge Catalog den Aspekt.
Löscht einen Aspekt. Wenn ein optionaler Aspekt in Ihrem Projekt vorhanden ist und im Feld für die Aktualisierungsmaske und im Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist, aber nicht in einer Aspektzuordnung, löscht Knowledge Catalog den Aspekt.
Erforderliche Aspekte können nicht gelöscht werden.
Aktualisiert einen Aspekt. Wenn ein Aspekt in Ihrem Projekt vorhanden ist und in einer Aspektzuordnung, dem Feld für die Aktualisierungsmaske und dem Feld für die Aspektschlüssel in der Metadaten-Importdatei enthalten ist und der Zeitstempel für die Aktualisierung der Aspektquelle in der Metadaten-Importdatei aktueller ist als der entsprechende Zeitstempel in Ihrem Projekt, aktualisiert Knowledge Catalog den Aspekt.
Wenn in der Metadaten-Importdatei kein Zeitstempel für die Aktualisierung der Aspektquelle angegeben ist, aktualisiert Knowledge Catalog den Aspekt ebenfalls.
Knowledge Catalog aktualisiert Aspekte basierend auf dem Zeitstempel der Aktualisierung der Aspektquelle, unabhängig vom Zeitstempel der Aktualisierung der Eintragsquelle des entsprechenden Eintrags.
Metadaten-Importdatei erstellen
Bevor Sie Metadaten importieren, müssen Sie eine Metadaten-Importdatei für Ihren Job erstellen. Gehen Sie dazu so vor:
- Bereiten Sie eine Metadaten-Importdatei vor. Folgen Sie dazu den Richtlinien, die zuvor in diesem Dokument beschrieben wurden.
- Laden Sie die Datei in einen Cloud Storage-Bucket hoch.
Sie können mehrere Metadaten-Importdateien im selben Metadatenjob bereitstellen. Wenn Sie mehrere Dateien bereitstellen möchten, speichern Sie die Dateien im selben Cloud Storage-Bucket. Wenn Sie den Job ausführen, geben Sie einen Bucket und keine bestimmte Datei an. Knowledge Catalog importiert Metadaten aus allen Dateien, die im Bucket gespeichert sind, einschließlich Dateien in Unterordnern.
Metadatenimportjob ausführen
Nachdem Sie eine Metadaten-Importdatei erstellt haben, führen Sie den Metadaten-Importjob aus.
REST
Verwenden Sie zum Importieren von Metadaten die Methode metadataJobs.create.
Ersetzen Sie diese Werte in den folgenden Anfragedaten:
- PROJECT_NUMBER: Ihre Projektnummer oder Projekt-ID in Google Cloud .
- LOCATION_ID: der Google Cloud -Standort, z. B.
us-central1. - METADATA_JOB_ID: optional. Die Metadaten-Job-ID.
CLOUD_STORAGE_URI: der URI des Cloud Storage-Bucket oder -Ordners, der die Metadaten-Importdateien enthält. Weitere Informationen zu den Dateianforderungen finden Sie unter Metadatenimportdatei.
- ENTRY_GROUP: der relative Ressourcenname der Eintraggruppen, die für den Job relevant sind, im Format
projects/PROJECT_ID_OR_NUMBER/locations/LOCATION_ID/entryGroups/ENTRY_GROUP_ID. Weitere Informationen finden Sie unter Jobumfang. ENTRY_TYPE: der relative Ressourcenname eines Eintragstyps, der im Bereich des Jobs liegt, im Format
projects/PROJECT_ID_OR_NUMBER/locations/LOCATION_ID/entryTypes/ENTRY_TYPE_ID. Weitere Informationen finden Sie unter Jobumfang.- ASPECT_TYPE: der relative Ressourcenname eines Aspekttyps, der für den Job relevant ist, im Format
projects/PROJECT_ID_OR_NUMBER/locations/LOCATION_ID/aspectTypes/ASPECT_TYPE_ID. Optional beim Erstellen eines vollständigen Synchronisierungsjobs für Einträge, erforderlich beim Erstellen eines Jobs nur für Aspekte. Weitere Informationen finden Sie unter Jobumfang. - ENTRY_SYNC_MODE: der Synchronisierungsmodus für Einträge, z. B.
FULLoderNONE. Weitere Informationen finden Sie unter Synchronisierungsmodus. - LOG_LEVEL: die Ebene der zu erfassenden Logs, z. B.
INFOoderDEBUG. Weitere Informationen finden Sie unter Joblogs ansehen und Fehler beheben.
HTTP-Methode und URL:
POST https://dataplex.googleapis.com/v1/projects/TARGET_PROJECT_NUMBER/locations/LOCATION_ID/metadataJobs?metadataJobId=METADATA_JOB_ID
JSON-Text anfordern:
{
"type": "IMPORT",
"import_spec": {
"source_storage_uri": "gs://CLOUD_STORAGE_URI/",
"scope": {
"entryGroups": [
"ENTRY_GROUP"
],
"entry_types": [
"ENTRY_TYPE"
],
"aspect_types": [
"ASPECT_TYPE"
]
},
"entry_sync_mode": "ENTRY_SYNC_MODE",
"aspect_sync_mode": "INCREMENTAL",
"log_level": "LOG_LEVEL"
}
}
Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:
Die Antwort identifiziert einen Vorgang mit langer Ausführungszeit.
Details zu einem Metadatenjob abrufen
So rufen Sie Informationen zu einem Metadatenjob ab, z. B. den Status des Jobs und die Anzahl der geänderten Einträge: Weitere Informationen zur Fehlerbehebung bei einem fehlgeschlagenen Job finden Sie im Abschnitt Joblogs ansehen und Fehler beheben in diesem Dokument.
C#
C#
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für C# in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog C#.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Go
Go
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Go in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Go.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Java
Java
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Java in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Java.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Node.js
Node.js
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Node.js in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Node.js.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Python
Python
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Python in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Python.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Ruby
Ruby
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Ruby in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Ruby.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
REST
Verwenden Sie die Methode metadataJobs.get, um Informationen zu einem Metadatenjob abzurufen.
Ersetzen Sie diese Werte in den folgenden Anfragedaten:
PROJECT_NUMBER: Ihre Projektnummer oder Projekt-ID in Google Cloud .LOCATION_ID: der Google Cloud -Standort, z. B.us-central1.METADATA_JOB_ID: die Metadaten-Job-ID.
HTTP-Methode und URL:
GET https://dataplex.googleapis.com/v1/projects/TARGET_PROJECT_NUMBER/locations/LOCATION_ID/metadataJobs/METADATA_JOB_ID
Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:
Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:
{
"name": "projects/123456789012/locations/us-central1/metadataJobs/my-metadata-job",
"uid": "a1b2c3d4-e5f6-7a8b-9c0d-1e2f3a4b5c6d",
"createTime": "2026-07-17T16:30:15Z",
"updateTime": "2026-07-17T16:35:15Z",
"type": "IMPORT",
"importSpec": {
"sourceStorageUri": "gs://my-bucket/",
"scope": {
"entryGroups": [
"projects/123456789012/locations/us-central1/entryGroups/my-entry-group"
],
"entryTypes": [
"projects/123456789012/locations/us-central1/entryTypes/my-entry-type"
],
"aspectTypes": [
"projects/123456789012/locations/us-central1/aspectTypes/my-aspect-type"
]
},
"entrySyncMode": "FULL",
"aspectSyncMode": "INCREMENTAL",
"logLevel": "INFO"
},
"status": {
"state": "SUCCEEDED"
},
"importResult": {
"deletedEntries": "2",
"updatedEntries": "5",
"createdEntries": "10",
"unchangedEntries": "20",
"updateTime": "2026-07-17T16:35:15Z"
}
}
Liste der Metadatenjobs abrufen
Sie können eine Liste der neuesten Metadatenjobs abrufen. Ältere Jobs, die einen Endzustand erreicht haben, werden regelmäßig aus dem System gelöscht.
C#
C#
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für C# in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog C#.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Go
Go
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Go in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Go.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Java
Java
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Java in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Java.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Node.js
Node.js
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Node.js in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Node.js.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Python
Python
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Python in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Python.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Ruby
Ruby
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Ruby in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Ruby.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
REST
Mit der Methode metadataJobs.list können Sie eine Liste der neuesten Metadatenjobs abrufen.
Metadatenjob abbrechen
Sie können einen Metadatenjob abbrechen, den Sie nicht ausführen möchten.
C#
C#
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für C# in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog C#.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Go
Go
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Go in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Go.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Java
Java
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Java in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Java.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Node.js
Node.js
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Node.js in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Node.js.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Python
Python
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Python in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Python.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Ruby
Ruby
Bevor Sie dieses Beispiel ausprobieren, folgen Sie der Einrichtungsanleitung für Ruby in der Kurzanleitung zur Verwendung von Clientbibliotheken für Knowledge Catalog. Weitere Informationen finden Sie in der API-Referenzdokumentation für Knowledge Catalog Ruby.
Richten Sie zur Authentifizierung bei Knowledge Catalog Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
REST
Verwenden Sie zum Abbrechen eines Metadatenjobs die Methode metadataJobs.cancel.
Joblogs ansehen und Fehler beheben
Verwenden Sie Cloud Logging, um Logs für einen Metadatenjob aufzurufen. Weitere Informationen finden Sie unter Knowledge Catalog-Logs überwachen.
Sie konfigurieren die Logebene, wenn Sie einen Metadatenjob erstellen. Folgende Logebenen sind verfügbar:
INFO: stellt Logs auf der gesamten Jobebene bereit. Enthält zusammengefasste Logs zu Importelementen, gibt aber nicht an, welches Importelement einen Fehler aufweist.DEBUG: stellt detaillierte Logs für jedes importierte Element bereit. Verwenden Sie das Logging auf Debug-Ebene, um Probleme mit bestimmten Importelementen zu beheben. Verwenden Sie beispielsweise Logging auf Debug-Ebene, um Ressourcen zu identifizieren, die im Jobbereich fehlen, Einträge oder Aspekte, die nicht dem zugehörigen Eintragstyp oder Aspekttyp entsprechen, oder andere Fehlkonfigurationen in der Metadaten-Importdatei.
Validierungsfehler
Knowledge Catalog gleicht die Metadaten-Importdateien mit den aktuellen Metadaten in Ihrem Projekt ab. Wenn ein Validierungsproblem vorliegt, kann der Jobstatus einen der folgenden Statuswerte zurückgeben:
FAILED: Tritt auf, wenn die Metadaten-Importdatei einen Fehler enthält. Knowledge Catalog importiert keine Metadaten und der Job schlägt fehl. Beispiele für Fehler in der Metadaten-Importdatei:- Ein Element in der Datei kann nicht in ein gültiges Importelement geparst werden.
- Ein Eintrag oder Aspekt in der Datei gehört zu einer Eintraggruppe, einem Eintragstyp oder einem Aspekttyp, der nicht zum Umfang des Jobs gehört.
- Der Name eines Eintrags wird im Job mehrmals angegeben.
- Ein Aspekttyp, der in einer Aspektzuordnung oder den Aspektschlüsseln angegeben ist, verwendet nicht das Format PROJECT_ID_OR_NUMBER.LOCATION_ID.ASPECT_TYPE_ID@OPTIONAL_PATH.
- Ein erforderlicher Aspekt ist zum Löschen markiert.
SUCCEEDED_WITH_ERRORS: Tritt auf, wenn die Metadaten-Importdatei erfolgreich geparst werden kann, aber das Importieren eines Elements in der Datei dazu führen würde, dass ein Eintrag in Ihrem Projekt in einem inkonsistenten Zustand ist. Knowledge Catalog ignoriert solche Einträge, importiert aber die restlichen Metadaten aus der Datei.
Verwenden Sie Joblogs, um den Fehler zu beheben.
Nächste Schritte
- Daten-Assets in Knowledge Catalog suchen
- Aspekte verwalten und Metadaten anreichern
- Einträge verwalten und benutzerdefinierte Quellen aufnehmen
- Metadaten exportieren