Risolvere i problemi relativi alla cronologia dei dati

Questo documento ti aiuta a risolvere i problemi più comuni relativi ai grafici di derivazione dei dati di Knowledge Catalog (in precedenza Dataplex Universal Catalog) che non vengono visualizzati. La risoluzione di questi problemi ti consente di monitorare correttamente lo spostamento dei dati, comprenderne le origini ed eseguire il debug delle pipeline di dati.

Tipi di progetto

Gli asset di dati possono risiedere in progetti diversi. Di seguito è riportato un riepilogo dei possibili progetti e dei relativi nomi degli asset.

Progetto di archiviazione BigQuery

Questo progetto archivia gli asset di dati BigQuery. Puoi trovarlo nei dettagli dell'asset come parte di Table ID, prima del primo punto.

Nell'interfaccia utente BigQuery, il nome del progetto di archiviazione viene visualizzato nel campo ID tabella, prima del primo punto nel nome della tabella completo.
Figura 1. Il nome di un progetto di archiviazione BigQuery.

Progetto Compute

Questo progetto archivia i metadati di derivazione dei dati. Per BigQuery, è qui che esegui un job. Se esegui un job utilizzando la Google Cloud console, puoi trovare il nome del progetto Compute nel selettore di progetti:

La UI di BigQuery mostra un progetto di calcolo denominato docs-compute nella pagina in cui esegui le query SQL.
Figura 2. Il nome di un progetto Compute che esegue job BigQuery.

Quando invii richieste all'API BigQuery, specifica il progetto Compute nell'URL, ad esempio:

POST /bigquery/v2/projects/docs-compute/jobs HTTP/1.1
Host: bigquery.googleapis.com
User-Agent: Go-http-client/1.1
Authorization: <REDACTED 1031 BYTES>
Accept-Encoding: gzip
{
  "configuration": {
    "query": {
      "useLegacySql": false,
      "query": "CREATE OR REPLACE TABLE `docs-target.dataset.target-002` AS SELECT * FROM `docs-source.dataset.source-002`;"
    }
  },
  "jobReference": {
    "projectId": "docs-compute",
    "jobId": "docs-compute-job-id",
    "location": "us",
  }
}

Progetto attivo

Questo è il progetto da cui stai visualizzando la derivazione dei dati. La Google Cloud console mostra il progetto attivo nel selettore di progetti. Se utilizzi l'API, il progetto attivo è il progetto da cui stai effettuando le chiamate API.

La UI di BigQuery mostra la tracciabilità dei dati per un set di dati chiamato source-001, che si trova in un progetto chiamato docs-source.
Figura 3. Il progetto attivo nella Google Cloud console.

La derivazione dei dati BigQuery non viene visualizzata

Il seguente problema si verifica dopo l'esecuzione di un job BigQuery. In questo caso, il problema può essere causato da tre scenari:

  • L'API Data Lineage è disabilitata nel progetto attivo o nel progetto Compute.
  • Non hai il ruolo Visualizzatore derivazione dei dati (roles/datalineage.viewer) nel progetto attivo o nel progetto Compute.
  • La tracciabilità dei dati non è ancora arrivata. A seconda del volume e della complessità dei dati in fase di elaborazione, la visualizzazione della tracciabilità dei dati può richiedere da 30 minuti a 24 ore.

Se visualizzi il messaggio "Impossibile recuperare la tracciabilità a causa di autorizzazioni mancanti", non disponi delle autorizzazioni per il progetto attivo. In caso contrario, non disponi delle autorizzazioni per il progetto Compute.

Un grafico di derivazione vuoto.
Figura 4. Esempio di tracciabilità non visualizzata nell'interfaccia utente di BigQuery.

Per risolvere il problema, verifica se l'API Data Lineage è abilitata per il progetto Compute. Dopo aver abilitato l'API, devi eseguire un job per visualizzare la tracciabilità dei dati. A seconda del volume e della complessità dei dati in fase di elaborazione, la visualizzazione della tracciabilità dei dati può richiedere da 30 minuti a 24 ore.

Poi, verifica se l'API Data Lineage è abilitata per il progetto attivo.

Quando l'API Data Lineage è abilitata, assegna il ruolo Visualizzatore derivazione dei dati (roles/datalineage.viewer) sia nel progetto attivo sia nel progetto Compute.

I metadati di processo BigQuery non vengono visualizzati

Il seguente problema si verifica quando apri il riquadro dei dettagli della tabella, che non mostra tutti i dettagli, come l'istruzione SQL o la proprietà Process type. Ciò accade anche se la derivazione dei dati viene visualizzata correttamente.

Questo può accadere quando non hai le autorizzazioni per visualizzare i metadati nel progetto Compute.

Esempio:

Se fai clic sui dettagli del processo BigQuery, nella console viene visualizzato il seguente messaggio in the Google Cloud console:

You don't have permission to view BigQuery process metadata in project X.
Nella UI di BigQuery, nella scheda Tracciabilità, il riquadro dei dettagli mostra un messaggio di errore.
Figura 5. Esempio di dettagli del processo BigQuery non visualizzati nell'interfaccia utente di BigQuery.

Per risolvere il problema, concedi all'utente l'autorizzazione bigquery.jobs.get (ad esempio, inclusa nel ruolo Visualizzatore risorse BigQuery ) nel progetto Compute.

I dettagli della tabella BigQuery non vengono visualizzati

Il seguente problema si verifica quando apri il riquadro dei dettagli della tabella, che mostra solo la proprietà Fully qualified name. Ciò accade anche se la tracciabilità dei dati viene visualizzata correttamente. Questo può accadere quando non disponi di tutte le autorizzazioni necessarie nei progetti di archiviazione della tabella .

Esempio:

In questo caso, quando fai clic sui dettagli del nodo BigQuery, viene visualizzato il messaggio Entry with this fully qualified name is not available in Knowledge Catalog or you do not have permissions to view it.

I dettagli della tabella BigQuery non vengono visualizzati.
Figura 6. Esempio di dettagli della tabella BigQuery non visualizzati nell'interfaccia utente di BigQuery.

Per risolvere il problema, concedi l'autorizzazione bigquery.tables.get (ad esempio, inclusa nel ruolo Visualizzatore dati BigQuery ) nel progetto di archiviazione.

Addebiti imprevisti per l'elaborazione premium di Knowledge Catalog

Hai disattivato l'API Dataplex (dataplex.googleapis.com) per interrompere gli addebiti, ma continui a visualizzare addebiti giornalieri per lo SKU "Knowledge Catalog Premium Processing".

Questo problema può verificarsi se l'API Data Lineage (datalineage.googleapis.com) rimane abilitata. L'API Data Lineage viene fatturata con lo "SKU Knowledge Catalog Premium Processing", ma viene gestita come un' API separata nella Google Cloud console. La disattivazione dell'API Dataplex non disattiva l'API Data Lineage né interrompe gli addebiti.

Per verificare se la derivazione dei dati è l'origine degli addebiti, controlla il tuo report di fatturazione Cloud per l'etichetta goog-dataplex-workload-type con il valore LINEAGE.

Per interrompere gli addebiti, disattiva la derivazione dei dati disabilitando l'API Data Lineage nei tuoi progetti.