Puoi gestire i metadati dalle istanze di Looker (Google Cloud core) utilizzando Knowledge Catalog. La gestione dei metadati ti aiuta a governare i dati e a prendere decisioni consapevoli.
Knowledge Catalog è una piattaforma di catalogazione dei dati che archivia, gestisce e fornisce l'accesso ai metadati. Esegue l'indicizzazione dei metadati di LookML di produzione, del progetto LookML e della dashboard di Looker (Google Cloud core).
Questa integrazione fornisce una singola visualizzazione degli asset di dati e delle relative relazioni, inclusa la derivazione dei dati. Quando utilizzi Knowledge Catalog, puoi eseguire l'analisi dell'impatto, il rilevamento dei dati e la gestione delle modifiche, che possono aiutarti a integrare i dati nei flussi di lavoro operativi e a trovare nuovi utilizzi per i tuoi dati.
Knowledge Catalog acquisisce più livelli di entità da Looker, tra cui:
- Istanza di Looker
- Dashboard
- Elemento della dashboard
- Look
- progetto LookML
- Modello
- Esplora
- Visualizza (che contiene dimensioni e metriche)
Come funziona l'integrazione
L'integrazione di Looker e Knowledge Catalog utilizza un connettore proprietario per l'importazione dei metadati. Looker (Google Cloud core) pubblica i metadati LookML nei repository Cloud Storage regionali affinché Knowledge Catalog li utilizzi tramite un processo di sincronizzazione batch.
La trasmissione dei dati da Looker (Google Cloud core) a Knowledge Catalog è automatica per impostazione predefinita e non richiede modifiche alla configurazione. Looker (Google Cloud core) utilizza i servizi interni per eseguire la sincronizzazione. Il processo di sincronizzazione batch interno viene eseguito circa ogni quattro ore e i dati di Looker vengono aggiornati circa ogni ora in Knowledge Catalog.
Quando aggiorni i modelli LookML e li invii alla produzione, il sistema sincronizza automaticamente i metadati chiave con Knowledge Catalog. Questi metadati includono i dettagli di visualizzazione ed esplorazione, le definizioni dei campi e le informazioni sul modello. Allo stesso modo, i metadati della dashboard, inclusi titoli, proprietà e statistiche di utilizzo, vengono visualizzati nel catalogo.
Quando utilizzare Knowledge Catalog con Looker
Utilizza Knowledge Catalog per scoprire e comprendere i metadati di Looker. Il catalogo aiuta nelle seguenti attività:
- Analisi dell'impatto: utilizza la derivazione dei dati per visualizzare il flusso dei dati da BigQuery alle dashboard di Looker.
- Rilevamento: cerca dashboard, esplorazioni e visualizzazioni nella tua organizzazione.
- Gestione delle modifiche: comprendi le dipendenze prima di apportare modifiche.
- Pipeline di spostamento dei dati: monitora la provenienza dei dati.
Con Knowledge Catalog, puoi anche organizzare i metadati collegando gli aspetti alle voci dei metadati di Looker. Il collegamento degli aspetti agli asset di Looker ti consente di aggiungere metadati aziendali agli asset e di cercare gli asset in base a questi metadati.
Autorizzazioni obbligatorie
Per ottenere le autorizzazioni necessarie per utilizzare l'integrazione di Knowledge Catalog e Looker (Google Cloud core), chiedi all'amministratore di concederti i seguenti ruoli IAM nel progetto in cui risiede l'istanza di Looker (Google Cloud core):
- Per visualizzare le risorse di Knowledge Catalog: Visualizzatore Dataplex (
roles/dataplex.viewer) Per accedere ai metadati di Looker (Google Cloud core) in Knowledge Catalog: Visualizzatore schema Looker (
roles/looker.schemaViewer)- Il ruolo predefinito Visualizzatore schema Looker contiene l'autorizzazione
looker.schemas.view, necessaria per accedere ai metadati di Looker (Google Cloud core) in Knowledge Catalog.
- Il ruolo predefinito Visualizzatore schema Looker contiene l'autorizzazione
Per disabilitare o abilitare l'integrazione tra Knowledge Catalog e Looker (Google Cloud core): Amministratore Looker (
roles/looker.admin)Per visualizzare i grafici di derivazione dei dati: Visualizzatore derivazione dei dati (
roles/datalineage.viewer)
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.
Abilitare l'integrazione di Knowledge Catalog e dell'istanza di Looker (Google Cloud core)
Knowledge Catalog è abilitato per impostazione predefinita nelle istanze di Looker (Google Cloud core). Per disabilitare l'integrazione, consulta la sezione Disabilitare l'integrazione di Knowledge Catalog e dell'istanza di Looker (Google Cloud core) di questa pagina della documentazione.
Se l'integrazione è disabilitata nell'istanza e vuoi abilitarla, segui questi passaggi:
console
- Abilitare l'API Dataplex. Per visualizzare i metadati importati, devi abilitare l'API Cloud Dataplex (
dataplex.googleapis.com) nel Google Cloud progetto che ospita l'istanza di Looker (Google Cloud core). - Nella scheda Dettagli della pagina Istanza dell'istanza, fai clic su Modifica.
- Espandi la sezione Integrazione di Knowledge Catalog.
- Deseleziona la casella di controllo Disattiva l'integrazione di Knowledge Catalog.
- Nota: l'abilitazione di questa impostazione abilita sia l'importazione dei metadati sia la derivazione dei dati (se l'API Data Lineage è abilitata).
- Fai clic su Salva.
gcloud
Assicurati che l'API Dataplex sia abilitata nel Google Cloud progetto che ospita l'istanza di Looker (Google Cloud core).
Utilizza il gcloud looker instances update comando con il --catalog-integration-enabled flag per abilitare l'integrazione:
gcloud looker instances update INSTANCE_NAME --catalog-integration-enabled
Sostituisci INSTANCE_NAME con il nome dell'istanza di Looker (Google Cloud core).
Una volta abilitata l'integrazione, i dati di Looker saranno disponibili in Knowledge Catalog entro un giorno.
Cercare gli asset di Looker
Per visualizzare i dati di Looker (Google Cloud core) in Knowledge Catalog, devi prima abilitare l'API Dataplex. Per ottenere l'autorizzazione necessaria per abilitare le API, devi disporre del ruolo IAM Amministratore utilizzo servizi (roles/serviceusage.serviceUsageAdmin).
Utilizza la pagina Cerca di Knowledge Catalog nellaconsole Google Cloud per cercare gli asset di Looker (Google Cloud core).
Nel riquadro Filtri, puoi filtrare gli asset di Looker (Google Cloud core) utilizzando le sezioni Progetto, Sistema e Alias di tipo. Nella sezione Sistema, puoi filtrare per Looker. In Alias di tipo, puoi filtrare i risultati di ricerca in base a un tipo specifico di asset di Looker selezionando uno o più dei seguenti:
- Dashboard
- Elemento della dashboard
- Esplora
- progetto LookML
- Modello
- Istanza
- Visualizza
- Altro
Puoi anche utilizzare il campo di ricerca per eseguire query di ricerca. Puoi eseguire una ricerca per parola chiave o in linguaggio naturale. Ad esempio, per visualizzare tutti gli asset di Looker tramite la ricerca per parola chiave, inserisci system=Looker. Per visualizzare tutte le dashboard di Looker, inserisci la query system=Looker AND type=DASHBOARD. I seguenti asset sono disponibili per la ricerca con la parola chiave type:
- dashboard
- dashboard_element
- explore
- instance
- look
- lookml_project
- model
- view
Per saperne di più sulla ricerca delle risorse, consulta la pagina della documentazione Cercare le risorse in Knowledge Catalog. Per saperne di più sulle espressioni che puoi utilizzare nel campo di ricerca, consulta la pagina della documentazione Sintassi di ricerca per Knowledge Catalog.
Disabilitare l'integrazione di Knowledge Catalog e dell'istanza di Looker (Google Cloud core)
Per disabilitare l'integrazione di Knowledge Catalog e dell'istanza di Looker (Google Cloud core), segui questi passaggi.
console
- Nella scheda Dettagli della pagina Istanza dell'istanza, fai clic su Modifica.
- Espandi la sezione Integrazione di Knowledge Catalog.
- Seleziona la casella di controllo Disattiva l'integrazione di Knowledge Catalog.
- Nota: la disattivazione di questa impostazione disabilita sia l'importazione dei metadati sia la derivazione dei dati (se l'API Data Lineage è abilitata).
- Fai clic su Salva.
gcloud
Utilizza il gcloud looker instances update comando con il --no-catalog-integration-enabled flag per abilitare l'integrazione:
gcloud looker instances update INSTANCE_NAME --no-catalog-integration-enabled
Sostituisci INSTANCE_NAME con il nome dell'istanza di Looker (Google Cloud core).
Quando l'integrazione viene disabilitata dopo essere stata abilitata, i metadati di Looker già presenti in Knowledge Catalog rimarranno in Knowledge Catalog, ma non verranno aggiornati con i nuovi metadati.
Controlli di servizio VPC
L'integrazione tra Looker (Google Cloud core) e Knowledge Catalog supporta i Controlli di servizio VPC.
Se l'istanza di Looker (Google Cloud core) o le risorse di Knowledge Catalog si trovano all'interno di un perimetro di servizio dei Controlli di servizio VPC, devi assicurarti che i servizi necessari per l'esportazione dei metadati siano accessibili.
- Assicurati che l'API Dataplex (
dataplex.googleapis.com) sia configurata come servizio con limitazioni all'interno del perimetro. - L'integrazione utilizza i bucket Cloud Storage interni per trasferire i metadati. Assicurati che il perimetro di servizio consenta l'accesso alle risorse Cloud Storage necessarie. Contatta il tuo Google Cloud team dedicato all'account o l'assistenza se riscontri
PERMISSION_DENIEDerrori correlati all'esportazione dei metadati.
Prezzi
Non sono previsti addebiti per l'archiviazione dei metadati tecnici di Looker (Google Cloud core) in Knowledge Catalog. Si applicano i prezzi standard di Knowledge Catalog per le chiamate API e l'arricchimento dei metadati aziendali aggiuntivi. Per saperne di più, consulta la pagina dei prezzi di Knowledge Catalog.
Limitazioni
Questa sezione elenca le limitazioni relative all'utilizzo di Looker (Google Cloud core) e Knowledge Catalog:
- I metadati di Looker non sono immediatamente disponibili nel catalogo. Il processo di sincronizzazione batch viene eseguito a intervalli fissi e l'aggiornamento dei dati avviene circa ogni ora.
- Non è esposta alcuna API pubblica per questa integrazione.
- Per le limitazioni relative alla tracciabilità dei dati, consulta la pagina Monitorare la tracciabilità dei dati con Knowledge Catalog.
Passaggi successivi
- Monitora la derivazione dei dati con Knowledge Catalog.
- Scopri di più sulla gestione dei metadati in Knowledge Catalog.
- Scopri come cercare le risorse in Knowledge Catalog.
- Scopri come gestire gli aspetti e arricchire i metadati.