Le scansioni dei profili dei dati per i dati non strutturati utilizzano i modelli Vertex AI Gemini 2.5 Pro durante una scansione di rilevamento di Cloud Storage per trasformare i file non strutturati grezzi in Cloud Storage (ad esempio i PDF) in asset strutturati e interrogabili in BigQuery. Questo flusso di lavoro automatizzato è progettato per gli utenti che iniziano con i file non elaborati in Cloud Storage. Se hai già tabelle di oggetti BigQuery esistenti o vuoi guidare l'estrazione utilizzando un prompt personalizzato, consulta Utilizzare il profilo dei dati per i dati non strutturati.
Questo documento descrive come configurare le autorizzazioni necessarie, preparare i file non strutturati, creare una scansione di rilevamento di Cloud Storage con l'inferenza semantica abilitata utilizzando l'API REST, visualizzare gli approfondimenti generati, curare i profili del grafico ed estrarre i dati in BigQuery.
Prima di iniziare
Prima di creare una scansione di rilevamento, assicurati di disporre delle autorizzazioni richieste e che le API siano abilitate.
Abilita API
Abilita le seguenti API nel tuo progetto:
dataplex.googleapis.combigquery.googleapis.comaiplatform.googleapis.com(Vertex AI)
Ruoli richiesti per abilitare le API
Per abilitare le API, devi disporre del ruolo IAM Amministratore utilizzo dei servizi (roles/serviceusage.serviceUsageAdmin), che include l'autorizzazione serviceusage.services.enable. Scopri come concedere
i ruoli.
Ruoli e autorizzazioni richiesti
Per configurare ed eseguire scansioni dei profili di dati per dati non strutturati, devi soddisfare le autorizzazioni di base per una scansione di rilevamento e poi concedere ruoli aggiuntivi per l'inferenza semantica in più service agent.
Ruoli di scansione di rilevamento di base
Assicurati che tu e i service account utilizzati da Knowledge Catalog disponiate delle autorizzazioni di base richieste per una scansione di rilevamento standard. Per un elenco completo, consulta Trovare e catalogare i dati di Cloud Storage.
Ruoli aggiuntivi per l'inferenza semantica
Oltre ai ruoli di rilevamento di base, assicurati che tu e gli account di servizio disponiate dei seguenti ruoli IAM (Identity and Access Management) aggiuntivi.
Riepilogo di identità e ruoli aggiuntivi
| Tipo di identità | Formato tipico del principal | Ruoli IAM richiesti | Scopo principale |
|---|---|---|---|
| Utente finale | Il tuo account utente Google Cloud |
|
Utilizzi questi ruoli aggiuntivi per configurare le scansioni, visualizzare i risultati generati dall'AI, curare i profili grafici e attivare l'estrazione finale dei dati. |
| Agente di rilevamento di Dataplex Universal Catalog | service-<var>PROJECT_NUMBER</var>@gcp-sa-dataplex.iam.gserviceaccount.com |
|
Questo service agent gestito da Google utilizza questi ruoli aggiuntivi per chiamare Vertex AI per generare schemi e metadati dedotti. |
| Account di servizio connessione BigQuery | Un'identità univoca associata alla tua connessione (ad esempio, bqcx-<var>PROJECT_NUMBER</var>-<var>ID</var>@gcp-sa-bigquery-condel.iam.gserviceaccount.com) |
|
Collega BigQuery a uno spazio di archiviazione esterno, consentendo a BigQuery di leggere i file non elaborati, creare tabelle di oggetti ed eseguire l'inferenza dell'AI senza esporre le tue credenziali utente personali. |
| Account di servizio di esecuzione della pipeline (facoltativo) | Un account di servizio gestito dall'utente |
|
Se scegli di estrarre i dati utilizzando una pipeline automatizzata, questa identità esegue i job in background per materializzare le entità generate dall'AI nelle tabelle BigQuery. |
| Account di servizio Dataform predefinito (facoltativo) | service-<var>PROJECT_NUMBER</var>@gcp-sa-dataform.iam.gserviceaccount.com |
|
Quando utilizzi il metodo di estrazione della pipeline, Dataform richiede l'autorizzazione a utilizzare l'identità del account di servizio di esecuzione della pipeline per orchestrare il flusso di lavoro. |
Ruoli e autorizzazioni utente finale
Per assicurarti che il tuo account utente disponga delle autorizzazioni necessarie per creare scansioni, visualizzare approfondimenti, curare profili grafici ed estrarre dati, chiedi all'amministratore di concedere al tuo account utente i seguenti ruoli IAM sul progetto:
-
Crea scansioni e visualizza approfondimenti:
- Dataplex DataScan Editor (
roles/dataplex.dataScanEditor) - Dataplex Catalog Editor (
roles/dataplex.catalogEditor)
- Dataplex DataScan Editor (
-
Estrai i dati utilizzando SQL o una pipeline:
- Editor dati BigQuery (
roles/bigquery.dataEditor) - Utente job BigQuery (
roles/bigquery.jobUser)
- Editor dati BigQuery (
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per creare scansioni, visualizzare approfondimenti, curare i profili del grafico ed estrarre dati. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per creare scansioni, visualizzare approfondimenti, curare profili grafici ed estrarre dati sono necessarie le seguenti autorizzazioni:
-
DataScans:
-
dataplex.datascans.create -
dataplex.datascans.get -
dataplex.datascans.getData -
dataplex.datascans.list -
dataplex.datascans.update
-
-
Estrazione dei dati:
-
bigquery.tables.create -
bigquery.tables.update -
bigquery.tables.getData -
bigquery.jobs.create
-
L'amministratore potrebbe anche essere in grado di concedere al tuo account utente queste autorizzazioni tramite ruoli personalizzati o altri ruoli predefiniti.
Ruoli e autorizzazioni del service agent Dataplex Discovery
Il service agent Dataplex Discovery è un service agent che deve accedere per eseguire scansioni ed eseguire inferenze semantiche utilizzando Vertex AI.
Per assicurarti che l'agente di servizio di rilevamento Dataplex (di solito service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com) disponga delle autorizzazioni necessarie per eseguire scansioni ed eseguire l'inferenza semantica utilizzando Vertex AI,
chiedi all'amministratore di concedere i seguenti ruoli IAM all'agente di servizio di rilevamento Dataplex (di solito service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com) sul progetto:
-
Tutti:
- Utente della piattaforma dell'agente (
roles/aiplatform.user) - Dataplex Discovery Service Agent (
roles/dataplex.discoveryServiceAgent) - Utente job BigQuery (
roles/bigquery.jobUser) - Visualizzatore dati BigQuery (
roles/bigquery.dataViewer)
- Utente della piattaforma dell'agente (
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per eseguire scansioni ed eseguire l'inferenza semantica utilizzando Vertex AI. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per eseguire scansioni ed eseguire l'inferenza semantica utilizzando Vertex AI sono necessarie le seguenti autorizzazioni:
-
Tutti:
-
aiplatform.endpoints.predict -
bigquery.datasets.create -
bigquery.datasets.get -
bigquery.tables.get -
bigquery.tables.getData -
storage.buckets.get -
storage.objects.get -
storage.objects.list
-
L'amministratore potrebbe anche essere in grado di concedere all'agente di servizio di rilevamento Dataplex (di solito service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com)
queste autorizzazioni
tramite ruoli personalizzati o
altri ruoli predefiniti.
Ruoli e autorizzazioni del account di servizio di connessione BigQuery
Una connessione alle risorse Cloud BigQuery consente a Knowledge Catalog di accedere ai dati non strutturati archiviati in Cloud Storage. Quando crei una connessione, BigQuery crea automaticamente un service account dedicato per tuo conto. Questo account di servizio funge da identità utilizzata per connettersi all'origine dati esterna.
Per impostazione predefinita, questo account di servizio non dispone di alcuna autorizzazione. Devi concedere esplicitamente a questo account di servizio i ruoli IAM richiesti nei bucket Cloud Storage contenenti i tuoi dati. Puoi utilizzare una connessione BigQuery esistente o crearne una nuova nella stessa località del bucket Cloud Storage di origine. Per saperne di più sulla condivisione delle connessioni, consulta Condividere una connessione con gli utenti.
Per assicurarti che il account di servizio di connessione BigQuery (recupera l'ID dalla sezione Informazioni sulla connessione dei dettagli della connessione) disponga delle autorizzazioni necessarie per leggere le tabelle degli oggetti ed eseguire l'inferenza, chiedi all'amministratore di concedere i seguenti ruoli IAM aaccount di serviziont di connessione BigQuery (recupera l'ID dalla sezione Informazioni sulla connessione dei dettagli della connessione):
-
Tutti:
- Visualizzatore oggetti Storage (
roles/storage.objectViewer) sul bucket contenente dati non strutturati - Agent Platform User (
roles/aiplatform.user) sul progetto
- Visualizzatore oggetti Storage (
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per leggere le tabelle degli oggetti ed eseguire l'inferenza. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per leggere le tabelle degli oggetti ed eseguire l'inferenza sono necessarie le seguenti autorizzazioni:
-
Tutti:
-
storage.buckets.getnel bucket contenente i dati non strutturati -
storage.objects.getnel bucket contenente i dati non strutturati -
aiplatform.endpoints.predictsul progetto
-
L'amministratore potrebbe anche essere in grado di concedere al account di servizio di connessione BigQuery (recupera l'ID dalla sezione Informazioni sulla connessione dei dettagli della connessione) queste autorizzazioni tramite ruoli personalizzati o altri ruoli predefiniti.
(Facoltativo) Ruoli e autorizzazioni del account di servizio di esecuzione della pipeline
Se scegli di estrarre i dati dedotti utilizzando una pipeline automatica, devi creare o fornire un account di servizio dedicato per eseguire la pipeline. Questo account di servizio di esecuzione funge da identità che autentica ed esegue le attività di estrazione e analisi dei dati in background in BigQuery. Inoltre, devi concedere al account di servizio Dataform predefinito l'autorizzazione a rappresentare questo account di servizio di esecuzione.
Per assicurarti che il account di servizio di esecuzione della pipeline disponga delle autorizzazioni necessarie per estrarre le entità e le relazioni inferite utilizzando una pipeline, chiedi all'amministratore di concedere i seguenti ruoli IAMaccount di servizioount di esecuzione della pipeline sul progetto:
-
Tutti:
- Editor dati BigQuery (
roles/bigquery.dataEditor) - Utente job BigQuery (
roles/bigquery.jobUser) - Utente BigQuery (
roles/bigquery.user) - Utente della piattaforma dell'agente (
roles/aiplatform.user)
- Editor dati BigQuery (
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per estrarre le entità e le relazioni dedotte utilizzando una pipeline. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per estrarre le entità e le relazioni dedotte utilizzando una pipeline sono necessarie le seguenti autorizzazioni:
-
Tutti:
-
bigquery.tables.create -
bigquery.tables.update -
bigquery.tables.get -
bigquery.tables.getData -
bigquery.jobs.create -
aiplatform.endpoints.predict
-
L'amministratore potrebbe anche essere in grado di concedere al account di servizio di esecuzione della pipeline queste autorizzazioni tramite ruoli personalizzati o altri ruoli predefiniti.
Per assicurarti che il account di servizio Dataform predefinito (service-PROJECT_NUMBER@gcp-sa-dataform.iam.gserviceaccount.com) disponga delle autorizzazioni necessarie per rappresentare il account di servizio di esecuzione della pipeline,
chiedi all'amministratore di concedere i
seguenti ruoli IAM al account di servizio Dataform predefinito (service-PROJECT_NUMBER@gcp-sa-dataform.iam.gserviceaccount.com) sul account di servizio di esecuzione della pipeline:
-
Tutti:
Creatore token service account (
roles/iam.serviceAccountTokenCreator)
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questi ruoli predefiniti contengono le autorizzazioni necessarie per rappresentare il account di servizio di esecuzione della pipeline. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per rappresentare il account di servizio di esecuzione della pipeline sono necessarie le seguenti autorizzazioni:
-
Tutti:
iam.serviceAccounts.getAccessToken
L'amministratore potrebbe anche essere in grado di concedere all'account di servizio Dataform predefinito (service-PROJECT_NUMBER@gcp-sa-dataform.iam.gserviceaccount.com) queste autorizzazioni tramite ruoli personalizzati o altri ruoli predefiniti.
Prepara i dati non strutturati
Prima di eseguire una scansione di rilevamento, devi caricare i dati non strutturati in un bucket Cloud Storage. Le scansioni del profilo di dati per i dati non strutturati sono ottimizzate per l'analisi dei documenti PDF.
Per saperne di più sull'archiviazione e la gestione dei file in Cloud Storage, consulta Caricare oggetti.
Crea una connessione a una risorsa Cloud
Per pubblicare i risultati della scansione di rilevamento come tabella di oggetti BigQuery, devi creare una connessione alle risorse cloud e concedere al relativo account di servizio l'accesso ai tuoi dati non strutturati in Cloud Storage.
- Crea una connessione a una risorsa Cloud.
- Concedi il ruolo Visualizzatore oggetti Storage (
roles/storage.objectViewer) al account di servizio associato alla connessione nel bucket Cloud Storage contenente i dati non strutturati. Per saperne di più, consulta Concedere l'accesso al service account.
Crea una scansione di rilevamento per i dati non strutturati
Per estrarre informazioni semantiche dai dati non strutturati, devi prima creare una scansione di rilevamento di Cloud Storage. Questa scansione individua automaticamente i tuoi file non strutturati in Cloud Storage e li cataloga in una tabella di oggetti. Se abiliti l'inferenza semantica durante questo processo, Knowledge Catalog utilizza i modelli Vertex AI Gemini 2.5 Pro per analizzare i file e generare metadati, schemi e relazioni dedotti.
Puoi creare una scansione di rilevamento di Cloud Storage con l'inferenza semantica attivata utilizzando la console Google Cloud o l'API REST.
Console
Nella console Google Cloud , vai alla pagina Cura dei metadati.
Nella scheda Rilevamento Cloud Storage, fai clic su Crea.
Inserisci un nome per la scansione.
Per selezionare il bucket Cloud Storage contenente i dati non strutturati, fai clic su Sfoglia.
Per Opzioni per i dati non strutturati, seleziona la casella di controllo Attiva inferenza semantica.
Nel campo ID connessione, specifica la connessione BigQuery utilizzata per accedere ai file.
La scansione di rilevamento cataloga automaticamente i dati non strutturati in BigQuery creando tabelle degli oggetti. Poiché le tabelle degli oggetti separano in modo sicuro le credenziali di accesso ai dati dall'utente che esegue le query, è necessaria una connessione per l'autenticazione con Cloud Storage e la lettura dei file.
Fai clic su Esegui ora (per una scansione on demand) o Crea (per una scansione pianificata).
Per informazioni dettagliate su tutte le configurazioni disponibili, consulta Individuare e catalogare i dati di Cloud Storage.
Knowledge Catalog crea una tabella degli oggetti e arricchisce la voce del catalogo con metadati generati dall'AI. In genere, questa procedura richiede alcuni minuti per i set di dati standard.
REST
Per creare una scansione di rilevamento di Cloud Storage con l'inferenza semantica abilitata
utilizzando l'API REST, utilizza il metodo
dataScans.create
con un dataDiscoverySpec.
POST https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataScans?dataScanId=DATASCAN { "description": "Cloud Storage discovery scan with semantic inference", "data": { "resource": "//storage.googleapis.com/BUCKET_NAME" }, "executionSpec": { "trigger": { "onDemand": {} } }, "dataDiscoverySpec": { "bigqueryPublishingConfig": { "tableType": "OBJECT_TABLE", "connection": "projects/PROJECT_ID/locations/LOCATION/connections/CONNECTION_ID" }, "unstructuredDataEventsConfig": { "enabled": true } } }
Sostituisci quanto segue:
PROJECT_ID: l'ID del tuo Google Cloud progetto.LOCATION: la Google Cloud regione (deve supportare Gemini 2.5 Pro).DATASCAN: il nome della scansione di rilevamento.BUCKET_NAME: il bucket Cloud Storage che contiene i dati non strutturati.CONNECTION_ID: l'ID connessione BigQuery.
Esegui la scansione di rilevamento
Se hai configurato la scansione di rilevamento in modo che venga eseguita su richiesta, devi attivarla manualmente per individuare i dati non strutturati e generare insight.
Puoi attivare una scansione di rilevamento utilizzando la console Google Cloud o l'API REST.
Console
Nella console Google Cloud , vai alla pagina BigQuery.
Nel menu di navigazione, fai clic su Governance > Curatela dei metadati.
Nel riquadro Rilevamento di Cloud Storage, fai clic sulla scansione di rilevamento che vuoi eseguire.
Fai clic su Esegui ora.
REST
Per eseguire una scansione di rilevamento on demand utilizzando l'API REST, utilizza il metodo
dataScans.run:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/dataScans/DATASCAN:run"
Sostituisci le seguenti variabili:
PROJECT_ID: l'ID del tuo Google Cloud progetto.LOCATION: la Google Cloud regione in cui si trova la scansione di rilevamento.DATASCAN: il nome della scansione di rilevamento.
Knowledge Catalog esegue la scansione di rilevamento, crea una tabella degli oggetti e arricchisce la voce del catalogo con metadati generati dall'AI. In genere, questa procedura richiede alcuni minuti per i set di dati standard.
Individuare la tabella degli oggetti
Al termine della scansione di rilevamento, Knowledge Catalog crea una o più tabelle di oggetti e compila Knowledge Catalog con una voce corrispondente arricchita con metadati generati dall'AI. Quando vengono create più voci a causa di una scansione di rilevamento, ognuna ha la propria scheda Approfondimenti. Puoi visualizzare la descrizione automatica della tabella, gli schemi dedotti e i grafici delle relazioni.
Nella console Google Cloud , vai alla pagina BigQuery.
Nel menu di navigazione, fai clic su Governance > Curatela dei metadati.
Nel riquadro Rilevamento di Cloud Storage, fai clic sulla scansione di rilevamento che hai eseguito per i dati non strutturati.
- La sezione Dettagli scansione mostra i dettagli della scansione di rilevamento.
- La sezione Stato scansione mostra i risultati del rilevamento dell'ultimo job di scansione.
Fai clic sul link per Set di dati pubblicato.
Nell'elenco delle tabelle visualizzate per il set di dati BigQuery, seleziona la tabella degli oggetti generata per l'analisi dei dati di rilevamento.
Copia l'ID tabella. Ti servirà nella sezione successiva.
Esplorare i risultati della scansione di rilevamento
Puoi visualizzare la tabella degli oggetti e i relativi grafici semantici dedotti in Knowledge Catalog.
Nella console Google Cloud , vai alla pagina Ricerca di Knowledge Catalog.
Incolla e cerca la tabella degli oggetti di cui hai selezionato l'ID nella sezione precedente.
Nei risultati di ricerca, fai clic sulla tabella per aprire la relativa pagina di inserimento.
Nella scheda Dettagli, in Aspetti, verifica la presenza dell'aspetto Profilo grafico (
dataplex-types.global.graph-profile). Questo aspetto contiene gli schemi dedotti per entità e relazioni.Fai clic sulla scheda Approfondimenti. Nella scheda Approfondimenti puoi visualizzare le seguenti informazioni:
Estrazione semantica. Un banner indica che sono state rilevate entità e relazioni estraibili. Include un pulsante Estrai per materializzare i dati utilizzando SQL o il deployment della pipeline.
Descrizione. Un riepilogo leggibile creato con l'AI spiega i contenuti dei dati non strutturati. Descrive i nodi (entità) principali rilevati e il modo in cui sono mappati tra loro tramite archi (relazioni).
Pipeline. Un elenco di pipeline di estrazione dei dati precedentemente implementate associate a questa risorsa. Puoi visualizzare il nome visualizzato, la regione, l'ora di creazione e l'utente che ha creato la pipeline.
Entità e relazioni dedotte. Un grafico visivo e interattivo mostra la struttura semantica rilevata dei dati non strutturati. Il grafico contiene nodi che rappresentano entità distinte, ad esempio
RecipeeIngredient, e archi che rappresentano le connessioni tra loro, ad esempioHasAllergenStatus. Puoi utilizzare la legenda per filtrare ed esplorare nodi e archi specifici.Entità. Un elenco dettagliato delle entità principali rilevate. Puoi espandere ogni entità per visualizzare la descrizione generata dall'AI e lo schema dedotto, che include nomi dei campi, tipi di dati e descrizioni dei campi.
Relazioni. Un elenco dettagliato delle connessioni scoperte tra le entità. Puoi espandere ogni relazione per visualizzarne la descrizione e lo schema che definisce la mappatura delle entità tra loro.
Aggiornare gli insight dedotti
Gli insight dedotti vengono archiviati in Knowledge Catalog come aspetto collegato alla tabella degli oggetti. Puoi aggiornare questi approfondimenti manualmente utilizzando l'API REST.
REST
Per aggiornare gli approfondimenti dedotti utilizzando l'API REST:
Crea un file denominato
payload.jsone aggiungi i contenuti JSON dell'aspetto che vuoi aggiornare. Ad esempio:{ "aspects": { "dataplex-types.global.graph-profile": { "data": { "nodeTypes": [], "edgeTypes": [] } } } }Esegui questo comando nel terminale:
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d @payload.json \ "https://dataplex.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/entryGroups/ENTRY_GROUP_ID/entries/ENTRY_ID?updateMask=aspects"Sostituisci quanto segue:
PROJECT_ID: l'ID del tuo progetto, ad esempioexample-projectLOCATION: la posizione della voce, ad esempious-central1ENTRY_GROUP_ID: l'ID del gruppo di voci, ad esempioexample-entry-group(per le tabelle degli oggetti BigQuery, utilizza@bigquery)ENTRY_ID: l'ID della voce, ad esempioexample-entry(recuperalo dalla scheda Panoramica della pagina dei dettagli della voce nella console Google Cloud )
Per ulteriori informazioni ed esempi di codice in altre lingue, consulta Aggiornare un aspetto della voce.
Estrai i dati in BigQuery
Puoi materializzare le entità e le relazioni inferite in tabelle o viste strutturate in BigQuery utilizzando SQL o una pipeline automatizzata.
Nella console Google Cloud , vai alla pagina Ricerca di Knowledge Catalog.
Cerca la tabella degli oggetti generata dalla scansione.
Nei risultati di ricerca, fai clic sulla tabella per aprire la relativa pagina di inserimento.
Fai clic sulla scheda Approfondimenti.
Nella scheda Approfondimenti, fai clic su Estrazione.
Scegli uno dei seguenti metodi in base alle tue esigenze di analisi e alla scala dei tuoi dati non strutturati:
Estrai tramite SQL:scegli questa opzione per analisi rapide e ad hoc, set di dati di dimensioni piccole o medie o quando vuoi un approccio senza infrastruttura utilizzando i modelli remoti BigQuery.
Per estrarre utilizzando SQL:
- Seleziona Estrai per SQL.
- Nel riquadro Estrai con SQL, seleziona un set di dati di destinazione. Il set di dati deve trovarsi nella stessa località dell'origine.
- Fai clic su Estrai.
- Nell'editor BigQuery si apre una query precompilata
che utilizza la funzione
ML.PROCESS_DOCUMENT. Esegui la query per creare tabelle e viste standard.
Per saperne di più sull'utilizzo di SQL per estrarre informazioni dai documenti, consulta Elabora documenti con la funzione
ML.PROCESS_DOCUMENT.Estrai per pipeline:scegli questa opzione per l'elaborazione dei dati su larga scala o quando hai bisogno di una logica di ripetizione, una gestione degli errori e un'orchestrazione automatizzata affidabili per gestire grandi volumi di documenti.
Per estrarre utilizzando una pipeline:
- Seleziona Estrai per pipeline.
- Nel riquadro Estrai con pipeline, inserisci un nome visualizzato per la pipeline.
- Seleziona una regione.
- Seleziona un set di dati di destinazione. Il set di dati deve trovarsi nella stessa località dell'origine.
- Fai clic su Estrai. Viene creata una pipeline BigQuery che orchestra la materializzazione dei dati utilizzando Dataform.
- Esegui tutte le attività nella pipeline per generare visualizzazioni strutturate di nodi e archi.
Per saperne di più sull'esecuzione dei flussi di lavoro dei dati, consulta Introduzione a Dataform.
Dopo aver estratto e materializzato gli approfondimenti semantici in BigQuery, puoi eseguire le seguenti attività:
Esegui query sui dati strutturati. Esegui query SQL standard sulle tabelle appena create per analizzare le entità e le relazioni estratte.
Unisci con i dati esistenti. Combina gli approfondimenti qualitativi estratti dai tuoi file non strutturati con i tuoi set di dati BigQuery strutturati esistenti (ad esempio unisci i dati delle fatture analizzati con le tue tabelle di contabilità).
Esplora gli approfondimenti sui dati. Utilizza la funzionalità Approfondimenti sui dati in BigQuery Studio per generare automaticamente domande in linguaggio naturale e query SQL per i tuoi nuovi asset strutturati.
Analizza con Gemini. Utilizza Gemini in BigQuery per eseguire analisi conversazionali, riepilogare le tendenze o creare dashboard in Data Studio in base ai dati estratti.
Passaggi successivi
- Scopri come utilizzare il profilo dei dati per i dati non strutturati.
- Scopri di più su come scoprire i dati.
- Leggi Informazioni sulla profilazione dei dati.