非結構化資料洞察簡介

在 Knowledge Catalog 中掃描非結構化資料的資料剖析,可將 Cloud Storage 中的暗資料或非結構化檔案 (例如 PDF) 轉換為 BigQuery 中可查詢的結構化資產。標準探索工具只能提供檔案層級的中繼資料,例如大小和類型,但由 Vertex AI Gemini 模型支援的非結構化資料資料剖析掃描功能,則可分析檔案內容。這項功能會自動擷取 AI 代理所需的業務背景資訊,並支援進階分析。

這項自動化功能可免除手動剖析文件和自訂 ETL 程式碼的需要,讓您探索、分類及使用先前無法存取的資料。

非結構化資料的資料剖析掃描會分析非結構化檔案的內容,藉此擷取資訊並推斷結構定義。這與結構化資料的資料洞察功能不同,後者會根據現有結構化資料表的中繼資料產生說明和 SQL 查詢,並根據標準統計資料剖析計算空值計數和值分布等指標。

自動探索及語意剖析

您可以透過兩種不同的工作流程執行非結構化資料剖析,視您的起點而定:

  • 在 Cloud Storage 探索掃描期間:探索掃描會自動找出 Cloud Storage 中的非結構化檔案,並將這些檔案編入 BigQuery 的一或多個物件資料表,以供分析。物件資料表是位於 Cloud Storage 中的非結構化資料物件的唯讀資料表。啟用「啟用語意推論」後,執行探索掃描作業時,系統會自動剖析非結構化資料。

  • 做為非結構化資料的獨立資料剖析掃描作業:如果您已有現成的 BigQuery 物件資料表,可以直接對這些資料表執行非結構化資料的資料剖析掃描作業。在這個獨立工作流程中,您也可以在 DataScan 規格中提供自訂提示,引導擷取作業。

執行非結構化資料剖析時 (自動在探索掃描期間執行,或以獨立掃描的形式執行),系統會將物件資料表登錄為 Knowledge Catalog 中的項目。項目代表您要擷取中繼資料的資料資產。如果探索掃描作業建立多個資料表,每個項目都會有自己的洞察分頁。接著開啟該項目,即可查看產生的資料洞察。 系統會執行下列動作:

  1. 識別檔案並分組 (僅限探索掃描)。自動識別並整理 Cloud Storage 中的非結構化檔案,然後匯入物件資料表。這些物件資料表是唯讀資料表,可為非結構化資料提供結構化介面。

  2. 對非結構化資料執行資料剖析掃描。使用 Vertex AI Gemini 模型分析檔案內容,瞭解其意義和結構。這包括實體推論,這項功能會使用生成式 AI 從檔案內容中擷取特定屬性,例如 CompanyProductSerial Number。這項技術也包含關係擷取,可找出這些實體的連結方式 (例如 Component is_part_of Product),進而建立語意圖。如果您執行的是獨立剖析掃描作業,可以在 DataScan 規格中提供自訂提示,引導系統擷取資料。

  3. 產生結構定義和圖形設定檔。提供 AI 建議的關聯式結構定義,並將 Graph Profile 構面 (dataplex-types.global.graph-profile) 附加至代表物件資料表的目錄項目。切面能擷取項目內的中繼資料。這項中繼資料層面包含實體 (NodeType) 和關係 (EdgeType) 的推斷結構定義。

  4. 充實中繼資料。自動在 Knowledge Catalog 中填入 AI 生成的中繼資料。這樣一來,資料就能供人搜尋及擷取。

您不必手動設計資料庫結構定義,只要按一下滑鼠,就能使用 SQL 或管道自動調度功能擷取資料。這個程序會將推斷的實體和關係具體化為結構化格式,例如 BigQuery 實體資料表或檢視表。

API 方法

您可以使用下列 REST API 方法,設定、執行及管理非結構化資料的資料剖析掃描,以及產生的目錄項目:

API 方法 說明
projects.locations.dataScans.create 建立探索掃描 (使用 dataDiscoverySpec) 或非結構化資料的獨立資料剖析掃描 (使用 unstructuredDataProfileSpec)。
projects.locations.dataScans.run 觸發隨選資料剖析掃描或探索掃描工作,分析非結構化檔案並產生語意洞察。
projects.locations.dataScans.get 擷取現有資料剖析掃描的設定詳細資料和最新工作結果。
projects.locations.dataScans.jobs.list 列出特定資料剖析掃描或探索掃描的歷史掃描工作。
projects.locations.dataScans.jobs.get 擷取特定資料剖析掃描工作的詳細執行結果和記錄。
projects.locations.entryGroups.entries.get 擷取代表物件資料表的目錄項目,包括附加的 AI 生成中繼資料切面 (例如 GraphProfile)。
projects.locations.entryGroups.entries.patch 更新目錄項目,以附加、修改或管理中繼資料切面 (例如 dataplex-types.global.graph-profile)。

用途

您可以在不同產業領域中,將非結構化資料的資料剖析掃描用於各種用途,包括:

  • 管道設定和零 ETL 正規化。只要以自動結構定義建議取代自訂剖析器,並按一下滑鼠,即可將資料部署到 BigQuery 資料表、檢視區塊或語意圖形,輕鬆從 Cloud Storage 擷取資料到 BigQuery。

    舉例來說,在電子商務和零售業中,市集可以自動將數百種不同 PDF 版面配置的供應商發票和訂購單,正規化為一致的 BigQuery 結構定義 (將 Unit Pr.Price/PkgItem Cost 對應至單一 Unit_Price 欄),不必編寫自訂剖析程式碼。在醫療照護領域,生物統計學家可以將多中心臨床試驗計畫書和病例報告表 (CRF) 匯入結構化表格,快速進行同類群組分析。

  • 內容分類和驗證。自動將暗資料分組為可搜尋的資產,並以 AI 生成的中繼資料加以豐富,讓資料管理員大規模執行人為驗證,以及監控擷取的實體。

    舉例來說,在金融服務中,進行併購盡職調查的投資銀行可以自動分類大量歷史合約和信用協議,並擷取複雜的法律實體 (Contracting_PartiesIndemnity_CapGoverning_Law)。資料管理員可以在「洞察」分頁中探索視覺化知識圖表,找出高風險負債,然後將資料匯出至執行長報告。

  • AI 代理建立基準。使用經過驗證的圖表,建立檢索增強生成 (RAG) 代理程式的基礎。這可提供清楚的「追溯鏈」,將原始檔案連結至結構化商業邏輯,減少 AI 代理的幻覺,並讓 AI 代理明確無誤地瀏覽多個資料表聯結。

    舉例來說,在製造和工業營運方面,重型機械公司可以從數十年的非結構化現場維護記錄和事件報告中,擷取設備關係。現場技術人員向對話式 AI 代理詢問如何解決異常的液壓下降問題時,代理會使用經過驗證的關係圖 (Error_Code indicates_failure Hydraulic_Valve) 提供準確的維修計畫,並引用確切的歷史事故通報。

限制

對非結構化資料執行資料剖析掃描前,請先瞭解下列限制:

  • 支援的格式。探索掃描作業會自動識別各種非結構化檔案類型,並將其分組到 BigQuery 物件資料表中,但非結構化資料的資料剖析掃描作業所用的語意推論引擎,主要適用於 PDF 文件。

  • 地點:非結構化資料的資料剖析掃描功能僅適用於支援 Vertex AI Gemini 2.5 Pro 模型的位置 (例如 us-central1europe-west1asia-southeast1)。如需支援的區域清單,請參閱 Gemini 2.5 Pro 的「支援的區域」一節。在不支援的區域建立的掃描作業會傳回驗證或執行錯誤。

  • 資源範圍。非結構化資料的資料剖析掃描作業只能在 BigQuery 物件資料表上執行。不支援標準 BigQuery 結構化資料表、結構化資料的外部資料表,或 BigQuery 檢視區塊。

定價

在公開搶先版階段,非結構化資料的資料剖析掃描功能可供實驗和測試,並適用於專屬促銷條款:

  • 語意推論。在預先發布期間,使用 Vertex AI Gemini 模型擷取語意資訊和推斷圖表剖析檔,進行探索掃描時不會產生任何費用。

  • 基礎資源費用。儲存及處理資料所需的資源會收取標準費用:

    • Knowledge Catalog

      • 探索掃描作業的費用,是根據 Knowledge Catalog Premium 處理作業 SKU (資料運算單元時數) 計算,用於非結構化檔案的基準掃描和分組。詳情請參閱「 Knowledge Catalog 定價」。

      • AI 生成的中繼資料切面 (包括圖表設定檔) 會產生標準的 Knowledge Catalog 目錄儲存空間費用。

    • BigQuery 和 Dataform

      • 如果使用管道擷取方法,則須支付 Dataform 執行和 BigQuery 工作產生的標準費用。

      • 如果使用 SQL 方法,則會產生標準 BigQuery ML 費用 (ML.PROCESS_DOCUMENT) 和 BigQuery 查詢處理費用。

      • 任何具體化到 BigQuery 的資料 (包括物件資料表、推斷的中繼資料和擷取的實體),都會產生標準的 BigQuery 儲存空間和查詢費用。詳情請參閱 BigQuery 定價

非結構化資料的資料剖析掃描和語意推論正式發布後,就會開始採用專屬的官方帳單結構。

配額

標準 DataScan 資源和 API 配額適用於每個個別的探索掃描或資料剖析掃描工作。語意推論量受特定配額限制:每天每個專案最多只能對 BigQuery 物件資料表中的非結構化資料執行 140 次資料剖析掃描

在探索掃描期間執行非結構化資料剖析時,探索掃描支援的資料表數量上限也適用。詳情請參閱 BigQuery 配額和限制

後續步驟