对象丰富化

您可以使用对象丰富化功能自动生成结构化元数据,而无需构建自定义机器学习流水线。 对象丰富化功能会将 Google 的预训练机器学习模型直接应用于您存储的对象,帮助您大规模搜索、整理和管理非结构化数据。

如需开始为对象生成元数据,请参阅 配置对象丰富化。

工作原理

如需使用对象丰富化功能,您需要使用系统的以下部分:

  • **功能配置 (FeatureConfig)**:您 需要创建功能配置,以指定 Cloud Storage 监控的存储桶或项目。
  • 机器学习模型:在配置中,您可以选择要应用的模型 ,例如检测对象、为图片加标签 、分析人脸或对 PDF 文档进行分类的模型。
  • 对象丰富化(元数据):Cloud Storage 会异步扫描 您的对象,并使用您 选择的模型评估符合条件的对象。然后,Cloud Storage 会将生成的元数据 直接作为 对象上下文附加到您的对象。

Cloud Storage 将丰富化元数据附加到您的对象后,元数据即可供使用。您可以检查单个对象丰富化,也可以 使用 Storage Insights 数据集在 BigQuery 中使用 SQL 分析数百万个 对象的元数据。

下图展示了 Cloud Storage 如何使用对象丰富化功能从非结构化数据中提取上下文,并将其存储为对象上下文,以用于下游 AI 和分析工作流:

图 1. 从原始数据到对象上下文和 AI 智能体的对象丰富化工作流。
图 1.对象丰富化功能如何提取元数据并将其存储为对象上下文。

支持的模型

创建功能配置时,您可以选择最符合您的数据和分析目标的机器学习模型。Cloud Storage 会使用您选择的模型评估符合条件的对象,并在 contexts.custom 下生成结构化元数据。

支持的模型表列出了每个模型、其检测内容和示例输出数据。如需了解详细的架构定义和上下文键,请参阅 支持的模型和架构。

模型 说明 示例输出数据
对象检测 检测图片中的多个对象,并提供其位置和矩形边界。 产品、动物、人
为图片加标签 检测并提取图片中有关实体的信息,涵盖广泛的类别,例如对象、位置和活动。 风景、城市、夜晚
人脸检测 检测图片中的人脸,包括边界多边形、面部特征(眼睛、鼻子、嘴巴)、方向角度和表情可能性。 人脸数量、侧倾和倾斜角度
露骨内容检测 评估图片中是否存在敏感或不当内容,包括成人内容或暴力内容。 成人内容和暴力内容可能性评级
PDF 分类 根据 PDF 文档的内容,将其分类到标准业务和行业类别。 财务、税务、发票(类别和得分)

使用场景

您可以使用对象丰富化功能简化非结构化数据管理,并为以下下游分析和 AI 工作流准备对象:

  • 整理和编目未整理的对象:自动对 PDF 文档(例如发票、银行对账单和税务 表格)和图片集合进行分类。您可以使用这些分类在存储桶中构建可搜索的 Data Catalog,而无需编写自定义代码。
  • 为 AI 智能体建立依据并改进搜索:将杂乱无章的文档存储库转变为结构化知识库。您可以使用文档类别和图片标签在检索增强生成 (RAG) 期间改进检索,并为生成式 AI 应用提供基础。
  • 为生成式 AI 抽样和准备数据:区分 文档类型,以便在将内容路由到 大型语言模型 (LLM) 或人工审核之前执行分层抽样。
  • 精选机器学习训练数据集:按分类或视觉标签过滤和细分图片和文档,以组装特定领域的训练数据集,用于模型微调。
  • 扫描敏感或露骨内容:自动检查上传的 图片中是否存在不当内容,以支持您的内容审核和 安全政策。
  • 增强多模态提示:在提示 Gemini 等多模态模型时,传递结构化元数据(例如边界框和文档类别)作为上下文。
  • 简化数据架构:通过直接在 Cloud Storage 中生成元数据,消除自定义注入流水线和 计算基础架构。

查询和分析元数据

Cloud Storage 会将对象丰富化功能直接 作为 对象上下文附加到您的对象。根据您的规模和工作流,您可以通过以下方式访问和分析此元数据:

  • 检查单个对象:使用 Google Cloud 控制台或 Cloud Storage API 检查特定对象的丰富化。如需了解相关说明,请参阅管理对象丰富化。
  • 使用 SQL 大规模分析:使用 Storage Insights 数据集将 数百万或数十亿个对象的元数据直接导出到 BigQuery。Storage Insights 导出元数据后,您可以使用标准 SQL 查询 object_contexts_catalog_view 视图。 例如,您可以搜索标签、按类别过滤或查找置信度较高的对象。

如需开始使用 SQL 查询和示例配方,请参阅 在 BigQuery 中分析对象丰富化。

注意事项和限制

在配置对象丰富化功能之前,请查看以下操作注意事项:

处理位置

对象丰富化功能在三个地理位置处理数据:us、eu 和 asia。选择处理位置时,请注意以下事项:

  • 合规性:确保您选择的处理位置符合您的 监管和数据主权要求。
  • 性能:选择距离存储桶 存储区域最近的处理位置。
  • 费用:为避免重复收费,请为每个存储桶和模型仅配置一个处理位置 。如果您为同一存储桶和模型配置多个位置,Cloud Storage 会在每个位置处理您的对象,并按每次运行向您收费。

处理和性能

请查看以下有关内容类型、对象大小和处理时间表的限制:

  • 异步处理:Cloud Storage 会 异步处理对象。

  • 对象大小限制:对象(图片和 PDF)的大小必须为 20 MiB 或 更小。

  • 支持的内容类型:Cloud Storage 使用对象上设置的 Content-Type元数据字段来确定是否对其进行评估。如果对象的 Content-Type 无效或缺失,即使底层数据是有效的图片或 PDF,Cloud Storage 也不会处理该对象。为确保 Cloud Storage 处理该对象,请将 Content-Type 元数据更新为以下受支持的类型之一:

    • 图片:BMP、GIF、ICO、JPEG、PNG、TIFF 和 WEBP。
    • 文档:PDF (application/pdf)。

不受支持的功能

对象丰富化功能与以下存储桶类型和操作不兼容:

  • 存储桶重定位:对象丰富化功能与 存储桶重定位不兼容。在重定位存储桶之前,请从功能配置中移除该存储桶。
  • 不受支持的存储桶类型:您无法在 Rapid 存储桶或启用了分层命名空间的存储桶上启用对象丰富化功能。

配置和范围管理

在功能配置中定义和维护目标存储桶时,需要满足以下要求:

  • 存储桶范围:在功能 配置中指定确切的存储桶名称。Cloud Storage 不支持正则表达式或通配符模式。
  • 存储桶生命周期:Cloud Storage 不会自动将新创建、重新创建或重定位的存储桶添加到现有配置。您必须更新功能配置以包含这些存储桶。

费用和安全性

请查看以下有关加密密钥和数据访问费用的操作详情:

  • 客户提供的密钥 (CSEK):对象丰富化功能不 支持使用客户提供的加密密钥加密的对象。
  • 存储访问和 Autoclass:如需生成元数据, 对象丰富化功能会读取您的对象数据。这些读取操作会产生标准数据访问费用。此外,如果您的存储桶启用了 Autoclass,这些读取操作会触发存储类别转换。

价格

使用对象丰富化功能会产生模型推理、元数据存储、数据访问操作和网络费用。如需了解更多 信息,请参阅价格。

监控和问题排查

如需跟踪元数据生成进度并在配置对象丰富化功能时解决问题,请使用以下资源:

后续步骤