部署
本页将指导您完成企业数据的 Cortex Framework 部署步骤。
准备工作
在继续 部署之前,请确保您已完成 前提条件页面中列出的前提条件。
在部署 Cortex Framework 之前,必须将相关的 SAP ERP 表复制到 BigQuery 中。如需了解详情, 请参阅 SAP ERP 数据源 页面。
部署
准备好环境后,您就可以执行部署了。使用
Cortex Framework uv脚本在您的项目内构建数据资产并将其推送到您的 Google Cloud 项目,将本地配置
转换为实时、可伸缩的数据架构。
配置
在部署之前,数据基础层和数据产品层通过集中式代码即配置方法进行配置。
Cortex Framework 使用 config/config.yaml 文件来配置 Cortex Framework
部署。此文件包含
源数据与目标 Google Cloud
环境之间的基本映射。正确的配置可确保 Cortex Framework 确切知道在哪里查找原始数据,以及在哪里实现生成的数据层。
如需成功部署 Cortex Framework,您需要添加以下必填值:
YOUR_BUILD_PROJECT_ID:执行部署编排和uv脚本的项目。YOUR_SOURCE_PROJECT_ID:包含原始源数据的项目。YOUR_TARGET_PROJECT_ID:处理后的数据产品和 BigQuery 数据集将驻留的目标项目。YOUR_REPO_PROJECT_ID:托管 Dataform 代码库和部署工件的项目。
如需详细了解配置文件,请参阅 部署配置。
配置 IAM 角色
配置所需的 Identity and Access Management (IAM) 权限,以便在所需 Google Cloud 项目内部署 Cortex Framework 内容。
构建项目的角色
如需获得构建 Cortex Framework 所需的权限,请让管理员在构建项目上为您授予 BigQuery Data JobUser (roles/bigquery.jobUser) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
您也可以通过自定义 角色或其他预定义 角色来获取所需的权限。
源项目的角色
如需获得部署 Cortex Framework 所需的权限,请让管理员在源项目上为您授予BigQuery Data Viewer (roles/bigquery.dataViewer) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
您也可以通过自定义 角色或其他预定义 角色来获取所需的权限。
目标项目的角色
如需获得部署 Cortex Framework 所需的权限,请让管理员在目标项目上为您授予以下 IAM 角色:
- BigQuery Data Editor (
roles/bigquery.dataEditor) - Dataform Admin (
roles/dataform.admin) - Service Usage Admin (
roles/serviceusage.serviceUsageAdmin)
如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
您也可以通过自定义 角色或其他预定义 角色来获取所需的权限。
执行部署
运行以下命令以触发 Cortex Framework 部署。此过程将执行以下操作:
- 验证是否已满足所有前提条件。
- 连接到原始数据集,并根据架构信息构建和编译
.sqlx脚本。 - 创建 Dataform 代码库和工作区,然后将编译后的工件与代码库同步。
uv run cortex-build-and-deploy --config "config/config.yaml"
命令行选项
uv run 命令行界面 (CLI) 支持以下操作:
uv run cortex-build:执行 Dataform 工作区的编译,将 YAML 配置和 SQLX/JS 模板转换为可部署的 Dataform 资产。如需了解详情,请参阅 CLI Cortex 构建。uv run cortex-deploy:将编译后的资产推送到目标 Dataform 工作区。如需了解详情, 请参阅 CLI Cortex 部署。uv run cortex-build-and-deploy:将构建资产的编译和推送合并到 Dataform 工作区中。如需了解详情,请参阅 CLI Cortex 构建和部署。
执行数据基础层和数据产品流水线
部署完成后,最后一步是执行 Dataform 代码库中的所有操作。通过在 Dataform 工作区中执行流水线,您可以启动将原始数据逻辑转换为结构化、可用于 AI 的数据产品,以便立即用于业务。请按照以下步骤操作:
- 前往 Dataform。
- 确保您位于正确的项目中。
- 点击已创建的代码库名称。
- 点击工作区名称。
- 点击开始执行 。
- 点击执行操作 。
- 选择所有操作 - 您也可以选择感兴趣的步骤。
- 点击开始执行 。
验证部署是否成功:
- 点击执行 。
- 验证状态是否已成功完成。
- 点击执行链接以了解更多详情。
现在,您可以查看在配置文件中配置的数据集中部署的 BigQuery 数据资产。例如,CORTEX_SAP_DATAFOUNDATION 和 CORTEX_SAP_DATAPRODUCTS。