Managed Airflow(第 3 代) | Managed Airflow(第 2 代) | Managed Airflow(旧版第 1 代)
借助 Managed Airflow 中的智能体功能,您可以深入了解环境健康状况和指标,诊断并解决失败的工作流,使用 Model Context Protocol (MCP) 将外部开发者智能体连接到环境,以及应用自动遥测建议和迁移。
Managed Airflow 代理
Managed Airflow 代理可以帮助您:
- 发现现有或潜在的问题或瓶颈,并优化环境的性能。
- 了解、诊断并解决 Airflow 任务和 DAG 运行失败的问题。分析任务执行情况。
- 深入了解环境的指标和监控信息。
如需调查失败的 DAG 运行和任务实例,请在 Google Cloud 控制台中与 Managed Airflow 代理开始对话。您可以点击失败的 DAG 运行和任务实例对应的调查按钮,直接开始根本原因调查。
Managed Airflow 代理会提供结构化诊断报告,其中包括:
- 问题陈述
- 包含日志摘录和时间戳的证据
- 切实可行的补救建议
远程 Model Context Protocol (MCP) 服务器
Model Context Protocol (MCP) 服务器提供了一个开放标准的 JSON-RPC 接口,可让外部开发者代理(例如 Gemini Code Assist、Gemini CLI、ChatGPT、Claude、Cursor、Goose 或自定义工具)与 Managed Airflow 环境进行交互。
远程 MCP 服务器提供以下功能和工具:
- 环境生命周期操作:创建和删除环境、列出环境、获取环境详细信息以及安装 PyPI 软件包。
- DAG 操作:列出 DAG、触发 DAG 运行,以及检查 DAG 和任务执行状态。
- 诊断信息检索:提取任务日志并检查执行错误。
您可能希望通过组织政策仅允许在某些环境中使用只读型工具。只读的 MCP 工具的 MCP 属性 mcp.tool.isReadOnly 设置为 true。
基于遥测数据的环境优化
如需根据遥测数据优化环境,请使用 Data Agent Kit 建议技能 (gcp-managed-airflow-recommendations)。
“建议”技能可自动分析以下指标的遥测数据:
- 工作负载 CPU 和内存利用率。
- 工作器和调度器的重启频率。
- DAG 解析延迟时间。
- Cloud Storage 存储桶清理。
根据遥测分析,该技能可提供规范性指导,帮助您调整 Airflow 配置选项、优化工作器和调度器自动扩缩,以及解决资源瓶颈问题。
DAG 迁移协助
如需自动执行工作流迁移和升级,请使用 Data Agent Kit 迁移技能 (gcp-managed-airflow-migrations)。
迁移技能会执行一个四阶段升级工作流程:
- 静态依赖项分析和兼容性检查:使用 Ruff linting 规则等工具分析 Airflow 代码。
- 自动化补救方案:针对弃用和提供方更新(例如 Google 提供方软件包更新)生成修复。
- DAG 代码重构:自动重构 DAG 代码。
- 验证和确认:验证迁移的工作流是否正确。
限制
Managed Airflow 中的智能体功能具有以下限制。
数据驻留和对话处理:
- 控制台中的 Managed Airflow Agent 由 Conversational Analytics API 提供支持,该 API 遵循自己的数据驻留政策。
- Chat 对话和提示可以在不同于您的 Managed Airflow 环境和数据所在地理区域或多区域的区域中处理。
IAM 角色和身份验证:
使用远程 MCP 服务器需要明确的 IAM 角色:
roles/serviceusage.serviceUsageAdmin用于启用服务,roles/mcp.toolUser用于执行工具调用。我们建议为外部代理(例如 Gemini Code Assist、Gemini CLI、ChatGPT、Claude、Cursor、Goose)使用专用服务身份,以便审核和限制操作。
访问权限由 OAuth 凭据限定范围,可区分完全访问权限 (
https://www.googleapis.com/auth/composer) 和只读访问权限 (https://www.googleapis.com/auth/composer.readonly)。
MCP 运营范围和安全防护措施:
- 变异和破坏性操作受组织政策限制条件和 IAM 拒绝政策的约束。
遥测建议和迁移技能:
- 建议技能 (
gcp-managed-airflow-recommendations) 会分析遥测数据(CPU 和内存利用率、工作器和调度器重启次数、DAG 解析延迟时间和 Cloud Storage 存储桶清理情况),并提供调整建议,但不会自动应用基础架构更改。 - 迁移技能 (
gcp-managed-airflow-migrations) 可自动执行 Airflow 2.11.1 和 Airflow 3 的依赖项分析和代码重构,但重大更改需要手动验证和测试验证。
预览条款和 SLA:
- 处于预览版阶段或使用预览版模型参数的功能受正式发布前产品条款的约束,并且不附带正式版服务等级协议 (SLA)。
后续步骤
- 使用 Managed Airflow Agent 排查 Airflow 任务和 DAG 运行问题
- 使用 Managed Airflow 远程 MCP 服务器。
- 探索 Data Agent Kit GitHub 代码库。