Managed Airflow (第 3 代) | Managed Airflow (第 2 代) | Managed Airflow (舊版第 1 代)
透過 Managed Airflow 的代理能力,您可以深入瞭解環境健康狀態和指標、診斷及解決失敗的工作流程、使用 Model Context Protocol (MCP) 將外部開發人員代理程式連結至環境,以及套用自動遙測建議和遷移作業。
Managed Airflow 代理程式
Managed Airflow 代理程式可協助您:
- 找出現有或潛在問題/瓶頸,並盡可能提高環境效能。
- 瞭解、診斷及解決 Airflow 任務和 DAG 執行失敗的問題。分析工作執行情況。
- 深入瞭解環境的指標和監控資訊。
如要調查失敗的 DAG 執行和工作執行個體,請在 Google Cloud 控制台中與 Managed Airflow 代理展開對話。如要直接調查根本原因,請按一下失敗的 DAG 執行和工作執行個體的「調查」按鈕。
Managed Airflow 代理程式會提供結構化診斷報告,包括:
- 問題陳述
- 附有記錄摘錄和時間戳記的證據
- 可做為行動依據的修復建議
遠端 Model Context Protocol (MCP) 伺服器
Model Context Protocol (MCP) 伺服器提供開放標準的 JSON-RPC 介面,可讓外部開發人員代理程式 (例如 Gemini Code Assist、Gemini CLI、ChatGPT、Claude、Cursor、Goose 或自訂工具) 與 Managed Airflow 環境互動。
遠端 MCP 伺服器提供下列功能和工具:
- 環境生命週期作業:建立及刪除環境、列出環境、取得環境詳細資料,以及安裝 PyPI 套件。
- DAG 作業:列出 DAG、觸發 DAG 執行作業,以及檢查 DAG 和工作執行狀態。
- 診斷擷取:擷取工作記錄並檢查執行錯誤。
您可能想透過機構政策,只允許特定環境中的唯讀工具。唯讀 MCP 工具的 MCP 屬性會設為 true。mcp.tool.isReadOnly
根據遙測資料調整環境
如要根據遙測資料最佳化環境,請使用 Data Agent Kit 建議技能 (gcp-managed-airflow-recommendations)。
建議技能會自動分析下列指標的遙測資料:
- 工作負載 CPU 和記憶體使用率。
- 工作站和排程器重新啟動頻率。
- DAG 剖析延遲時間。
- Cloud Storage bucket 清理。
根據遙測分析結果,這項技能會提供指導,協助您調整 Airflow 設定選項、最佳化工作站和排程器自動調度資源功能,以及解決資源瓶頸。
DAG 遷移作業協助
如要自動遷移及升級工作流程,請使用
Data Agent Kit 遷移技能
(gcp-managed-airflow-migrations)。
遷移作業技能會執行四階段的升級工作流程:
- 靜態依附元件分析和相容性檢查:使用 Ruff linting 規則等 Airflow 工具分析程式碼。
- 自動修復配方:針對淘汰項目和供應商更新 (例如 Google 供應商套件更新) 產生修正。
- DAG 程式碼重構:自動重構 DAG 程式碼。
- 驗證:確認遷移的工作流程是否正確。
限制
Managed Airflow 的代理能力有下列限制。
資料落地與對話處理:
- 管理中心內的 Managed Airflow Agent 採用 Conversational Analytics API,並遵循專屬的資料落地政策。
- 系統處理即時通訊對話和提示時,可能使用的地理區域或多區域,與 Managed Airflow 環境和資料所在位置不同。
IAM 角色和驗證:
使用遠端 MCP 伺服器需要明確的 IAM 角色:
roles/serviceusage.serviceUsageAdmin啟用服務,以及roles/mcp.toolUser執行工具呼叫。建議您為外部代理程式 (例如 Gemini Code Assist、Gemini CLI、ChatGPT、Claude、Cursor、Goose) 使用專屬服務身分,以便稽核及限制動作。
存取權會根據 OAuth 憑證的範圍而定,可區分完整存取權 (
https://www.googleapis.com/auth/composer) 和唯讀存取權 (https://www.googleapis.com/auth/composer.readonly)。
MCP 作業範圍和安全防護機制:
- 變更和破壞性作業須遵守組織政策限制和 IAM 拒絕政策。
遙測建議和遷移技能:
- 最佳化建議技能 (
gcp-managed-airflow-recommendations) 會分析遙測資料 (CPU 和記憶體使用率、worker 和排程器重新啟動、DAG 剖析延遲時間,以及 Cloud Storage bucket 的整潔程度),並提供調整建議,但不會自動套用基礎架構變更。 - 遷移技能 (
gcp-managed-airflow-migrations) 會自動分析依附元件,並重構 Airflow 2.11.1 和 Airflow 3 的程式碼,但重大變更需要手動驗證和測試驗證。
預覽條款和 SLA:
- 預先發布版功能或使用預先發布版模型參數的功能,均受《正式發布前產品條款》規範,且不適用正式發布版服務水準協議 (SLA)。
後續步驟
- 使用 Managed Airflow Agent 排解 Airflow 工作和 DAG 執行作業的問題
- 使用代管的 Airflow 遠端 MCP 伺服器。
- 探索 Data Agent Kit GitHub 存放區。