限制
使用 Hive 4.2 的 Metastore:映像檔版本
3.0不支援 BigQuery Metastore、BigLake Metastore 或使用 Hive 4.2 的 Dataproc Metastore (不支援使用這些 Metastore 直接查詢 Hive)。Delta Lake 搭配 Hive:Delta Lake
4.x包含在 Managed Service for Apache Spark 映像檔3.0版中,不支援 Hive (無法在 Hive 執行 Delta Lake 4.2 資料表查詢)。Iceberg 與 Hive:Managed Service for Apache Spark 映像檔版本
3.0包含 Hive 4.2,可透過 Iceberg REST 目錄支援 Iceberg。GPU 叢集:除了
3.0-ml-ubuntu以外,所有3.0映像檔版本都會啟用cgroups V2。由於啟用cgroups V2時,YARN 不支援 GPU 探索功能,因此建立含 GPU 的叢集時,必須使用3.0-ml-ubuntu映像檔。
注意:
版本
3.0是輕量型映像檔,只包含核心元件,可減少常見安全漏洞與弱點 (CVE) 的風險。如需更高的安全法規遵循要求,請在建立 Managed Service for Apache Spark 叢集時使用2.3以上版本的映像檔。使用
3.0映像檔建立 Managed Service for Apache Spark 叢集時,若選擇安裝選用元件,系統會在叢集建立期間下載並安裝這些元件,此舉可能會延長叢集啟動時間。為避免此延遲,可建立一個預先安裝選用元件的自訂映像檔,方法是執行generate_custom_image.py並加上--optional-components旗標。3.0 映像檔支援下列選用元件:
- Apache Flink
- Apache Hive WebHCat
- Apache Iceberg
- Apache Pig
- Apache Ranger
- Apache Solr
- Apache Zeppelin 筆記本
- Apache Zookeeper
- Delta Lake
- Docker
- JupyterLab Notebook
- Trino
3.0 版映像檔預設會啟用
yarn.nodemanager.recovery.enabled和 HDFS 稽核記錄功能。Pixi 會隨 Python 安裝程序一併安裝,並用於安裝 Python 套件,而非 Conda。
YARN 的預設資源計算機已從 DefaultResourceCalculator 變更為 DominantResourceCalculator,後者採用「主導資源」概念來決定資源 (例如記憶體和 CPU) 的分配。這項變更會影響自動配置器,因其調度資源的方式,正是取決於叢集的主導資源使用情況。
從映像檔版本
3.0開始,如果您建立叢集時未指定叢集節點的機型,Managed Service for Apache Spark 會根據彈性 VM 機型的排名清單 (例如 N4、N2 和 E2 系列機型的排名清單,並根據資源可用性進行最佳化) 指定節點。