制限事項
Lightning Engine: 画像モード
3.0は Lightning Engine をサポートしていません。Hive 4.2 を使用したメタストア: イメージ バージョン
3.0は、Hive 4.2 を使用した BigQuery Metastore、BigLake Metastore、Dataproc Metastore をサポートしていません(これらのメタストアを使用した直接的な Hive クエリはサポートされていません)。Hive を使用した Delta Lake: Managed Service for Apache Spark イメージ バージョン
3.0に含まれている Delta Lake4.xは Hive をサポートしていません(Delta Lake 4.2 テーブルに対するクエリは Hive で実行できません)。Hive を使用した Iceberg: Managed Service for Apache Spark イメージ バージョン
3.0には Hive 4.2 が含まれており、Iceberg REST カタログを介して Iceberg をサポートしています。GPU クラスタ:
3.0を除くすべての3.0-ml-ubuntuイメージ バージョンでcgroups V2が有効になります。cgroups V2が有効になっている場合、YARN は GPU の検出をサポートしていないため、GPU を使用してクラスタを作成する場合は3.0-ml-ubuntuイメージを使用する必要があります。Hudi: 画像モード
3.0は Apache Hudi をサポートしていません。
注:
バージョン
3.0は、コア コンポーネントのみを含む軽量イメージであり、共通脆弱性識別子(CVE)への露出を減らします。セキュリティ コンプライアンスの要件が高い場合は、Managed Service for Apache Spark クラスタの作成時にイメージ バージョン2.3以降を使用します。3.0イメージで Managed Service for Apache Spark クラスタを作成するときに オプション コンポーネントのインストールを選択すると、クラスタの作成中に ダウンロードされてインストールされます。これにより、クラスタの起動時間が長くなる可能性があります。この遅延を回避するには、オプション コンポーネントがプリインストールされたカスタム イメージを作成します。これは、--optional-componentsフラグを指定してgenerate_custom_image.pyを実行することで実現できます。3.0 イメージでは、次のオプション コンポーネントがサポートされています。
- Apache Flink
- Apache Hive WebHCat
- Apache Iceberg
- Apache Pig
- Apache Ranger
- Apache Solr
- Apache Zeppelin ノートブック
- Apache Zookeeper
- Delta Lake
- Docker
- JupyterLab ノートブック
- Trino
3.0 イメージでは、
yarn.nodemanager.recovery.enabledと HDFS 監査ロギングがデフォルトで有効になっています。Pixi は Python のインストールの一部としてインストールされ、Conda の代わりに Python パッケージのインストールに使用されます。
YARN のデフォルトのリソース計算ツール方式が DefaultResourceCalculator から DominantResourceCalculatorに変更されました。 DominantResourceCalculator は、メモリや CPU などの支配的リソースの概念を使用して、リソース割り当てを決定します。この変更は、クラスタの支配的リソース使用量に基づいてスケーリングする Autoscaler に影響します。
イメージ バージョン
3.0以降では、クラスタノードのマシンタイプを指定せずにクラスタを作成すると、Managed Service for Apache Spark は、リソースの可用性を最適化したリストを使用して、N4、N2、E2 シリーズのマシンタイプなどのフレキシブル VM マシンタイプのランク付けされたリストでノードを指定します。