Managed Service untuk Apache Spark Google menggunakan versi image Ubuntu, Debian, dan Rocky Linux untuk menggabungkan sistem operasi, komponen big data, dan Google Cloud konektor menjadi satu paket yang di-deploy di cluster. Untuk mengetahui informasi selengkapnya, lihat Versi Managed Service untuk Apache Spark.
Catatan:
- Versi image Managed Service untuk Apache Spark didukung selama 24 bulan setelah rilis awal.
- Umumnya, versi image Managed Service untuk Apache Spark tersedia selama 24 bulan setelah tanggal akhir dukungan, tetapi periode ketersediaan dapat dipersingkat jika tanggal dukungan image diperpanjang.
Versi image Managed Service untuk Apache Spark default
Managed Service untuk Apache Spark mengupdate versi image default ke Managed Service untuk Apache Spark berbasis Debian yang tersedia secara umum setelah tanggal rilis Ketersediaan umum (GA).
Versi image Managed Service untuk Apache Spark yang didukung
Image Debian
Versi image berbasis Debian berikut didukung di cluster Managed Service untuk Apache Spark. Perhatikan bahwa cluster baru akan dibuat untuk menyertakan patch sub-minor yang telah dibuat ke versi sejak dirilis.
| Versi | Terakhir diperbarui | Dirilis pada | Didukung hingga | Tersedia hingga | Catatan |
|---|---|---|---|---|---|
| 3.0-debian12 | 2025/09/08 | 2025/09/08 | Ditentukan Nanti | Ditentukan Nanti | Rilis pratinjau. |
| 2.3-debian12 | 2026/04/02 | 2025/06/09 | 2027/06/09 | 2029/06/09 | Rilis ketersediaan umum. |
| 2.2-debian12 | 2026/03/24 | 2023/12/08 | 2027/03/31 | 2027/12/31 | Rilis ketersediaan umum. Versi image 2.2 akan menjadi versi image default pada 13 September 2024. |
| 2.1-debian11 | 2026/03/24 | 2022/12/12 | 2026/03/31 | 2026/12/31 | Rilis ketersediaan umum. |
| 2.0-debian10 | 2026/02/24 | 2021/01/22 | 2025/09/30 | 2026/07/31 | Rilis ketersediaan umum. |
Image Ubuntu
Versi image berbasis Ubuntu LTS berikut didukung di cluster Managed Service untuk Apache Spark. Perhatikan bahwa cluster baru akan dibuat untuk menyertakan patch sub-minor yang telah dibuat ke versi sejak dirilis.
| Versi | Terakhir diperbarui | Dirilis pada | Didukung hingga | Tersedia hingga | Catatan |
|---|---|---|---|---|---|
| 3.0-ubuntu24 | 2025/09/08 | 2025/09/08 | Ditentukan Nanti | Ditentukan Nanti | Rilis pratinjau. |
| 2.3-ubuntu22 | 2026/04/02 | 2025/06/09 | 2027/06/09 | 2029/06/09 | Rilis ketersediaan umum. |
| 2.2-ubuntu22 | 2026/03/24 | 2023/12/08 | 2027/03/31 | 2027/12/31 | Rilis ketersediaan umum. |
| 2.1-ubuntu20 | 2026/03/24 | 2022/12/12 | 2026/03/31 | 2026/12/31 | Rilis ketersediaan umum. |
| 2.0-ubuntu18 | 2026/02/24 | 2021/01/22 | 2025/09/30 | 2026/07/31 | Rilis ketersediaan umum. |
Image Rocky Linux
Versi image berbasis Rocky Linux berikut didukung di cluster Managed Service untuk Apache Spark. Perhatikan bahwa cluster baru akan dibuat untuk menyertakan patch sub-minor yang telah dibuat ke versi sejak dirilis.
| Versi | Terakhir diperbarui | Dirilis pada | Didukung hingga | Tersedia hingga | Catatan |
|---|---|---|---|---|---|
| 3.0-rocky9 | 2025/09/08 | 2025/09/08 | Ditentukan Nanti | Ditentukan Nanti | Rilis pratinjau. |
| 2.3-rocky9 | 2026/04/02 | 2025/06/09 | 2027/06/09 | 2029/06/09 | Rilis ketersediaan umum. |
| 2.2-rocky9 | 2026/03/24 | 2023/12/08 | 2027/03/31 | 2027/12/31 | Rilis ketersediaan umum. |
| 2.1-rocky8 | 2026/03/24 | 2022/12/12 | 2026/03/31 | 2026/12/31 | Rilis ketersediaan umum. |
| 2.0-rocky8 | 2026/02/24 | 2022/02/18 | 2025/09/30 | 2026/07/31 | Rilis ketersediaan umum. |
Versi image Managed Service untuk Apache Spark yang tidak didukung
Versi Managed Service untuk Apache Spark berikut tidak didukung. Managed Service untuk Apache Spark tidak menyediakan update dan dukungan untuk cluster yang dibuat dengan versi ini. Meskipun Anda dapat terus menjalankan cluster yang dibuat dengan versi yang tidak didukung, sebaiknya ganti cluster dengan cluster baru yang dibuat dengan versi yang didukung.
| Versi | Mencakup | Dirilis Pada | Terakhir Diperbarui | Catatan |
|---|---|---|---|---|
1.5-debian10/-ubuntu18/-rocky8 |
Apache Spark 2.4.8 Apache Hadoop 2.10.2 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 2.1.9-hadoop2 Python 3.7 Scala 2.12.10 Zookeeper 3.4.14 |
2020/03/25:debian10/ubuntu18 2022/02/18:rocky8 |
2023/04/28 | Tidak didukung mulai 2023/04/28. 1.5.89-debian10/-ubuntu18/-rocky8 adalah versi rilis terakhir. |
2.0-centos8 |
Apache Spark 3.1.2 Apache Hadoop 3.2.2 Apache Pig 0.18.0-SNAPSHOT Apache Hive 3.1.2 Konektor Cloud Storage 2.2.4-hadoop3 Python 3.8 Scala 2.12.14 Zookeeper 3.4.14 |
2021/03/16 | 2022/02/01 | Tidak didukung mulai 2022/02/01. 2.0.30-centos8 adalah versi rilis terakhir. |
1.5-centos8 |
Apache Spark 2.4.8 Apache Hadoop 2.10.1 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 2.1.5-hadoop2 Python 3.7 Scala 2.12.10 Zookeeper 3.4.14 |
2020/12/14 | 2022/02/01 | Tidak didukung mulai 2022/02/01. 1.5.56-centos8 adalah versi rilis terakhir. |
1.4-debian10/-ubuntu18 |
Apache Spark 2.4.8 Apache Hadoop 2.9.2 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 1.9.18-hadoop2 Python 3.6 Scala 2.11.12 Zookeeper 3.4.14 |
2019/03/22 | 2022/02/01 | Tidak didukung mulai 2022/02/01. 1.4.80-debian10/-ubuntu18 adalah versi rilis terakhir. |
1.3-debian10/-ubuntu18 |
Apache Spark 2.3.4 Apache Hadoop 2.9.2 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 1.9.18-hadoop2 Python 2.7 Scala 2.11.8 Zookeeper 3.4.13 |
2018/06/29 | 2021/12/22 | Tidak didukung mulai 2021/08/01. 1.3.95-debian10/-ubuntu18 adalah versi rilis terakhir, yang telah mengatasi kerentanan log4j2. Catatan: versi yang dirilis sebelumnya rentan dan harus diupgrade. |
1.4-debian9 |
Apache Spark 2.4.5 Apache Hadoop 2.9.2 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 1.9.17-hadoop2 Python 3.6 Scala 2.11.12 Zookeeper 3.4.13 |
2019/03/22 | 2020/07/10 | Tidak didukung mulai 2020/07/10. 1.4.33-debian9 adalah versi rilis terakhir. |
1.3-debian9 |
Apache Spark 2.3.4 Apache Hadoop 2.9.2 Apache Pig 0.17.0 Apache Hive 2.3.7 Konektor Cloud Storage 1.9.17-hadoop2 Python 2.7 Scala 2.11.8 Zookeeper 3.4.13 |
2018/06/29 | 2020/07/10 | Tidak didukung mulai 2020/07/10. 1.3.62-debian9 adalah versi rilis terakhir. |
1.2-debian9 |
Apache Spark 2.2.3 Apache Hadoop 2.8.5 Apache Pig 0.16.0 Apache Hive 2.1.1 Konektor Cloud Storage 1.6.10-hadoop2 Konektor BigQuery 0.10.11-hadoop2 Python 2.7 Scala 2.11.8 Zookeeper 3.4.13 |
2017/07/21 | 2020/07/10 | Tidak didukung mulai 2020/07/10. 1.2.102-debian9 adalah versi rilis terakhir. |
1.1-debian9 |
Apache Spark 2.0.2 Apache Hadoop 2.7.7 Apache Pig 0.16.0 Apache Hive 2.1.1 Konektor Cloud Storage 1.6.10-hadoop2 Konektor BigQuery 0.10.11-hadoop2 |
2016/08/08 | 2019/09/26 | Tidak didukung mulai 2019/10/01. 1.1.121-debian9 adalah versi rilis terakhir. |
1.0-debian9 |
Apache Spark 1.6.2 Apache Hadoop 2.7.4 Apache Pig 0.15.0 Apache Hive 1.2.1 Konektor Cloud Storage 1.6.10-hadoop2 Konektor BigQuery 0.10.11-hadoop2 |
2016/02/22 | 2019/05/09 | Rilis pertama image GA. Tidak didukung mulai 2019/04/01. 1.0.119-debian9 adalah versi rilis terakhir. |
0.2 |
Apache Spark 1.5.2 Apache Hadoop 2.7.1 Apache Pig 0.15.0 Apache Hive 1.2.1 Konektor Cloud Storage 1.5.1-hadoop2 Konektor BigQuery 0.7.7-hadoop2 |
2015/11/18 | 2016/08/02 | Rilis kedua image beta. |
0.1 |
Apache Spark 1.5.0 Apache Hadoop 2.7.1 Apache Pig 0.14.10 Apache Hive 1.0 Konektor Cloud Storage 1.5.1-hadoop2 Konektor BigQuery 0.7.7-hadoop2 |
2015/09/23 | 2016/08/02 | Rilis beta Managed Service untuk Apache Spark. Spark 1.5 telah dikompilasi dengan Hive 1.2. |