Mecanismo do Spark 3.5
| Componente | 3.5-dataproc-22 | 3.5-dataproc-17 |
|---|---|---|
| Apache Spark | 3.5.0 | 3.5.0 |
| Bibliotecas do Hadoop | 3.3.6 | 3.3.6 |
| Conector do Cloud Storage | 3.0.0 | 3.0.0 |
| Java | 11 | 11 |
| Python | 3.8.5 | 3.8.5 |
| Conda | 4.9.2 | 4.9.2 |
| R | 4.3.0 | 4.3.0 |
Mecanismo Spark 3.1(descontinuado)
| Componente | 3.1-dataproc-17 | 3.1-dataproc-16 | 3.1-dataproc-15 | 3.1-dataproc-14 |
|---|---|---|---|---|
| Apache Spark | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.3 |
| Bibliotecas do Hadoop | 3.2.3 | 3.2.3 | 3.2.3 | 3.2.3 |
| Conector do Cloud Storage | hadoop3-2.2.13 | hadoop3-2.2.13 | hadoop3-2.2.11 | hadoop3-2.2.11 |
| Java | 8 | 8 | 8 | 8 |
| Python | 3.8.5 | 3.8.5 | 3.8.5 | 3.8.5 |
| Conda | 4.9.2 | 23.5.0 | 4.9.2 | 4.9.2 |
| R | 4.3.0 | 4.3.0 | 4.2.3 | 4.2.3 |
Spark Engine 2.4(descontinuado)
O Spark 2.4 chegou EOL para suporte no DPGKE. A imagem pública vai continuar disponível sem suporte adicional.
| Componente | 2.4-dataproc-17 | 2.4-dataproc-16 | 2.4-dataproc-15 | 2.4-dataproc-14 |
|---|---|---|---|---|
| Apache Spark | 2.4.8 | 2.4.8 | 2.4.8 | 2.4.8 |
| Bibliotecas do Hadoop | 2.10.2 | 2.10.2 | 2.10.2 | 2.10.2 |
| Conector do Cloud Storage | hadoop2-2.1.9 | hadoop2-2.1.9 | hadoop2-2.1.9 | hadoop2-2.1.9 |
| Java | 8 | 8 | 8 | 8 |
| Python | 3.7.4 | 3.7.4 | 3.7.4 | 3.7.4 |
| Conda | 4.7.12 | 22.11.1 | 22.11.1 | 22.1.0 |
| R | 3.6.3 | 3.6.3 | 3.6.3 | 3.6.3 |
Formatos de versão do Spark no Dataproc no GKE
Uma versão de lançamento totalmente qualificada do mecanismo do Spark é expressa como: 3.1-dataproc-[NUMBER] ou
3.5-dataproc-[NUMBER], por exemplo, 3.1-dataproc-17 ou 3.5-dataproc-17.
Os formatos de versão do Spark também podem ser expressos na forma de alias, como mostrado nos exemplos a seguir:
3: a versão mais recente do mecanismo Spark com uma versão principal do Spark 3.3.5: a versão mais recente do mecanismo Spark com uma versão principal.secundária do Spark 3.5.dataproc-2.2: a versão mais recente do mecanismo do Spark compatível com imagens do Dataproc no Compute Engine2.2.latest: a versão mais recente do mecanismo Spark.