Questa pagina fornisce informazioni di base su come le GPU funzionano con Dataflow, incluse informazioni sui prerequisiti e sui tipi di GPU supportati.
L'utilizzo delle GPU nei job Dataflow ti consente di accelerare alcune attività di elaborazione dei dati. Le GPU possono eseguire determinati calcoli più velocemente delle CPU. Questi calcoli sono in genere numerici o di algebra lineare, spesso utilizzati nei casi d'uso di elaborazione delle immagini e machine learning. L'entità del miglioramento delle prestazioni varia in base al caso d'uso, al tipo di calcolo e alla quantità di dati elaborati.
Prerequisiti per l'utilizzo delle GPU in Dataflow
- Per utilizzare le GPU con il job Dataflow, devi utilizzare Runner v2.
- Dataflow esegue il codice utente nelle VM worker all'interno di un container Docker.
Queste VM worker eseguono Container-Optimized OS.
Affinché i job Dataflow utilizzino le GPU, sono necessari i seguenti prerequisiti:
- I driver GPU sono installati sulle VM worker e sono accessibili al container Docker container. Per saperne di più, consulta Installare i driver GPU.
- Le librerie GPU richieste dalla pipeline, come le librerie NVIDIA CUDA-X o il NVIDIA CUDA Toolkit, sono installate nell'immagine container personalizzata. Per saperne di più, consulta Configurare l'immagine container.
- Poiché i container GPU sono in genere di grandi dimensioni, per evitare di esaurire lo spazio su disco, aumenta le dimensioni predefinite del disco di avvio a 50 gigabyte o più.
Prezzi
I job che utilizzano le GPU comportano addebiti come specificato nella pagina dei prezzi di Dataflow .
Disponibilità
I seguenti tipi di GPU sono supportati con Dataflow:
| Tipo di GPU | Stringa worker_accelerator |
|---|---|
| NVIDIA® L4 | nvidia-l4 |
| NVIDIA® A100 da 40 GB | nvidia-tesla-a100 |
| NVIDIA® A100 da 80 GB | nvidia-a100-80gb |
| NVIDIA® Tesla® T4 | nvidia-tesla-t4 |
| NVIDIA® Tesla® P4 | nvidia-tesla-p4 |
| NVIDIA® Tesla® V100 | nvidia-tesla-v100 |
| NVIDIA® Tesla® P100 | nvidia-tesla-p100 |
| NVIDIA® H100 | nvidia-h100-80gb |
| NVIDIA® H100 Mega | nvidia-h100-mega-80gb |
| NVIDIA® RTX Pro 6000 | nvidia-rtx-pro-6000 |
Per saperne di più su ogni tipo di GPU, inclusi i dati sul rendimento, consulta Piattaforme GPU di Compute Engine.
Per informazioni sulle regioni e sulle zone disponibili per le GPU, consulta Disponibilità delle GPU per regioni e zone nella documentazione di Compute Engine.
Workload consigliati
La seguente tabella fornisce suggerimenti sul tipo di GPU da utilizzare per diversi workload. Gli esempi nella tabella sono solo suggerimenti e devi eseguire test nel tuo ambiente per determinare il tipo di GPU appropriato per il tuo workload.
Per informazioni più dettagliate sulle dimensioni della memoria GPU, sulla disponibilità delle funzionalità e sui tipi di workload ideali per i diversi modelli di GPU, consulta il grafico di confronto generale nella pagina delle piattaforme GPU.
| Workload | A100, H100 | RTX Pro 6000 | L4 | T4 |
|---|---|---|---|---|
| Ottimizzazione del modello | Consigliato | |||
| Inferenza di modelli di grandi dimensioni | Consigliato | Consigliato | Consigliato | |
| Inferenza di modelli di medie dimensioni | Consigliato | Consigliato | Consigliato | |
| Inferenza di modelli di piccole dimensioni | Consigliato | Consigliato | Consigliato |
Passaggi successivi
- Consulta un esempio di flusso di lavoro per sviluppatori per la creazione di pipeline che utilizzano le GPU.
- Scopri come eseguire una pipeline Apache Beam su Dataflow con le GPU.
- Segui la procedura descritta in Elaborare immagini satellitari Landsat con le GPU.