Questo documento descrive come impostare automaticamente i valori predefiniti di Cloud Storage FUSE utilizzati per i tipi di macchine Compute Engine ad alte prestazioni, progettati per ottimizzare le prestazioni per carichi di lavoro impegnativi e ad alto throughput. I valori impostati manualmente al momento del montaggio sostituiranno questi valori predefiniti.
Tipi di macchine
I valori di configurazione vengono automatizzati per i seguenti tipi di macchine Compute Engine ad alte prestazioni:
Tipo di serie | Tipo di macchina |
---|---|
Serie di macchine A2 | |
a2-megagpu-16g |
|
a2-ultragpu-8g |
|
Serie di macchine A3 | |
a3-edgegpu-8g |
|
a3-highgpu-8g |
|
a3-megagpu-8g |
|
a3-ultragpu-8g |
|
Serie di macchine A4 | |
4-highgpu-8g-lowmem |
|
TPU v5e | |
ct5l-hightpu-8t |
|
ct5lp-hightpu-8t |
|
TPU v5p | |
ct5p-hightpu-4t |
|
ct5p-hightpu-4t-tpu |
|
TPU v6e (Trillium) | |
ct6e-standard-4t |
|
ct6e-standard-4t-tpu |
|
ct6e-standard-8t |
|
ct6e-standard-8t-tpu |
Valori di configurazione automatizzati
Quando viene rilevato un tipo di macchina supportato, Cloud Storage FUSE applica automaticamente i seguenti valori di configurazione:
Campo del file di configurazione di Cloud Storage FUSE | Opzione CLI di Cloud Storage FUSE | Valore di configurazione automatizzato |
---|---|---|
metadata-cache.negative-ttl-secs |
--metadata-cache-negative-ttl-secs |
0 |
metadata-cache.ttl-secs 1 |
--metadata-cache-ttl-secs 1 |
|
metadata-cache.stat-cache-max-size-mb |
--stat-cache-max-size-mb |
1024 |
metadata-cache.type-cache-max-size-mb |
--type-cache-max-size-mb |
128 |
implicit-dirs |
--implicit-dirs |
true |
file-system.rename-dir-limit |
--rename-dir-limit |
200000 |
1Se imposti questa configurazione su -1
, le prestazioni migliorano notevolmente
perché i file vengono sempre pubblicati dalla cache. Tieni presente che questa
configurazione ignora i controlli di coerenza, il che può comportare la pubblicazione
di dati obsoleti. Per informazioni dettagliate sulla gestione della coerenza dei dati, consulta
Panoramica della memorizzazione nella cache in Cloud Storage FUSE.
Ulteriore ottimizzazione delle prestazioni
Quando utilizzi un tipo di macchina Google Cloud ad alte prestazioni, i valori di configurazione descritti in questa pagina vengono applicati automaticamente. Tuttavia, puoi ottimizzare ulteriormente la tua macchina per un rendimento ottimale utilizzando i seguenti metodi:
Utilizza la guida alle best practice per l'ottimizzazione delle prestazioni per migliorare Cloud Storage FUSE utilizzando le funzionalità e le configurazioni chiave di Cloud Storage FUSE per ottenere il massimo throughput e prestazioni ottimali.
Se esegui carichi di lavoro di addestramento, servizio o checkpoint e cache Just in Time (JIT) su cluster Google Kubernetes Engine che utilizzano GPU Cloud o Cloud TPU per accedere a set di dati di grandi dimensioni in Cloud Storage, puoi semplificare la configurazione utilizzando file YAML preconfigurati per montare i bucket Cloud Storage direttamente nei pod in modo più efficiente. Per ulteriori informazioni e istruzioni su come utilizzare i file YAML GKE preconfigurati, consulta Utilizzare i file YAML GKE preconfigurati per ottimizzare le prestazioni di Cloud Storage FUSE.
Se esegui carichi di lavoro di addestramento, gestione o checkpoint utilizzando Cloud Storage FUSE, puoi utilizzare il campo
profile
o l'opzione di comando--profile
per regolare automaticamente configurazioni specifiche di Cloud Storage FUSE per prestazioni ottimali in base al tipo di carico di lavoro specifico. Per saperne di più, consulta Configurazioni basate sul profilo per i workload AI/ML.
Passaggi successivi
Scopri come ottimizzare Cloud Storage FUSE per prestazioni ottimali.
Utilizza un file YAML GKE preconfigurato per configurare le best practice di ottimizzazione.