O Cloud Storage FUSE aplica automaticamente valores de configuração padrão otimizados quando é executado em tipos de máquina de alto desempenho do Compute Engine, como as séries A3, A4 e TPU v6e. Esses padrões ajudam você a ter alta capacidade de processamento para cargas de trabalho exigentes sem ajustes manuais. Os valores definidos manualmente no momento da montagem têm prioridade.
Tipos de máquina
Os valores de configuração são automatizados para os seguintes tipos de máquina de alto desempenho do Compute Engine:
| Tipo de série | Tipo de máquina |
|---|---|
| Série de máquina A2 |
|
| Série de máquinas A3 |
|
| Série de máquinas A4 |
|
| Série de máquinas A4X | |
a4x-highgpu-4g |
|
| TPU v5e |
|
| TPU v5p |
|
| TPU v6e (Trillium) |
|
| TPU 7x (Ironwood) | |
tpu7x-standard-4t |
Valores de configuração automatizados
Quando um tipo de máquina compatível é detectado, o Cloud Storage FUSE aplica automaticamente os seguintes valores de configuração:
| Campo do arquivo de configuração do Cloud Storage FUSE | Opção da CLI do Cloud Storage FUSE | Valor de configuração automatizada |
|---|---|---|
metadata-cache:negative-ttl-secs |
--metadata-cache-negative-ttl-secs |
0 |
metadata-cache:ttl-secs1 |
--metadata-cache-ttl-secs1 |
|
metadata-cache:stat-cache-max-size-mb |
--stat-cache-max-size-mb |
1024 |
implicit-dirs |
--implicit-dirs |
true |
file-system:rename-dir-limit |
--rename-dir-limit |
200000 |
write:global-max-blocks |
--write-global-max-blocks |
1600 |
1Definir essa configuração como -1 aumenta significativamente o desempenho, porque os arquivos são sempre disponibilizados pelo cache. Essa configuração ignora as verificações de consistência, o que pode levar à veiculação de dados desatualizados. Para detalhes sobre como gerenciar a consistência de dados, consulte
Visão geral do armazenamento em cache no Cloud Storage FUSE.
Mais ajustes de desempenho
Quando você usa um tipo de máquina de alto desempenho do Google Cloud , os valores de configuração detalhados nesta página são aplicados automaticamente. No entanto, é possível ajustar ainda mais a máquina para otimizar o desempenho usando os seguintes métodos:
Use o guia de práticas recomendadas de ajuste de desempenho para melhorar o Cloud Storage FUSE usando os principais recursos e configurações do Cloud Storage FUSE para alcançar a capacidade máxima e o desempenho ideal.
Se você estiver executando cargas de trabalho de treinamento, disponibilização ou checkpoint e cache Just in Time (JIT) em clusters do Google Kubernetes Engine que usam Cloud GPUs ou Cloud TPU para acessar grandes conjuntos de dados no Cloud Storage, simplifique sua configuração usando arquivos YAML pré-configurados para montar seus buckets do Cloud Storage diretamente nos pods com mais eficiência. Para mais informações e instruções sobre como usar arquivos YAML pré-configurados do GKE, consulte Usar arquivos YAML pré-configurados do GKE para otimizar o desempenho do Cloud Storage FUSE.
Se você estiver executando cargas de trabalho de treinamento, disponibilização ou checkpoint usando o Cloud Storage FUSE, use o campo
profileou a opção de comando--profilepara ajustar automaticamente as configurações específicas do Cloud Storage FUSE para otimizar o desempenho com base no tipo de carga de trabalho. Para mais informações, consulte Configurações baseadas em perfil para cargas de trabalho de IA/ML.
A seguir
Saiba como ajustar o Cloud Storage FUSE para ter o melhor desempenho.
Use um arquivo YAML pré-configurado do GKE para definir as práticas recomendadas de ajuste.