En este documento se describe cómo definir automáticamente los valores predeterminados de Cloud Storage FUSE que se usan en los tipos de máquina de Compute Engine de alto rendimiento, que se han diseñado para optimizar el rendimiento de las cargas de trabajo exigentes y de alto rendimiento. Los valores que se definan manualmente en el momento del montaje anularán estos valores predeterminados.
Tipos de máquina
Los valores de configuración se automatizan en los siguientes tipos de máquinas de Compute Engine de alto rendimiento:
Tipo de serie | Tipo de máquina |
---|---|
Serie de máquinas A2 | |
a2-megagpu-16g |
|
a2-ultragpu-8g |
|
Serie de máquinas A3 | |
a3-edgegpu-8g |
|
a3-highgpu-8g |
|
a3-megagpu-8g |
|
a3-ultragpu-8g |
|
Serie de máquinas A4 | |
4-highgpu-8g-lowmem |
|
TPU v5e | |
ct5l-hightpu-8t |
|
ct5lp-hightpu-8t |
|
TPU v5p | |
ct5p-hightpu-4t |
|
ct5p-hightpu-4t-tpu |
|
TPU v6e (Trillium) | |
ct6e-standard-4t |
|
ct6e-standard-4t-tpu |
|
ct6e-standard-8t |
|
ct6e-standard-8t-tpu |
Valores de configuración automatizados
Cuando se detecta un tipo de máquina compatible, Cloud Storage FUSE aplica automáticamente los siguientes valores de configuración:
Campo del archivo de configuración de Cloud Storage FUSE | Opción de CLI de Cloud Storage FUSE | Valor de configuración automatizado |
---|---|---|
metadata-cache.negative-ttl-secs |
--metadata-cache-negative-ttl-secs |
0 |
metadata-cache.ttl-secs 1 |
--metadata-cache-ttl-secs 1 |
|
metadata-cache.stat-cache-max-size-mb |
--stat-cache-max-size-mb |
1024 |
metadata-cache.type-cache-max-size-mb |
--type-cache-max-size-mb |
128 |
implicit-dirs |
--implicit-dirs |
true |
file-system.rename-dir-limit |
--rename-dir-limit |
200000 |
1Si se define esta configuración como -1
, el rendimiento mejora significativamente, ya que los archivos se sirven siempre desde la caché. Ten en cuenta que esta configuración omite las comprobaciones de coherencia, lo que puede provocar que se sirvan datos obsoletos. Para obtener información sobre cómo gestionar la coherencia de los datos, consulta el artículo Descripción general del almacenamiento en caché en Cloud Storage FUSE.
Ajuste de rendimiento adicional
Si usas un tipo de máquina de alto rendimiento Google Cloud , se aplicarán automáticamente los valores de configuración que se detallan en esta página. Sin embargo, puedes afinar aún más tu máquina para obtener un rendimiento óptimo con los siguientes métodos:
Consulta la guía de prácticas recomendadas para optimizar el rendimiento de Cloud Storage FUSE. En ella se explica cómo usar las funciones y configuraciones clave de Cloud Storage FUSE para conseguir el máximo rendimiento y un rendimiento óptimo.
Si ejecutas cargas de trabajo de entrenamiento, servicio o creación de puntos de control y de caché Just-in-Time (JIT) en clústeres de Google Kubernetes Engine que usan GPUs o TPUs de Cloud para acceder a grandes conjuntos de datos en Cloud Storage, puedes optimizar la configuración utilizando archivos YAML preconfigurados para montar tus cubos de Cloud Storage directamente en tus pods de forma más eficiente. Para obtener más información e instrucciones sobre cómo usar archivos YAML de GKE preconfigurados, consulta el artículo Usar archivos YAML de GKE preconfigurados para optimizar el rendimiento de Cloud Storage FUSE.
Si ejecutas cargas de trabajo de entrenamiento, servicio o creación de puntos de control con Cloud Storage FUSE, puedes usar el campo
profile
o la opción de comando--profile
para ajustar automáticamente configuraciones específicas de Cloud Storage FUSE y optimizar el rendimiento en función del tipo de carga de trabajo. Para obtener más información, consulta Configuraciones basadas en perfiles para cargas de trabajo de IA/ML.
Siguientes pasos
Consulta cómo ajustar Cloud Storage FUSE para conseguir un rendimiento óptimo.
Usa un archivo YAML de GKE preconfigurado para configurar las prácticas recomendadas de ajuste.