Recursos de procesamiento

Si te interesan los clústeres de entrenamiento de Gemini Enterprise Agent Platform, comunícate con tu representante de ventas para obtener acceso.

Los clústeres de entrenamiento de Gemini Enterprise Agent Platform admiten una variedad de tipos de máquinas para adaptarse a diferentes cargas de trabajo. Puedes elegir entre las siguientes opciones cuando configures tus grupos de nodos del clúster.

Tipos de máquinas optimizados para aceleradores

Tipo de máquina GPU GPU por nodo
a4x-highgpu-4g NVIDIA GB200 4
a4-highgpu-8g NVIDIA B200 8
a3-ultragpu-8g NVIDIA H200 8
a3-megagpu-8g NVIDIA H100 8
a3-highgpu-8g NVIDIA H100 8
g4-standard-48 NVIDIA RTX PRO 6000 Blackwell 1
g4-standard-96 NVIDIA RTX PRO 6000 Blackwell 2
g4-standard-192 NVIDIA RTX PRO 6000 Blackwell 4
g4-standard-384 NVIDIA RTX PRO 6000 Blackwell 8

Tipos de máquinas de CPU y HPC

Tipo de máquina Descripción
Familia N2: n2-standard-*, n2-highmem-*, n2-highcpu-* Nodos de uso general para el procesamiento previo de datos, la organización de trabajos y otros trabajos que no requieren un acelerador. N2 también es la familia de máquinas que se usa para los nodos de acceso de Slurm.
Familia H4D: h4d-standard-*, h4d-highmem-* Nodos optimizados para HPC con redes RDMA, para cargas de trabajo de simulación y procesamiento previo con acoplamiento alto.

Tipo de máquina A4X

Los clústeres de entrenamiento de Gemini Enterprise Agent Platform admiten el tipo de máquina optimizado para aceleradores A4X (a4x-highgpu-4g), una plataforma de exaescala basada en la arquitectura de escala de rack NVIDIA GB200 NVL72.

Comparación de arquitectura

En la siguiente tabla, se describen las diferencias fundamentales de hardware entre la familia A4X y otras familias optimizadas para aceleradores.

Función A4X (a4x-highgpu-4g) A3 / A4H
Arquitectura de la CPU ARM X86
Cantidad de GPU 4 GPU por nodo 8 GPU por nodo
Tipo de reserva Modo All Capacity Modo administrado
Política de ubicación Estricto (compacto) Flexible

Lineamientos específicos de A4X

  • La cantidad de VM del grupo de nodos A4X debe ser múltiplo de 18 (por ejemplo, 18, 36, 54). Esto es necesario porque la capacidad de A4X se aprovisiona en bloques fijos y no compartibles de 18 nodos llamados dominios NVLink. Estos dominios están vinculados por una estricta política de ubicación compacta, y los bloques asignados parcialmente no pueden ser usados por otros clústeres.
  • Debido a la arquitectura basada en ARM de los nodos A4X, debes realizar dos cambios clave en tus cargas de trabajo de entrenamiento:
    • Usa imágenes compatibles con ARM: Todos los trabajos de entrenamiento deben usar una imagen de contenedor compilada para la arquitectura ARM.
    • Adaptación para 4 GPUs: Tu lógica de entrenamiento distribuido debe actualizarse para reconocer y usar correctamente las 4 GPUs disponibles en cada nodo A4X.
  • Proceso de informes de fallas de host y tiempo de inactividad Cuando informas que un host es defectuoso, ten en cuenta el siguiente proceso de recuperación:
    • Sin capacidad de espera: El sistema no usa un grupo de repuesto de espera para un reemplazo instantáneo de nodos.
    • Recuperación basada en la reparación: El nodo permanece no disponible hasta que se repara el host físico subyacente.
    • Tiempo de inactividad extendido: Por lo general, este proceso de reparación tarda entre 3 y 14 días.

Aprovisionamiento de capacidad

Elegir el modelo de aprovisionamiento adecuado es fundamental para equilibrar el costo, la velocidad y la disponibilidad de recursos. Consulta las siguientes opciones de aprovisionamiento:

  • RESERVATION: Asigna nodos de una reserva específica de Compute Engine que creaste con anticipación. Este modelo garantiza la capacidad y es la opción recomendada para los recursos de alta demanda.

  • FLEX_START: Utiliza el programador de cargas de trabajo dinámicas para poner en cola tu trabajo. El trabajo comienza automáticamente en cuanto los recursos de procesamiento solicitados estén disponibles, lo que ofrece una hora de inicio flexible sin necesidad de una reserva.

  • SPOT: Aprovisiona el grupo de nodos con VMs Spot. Esta es la opción más rentable, pero solo debe usarse para cargas de trabajo que sean tolerantes a errores y puedan controlar las interrupciones, ya que las VMs pueden interrumpirse en cualquier momento.

  • ON_DEMAND: Esta es la opción predeterminada para los grupos de nodos solo de CPU y es más adecuada para los tipos de máquinas que no son escasos. Proporciona instancias de VM estándar con precios predecibles de pago por uso.

Usa la siguiente guía para hacer tu selección:

  • Para los recursos de GPU de alta demanda (como A3 y A4), se recomienda el modelo RESERVATION. Garantiza que tengas acceso exclusivo a la capacidad que necesitas para los trabajos de entrenamiento críticos.

  • Para cargas de trabajo flexibles o con picos de actividad, considera FLEX_START o SPOT. FLEX_START pone en cola tu trabajo hasta que los recursos estén disponibles, mientras que SPOT ofrece ahorros de costos significativos para los trabajos tolerantes a errores que pueden controlar la interrupción.

  • Para los tipos de máquinas abundantes, el modelo ON_DEMAND es la opción preferida. Úsalo para los tipos de máquinas que no son escasos y en los que la disponibilidad inmediata no es un problema.

Usa una reserva compartida (opcional)

Si deseas usar una reserva compartida en lugar de una reserva local, debes realizar pasos adicionales antes de poder crear un clúster.

Antes de usar una reserva compartida con los clústeres de entrenamiento de Gemini Enterprise Agent Platform, asegúrate de que la reserva compartida funcione creando manualmente una VM que la use. Si funciona la creación de esta VM, continúa con el siguiente paso. En la configuración de creación del clúster, usa el nombre de la reserva en el siguiente formato: projects/RESERVATION_HOST_PROJECT_ID/zones/RESERVATION_ZONE/reservations/RESERVATION_NAME.

¿Qué sigue?

Después de seleccionar las opciones de procesamiento y aprovisionamiento para tu clúster de entrenamiento, puedes crear el clúster y ejecutar una carga de trabajo en él.