Modos de capacidad de TPU

Las TPU ofrecen dos modos de capacidad: el modo de capacidad administrada y el modo All Capacity. Cada modo define cómo se manejan el mantenimiento del hardware y los errores del host, así como tu nivel de visibilidad y control sobre la topología del hardware de TPU.

Descripción general de los modos de capacidad de TPU

En la siguiente tabla, se resumen las diferencias clave entre el modo de capacidad administrada y el modo All Capacity:

Modo de capacidad administrada Modo All Capacity
Acceso a la capacidad Google administra la asignación de capacidad y la recuperación del host en toda la infraestructura disponible. El 100% de la capacidad reservada es accesible para las cargas de trabajo. Eres responsable de administrar la capacidad de reserva para la recuperación ante fallas. Puedes segmentar bloques o subbloques específicos para una ubicación de cargas de trabajo precisa y basada en la topología.
Visibilidad de la topología del hardware Compute Engine abstrae la topología física. Visibilidad completa de la topología y la utilización del clúster, el bloque, el subbloque y el host
Recuperación de errores Compute Engine detecta automáticamente los segmentos de TPU defectuosos y los reinicia en hardware en buen estado. Google detecta y repara automáticamente el hardware defectuoso. Eres responsable de supervisar el estado de las porciones de TPU y reprogramar las porciones en mal estado para que se ejecuten en el hardware de repuesto en buen estado que reservaste.
Control de mantenimiento Compute Engine programa y administra los eventos de mantenimiento. De manera opcional, puedes iniciar el mantenimiento antes de la hora programada. Tienes un control detallado para programar e iniciar el mantenimiento a nivel de la reserva, el bloque o el subbloque.
Versiones de TPU compatibles Todas las versiones de TPU TPU v6e (Trillium) y TPU7x (Ironwood)
Opciones de consumo compatibles Son todas las opciones de consumo. Debes tener una reserva futura con un tamaño de capacidad mínimo por un año o más. No se admiten las reservas futuras en modo de calendario. Comunícate con tu Google Cloud equipo de cuentas para obtener detalles y solicitar una reserva en el modo All Capacity.

Modo de capacidad administrada

De forma predeterminada, la capacidad de TPU funciona en el modo de capacidad administrada. En este modo, Compute Engine detecta automáticamente las fallas de hardware y reemplaza las instancias de TPU afectadas para garantizar que tus cargas de trabajo se puedan reiniciar en hardware en buen estado.

El modo de capacidad administrada tiene las siguientes características:

  • Recuperación automática de instancias: Para las opciones de consumo de instancias bajo demanda, de inicio flexible y de reserva, Compute Engine detecta automáticamente las fallas de hardware y reemplaza las instancias de TPU afectadas.
  • Administración optimizada: No se requiere intervención manual para las operaciones de mantenimiento o reparación del host.

Modo All Capacity

El modo All Capacity está diseñado para brindarte control directo basado en reservas sobre tus recursos de TPU. En el modo All Capacity, tienes acceso al 100% de tu capacidad reservada. Eres responsable de administrar la recuperación de la segmentación de TPU con suficiente capacidad de reserva en buen estado y de programar eventos de mantenimiento.

El modo All Capacity tiene las siguientes funciones:

  • Asignación de capacidad total: Accede a toda tu capacidad reservada sin restricciones, incluida la capacidad de reserva asignada para la recuperación ante fallas o las ráfagas de cargas de trabajo.
  • Colocación con reconocimiento de topología: Obtén visibilidad completa de la topología del clúster, el bloque, el subbloque y el host para optimizar la colocación de cargas de trabajo.
  • Control de mantenimiento avanzado: Programa y activa eventos de mantenimiento a nivel de la reserva, el bloque o el subbloque.
  • Informe y reparación: Informa sobre el hardware con bajo rendimiento para su reparación.

Comunícate con tu equipo de cuentas de Google Cloud para solicitar una reserva en el modo All Capacity. Para obtener más información, consulta Descripción general del modo All Capacity.

¿Qué sigue?