Planifica tus recursos de Cloud TPU

En esta página, se describe cómo planificar el uso de la unidad de procesamiento tensorial (TPU).

Elige una opción de consumo

Las opciones de consumo se refieren a las formas de obtener y usar recursos de procesamiento. Puedes solicitar capacidad de VM de Cloud TPU según tus necesidades de velocidad, duración, costo y tolerancia a la interrupción. Incluye las siguientes opciones:

  • A pedido: Instancias estándar de pago por uso.
  • VMs Spot: Instancias interrumpibles de menor costo. Usa cuota interrumpible.
  • VMs de inicio flexible: Reserva capacidad según sea necesario, durante un máximo de 7 días, sin reservas a largo plazo ni administración compleja de cuotas.
  • Reservas: Reserva capacidad para una duración específica (hasta 90 días o 1 año o más), lo que garantiza la disponibilidad. Usa cuota a pedido.

En la siguiente tabla, se comparan las opciones de consumo de TPU según su funcionamiento, sus casos de uso ideales y las versiones de TPU compatibles.

Opción de consumo Cómo funciona Mejor uso para Versiones de TPU compatibles
Reservas futuras de un año o más

Solicitas recursos de TPU con un año o más de anticipación. Estos recursos están reservados para tu uso exclusivo durante ese tiempo.

Las reservas proporcionan el nivel más alto de garantía de capacidad y ofrecen un precio más bajo que los recursos según demanda.

Las reservas futuras de TPU incluyen un descuento por compromiso de uso (CUD) Los CUD proporcionan precios con descuento cuando compras un contrato por compromiso de uso. Para obtener más información, consulta Reservas futuras de un año o más

 Las reservas futuras de un año o más son ideales para los trabajos de entrenamiento de larga duración y las cargas de trabajo de inferencia. Todas las versiones de TPU
Reservas futuras de hasta 90 días (modo de calendario)

Solicitas recursos de TPU para una hora de inicio y una duración específicas, entre uno y 90 días. Estos recursos están reservados para tu uso exclusivo durante ese tiempo. Para obtener más información, consulta Reservas futuras de hasta 90 días (en modo de calendario)

Las reservas proporcionan el nivel más alto de garantía de capacidad y ofrecen un precio más bajo que los recursos según demanda.

 Las reservas futuras en el modo de calendario son adecuadas para las cargas de trabajo de entrenamiento y experimentación que requieren horas de inicio precisas y tienen una duración definida. TPU7x, TPU v6e y TPU v5p
A pedido

Solicitas recursos de TPU para uso inmediato, durante el tiempo que los necesites.

La opción a pedido proporciona una flexibilidad significativa. Los recursos a pedido no se interrumpen, pero no hay garantía de que haya suficientes recursos de TPU disponibles para satisfacer tu solicitud. La opción a pedido es la opción predeterminada cuando creas recursos de TPU. Para obtener más información sobre cómo crear y usar TPU a pedido, consulta Crea VMs de TPU.

 Es una buena opción para trabajos urgentes y cargas de trabajo que requieren una hora de finalización flexible. Todas las versiones de TPU
Inicio flexible (vista previa)

Solicitas recursos de TPU por un período específico, hasta siete días, sin reservar capacidad por adelantado.

Las VMs de TPU de inicio flexible se entregan desde un grupo de capacidad exclusivo, por lo que la disponibilidad de estos recursos es mayor que la de los recursos según demanda. Para obtener más información, consulta Solicita VMs de inicio flexible de TPU.

Para obtener más información sobre el uso de VMs de TPU de inicio flexible con Google Kubernetes Engine (GKE), consulta Acerca del aprovisionamiento de GPU y TPU con el modo de aprovisionamiento de inicio flexible.

 El inicio flexible es ideal para la experimentación, las pruebas a pequeña escala, el aprovisionamiento dinámico de TPU para cargas de trabajo de inferencia, el ajuste de modelos, y las ejecuciones de cargas de trabajo que tardan menos de siete días. TPU7x, TPU v6e y TPU v5p
Spot

Solicitas recursos de TPU que se pueden interrumpir.

Las VMs Spot están disponibles a un precio significativamente más bajo que los recursos según demanda. Las VMs Spot suelen ser más fáciles de obtener que los recursos según demanda, pero se pueden interrumpir (apagar) en cualquier momento. No hay límite en la duración del tiempo de ejecución. Para obtener más información sobre las VMs Spot de TPU, consulta Administra VMs Spot de TPU.

 Spot es una buena opción para programar cargas de trabajo de menor prioridad, como entrenamiento previo ajuste y trabajos de simulación de modelos que toleran las interrupciones de disponibilidad. Todas las versiones de TPU

Elige la versión de TPU

Selecciona la versión de TPU, por ejemplo, v5p, v6e o TPU7x (Ironwood), según las necesidades de entrenamiento o inferencia de tu modelo. Para obtener más información, consulta Versiones de TPU.

Solicita cuota de TPU

Para usar VMs de TPU, independientemente de la opción de consumo, necesitas cuota a pedido o interrumpible para los recursos de Cloud TPU. Asegúrate de tener suficiente cuota para la opción, la versión de TPU, el tamaño y la zona elegidos. Las cuotas son específicas para cada versión de TPU y difieren para el uso a pedido en comparación con el uso interrumpible. Algunas versiones de TPU tienen cuotas predeterminadas; para otras, debes solicitar cuota. Para obtener más información, consulta Cuotas de Compute Engine.

¿Qué sigue?