Elige una opción de consumo

En este documento, se explican las diferentes formas, llamadas opciones de consumo, de obtener y usar recursos de procesamiento en AI Hypercomputer. Elige la opción que mejor se adapte a tu carga de trabajo, su duración y tus necesidades de costos.

Cada opción de consumo especifica lo siguiente:

  • Cómo accedes a la capacidad para crear VMs o clústeres

  • El modelo de aprovisionamiento subyacente, que determina la disponibilidad, la vida útil y el precio de tus VMs

Comparación de las opciones de consumo

En la siguiente tabla, se resumen las diferencias clave entre las opciones de consumo:

Opción de consumo Reservas futuras en AI Hypercomputer Reservas futuras de hasta 90 días (en modo de calendario) Inicio flexible Spot
Máquinas compatibles A4X Max, A4X, A4, A3 Ultra, A3 Mega o A3 High A4, A3 Ultra, A3 Mega o A3 High con 8 GPUs Cualquier máquina con GPU, excepto A4X Max y A4X Cualquier máquina con GPU excepto A4X Max y A4X
Vida útil En cualquier momento Hasta 90 días Hasta 7 días En cualquier momento (pero sujeto a interrupción)
Interrumpible
Garantía de capacidad Muy alta Si Google Cloud aprueba tu solicitud de reserva, tendrás una certeza muy alta de que Compute Engine aprovisionará la capacidad solicitada. Muy alta Si Google Cloud aprueba tu solicitud de reserva, tendrás una certeza muy alta de que Compute Engine aprovisionará la capacidad solicitada. Mejor esfuerzo. Compute Engine hace su mejor esfuerzo para programar el aprovisionamiento de la capacidad solicitada. Mejor esfuerzo. Compute Engine hace todo lo posible para aprovisionar la capacidad solicitada.
Cuota La cuota se aumenta automáticamente antes de que se entregue la capacidad. No se cobra ninguna cuota. Se cobra la cuota interrumpible. Se cobra la cuota interrumpible.
Precios
Asignación de recursos Dense Dense
  • Para las solicitudes de cambio de tamaño de MIG: Dense
  • Para las VMs de inicio flexible independientes: Estándar
 Estándar (Política de compactación opcional)
Modelo de aprovisionamiento Con reserva Con reserva Inicio flexible Spot
Método de creación Para crear VMs, debes hacer lo siguiente:
  1. Comunícate con tu equipo de cuentas para reservar capacidad.
  2. En la fecha y hora que elijas, puedes usar la capacidad reservada para crear VMs y clústeres con cualquiera de los métodos que se describen en la descripción general de la creación de VMs y clústeres.
 Para crear VMs, debes hacer lo siguiente:
  1. Crea una reserva futura en el modo de calendario.
  2. En la fecha y hora que elijas, puedes usar la capacidad reservada para crear VMs y clústeres con cualquiera de los métodos que se describen en la Descripción general de las opciones de implementación.
 Para crear VMs, usa uno de los siguientes métodos:

Cuando la capacidad solicitada esté disponible, Compute Engine la aprovisionará.

 Puedes crear VMs de inmediato con cualquiera de los métodos descritos en la Descripción general de las opciones de implementación.

Elige una opción de consumo

Usa el siguiente diagrama de flujo para elegir la opción de consumo que mejor se adapte a tu carga de trabajo:

Un diagrama de flujo con las opciones de consumo de AI Hypercomputer.

Las preguntas del diagrama anterior son las siguientes:

  1. ¿Necesitas capacidad para más de 90 días?

  2. ¿Quieres capacidad reservada?

  3. ¿Tu carga de trabajo es tolerante a errores?

Usa reservas futuras en AI Hypercomputer

Para ejecutar cargas de trabajo distribuidas a gran escala y de larga duración que requieren recursos asignados de forma densa, puedes solicitar recursos de procesamiento para un momento específico en el futuro. Tienes acceso exclusivo a los recursos reservados durante ese período y puedes usarlos para crear VMs o clústeres. Al final del período de reserva, Compute Engine hace lo siguiente:

  • Compute Engine borra la reserva.
  • Según la acción de finalización que especifiques para las VMs, Compute Engine detiene o borra las VMs que usan la reserva.

Cargas de trabajo ideales para las reservas futuras en AI Hypercomputer

Las reservas futuras son ideales para las siguientes cargas de trabajo:

  • Entrenamiento previo de modelos de base

  • Inferencia de modelos básicos con varios hosts

Características clave de las reservas futuras en AI Hypercomputer

Las reservas futuras tienen las siguientes características:

  • Puedes reservar tipos de máquinas A4X Max, A4X, A4, A3 Ultra, A3 Mega o A3 High (8 GPUs). Las máquinas se asignan de forma densa para minimizar la latencia de la red.

  • Puedes reservar tantas VMs como quieras y durante el tiempo que desees para una fecha futura. Luego, puedes usar los recursos reservados para crear y ejecutar VMs hasta el final del período de reserva. Si reservas recursos por un año o más, debes comprar y adjuntar un compromiso basado en recursos.

  • Después de que comience el período de reserva, puedes modificar las reservas creadas de forma automática de la siguiente manera:

  • Usas el modelo de aprovisionamiento vinculado a la reserva, que tiene los siguientes beneficios:

    • Tienes más probabilidades de obtener GPUs.

    • Además del compromiso adjunto a tus VMs, obtienes un descuento de hasta el 53% para las CPU virtuales y las GPUs.

Cómo usar las reservas futuras en AI Hypercomputer

Para usar reservas futuras y crear VMs o clústeres, debes completar los siguientes pasos:

  1. Solicita reservar capacidad. Comunícate con tu equipo de cuentas y especifica los recursos que deseas reservar. Según la disponibilidad, Google crea un borrador de solicitud de reserva para ti. Si se ve bien, puedes enviarla. Google Cloud aprueba de inmediato la solicitud de reserva.

    Para obtener instrucciones, consulta Reserva capacidad.

  2. Consume recursos reservados. Al comienzo del período de reserva que elegiste, puedes usar la reserva para crear VMs o clústeres.

    Para conocer los diferentes métodos para crear VMs o clústeres, consulta la Descripción general de la creación de VMs y clústeres.

Usa reservas futuras en el modo de calendario

Para ejecutar cargas de trabajo distribuidas de corta duración que requieren recursos asignados de forma densa, puedes solicitar recursos de procesamiento por hasta 90 días. Tienes acceso exclusivo a los recursos reservados durante ese período y puedes usarlos para crear VMs o clústeres. Al final del período de reserva, Compute Engine hace lo siguiente:

  • Compute Engine borra la reserva.
  • Según la acción de finalización que especifiques para las VMs, Compute Engine detiene o borra las VMs que usan la reserva.

Cargas de trabajo ideales para las reservas futuras en el modo de calendario

Las reservas futuras en modo de calendario son ideales para las siguientes cargas de trabajo:

  • Entrenamiento previo del modelo

  • Ajuste del modelo

  • Simulaciones

  • Inferencia

Características clave de las reservas futuras en el modo de calendario

Las reservas futuras en el modo de calendario tienen las siguientes características:

  • Puedes reservar tipos de máquinas A4, A3 Ultra, A3 Mega o A3 High (8 GPUs). Estas máquinas se asignan de forma densa para minimizar la latencia de la red.

  • Puedes consultar la disponibilidad futura de los recursos y, luego, reservar hasta 80 VMs para un período de hasta 90 días en el futuro. Luego, puedes usar los recursos reservados para crear VMs hasta el final del período de reserva.

  • Después de que comience el período de reserva, puedes modificar las reservas creadas de forma automática de la siguiente manera:

  • Usas el modelo de aprovisionamiento vinculado a la reserva, que tiene los siguientes beneficios:

    • Tienes más probabilidades de obtener GPUs.

    • Obtienes un descuento de hasta el 53% para las CPU virtuales y las GPUs.

Cómo usar las reservas futuras en el modo de calendario

Para usar las reservaciones futuras en el modo de calendario para crear VMs o clústeres, debes completar los siguientes pasos:

  1. Ver la disponibilidad de recursos Puedes ver la disponibilidad futura de los recursos que deseas reservar. Cuando creas una solicitud de reserva, puedes especificar la cantidad, el tipo y la duración de la reserva para los recursos que confirmaste como disponibles. Esta acción aumenta las probabilidades de que Google Cloud apruebe tu solicitud.

    Para obtener instrucciones, consulta Cómo ver la disponibilidad futura de los recursos.

  2. Reservar capacidad Creas una solicitud de reserva para una fecha y hora futuras. Google Cloud aprueba la solicitud de reserva en un plazo de dos minutos. Si se aprueba, Compute Engine reservará la capacidad para ti. En la fecha de entrega que elijas, podrás usar los recursos reservados para crear VMs o clústeres.

    Para obtener instrucciones, consulta Crea una solicitud de reserva para VMs de GPU o TPU.

  3. Consume recursos reservados. Al comienzo del período de reserva que elegiste, puedes usar la reserva para crear VMs o clústeres.

    Para conocer los diferentes métodos para crear VMs o clústeres, consulta lo siguiente:

Usar el inicio flexible

Para ejecutar cargas de trabajo de corta duración que requieren recursos asignados de forma densa, puedes solicitar recursos de procesamiento por hasta siete días con Inicio flexible. Siempre que haya recursos disponibles, Compute Engine creará la cantidad de VMs que solicitaste. Puedes detener las VMs de inicio flexible independientes, pero no las VMs de inicio flexible que un grupo de instancias administradas (MIG) crea a través de solicitudes de cambio de tamaño. Las VMs de inicio flexible existen hasta que las borras o hasta que Compute Engine las borra al final de su duración de ejecución.

Cargas de trabajo ideales para el inicio flexible

El inicio flexible es ideal para cargas de trabajo que pueden comenzar en cualquier momento, como las siguientes:

  • Entrenamiento previo de modelos pequeños

  • Ajuste del modelo

  • Simulaciones

  • Inferencia por lotes

Características clave del inicio flexible

El inicio flexible tiene las siguientes características:

  • Puedes solicitar cualquier tipo de máquina con GPU, excepto A4X Max y A4X. La asignación de recursos varía según el método de creación:

    • En el caso de las VMs de inicio flexible independientes, las máquinas usan la colocación estándar. Esta colocación asigna máquinas según la disponibilidad, lo que puede hacer que las VMs estén muy separadas dentro de la misma zona.
    • En todos los demás métodos de creación, las máquinas se asignan de forma densa para minimizar la latencia de la red.

  • Usas el modelo de aprovisionamiento de inicio flexible, que tiene los siguientes beneficios:

    • Tienes más probabilidades de obtener GPUs.

    • Obtienes un descuento de hasta el 53% para las CPU virtuales, la memoria y las GPU.

Cómo usar el inicio flexible

Para usar Flex-start y crear VMs o clústeres, selecciona una de las siguientes opciones:

Usar Spot

Para ejecutar cargas de trabajo tolerantes a errores, puedes obtener recursos de procesamiento de inmediato según la disponibilidad. Obtienes recursos al precio más bajo posible. Sin embargo, Compute Engine puede interrumpir las VMs en cualquier momento para recuperar capacidad.

Cargas de trabajo ideales para Spot

Las VMs Spot son ideales para cargas de trabajo en las que se aceptan interrupciones, como las siguientes:

  • Procesamiento por lotes

  • Computación de alto rendimiento (HPC)

  • Integración continua e implementación continua (CI/CD)

  • Análisis de datos

  • Codificación de medios

  • Inferencia en línea

Características clave de Spot

Spot tiene las siguientes características:

  • Puedes crear cualquier tipo de máquina con GPU, excepto A4X Max y A4X. La asignación densa depende de la disponibilidad de recursos. Para garantizar una asignación más cercana, puedes aplicar una política de posición compacta a las VMs.

  • Puedes crear de inmediato tantas VMs como quieras. Las VMs se ejecutan hasta que las detienes o las borras, o hasta que Compute Engine las interrumpe para recuperar capacidad.

  • Usas el modelo de aprovisionamiento spot, que tiene los siguientes beneficios:

    • Tienes más probabilidades de obtener GPUs.

    • Obtienes un descuento de hasta el 91% en muchos tipos de máquinas, GPU, TPU y discos SSD locales.

Cómo usar Spot

Para usar Spot y crear VMs o clústeres, debes completar los siguientes pasos:

  1. Opcional: Crea una política de posición de compactación. Creas una política de posición de compactación para especificar qué tan cerca colocar tus VMs entre sí. La distancia mínima que elijas afectará la cantidad y el tipo de VMs a las que puedes aplicar la política.

  2. Crea VMs Spot. Puedes crear tantas VMs como quieras, según la disponibilidad. Las VMs se ejecutan hasta que las detienes o las borras, o hasta que Compute Engine las interrumpe para recuperar capacidad.

Para obtener instrucciones, consulta Descripción general de la creación de VMs y clústeres.