Crea un MIG de G4 optimizado para IA

En este documento, se describe cómo crear un grupo de instancias administrado (MIG) que use tipos de máquinas G4. Para obtener más información sobre estos tipos de máquinas optimizadas para aceleradores, consulta la serie G4.

Crear un MIG te permite administrar varias máquinas virtuales (VMs) como una sola entidad. Cada VM en un MIG se basa en una plantilla de instancias. Al administrar automáticamente las VMs del grupo, los MIG ofrecen alta disponibilidad y escalabilidad. Para obtener más información sobre los MIG, consulta Grupos de instancias administrados en la documentación de Compute Engine.

Para obtener información sobre otras formas de crear VMs o clústeres, consulta la Descripción general de las opciones de implementación.

Limitaciones

Cuando crees un MIG con VMs G4, ten en cuenta las limitaciones tanto del tipo de máquina como del MIG.

Limitaciones de las VMs G4

Cuando creas VMs G4, se aplican las siguientes limitaciones:

Limitaciones del MIG

Antes de comenzar

Antes de crear un MIG, si aún no lo hiciste, completa los siguientes pasos:

  1. Elige una opción de consumo: La opción de consumo que elijas determinará cómo obtendrás y usarás los recursos de GPU. Para obtener más información, consulta Elige una opción de consumo.
  2. Obtén capacidad: El proceso para obtener capacidad difiere para cada opción de consumo. Para obtener información sobre el proceso para obtener capacidad para la opción de consumo que elegiste, consulta Descripción general de la capacidad.

Roles obligatorios

Para obtener los permisos que necesitas para crear un MIG, pídele a tu administrador que te otorgue el rol de IAM Administrador de instancias de Compute (v1) (roles/compute.instanceAdmin.v1) en el proyecto. Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

Este rol predefinido contiene los permisos necesarios para crear un MIG. Para ver los permisos exactos que son necesarios, expande la sección Permisos requeridos:

Permisos necesarios

Se requieren los siguientes permisos para crear un MIG:

  • Para crear un MIG, haz lo siguiente: compute.instanceGroupManagers.create en el proyecto

También puedes obtener estos permisos con roles personalizados o con otros roles predefinidos.

Descripción general

La creación de un MIG con el tipo de máquina G4 incluye los siguientes pasos:

  1. Opcional: Crea una política de posición compacta
  2. Crea una plantilla de instancias
  3. Crea un MIG
  4. Instala controladores de GPU
  5. Opcional: Habilita el modo de GPU de varias instancias de NVIDIA

Para cada MIG, debes elegir si deseas usar una política de posición compacta, usar solicitudes de cambio de tamaño o ninguna de las dos. Para obtener más información sobre cuándo usar cada opción, consulta Limitaciones del MIG en este documento.

Opcional: Crea una política de posición compacta

Puedes especificar la posición de la VM creando una política de posición compacta. Cuando aplicas una política de posición compacta a tus VMs, Compute Engine hace su mejor esfuerzo para crear VMs que estén lo más cerca posible entre sí. Si tu aplicación es sensible a la latencia y requiere la máxima compactación, especifica el campo maxDistance (versión preliminar) cuando crees una política de posición compacta. Un valor de maxDistance más bajo garantiza una colocación más cercana de las VM, pero también aumenta la probabilidad de que no se creen algunas VMs.

Para crear una política de posición compacta, selecciona una de las siguientes opciones:

gcloud

Para crear una política de posición compacta, usa el comando gcloud beta compute resource-policies create group-placement:

gcloud beta compute resource-policies create group-placement POLICY_NAME \
    --collocation=collocated \
    --max-distance=MAX_DISTANCE \
    --region=REGION

Reemplaza lo siguiente:

  • POLICY_NAME: el nombre de la política de posición compacta.
  • MAX_DISTANCE: Es la configuración de distancia máxima para tus VMs, que se puede especificar (vista previa, recomendado) o no especificar (quita la marca --max-distance). Según lo que admita tu tipo de máquina, puedes especificar uno de los siguientes valores:
    • Para colocar las VMs en el mismo subbloque, haz lo siguiente: 1
    • Para colocar las VMs en el mismo bloque, haz lo siguiente: 2
    • Para colocar VMs en bloques adyacentes: 3
    Asegúrate de que la configuración de distancia máxima admita la serie de máquinas y la cantidad de VMs que planeas crear. Para obtener más información, consulta Acerca de las políticas de posición compacta en la documentación de Compute Engine.
  • REGION: la región en la que deseas crear la política de posición compacta. Especifica la región que contiene la zona en la que planeas crear instancias y verifica que el tipo de máquina que deseas usar esté disponible en esa región. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.

REST

Para crear una política de posición compacta, realiza una solicitud POST al método resourcePolicies.insert de la versión beta. En el cuerpo de la solicitud, incluye el campo collocation configurado como COLLOCATED y el campo maxDistance.

POST https://compute.googleapis.com/compute/beta/projects/PROJECT_ID/regions/REGION/resourcePolicies
  {
    "name": "POLICY_NAME",
    "groupPlacementPolicy": {
      "collocation": "COLLOCATED",
      "maxDistance": MAX_DISTANCE
    }
  }

Reemplaza lo siguiente:

  • PROJECT_ID: el ID de tu proyecto
  • POLICY_NAME: el nombre de la política de posición compacta.
  • MAX_DISTANCE: Es la configuración de distancia máxima para tus VMs, que se puede especificar (vista previa, recomendada) o no especificar (quitar el campo maxDistance). Según lo que admita tu tipo de máquina, puedes especificar uno de los siguientes valores:
    • Para colocar las VMs en el mismo subbloque, haz lo siguiente: 1
    • Para colocar las VMs en el mismo bloque, haz lo siguiente: 2
    • Para colocar VMs en bloques adyacentes: 3
    Asegúrate de que la configuración de distancia máxima admita la serie de máquinas y la cantidad de VMs que planeas crear. Para obtener más información, consulta Acerca de las políticas de posición compacta en la documentación de Compute Engine.
  • REGION: la región en la que deseas crear la política de posición compacta. Especifica la región que contiene la zona en la que planeas crear instancias y verifica que el tipo de máquina que deseas usar esté disponible en esa región. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.

Crea una plantilla de instancias

Especifica las propiedades de la VM para un MIG creando una plantilla de instancias.

Para crear una plantilla de instancias, selecciona una de las siguientes opciones:

Los siguientes comandos también establecen el permiso de acceso para tus instancias. Para simplificar la administración de permisos, Google recomienda que configures el permiso de acceso en una instancia como acceso cloud-platform y, luego, uses roles de IAM para definir a qué servicios puede acceder la instancia. Para obtener más información, consulta las prácticas recomendadas para los permisos.

gcloud

Para crear una plantilla de instancias regional, usa el comando gcloud compute instance-templates create.

Los parámetros que debes especificar dependen de la opción de consumo que uses para esta implementación. Selecciona la pestaña que corresponda a tu opción de consumo.

Reserva

Las instancias G4 admiten los siguientes tipos de reservas:

  • Reservas según demanda
  • Reservas futuras estándar

Para consumir estos tipos de reservas, una instancia debe usar el modelo de aprovisionamiento estándar. Por ejemplo, usa los siguientes parámetros de creación.

Antes de ejecutar el comando, revisa todos los pasos que se indican a continuación para determinar si debes incluir marcas adicionales.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY \
    --reservation=RESERVATION

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • RESERVATION_AFFINITY: Indica qué reservas puede consumir la instancia, si es posible. Especifica una de las siguientes opciones:

      • any (la capacidad de reserva es opcional): Esta es la opción predeterminada. La instancia intenta usar capacidad de una reserva de consumo automático, lo que solo sucede si hay capacidad de reserva coincidente disponible. De lo contrario, la instancia usa capacidad a pedido.

      • specific (Se requiere capacidad de reserva): Requiere que la instancia use capacidad de una reserva orientada específicamente. La instancia no puede usar la capacidad según demanda. Si la capacidad de reserva no está disponible, la creación de la instancia fallará.

    • RESERVATION: Es la reserva que se usará. Especifica una de las siguientes opciones según el valor que especificaste para RESERVATION_AFFINITY:

      • Si especificaste any, reemplaza RESERVATION por una cadena vacía (""). Como alternativa, puedes quitar la marca --reservation por completo.

      • Si especificaste specific, reemplaza RESERVATION por lo siguiente:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Reemplaza lo siguiente:

        • RESERVATION_OWNER_PROJECT_ID: Es el ID del proyecto en el que se creó la reserva.
        • RESERVATION_NAME por el nombre de la reserva.

  2. De forma predeterminada, la instancia se reinicia automáticamente si falla o si Compute Engine la detiene por una detención programada, como un evento de mantenimiento. Si quieres inhabilitar el reinicio automático, agrega la siguiente marca:

    --no-restart-on-failure

  3. Opcional: Si elegiste usar una política de posición compacta, agrega la siguiente marca al comando:

    --resource-policies=POLICY_NAME

    Reemplaza lo siguiente:

    • POLICY_NAME: el nombre de la política de posición compacta.

  4. Opcional: Para conectar discos SSD locales, agrega la siguiente marca --local-ssd para cada disco SSD local.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

    --local-ssd interface=INTERFACE_TYPE

    Reemplaza lo siguiente:

    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  5. Ejecute el comando.

A pedido

Antes de ejecutar el comando, revisa todos los pasos que se indican a continuación para determinar si debes incluir marcas adicionales.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=STANDARD \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=RESERVATION_AFFINITY

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • RESERVATION_AFFINITY: Indica qué reservas puede consumir la instancia, si es posible. Especifica una de las siguientes opciones:

      • any (la capacidad de reserva es opcional): Esta es la opción predeterminada. La instancia intenta usar capacidad de una reserva de consumo automático, lo que solo sucede si hay capacidad de reserva coincidente disponible. De lo contrario, la instancia usa capacidad a pedido.

      • none (Se requiere capacidad según demanda): Bloquea la instancia para que no use ninguna capacidad de reserva.

  2. De forma predeterminada, la instancia se reinicia automáticamente si falla o si Compute Engine la detiene por una detención programada, como un evento de mantenimiento. Si quieres inhabilitar el reinicio automático, agrega la siguiente marca:

    --no-restart-on-failure

  3. Opcional: Si elegiste usar una política de posición compacta, agrega la siguiente marca al comando:

    --resource-policies=POLICY_NAME

    Reemplaza lo siguiente:

    • POLICY_NAME: el nombre de la política de posición compacta.

  4. Opcional: Para conectar discos SSD locales, agrega la siguiente marca --local-ssd para cada disco SSD local.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

    --local-ssd interface=INTERFACE_TYPE

    Reemplaza lo siguiente:

    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  5. Ejecute el comando.

Inicio flexible

Antes de ejecutar el comando, revisa todos los pasos que se indican a continuación para determinar si debes incluir marcas adicionales.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --reservation-affinity=none \
    --instance-termination-action=DELETE \
    --max-run-duration=RUN_DURATION \
    --maintenance-policy=TERMINATE \
    --provisioning-model=FLEX_START

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.
    • RUN_DURATION: Es la duración de la que deseas que se ejecuten las VMs solicitadas. Debes darle formato al valor como la cantidad de días, horas, minutos o segundos, seguidos de d, h, m y s, respectivamente. Por ejemplo, especifica 30m para 30 minutos o 1d2h3m4s para un día, dos horas, tres minutos y cuatro segundos. El valor debe ser de entre 10 minutos y siete días.

  2. Opcional: Para conectar discos SSD locales, agrega la siguiente marca --local-ssd para cada disco SSD local.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

    --local-ssd interface=INTERFACE_TYPE

    Reemplaza lo siguiente:

    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  3. Ejecute el comando.

Spot

Antes de ejecutar el comando, revisa todos los pasos que se indican a continuación para determinar si debes incluir marcas adicionales.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --instance-template-region=REGION \
    --boot-disk-type=hyperdisk-balanced \
    --boot-disk-size=DISK_SIZE \
    --scopes=cloud-platform \
    --provisioning-model=SPOT \
    --instance-termination-action=TERMINATION_ACTION \
    --maintenance-policy=TERMINATE \
    --no-restart-on-failure

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • TERMINATION_ACTION: Es la acción que se debe realizar cuando Compute Engine interrumpe la instancia, ya sea STOP (predeterminada) o DELETE.

  2. Opcional: Si elegiste usar una política de posición compacta, agrega la siguiente marca al comando:

    --resource-policies=POLICY_NAME

    Reemplaza lo siguiente:

    • POLICY_NAME: el nombre de la política de posición compacta.

  3. Opcional: Para conectar discos SSD locales, agrega la siguiente marca --local-ssd para cada disco SSD local.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

    --local-ssd interface=INTERFACE_TYPE

    Reemplaza lo siguiente:

    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  4. Opcional: Para usar la estación de trabajo virtual (vWS) NVIDIA RTX, agrega la siguiente marca.

    Cuando creas una instancia que usa la estación de trabajo virtual NVIDIA RTX, Compute Engine agrega automáticamente una licencia de vWS. Para obtener información sobre los precios de las estaciones de trabajo virtuales, consulta la página de precios de GPU.

    --accelerator=type=nvidia-rtx-pro-6000-vws,count=VWS_ACCELERATOR_COUNT

    Reemplaza VWS_ACCELERATOR_COUNT por la cantidad de GPU virtuales que deseas.

  5. Ejecute el comando.

REST

Para crear una plantilla de instancias regional, realiza una solicitud POST al método regionInstanceTemplates.insert.

Los parámetros que debes especificar dependen de la opción de consumo que uses para esta implementación. Selecciona la pestaña que corresponda a tu opción de consumo.

Reserva

Las instancias G4 admiten los siguientes tipos de reservas:

  • Reservas según demanda
  • Reservas futuras estándar

Para consumir estos tipos de reservas, una instancia debe usar el modelo de aprovisionamiento estándar. Por ejemplo, usa los siguientes parámetros de creación.

Antes de enviar la solicitud, revisa todos los pasos que se indican a continuación para determinar si debes incluir campos adicionales.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY",
    "key": "compute.googleapis.com/reservation-name",
    "values": [
      "RESERVATION"
    ]
  }
  }
}

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • AUTOMATIC_RESTART: Indica si la instancia se reinicia automáticamente si falla o si Compute Engine la detiene por una detención programada, como un evento de mantenimiento. Especifica true para habilitar el reinicio automático (predeterminado) o false para inhabilitarlo.

    • RESERVATION_AFFINITY: Indica qué reservas puede consumir la instancia, si es posible. Especifica una de las siguientes opciones:

      • ANY_RESERVATION (la capacidad de reserva es opcional): Esta es la opción predeterminada. La instancia intenta usar capacidad de una reserva que se consume automáticamente, lo que solo sucede si hay capacidad de reserva coincidente disponible. De lo contrario, la instancia usa capacidad a pedido.

      • SPECIFIC_RESERVATION (Se requiere capacidad de reserva): Requiere que la instancia use capacidad de una reserva orientada específicamente. La instancia no puede usar la capacidad según demanda. Si la capacidad de reserva no está disponible, la creación de la instancia fallará.

    • RESERVATION: Es la reserva que se usará. Especifica una de las siguientes opciones según el valor que especificaste para RESERVATION_AFFINITY:

      • Si especificaste ANY_RESERVATION, borra RESERVATION para que el valor sea una cadena vacía (""). Como alternativa, puedes quitar por completo los campos key y values.

      • Si especificaste SPECIFIC_RESERVATION, reemplaza RESERVATION por lo siguiente:

        projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME

        Reemplaza lo siguiente:

        • RESERVATION_OWNER_PROJECT_ID: Es el ID del proyecto en el que se creó la reserva.
        • RESERVATION_NAME por el nombre de la reserva.

  2. Opcional: Si elegiste usar una política de posición compacta, agrega el siguiente subcampo instanceProperties al cuerpo de la solicitud:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto de la política de posición compacta.
    • REGION: Es la región de la política de posición compacta.
    • POLICY_NAME: el nombre de la política de posición compacta.

  3. Opcional: Para usar discos SSD locales, agrega el siguiente campo al campo disks[] para cada disco SSD local. Separa cada subcampo disks[] (incluido el disco de arranque) con una coma.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Reemplaza lo siguiente:

    • ZONE: La zona que especificaste.
    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  4. Opcional: Para usar la estación de trabajo virtual (vWS) NVIDIA RTX, agrega el siguiente campo.

    Cuando creas una instancia que usa la estación de trabajo virtual NVIDIA RTX, Compute Engine agrega automáticamente una licencia de vWS. Para obtener información sobre los precios de las estaciones de trabajo virtuales, consulta la página de precios de GPU.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Reemplaza VWS_ACCELERATOR_COUNT por la cantidad de GPU virtuales que deseas.

  5. Envía la solicitud.

A pedido

Antes de enviar la solicitud, revisa todos los pasos que se indican a continuación para determinar si debes incluir campos adicionales.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling": {
    "provisioningModel": "STANDARD",
    "onHostMaintenance": "TERMINATE",
    "automaticRestart": AUTOMATIC_RESTART
  },
  "reservationAffinity": {
    "consumeReservationType": "RESERVATION_AFFINITY"
  }
  }
}

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • AUTOMATIC_RESTART: Indica si la instancia se reinicia automáticamente si falla o si Compute Engine la detiene por una detención programada, como un evento de mantenimiento. Especifica true para habilitar el reinicio automático (predeterminado) o false para inhabilitarlo.

    • RESERVATION_AFFINITY: Indica qué reservas puede consumir la instancia, si es posible. Especifica una de las siguientes opciones:

      • ANY_RESERVATION (la capacidad de reserva es opcional): Esta es la opción predeterminada. La instancia intenta usar capacidad de una reserva que se consume automáticamente, lo que solo sucede si hay capacidad de reserva coincidente disponible. De lo contrario, la instancia usa capacidad a pedido.

      • NO_RESERVATION (Se requiere capacidad según demanda): Bloquea la instancia para que no use ninguna capacidad de reserva.

  2. Opcional: Si elegiste usar una política de posición compacta, agrega el siguiente subcampo instanceProperties al cuerpo de la solicitud:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto de la política de posición compacta.
    • REGION: Es la región de la política de posición compacta.
    • POLICY_NAME: el nombre de la política de posición compacta.

  3. Opcional: Para usar discos SSD locales, agrega el siguiente campo al campo disks[] para cada disco SSD local. Separa cada subcampo disks[] (incluido el disco de arranque) con una coma.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Reemplaza lo siguiente:

    • ZONE: La zona que especificaste.
    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  4. Opcional: Para usar la estación de trabajo virtual (vWS) NVIDIA RTX, agrega el siguiente campo.

    Cuando creas una instancia que usa la estación de trabajo virtual NVIDIA RTX, Compute Engine agrega automáticamente una licencia de vWS. Para obtener información sobre los precios de las estaciones de trabajo virtuales, consulta la página de precios de GPU.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Reemplaza VWS_ACCELERATOR_COUNT por la cantidad de GPU virtuales que deseas.

  5. Envía la solicitud.

Inicio flexible

Antes de enviar la solicitud, revisa todos los pasos que se indican a continuación para determinar si debes incluir campos adicionales.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "reservationAffinity": {
        "consumeReservationType": "NO_RESERVATION"
      },
    "scheduling": {
        "instanceTerminationAction": "DELETE",
        "maxRunDuration": {
          "seconds": RUN_DURATION
        },
        "onHostMaintenance": "TERMINATE",
        "provisioningModel": "FLEX_START"
      }

  }
}

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.
    • RUN_DURATION: Es la duración, en segundos, por la que deseas que se ejecuten las VMs solicitadas. El valor debe estar entre 600, que es 600 segundos (10 minutos), y 604800, que es 604,800 segundos (siete días).

  2. Opcional: Para usar discos SSD locales, agrega el siguiente campo al campo disks[] para cada disco SSD local. Separa cada subcampo disks[] (incluido el disco de arranque) con una coma.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Reemplaza lo siguiente:

    • ZONE: La zona que especificaste.
    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  3. Envía la solicitud.

Spot

Antes de enviar la solicitud, revisa todos los pasos que se indican a continuación para determinar si debes incluir campos adicionales.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceTemplates
{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "initializeParams": {
          "diskSizeGb": "DISK_SIZE",
          "diskType": "hyperdisk-balanced",
          "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
        },
        "mode": "READ_WRITE",
        "type": "PERSISTENT"
      }
    ],
    "serviceAccounts": [
      {
        "email": "default",
        "scopes": [
          "https://www.googleapis.com/auth/cloud-platform"
        ]
      }
    ],
    "scheduling":
    {
      "provisioningModel": "SPOT",
      "instanceTerminationAction": "TERMINATION_ACTION",
      "onHostMaintenance": "TERMINATE",
      "automaticRestart": false
    }
  }
}

Completa los siguientes pasos:

  1. Reemplaza lo siguiente:

    • INSTANCE_TEMPLATE_NAME: el nombre de la plantilla de instancias.
    • MACHINE_TYPE: Es el tipo de máquina que se usará para la instancia G4. Para obtener más información, consulta Tipos de máquinas con GPU en la documentación de Compute Engine.
    • IMAGE_FAMILY: Es la familia de imágenes de la imagen de SO que deseas usar. Para obtener una lista de todos los sistemas operativos compatibles, consulta Sistemas operativos compatibles.
    • IMAGE_PROJECT: Es el ID del proyecto de la imagen de SO.
    • REGION: Es la región en la que deseas crear la plantilla de instancias. Especifica una región en la que esté disponible el tipo de máquina que deseas usar. Para obtener información sobre las regiones, consulta Disponibilidad de GPU por regiones y zonas.
    • DISK_SIZE: Es el tamaño del disco de arranque en GB. Para obtener más información, consulta Límites de tamaño de Google Cloud Hyperdisk o Límites de tamaño de Persistent Disk, según el tipo de disco.

    • TERMINATION_ACTION: Es la acción que se debe realizar cuando Compute Engine interrumpe la instancia, ya sea STOP (predeterminada) o DELETE.

  2. Opcional: Si elegiste usar una política de posición compacta, agrega el siguiente subcampo instanceProperties al cuerpo de la solicitud:

        "resourcePolicies": [
      "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME"
    ]

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto de la política de posición compacta.
    • REGION: Es la región de la política de posición compacta.
    • POLICY_NAME: el nombre de la política de posición compacta.

  3. Opcional: Para usar discos SSD locales, agrega el siguiente campo al campo disks[] para cada disco SSD local. Separa cada subcampo disks[] (incluido el disco de arranque) con una coma.

    Asegúrate de que la cantidad de discos SSD locales que conectes esté permitida para tu tipo de máquina. Para obtener más detalles, consulta Acerca de los discos SSD locales en la documentación de Compute Engine. Específicamente, los tipos de máquinas G4 usan discos SSD de Titanium.

        {
       "type": "SCRATCH",
       "initializeParams": {
          "diskType": "zones/ZONE/diskTypes/local-ssd"
       },
       "autoDelete": true,
       "interface": "INTERFACE_TYPE"
    }

    Reemplaza lo siguiente:

    • ZONE: La zona que especificaste.
    • INTERFACE_TYPE: Es el tipo de interfaz de disco que deseas usar para el disco SSD local. Si tu imagen de disco de arranque tiene controladores NVMe optimizados, especifica NVME. Especifica SCSI para otras imágenes.

    Después de crear una VM con discos SSD locales, debes formatear y activar cada dispositivo antes de poder usarlo.

  4. Opcional: Para usar la estación de trabajo virtual (vWS) NVIDIA RTX, agrega el siguiente campo.

    Cuando creas una instancia que usa la estación de trabajo virtual NVIDIA RTX, Compute Engine agrega automáticamente una licencia de vWS. Para obtener información sobre los precios de las estaciones de trabajo virtuales, consulta la página de precios de GPU.

    "guestAccelerators":
  [
    {
      "acceleratorCount": VWS_ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-rtx-pro-6000-vws"
    }
  ]

    Reemplaza VWS_ACCELERATOR_COUNT por la cantidad de GPU virtuales que deseas.

  5. Envía la solicitud.

Después de crear la plantilla de instancias, puedes verla para consultar su ID y revisar sus propiedades.

Crear un MIG

Después de completar todos los pasos anteriores, crea un MIG según tu situación de la siguiente manera:

Situación Método para crear un MIG y VMs en él Ejemplo
Tienes varios trabajos paralelos que pueden comenzar con cualquier cantidad de VMs. Crea un MIG y usa el tamaño objetivo para especificar la cantidad de VMs que deseas incluir en el grupo.

Consulta Crea un MIG con un tamaño objetivo.

 Trabajos de inferencia de AA
Tienes un trabajo que requiere distribución en una cantidad exacta de VMs. Crea un MIG sin VMs y, luego, crea una solicitud de cambio de tamaño en el MIG. La solicitud de cambio de tamaño te ayuda a obtener VMs de una sola vez.

Consulta Crea un MIG y una solicitud de cambio de tamaño.

 Trabajos de entrenamiento y ajuste de AA distribuidos

Crea un MIG con un tamaño objetivo

Si puedes iniciar tu trabajo sin crear todas las VMs a la vez, crea un MIG con un tamaño objetivo. El tamaño objetivo determina la cantidad de VMs en el MIG. El MIG comienza a crear VMs según la disponibilidad actual de recursos. Si algún recurso no está disponible temporalmente, el MIG intentará crear VMs de forma continua para alcanzar el tamaño objetivo.

Para crear un MIG con un tamaño objetivo, selecciona una de las siguientes opciones:

gcloud

Para crear un MIG con un tamaño de destino especificado, usa el comando instance-groups managed create.

Crea un MIG zonal o regional de la siguiente manera:

  • Para crear un MIG zonal, usa el siguiente comando: 
    gcloud compute instance-groups managed create MIG_NAME \
  --template=INSTANCE_TEMPLATE_URL \
  --size=TARGET_SIZE \
  --zone=ZONE
  • Para crear un MIG regional, usa el siguiente comando: 
    gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=TARGET_SIZE \
    --region=REGION
Reemplaza lo siguiente:
  • MIG_NAME: Es el nombre del MIG.
  • INSTANCE_TEMPLATE_URL: Es la URL de la plantilla de instancias que deseas usar para crear instancias en el MIG. La URL puede contener el ID o el nombre de la plantilla de instancias. Especifica uno de los siguientes valores:
    • Para una plantilla de instancias regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Para una plantilla de instancias global: INSTANCE_TEMPLATE_ID
  • TARGET_SIZE: Es la cantidad de instancias que deseas en el MIG.
  • ZONE: Es la zona en la que deseas crear el MIG.
  • REGION: la región en la que deseas crear el MIG. En el caso de un MIG regional, en lugar de una región, puedes especificar las zonas de esa región con la marca --zones.

REST

Para crear un MIG con un tamaño objetivo especificado, realiza una solicitud POST.

Crea un MIG zonal o regional de la siguiente manera:

  • Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert. 
    POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": TARGET_SIZE
}
  • Para crear un MIG regional, realiza una solicitud POST al método regionInstanceGroupManagers.insert. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
  {
    "name": "MIG_NAME",
    "instanceTemplate": "INSTANCE_TEMPLATE_URL",
    "targetSize": TARGET_SIZE
  }
Reemplaza lo siguiente:
  • PROJECT_ID: Es el ID del proyecto.
  • ZONE: Es la zona en la que deseas crear el MIG.
  • REGION: la región en la que deseas crear el MIG.
  • INSTANCE_TEMPLATE_URL: Es la URL de la plantilla de instancias que deseas usar para crear instancias en el MIG. La URL puede contener el ID o el nombre de la plantilla de instancias. Especifica uno de los siguientes valores:
    • Para una plantilla de instancias regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Para una plantilla de instancias global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: Es el nombre del MIG.
  • TARGET_SIZE: Es la cantidad de instancias que deseas tener en el MIG.

Crea un MIG y una solicitud de cambio de tamaño

Si necesitas varias VMs a la vez para iniciar un trabajo, crea un MIG y una solicitud de cambio de tamaño en el MIG como se describe en esta sección.

Para crear una solicitud de cambio de tamaño en un MIG, selecciona una de las siguientes opciones:

gcloud

Los parámetros que debes especificar dependen de la opción de consumo que uses para esta implementación. Selecciona la pestaña que corresponda al modelo de aprovisionamiento de tu opción de consumo.

Reserva

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

A pedido

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

Inicio flexible

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

  • Para crear un MIG zonal y una solicitud de cambio de tamaño en él, haz lo siguiente:

    1. Crea un MIG zonal con el comando instance-groups managed create de la siguiente manera.

      gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \
    --zone=ZONE

    2. Crea una solicitud de cambio de tamaño en el MIG zonal con el comando instance-groups managed resize-requests create de la siguiente manera. Este comando especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --zone=ZONE

  • Para crear un MIG regional y una solicitud de cambio de tamaño en él, haz lo siguiente:

    1. Crea un MIG regional con el comando instance-groups managed create de la siguiente manera.

      gcloud compute instance-groups managed create MIG_NAME \
    --template=INSTANCE_TEMPLATE_URL \
    --size=0 \
    --default-action-on-vm-failure=do-nothing \

    --region=REGION \
    --target-distribution-shape=any-single-zone \
    --instance-redistribution-type=none

    2. Crea una solicitud de cambio de tamaño en el MIG regional con el comando instance-groups managed resize-requests create de la siguiente manera. Este comando especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 

      gcloud compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --resize-by=COUNT \
    --region=REGION

Spot

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:
Reemplaza lo siguiente:
  • MIG_NAME: Es el nombre del MIG.
  • INSTANCE_TEMPLATE_URL: Es la URL de la plantilla de instancias que deseas usar para crear instancias en el MIG. La URL puede contener el ID o el nombre de la plantilla de instancias. Especifica uno de los siguientes valores:
    • Para una plantilla de instancias regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Para una plantilla de instancias global: INSTANCE_TEMPLATE_ID
  • ZONE: Es la zona en la que deseas crear el MIG. En el caso de un MIG regional, también debes especificar una zona. Esta zona debe ser la que contiene el perfil de tu red de VPC y debe ser una zona en la que el tipo de máquina esté disponible. Para obtener más información, consulta Limitaciones.
  • RESIZE_REQUEST_NAME: El nombre de la solicitud de cambio de tamaño, que debe ser único dentro del MIG especificado. De lo contrario, la creación de la solicitud de cambio de tamaño fallará.
  • COUNT: Es la cantidad de instancias que se agregarán al MIG a la vez.
  • REGION: la región en la que deseas crear el MIG.

Crea una solicitud de cambio de tamaño especificando una lista de nombres de VM

Si tu carga de trabajo requiere nombres de VM específicos, especifica una lista de nombres para crear las VMs. La cantidad de nombres que especifiques determina la cantidad de VMs que el MIG crea a la vez.

Para crear una solicitud de cambio de tamaño con nombres de VM específicos en un MIG, usa el comando gcloud compute instance-groups managed resize-requests create beta con la marca --instances:

  • En un MIG zonal, ejecuta el siguiente comando:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --zone=ZONE

  • En un MIG regional, ejecuta el siguiente comando:

    gcloud beta compute instance-groups managed resize-requests create MIG_NAME \
    --resize-request=RESIZE_REQUEST_NAME \
    --instances=INSTANCE_NAMES \
    --region=REGION
Reemplaza INSTANCE_NAMES por una lista separada por comas de los nombres de las VMs. Por ejemplo, instance-1,instance-2,instance-3.

REST

Los parámetros que debes especificar dependen de la opción de consumo que uses para esta implementación. Selecciona la pestaña que corresponda al modelo de aprovisionamiento de tu opción de consumo.

Reserva

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

  • Para crear un MIG zonal y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Crea una solicitud de cambio de tamaño en el MIG zonal realizando una solicitud POST al método instanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Para crear un MIG regional y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Crea un MIG regional realizando una solicitud POST al método regionInstanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Crea una solicitud de cambio de tamaño en el MIG regional realizando una solicitud POST al método regionInstanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

A pedido

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

  • Para crear un MIG zonal y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Crea una solicitud de cambio de tamaño en el MIG zonal realizando una solicitud POST al método instanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Para crear un MIG regional y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Crea un MIG regional realizando una solicitud POST al método regionInstanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Crea una solicitud de cambio de tamaño en el MIG regional realizando una solicitud POST al método regionInstanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Inicio flexible

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

  • Para crear un MIG zonal y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Crea una solicitud de cambio de tamaño en el MIG zonal realizando una solicitud POST al método instanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Para crear un MIG regional y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Crea un MIG regional realizando una solicitud POST al método regionInstanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  },
  "instanceLifecyclePolicy": {
    "defaultActionOnFailure": "DO_NOTHING"
  }
}
    2. Crea una solicitud de cambio de tamaño en el MIG regional realizando una solicitud POST al método regionInstanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}

Spot

Crea un MIG zonal o regional y una solicitud de cambio de tamaño de la siguiente manera:

  • Para crear un MIG zonal y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Para crear un MIG zonal, realiza una solicitud POST al método instanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0
}
    2. Crea una solicitud de cambio de tamaño en el MIG zonal realizando una solicitud POST al método instanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
  • Para crear un MIG regional y una solicitud de cambio de tamaño en él, haz lo siguiente:
    1. Crea un MIG regional realizando una solicitud POST al método regionInstanceGroupManagers.insert de la siguiente manera. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers
{
  "versions": [
    {
      "instanceTemplate": "INSTANCE_TEMPLATE_URL"
    }
  ],
  "name": "MIG_NAME",
  "targetSize": 0,
  "distributionPolicy": {
    "targetShape": "ANY_SINGLE_ZONE",
    "zones": [
      {
        "zone": "projects/PROJECT_ID/zones/ZONE"
      }
    ]
  },
  "updatePolicy": {
    "instanceRedistributionType": "NONE"
  }
}
    2. Crea una solicitud de cambio de tamaño en el MIG regional realizando una solicitud POST al método regionInstanceGroupManagerResizeRequests.insert de la siguiente manera. En esta solicitud, se especifica la cantidad de VMs que deseas crear. Si tu carga de trabajo requiere nombres de VM específicos, crea una solicitud de cambio de tamaño especificando una lista de nombres de VM. 
      POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME/resizeRequests
{
  "name": "RESIZE_REQUEST_NAME",
  "resizeBy": COUNT
}
Reemplaza lo siguiente:
  • PROJECT_ID: Es el ID del proyecto.
  • ZONE: Es la zona en la que deseas crear el MIG. Esta zona debe ser la misma que contiene el perfil de tu red de VPC y debe ser una zona en la que esté disponible el tipo de máquina que elegiste. Para obtener más información, consulta Limitaciones.
  • REGION: la región en la que deseas crear el MIG. Esta región debe ser la misma que contiene el perfil de tu red de VPC y debe contener una zona en la que esté disponible el tipo de máquina que elegiste. Para obtener más información, consulta Limitaciones.
  • INSTANCE_TEMPLATE_URL: Es la URL de la plantilla de instancias que deseas usar para crear instancias en el MIG. La URL puede contener el ID o el nombre de la plantilla de instancias. Especifica uno de los siguientes valores:
    • Para una plantilla de instancias regional: projects/PROJECT_ID/regions/REGION/instanceTemplates/INSTANCE_TEMPLATE_ID
    • Para una plantilla de instancias global: INSTANCE_TEMPLATE_ID
  • MIG_NAME: Es el nombre del MIG.
  • RESIZE_REQUEST_NAME: El nombre de la solicitud de cambio de tamaño, que debe ser único dentro del MIG especificado. De lo contrario, la creación de la solicitud de cambio de tamaño fallará.
  • COUNT: Es la cantidad de instancias que se agregarán al MIG a la vez.

Crea una solicitud de cambio de tamaño especificando una lista de nombres de VM

Si tu carga de trabajo requiere nombres de VM específicos, especifica una lista de nombres para crear las VMs. La cantidad de nombres que especifiques determina la cantidad de VMs que el MIG crea a la vez.

Para crear una solicitud de cambio de tamaño con nombres de VM específicos en un MIG, usa uno de los siguientes métodos:

Por ejemplo, para especificar dos nombres de VM, incluye lo siguiente en el cuerpo de la solicitud:

{
  "name": "RESIZE_REQUEST_NAME",
  "instances": [
    {
      "name": "INSTANCE_NAME_1"
    },
    {
      "name": "INSTANCE_NAME_2"
    }
  ]
}

Reemplaza INSTANCE_NAME_1, INSTANCE_NAME_2 por los nombres de las VMs.

Instalar los controladores de GPU.

Después de crear una instancia, esta no puede usar sus GPUs a menos que ya estén instalados los controladores de GPU correctos. El controlador que debes instalar depende de si la instancia tiene GPUs fraccionarias o si tiene habilitada la estación de trabajo virtual (vWS) NVIDIA RTX. Usa una de las siguientes opciones:

Opcional: Habilita el modo de GPU de varias instancias de NVIDIA

El modo de GPU de instancias múltiples (MIG) es una función que puedes habilitar para una GPU de NVIDIA compatible. Después de crear una instancia, puedes habilitar el modo de MIG en una sola GPU conectada a tu máquina. Con el modo MIG habilitado, la GPU única se particiona en hasta siete instancias de GPU independientes. Cada instancia se ejecuta de manera simultánea, cada una con su propia memoria, caché y multiprocesadores de transmisión. Luego, puedes ejecutar diferentes cargas de trabajo en estas instancias de GPU en paralelo. El modo MIG es distinto del uso de tipos de máquinas G4 que tienen GPU fraccionarias conectadas, en el que varias cargas de trabajo comparten el acceso a una sola GPU física a través de la partición fraccionaria (GPU virtuales). Para obtener más información sobre el uso del modo MIG, consulta la Guía del usuario de GPU de instancias múltiples (MIG) en la documentación de NVIDIA.

Próximos pasos