En este documento, se explica cómo crear y ejecutar un trabajo que use una unidad de procesamiento gráfico (GPU). Para obtener más información sobre las funciones y restricciones de las GPU, consulta Acerca de las GPU en la documentación de Compute Engine.
Cuando creas un trabajo por lotes, puedes usar GPU de forma opcional para acelerar cargas de trabajo específicas. Entre los casos de uso comunes para los trabajos que usan GPU, se incluyen las cargas de trabajo de procesamiento de datos intensivo y de inteligencia artificial (IA), como el aprendizaje automático (AA). Como alternativa, puedes acelerar las cargas de trabajo de IA y ML usando TPU.
Antes de comenzar
- Si nunca usaste Batch, consulta Comienza a usar Batch y habilita Batch completando los requisitos previos para proyectos y usuarios.
-
Para obtener los permisos que necesitas para crear un trabajo, pídele a tu administrador que te otorgue los siguientes roles de IAM:
- Editor de trabajos por lotes (
roles/batch.jobsEditor) en el proyecto - Usuario de cuenta de servicio (
roles/iam.serviceAccountUser) en la cuenta de servicio del trabajo, que, de forma predeterminada, es la cuenta de servicio predeterminada de Compute Engine
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.
- Editor de trabajos por lotes (
Crea un trabajo que use GPU
Para crear un trabajo que use GPU, haz lo siguiente:
- Planifica la configuración de un trabajo que use GPUs.
- Crea un trabajo con los requisitos y métodos que identificaste. Para ver ejemplos de cómo crear un trabajo con las opciones recomendadas, consulta Crea un trabajo que use GPUs en este documento.
Planifica la configuración de un trabajo que use GPUs
Antes de crear un trabajo que use GPUs, planifica los requisitos de configuración del trabajo, como se explica en las siguientes secciones:
- Selecciona el tipo de máquina de GPU y la opción de consumo
- Instala los controladores de GPU.
- Define recursos de VM compatibles
Paso 1: Selecciona el tipo de máquina de GPU y la opción de consumo
Los requisitos de un trabajo varían según el tipo de máquina de GPU y la opción de consumo que prefieras, y las opciones de cada uno pueden ser interdependientes.
Para seleccionar el tipo de máquina de GPU y la opción de consumo para tu trabajo, completa los siguientes pasos:
Identifica y selecciona tu prioridad:
- Si deseas priorizar el rendimiento y los precios base, consulta la sección Selecciona el tipo de máquina de GPU de este documento.
- Si deseas priorizar la disponibilidad de recursos o los descuentos, consulta la sección Selecciona la opción de consumo de este documento.
Realiza la selección restante en función de lo que sea compatible con tu primera selección.
Para identificar las opciones que son compatibles con tu primera selección, consulta Disponibilidad de las opciones de consumo por tipo de máquina en la documentación de Compute Engine.
Consulta la sección restante para Seleccionar la opción de consumo o Seleccionar el tipo de máquina de GPU, respectivamente.
Selecciona el tipo de máquina de GPU
Para seleccionar el tipo de máquina de GPU para un trabajo y comprender sus requisitos, completa los siguientes pasos:
Selecciona un tipo de máquina de GPU: Para revisar los tipos de máquinas de GPU disponibles (las combinaciones válidas de tipo de GPU, cantidad de GPU y tipo de máquina [CPU virtuales y memoria]) y sus casos de uso recomendados, consulta Tipos de máquinas de GPU y Familia de máquinas optimizadas para aceleradores en la documentación de Compute Engine.
Comprende los requisitos del trabajo para tu tipo de máquina de GPU: Los campos obligatorios para que un trabajo especifique un tipo de máquina de GPU varían según las categorías de la siguiente tabla:
Tipos de máquinas de GPU y sus requisitos de trabajo GPU para VMs optimizadas para aceleradores: Las VMs con un tipo de máquina de la familia de máquinas optimizadas para aceleradores tienen un tipo y una cantidad específicos de estas GPU conectadas de forma automática.
Para usar GPU en VMs optimizadas para aceleradores, te recomendamos que especifiques el tipo de máquina. Cada tipo de máquina optimizada para aceleradores solo admite un tipo y una cantidad específicos de GPU, por lo que es funcionalmente equivalente si especificas o no esos valores, además del tipo de máquina optimizada para aceleradores.
En particular, Batch también admite especificar solo el tipo y la cantidad de GPU para las VMs optimizadas para aceleradores, pero las opciones de CPU virtuales y memoria resultantes suelen ser muy limitadas. Por lo tanto, te recomendamos que verifiques que las opciones de CPU virtual y memoria disponibles sean compatibles con los requisitos de la tarea del trabajo.
GPU para VMs N1: Estas GPU requieren que especifiques el tipo y la cantidad que se conectarán a cada VM, y deben conectarse a VMs con un tipo de máquina de la serie de máquinas N1.
Para usar GPU en VMs N1, te recomendamos que especifiques, al menos, el tipo y la cantidad de GPU. Asegúrate de que la combinación de valores coincida con una de las opciones de GPU válidas para los tipos de máquinas N1. Las opciones de CPU virtual y memoria para las VMs N1 que usan cualquier tipo y cantidad de GPU son bastante flexibles. A menos que crees el trabajo con la consola de Google Cloud , puedes permitir que Batch seleccione automáticamente un tipo de máquina que cumpla con los requisitos de la tarea del trabajo.
Selecciona la opción de consumo
En esta sección, se resume cómo seleccionar la opción de consumo para un trabajo y los requisitos de trabajo de cada opción.
En la siguiente tabla, se explican las opciones de consumo disponibles para Batch y sus requisitos de trabajo. En esta tabla, se enumeran las opciones de consumo según sus casos de uso, desde la más alta hasta la más baja. Asegúrate de que la opción de consumo que selecciones también cumpla con tus requisitos de precios, tiempo de ejecución y compatibilidad con el tipo de máquina. Para obtener más información sobre cómo elegir una opción de consumo, consulta también Mejora la obtención de recursos, la documentación de Compute Engine para los modelos de aprovisionamiento y la documentación de AI Hypercomputer para las opciones de consumo.
| Opciones de consumo y sus requisitos de trabajo | |
|---|---|
Reservas
|
Batch usa reservas para trabajos que pueden consumir VMs reservadas sin usar. Para obtener más información sobre los requisitos de los trabajos para consumir reservas, consulta la página Garantiza la disponibilidad de los recursos con VM VMs. |
Reservas en modo Calendario
|
Batch usa reservas en modo Calendario para los trabajos que cumplen con todas las siguientes condiciones:
|
VMs de inicio flexible
|
Batch usa VMs de inicio flexible para los trabajos que cumplen con todas las siguientes condiciones:
|
A pedido
|
De forma predeterminada, Batch usa el modo on-demand para la mayoría de los trabajos. Si quieres asegurarte de que un trabajo use el modelo on demand, haz todo lo siguiente:1
1Excepción: Para los trabajos que usan la serie de máquinas A3, el comportamiento predeterminado es único, y te recomendamos que no uses el comportamiento on-demand y que no dejes el campo |
VMs Spot
|
Batch usa VMs Spot para los trabajos que hacen todo lo siguiente:
|
Paso 2: Instala los controladores de GPU
Para usar GPU en un trabajo, debes instalar los controladores de GPU. Para instalar controladores de GPU, selecciona uno de los siguientes métodos:
Instala controladores de GPU automáticamente (se recomienda si es posible): Como se muestra en los ejemplos, para permitir que Batch recupere los controladores de GPU necesarios de una ubicación de terceros y los instale en tu nombre, establece el campo
installGpuDriversdel trabajo entrue. Se recomienda este método si tu trabajo no requiere que instales controladores de forma manual.De manera opcional, si necesitas especificar qué versión del controlador de GPU instala Batch, también configura el campo
driverVersion.Instala los controladores de GPU de forma manual: Este método es obligatorio si se cumple alguna de las siguientes condiciones:
- Un trabajo usa ejecutables de secuencia de comandos y de contenedor, y no tiene acceso a Internet. Para obtener más información sobre el acceso que tiene un trabajo, consulta Descripción general de las herramientas de redes de Batch.
- Un trabajo usa una imagen de VM personalizada. Para obtener más información sobre las imágenes de SO de VM y cuáles puedes usar, consulta Descripción general del entorno de SO de VM.
- Un trabajo usa
la flexibilidad de instancias y
permite al menos un tipo de máquina con una cantidad fraccionaria de GPU
(por ejemplo,
g4-standard-6tiene 1/8 de una GPU) y al menos un tipo de máquina con una cantidad entera de GPU (la mayoría de los tipos de máquinas de GPU).
Para instalar de forma manual los controladores de GPU necesarios, se recomienda el siguiente método:
Crea una imagen de VM personalizada que incluya los controladores de GPU.
Para instalar controladores de GPU, ejecuta una secuencia de comandos de instalación según el SO que quieras usar:
Si tu trabajo tiene ejecutables de contenedor y no usa Container-Optimized OS, también debes instalar el NVIDIA Container Toolkit.
Cuando crees y envíes un trabajo que use GPUs, especifica la imagen de VM personalizada que incluye los controladores de GPU y establece el campo
installGpuDriverspara el trabajo enfalse(predeterminado).
Paso 3: Define los recursos de VM compatibles
Para obtener información sobre los requisitos y las opciones para definir los recursos de VM de un trabajo, consulta Recursos del trabajo.
En resumen, debes hacer todo lo siguiente cuando definas los recursos de VM para un trabajo que use GPUs:
Asegúrate de que el tipo de máquina de GPU esté disponible en la ubicación de las VMs de tu trabajo.
Para saber dónde están disponibles los tipos de máquinas con GPU, consulta Ubicaciones de GPU en la documentación de Compute Engine.
Si especificas el tipo de máquina del trabajo, asegúrate de que tenga suficientes CPU virtuales y memoria para los requisitos de la tarea del trabajo. Especificar el tipo de máquina del trabajo es obligatorio cada vez que creas un trabajo con la consola de Google Cloud y se recomienda cada vez que creas un trabajo que usa GPU para VMs optimizadas para aceleradores.
Asegúrate de definir los recursos de VM para un trabajo con un método válido:
- Define los recursos de la VM directamente con el campo
instances[].policy(se recomienda si es posible). Este método se muestra en los ejemplos. - Define los recursos de la VM a través de una plantilla con el campo
instances[].instanceTemplate. Este método es necesario para instalar de forma manual los controladores de GPU a través de una imagen personalizada. Para obtener más información, consulta Define recursos de trabajo con una plantilla de instancias de VM.
- Define los recursos de la VM directamente con el campo
Crea un trabajo que use GPU
En las siguientes secciones, se explica cómo crear un trabajo de ejemplo para cada opción de consumo. Específicamente, los trabajos de ejemplo usan las opciones recomendadas: todos instalan controladores de GPU de forma automática y todos definen directamente los recursos de VM.
| Opción de consumo | Ejemplo de instrucciones de trabajo |
|---|---|
| Reservas o reservas en modo de calendario | |
| VMs de inicio flexible | |
| VMs a pedido o VMs Spot |
Selecciona una de las siguientes opciones según el tipo de máquina de GPU: |
Usa GPUs y VMs de inicio flexible
Puedes crear un trabajo que use GPUs para VMs A3 con Dynamic Workload Scheduler a través de gcloud CLI o la API de Batch.
gcloud
Crea un archivo JSON que instale controladores de GPU, especifique un tipo de máquina de GPU que admita VMs de inicio flexible, bloquee las reservas y se ejecute en una ubicación que admita el tipo de máquina de GPU.
Por ejemplo, para crear un trabajo de secuencia de comandos básico que use VMs de inicio flexible y GPUs para VMs optimizadas para aceleradores, crea un archivo JSON con el siguiente contenido.
{ "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}." } } ] }, "taskCount": 3, "parallelism": 1 } ], "allocationPolicy": { "instances": [ { "installGpuDrivers": INSTALL_GPU_DRIVERS, "policy": { "provisioningModel":"FLEX_START", "machineType": "MACHINE_TYPE", "reservation": "NO_RESERVATION" } } ], "location": { "allowedLocations": [ "ALLOWED_LOCATIONS" ] } }, "logsPolicy": { "destination": "CLOUD_LOGGING" } }Reemplaza lo siguiente:
INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.MACHINE_TYPE: Es un tipo de máquina de GPU que admite VMs de inicio flexible. Para obtener más información, consulta Disponibilidad de la opción de consumo por tipo de máquina en la documentación de Compute Engine.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Para crear y ejecutar el trabajo, usa el comando
gcloud batch jobs submit:gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILEReemplaza lo siguiente:
JOB_NAME: Es el nombre del trabajo.LOCATION: Es la ubicación del trabajo.JSON_CONFIGURATION_FILE: Es la ruta de acceso a un archivo JSON con los detalles de configuración del trabajo.
API
Realiza una solicitud POST al
método jobs.create
que instale controladores de GPU, especifique un tipo de máquina de GPU que admita
VMs de inicio flexible, bloquee las reservas y se ejecute en una ubicación que
admita el tipo de máquina de GPU.
Por ejemplo, para crear un trabajo de secuencia de comandos básico que use VMs de inicio flexible y GPUs para VMs con optimización de aceleradores, realiza la siguiente solicitud:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"script": {
"text": "echo Hello world from task ${BATCH_TASK_INDEX}."
}
}
]
},
"taskCount": 3,
"parallelism": 1
}
],
"allocationPolicy": {
"instances": [
{
"installGpuDrivers": INSTALL_GPU_DRIVERS,
"policy": {
"provisioningModel":"FLEX_START",
"machineType": "MACHINE_TYPE",
"reservation": "NO_RESERVATION"
}
}
],
"location": {
"allowedLocations": [
"ALLOWED_LOCATIONS"
]
}
},
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto de tu proyecto.LOCATION: Es la ubicación del trabajo.JOB_NAME: Es el nombre del trabajo.INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.MACHINE_TYPE: Es un tipo de máquina de GPU que admite VMs de inicio flexible. Para obtener más información, consulta Disponibilidad de la opción de consumo por tipo de máquina en la documentación de Compute Engine.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Usa GPUs para VMs optimizadas para aceleradores
Puedes crear un trabajo que use GPUs para VMs optimizadas para aceleradores con la consola deGoogle Cloud , gcloud CLI, la API de Batch, Java, Node.js o Python.
Console
Para crear un trabajo que use GPUs con la consola de Google Cloud , haz lo siguiente:
En la consola de Google Cloud , ve a la página Lista de trabajos.
Haz clic en Crear. Se abrirá la página Crear trabajo por lotes. En el panel izquierdo, se selecciona la página Detalles del trabajo.
Configura la página Detalles del trabajo:
Opcional: En el campo Nombre del trabajo, personaliza el nombre del trabajo.
Por ejemplo, ingresa
example-gpu-job.Configura la sección Detalles de la tarea:
En la ventana Nuevo ejecutable, agrega al menos una secuencia de comandos o un contenedor para que se ejecute este trabajo.
Por ejemplo, para crear un trabajo de secuencia de comandos básico, haz lo siguiente:
Selecciona la casilla de verificación Secuencia de comandos. Aparecerá un campo.
En el campo, ingresa la siguiente secuencia de comandos:
echo Hello world from task ${BATCH_TASK_INDEX}.Haz clic en Listo.
En el campo Recuento de tareas, ingresa la cantidad de tareas para este trabajo.
Por ejemplo, ingresa
3.Opcional: En el campo Paralelismo, ingresa la cantidad de tareas que se ejecutarán de forma simultánea.
Por ejemplo, ingresa
1(predeterminado).
Configura la página Especificaciones de los recursos:
En el panel izquierdo, haz clic en Especificaciones de recursos. Se abrirá la página Especificaciones de recursos.
En la sección Modelo de aprovisionamiento de VMs, selecciona una de las siguientes opciones para la opción de consumo de las VMs de este trabajo:
Si tu trabajo puede soportar la interrupción y deseas VMs Spot con descuento, selecciona Spot.
De lo contrario, para usar VMs on demand, selecciona Estándar (predeterminado).
Selecciona la ubicación de este trabajo.
En el campo Región, selecciona una.
En el campo Zona, realiza una de las siguientes acciones:
Si quieres restringir este trabajo para que se ejecute solo en una zona específica, selecciona una zona.
De lo contrario, selecciona any (opción predeterminada).
En la sección Configuración del tipo de máquina, selecciona el tipo de máquina de GPU para las VMs de este trabajo:
Para especificar un tipo de máquina, selecciona Tipo de máquina fijo (predeterminado).
En las opciones de familia de máquinas, haz clic en GPU.
En el campo Tipo de GPU, selecciona el tipo de GPU. Luego, en el campo Cantidad de GPU, selecciona la cantidad de GPU para cada VM.
Si seleccionaste uno de los tipos de GPU para VMs optimizadas para aceleradores, el campo Tipo de máquina solo permite una opción para el tipo de máquina según el tipo y la cantidad de GPU que seleccionaste.
Para instalar automáticamente los controladores de GPU, selecciona Instalación del controlador de GPU (predeterminado).
En la sección Recursos de la tarea, configura la cantidad de recursos de VM necesarios para cada tarea:
En el campo Núcleos, ingresa la cantidad de vCPUs por tarea.
Por ejemplo, ingresa
1(predeterminado).En el campo Memoria, ingresa la cantidad de RAM en GB por tarea.
Por ejemplo, ingresa
0.5(predeterminado).
Haz clic en Listo.
Opcional: Configura los otros campos para este trabajo.
Opcional: Para revisar la configuración del trabajo, en el panel izquierdo, haz clic en Vista previa.
Haz clic en Crear.
En la página Detalles del trabajo, se muestra el trabajo que creaste.
gcloud
Crea un archivo JSON que instale controladores de GPU, especifique un tipo de máquina de la familia de máquinas optimizadas para aceleradores y se ejecute en una ubicación que tenga el tipo de máquina de GPU.
Por ejemplo, para crear un trabajo de secuencia de comandos básico que use GPUs para VMs optimizadas para aceleradores, crea un archivo JSON con el siguiente contenido:
{ "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}." } } ] }, "taskCount": 3, "parallelism": 1 } ], "allocationPolicy": { "instances": [ { "installGpuDrivers": INSTALL_GPU_DRIVERS, "policy": { "provisioningModel": "PROVISIONING_MODEL", "machineType": "MACHINE_TYPE", "reservation": "NO_RESERVATION" } } ], "location": { "allowedLocations": [ "ALLOWED_LOCATIONS" ] } }, "logsPolicy": { "destination": "CLOUD_LOGGING" } }Reemplaza lo siguiente:
INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.PROVISIONING_MODEL: Es el modelo de aprovisionamiento para tu opción de consumo:STANDARDpara bajo demanda oSPOTpara VMs Spot.MACHINE_TYPE: Es un tipo de máquina de la familia de máquinas con optimización de acelerador.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Para crear y ejecutar el trabajo, usa el comando
gcloud batch jobs submit:gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILEReemplaza lo siguiente:
JOB_NAME: Es el nombre del trabajo.LOCATION: Es la ubicación del trabajo.JSON_CONFIGURATION_FILE: Es la ruta de acceso a un archivo JSON con los detalles de configuración del trabajo.
API
Realiza una solicitud POST al
método jobs.create
que instale controladores de GPU, especifique un tipo de máquina de la
familia de máquinas optimizada para aceleradores y se ejecute en una ubicación que tenga el
tipo de máquina de GPU.
Por ejemplo, para crear un trabajo de secuencia de comandos básico que use GPUs para VMs optimizadas para aceleradores, realiza la siguiente solicitud:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"script": {
"text": "echo Hello world from task ${BATCH_TASK_INDEX}."
}
}
]
},
"taskCount": 3,
"parallelism": 1
}
],
"allocationPolicy": {
"instances": [
{
"installGpuDrivers": INSTALL_GPU_DRIVERS,
"policy": {
"provisioningModel": "PROVISIONING_MODEL",
"machineType": "MACHINE_TYPE",
"reservation": "NO_RESERVATION"
}
}
],
"location": {
"allowedLocations": [
"ALLOWED_LOCATIONS"
]
}
},
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto de tu proyecto.LOCATION: Es la ubicación del trabajo.JOB_NAME: Es el nombre del trabajo.INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.PROVISIONING_MODEL: Es el modelo de aprovisionamiento para tu opción de consumo:STANDARDpara bajo demanda oSPOTpara VMs Spot.MACHINE_TYPE: Es un tipo de máquina de la familia de máquinas con optimización de acelerador.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Java
Node.js
Python
Usa GPU para VMs N1
Puedes crear un trabajo que use GPU para VMs N1 con la consola de Google Cloud , gcloud CLI, la API de Batch, Java, Node.js o Python.
Console
Para crear un trabajo que use GPUs con la consola de Google Cloud , haz lo siguiente:
En la consola de Google Cloud , ve a la página Lista de trabajos.
Haz clic en Crear. Se abrirá la página Crear trabajo por lotes. En el panel izquierdo, se selecciona la página Detalles del trabajo.
Configura la página Detalles del trabajo:
Opcional: En el campo Nombre del trabajo, personaliza el nombre del trabajo.
Por ejemplo, ingresa
example-gpu-job.Configura la sección Detalles de la tarea:
En la ventana Nuevo ejecutable, agrega al menos una secuencia de comandos o un contenedor para que se ejecute este trabajo.
Por ejemplo, para crear un trabajo de secuencia de comandos básico, haz lo siguiente:
Selecciona la casilla de verificación Secuencia de comandos. Aparecerá un campo.
En el campo, ingresa la siguiente secuencia de comandos:
echo Hello world from task ${BATCH_TASK_INDEX}.Haz clic en Listo.
En el campo Recuento de tareas, ingresa la cantidad de tareas para este trabajo.
Por ejemplo, ingresa
3.Opcional: En el campo Paralelismo, ingresa la cantidad de tareas que se ejecutarán de forma simultánea.
Por ejemplo, ingresa
1(predeterminado).
Configura la página Especificaciones de los recursos:
En el panel izquierdo, haz clic en Especificaciones de recursos. Se abrirá la página Especificaciones de recursos.
En la sección Modelo de aprovisionamiento de VMs, selecciona una de las siguientes opciones para la opción de consumo de las VMs de este trabajo:
Si tu trabajo puede soportar la interrupción y deseas VMs Spot con descuento, selecciona Spot.
De lo contrario, para usar VMs on demand, selecciona Estándar (predeterminado).
Selecciona la ubicación de este trabajo.
En el campo Región, selecciona una.
En el campo Zona, realiza una de las siguientes acciones:
Si quieres restringir este trabajo para que se ejecute solo en una zona específica, selecciona una zona.
De lo contrario, selecciona any (opción predeterminada).
En la sección Configuración del tipo de máquina, selecciona el tipo de máquina de GPU para las VMs de este trabajo:
Para especificar un tipo de máquina, selecciona Tipo de máquina fijo (predeterminado).
En las opciones de familia de máquinas, haz clic en GPU.
En el campo Tipo de GPU, selecciona el tipo de GPU.
Si seleccionaste uno de los tipos de GPU para VMs N1, el campo Serie se establece en N1.
En el campo Cantidad de GPU, selecciona la cantidad de GPU para cada VM.
En el campo Tipo de máquina, selecciona el tipo de máquina.
Para instalar automáticamente los controladores de GPU, selecciona Instalación del controlador de GPU (predeterminado).
En la sección Recursos de la tarea, configura la cantidad de recursos de VM que se requieren para cada tarea:
En el campo Núcleos, ingresa la cantidad de vCPUs por tarea.
Por ejemplo, ingresa
1(predeterminado).En el campo Memoria, ingresa la cantidad de RAM en GB por tarea.
Por ejemplo, ingresa
0.5(predeterminado).
Haz clic en Listo.
Opcional: Configura los otros campos para este trabajo.
Opcional: Para revisar la configuración del trabajo, en el panel izquierdo, haz clic en Vista previa.
Haz clic en Crear.
En la página Detalles del trabajo, se muestra el trabajo que creaste.
gcloud
Crea un archivo JSON que instale controladores de GPU, defina los subcampos
typeycountdel campoaccelerators[]y se ejecute en una ubicación que tenga el tipo de máquina de GPU.Por ejemplo, para crear un trabajo de secuencia de comandos básico que use GPUs para VMs N1 y permita que Batch seleccione el tipo de máquina N1 exacto, crea un archivo JSON con el siguiente contenido:
{ "taskGroups": [ { "taskSpec": { "runnables": [ { "script": { "text": "echo Hello world from task ${BATCH_TASK_INDEX}." } } ] }, "taskCount": 3, "parallelism": 1 } ], "allocationPolicy": { "instances": [ { "installGpuDrivers": INSTALL_GPU_DRIVERS, "policy": { "provisioningModel": "PROVISIONING_MODEL", "reservation": "NO_RESERVATION", "accelerators": [ { "type": "GPU_TYPE", "count": GPU_COUNT } ] } } ], "location": { "allowedLocations": [ "ALLOWED_LOCATIONS" ] } }, "logsPolicy": { "destination": "CLOUD_LOGGING" } }Reemplaza lo siguiente:
INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.PROVISIONING_MODEL: Es el modelo de aprovisionamiento para tu opción de consumo:STANDARDpara bajo demanda oSPOTpara VMs Spot.GPU_TYPE: Es el tipo de GPU. Puedes ver una lista de los tipos de GPU disponibles con el comandogcloud compute accelerator-types list. Usa este campo solo para las GPU de las VMs N1.GPU_COUNT: Es la cantidad de GPU del tipo especificado. Para obtener más información sobre las opciones válidas, consulta los tipos de máquinas de GPU para la serie de máquinas N1. Usa este campo solo para las GPU de las VMs N1.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Para crear y ejecutar el trabajo, usa el comando
gcloud batch jobs submit:gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILEReemplaza lo siguiente:
JOB_NAME: Es el nombre del trabajo.LOCATION: Es la ubicación del trabajo.JSON_CONFIGURATION_FILE: Es la ruta de acceso a un archivo JSON con los detalles de configuración del trabajo.
API
Realiza una solicitud POST al
método jobs.create
que instale los controladores de GPU, defina los
subcampos type y count
del campo accelerators[] y use una ubicación que tenga el tipo de máquina
de GPU.
Por ejemplo, para crear un trabajo de secuencia de comandos básico que use GPUs para VMs N1 y permita que Batch seleccione el tipo de máquina N1 exacto, realiza la siguiente solicitud:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"script": {
"text": "echo Hello world from task ${BATCH_TASK_INDEX}."
}
}
]
},
"taskCount": 3,
"parallelism": 1
}
],
"allocationPolicy": {
"instances": [
{
"installGpuDrivers": INSTALL_GPU_DRIVERS,
"policy": {
"provisioningModel": "PROVISIONING_MODEL",
"reservation": "NO_RESERVATION",
"accelerators": [
{
"type": "GPU_TYPE",
"count": GPU_COUNT
}
]
}
}
],
"location": {
"allowedLocations": [
"ALLOWED_LOCATIONS"
]
}
},
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto de tu proyecto.LOCATION: Es la ubicación del trabajo.JOB_NAME: Es el nombre del trabajo.INSTALL_GPU_DRIVERS: Indica si se deben instalar automáticamente los controladores de GPU. Cuando se establece entrue, Batch recupera los controladores necesarios para el tipo de GPU que especificas en el campopolicydesde una ubicación de terceros, y Batch los instala en tu nombre. Si configuras este campo comofalse(predeterminado), debes instalar los controladores de GPU de forma manual para usar cualquier GPU en este trabajo.PROVISIONING_MODEL: Es el modelo de aprovisionamiento para tu opción de consumo:STANDARDpara bajo demanda oSPOTpara VMs Spot.GPU_TYPE: Es el tipo de GPU. Puedes ver una lista de los tipos de GPU disponibles con el comandogcloud compute accelerator-types list. Usa este campo solo para las GPU de las VMs N1.GPU_COUNT: Es la cantidad de GPU del tipo especificado. Para obtener más información sobre las opciones válidas, consulta Tipos de máquinas de GPU para la serie de máquinas N1. Usa este campo solo para las GPU de las VMs N1.ALLOWED_LOCATIONS: son las ubicaciones permitidas para el trabajo. Asegúrate de que la ubicación de los recursos de Compute Engine del trabajo ofrezca el tipo de máquina de GPU que deseas para este trabajo con una de las siguientes opciones:- De forma predeterminada, si omites el campo
allowedLocations[], un trabajo se ejecuta en los recursos de Compute Engine que se crean en la región de ubicación del trabajo (LOCATION). - De forma opcional, si incluyes el
campo
allowedLocations[], el trabajo solo se puede ejecutar en los recursos de Compute Engine que se crean en las ubicaciones especificadas.
- De forma predeterminada, si omites el campo
Java
Node.js
Python
¿Qué sigue?
- Si tienes problemas para crear o ejecutar un trabajo, consulta Solución de problemas.
- Consulta trabajos y tareas.
- Obtén más información sobre las opciones de creación de trabajos.