Habilita los tiempos de ejecución predeterminados con GPUs

Para obtener asistencia durante la vista previa, envía un correo electrónico a vertex-notebooks-previews-external@google.com.

En este documento, se describe cómo habilitar un tiempo de ejecución predeterminado con GPUs para los usuarios de Colab Enterprise en un proyecto. Después de habilitar un entorno de ejecución predeterminado con GPUs, los usuarios pueden cambiar de un entorno de ejecución predeterminado normal a uno con GPUs haciendo clic en un botón de su notebook.

Este documento está dirigido a los administradores de Colab Enterprise que deseen habilitar tiempos de ejecución predeterminados con GPUs para otros usuarios de su organización. Se supone que tienes conocimientos sobre lo siguiente:

  • Cómo administrar los entornos de ejecución y las plantillas de entorno de ejecución de Colab Enterprise
  • Cómo usar Identity and Access Management (IAM) para controlar el acceso

Descripción general

Para permitir que los usuarios cambien a un entorno de ejecución predeterminado con GPUs, un administrador (roles/aiplatform.colabEnterpriseAdmin) o una cuenta de usuario con el permiso aiplatform.notebookRuntimeTemplates.create primero deben crear un entorno de ejecución predeterminado con GPUs.

La primera vez que creas un entorno de ejecución predeterminado con GPUs, Colab Enterprise crea una nueva plantilla de entorno de ejecución predeterminado que incluye GPUs en sus especificaciones. El tiempo de ejecución predeterminado original no se ve afectado y existe hasta que vence o se borra. Después de que se cree la nueva plantilla de entorno de ejecución predeterminado con GPU, cualquier usuario con el permiso aiplatform.notebookRuntimes.assign en el proyecto y el permiso aiplatform.notebookRuntimeTemplates.apply en la plantilla de entorno de ejecución podrá crear y usar un entorno de ejecución predeterminado con GPU. Estos permisos se incluyen en el rol de usuario de Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Especificaciones

El entorno de ejecución predeterminado con GPUs tiene especificaciones diferentes a las del entorno de ejecución predeterminado original. Los tipos de máquinas, las GPUs y los tipos de discos de datos disponibles varían según la región, por lo que algunas especificaciones pueden ser diferentes de tu entorno de ejecución predeterminado original.

En la siguiente tabla, se describen las especificaciones de un tiempo de ejecución predeterminado con GPUs según la región del tiempo de ejecución predeterminado.

Descripción de la región Especificaciones de entorno de ejecución predeterminado
Regiones que admiten GPUs L4
  • Tipo de máquina: g2-standard-4
  • Acelerador: 1 acelerador NVIDIA_L4
  • Disco de datos: 100 GB pd-balanced
Regiones que no admiten GPUs L4, pero sí admiten GPUs T4
  • Tipo de máquina: n1-standard-4
  • Acelerador: 1 acelerador NVIDIA_TESLA_T4
  • Disco de datos: 100 GB pd-standard
Regiones que no admiten GPU L4 o T4 No se admiten los tiempos de ejecución predeterminados con GPUs.

Disponibilidad del acelerador

Colab Enterprise admite entornos de ejecución predeterminados con los siguientes tipos de aceleradores:

  • L4
  • T4

Para obtener información sobre la disponibilidad regional de estos aceleradores, consulta Usa aceleradores.

Antes de comenzar

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  8. Roles obligatorios

    Para asegurarte de que tu cuenta de usuario tenga los permisos necesarios para habilitar los tiempos de ejecución predeterminados con GPUs en Colab Enterprise, pídele a tu administrador que le otorgue el rol de IAM de administrador de Colab Enterprise (roles/aiplatform.colabEnterpriseAdmin) en el proyecto.

    Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

    Es posible que tu administrador también pueda otorgar a tu cuenta de usuario los permisos necesarios a través de roles personalizados o de otros roles predefinidos.

    Habilita las GPUs para los tiempos de ejecución predeterminados

    Para habilitar las GPUs para los tiempos de ejecución predeterminados, haz lo siguiente:

    1. En la consola de Google Cloud , ve a la página Mis notebooks de Colab Enterprise.

      Ir a Mis notebooks

    2. En el menú Región, selecciona la región que contiene el notebook.

    3. Haz clic en el notebook que quieras abrir. Si aún no creaste un notebook, crea uno.

    4. En tu notebook, haz clic en Conectar.

    5. Después de que Colab Enterprise se conecte al entorno de ejecución predeterminado, haz clic en el botón de la esquina superior derecha del notebook para cambiar a un entorno de ejecución predeterminado con GPUs. Por ejemplo, si tu notebook está en una región que admite aceleradores L4, haz clic en Cambiar a L4.

    Colab Enterprise crea un nuevo entorno de ejecución predeterminado que tiene GPUs y, luego, se conecta al entorno de ejecución. Se habilitó la capacidad de cambiar a un entorno de ejecución predeterminado con GPUs para otros usuarios del proyecto.

    Cómo desactivar las GPUs para los tiempos de ejecución predeterminados

    Para desactivar la capacidad de cambiar a un entorno de ejecución predeterminado con GPUs, debes borrar la plantilla de entorno de ejecución llamada Default with GPU. Consulta Cómo borrar una plantilla de entorno de ejecución.

    Limitaciones

    • Los tiempos de ejecución predeterminados con GPU solo están disponibles en las regiones que admiten la disponibilidad de aceleradores específicos. Consulta Disponibilidad de los aceleradores.

    • Primero debes conectar un notebook a un entorno de ejecución predeterminado para poder cambiar a un entorno de ejecución predeterminado con GPUs.

    ¿Qué sigue?