启用带 GPU 的默认运行时

启用带 GPU 的默认运行时

预览版

此功能 受服务专用条款的约束。 非正式版功能“按原样”提供，且可能仅提供有限支持。 如需了解详情，请参阅发布阶段说明。

若要在预览版期间获得支持，请发送电子邮件至 [e-mail]。

本文档介绍了如何为项目中的 Colab Enterprise 用户启用具有 GPU 的默认运行时。在启用具有 GPU 的默认运行时后，用户可以通过点击笔记本中的按钮，从常规默认运行时切换到具有 GPU 的默认运行时。

本文档适用于希望为组织中的其他用户启用带 GPU 的默认运行时的 Colab Enterprise 管理员。本教程假定您了解以下内容：

• 如何管理 Colab Enterprise 运行时和运行时模板。
• 如何使用 Identity and Access Management (IAM) 控制访问权限。

概览

如需让用户切换到带 GPU 的默认运行时，管理员 (roles/aiplatform.colabEnterpriseAdmin) 或具有 aiplatform.notebookRuntimeTemplates.create 权限的用户账号必须先创建带 GPU 的默认运行时。

首次创建带 GPU 的默认运行时时，Colab Enterprise 会创建一个新的默认运行时模板，其中包含 GPU 规范。原始默认运行时不受影响，并且会一直存在，直到过期或被删除。创建带 GPU 的新默认运行时模板后，任何对项目具有 aiplatform.notebookRuntimes.assign 权限且对运行时模板具有 aiplatform.notebookRuntimeTemplates.apply 权限的用户都可以创建和使用带 GPU 的默认运行时。这些权限包含在 Colab Enterprise User (roles/aiplatform.colabEnterpriseUser) 角色中。

规格

带 GPU 的默认运行时与原始默认运行时的规范不同。可用的机器类型、GPU 和数据磁盘类型因区域而异，因此某些规范可能与原始默认运行时不同。

下表介绍了基于默认运行时区域的 GPU 默认运行时规范。

区域说明	默认运行时规范
支持 L4 GPU 的区域	机器类型：g2-standard-4 加速器：1 个 NVIDIA_L4 加速器 数据磁盘：100 GB pd-balanced
不支持 L4 GPU 但支持 T4 GPU 的区域	机器类型：n1-standard-4 加速器：1 个 NVIDIA_TESLA_T4 加速器 数据磁盘：100 GB pd-standard
不支持 L4 或 T4 GPU 的区域	不支持带 GPU 的默认运行时。

加速器可用性

Colab Enterprise 支持具有以下加速器类型的默认运行时：

• L4
• T4

如需了解这些加速器的区域级可用性，请参阅使用加速器。

准备工作

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

所需的角色

如需确保您的用户账号具有在 Colab Enterprise 中启用含 GPU 的默认运行时所需的权限，请让您的管理员向您的用户账号授予项目的 Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) IAM 角色。

重要提示：您必须向您的用户账号（而不是向您的用户账号）授予此角色。如果未能向正确的主账号授予此角色，可能会导致权限错误。
如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

您的管理员还可以通过自定义角色或其他预定义角色向您的用户账号授予所需的权限。

一个或多个必需的角色可提供 dataform.repositories.list 权限。在项目中被授予 dataform.repositories.list 权限或 Code Creator (roles/dataform.codeCreator) 角色的用户可以使用 Dataform API 或 Dataform 命令行界面 (CLI) 列出该项目中代码资产的名称。使用 BigQuery Studio 的非管理员只能看到他们创建或与他们共享的代码资产。

为默认运行时启用 GPU

如需为默认运行时启用 GPU，请执行以下操作：

1. 在 Google Cloud 控制台中，前往 Colab Enterprise 我的笔记本页面。

   前往我的笔记本

2. 在区域菜单中，选择包含笔记本的区域。

3. 点击您要打开的笔记本。如果您尚未创建笔记本，请创建一个笔记本。

4. 在笔记本中，点击连接。
   

5. Colab Enterprise 连接到默认运行时后，在笔记本的右上角，点击相应按钮切换到具有 GPU 的默认运行时。例如，如果您的笔记本位于支持 L4 加速器的区域，请点击切换到 L4。
   

Colab Enterprise 会创建具有 GPU 的新默认运行时，然后连接到该运行时。项目中的其他用户可以切换到具有 GPU 的默认运行时。

针对默认运行时关闭 GPU

如需关闭切换到带 GPU 的默认运行时的功能，您必须删除名为 Default with GPU 的运行时模板。请参阅删除运行时模板。

限制

• 带 GPU 的默认运行时仅在支持特定加速器可用性的区域中提供。请参阅加速器可用性。

• 您必须先将笔记本连接到默认运行时，然后才能切换到带 GPU 的默认运行时。

后续步骤

• 如需管理运行时，请参阅管理运行时。
• 详细了解运行时和运行时模板。