调整模型

调整模型

本页面介绍了如何使用 Colab Enterprise 中的侧边栏与 Vertex AI 交互，以调整模型。

如需通过在 Colab Enterprise 笔记本中运行代码来访问 Google Cloud 服务和 API，您可以使用与 Google 账号关联的 凭据。如需了解详情，请参阅 访问 Google Cloud 服务和 API。

侧边栏是与 Vertex AI 交互以调整模型的另一种方式，无需离开 Colab Enterprise 界面。

侧边栏会显示在打开的笔记本的右侧。

Vertex AI 中的模型调优

模型调优是针对任务自定义大型模型的有效方法。 这是提高模型质量和效率的关键步骤。模型调优具有以下优势：

• 针对您的特定任务提供更高的质量
• 提高模型稳健性
• 提示较短，因此推理延迟时间和费用更低

如需简要了解 Gemini 的 Vertex AI 模型调优，请参阅调优简介。

准备工作

登录您的 Google Cloud 账号。如果您是新手 Google Cloud， 请创建一个账号来评估我们的产品在 实际场景中的表现。新客户还可获享 $300 赠金，用于 运行、测试和部署工作负载。

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI, Dataform, and Compute Engine APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

所需的角色

如需获得在 Colab Enterprise 笔记本中使用侧边栏所需的权限，请让您的管理员为您授予项目的以下 IAM 角色：

• Colab Enterprise User (roles/aiplatform.colabEnterpriseUser)
• Vertex AI User (roles/aiplatform.user)

如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

您也可以通过自定义角色或其他预定义角色来获取所需的权限。

一个或多个必需的角色可提供 dataform.repositories.list 权限。在项目中被授予 dataform.repositories.list 权限或 Code Creator (roles/dataform.codeCreator) 角色的用户可以使用 Dataform API 或 Dataform 命令行界面 (CLI) 列出该项目中代码资产的名称。使用 BigQuery Studio 的非管理员只能看到他们创建或与他们共享的代码资产。

调整模型

您可以使用 Colab Enterprise 中的 侧边栏在 Vertex AI 中调整模型。

1. 在 Google Cloud 控制台中，前往 Colab Enterprise 我的笔记本 页面。

   前往我的笔记本

2. 在区域菜单中，选择包含笔记本的区域。

3. 点击您要打开的笔记本。如果您尚未创建笔记本，请创建一个笔记本。

4. 在侧边栏中，点击笔记本右侧的  调优按钮。

   侧边栏会展开调优标签页。

5. 点击调整 Gemini 模型 按钮。

   Colab Enterprise 会在您的笔记本中添加代码单元，以便您调优 Gemini 模型。

6. 在笔记本中，找到存储参数值的代码单元。 您将使用这些参数与 Vertex AI 交互。

7. 更新以下参数的值：

   • PROJECT_ID：笔记本所在项目的 ID。
   • REGION：笔记本所在的区域。
   • TUNED_MODEL_DISPLAY_NAME：经过调优的模型的名称。

8. 在下一个代码单元中，更新模型调优参数：

   • source_model：您要使用的 Gemini 模型，例如 gemini-2.0-flash-001。
   • train_dataset：训练数据集的网址。
   • validation_dataset：验证数据集的网址。
   • 根据需要调整其余参数。

9. 运行侧边栏添加到笔记本中的代码单元。

10. 最后一个代码单元运行完毕后，点击显示的  查看 调优作业 按钮。

11. 侧边栏会显示有关模型调优作业的信息。

    • 当指标准备就绪后，监控 标签页会显示调优指标。
    • 数据集标签页会在数据集处理完毕后显示有关数据集的摘要和指标。
    • 详细信息标签页显示有关调优作业的相关信息，例如调优方法和您使用的基准模型（源模型）。

12. 调优作业完成后，您可以直接从 调优详情 标签页前往用于测试模型的页面。 点击测试。

    控制台会打开 Vertex AI 文本聊天 页面，您可以在该页面中测试模型。 Google Cloud

查看调优作业的详细信息

即使您未在 Colab Enterprise 中创建和运行调优作业，也可以查看调优作业的详细信息。您可以使用 Colab Enterprise 中的侧边栏查看调优作业的详细信息。

1. 在 Google Cloud 控制台中，前往 Colab Enterprise 我的笔记本 页面。

   前往我的笔记本

2. 在区域菜单中，选择包含笔记本的区域。

3. 点击您要打开的笔记本。如果您尚未创建笔记本， 请创建一个笔记本。

4. 在侧边栏中，点击笔记本右侧的  调优 按钮。

   侧边栏会展开调优 标签页。

5. 点击查看调优作业详情 按钮。

   Colab Enterprise 会在您的笔记本中添加代码单元，以便获取调优作业的详细信息。

6. 在笔记本中，找到存储参数值的代码单元。 您将使用这些参数与 Vertex AI 交互。

7. 更新以下参数的值：

   • PROJECT_ID：笔记本所在项目的 ID。
   • REGION：笔记本所在的区域。
   • TUNING_JOB_ID：您的 Vertex AI 调优作业的 ID。

8. 运行侧边栏添加到笔记本中的代码单元。

9. 最后一个代码单元运行完毕后，点击显示的  查看 调优作业 按钮。

10. 侧边栏会显示有关模型调优作业的信息。

    • 当指标准备就绪后，监控 标签页会显示调优指标。
    • 数据集标签页会在数据集处理完毕后显示有关数据集的摘要和指标。
    • 详细信息 标签页显示有关调优作业的相关信息，例如调优方法和您使用的基准模型（源模型）。

后续步骤

• 详细了解 Vertex AI 中的 模型调优。

• 如需详细了解模型调优参数，请参阅 使用监督式微调来调整 Gemini 模型。

• 如需查找可帮助您快速启动项目的笔记本， 请参阅笔记本库。