查看集群

如果您对 Gemini Enterprise Agent Platform 训练集群感兴趣,请与您的销售代表联系以获取访问权限。

本页面介绍了如何使用 Google Cloud 控制台或 Agent Platform API(不支持 Google Cloud CLI)列出和查看项目中的训练集群 。

查看集群可让您确认以下信息:

  • 集群配置
  • 集群和节点状态
  • 登录节点信息
  • 集群资源用量

如果您需要有关更新集群的说明,请参阅 管理集群

准备工作

向 Gemini Enterprise Agent Platform 进行身份验证 ,除非您已完成此操作。

选择标签页以了解您打算如何使用本页面上的示例:

控制台

当您使用 Google Cloud 控制台访问 Google Cloud 服务和 API 时,无需设置身份验证。

REST

如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的 凭证。

    安装 Google Cloud CLI。

    如果您使用的是外部身份提供方 (IdP),则必须先 使用联合身份登录 gcloud CLI

如需了解详情,请参阅 身份验证文档 中的 Google Cloud 使用 REST 时进行身份验证。

所需角色

如需获得查看训练集群所需的权限,请让您的管理员为您授予项目的Agent Platform Viewer (roles/aiplatform.viewer) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限

此预定义角色包含 查看训练集群所需的权限。如需查看所需的确切权限,请展开所需权限部分:

所需权限

如需查看训练集群,您需要具备以下权限:

  • 如需查看集群列表: aiplatform.modelDevelopmentClusters.list
  • 如需查看单个集群的详细信息: aiplatform.modelDevelopmentClusters.get

您也可以使用自定义角色或其他预定义角色来获取这些权限。

控制台可见性

IAM 权限本身不会使训练集群在控制台中可见 Google Cloud 。训练集群 页面仅针对注册了 Gemini Enterprise Agent Platform 训练集群的项目显示。如果您没有看到该页面,请与您的销售代表联系。

Google Cloud 控制台还需要在您的 项目中启用以下 API。如果缺少任何一个 API,训练集群 页面会显示启用 API 按钮,而不是您的集群:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

API 的身份验证

本页面上的 Agent Platform API 示例使用以下别名,该别名会调用 Google Cloud CLI 来生成访问令牌:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

查看集群列表

这两个界面一次列出一个区域的集群。在 Google Cloud 控制台中,您可以 从列表中选择区域;而在 Agent Platform API 中,区域是 请求网址的一部分。

控制台

  1. 在 Google Cloud 控制台中,前往训练集群 页面。

    前往“训练集群”

  2. 区域 列表中,选择您要查看集群的区域。

    该页面会列出该区域中的集群。表格的每一列都描述了集群的属性:

    说明
    ID 集群 ID,您在 Agent Platform API 请求中将其用作 CLUSTER_ID
    名称 集群的显示名称。
    状态 集群的状态:CreatingRunningUpdatingStoppingError
    节点 集群中的节点数量。
    创建日期 集群的创建时间。
    机器类型 集群的节点池使用的机器类型。
    使用模式 集群容量的获取方式:ReservationSpotFlex-startOn-demand
  3. 如需打开集群,请点击名称 列中的相应名称。

REST

如需查看一个区域中的集群列表,请向 modelDevelopmentClusters 集合发送 GET 请求:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

替换以下内容:

  • PROJECT_ID:您的项目的 ID。
  • REGION:集群所在的区域。

list 方法支持以下可选查询参数来控制分页:

  • pageSize (整数,可选):响应中要返回的集群数量上限。即使存在更多项,服务返回的项数也可能小于此值。如果未指定,则使用默认页面大小。
  • pageToken (字符串,可选):从上一个列表调用收到的令牌。 提供此令牌可检索后续结果页面。

以下示例请求第一页结果,每页最多包含 5 个集群:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

成功的响应包含一个 modelDevelopmentClusters 数组,其中最多包含 5 个集群资源,还可能包含一个 nextPageToken 字符串。

查看集群的详细信息

控制台 Google Cloud 和 Agent Platform API 都会报告集群的配置 及其当前状态,包括每个节点的状态。Cloud Monitoring 信息中心仅在控制台 Google Cloud 中提供。

控制台

  1. 在 Google Cloud 控制台中,前往训练集群 页面。

    前往“训练集群”

  2. 区域 列表中,选择集群所在的区域。

  3. 名称 列中,点击您要查看的集群的名称。 系统会在概览 标签页中打开集群详细信息 页面。

  4. 选择一个标签页以查看相应的详细信息:

    • 概览:集群的名称、说明和位置,以及其 配置的计算、网络和编排设置、登录节点 和 Slurm 分区。

    • 节点:两个表格,用于描述集群中的节点。

    • 登录节点,包含以下列:状态名称可用区机器类型内部 IP外部 IP连接。使用连接 可在登录节点上打开 SSH 会话。

    • 计算节点,包含以下列:状态名称可用区机器类型内部 IP分区

    • 可观测性:预构建的 Cloud Monitoring 信息中心,涵盖整个集群的 CPU、 内存和网络用量,以及 GPU 利用率、 NVIDIA 数据中心 GPU 管理器 (DCGM) 指标、GPU 网络和 GPU 健康状况。

如需重新加载页面并显示集群的当前状态,请点击 刷新。如需删除集群, 请点击 删除

REST

如需查看单个集群的详细信息,请向集群资源发送 GET 请求:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

替换以下内容:

  • PROJECT_ID:您的项目的 ID。
  • REGION:集群所在的区域。
  • CLUSTER_ID:您要查看的集群的 ID。这是控制台的 Google Cloud 训练集群 页面 ID 列中显示的 值。

响应是一个 ModelDevelopmentCluster 资源。除了集群的配置之外,其 clusterStatus 字段还会报告集群及其每个节点的当前状态:

  • clusterStatus.state:集群的状态,可以是 PROVISIONINGRUNNINGUPDATINGSTOPPINGERROR 之一。控制台会将 Google Cloud 显示为 PROVISIONING正在创建
  • clusterStatus.nodesStatus[]:集群中每个节点的一个条目,提供节点的 nodeStatePREPARINGRUNNINGUPDATINGERROR)、其 Compute Engine 实例名称、其节点池以及其状态上次更改的时间。
  • clusterStatus.detail:集群状态的人类可读说明(如果有)。

如需查看配置字段的说明,请参阅 参数参考

后续步骤