本页面介绍了如何使用 Google Cloud 控制台或 Agent Platform API(不支持 Google Cloud CLI)列出和查看项目中的训练集群 。
查看集群可让您确认以下信息:
- 集群配置
- 集群和节点状态
- 登录节点信息
- 集群资源用量
如果您需要有关更新集群的说明,请参阅 管理集群。
准备工作
向 Gemini Enterprise Agent Platform 进行身份验证 ,除非您已完成此操作。
选择标签页以了解您打算如何使用本页面上的示例:
控制台
当您使用 Google Cloud 控制台访问 Google Cloud 服务和 API 时,无需设置身份验证。
REST
如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的 凭证。
安装 Google Cloud CLI。
如果您使用的是外部身份提供方 (IdP),则必须先 使用联合身份登录 gcloud CLI。
如需了解详情,请参阅 身份验证文档 中的 Google Cloud 使用 REST 时进行身份验证。
所需角色
如需获得查看训练集群所需的权限,请让您的管理员为您授予项目的Agent Platform Viewer (roles/aiplatform.viewer) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
此预定义角色包含 查看训练集群所需的权限。如需查看所需的确切权限,请展开所需权限部分:
所需权限
如需查看训练集群,您需要具备以下权限:
-
如需查看集群列表:
aiplatform.modelDevelopmentClusters.list -
如需查看单个集群的详细信息:
aiplatform.modelDevelopmentClusters.get
控制台可见性
IAM 权限本身不会使训练集群在控制台中可见 Google Cloud 。训练集群 页面仅针对注册了 Gemini Enterprise Agent Platform 训练集群的项目显示。如果您没有看到该页面,请与您的销售代表联系。
Google Cloud 控制台还需要在您的 项目中启用以下 API。如果缺少任何一个 API,训练集群 页面会显示启用 API 按钮,而不是您的集群:
aiplatform.googleapis.comcompute.googleapis.comfile.googleapis.comhypercomputecluster.googleapis.comlustre.googleapis.comservicenetworking.googleapis.comstorage.googleapis.com
API 的身份验证
本页面上的 Agent Platform API 示例使用以下别名,该别名会调用 Google Cloud CLI 来生成访问令牌:
alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'
查看集群列表
这两个界面一次列出一个区域的集群。在 Google Cloud 控制台中,您可以 从列表中选择区域;而在 Agent Platform API 中,区域是 请求网址的一部分。
控制台
在 Google Cloud 控制台中,前往训练集群 页面。
在区域 列表中,选择您要查看集群的区域。
该页面会列出该区域中的集群。表格的每一列都描述了集群的属性:
列 说明 ID 集群 ID,您在 Agent Platform API 请求中将其用作 CLUSTER_ID。名称 集群的显示名称。 状态 集群的状态: Creating、Running、Updating、Stopping或Error。节点 集群中的节点数量。 创建日期 集群的创建时间。 机器类型 集群的节点池使用的机器类型。 使用模式 集群容量的获取方式: Reservation、Spot、Flex-start或On-demand。如需打开集群,请点击名称 列中的相应名称。
REST
如需查看一个区域中的集群列表,请向 modelDevelopmentClusters 集合发送 GET 请求:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters
替换以下内容:
- PROJECT_ID:您的项目的 ID。
- REGION:集群所在的区域。
list 方法支持以下可选查询参数来控制分页:
pageSize(整数,可选):响应中要返回的集群数量上限。即使存在更多项,服务返回的项数也可能小于此值。如果未指定,则使用默认页面大小。pageToken(字符串,可选):从上一个列表调用收到的令牌。 提供此令牌可检索后续结果页面。
以下示例请求第一页结果,每页最多包含 5 个集群:
gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"
成功的响应包含一个 modelDevelopmentClusters 数组,其中最多包含 5 个集群资源,还可能包含一个 nextPageToken 字符串。
查看集群的详细信息
控制台 Google Cloud 和 Agent Platform API 都会报告集群的配置 及其当前状态,包括每个节点的状态。Cloud Monitoring 信息中心仅在控制台 Google Cloud 中提供。
控制台
在 Google Cloud 控制台中,前往训练集群 页面。
在区域 列表中,选择集群所在的区域。
在名称 列中,点击您要查看的集群的名称。 系统会在概览 标签页中打开集群详细信息 页面。
选择一个标签页以查看相应的详细信息:
概览:集群的名称、说明和位置,以及其 配置的计算、网络和编排设置、登录节点 和 Slurm 分区。
节点:两个表格,用于描述集群中的节点。
登录节点,包含以下列:状态、名称、可用区、 机器类型、内部 IP、外部 IP和连接。使用连接 可在登录节点上打开 SSH 会话。
计算节点,包含以下列:状态、名称、可用区、 机器类型、内部 IP和分区。
可观测性:预构建的 Cloud Monitoring 信息中心,涵盖整个集群的 CPU、 内存和网络用量,以及 GPU 利用率、 NVIDIA 数据中心 GPU 管理器 (DCGM) 指标、GPU 网络和 GPU 健康状况。
如需重新加载页面并显示集群的当前状态,请点击 刷新。如需删除集群, 请点击 删除。
REST
如需查看单个集群的详细信息,请向集群资源发送 GET 请求:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID
替换以下内容:
- PROJECT_ID:您的项目的 ID。
- REGION:集群所在的区域。
- CLUSTER_ID:您要查看的集群的 ID。这是控制台的 Google Cloud 训练集群 页面 ID 列中显示的 值。
响应是一个 ModelDevelopmentCluster 资源。除了集群的配置之外,其 clusterStatus
字段还会报告集群及其每个节点的当前状态:
clusterStatus.state:集群的状态,可以是PROVISIONING、RUNNING、UPDATING、STOPPING或ERROR之一。控制台会将 Google Cloud 显示为PROVISIONING正在创建。clusterStatus.nodesStatus[]:集群中每个节点的一个条目,提供节点的nodeState(PREPARING、RUNNING、UPDATING或ERROR)、其 Compute Engine 实例名称、其节点池以及其状态上次更改的时间。clusterStatus.detail:集群状态的人类可读说明(如果有)。
如需查看配置字段的说明,请参阅 参数参考。