查看叢集

如要使用 Gemini Enterprise Agent Platform 訓練叢集，請與業務代表聯絡以取得存取權。

本頁面說明如何使用 Google Cloud 控制台或 Agent Platform API (不支援 Google Cloud CLI)，列出及查看專案中的訓練叢集。

查看叢集時，您可以確認下列事項：

  • 叢集設定
  • 叢集和節點狀態
  • 登入節點資訊
  • 叢集資源用量

如需更新叢集的操作說明，請參閱「管理叢集」。

事前準備

向 Gemini Enterprise Agent Platform 驗證，除非您已完成驗證。

選取這個頁面上您打算如何使用範例的分頁：

控制台

使用 Google Cloud 控制台存取 Google Cloud 服務和 API 時，無須設定驗證。

REST

如要在本機開發環境中使用本頁的 REST API 範例，請使用您提供給 gcloud CLI 的憑證。

    安裝 Google Cloud CLI。

    若您採用的是外部識別資訊提供者 (IdP)，請先使用聯合身分登入 gcloud CLI。

詳情請參閱 Google Cloud 驗證說明文件中的「使用 REST 進行驗證」。

必要的角色

如要取得查看訓練叢集所需的權限，請要求管理員授予您專案的Agent Platform 檢視者 (roles/aiplatform.viewer) IAM 角色。如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和組織的存取權」。

這個預先定義的角色具備查看訓練叢集所需的權限。如要查看確切的必要權限，請展開「Required permissions」(必要權限) 部分：

所需權限

如要查看訓練叢集，必須具備下列權限：

  • 如要查看叢集清單： aiplatform.modelDevelopmentClusters.list
  • 如要查看單一叢集的詳細資料： aiplatform.modelDevelopmentClusters.get

您或許還可透過自訂角色或其他預先定義的角色取得這些權限。

控制台瀏覽權限

單獨使用 IAM 權限無法在 Google Cloud 控制台中顯示訓練叢集。只有註冊 Gemini Enterprise Agent Platform 訓練叢集的專案，才會顯示「訓練叢集」頁面。如果沒有看到該頁面，請與業務代表聯絡。

此外，您也需要在專案中啟用下列 API，才能使用 Google Cloud 控制台。如果缺少任何一項，則「訓練叢集」頁面會顯示「啟用 API」按鈕，而非叢集：

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

API 驗證

本頁面的 Agent Platform API 範例使用下列別名，呼叫 Google Cloud CLI 來產生存取權杖：

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

查看叢集清單

這兩個介面一次只會列出一個區域的叢集。在 Google Cloud 控制台中，您可以從清單中選擇區域，而使用 Agent Platform API 時，區域會是要求網址的一部分。

控制台

  1. 前往 Google Cloud 控制台的「訓練叢集」頁面。

    前往訓練叢集

  2. 在「Region」(區域) 清單中，選取要查看叢集的區域。

    頁面會列出該區域中的叢集。資料表的每一欄都說明叢集的一項屬性：

    欄 說明
    ID 叢集 ID，您會在 Agent Platform API 要求中將其做為 CLUSTER_ID 使用。
    名稱 叢集的顯示名稱。
    Status 叢集狀態：Creating、Running、Updating、Stopping 或 Error。
    節點 叢集中的節點數。
    建立日期 叢集的建立時間。
    機器類型 叢集節點集區使用的機器類型。
    使用模式 取得叢集容量的方式：Reservation、Spot、Flex-start 或 On-demand。

  3. 如要開啟叢集，請按一下「名稱」欄中的叢集名稱。

REST

如要查看某個區域的叢集清單，請對 modelDevelopmentClusters 集合傳送 GET 要求：

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

更改下列內容：

  • PROJECT_ID：專案的 ID。
  • REGION：叢集所在的區域。

list 方法支援下列選用查詢參數，可控制分頁：

  • pageSize (整數，選用)：要在回應中傳回的叢集數量上限。即使有更多項目，服務傳回的項目數量也可能會少於這個值。如未指定，則會使用預設頁面大小。
  • pageToken (字串，選用)：先前 list 呼叫傳來的權杖。 提供這個符記即可擷取後續結果頁面。

以下範例要求第一頁結果，每頁最多五個叢集：

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

成功的回應會包含 modelDevelopmentClusters 陣列，最多可有五個叢集資源，也可能包含 nextPageToken 字串。

查看叢集詳細資料

Google Cloud 控制台和 Agent Platform API 都會回報叢集的設定和目前狀態，包括每個節點的狀態。Cloud Monitoring 資訊主頁僅適用於 Google Cloud 控制台。

控制台

  1. 前往 Google Cloud 控制台的「訓練叢集」頁面。

    前往訓練叢集

  2. 在「Region」(區域) 清單中，選取叢集所在的區域。

  3. 在「名稱」欄中，按一下要查看的叢集名稱。「叢集詳細資料」頁面會在「總覽」分頁中開啟。

  4. 選取分頁即可查看相應詳細資料：

    • 總覽：叢集的名稱、說明和位置，以及設定的運算、網路和協調設定、登入節點和 Slurm 分區。

    • 節點：兩個資料表，說明叢集中的節點。

    • 「登入節點」，其中包含「狀態」、「名稱」、「可用區」、「機型」、「內部 IP」、「外部 IP」和「連線」等資料欄。使用「連線」在登入節點上開啟 SSH 工作階段。

    • 運算節點，包含「狀態」、「名稱」、「可用區」、「機型」、「內部 IP」和「分割區」等欄位。

    • 可觀測性：預先建構的 Cloud Monitoring 資訊主頁，涵蓋叢集中的 CPU、記憶體和網路用量，以及 GPU 使用率、NVIDIA Data Center GPU Manager (DCGM) 指標、GPU 網路和 GPU 健康狀態。

如要重新載入頁面並顯示叢集目前狀態，請按一下「重新整理」。如要刪除叢集，請按一下 「刪除」。

REST

如要查看單一叢集的詳細資料，請向叢集資源傳送 GET 要求：

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

更改下列內容：

  • PROJECT_ID：專案的 ID。
  • REGION：叢集所在的區域。
  • CLUSTER_ID：要查看的叢集 ID。這是Google Cloud 控制台「訓練叢集」頁面「ID」欄中顯示的值。

回覆是 ModelDevelopmentCluster 資源。除了叢集的設定之外，clusterStatus 欄位也會回報叢集和每個節點的目前狀態：

  • clusterStatus.state：叢集狀態，可為 PROVISIONING、RUNNING、UPDATING、STOPPING 或 ERROR。 Google Cloud 控制台會將 PROVISIONING 顯示為「正在建立」。
  • clusterStatus.nodesStatus[]：叢集中每個節點的項目，提供節點的 nodeState (PREPARING、RUNNING、UPDATING 或 ERROR)、Compute Engine 執行個體名稱、節點集區，以及節點狀態上次變更的時間。
  • clusterStatus.detail：叢集狀態的人類可讀說明 (如有)。

如需設定欄位的說明，請參閱參數參考資料。

後續步驟