本文說明如何大量建立使用 G2 機器類型的虛擬機器 (VM) 執行個體。如要進一步瞭解這些加速器最佳化機型,請參閱「G2 系列」。
如要進一步瞭解如何大量建立 VM,請參閱 Compute Engine 說明文件中的「關於大量建立 VM」。
如要瞭解建立 VM 或叢集的其他方式,請參閱「部署選項總覽」。
限制
建立 G2 VM 時,須遵守下列限制:
- 使用 G2 機型的執行個體不適用續用折扣和彈性承諾使用折扣。
- G2 機型僅適用於特定區域和可用區。
- G2 機型僅適用於 Cascade Lake 平台。
- 使用 G2 機型的執行個體不支援標準永久磁碟 (
pd-standard)。如要瞭解支援的磁碟類型,請參閱「G2 支援的磁碟類型」。 - 您無法在使用 G2 機型的執行個體上建立多執行個體 GPU。
- 如要變更 G2 執行個體的機型,請參閱「修改加速器最佳化執行個體」。
- 您無法將深度學習 VM 映像檔做為使用 G2 機型的執行個體開機磁碟。
- 在下列情況下,您必須使用 Google Cloud CLI 或 REST 建立 G2 執行個體:
- 您想指定自訂記憶體值。
- 您想自訂可見的 CPU 核心數量。
事前準備
大量建立 VM 前,請先完成下列步驟 (如尚未完成):
- 選擇使用模式:您選擇的使用模式會決定如何取得及使用 GPU 資源。詳情請參閱「選擇消耗選項」。
- 取得容量:取得容量的程序因消費選項而異。如要瞭解如何為所選用量方案取得運算資源,請參閱「運算資源總覽」。
請根據您打算如何使用本頁範例,選取對應的分頁標籤:
控制台
使用 Google Cloud 控制台存取 Google Cloud 服務和 API 時,不需要設定驗證機制。
gcloud
在 Google Cloud 控制台啟用 Cloud Shell。
Google Cloud 控制台底部會開啟 Cloud Shell 工作階段,並顯示指令列提示。Cloud Shell 是已安裝 Google Cloud CLI 的殼層環境,並已設定適用於您目前專案的值。工作階段可能要幾秒鐘的時間才能初始化。
REST
如要在本機開發環境中使用本頁的 REST API 範例,請使用您提供給 gcloud CLI 的憑證。
安裝 Google Cloud CLI。
如果採用外部識別資訊提供者 (IdP),必須先 使用聯合身分登入 gcloud CLI。
詳情請參閱 Google Cloud 驗證說明文件中的「使用 REST 進行驗證」一節。
必要的角色
如要取得大量建立 VM 所需的權限,請要求管理員授予您專案的 Compute 執行個體管理員 (v1) (roles/compute.instanceAdmin.v1) IAM 角色。如要進一步瞭解如何授予角色,請參閱「管理專案、資料夾和組織的存取權」。
這個預先定義的角色具備大量建立 VM 所需的權限。如要查看確切的必要權限,請展開「Required permissions」(必要權限) 部分:
所需權限
必須具備下列權限,才能大量建立 VM:
-
專案的
compute.instances.create -
如要使用自訂映像檔建立 VM:
compute.images.useReadOnly在映像檔上 -
如要使用快照建立 VM:
compute.snapshots.useReadOnly快照 -
如要使用執行個體範本建立 VM:
compute.instanceTemplates.useReadOnly在執行個體範本上 -
如要為 VM 指定子網路:
compute.subnetworks.use專案或所選子網路 -
如要為 VM 指定靜態 IP 位址:
compute.addresses.use專案 -
如要在使用虛擬私有雲網路時,為 VM 指派外部 IP 位址:
compute.subnetworks.useExternalIp在專案或所選子網路中 -
如要將舊版網路指派給 VM:
compute.networks.use專案 -
如要在使用舊版網路時,為 VM 指派外部 IP 位址:
compute.networks.useExternalIp專案 -
如要為 VM 設定 VM 執行個體中繼資料:
compute.instances.setMetadata在專案中 -
如要設定 VM 的標記:
compute.instances.setTags在 VM 上 -
如要設定 VM 的標籤:
compute.instances.setLabels在 VM 上 -
如要設定 VM 使用的服務帳戶:
compute.instances.setServiceAccount在 VM 上 -
如要為 VM 建立新磁碟:
compute.disks.create專案 -
如要以唯讀或讀寫模式連接現有磁碟:
compute.disks.use磁碟 -
如要以唯讀模式連接現有磁碟:
compute.disks.useReadOnly在磁碟上
總覽
使用 G2 機型大量建立執行個體的步驟如下:
選用:建立密集配置政策
您可以建立密集配置政策,指定 VM 的配置方式。當您對 VM 套用密集配置政策時,Compute Engine 會盡可能建立彼此靠近的 VM。如果應用程式對延遲時間較為敏感,且需要盡可能提高密集度,請在建立密集配置政策時指定 maxDistance 欄位 (預先發布版)。maxDistance 值越低,VM 彼此會越靠近,但也會增加無法建立部分 VM 的可能性。
gcloud
如要建立密集配置政策,請使用
gcloud compute resource-policies create group-placement 指令:
gcloud compute resource-policies create group-placement POLICY_NAME \
--collocation=collocated \
--max-distance=MAX_DISTANCE \
--region=REGION
更改下列內容:
POLICY_NAME:密集配置政策的名稱。MAX_DISTANCE:VM 的最大距離設定,可指定 (預先發布版,建議) 或不指定 (移除--max-distance旗標)。視機型支援的功能而定,您可以指定下列其中一個值:- 如要將 VM 放在同一個子區塊:
1 - 如要將 VM 放在同一個區塊:
2 - 如要將 VM 放在相鄰區塊:
3
- 如要將 VM 放在同一個子區塊:
REGION:要建立密集配置政策的區域。指定您打算建立執行個體的可用區所在的區域,並確認您要使用的機型在該區域中可用。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。
REST
如要建立密集配置政策,請向 resourcePolicies.insert 方法發出 POST 要求。在要求主體中,加入設為 COLLOCATED 的 collocation 欄位和 maxDistance 欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/resourcePolicies
{
"name": "POLICY_NAME",
"groupPlacementPolicy": {
"collocation": "COLLOCATED",
"maxDistance": MAX_DISTANCE
}
}
更改下列內容:
PROJECT_ID:您的專案 ID。POLICY_NAME:密集配置政策的名稱。MAX_DISTANCE:VM 的最大距離設定,可以指定 (預先發布版,建議使用) 或不指定 (移除maxDistance欄位)。視機型支援的功能而定,您可以指定下列其中一個值:- 如要將 VM 放在同一個子區塊:
1 - 如要將 VM 放在同一個區塊:
2 - 如要將 VM 放在相鄰區塊:
3
- 如要將 VM 放在同一個子區塊:
REGION:要建立密集配置政策的區域。指定您打算建立執行個體的可用區所在的區域,並確認您要使用的機型在該區域中可用。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。
大量建立 G2 VM
如要大量建立 G2 VM,請使用下列任一方法。
下列指令也會設定執行個體的存取權範圍。為簡化權限管理,Google 建議您將執行個體的存取權範圍設為cloud-platform 存取權,然後使用 IAM 角色定義執行個體可存取的服務。詳情請參閱「範圍最佳做法」。gcloud
如要大量建立執行個體,請使用 gcloud compute instances bulk create 指令。
您需要指定的參數取決於您為這項部署作業使用的消耗選項。選取與計費模式對應的分頁。
預留項目
G2 執行個體支援下列預留項目類型:
- 隨需預留項目
- 標準未來預留項目
如要使用這類預留項目,執行個體必須採用標準佈建模式。舉例來說,請使用下列建立參數。
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances bulk create \
--name-pattern=NAME_PATTERN \
--count=COUNT \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY \
--reservation=RESERVATION
操作步驟如下:
-
更改下列內容:
NAME_PATTERN:G2 執行個體使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。REGION:指定要使用的機器類型所在的區域。如要指定密集配置政策,則必須使用與密集配置政策相同的區域。如要瞭解區域,請參閱「依區域和可用區劃分的 GPU 可用性」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:RESERVATION:要使用的預留項目。根據您為RESERVATION_AFFINITY指定的值,指定下列其中一項:- 如果您指定了
any,請將RESERVATION替換為空白字串 ("")。或者,您也可以完全移除--reservation旗標。 如果您指定
specific,請將RESERVATION替換為以下內容:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
更改下列內容:
RESERVATION_OWNER_PROJECT_ID:預留項目建立所在專案的專案 ID。RESERVATION_NAME:預留項目名稱。
- 如果您指定了
根據預設,如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,執行個體會自動重新啟動。如要停用自動重新啟動功能,請新增下列旗標:
--no-restart-on-failure
-
選用:如果您選擇使用密集配置政策,請在指令中加入下列旗標:
--resource-policies=POLICY_NAME
更改下列內容:
POLICY_NAME:密集配置政策的名稱。
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列旗標。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 執行更改後的指令。
隨選
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances bulk create \
--name-pattern=NAME_PATTERN \
--count=COUNT \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=STANDARD \
--maintenance-policy=TERMINATE \
--reservation-affinity=RESERVATION_AFFINITY
操作步驟如下:
-
更改下列內容:
NAME_PATTERN:G2 執行個體使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。REGION:指定要使用的機器類型所在的區域。如要指定密集配置政策,則必須使用與密集配置政策相同的區域。如要瞭解區域,請參閱「依區域和可用區劃分的 GPU 可用性」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:any(預留運算資源為選用項目):這是預設選項。執行個體會嘗試使用自動使用的預留項目容量,但前提是必須有相符的預留項目容量。否則,執行個體會使用隨選容量。none(必須使用隨選運算能力):禁止執行個體使用任何預留運算能力。
根據預設,如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,執行個體會自動重新啟動。如要停用自動重新啟動功能,請新增下列旗標:
--no-restart-on-failure
-
選用:如果您選擇使用密集配置政策,請在指令中加入下列旗標:
--resource-policies=POLICY_NAME
更改下列內容:
POLICY_NAME:密集配置政策的名稱。
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列旗標。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 執行更改後的指令。
Spot
執行指令前,請詳閱下列所有步驟,判斷是否要加入其他旗標。
gcloud compute instances bulk create \
--name-pattern=NAME_PATTERN \
--count=COUNT \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--region=REGION \
--boot-disk-type=DISK_TYPE \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
操作步驟如下:
-
更改下列內容:
NAME_PATTERN:G2 執行個體使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。IMAGE_PROJECT:OS 映像檔的專案 ID。REGION:指定要使用的機器類型所在的區域。如要指定密集配置政策,則必須使用與密集配置政策相同的區域。如要瞭解區域,請參閱「依區域和可用區劃分的 GPU 可用性」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。TERMINATION_ACTION:Compute Engine 搶占執行個體時要採取的動作,可以是STOP(預設) 或DELETE。
-
選用:如果您選擇使用密集配置政策,請在指令中加入下列旗標:
--resource-policies=POLICY_NAME
更改下列內容:
POLICY_NAME:密集配置政策的名稱。
-
選用:如要連接本機 SSD 磁碟,請為「每個」本機 SSD 磁碟新增下列
--local-ssd旗標。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
--local-ssd interface=INTERFACE_TYPE
更改下列內容:
INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列旗標。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT
將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 執行更改後的指令。
REST
如要大量建立執行個體,請向 instances.bulkInsert 方法發出 POST 要求。
您需要指定的參數取決於您為這項部署作業使用的消耗選項。選取與計費模式對應的分頁。
預留項目
G2 執行個體支援下列預留項目類型:
- 隨需預留項目
- 標準未來預留項目
如要使用這類預留項目,執行個體必須採用標準佈建模式。舉例來說,請使用下列建立參數。
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
"namePattern": "NAME_PATTERN",
"count": "COUNT",
"instanceProperties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY",
"key": "compute.googleapis.com/reservation-name",
"values": [
"RESERVATION"
]
}
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 G2 執行個體的專案 ID。ZONE:指定要使用的機器類型所在的可用區。如要指定密集配置政策,則必須使用與密集配置政策位於相同區域的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。NAME_PATTERN:G2 執行個體要使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。AUTOMATIC_RESTART:如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,是否要自動重新啟動執行個體。指定true即可啟用自動重新啟動功能 (預設),指定false則可停用自動重新啟動功能。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:RESERVATION:要使用的預留項目。根據您為RESERVATION_AFFINITY指定的值,指定下列其中一項:- 如果您指定了
ANY_RESERVATION,請刪除RESERVATION,讓值成為空字串 ("")。或者,您也可以完全移除key和values欄位。 如果您指定
SPECIFIC_RESERVATION,請將RESERVATION替換為以下內容:projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
更改下列內容:
RESERVATION_OWNER_PROJECT_ID:預留項目建立所在專案的專案 ID。RESERVATION_NAME:預留項目名稱。
- 如果您指定了
-
選用:如果您選擇使用密集配置政策,請在要求主體中新增下列
instanceProperties子欄位:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]更改下列內容:
PROJECT_ID:密集配置政策的專案 ID。REGION:密集配置政策的區域。POLICY_NAME:密集配置政策的名稱。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列欄位。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
"guestAccelerators": [ { "acceleratorCount": VWS_ACCELERATOR_COUNT, "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws" } ]將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 提交要求。
隨選
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
"namePattern": "NAME_PATTERN",
"count": "COUNT",
"instanceProperties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling": {
"provisioningModel": "STANDARD",
"onHostMaintenance": "TERMINATE",
"automaticRestart": AUTOMATIC_RESTART
},
"reservationAffinity": {
"consumeReservationType": "RESERVATION_AFFINITY"
}
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 G2 執行個體的專案 ID。ZONE:指定要使用的機器類型所在的可用區。如要指定密集配置政策,則必須使用與密集配置政策位於相同區域的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。NAME_PATTERN:G2 執行個體要使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。AUTOMATIC_RESTART:如果執行個體當機,或 Compute Engine 因排定的停止作業 (例如維護事件) 而停止執行個體,是否要自動重新啟動執行個體。指定true即可啟用自動重新啟動功能 (預設),指定false則可停用自動重新啟動功能。RESERVATION_AFFINITY:執行個體可使用的預留項目 (如適用)。指定下列其中一項:ANY_RESERVATION(預留運算資源為選用項目):這是預設選項。執行個體會嘗試使用自動使用的預留項目容量,但只有在有相符的預留項目容量時,才會發生這種情況。否則,執行個體會使用隨選容量。NO_RESERVATION(必須使用隨選運算能力):禁止執行個體使用任何預留運算能力。
-
選用:如果您選擇使用密集配置政策,請在要求主體中新增下列
instanceProperties子欄位:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]更改下列內容:
PROJECT_ID:密集配置政策的專案 ID。REGION:密集配置政策的區域。POLICY_NAME:密集配置政策的名稱。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列欄位。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
"guestAccelerators": [ { "acceleratorCount": VWS_ACCELERATOR_COUNT, "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws" } ]將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 提交要求。
Spot
提交要求前,請詳閱下列所有步驟,判斷是否要加入其他欄位。
POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances/bulkInsert
{
"namePattern": "NAME_PATTERN",
"count": "COUNT",
"instanceProperties": {
"machineType": "MACHINE_TYPE",
"disks": [
{
"boot": true,
"initializeParams": {
"diskSizeGb": "DISK_SIZE",
"diskType": "DISK_TYPE",
"sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
},
"mode": "READ_WRITE",
"type": "PERSISTENT"
}
],
"serviceAccounts": [
{
"email": "default",
"scopes": [
"https://www.googleapis.com/auth/cloud-platform"
]
}
],
"scheduling":
{
"provisioningModel": "SPOT",
"instanceTerminationAction": "TERMINATION_ACTION",
"onHostMaintenance": "TERMINATE",
"automaticRestart": false
}
}
}
操作步驟如下:
-
更改下列內容:
PROJECT_ID:要建立 G2 執行個體的專案 ID。ZONE:指定要使用的機器類型所在的可用區。如要指定密集配置政策,則必須使用與密集配置政策位於相同區域的可用區。如要瞭解區域,請參閱「各區域和可用區的 GPU 供應情形」。NAME_PATTERN:G2 執行個體要使用的名稱模式。舉例來說,如果名稱模式使用instance-#,系統會產生名稱為instance-1和instance-2等的 G2 執行個體,數量上限為--count指定的 G2 執行個體數量。COUNT:要建立的 G2 執行個體數量。MACHINE_TYPE:G2 執行個體要使用的機器類型。詳情請參閱 Compute Engine 說明文件中的「GPU 機型」。DISK_SIZE:開機磁碟大小 (GB)。詳情請依磁碟類型參閱「Google Cloud Hyperdisk 大小限制」或「永久磁碟大小限制」。DISK_TYPE:開機磁碟的類型。如要進一步瞭解機型支援的磁碟類型,請參閱 Compute Engine 說明文件中的「加速器最佳化機器家族中的 GPU 機器」一節。IMAGE_PROJECT:OS 映像檔的專案 ID。IMAGE_FAMILY:要使用的 OS 映像檔系列。如需所有支援的作業系統清單,請參閱「支援的作業系統」。TERMINATION_ACTION:Compute Engine 搶占執行個體時要採取的動作,可以是STOP(預設) 或DELETE。
-
選用:如果您選擇使用密集配置政策,請在要求主體中新增下列
instanceProperties子欄位:"resourcePolicies": [ "projects/PROJECT_ID/regions/REGION/resourcePolicies/POLICY_NAME" ]更改下列內容:
PROJECT_ID:密集配置政策的專案 ID。REGION:密集配置政策的區域。POLICY_NAME:密集配置政策的名稱。
-
選用:如要使用本機 SSD 磁碟,請在每個本機 SSD 磁碟的
disks[]欄位中新增下列欄位。請以半形逗號分隔每個disks[]子欄位 (包括開機磁碟)。請確認您附加的本機 SSD 磁碟數量符合機型允許的數量。詳情請參閱 Compute Engine 說明文件中的「關於本機 SSD 磁碟」一節。
{ "type": "SCRATCH", "initializeParams": { "diskType": "zones/ZONE/diskTypes/local-ssd" }, "autoDelete": true, "interface": "INTERFACE_TYPE" }更改下列內容:
ZONE:您指定的可用區。INTERFACE_TYPE:要用於本機 SSD 磁碟的磁碟介面類型。如果開機磁碟映像檔含有最佳化的 NVMe 驅動程式,請指定NVME。為其他圖片指定SCSI。
建立具有本機 SSD 磁碟的 VM 後,您必須格式化並掛接每個裝置,才能使用。
-
選用:如要使用 NVIDIA RTX 虛擬工作站 (vWS),請新增下列欄位。
建立使用 NVIDIA RTX 虛擬工作站的執行個體時,Compute Engine 會自動新增 vWS 授權。如要瞭解虛擬工作站的定價,請參閱 GPU 定價頁面。
"guestAccelerators": [ { "acceleratorCount": VWS_ACCELERATOR_COUNT, "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/nvidia-l4-vws" } ]將
VWS_ACCELERATOR_COUNT替換為所需的虛擬 GPU 數量。 - 提交要求。
如要進一步瞭解大量建立 VM 時的設定選項,請參閱 Compute Engine 說明文件中的「大量建立 VM」。
安裝 GPU 驅動程式
建立執行個體後,必須安裝正確的 GPU 驅動程式,執行個體才能使用 GPU。您需要安裝的驅動程式取決於執行個體是否啟用 NVIDIA RTX 虛擬工作站 (vWS)。請使用下列其中一種方式:
- 如果您已啟用 vWS,請參閱 Compute Engine 說明文件中的「安裝 NVIDIA RTX 虛擬工作站 (vWS) 驅動程式」。
否則,請按照下列方式使用預設 GPU 驅動程式:
- 如果您指定包含 GPU 驅動程式的 OS 映像檔,則不需採取任何行動。
- 如果 OS 映像檔不含 GPU 驅動程式,請參閱 Compute Engine 說明文件中的「安裝 GPU 驅動程式」一節。