GPU yang tersedia

GPU digunakan untuk mempercepat workload, dan Cloud Workstations mendukung pemasangan GPU ke workstation. Cloud Workstations mendukung banyak model GPU yang tersedia untuk dipasang ke VM Compute Engine. Model dan jumlah GPU yang akan dipasang ke setiap workstation ditentukan pada konfigurasi workstation. Cloud Workstations menangani pemasangan GPU dan penginstalan driver perangkatnya.

Memasang GPU ke workstation akan memengaruhi biaya seperti yang dijelaskan dalam ringkasan harga Cloud Workstations.

Batasan

Konfigurasi workstation dapat menentukan GPU, dengan tunduk pada batasan berikut:

• Cloud Workstations hanya mendukung GPU untuk konfigurasi yang menentukan jenis mesin dalam seri mesin N1, seri mesin A2, atau seri mesin A3. Lihat model GPU yang didukung untuk mengetahui detailnya.
• Konfigurasi harus menentukan zona replika tempat model GPU yang dipilih tersedia.
• Workstation tidak dapat dikonfigurasi agar memiliki lebih dari satu model GPU yang terpasang sekaligus.

• Konfigurasi yang menentukan jenis mesin A2 Ultra tidak boleh menentukan penyimpanan persisten. Pertimbangkan untuk menggunakan solusi berbasis NFS seperti Filestore atau Cloud Storage FUSE jika diperlukan penyimpanan file persisten. Perhatikan bahwa jenis mesin Standar A2 mendukung penyimpanan persisten. Untuk membuat konfigurasi tanpa penyimpanan persisten, gunakan perintah Google Cloud CLI berikut:

    gcloud workstations configs create CONFIG_NAME \
      --project=PROJECT_ID \
      --cluster=CLUSTER_NAME \
      --region=LOCATION \
      --machine-type=A2_MACHINE_TYPE \
      --no-persistent-storage
  

  Ganti kode berikut:

  • PROJECT_ID: ID project yang berisi konfigurasi workstation.
  • LOCATION: region cluster workstation.
  • CLUSTER_NAME: nama cluster workstation yang berisi konfigurasi workstation.
  • CONFIG_NAME: nama konfigurasi workstation.
  • A2_MACHINE_TYPE: jenis mesin A2.

• Konfigurasi yang menentukan jenis mesin A3 hanya mendukung volume persisten Hyperdisk.

• Penggunaan jenis disk Hyperdisk Google Cloud hanya didukung pada seri mesin berikut:

  • A3
  • C3
  • C4
  • G4
  • M3
  • N4
  • N4D
  • Z3

Model GPU yang didukung

Cloud Workstations mendukung banyak model GPU yang disediakan oleh Compute Engine. Model yang didukung bergantung pada rangkaian mesin yang dipilih untuk konfigurasi workstation, seperti yang diringkas dalam tabel berikut.

Seri mesin N1

Seri mesin tujuan umum N1 mendukung beberapa model GPU, dan konfigurasi workstation yang menentukan salah satu jenis mesin N1 juga dapat menentukan salah satu model GPU berikut. Untuk model GPU yang dipilih, konfigurasi dapat menentukan jumlah kartu GPU yang akan dipasang ke setiap workstation.

Model GPU	Jumlah GPU
NVIDIA T4 (nvidia-tesla-t4)	1, 2, atau 4 GPU
NVIDIA P4 (nvidia-tesla-p4)	1, 2, atau 4 GPU
NVIDIA V100 (nvidia-tesla-v100)	1, 2, 4, atau 8 GPU
NVIDIA P100 (nvidia-tesla-p100)	1, 2, atau 4 GPU

Seri mesin A2

Seri mesin yang dioptimalkan akselerator standar A2 memiliki jumlah tetap GPU NVIDIA A100 yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dilampirkan.

Model GPU	Jenis mesin	Jumlah GPU
NVIDIA A100 40GB (nvidia-tesla-a100)	a2-highgpu-1g	1 GPU
	a2-highgpu-2g	2 GPU
	a2-highgpu-4g	4 GPU
	a2-highgpu-8g	8 GPU
	a2-megagpu-16g	16 GPUs

Cloud Workstations tidak mendukung jenis mesin A2 ultra.

Seri mesin A3

Seri mesin yang dioptimalkan akselerator A3 Mega dan A3 High memiliki jumlah tetap GPU NVIDIA H100 yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dilampirkan.

Model GPU	Jenis mesin	Jumlah GPU
NVIDIA H100 80GB (nvidia-tesla-h100)	a3-highgpu-1g	1 GPU
	a3-highgpu-2g	2 GPU
	a3-highgpu-4g	4 GPU
	a3-highgpu-8g	8 GPU
	a3-megagpu-8g	8 GPU

Dukungan Google Cloud Hyperdisk

Beberapa workload GPU memerlukan throughput disk yang sangat tinggi. Untuk memenuhi kasus penggunaan ini, Cloud Workstations memungkinkan penggunaan disk Google Cloud Hyperdisk Balanced High Availability sebagai direktori persisten untuk jenis mesin yang disebutkan sebelumnya.

Penyimpanan Hyperdisk dapat dikonfigurasi melalui Konsol dan dengan gcloud CLI. Anda tidak dapat mengubah jenis disk setelah membuat konfigurasi Workstation.

Melampirkan Hyperdisk ke Workstation akan memengaruhi biaya seperti yang dijelaskan dalam harga Google Cloud Hyperdisk.

Menambahkan GPU ke Konfigurasi Workstation yang Ada

Untuk menambahkan GPU ke konfigurasi workstation, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

gcloud init

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran pool mulai cepat konfigurasi.

Memperbarui konfigurasi yang ada

Konsol

Konfigurasi GPU pada konfigurasi workstation yang ada dari konsol Google Cloud , dengan melakukan hal berikut:

1. Di konsol Google Cloud , buka halaman Konfigurasi workstation.

   Buka Konfigurasi workstation

2. Dalam daftar Workstation configurations, klik Name konfigurasi yang akan ditambahi GPU.

3. Di halaman Workstation configuration details, klik edit Edit.

4. Di halaman Edit konfigurasi workstation, klik Setelan mesin di menu navigasi.

5. Klik tombol untuk memilih GPU, bukan kelompok mesin Tujuan umum.

   Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

   Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

   Di kolom Machine type, pilih jenis mesin yang ingin Anda gunakan.

   Catatan: opsi untuk setiap kolom bervariasi, bergantung pada zona replika yang dipilih untuk konfigurasi dan ketersediaan GPU dan jenis mesin di zona tersebut. Jika tidak dapat menemukan GPU yang sesuai di zona replika untuk konfigurasi ini, Anda dapat memutuskan untuk membuat konfigurasi baru dengan GPU sebagai gantinya.

6. Klik Simpan untuk memperbarui konfigurasi.

gcloud

Konfigurasi GPU pada konfigurasi workstation yang ada dengan menjalankan perintah gcloud workstations configs update.

Namun, kumpulkan beberapa informasi terlebih dahulu untuk melihat model GPU mana yang tersedia dan memilih salah satunya untuk konfigurasi Anda:

1. Periksa zona replika yang ditentukan oleh konfigurasi dengan menjalankan perintah CLI gcloud berikut:

   gcloud workstations configs describe \
     --format="table(name.scope(workstationConfigs),replicaZones.list())" \
     --project=PROJECT_ID \
     --region=LOCATION \
     --cluster=CLUSTER_NAME \
     CONFIG_NAME
   

   Ganti kode berikut:

   • PROJECT_ID: ID project yang berisi konfigurasi workstation.
   • LOCATION: lokasi cluster workstation.
   • CLUSTER_NAME: nama cluster workstation yang berisi konfigurasi workstation.
   • CONFIG_NAME: nama konfigurasi workstation.

2. Pilih model GPU yang didukung dan tersedia di kedua zona replika konfigurasi dengan menjalankan perintah gcloud compute accelerator-types list:

   gcloud compute accelerator-types list \
     --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
     --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
     --project=PROJECT_ID
   

   Ganti ZONES dengan daftar zona replika yang dipisahkan koma dan ditentukan pada langkah sebelumnya (misalnya, us-central1-a,us-central1-c).

   Pilih model GPU yang tercantum dua kali dalam tabel, yang menunjukkan bahwa model tersebut tersedia di kedua zona replika.

   Catat jumlah maksimum kartu yang dapat Anda pasang untuk model GPU yang dipilih.

   Catatan: Jika tidak ada Ketersediaan GPU yang sesuai di zona replika untuk konfigurasi ini, Anda dapat memutuskan untuk membuat konfigurasi baru dengan GPU sebagai gantinya.

3. Tentukan jenis mesin yang didukung dan tersedia di kedua zona replika konfigurasi menggunakan perintah gcloud compute machine-types list.

   1. Jika Anda memilih model GPU NVIDIA A100 40 GB pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin A2:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   2. Jika Anda memilih model GPU lain pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin N1:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   Pilih jenis mesin yang tercantum dua kali dalam tabel, yang menunjukkan bahwa jenis mesin tersebut tersedia di kedua zona replika.

4. Setelah memilih model GPU dan jenis mesin yang kompatibel, perbarui konfigurasi:

   1. Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk memperbarui konfigurasi Anda:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME \
        --machine-type=A2_MACHINE_TYPE
      

      Ganti A2_MACHINE_TYPE dengan jenis mesin A2 yang dipilih yang ditentukan pada langkah sebelumnya (misalnya, a2-highgpu-1g).

      Catatan: untuk seri mesin A2, model dan jumlah GPU ditetapkan berdasarkan jenis mesin, sehingga Anda dapat menghilangkan tanda --accelerator-type dan --accelerator-count.

   2. Untuk semua model GPU lainnya, jalankan perintah ini:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ganti kode berikut:

      • N1_MACHINE_TYPE: jenis mesin yang dipilih dari seri N1 (misalnya, n1-standard-2).
      • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
      • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4). Harus berupa bilangan pangkat dua yang kurang dari maksimum untuk model GPU.

PERINGATAN: Anda tidak dapat beralih ke Hyperdisk setelah konfigurasi Workstation dibuat.

Membuat Konfigurasi Workstation baru dengan GPU

Untuk membuat konfigurasi workstation baru yang melampirkan GPU ke workstation yang didasarkan padanya, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

gcloud init

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

REST

Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:

gcloud init

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

Pilih model GPU dan lihat tabel ketersediaan GPU untuk memilih region tempat model GPU yang dipilih tersedia di setidaknya dua zona.

Jika Anda belum memiliki cluster di region yang dipilih tempat Anda dapat membuat konfigurasi baru, ikuti langkah-langkah untuk Membuat cluster workstation di region tersebut.

Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran pool mulai cepat konfigurasi.

Membuat konfigurasi baru

Konsol

Buat konfigurasi workstation baru dengan GPU dari konsolGoogle Cloud dengan melakukan hal berikut:

1. Di konsol Google Cloud , buka halaman Konfigurasi workstation.

   Buka Konfigurasi workstation

2. Di halaman Workstation configurations, klik add_box Create.

3. Pada langkah Basic information di halaman Create workstation configuration, tentukan nama untuk konfigurasi Anda di kolom Name.

   Di kolom Workstation cluster, pilih cluster di region yang dipilih.

   Tips: GPU juga terpasang ke Quick start workstations. Anda dapat menekan biaya dengan memilih Dinonaktifkan.

   Klik Lanjutkan untuk melanjutkan ke langkah Setelan mesin.

4. Pada langkah Setelan mesin di halaman Buat konfigurasi workstation, mulailah dengan mengklik tombol untuk memilih GPU daripada kelompok mesin Tujuan umum.

   1. Kemudian, di kolom Zona, centang kotak di samping dua zona tempat model GPU yang Anda pilih tersedia (lihat tabel ketersediaan GPU).

   2. Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

   3. Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

   4. Di kolom Machine type, pilih jenis mesin yang kompatibel.

5. Opsional: Fitur ini belum didukung di UI. Lihat petunjuk gcloud untuk menggunakan CLI guna mengonfigurasi fitur ini.

6. Klik Lanjutkan untuk mengonfigurasi setelan Lingkungan dan kebijakan Identity and Access Management (IAM) sebelum mengklik Buat untuk menyediakan konfigurasi workstation baru.

gcloud

Buat konfigurasi workstation baru dengan GPU menggunakan CLI gcloud, dengan menjalankan perintah gcloud workstations configs create.

• Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk membuat konfigurasi Anda:

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=CLUSTER_NAME \
    CONFIG_NAME \
    --replica-zones=REPLICA_ZONES \
    --machine-type=A2_MACHINE_TYPE
  

  Ganti kode berikut:

  • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
  • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
  • CLUSTER_NAME: nama cluster workstation yang akan berisi konfigurasi workstation baru.
  • CONFIG_NAME: nama konfigurasi workstation baru.
  • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
  • A2_MACHINE_TYPE: jenis mesin seri A2 yang dipilih (misalnya, a2-highgpu-1g).
  Catatan: untuk seri mesin A2, model dan jumlah GPU ditetapkan berdasarkan jenis mesin, sehingga Anda dapat menghilangkan tanda --accelerator-type dan --accelerator-count.

• Untuk semua model GPU lainnya, jalankan perintah ini untuk membuat konfigurasi Anda:

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=CLUSTER_NAME \
    CONFIG_NAME \
    --replica-zones=REPLICA_ZONES \
    --machine-type=N1_MACHINE_TYPE \
    --accelerator-type=ACCELERATOR_TYPE \
    --accelerator-count=ACCELERATOR_COUNT
  

  Ganti kode berikut:

  • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
  • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
  • CLUSTER_NAME: nama cluster workstation yang akan berisi konfigurasi workstation baru.
  • CONFIG_NAME: nama konfigurasi workstation baru.
  • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
  • N1_MACHINE_TYPE: jenis mesin seri N1 yang dipilih (misalnya, n1-standard-2).
  • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
  • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4).

• Opsional: Untuk menggunakan Hyperdisk, tambahkan tanda --disk-type=hyperdisk-balanced-ha. Contoh:

  gcloud beta workstations configs create \
    ... \
    --disk-type=hyperdisk-balanced-ha \
    --disk-size=200
  

  Perintah ini akan membuat Hyperdisk berukuran 200 GB. Jenis disk tidak dapat diubah setelah membuat konfigurasi Workstation.

Driver perangkat GPU NVIDIA

Cloud Workstations menginstal driver perangkat NVIDIA di VM host workstation selama startup VM.

Untuk menentukan driver perangkat versi mana yang telah diinstal di workstation, jalankan perintah berikut:

nvidia-smi --query-gpu=name,driver_version --format=csv

Ketersediaan GPU menurut region dan zona

Anda dapat menelusuri berdasarkan lokasi atau model GPU, atau kombinasi keduanya.

A100 40GB H100 T4 V100 P100 P4

Hapus semua

Zona	Location	Platform GPU
asia-east1-a	Taiwan	P100, T4
asia-east1-b	Taiwan
asia-east1-c	Taiwan	H100, P100, T4, V100
asia-east2-a	Hong Kong	T4
asia-east2-b	Hong Kong
asia-east2-c	Hong Kong	T4
asia-northeast1-a	Tokyo	A100 40GB, T4
asia-northeast1-b	Tokyo	H100
asia-northeast1-c	Tokyo	A100 40GB, T4
asia-northeast3-a	Seoul	A100 40GB, H100
asia-northeast3-b	Seoul	A100 40GB, T4
asia-northeast3-c	Seoul	H100, T4
asia-south1-a asia-south1-b	Mumbai	T4
asia-south1-c	Mumbai	H100
asia-southeast1-a	Singapura	T4
asia-southeast1-b asia-southeast1-c	Singapura	A100 40GB, H100, P4, T4
australia-southeast1-a	Sydney	P4, T4
australia-southeast1-b	Sydney	P100, P4
australia-southeast1-c	Sydney	H100, T4
australia-southeast2-a australia-southeast2-b australia-southeast2-c	Melbourne
europe-central2-a	Warsawa
europe-central2-b europe-central2-c	Warsawa	T4
europe-north1-a europe-north1-b	Finlandia
europe-north1-c	Finlandia	H100
europe-southwest1-a europe-southwest1-b europe-southwest1-c	Madrid
europe-west1-b	Belgia	H100, P100, T4
europe-west1-c	Belgia	H100, T4
europe-west1-d	Belgia	P100, T4
europe-west12-a europe-west12-b	Turin
europe-west2-a	London	T4
europe-west2-b	London	H100, T4
europe-west2-c	London
europe-west3-a	Frankfurt	H100
europe-west3-b	Frankfurt	T4
europe-west3-c	Frankfurt	H100
europe-west4-a	Belanda	A100 40GB, P100, T4, V100
europe-west4-b	Belanda	A100 40GB, H100, P4, T4, V100
europe-west4-c	Belanda	H100, P4, T4, V100
europe-west6-a europe-west6-b europe-west6-c	Zurich
europe-west8-a europe-west8-b	Milan
europe-west8-c	Milan	H100
europe-west9-a europe-west9-b	Paris
europe-west9-c	Paris	H100
me-central2-a me-central2-b me-central2-c	Dammam
me-west1-a	Tel Aviv	A100 40GB
me-west1-b	Tel Aviv	T4
me-west1-c	Tel Aviv	A100 40GB, T4
northamerica-northeast1-a northamerica-northeast1-b	Montréal	P4
northamerica-northeast1-c	Montréal	P4, T4
southamerica-east1-a	Sao Paulo	T4
southamerica-east1-b	Sao Paulo
southamerica-east1-c	Sao Paulo	T4
southamerica-west1-a southamerica-west1-b southamerica-west1-c	Santiago
us-central1-a	Iowa	A100 40GB, H100, P4, T4, V100
us-central1-b	Iowa	A100 40GB, H100, T4, V100
us-central1-c	Iowa	A100 40GB, H100, P100, P4, T4, V100
us-central1-f	Iowa	A100 40GB, P100, T4, V100
us-east1-b	South Carolina	A100 40GB, P100
us-east1-c	South Carolina	P100, T4, V100
us-east1-d	South Carolina	T4
us-east4-a us-east4-b us-east4-c	Northern Virginia	H100, P4, T4
us-east5-a	Columbus	H100
us-east5-b us-east5-c	Columbus
us-west1-a	Oregon	H100, P100, T4, V100
us-west1-b	Oregon	A100 40GB, H100, P100, T4, V100
us-west1-c	Oregon
us-west4-a	Las Vegas	H100, T4
us-west4-b	Las Vegas	A100 40GB, T4
us-west4-c	Las Vegas

Langkah berikutnya

• Tentukan GPU menggunakan Cloud Workstations API.

• Pelajari cara Menjalankan instance Compute Engine dengan akselerator GPU.

• Lihat daftar lengkap jenis mesin Compute Engine.

Kirim masukan