Buat instance TPU

Buat instance TPU

Dokumen ini menunjukkan cara membuat instance virtual machine (VM) TPU v6e (Trillium), terhubung ke instance tersebut, dan menjalankan perhitungan di instance tersebut. Instance TPU yang Anda buat dalam panduan memulai ini menggunakan opsi pemakaian default, yaitu sesuai permintaan.

Sebelum memulai

Login ke akun Google Cloud Anda. Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi terbaru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Pilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih project Google Cloud yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama project Google Cloud Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Verifikasi bahwa penagihan diaktifkan untuk project Google Cloud Anda.

Aktifkan Compute Engine API:

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

gcloud services enable compute.googleapis.com

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi terbaru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Pilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih project Google Cloud yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama project Google Cloud Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Verifikasi bahwa penagihan diaktifkan untuk project Google Cloud Anda.

Aktifkan Compute Engine API:

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

gcloud services enable compute.googleapis.com

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan untuk membuat instance TPU, terhubung ke instance tersebut menggunakan SSH, dan menjalankan perintah, minta administrator untuk memberi Anda peran IAM berikut di project Anda:

• Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1)
• Service Account User (roles/iam.serviceAccountUser)
• Service Usage Admin (roles/serviceusage.serviceUsageAdmin)

Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

Membuat instance TPU v6e (Trillium)

Jalankan perintah berikut di terminal lokal atau menggunakan Cloud Shell.

1. Untuk membuat instance TPU v6e, jalankan perintah gcloud compute instances create berikut:

   gcloud compute instances create quickstart-tpu \
       --machine-type=ct6e-standard-4t \
       --zone=europe-west4-a \
       --image-project=ubuntu-os-accelerator-images \
       --image-family=ubuntu-accel-2204-amd64-tpu-v5e-v5p-v6e \
       --maintenance-policy=TERMINATE
   

2. (Opsional) Verifikasi bahwa instance berjalan menggunakan perintah gcloud compute instances describe:

   gcloud compute instances describe quickstart-tpu --zone=europe-west4-a
   

   Pada output, periksa kolom status untuk memverifikasi apakah instance sedang berjalan atau masih menunggu.

Menghubungkan ke instance TPU

Anda dapat terhubung ke instance TPU menggunakan konsol Google Cloud atau gcloud CLI.

Untuk terhubung ke VM menggunakan SSH, jalankan perintah gcloud compute ssh berikut:

gcloud compute ssh quickstart-tpu --zone=europe-west4-a

Menginstal JAX

Instal framework JAX dengan menjalankan perintah berikut di instance TPU Anda:

pip install jax[tpu] -f https://storage.googleapis.com/jax-releases/libtpu_releases.html

Catatan: Jika perintah ini gagal, Anda mungkin perlu menjalankan sudo apt update dan sudo apt install python3-pip.

Menjalankan pemeriksaan sistem

Pastikan JAX dapat mengakses TPU dan dapat menjalankan operasi dasar dengan menjalankan perintah berikut pada instance TPU Anda:

1. Mulai interpreter Python 3:

   python3
   

2. Impor modul JAX:

   >>> import jax
   

3. Menampilkan jumlah core TPU yang tersedia:

   >>> jax.device_count()
   

   Output menampilkan jumlah core TPU. Jumlah core bergantung pada versi TPU yang Anda gunakan. Untuk mengetahui informasi selengkapnya, lihat versi TPU.

Melakukan penghitungan

1. Jalankan perintah berikut untuk menjumlahkan dua angka:

   >>> jax.numpy.add(1, 1)
   

   Outputnya akan mirip dengan berikut ini:

   >>> Array(2, dtype=int32, weak_type=True)
   

2. Keluar dari interpreter Python:

   >>> 
   exit()
   

Pembersihan

Agar akun Google Cloud Anda tidak dikenai biaya untuk resource yang digunakan pada halaman ini, hapus project Google Cloud yang berisi resource tersebut.

Agar akun Google Cloud Anda tidak dikenai biaya untuk resource yang digunakan di halaman ini, hapus instance TPU menggunakan perintah gcloud compute instances delete:

gcloud compute instances delete quickstart-tpu --zone=europe-west4-a

Langkah berikutnya

• Pelajari resource Cloud TPU di Compute Engine
• Membuat instance Cloud TPU menggunakan opsi pemakaian lainnya
• Membuat instance Cloud TPU dengan MIG