Membuat instance TPU

Membuat instance TPU

Dokumen ini menunjukkan cara membuat instance virtual machine (VM) TPU v6e (Trillium), terhubung ke instance tersebut, dan menjalankan perhitungan di instance tersebut. Instance TPU yang Anda buat dalam panduan memulai ini menggunakan opsi penggunaan default sesuai permintaan.

Sebelum memulai

Login keakun Anda. Google Cloud Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi baru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Memilih project: Memilih project tidak memerlukan peran IAM tertentu Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Project Creator (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih Google Cloud project yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama Google Cloud project Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Pastikan penagihan diaktifkan untuk Google Cloud project Anda.

Aktifkan Compute Engine API:

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

gcloud services enable compute.googleapis.com

Instal Google Cloud CLI.

Catatan: Jika Anda telah menginstal gcloud CLI sebelumnya, pastikan Anda memiliki versi baru dengan menjalankan gcloud components update.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Memilih project: Memilih project tidak memerlukan peran IAM tertentu Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Project Creator (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih Google Cloud project yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama Google Cloud project Anda.

Jika Anda menggunakan project yang sudah ada untuk panduan ini, pastikan Anda memiliki izin yang diperlukan untuk menyelesaikan panduan ini. Jika berhasil membuat project baru, berarti Anda sudah memiliki izin yang diperlukan.

Pastikan penagihan diaktifkan untuk Google Cloud project Anda.

Aktifkan Compute Engine API:

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

gcloud services enable compute.googleapis.com

Peran yang diperlukan

Untuk mendapatkan izin yang Anda perlukan guna membuat instance TPU, terhubung ke instance tersebut menggunakan SSH, dan menjalankan perintah, minta administrator Anda untuk memberi Anda peran IAM berikut di project Anda:

• Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1)
• Service Account User (roles/iam.serviceAccountUser)
• Service Usage Admin (roles/serviceusage.serviceUsageAdmin)

Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

Membuat instance TPU v6e (Trillium)

Jalankan perintah berikut di terminal lokal Anda atau menggunakan Cloud Shell.

1. Untuk membuat instance TPU v6e, jalankan perintah gcloud compute instances create berikut:

   gcloud compute instances create quickstart-tpu \
       --machine-type=ct6e-standard-4t \
       --zone=europe-west4-a \
       --image-project=ubuntu-os-accelerator-images \
       --image-family=ubuntu-accel-2204-amd64-tpu-v5e-v5p-v6e \
       --maintenance-policy=TERMINATE
   

2. Secara opsional, verifikasi bahwa instance sedang berjalan menggunakan gcloud compute instances describe perintah:

   gcloud compute instances describe quickstart-tpu --zone=europe-west4-a
   

   Dalam output, periksa kolom status untuk memverifikasi apakah instance sedang berjalan atau masih tertunda.

Menghubungkan ke instance TPU

Anda dapat terhubung ke instance TPU menggunakan Google Cloud konsol atau gcloud CLI.

Untuk terhubung ke VM menggunakan SSH, jalankan perintah gcloud compute ssh berikut:

gcloud compute ssh quickstart-tpu --zone=europe-west4-a

Menginstal JAX

Instal framework JAX dengan menjalankan perintah berikut di instance TPU Anda:

pip install jax[tpu] -f https://storage.googleapis.com/jax-releases/libtpu_releases.html

Catatan: Jika perintah ini gagal, Anda mungkin perlu menjalankan sudo apt update dan sudo apt install python3-pip.

Menjalankan pemeriksaan sistem

Verifikasi bahwa JAX dapat mengakses TPU dan dapat menjalankan operasi dasar dengan menjalankan perintah berikut di instance TPU Anda:

1. Mulai interpreter Python 3:

   python3
   

2. Impor modul JAX:

   >>> import jax
   

3. Tampilkan jumlah core TPU yang tersedia:

   >>> jax.device_count()
   

   Output menampilkan jumlah core TPU. Jumlah core bergantung pada versi TPU yang Anda gunakan. Untuk mengetahui informasi selengkapnya, lihat Versi TPU.

Melakukan perhitungan

1. Jalankan perintah berikut untuk menambahkan dua angka:

   >>> jax.numpy.add(1, 1)
   

   Outputnya akan mirip dengan berikut ini:

   >>> Array(2, dtype=int32, weak_type=True)
   

2. Keluar dari interpreter Python:

   >>> 
   exit()
   

Pembersihan

Agar akun Anda tidak dikenai biaya untuk resource yang digunakan pada halaman ini, hapus project yang berisi resource tersebut. Google Cloud Google Cloud

Atau, jika ingin mempertahankan project, Anda hanya dapat menghapus VM dengan menggunakan gcloud compute instances delete perintah:

gcloud compute instances delete quickstart-tpu --zone=europe-west4-a

Langkah berikutnya

• Pelajari resource Cloud TPU di Compute Engine
• Membuat instance Cloud TPU menggunakan opsi penggunaan lainnya
• Membuat instance Cloud TPU dengan MIG