Versi software TPU

Dokumen ini memberikan panduan tentang cara memilih versi software TPU yang sesuai saat Anda membuat Cloud TPU.

Saat membuat resource TPU, Anda menentukan versi software, yang juga disebut versi runtime, yang mengacu pada lingkungan software yang telah diinstal sebelumnya di VM TPU Anda. Hal ini mencakup sistem operasi Ubuntu, Docker, dan software lain yang diperlukan untuk menjalankan kode Anda di TPU.

Jika menggunakan Google Cloud CLI, Anda menentukan versi software TPU menggunakan parameter --version atau --runtime-version. Jika Anda menggunakan konsol Google Cloud , Anda memilih versi software TPU dari daftar Versi software TPU.

PyTorch dan JAX

Gunakan versi software TPU umum berikut untuk PyTorch dan JAX, lalu instal framework yang ingin Anda gunakan.

Versi TPU Versi software TPU
Trillium (v6e) v2-alpha-tpuv6e
v5p v2-alpha-tpuv5
v5e v2-alpha-tpuv5-lite
v4 dan yang lebih lama tpu-ubuntu2204-base

Untuk mengetahui informasi selengkapnya tentang penginstalan dan cara memulai PyTorch atau JAX, lihat Menjalankan perhitungan di VM Cloud TPU menggunakan PyTorch dan Menjalankan perhitungan di VM Cloud TPU menggunakan JAX.

TensorFlow

Versi software TPU untuk TensorFlow mengikuti konvensi penamaan tertentu:

tpu-vm-tf-x.y.z[-{pod}][-{device_api}]

  • x.y.z: Menampilkan versi utama, minor, dan patch dari TensorFlow.
  • -pod (opsional): Menunjukkan bahwa Anda menggunakan slice TPU multi-host.
  • -{device_api} (opsional): Menentukan API perangkat, misalnya, -pjrt (jika Anda menggunakan PJRT API).

Lihat bagian berikut untuk mengetahui informasi selengkapnya tentang cara menentukan versi software TPU.

Ada versi software TPU khusus untuk setiap versi TensorFlow. Tabel berikut menunjukkan versi TensorFlow yang didukung dan versi libtpu terkait:

Versi TensorFlow Versi libtpu.so
2.18.0 1.12.0
2.17.1 1.11.1
2.17.0 1.11.0
2.16.2 1.10.1
2.16.1 1.10.1
2.15.1 1.9.0
2.15.0 1.9.0
2.14.1 1.8.1
2.14.0 1.8.0
2.13.1 1.7.1
2.13.0 1.7.0
2.12.1 1.6.1
2.12.0 1.6.0
2.11.1 1.5.1
2.11.0 1.5.0
2.10.1 1.4.1
2.10.0 1.4.0
2.9.3 1.3.2
2.9.1 1.3.0
2.8.3 1.2.3
2.8.0 1.2.0
2.7.3 1.1.2

Untuk mengetahui informasi selengkapnya tentang versi patch TensorFlow, lihat Versi patch TensorFlow yang didukung.

TPU v6e, v5p, dan v5e

TPU v6e, v5e, dan v5p mendukung TensorFlow 2.15.0 dan yang lebih baru. Anda menentukan versi software TPU menggunakan formulir: tpu-vm-tf-x.y.z-{pod}-pjrt dengan x adalah versi TensorFlow utama, y adalah versi minor, dan z adalah versi patch TensorFlow. Tambahkan pod setelah versi TensorFlow jika Anda menggunakan TPU multi-host. Misalnya, jika Anda menggunakan TensorFlow 2.16.0 di TPU multi-host, gunakan versi software TPU tpu-vm-tf-2.16.0-pod-pjrt. Untuk versi TensorFlow lainnya, ganti 2.16.0 dengan versi utama dan patch TensorFlow yang Anda gunakan. Jika Anda menggunakan TPU host tunggal, hapus pod.

TPU v4

Jika Anda menggunakan TPU v4 dan TensorFlow 2.10.1 atau yang lebih baru, ikuti petunjuk untuk TPU v2 dan v3. Jika Anda menggunakan TensorFlow 2.10.0 atau yang lebih lama, gunakan versi software TPU khusus v4:

Versi TensorFlow Versi software TPU
2.10.0 tpu-vm-tf-2.10.0-v4
tpu-vm-tf-2.10.0-pod-v4
2.9.3 tpu-vm-tf-2.9.3-v4
tpu-vm-tf-2.9.3-pod-v4
2.9.2 tpu-vm-tf-2.9.2-v4
tpu-vm-tf-2.9.2-pod-v4
2.9.1 tpu-vm-tf-2.9.1-v4
tpu-vm-tf-2.9.1-pod-v4

TPU v2 dan v3

Jika Anda menggunakan TPU v2 atau v3, gunakan versi software TPU yang cocok dengan versi TensorFlow yang Anda gunakan. Misalnya, jika Anda menggunakan TensorFlow 2.14.1, gunakan versi software TPU tpu-vm-tf-2.14.1. Untuk versi TensorFlow lainnya, ganti 2.14.1 dengan versi TensorFlow yang Anda gunakan. Jika Anda menggunakan TPU multi-host, tambahkan pod di akhir versi software TPU, misalnya tpu-vm-tf-2.14.1-pod.

Mulai TensorFlow 2.15.0, Anda juga harus menentukan API perangkat sebagai bagian dari nama versi software. Misalnya, jika Anda menggunakan TensorFlow 2.16.1 dengan PJRT API, gunakan versi software TPU tpu-vm-tf-2.16.1-pjrt. Jika Anda menggunakan stream executor API dengan TensorFlow versi yang sama, gunakan software TPU versi tpu-vm-tf-2.16.1-se. Versi TensorFlow yang lebih lama dari 2.15.0 hanya mendukung stream executor.

Dukungan PJRT TensorFlow

Mulai dari TensorFlow 2.15.0, Anda dapat menggunakan antarmuka PJRT untuk TensorFlow di TPU. PJRT memiliki fitur defragmentasi memori perangkat otomatis dan menyederhanakan integrasi hardware dengan framework. Untuk mengetahui informasi selengkapnya tentang PJRT, lihat PJRT: Menyederhanakan Integrasi Hardware dan Framework ML.

Akselerator Fitur Dukungan PJRT Dukungan eksekutor streaming
TPU v2 - v4 Komputasi padat (tanpa TPU embedding API) Ya Ya
TPU v2 - v4 API komputasi padat + API penyematan TPU Tidak Ya
TPU v2 - v4 tf.summary/tf.print dengan penempatan perangkat yang fleksibel Tidak Ya
TPU v5e Komputasi padat (tanpa TPU embedding API) Ya Tidak
TPU v5e TPU embedding API T/A Tidak
TPU v5p Komputasi padat (tanpa TPU embedding API) Ya Tidak
TPU v5p TPU embedding API Ya Tidak

Langkah berikutnya