TPU v2

本文說明 Cloud TPU v2 的架構和支援的設定。

系統架構

如要瞭解 TPU v2 的架構詳細資料和效能特性,請參閱「用於訓練深層類神經網路的特定領域超級電腦」。

設定

TPU v2 Pod 最多由 256 個晶片 (512 個 TensorCore) 組成,這些晶片透過可重新設定的高速連結相互連結。如要建立 TPU v2 配量,請在 TPU 建立指令 (gcloud compute tpus tpu-vm) 中使用 --accelerator-type 旗標。指定 TPU 版本和 TPU 核心數量,即可指定加速器類型。舉例來說,如果是單一 v2 TPU,請使用 --accelerator-type=v2-8。如要使用搭載 128 個 TensorCore 的第 2 代配量,請使用 --accelerator-type=v2-128。

下列指令說明如何建立具有 128 個 TensorCore 的第 2 代 TPU 切片:

  $ gcloud compute tpus tpu-vm create tpu-name \
    --zone=us-central1-a \
    --accelerator-type=v2-128 \
    --version=tpu-ubuntu2204-base

如要進一步瞭解如何管理 TPU,請參閱「管理 TPU」。如要進一步瞭解 TPU 系統架構 Cloud TPU,請參閱「系統架構」。

下表列出支援的第 2 代 TPU 類型:

TPU 版本 結束支援
v2-8 (結束日期尚未訂定)
v2-32 (結束日期尚未訂定)
v2-128 (結束日期尚未訂定)
v2-256 (結束日期尚未訂定)
v2-512 (結束日期尚未訂定)