Cloud TPU 建立總覽

Compute Engine 可讓您建立及管理 TPU 虛擬機器 (VM)，無論是個別執行個體，還是代管執行個體群組 (MIG) 的一部分。MIG 可以有多個單主機 TPU VM 或多主機 TPU 配量。如果有多個獨立工作負載 (例如推論工作負載)，建議使用含單一主機 VM 的 MIG。具有多主機 TPU 配量的 MIG 包含多個互連的 TPU VM，可做為單一工作負載上的單元共同運作。建立及管理 TPU VM 的方式取決於工作負載需求。

如要瞭解如何建立單一 TPU VM，請參閱「建立單一 TPU VM 執行個體」。如要瞭解 MIG 和 TPU，請參閱「使用 MIG 建立 Cloud TPU VM」

後續步驟

• 瞭解如何建立具有單一主機 Cloud TPU 節點的 MIG。
• 瞭解如何建立具有多主機 Cloud TPU 配量的 MIG。
• 瞭解如何管理 TPU VM。
• 瞭解 GKE 中的 TPU。
• 瞭解如何在 TPU 上執行機器學習工作負載，例如在 TPU 上使用 vLLM 提供 Qwen2-72B-Instruct 服務。