Cloud TPU erstellen – Übersicht
Mit Compute Engine können Sie TPU-VMs entweder als einzelne Instanzen oder als Teil einer verwalteten Instanzgruppe (Managed Instance Group, MIG) erstellen und verwalten. MIGs können mehrere TPU-VMs mit einem einzelnen Host oder TPU-Slices mit mehreren Hosts haben. MIGs mit Single-Host-VMs eignen sich am besten, wenn Sie mehrere unabhängige Arbeitslasten haben, z. B. Inferenzarbeitslasten. MIGs mit TPU-Slices mit mehreren Hosts haben mehrere miteinander verbundene TPU-VMs, die als Einheit für eine einzelne Arbeitslast zusammenarbeiten. Wie Sie Ihre TPU-VMs erstellen und verwalten, hängt von den Anforderungen Ihrer Arbeitslast ab.
Informationen zum Erstellen einer einzelnen TPU-VM finden Sie unter Einzelne TPU-VM-Instanz erstellen. Weitere Informationen zu MIGs und TPUs finden Sie unter Cloud TPU-VMs mit MIGs erstellen.
Nächste Schritte
- MIG mit Cloud TPU-Slices mit einem Host erstellen
- MIG mit einem Cloud TPU-Slice mit mehreren Hosts erstellen
- TPU-VMs verwalten
- TPUs in GKE
- Informationen zum Ausführen einer ML-Arbeitslast auf TPUs finden Sie beispielsweise unter Qwen2-72B-Instruct mit vLLM auf TPUs bereitstellen.