Panoramica della creazione di Cloud TPU

Compute Engine ti consente di creare e gestire macchine virtuali (VM) TPU come singole istanze o come parte di un gruppo di istanze gestite (MIG). I MIG possono avere più VM TPU a host singolo o sezioni TPU multi-host. I MIG con VM a singolo host sono ideali quando hai più workload indipendenti, ad esempio i workload di inferenza. I MIG con slice TPU multi-host hanno più VM TPU interconnesse che funzionano insieme come un'unica unità su un singolo carico di lavoro. Il modo in cui crei e gestisci le tue VM TPU dipende dai requisiti del tuo workload.

Per scoprire come creare una singola VM TPU, consulta Crea una singola istanza VM TPU. Per scoprire di più sui MIG e sulle TPU, consulta Crea VM Cloud TPU con i MIG.

Passaggi successivi

• Scopri come creare un MIG con slice Cloud TPU a singolo host.
• Scopri come creare un MIG con una sezione Cloud TPU multi-host.
• Scopri come gestire le VM TPU.
• Scopri di più sulle TPU in GKE.
• Scopri come eseguire un workload ML sulle TPU, ad esempio Eroga Qwen2-72B-Instruct con vLLM sulle TPU.