Risoluzione dei problemi di PyTorch - TPU

Questa guida fornisce informazioni per la risoluzione dei problemi per aiutarti a identificare e risolvere i problemi che potresti riscontrare durante l'addestramento dei modelli PyTorch su Cloud TPU. Per una guida più generale su come iniziare a utilizzare Cloud TPU, consulta Guida rapida: crea un'istanza TPU.

Risoluzione dei problemi relativi alle prestazioni di addestramento lente

Se l'addestramento del modello è lento, genera ed esamina un report sulle metriche.

Per analizzare automaticamente il report sulle metriche e fornire un riepilogo, esegui il workload con PT_XLA_DEBUG=1.

Per saperne di più sui problemi che potrebbero rallentare l'addestramento del modello, consulta Avvertenze note sulle prestazioni.

Profilazione delle prestazioni

Per profilare in modo approfondito il tuo workload e scoprire i colli di bottiglia, consulta queste risorse:

Altri strumenti di debug

Puoi specificare variabili di ambiente per controllare il comportamento dello stack software PyTorch/XLA.

Se riscontri un bug imprevisto e hai bisogno di aiuto, segnala un problema su GitHub.

Gestione dei tensori XLA

XLA tensor Quirks descrive cosa dovresti e non dovresti fare quando lavori con i tensori XLA e i pesi condivisi.