Gerenciar recursos de TPU com o Compute Engine
Nesta página, descrevemos como se conectar, ver informações, excluir ou redefinir uma VM da TPU usando o Compute Engine.
Gerenciar VMs de TPU
Você interage com as VMs de TPU como qualquer VM do Compute Engine. No entanto, não é possível suspender ou interromper VMs de TPU. Também não é possível redefinir VMs de TPU com vários hosts.
Conectar-se a uma VM de TPU
A conexão com as VMs de TPU é feita da mesma forma que com qualquer outra instância do Compute Engine. Para mais informações, consulte Conectar-se a VMs do Linux.
Ver informações sobre VMs de TPU
É possível conferir informações sobre VMs de TPU e MIGs da mesma forma que qualquer instância ou MIG do Compute Engine.
- Para listar todas as VMs no seu projeto, consulte Receber uma lista de VMs.
- Para listar todos os seus MIGs, consulte Listar MIGs.
- Para conferir os detalhes de uma VM de TPU, consulte Conferir os detalhes de uma VM.
- Para ver informações sobre um MIG, consulte Conferir as propriedades de um MIG.
- Para conferir o status de uma fração de TPU de vários hosts, consulte Conferir o status de uma fração de TPU.
Redefinir uma instância de VM de TPU
Redefinir uma instância de VM de TPU é semelhante a redefinir o computador, por exemplo, pressionando um botão de redefinição ou mantendo pressionado o botão liga/desliga. Uma operação de redefinição não faz uma reinicialização normal, e você pode perder dados não salvos. Recomendamos que você redefina uma instância nos seguintes cenários:
- Você quer reinicializar a instância para o estado de inicialização e garantir a performance e a estabilidade ideais.
- Você quer retomar sua carga de trabalho depois que o SO convidado falhou e não responde, e não tem outras opções além de redefinir a instância.
Para mais informações sobre como redefinir uma instância de VM da TPU, consulte Operação de redefinição na documentação do Compute Engine.
Excluir uma instância de VM de TPU
Para saber como excluir uma instância de VM da TPU, consulte Excluir uma instância do Compute Engine na documentação do Compute Engine.
Atualizar as propriedades de uma instância de VM da TPU
É possível atualizar as propriedades das instâncias de VM da TPU em execução. Para mais informações, consulte Atualizar propriedades da instância.
Aplicar novas configurações de VM em um MIG
Para informações sobre como aplicar novas configurações de VM de TPU em um grupo gerenciado de instâncias (MIG), consulte Aplicar novas configurações de VM em um MIG.
A seguir
- Saiba como criar um MIG com frações de TPU de host único.
- Saiba como criar um MIG com uma fração de TPU de vários hosts.
- Saiba mais sobre TPUs no GKE.
- Aprenda a executar uma carga de trabalho de ML em TPUs, por exemplo, Disponibilizar o Qwen2-72B-Instruct com o vLLM em TPUs.