Gerenciar recursos de TPU com o Compute Engine
Esta página descreve como se conectar, visualizar informações, excluir ou redefinir uma VM de TPU usando o Compute Engine.
Gerenciar VMs de TPU
Você interage com as VMs de TPU como qualquer VM do Compute Engine. No entanto, não é possível suspender ou interromper VMs de TPU. Também não é possível redefinir VMs de TPU de vários hosts.
Conectar-se a uma VM de TPU
Você se conecta a VMs de TPU da mesma forma que se conecta a qualquer outra instância do Compute Engine. Para mais informações, consulte Conectar-se a VMs Linux.
Visualizar informações sobre VMs de TPU
É possível visualizar informações sobre VMs de TPU e MIGs da mesma forma que qualquer instância ou MIG do Compute Engine.
- Para listar todas as VMs no seu projeto, consulte Receber uma lista de VMs.
- Para listar todos os MIGs, consulte Listar MIGs.
- Para conferir os detalhes de uma VM de TPU, consulte Conferir os detalhes de uma VM.
- Para visualizar informações sobre um MIG, consulte Consultar as propriedades de um MIG.
- Para conferir o status de uma fração de TPU de vários hosts, consulte Conferir o status de uma fração de TPU.
Redefinir uma instância de VM de TPU
Redefinir uma instância de VM de TPU é semelhante a redefinir o computador, por exemplo, pressionando um botão de redefinição ou mantendo pressionado o botão liga/desliga. Uma operação de redefinição não executa uma reinicialização normal, e você pode perder dados não salvos. Recomendamos redefinir uma instância nos seguintes cenários:
- Você quer reinicializar a instância para o estado de inicialização para garantir o desempenho e a estabilidade ideais.
- Você quer retomar a carga de trabalho depois que o SO convidado falhou e não responde, e não tem outras opções além de redefinir a instância.
Para mais informações sobre como redefinir uma instância de VM de TPU, consulte Operação de redefinição na documentação do Compute Engine.
Excluir uma instância de VM de TPU
Para saber como excluir uma instância de VM de TPU, consulte Excluir uma instância do Compute Engine na documentação do Compute Engine.
Atualizar as propriedades de uma instância de VM de TPU
É possível atualizar as propriedades de instâncias de VM de TPU em execução. Para mais informações, consulte Atualizar propriedades da instância.
Aplicar novas configurações de VM em um MIG
Para informações sobre como aplicar novas configurações de VM de TPU em um grupo gerenciado de instâncias (MIG), consulte Aplicar novas configurações de VM em um MIG.
A seguir
- Aprenda a criar um MIG com frações de TPU de host único.
- Aprenda a criar um MIG com uma fração de TPU de vários hosts.
- Saiba mais sobre TPUs no GKE.
- Aprenda a executar uma carga de trabalho de ML em TPUs, por exemplo, disponibilizar o Qwen2-72B-Instruct com o vLLM em TPUs.