Gerenciar recursos de TPU com o Compute Engine

Nesta página, descrevemos como se conectar, ver informações, excluir ou redefinir uma VM de TPU usando o Compute Engine.

Gerenciar VMs de TPU

Você interage com as VMs de TPU como qualquer VM do Compute Engine. No entanto, não é possível suspender ou interromper VMs de TPU. Também não é possível redefinir VMs de TPU com vários hosts.

Conectar-se a uma VM de TPU

A conexão com as VMs de TPU é feita da mesma forma que com qualquer outra instância do Compute Engine. Para mais informações, consulte Conectar-se a VMs do Linux.

Ver informações sobre VMs de TPU

É possível conferir informações sobre VMs de TPU e MIGs da mesma forma que qualquer instância ou MIG do Compute Engine.

• Para listar todas as VMs no seu projeto, consulte Receber uma lista de VMs.
• Para listar todos os seus MIGs, consulte Listar MIGs.
• Para conferir os detalhes de uma VM de TPU, consulte Conferir os detalhes de uma VM.
• Para conferir informações sobre um MIG, consulte Ver as propriedades de um MIG.
• Para conferir o status de uma fração de TPU de vários hosts, consulte Conferir o status de uma fração de TPU.
• Para conferir a topologia e a integridade de todas as instâncias de TPU no modo "Toda capacidade", consulte Conferir a topologia e a integridade de todas as TPUs no modo "Toda capacidade".

Redefinir uma instância de VM de TPU

Redefinir uma instância de VM de TPU é semelhante a redefinir o computador, por exemplo, pressionando um botão de redefinição ou mantendo pressionado o botão liga/desliga. Uma operação de redefinição não faz uma reinicialização normal, e você pode perder dados não salvos. Recomendamos que você redefina uma instância nos seguintes cenários:

• Você quer reinicializar a instância para o estado de inicialização e garantir a melhor performance e estabilidade.
• Você quer retomar sua carga de trabalho depois que o SO convidado falhou e não responde, e você não tem outras opções além de redefinir a instância.

Para mais informações sobre como redefinir uma instância de VM de TPU, consulte Operação de redefinição na documentação do Compute Engine.

Excluir uma instância de VM de TPU

Para saber como excluir uma instância de VM de TPU, consulte Excluir uma instância do Compute Engine na documentação do Compute Engine.

Atualizar as propriedades de uma instância de VM de TPU

É possível atualizar as propriedades das instâncias de VM de TPU em execução. Para mais informações, consulte Atualizar propriedades da instância.

Aplicar novas configurações de VM em um MIG

Para informações sobre como aplicar novas configurações de VM de TPU em um grupo gerenciado de instâncias (MIG), consulte Aplicar novas configurações de VM em um MIG.

A seguir

• Saiba como criar um MIG com frações de TPU de host único.
• Saiba como criar um MIG com uma fração de TPU de vários hosts.
• Saiba mais sobre TPUs no GKE.
• Saiba como executar uma carga de trabalho de ML em TPUs, por exemplo, Disponibilizar o Qwen2-7B-Instruct com o vLLM em TPUs.