Criar uma instância de TPU

Criar uma instância de TPU

Este documento mostra como criar uma instância de máquina virtual (VM) de TPU v6e (Trillium), conectar-se a ela e executar um cálculo. A instância de TPU criada neste guia de início rápido usa a opção de consumo padrão, sob demanda.

Antes de começar

Faça login na sua Google Cloud conta do. Se você não conhece o Google Cloud, crie uma conta para avaliar o desempenho dos nossos produtos em cenários reais. Clientes novos também recebem US $300 em créditos para executar, testar e implantar cargas de trabalho.

Instale a Google Cloud CLI.

Observação: se você já tiver instalado a CLI gcloud anteriormente, verifique se você tem a versão mais recente executando gcloud components update.

Ao usar um provedor de identidade (IdP) externo, primeiro faça login na CLI gcloud com sua identidade federada.

Para inicializar a CLI gcloud, execute o seguinte comando:

gcloud init

Crie ou selecione um Google Cloud projeto.

Funções necessárias para selecionar ou criar um projeto

• Selecionar um projeto: a seleção de um projeto não exige um papel específico do IAM. Você pode selecionar qualquer projeto em que tenha recebido um papel.
• Criar um projeto: para criar um projeto, é necessário ter o papel de criador de projetos (roles/resourcemanager.projectCreator), que contém a resourcemanager.projects.create permissão. Saiba como conceder papéis.

Observação: se você não pretende manter os recursos criados neste procedimento, crie um projeto novo em vez de selecionar um que já existe. Depois de concluir essas etapas, é possível excluir o projeto. Para fazer isso, basta remover todos os recursos associados a ele.

• Crie um Google Cloud projeto do:

  gcloud projects create PROJECT_ID

  Substitua PROJECT_ID por um nome para o Google Cloud projeto do que você está criando.

• Selecione o Google Cloud projeto do que você criou:

  gcloud config set project PROJECT_ID

  Substitua PROJECT_ID pelo nome do Google Cloud projeto do.

Se este guia estiver usando um projeto atual, verifique se você tem as permissões necessárias para concluir o guia. Se você criou um projeto, já tem as permissões necessárias.

Verifique se o faturamento está ativado para o Google Cloud projeto.

Ative a API Compute Engine:

Funções necessárias para ativar APIs

Para ativar as APIs, é necessário ter o papel do IAM de administrador de Service Usage role (roles/serviceusage.serviceUsageAdmin), que contém a serviceusage.services.enable permissão. Saiba como conceder papéis.

gcloud services enable compute.googleapis.com

Instale a Google Cloud CLI.

Observação: se você já tiver instalado a CLI gcloud anteriormente, verifique se você tem a versão mais recente executando gcloud components update.

Ao usar um provedor de identidade (IdP) externo, primeiro faça login na CLI gcloud com sua identidade federada.

Para inicializar a CLI gcloud, execute o seguinte comando:

gcloud init

Crie ou selecione um Google Cloud projeto.

Funções necessárias para selecionar ou criar um projeto

• Selecionar um projeto: a seleção de um projeto não exige um papel específico do IAM. Você pode selecionar qualquer projeto em que tenha recebido um papel.
• Criar um projeto: para criar um projeto, é necessário ter o papel de criador de projetos (roles/resourcemanager.projectCreator), que contém a resourcemanager.projects.create permissão. Saiba como conceder papéis.

Observação: se você não pretende manter os recursos criados neste procedimento, crie um projeto novo em vez de selecionar um que já existe. Depois de concluir essas etapas, é possível excluir o projeto. Para fazer isso, basta remover todos os recursos associados a ele.

• Crie um Google Cloud projeto do:

  gcloud projects create PROJECT_ID

  Substitua PROJECT_ID por um nome para o Google Cloud projeto do que você está criando.

• Selecione o Google Cloud projeto do que você criou:

  gcloud config set project PROJECT_ID

  Substitua PROJECT_ID pelo nome do Google Cloud projeto do.

Se este guia estiver usando um projeto atual, verifique se você tem as permissões necessárias para concluir o guia. Se você criou um projeto, já tem as permissões necessárias.

Verifique se o faturamento está ativado para o Google Cloud projeto.

Ative a API Compute Engine:

Funções necessárias para ativar APIs

Para ativar as APIs, é necessário ter o papel do IAM de administrador de Service Usage role (roles/serviceusage.serviceUsageAdmin), que contém a serviceusage.services.enable permissão. Saiba como conceder papéis.

gcloud services enable compute.googleapis.com

Funções exigidas

Para receber as permissões necessárias para criar uma instância de TPU, conecte-se a ela usando SSH e execute comandos, peça ao administrador para conceder a você os seguintes papéis do IAM no projeto:

• Administrador da instância do Compute (v1) (roles/compute.instanceAdmin.v1)
• Usuário da conta de serviço (roles/iam.serviceAccountUser)
• Administrador do Service Usage (roles/serviceusage.serviceUsageAdmin)

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias usando personalizados papéis ou outros predefinidos papéis.

Criar uma instância de TPU v6e (Trillium)

Execute os comandos a seguir no terminal local ou usando o Cloud Shell.

1. Para criar uma instância de TPU v6e, execute o seguinte gcloud compute instances create comando:

   gcloud compute instances create quickstart-tpu \
       --machine-type=ct6e-standard-4t \
       --zone=europe-west4-a \
       --image-project=ubuntu-os-accelerator-images \
       --image-family=ubuntu-accel-2204-amd64-tpu-v5e-v5p-v6e \
       --maintenance-policy=TERMINATE
   

2. Opcionalmente, verifique se a instância está em execução usando o gcloud compute instances describe comando:

   gcloud compute instances describe quickstart-tpu --zone=europe-west4-a
   

   Na saída, verifique o campo status para confirmar se a instância está em execução ou ainda pendente.

Conectar-se à instância de TPU

É possível se conectar a uma instância de TPU usando o Google Cloud console ou a CLI gcloud.

Para se conectar à VM usando SSH, execute o seguinte gcloud compute ssh comando:

gcloud compute ssh quickstart-tpu --zone=europe-west4-a

Instalar o JAX

Instale o framework JAX executando o seguinte comando na instância de TPU:

pip install jax[tpu] -f https://storage.googleapis.com/jax-releases/libtpu_releases.html

Observação: se esse comando falhar, talvez seja necessário executar sudo apt update e sudo apt install python3-pip.

Executar uma verificação do sistema

Verifique se o JAX pode acessar a TPU e executar operações básicas executando os seguintes comandos na instância de TPU:

1. Inicie o interpretador do Python 3:

   python3
   

2. Importe o módulo JAX:

   >>> import jax
   

3. Confira o número de núcleos de TPU disponíveis:

   >>> jax.device_count()
   

   A saída mostra o número de núcleos de TPU. O número de núcleos depende da versão da TPU que você está usando. Para mais informações, consulte Versões da TPU.

Fazer um cálculo

1. Execute o seguinte comando para adicionar dois números:

   >>> jax.numpy.add(1, 1)
   

   A saída será semelhante a esta:

   >>> Array(2, dtype=int32, weak_type=True)
   

2. Saia do interpretador Python:

   >>> 
   exit()
   

Limpar

Para evitar cobranças na conta do Google Cloud pelos recursos usados nesta página, exclua o Google Cloud projeto do e os recursos.

Como alternativa, se você quiser manter o projeto, exclua apenas a VM usando o comando gcloud compute instances delete:

gcloud compute instances delete quickstart-tpu --zone=europe-west4-a

A seguir

• Saiba mais sobre os recursos da Cloud TPU no Compute Engine
• Criar uma instância da Cloud TPU usando outras opções de consumo
• Criar instâncias da Cloud TPU com MIGs