TPU 인스턴스 만들기

이 문서에서는 TPU 가상 머신 (VM) 인스턴스를 만들고, 연결하고, 계산을 실행하는 방법을 보여줍니다. 이 빠른 시작에서 만드는 TPU 인스턴스는 기본 소비 옵션인 주문형을 사용합니다.

시작하기 전에

  1. 계정에 로그인합니다. Google Cloud 를 처음 사용하는 경우 Google Cloud, 계정을 만들고 Google 제품의 실제 성능을 평가해 보세요. 신규 고객에게는 워크로드를 실행, 테스트, 배포하는 데 사용할 수 있는 $300의 무료 크레딧이 제공됩니다.

  2. Google Cloud CLI를 설치합니다.

  3. 외부 ID 공급업체(IdP)를 사용하는 경우 먼저 제휴 ID로 gcloud CLI에 로그인해야 합니다.

  4. gcloud CLI를 초기화하려면, 다음 명령어를 실행합니다. 

    gcloud init

  5. 프로젝트를 만들거나 Google Cloud 선택합니다.

    프로젝트를 선택하거나 만드는 데 필요한 역할

    • 프로젝트 선택: 프로젝트를 선택하는 데는 특정 IAM 역할이 필요하지 않습니다. 역할이 부여된 프로젝트를 선택할 수 있습니다.
    • 프로젝트 만들기: 프로젝트를 만들려면 resourcemanager.projects.create 권한이 포함된 프로젝트 생성자 역할 (roles/resourcemanager.projectCreator)이 필요합니다. 역할을 부여하는 방법을 알아보세요.

    • 프로젝트 만들기: Google Cloud 

      gcloud projects create PROJECT_ID

      PROJECT_ID를 만들려는 Google Cloud 프로젝트의 이름으로 바꿉니다.

    • 생성한 Google Cloud 프로젝트를 선택합니다.

      gcloud config set project PROJECT_ID

      PROJECT_ID를 Google Cloud 프로젝트 이름으로 바꿉니다.

  6. 이 가이드에 기존 프로젝트를 사용하는 경우 이 가이드를 완료하는 데 필요한 권한이 있는지 확인합니다. 새 프로젝트를 만든 경우에는 이미 필요한 권한이 있습니다.

  7. 프로젝트에 결제가 사용 설정되어 있는지 확인합니다 Google Cloud .

  8. Compute Engine API를 사용 설정합니다.

    API 사용 설정에 필요한 역할

    API를 사용 설정하려면 역할 (roles/serviceusage.serviceUsageAdmin)이 포함된 서비스 사용량 관리자 IAM serviceusage.services.enable 권한이 필요합니다. 역할을 부여하는 방법을 알아보세요. 

    gcloud services enable compute.googleapis.com

  9. Google Cloud CLI를 설치합니다.

  10. 외부 ID 공급업체(IdP)를 사용하는 경우 먼저 제휴 ID로 gcloud CLI에 로그인해야 합니다.

  11. gcloud CLI를 초기화하려면, 다음 명령어를 실행합니다. 

    gcloud init

  12. 프로젝트를 만들거나 Google Cloud 선택합니다.

    프로젝트를 선택하거나 만드는 데 필요한 역할

    • 프로젝트 선택: 프로젝트를 선택하는 데는 특정 IAM 역할이 필요하지 않습니다. 역할이 부여된 프로젝트를 선택할 수 있습니다.
    • 프로젝트 만들기: 프로젝트를 만들려면 resourcemanager.projects.create 권한이 포함된 프로젝트 생성자 역할 (roles/resourcemanager.projectCreator)이 필요합니다. 역할을 부여하는 방법을 알아보세요.

    • 프로젝트 만들기: Google Cloud 

      gcloud projects create PROJECT_ID

      PROJECT_ID를 만들려는 Google Cloud 프로젝트의 이름으로 바꿉니다.

    • 생성한 Google Cloud 프로젝트를 선택합니다.

      gcloud config set project PROJECT_ID

      PROJECT_ID를 Google Cloud 프로젝트 이름으로 바꿉니다.

  13. 이 가이드에 기존 프로젝트를 사용하는 경우 이 가이드를 완료하는 데 필요한 권한이 있는지 확인합니다. 새 프로젝트를 만든 경우에는 이미 필요한 권한이 있습니다.

  14. 프로젝트에 결제가 사용 설정되어 있는지 확인합니다 Google Cloud .

  15. Compute Engine API를 사용 설정합니다.

    API 사용 설정에 필요한 역할

    API를 사용 설정하려면 역할 (roles/serviceusage.serviceUsageAdmin)이 포함된 서비스 사용량 관리자 IAM serviceusage.services.enable 권한이 필요합니다. 역할을 부여하는 방법을 알아보세요. 

    gcloud services enable compute.googleapis.com
    16.

필요한 역할

TPU 인스턴스를 만들고, SSH를 사용하여 연결하고, 명령어를 실행하는 데 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 다음 IAM 역할을 부여해 달라고 요청하세요.

역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.

TPU 인스턴스 만들기

로컬 터미널 또는 Cloud Shell을 사용하여 다음 명령어를 실행합니다.

  1. TPU 인스턴스를 만들려면 다음 gcloud compute instances create 명령어를 실행합니다.

    gcloud compute instances create quickstart-tpu \
    --machine-type=ct6e-standard-4t \
    --zone=us-east5-b \
    --image-project=ubuntu-os-accelerator-images \
    --image-family=ubuntu-accelerator-2204-amd64-with-tpu-v6e

  2. 선택적으로 gcloud compute instances describe 명령어를 사용하여 인스턴스가 실행 중인지 확인합니다.

    gcloud compute instances describe quickstart-tpu --zone=us-east5-b

    출력에서 status 필드를 확인하여 인스턴스가 실행 중인지 아니면 아직 대기 중인지 확인합니다.

TPU 인스턴스에 연결

콘솔 또는 gcloud CLI를 사용하여 TPU 인스턴스에 연결할 수 있습니다. Google Cloud

SSH를 사용하여 VM에 연결하려면 다음 gcloud compute ssh 명령어를 실행합니다.

gcloud compute ssh quickstart-tpu --project=PROJECT_ID --zone=us-east5-b

JAX 설치

TPU 인스턴스에서 다음 명령어를 실행하여 JAX 프레임워크를 설치합니다.

pip install jax[tpu] -f https://storage.googleapis.com/jax-releases/libtpu_releases.html

시스템 검사 실행

TPU 인스턴스에서 다음 명령어를 실행하여 JAX가 TPU에 액세스할 수 있고 기본 작업을 실행할 수 있는지 확인합니다.

  1. Python 3 인터프리터 시작:

    python3

  2. JAX 모듈을 가져옵니다.

    >>> import jax

  3. 사용 가능한 TPU 코어 수 표시:

    >>> jax.device_count()

    출력에 TPU 코어 수가 표시됩니다. 코어 수는 사용 중인 TPU 버전에 따라 달라집니다. 자세한 내용은 TPU 버전을 참조하세요.

계산 수행

  1. 다음 명령어를 실행하여 두 숫자를 더합니다.

    >>> jax.numpy.add(1, 1)

    출력은 다음과 비슷하게 표시됩니다.

    >>> Array(2, dtype=int32, weak_type=True)

  2. Python 인터프리터 종료:

    >>> exit()

정리

이 페이지에서 사용한 리소스 비용이 계정에 청구되지 않도록 하려면 리소스가 포함된 Google Cloud 프로젝트를 삭제하세요. Google Cloud

이 페이지에서 사용한 리소스 비용이 계정에 청구되지 않도록 하려면 gcloud compute instances delete 명령어를 사용하여 TPU 인스턴스를 삭제하세요. Google Cloud 

gcloud compute instances delete quickstart-tpu --zone=us-east5-b

다음 단계