Membuat instance VM Cloud TPU menggunakan Compute Engine
Dokumen ini menunjukkan cara membuat satu VM TPU dengan perintah gcloud compute instances create Compute Engine. Anda juga dapat membuat instance VM TPU
dengan menentukan template instance. Untuk mengetahui informasi selengkapnya, lihat Membuat VM dari template instance.
Prasyarat
Selesaikan prasyarat berikut:
Buat project Google Cloud untuk TPU Anda seperti yang dijelaskan dalam Menyiapkan project Google Cloud untuk TPU.
Tentukan persyaratan TPU Anda seperti yang dijelaskan dalam Merencanakan resource Cloud TPU Anda.
Membuat instance VM TPU
Parameter yang Anda gunakan untuk membuat instance VM TPU bergantung pada opsi penggunaan yang Anda gunakan: on-demand, Spot, terikat reservasi, atau flex-start. Untuk mengetahui informasi selengkapnya, lihat Merencanakan resource TPU .
Membuat instance VM TPU sesuai permintaan
Untuk membuat instance VM TPU on-demand, gunakan
perintah gcloud compute instances create:
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--maintenance-policy=TERMINATE
Ganti placeholder berikut:
- TPU_NAME: Nama untuk VM TPU Anda.
- MACHINE_TYPE: Jenis mesin
untuk VM TPU (misalnya
ct6e-standard-8t). - IMAGE_FAMILY: Kelompok image OS
untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag
--image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS. - IMAGE_PROJECT: Project yang berisi image OS.
Untuk image TPU, ini adalah
ubuntu-os-accelerator-images. - ZONE: Zona
untuk VM TPU (misalnya
us-central1-b).
Membuat instance VM Spot TPU
Untuk membuat instance VM Spot TPU, gunakan
perintah gcloud compute instances create
dengan flag --provisioning-model=SPOT:
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=SPOT \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Ganti placeholder berikut:
- TPU_NAME: Nama untuk VM TPU Anda.
- MACHINE_TYPE: Jenis mesin
untuk VM TPU (misalnya
ct6e-standard-8t). - IMAGE_FAMILY: Kelompok image OS
untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag
--image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS. - IMAGE_PROJECT: Project yang berisi image OS.
Untuk image TPU, ini adalah
ubuntu-os-accelerator-images. - ZONE: Zona
untuk VM TPU (misalnya
us-central1-b).
Membuat instance VM TPU menggunakan reservasi
Untuk membuat instance VM TPU menggunakan opsi penggunaan terikat dengan reservasi,
gunakan
perintah gcloud compute instances create
dengan flag --reservation-affinity=specific dan --reservation:
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=reservation-bound \
--reservation-affinity=specific \
--reservation=RESERVATION_NAME \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Ganti placeholder berikut:
- TPU_NAME: Nama untuk VM TPU Anda.
- MACHINE_TYPE: Jenis mesin
untuk VM TPU (misalnya
ct6e-standard-8t). - IMAGE_FAMILY: Kelompok image OS
untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag
--image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS. - IMAGE_PROJECT: Project yang berisi image OS.
Untuk image TPU, ini adalah
ubuntu-os-accelerator-images. - ZONE: Zona
untuk VM TPU (misalnya
us-central1-b). - RESERVATION_NAME: Nama pemesanan Anda.
Membuat VM TPU Flex-start
Untuk membuat instance VM Flex-start TPU, gunakan
perintah gcloud compute instances create
dengan flag --provisioning-model=FLEX_START:
gcloud compute instances create TPU_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--provisioning-model=FLEX_START \
--max-run-duration=MAX_RUN_DURATION \
--request-valid-for-duration=VALID_DURATION \
--instance-termination-action=DELETE \
--maintenance-policy=TERMINATE
Ganti placeholder berikut:
- TPU_NAME: Nama untuk VM TPU Anda.
- MACHINE_TYPE: Jenis mesin
untuk VM TPU (misalnya
ct6e-standard-8t). - IMAGE_FAMILY: Kelompok image OS
untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag
--image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS. - IMAGE_PROJECT: Project yang berisi image OS.
Untuk image TPU, ini adalah
ubuntu-os-accelerator-images. - ZONE: Zona
untuk VM TPU (misalnya
us-central1-b). - MAX_RUN_DURATION: Durasi proses maksimum untuk VM TPU (misalnya,
6h). - VALID_DURATION: Durasi maksimum permintaan berlaku.
Untuk mengetahui informasi selengkapnya tentang cara membuat instance Compute Engine, lihat Membuat dan memulai instance Compute Engine.
Langkah berikutnya
- Pelajari cara Membuat MIG dengan slice Cloud TPU host tunggal.
- Pelajari cara Membuat MIG dengan slice Cloud TPU multi-host.
- Pelajari cara mengelola VM TPU.
- Pelajari TPU di GKE.
- Pelajari cara menjalankan workload ML di TPU, misalnya, Menyajikan Qwen2-72B-Instruct dengan vLLM di TPU.