Membuat instance VM TPU

Dokumen ini menjelaskan cara membuat instance virtual machine (VM) TPU. VM TPU juga disebut slice TPU host tunggal.

Untuk membuat grup slice host tunggal, lihat Membuat MIG dengan slice TPU host tunggal.

Sebelum memulai

  • Siapkan autentikasi jika Anda belum melakukannya. Autentikasi memverifikasi identitas Anda untuk mengakses Google Cloud layanan dan API. Untuk menjalankan kode atau contoh dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke Compute Engine dengan memilih salah satu opsi berikut:

    1. Instal Google Cloud CLI. Setelah penginstalan, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut: 

      gcloud init

      Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu .

    2. Tetapkan region dan zona default.

Prasyarat

Sebelum melanjutkan untuk membuat instance TPU, Anda harus melakukan hal berikut:

  1. Pilih versi TPU: pilih versi TPU yang sesuai untuk beban kerja Anda. Untuk mengetahui daftar versi TPU menurut jenis beban kerja, lihat Versi TPU yang direkomendasikan menurut jenis beban kerja.

  2. Validasi ketersediaan TPU di lokasi pilihan Anda: TPU tersedia di region tertentu Google Cloud . Untuk menggunakan versi TPU, pastikan ketersediaannya di region pilihan Anda. Untuk mengetahui daftar lokasi TPU, lihat Ketersediaan TPU.

  3. Pastikan project Anda memiliki kuota TPU yang cukup: jika Anda membuat instance TPU dengan VM on-demand atau Spot, Anda harus memiliki kuota TPU yang cukup di region yang ingin Anda gunakan. Membuat instance TPU yang menggunakan reservasi TPU tidak memerlukan kuota TPU karena kuota digunakan saat reservasi dibuat. Untuk mengetahui daftar nama kuota TPU, lihat Kuota TPU dan untuk mengetahui petunjuk cara melihat kuota, lihat Melihat dan mengelola kuota

  4. Pilih opsi penggunaan TPU: pilih opsi penggunaan yang paling sesuai dengan beban kerja, durasinya, dan kebutuhan biaya Anda. Untuk mengetahui daftar ketersediaan opsi penggunaan menurut versi TPU, lihat Opsi penggunaan TPU.

Membuat instance VM TPU

Parameter yang Anda gunakan untuk membuat instance VM TPU bergantung pada opsi penggunaan yang Anda gunakan: on-demand, Spot, terikat reservasi, atau flex-start. Untuk mengetahui informasi selengkapnya, lihat Tentang model penyediaan VM .

Membuat instance VM TPU on-demand

Untuk membuat instance VM TPU on-demand, gunakan perintah gcloud compute instances create:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama untuk VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya ct6e-standard-8t).
  • IMAGE_FAMILY: Keluarga image OS untuk VM TPU. Jika ingin menginstal versi OS tertentu, gunakan --image flag. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, project ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya us-central1-b).

Membuat instance VM Spot TPU

Untuk membuat instance VM Spot TPU, gunakan perintah gcloud compute instances create command dengan flag --provisioning-model=SPOT flag:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --provisioning-model=SPOT \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama untuk VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya ct6e-standard-8t).
  • IMAGE_FAMILY: Keluarga image OS untuk VM TPU. Jika ingin menginstal versi OS tertentu, gunakan --image flag. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, project ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya us-central1-b).

Membuat instance VM TPU menggunakan reservasi

Untuk membuat instance VM TPU menggunakan opsi penggunaan terikat reservasi, gunakan perintah gcloud compute instances create dengan flag --reservation-affinity=specific dan --reservation:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --provisioning-model=reservation-bound \
    --reservation-affinity=specific \
    --reservation=RESERVATION_NAME \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama untuk VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya ct6e-standard-8t).
  • IMAGE_FAMILY: Keluarga image OS untuk VM TPU. Jika ingin menginstal versi OS tertentu, gunakan --image flag. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, project ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya us-central1-b).
  • RESERVATION_NAME: Nama reservasi Anda.

Membuat VM TPU Flex-start

Untuk membuat instance VM TPU Flex-start, gunakan perintah gcloud compute instances create dengan flag --provisioning-model=FLEX_START:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --provisioning-model=FLEX_START \
    --max-run-duration=MAX_RUN_DURATION \
    --request-valid-for-duration=VALID_DURATION \
    --instance-termination-action=DELETE \
    --maintenance-policy=TERMINATE

Ganti placeholder berikut:

  • TPU_NAME: Nama untuk VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya ct6e-standard-8t).
  • IMAGE_FAMILY: Keluarga image OS untuk VM TPU. Jika ingin menginstal versi OS tertentu, gunakan --image flag. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, project ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU (misalnya us-central1-b).
  • MAX_RUN_DURATION: Durasi maksimum untuk menjalankan VM TPU (misalnya 6h).
  • VALID_DURATION: Durasi maksimum permintaan berlaku.

Untuk mengetahui informasi selengkapnya tentang cara membuat instance Compute Engine, lihat Membuat dan memulai instance Compute Engine.

Batasan

  • Operasi siklus proses: Anda tidak dapat menghentikan, memulai, melanjutkan, atau menangguhkan instance TPU. Untuk mengubah konfigurasi yang memerlukan memulai ulang atau menghentikan biaya, Anda harus menghapus instance.

  • Memperbarui detail VM: Anda dapat memperbarui properti yang hanya memerlukan tindakan refresh (REFRESH). Jika konfigurasi memerlukan memulai ulang (RESTART), Anda harus membuat ulang instance.

Langkah berikutnya