Melampirkan block storage yang andal ke VM TPU

VM TPU mencakup boot disk 10 GB. Beberapa skenario memerlukan penyimpanan tambahan untuk pelatihan atau praproses. Tambahkan volume Google Cloud Hyperdisk atau Persistent Disk (PD) untuk memperluas kapasitas disk lokal.

Untuk performa tertinggi dan fitur lanjutan, gunakan Hyperdisk jika tersedia untuk versi TPU Anda. Jika tidak, gunakan Persistent Disk. Untuk mengetahui informasi selengkapnya tentang opsi block storage di Compute Engine, lihat Memilih jenis disk.

Dukungan TPU untuk Hyperdisk dan Persistent Disk

Tabel berikut menunjukkan jenis disk yang didukung untuk setiap versi TPU:

Versi TPU Jenis disk yang didukung Jumlah maksimum disk per VM
(termasuk boot disk)
TPU7x Hyperdisk Balanced
Hyperdisk ML
128
v6e Hyperdisk Balanced
Hyperdisk ML
32
v5p Hyperdisk ML
Balanced Persistent Disk
128

Mode akses

Konfigurasi disk yang terpasang ke satu VM TPU (juga disebut slice TPU host tunggal), misalnya, ct6e-standard-4t, dalam mode baca-tulis (rw) atau hanya baca (ro).

Saat Anda memasang disk ke slice TPU multi-host, disk akan dipasang ke setiap VM dalam slice. Untuk mencegah beberapa VM TPU menulis ke disk secara bersamaan, Anda harus mengonfigurasi semua disk yang terpasang ke slice TPU multi-host sebagai hanya baca (ro). Disk hanya baca berguna untuk menyimpan set data untuk diproses pada slice TPU.

Prasyarat

Sebelum menggunakan prosedur ini, siapkan akun dan project Google Cloud . Untuk mengetahui informasi selengkapnya, lihat Menyiapkan lingkungan Cloud TPU.

Buat disk

Untuk membuat disk, gunakan perintah berikut:

gcloud compute disks create DISK_NAME \
    --size DISK_SIZE  \
    --zone ZONE \
    --type DISK_TYPE

Ganti placeholder berikut:

  • DISK_NAME: Nama disk baru.
  • DISK_SIZE: Ukuran disk baru. Nilai harus berupa bilangan bulat yang diikuti dengan unit ukuran GB untuk gibibyte, atau TB untuk tebibyte. Jika Anda tidak menentukan unit ukuran, sistem akan mengasumsikan GB.
  • ZONE: Nama zona tempat disk baru akan dibuat. Ini harus merupakan zona yang sama dengan tempat Anda membuat TPU.
  • DISK_TYPE: Jenis disk. Gunakan salah satu nilai berikut: hyperdisk-balanced, hyperdisk-ml, atau pd-balanced.

Untuk Hyperdisk, Anda dapat secara opsional menentukan tanda --access-mode dengan salah satu nilai berikut:

  • READ_WRITE_SINGLE: Akses baca-tulis dari satu instance (default).
  • READ_ONLY_MANY: (Khusus Hyperdisk ML) Akses hanya baca serentak dari beberapa instance.

Untuk mengetahui informasi selengkapnya tentang cara membuat disk, lihat Membuat volume Hyperdisk baru dan Membuat volume Persistent Disk baru.

Menghubungkan disk

Pasang volume disk ke VM atau slice TPU saat Anda membuatnya, atau pasang setelah pembuatan.

Memasang disk saat Anda membuat VM TPU

Saat Anda membuat template instance atau VM TPU, gunakan flag --disk untuk melampirkan volume disk.

Melampirkan disk saat membuat VM TPU tunggal

Contoh berikut menunjukkan cara melampirkan volume disk saat Anda membuat satu VM TPU:

  gcloud compute instances create TPU_NAME \
    --machine-type=MACHINE_TYPE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --zone=ZONE \
    --maintenance-policy=TERMINATE \
    --disk=name=DISK_NAME,device-name=DEVICE_NAME,mode=MODE

Ganti placeholder berikut:

  • TPU_NAME: Nama untuk VM TPU Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya ct6e-standard-8t).
  • IMAGE_FAMILY: Kelompok image OS untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
  • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, ini adalah ubuntu-os-accelerator-images.
  • ZONE: Zona untuk VM TPU.
  • DEVICE_NAME: Nama perangkat yang akan digunakan untuk disk. Nama ini mengidentifikasi disk di OS.
  • MODE: Mode untuk disk. Nilainya dapat berupa rw (baca-tulis) atau ro (hanya baca). Untuk mengetahui informasi selengkapnya, lihat Mode akses.

Melampirkan disk saat membuat slice TPU multi-host

Saat membuat slice TPU multi-host, Anda harus menentukan mode=read-only (khusus Hyperdisk ML dan Persistent Disk Seimbang). Untuk mengetahui informasi selengkapnya, lihat Mode akses.

Untuk melampirkan disk di seluruh slice TPU multi-host, buat template instance dengan disk yang dilampirkan, buat kebijakan workload, lalu buat MIG:

  1. Membuat template instance

    gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --disk=name=DISK_NAME,mode=MODE
    

    Ganti placeholder berikut:

    • INSTANCE_TEMPLATE_NAME: Nama untuk template instance Anda.
    • MACHINE_TYPE: Jenis mesin untuk VM TPU, misalnya, ct6e-standard-8t.
    • IMAGE_FAMILY: Kelompok image OS untuk VM TPU. Jika Anda ingin menginstal versi OS tertentu, gunakan flag --image. Untuk mengetahui informasi selengkapnya tentang image OS, lihat Image OS.
    • IMAGE_PROJECT: Project yang berisi image OS. Untuk image TPU, ini adalah ubuntu-os-accelerator-images.
    • DISK_NAME: Nama disk yang akan dipasang ke VM TPU.
    • MODE: Mode untuk disk. Mode harus ro (hanya baca) untuk slice TPU multi-host.
  2. Membuat kebijakan beban kerja

    gcloud compute resource-policies create workload WORKLOAD_POLICY_NAME \
    --type=high-throughput \
    --accelerator-topology=TOPOLOGY
    

    Ganti placeholder berikut:

    • WORKLOAD_POLICY_NAME: Nama kebijakan workload Anda.
    • TOPOLOGY: Topologi VM TPU, misalnya, 4x4x8. Untuk mengetahui informasi selengkapnya tentang topologi untuk setiap versi TPU, lihat Arsitektur sistem.
  3. Buat MIG:

    gcloud compute instance-groups managed create MIG_NAME \
        --project=PROJECT_ID \
        --zone=ZONE \
        --template=TEMPLATE_NAME \
        --size=SIZE \
        --workload-policy=WORKLOAD_POLICY_NAME
    

    Ganti placeholder berikut:

    • MIG_NAME: Nama untuk MIG Anda.
    • PROJECT_ID: Project ID.
    • ZONE: Zona tempat Cloud TPU berada.
    • TEMPLATE_NAME: Nama untuk template instance Anda.
    • SIZE: Jumlah VM untuk slice TPU multi-host Anda.
    • WORKLOAD_POLICY_NAME: Nama kebijakan workload Anda.

Memasang disk saat membuat MIG dengan beberapa slice TPU host tunggal

Jika membuat slice TPU host tunggal, Anda dapat menentukan mode=read-only (khusus Hyperdisk ML dan Persistent Disk Seimbang) atau mode=read-write.

Untuk melampirkan penyimpanan yang tahan lama ke MIG dengan slice TPU host tunggal independen, konfigurasi template instance untuk membuat disk baru untuk setiap instance menggunakan flag --create-disk:

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --maintenance-policy=TERMINATE \
    --image-family=IMAGE_FAMILY \
    --image-project=IMAGE_PROJECT \
    --disk=name=DISK_NAME,mode=MODE

Ganti placeholder berikut:

  • INSTANCE_TEMPLATE_NAME: Nama untuk template instance Anda.
  • MACHINE_TYPE: Jenis mesin untuk VM TPU (misalnya, ct6e-standard-8t).
  • IMAGE_FAMILY: Kelompok image OS untuk VM TPU.
  • IMAGE_PROJECT: Project yang berisi image OS (ubuntu-os-accelerator-images).
  • DISK_NAME: Nama dasar disk yang akan dibuat dan dilampirkan ke setiap VM TPU.
  • DISK_SIZE: Ukuran disk dalam GB.
  • DISK_TYPE: Jenis disk (misalnya, pd-balanced, hyperdisk-balanced).

Kemudian, buat MIG seperti yang ditunjukkan di bagian sebelumnya, dengan menyetel --size ke jumlah VM TPU yang Anda pilih.

Memasang disk ke VM TPU yang ada

Untuk melampirkan disk ke VM TPU yang ada, gunakan perintah gcloud compute instances attach-disk.

gcloud compute instances attach-disk VM_NAME \
    --zone=ZONE \
    --disk=DISK_NAME \
    --mode=MODE

Ganti placeholder berikut:

  • VM_NAME: Nama VM TPU.
  • ZONE: Zona tempat Cloud TPU berada.
  • DISK_NAME: Nama disk yang akan dipasang ke VM TPU.
  • MODE: Mode untuk disk. Untuk mengetahui informasi selengkapnya, lihat Mode akses.

Jika VM Anda dimatikan karena alasan apa pun, Anda mungkin perlu memasang disk setelah Anda memulai ulang VM. Untuk mengetahui informasi tentang cara mengaktifkan disk agar dipasang secara otomatis saat VM dimulai ulang, lihat Mengonfigurasi pemasangan otomatis saat sistem dimulai ulang.

Untuk mengetahui informasi selengkapnya tentang cara menghapus disk secara otomatis, lihat Mengubah Hyperdisk dan Mengubah Persistent Disk.

Memformat dan memasang disk

Jika Anda memasang disk kosong baru ke VM TPU, Anda harus memformat dan memasang disk tersebut sebelum dapat menggunakannya. Jika Anda memasang disk yang sudah berisi data, Anda harus memasangnya sebelum dapat menggunakannya.

Untuk mengetahui informasi selengkapnya tentang memformat dan memasang non-boot disk, lihat Memformat dan memasang non-boot disk di VM Linux.

Melepas disk

Untuk melepaskan disk dari VM TPU, jalankan perintah berikut:

gcloud compute instances detach-disk VM_NAME \
    --zone=ZONE \
    --disk=DISK_NAME

Ganti placeholder berikut:

  • VM_NAME: Nama VM TPU.
  • ZONE: Zona tempat Cloud TPU berada.
  • DISK_NAME: Nama disk yang akan dilepas dari VM TPU.

Untuk mengetahui informasi selengkapnya tentang melepaskan disk, lihat Melepaskan disk.

Pembersihan

Hapus resource Cloud TPU dan Compute Engine Anda setelah selesai menggunakannya.

  1. Putuskan koneksi dari Cloud TPU, jika Anda belum melakukannya:

    exit
    
  2. Hapus VM TPU Anda:

    gcloud compute instances delete VM_NAME \
        --zone=ZONE
    

    Ganti placeholder berikut:

    • VM_NAME: Nama VM TPU.
    • ZONE: Zona tempat Cloud TPU berada.

    Jika Anda membuat slice TPU multi-host menggunakan MIG, hapus grup instance sebagai gantinya:

    gcloud compute instance-groups managed delete MIG_NAME \
        --zone=ZONE
    

    Ganti placeholder berikut:

    • MIG_NAME: Nama MIG.
    • ZONE: Zona tempat Cloud TPU berada.
  3. Verifikasi penghapusan Cloud TPU. Penghapusan mungkin memerlukan waktu beberapa menit.

    gcloud compute instances list --zone=ZONE
    
  4. Pastikan disk otomatis dihapus saat VM TPU dihapus dengan mencantumkan semua disk di zona tempat Anda membuat disk:

    gcloud compute disks list --filter="zone:( ZONE )"
    

    Ganti placeholder berikut:

    • ZONE: Zona tempat Cloud TPU berada.

    Jika disk tidak dihapus saat VM TPU dihapus, gunakan perintah berikut untuk menghapusnya:

    gcloud compute disks delete DISK_NAME \
        --zone=ZONE
    

    Ganti placeholder berikut:

    • DISK_NAME: Nama disk yang akan dihapus.
    • ZONE: Zona tempat Cloud TPU berada.