Opsi penyimpanan untuk data TPU

Dokumen ini menjelaskan opsi penyimpanan data yang dapat Anda gunakan saat melatih model di VM TPU.

Workload yang berjalan di VM TPU memerlukan penyimpanan data untuk tugas berikut:

  • Mendownload dan melakukan prapemrosesan set data
  • Pemrosesan pipeline input host
  • Input pelatihan model
  • Output pelatihan model
  • Checkpoint
  • Bobot model
  • Offloading cache nilai kunci

Anda dapat menggunakan opsi penyimpanan berikut dengan VM TPU:

Block storage yang andal

Block storage yang andal, juga dikenal sebagai disk atau volume, adalah untuk data yang ingin Anda simpan setelah Anda menghentikan, menangguhkan, atau menghapus VM TPU. Penyimpanan blok yang tahan lama masih tersedia meskipun VM TPU mengalami error atau gagal. Anda dapat menggunakan boot disk VM TPU atau memasang block storage tambahan ke TPU.

Anda mungkin perlu melampirkan disk tambahan dalam skenario berikut:

  • Ukuran set data pelatihan Anda melebihi ukuran disk booting TPU.
  • Anda memiliki data hanya baca dan menginginkan akses baca yang lebih cepat menggunakan volume Hyperdisk ML.

Generasi TPU dan jenis disk yang didukung

Tabel berikut menunjukkan jenis disk yang didukung oleh setiap generasi TPU:

Generasi TPU Jenis disk yang didukung
TPU7x Hyperdisk Balanced, Hyperdisk ML
v6e Hyperdisk Balanced, Hyperdisk ML
v5p Persistent Disk Seimbang, Hyperdisk ML
v5e Persistent Disk Seimbang, Hyperdisk ML
v4 Persistent Disk Seimbang
v3 Persistent Disk Seimbang
v2 Persistent Disk Seimbang

Disk boot VM TPU

Secara default, setiap VM TPU memiliki satu boot disk 10 GB. Saat membuat VM, Anda dapat mengonfigurasi boot disk yang lebih besar. Untuk mengetahui informasi selengkapnya, lihat Membuat boot disk yang disesuaikan. Disk boot berisi sistem operasi, driver TPU, dan library. Boot disk juga dapat menyimpan sementara set data yang didownload untuk pra-pemrosesan dan data input serta output model, selama ukuran total data tidak melebihi ruang yang tersedia di boot disk.

Jika aplikasi Anda memerlukan ruang penyimpanan tambahan di luar default boot disk, Anda dapat menambahkan disk yang tahan lama ke instance VM TPU atau mengubah ukuran boot disk. Untuk informasi selengkapnya, lihat referensi berikut:

Untuk mengetahui informasi tentang praktik terbaik saat menyesuaikan boot disk VM TPU, lihat artikel Menyesuaikan boot disk VM TPU.

Penyimpanan terpasang

Google Cloud Hyperdisk dan Persistent Disk adalah perangkat penyimpanan jaringan yang tahan lama dan dapat diakses instance VM Anda seperti disk fisik di desktop atau server. Anda membuat kedua jenis disk secara terpisah dari instance VM, sehingga Anda dapat menyimpan data Anda meskipun Anda menghapus VM.

Keuntungan menggunakan Hyperdisk dibandingkan Persistent Disk mencakup performa yang dapat disesuaikan, batas IOPS dan throughput yang lebih tinggi. Untuk mengetahui informasi selengkapnya tentang Hyperdisk dan Persistent Disk, lihat Memilih jenis disk.

Saat Anda memasang disk ke MIG dengan slice VM TPU multi-host, sistem akan memasang disk ke setiap VM dalam slice TPU tersebut. Untuk mencegah dua atau lebih VM TPU menulis ke disk secara bersamaan, Anda harus mengonfigurasi semua disk yang Anda pasang ke slice TPU multi-host sebagai hanya baca. Disk hanya baca berguna untuk menyimpan set data untuk diproses di slice TPU. Karena Hyperdisk Balanced tidak mendukung mode hanya baca, Anda hanya dapat memasang volume Hyperdisk Balanced ke satu instance VM TPU.

Untuk mengetahui informasi selengkapnya tentang penggunaan block storage yang tahan lama, lihat Menambahkan persistent disk ke VM dan Menambahkan Hyperdisk.

Cadangan disk

Jika VM TPU berada dalam status yang tidak diketahui atau Anda tidak sengaja menghapus data, akan sulit untuk memulihkan data tersebut dari boot disk. Mencadangkan data Anda menggunakan opsi penyimpanan lain, seperti bucket Cloud Storage.

Jika menyimpan data di disk terpasang, Anda dapat menggunakan snapshot disk, yang mencadangkan data di disk secara bertahap. Disk booting VM TPU tidak mendukung snapshot disk. Untuk mengetahui informasi selengkapnya, lihat Tentang snapshot disk.

Cloud Storage

Cloud Storage adalah sistem penyimpanan objek yang dirancang untuk menyimpan dan memproses set data besar (seperti file gambar, teks, dan video) yang memerlukan skala petabyte dan bandwidth besar. Layanan ini sangat hemat biaya, skalabel, dan tangguh. Saat menggunakan Cloud Storage, Anda menyimpan data sebagai objek dalam container yang disebut bucket. Performa bucket Cloud Storage bergantung pada kelas penyimpanan yang Anda pilih dan lokasi bucket yang relatif terhadap instance VM TPU Anda.

Saat menggunakan Cloud Storage, Anda memilih jenis bucket berdasarkan persyaratan throughput, skala, biaya, dan ketersediaan data. Rangkaian produk Cloud Storage Rapid, yang mencakup Rapid Bucket dan bucket regional dengan Rapid Cache, memberikan opsi berperforma tinggi untuk workload AI/ML:

  • Bucket Cepat: Kemampuan Cloud Storage yang memungkinkan Anda menyimpan objek di kelas penyimpanan Cepat dengan membuat bucket zonal. Bucket zonal mendukung throughput tinggi dan latensi di bawah milidetik untuk file yang terbuka. Jenis ini cocok untuk checkpoint asinkron, data pelatihan, dan bobot model.
  • Bucket regional: Bucket Cloud Storage yang terletak di satu atau beberapa region. Bucket regional menawarkan performa penyimpanan objek standar. Untuk memenuhi persyaratan throughput dan latensi workload AI/ML, gunakan bucket regional dengan Rapid Cache. Rapid Cache adalah cache baca zona yang didukung SSD untuk bucket regional yang meningkatkan throughput dan mengurangi latensi untuk workload yang intensif baca dan dapat di-cache, seperti pemuatan data pelatihan atau pemuatan bobot model untuk inferensi.

Semua bucket Cloud Storage memiliki redundansi bawaan untuk melindungi data Anda dari kegagalan peralatan dan memastikan ketersediaan data melalui peristiwa pemeliharaan pusat data. Cloud Storage menghitung checksum untuk semua operasi guna membantu memastikan integritas data.

Tidak seperti penyimpanan blok yang andal, bucket Cloud Storage tidak membatasi Anda pada zona tempat instance Anda berada. Selain itu, Anda dapat membaca dan menulis data ke bucket dari beberapa instance secara bersamaan. Misalnya, Anda dapat mengonfigurasi instance di beberapa zona untuk membaca dan menulis data di bucket yang sama, bukan mereplikasi data ke block storage yang tahan lama di beberapa zona.

Untuk mengetahui informasi selengkapnya, lihat Menghubungkan VM TPU ke bucket Cloud Storage.

Cloud Storage FUSE

Cloud Storage FUSE adalah adaptor FUSE yang memungkinkan Anda memasang bucket sebagai sistem file lokal. Saat menggunakan Google Kubernetes Engine, sebaiknya gunakan driver CSI Cloud Storage FUSE dan profil Cloud Storage FUSE.

Untuk mengetahui informasi selengkapnya tentang Cloud Storage FUSE, lihat dokumentasi Cloud Storage FUSE.

Managed Lustre

Google Cloud Managed Lustre adalah sistem file paralel terkelola sepenuhnya dengan kepatuhan POSIX penuh. Layanan ini dirancang untuk profil performa metadata konkurensi tinggi dan latensi rendah yang diperlukan untuk workload pelatihan model atau inferensi. Layanan ini dioptimalkan untuk workload latensi ultra-rendah (kurang dari 1 md) seperti direktori beranda, checkpoint sinkron, reinforcement learning (penyimpanan propagasi bobot berkecepatan tinggi), penyimpanan offload caching key-value (KV), atau set data pelatihan dengan banyak file kecil (kurang dari 1 MB). Managed Lustre menawarkan tingkatan Dinamis yang hemat biaya dan secara otomatis mengoptimalkan performa berdasarkan pola akses data.

Untuk mengetahui informasi selengkapnya, lihat dokumentasi Managed Lustre.

Langkah berikutnya