Mengoptimalkan penyimpanan untuk AI/ML dan analisis data dengan menggunakan Cloud Storage Rapid

Cloud Storage menawarkan berbagai opsi untuk membantu Anda mengoptimalkan penyimpanan data untuk kasus penggunaan yang memerlukan performa tinggi, seperti kecerdasan buatan (AI), machine learning (ML), dan analisis yang memerlukan banyak data. Halaman ini memperkenalkan opsi tersebut dan memandu Anda memilih opsi yang sesuai dengan kebutuhan workload Anda.

Kelompok produk Cloud Storage Rapid

Cloud Storage Rapid adalah rangkaian produk berperforma tinggi di Cloud Storage yang dirancang untuk mengatasi bottleneck data untuk workload AI/ML dan analisis data Anda. Seiring dengan meningkatnya kompleksitas model AI/ML dan set data yang mencapai skala petabyte, performa penyimpanan sering kali menjadi bottleneck utama bagi cluster GPU dan TPU yang mahal. Cloud Storage Rapid memanfaatkan arsitektur zona untuk mendekatkan data Anda ke resource komputasi, sehingga membantu akselerator Anda tetap jenuh, mengurangi waktu pelatihan, dan menurunkan total biaya kepemilikan (TCO) untuk workload yang paling menuntut.

Cloud Storage Rapid mencakup Rapid Bucket dan Rapid Cache.

Menyimpan data di kelas penyimpanan Rapid menggunakan Rapid Bucket

Rapid Bucket adalah solusi penyimpanan objek zona berperforma tinggi yang memungkinkan Anda menyimpan data di kelas penyimpanan Rapid dengan menentukan zona sebagai lokasi bucket. Rapid Bucket memungkinkan Anda menempatkan data di zona fisik yang sama dengan akselerator AI dan membantu Anda mencapai latensi terendah dan throughput tertinggi di antara penawaran produk Cloud Storage lainnya. Rapid Bucket memberikan latensi sub-milidetik, throughput agregat hingga 15 TB/dtk, dan mendukung hingga 20 juta kueri per detik (QPS).

Rapid Bucket mendukung penambahan objek streaming stateful, sehingga aplikasi dapat menulis data ke objek yang ada secara real-time. Kemampuan ini memungkinkan Anda menghindari penulisan ulang objek yang mahal dan memungkinkan visibilitas data langsung, sehingga aplikasi konsumen dapat membaca data saat sedang ditulis.

Paling cocok digunakan untuk: melatih, membuat checkpoint, dan menyajikan model AI yang memerlukan latensi sangat rendah dan performa deterministik tinggi

Gunakan opsi ini jika: Anda menginginkan performa tinggi khusus untuk pembacaan dan penulisan

Untuk mempelajari cara membuat bucket zona dengan Rapid Bucket, lihat Membuat bucket zona.

Membuat cache zona dengan Rapid Cache

Rapid Cache adalah cache baca zona yang didukung SSD dan terkelola sepenuhnya, yang berfungsi dengan bucket regional, dual-region, atau multi-region yang ada tanpa memerlukan perubahan API. Cache memberi Anda kapasitas penyimpanan sementara dan bandwidth yang secara otomatis meningkatkan atau menurunkan skala sesuai dengan kebutuhan workload Anda. Data otomatis diserap ke dalam cache dari bucket Anda saat data dibaca oleh VM yang berada di zona yang sama dengan cache.

Rapid Cache menyediakan throughput gabungan sebesar 2,5 TB/dtk dan mengurangi latensi untuk pembacaan yang lebih cepat dengan menempatkan data Anda di zona yang sama dengan VM Anda. Selain menyajikan data lebih cepat, data yang disajikan dari cache dapat dikenai biaya transfer data, biaya pengambilan data, dan biaya operasional yang lebih rendah daripada data yang disajikan langsung dari bucket. Untuk mengetahui informasi selengkapnya, lihat Manfaat Rapid Cache.

Paling cocok untuk: pelatihan, pemulihan checkpoint, dan penyajian model AI yang memerlukan bandwidth baca tinggi dari bucket Cloud Storage yang ada

Gunakan opsi ini jika: Anda memiliki penyimpanan data yang ada di bucket Cloud Storage yang ingin Anda percepat

Untuk mempelajari cara menggunakan Rapid Cache, lihat Membuat dan mengelola cache.