Caching daftar di Cloud Storage FUSE

Dokumen ini memberikan detail tentang caching daftar untuk Cloud Storage FUSE, yang mempercepat operasi pencantuman direktori untuk beban kerja yang sering mencantumkan seluruh isi direktori, seperti melakukan iterasi pada sekumpulan besar file di awal tugas pemrosesan, sehingga meningkatkan kecepatan penelusuran direktori.

Manfaat caching daftar

  • Operasi listingan direktori yang lebih cepat: pencadangan daftar memberikan peningkatan performa untuk operasi yang mencantumkan isi direktori. Jika caching daftar diaktifkan, hasil listingan objek Cloud Storage untuk direktori akan di-cache dalam memori. Listingan berikutnya dari direktori yang sama dapat ditayangkan langsung dari cache ini.

  • Latensi yang lebih rendah: dengan menyajikan hasil daftar dari cache lokal, Cloud Storage menghindari perjalanan pulang pergi jaringan ke Cloud Storage untuk mengambil daftar objek, sehingga secara signifikan mengurangi latensi operasi listingan direktori, terutama untuk direktori yang berisi banyak objek atau saat latensi jaringan tinggi.

  • Peningkatan performa untuk workload berulang: workload yang berulang kali memindai direktori yang sama, seperti tugas pelatihan kecerdasan buatan dan machine learning (AI/ML), proses build, atau alat sinkronisasi file, dapat melihat peningkatan performa.

  • Penyimpanan dalam memori: Cache daftar disimpan dalam memori di cache halaman, yang dikontrol oleh kernel berdasarkan ketersediaan memori, berbeda dengan cache stat dan jenis, yang disimpan dalam memori mesin Anda dan dikontrol oleh Cloud Storage FUSE.

Mengonfigurasi caching daftar

Anda dapat mengaktifkan penayangan cache daftar menggunakan salah satu metode berikut:

Pembatalan validasi cache daftar

Pembatalan validasi cache daftar ditetapkan dengan menentukan nilai yang lebih besar dari 0 menggunakan salah satu metode berikut:

  • gcsfuse option: --kernel-list-cache-ttl-secs
  • Kolom file konfigurasi: file-system:kernel-list-cache-ttl-secs

Respons daftar direktori disimpan dalam cache halaman kernel dan tetap valid selama jangka waktu yang Anda tentukan. Jika Anda menentukan nilai -1, Cloud Storage FUSE akan menonaktifkan masa berlaku cache daftar dan menampilkan respons daftar dari cache saat tersedia. Menentukan nilai 0 akan menonaktifkan cache daftar.

Langkah berikutnya