Zona AI

Dokumen ini memberikan ringkasan zona AI untuk Cloud Storage. Zona AI adalah zona Google Cloud khusus yang dirancang untuk menawarkan kapasitas komputasi bagi workload kecerdasan buatan (AI) dan machine learning (ML). Mereka menyediakan kapasitas akselerator ML (GPU dan TPU) yang signifikan.

Zona AI dioptimalkan untuk workload AI dan ML seperti berikut:

  • Pelatihan skala besar
  • Pelatihan, penyesuaian, inferensi massal, dan pelatihan ulang skala kecil
  • Inferensi ML real-time

Untuk mengetahui informasi latar belakang tentang zona AI, lihat Zona AI dalam dokumentasi Compute Engine.

Dalam suatu region, zona AI mungkin berlokasi secara geografis jauh dari zona standar (non-AI).

Zona AI kompatibel dengan fitur dan Google Cloud Cloud Storage lainnya.

Rekomendasi arsitektur penyimpanan

Sebaiknya gunakan arsitektur penyimpanan bertingkat untuk menyeimbangkan biaya, daya tahan, dan performa:

  • Lapisan penyimpanan yang jarang diakses: gunakan bucket Cloud Storage regional di zona standar untuk penyimpanan yang persisten dan sangat tahan lama (sumber tepercaya) set data pelatihan dan checkpoint model Anda.

  • Lapisan performa: gunakan layanan penyimpanan zona khusus untuk bertindak sebagai cache berkecepatan tinggi atau ruang scratch sementara. Pendekatan ini menghilangkan latensi antar-zona dan memaksimalkan throughput selama tugas aktif.

Solusi penyimpanan berikut direkomendasikan untuk mengoptimalkan performa sistem AI dan ML dengan zona AI:

Layanan atau produk penyimpanan Deskripsi Kasus penggunaan
Rapid Cache produk Cloud Storage

Cache baca zonal yang didukung SSD dan terkelola sepenuhnya yang membawa data yang sering dibaca dari bucket ke zona AI.

Buat instance Rapid Cache di zona AI untuk bucket sumber regional yang berisi set data atau model pelatihan yang ingin Anda sajikan. Saat tugas pelatihan Anda membaca file, file tersebut akan ditarik ke dalam cache dalam zona yang cepat. Pembacaan berikutnya akan disalurkan langsung dari cache, melewati jaringan regional. Opsi ini ideal untuk pola akses data berulang dalam pelatihan model dan untuk penyajian model latensi rendah.

Direkomendasikan untuk:

  • Workload baca berat
  • Pelatihan dan penyajian model latensi rendah
Rapid Bucket produk Cloud Storage

Kemampuan berperforma tinggi yang memungkinkan Anda menemukan bucket di zona dan menggunakan kelas penyimpanan Rapid storage. Dioptimalkan untuk workload yang intensif I/O, yang dirancang khusus untuk aplikasi AI/ML yang memerlukan kolokasi dengan data yang perlu diakses.

Untuk mengoptimalkan penyimpanan data Anda untuk workload yang memerlukan latensi rendah dan throughput tinggi, buat bucket zonal yang menggunakan Rapid storage, lalu pasang bucket sebagai direktori di virtual machine Anda menggunakan Cloud Storage FUSE. Kemudian, Anda dapat mengonfigurasi aplikasi untuk menyimpan atau mengakses data di bucket zona melalui direktori pemasangan bucket. Misalnya, untuk menyimpan checkpoint model di bucket zonal, konfigurasi direktori checkpoint ke direktori pemasangan dalam kode pelatihan Anda.

Untuk ketahanan regional, Anda dapat mencadangkan titik pemeriksaan ke bucket regional, multi-regional, atau dual-regional. Gunakan Storage Transfer Service untuk memindahkan data dari bucket zonal ke bucket di lokasi lain. Gunakan Object Lifecycle Management untuk mengakhiri masa berlaku dan menghapus data setelah jangka waktu yang ditetapkan.

Direkomendasikan untuk:

  • Workload baca dan tulis dengan throughput tinggi
  • Checkpointing berkecepatan tinggi
  • Pelatihan dan penyajian model latensi rendah

Praktik terbaik

Ikuti praktik terbaik penyimpanan berikut saat menggunakan zona AI:

  • Sediakan lapisan performa Anda di zona AI yang sama dengan sumber daya komputasi Anda. Menempatkan komputasi dan penyimpanan secara bersamaan membantu memastikan GPU dan TPU tetap sepenuhnya tersaturasi, sehingga memaksimalkan "goodput" (throughput yang berguna).

  • Untuk Rapid Cache, sebelum Anda memulai epoch pelatihan utama, lakukan pra-baca set data Anda untuk mengisi, atau memanaskan, cache yang didukung SSD.

Zona AI yang tersedia

Tabel berikut menunjukkan zona AI dan region Google Cloud induknya.

Area geografis Wilayah induk Zona AI
Eropa europe-west4 europe-west4-ai1a
Amerika Serikat us-central1 us-central1-ai1a
Amerika Serikat us-south1 us-south1-ai1b

Pertimbangan

  • Anda dapat mengakses Google Cloud produk di Google Cloud region dari zona AI region tersebut. Namun, mengakses layanan di region Google Cloud dari zona AI dapat menambah latensi jaringan, karena lokasi zona AI mungkin terpisah secara fisik dari lokasi zona standar region.

  • Sebaiknya jalankan workload non-ML di zona standar, bukan zona AI, karena zona AI tidak menawarkan semua layanan secara lokal. Google Cloud

Langkah berikutnya