Dokumen ini menjelaskan arsitektur tingkat tinggi untuk menggunakan AI guna menghasilkan rekomendasi produk yang dipersonalisasi untuk aplikasi retail di Google Cloud.
Audiens yang dituju untuk dokumen ini mencakup arsitek, developer, dan administrator yang membangun dan mengelola aplikasi AI generatif di cloud untuk industri retail. Dokumen ini mengasumsikan bahwa Anda memiliki pemahaman dasar tentang AI generatif.
Arsitektur
Diagram berikut menunjukkan arsitektur yang menggunakan model AI untuk menghasilkan rekomendasi produk yang dipersonalisasi berdasarkan insight dari metrik clickstream.
Arsitektur ini menampilkan alur berikut:
- Menyerap dan memproses data pengguna:
- Data clickstream seperti kunjungan halaman, klik, dan pembelian diupload ke pipeline Dataflow.
- Dataflow memproses data dan memperoleh insight seperti profil dan preferensi pengguna. Dataflow kemudian menyimpan data, insight, dan embedding vektor di BigQuery.
- Membuat dan menyajikan rekomendasi produk:
- Pelanggan mengunjungi etalase perusahaan, yang merupakan layanan Cloud Run dalam arsitektur ini.
- Layanan etalase mengirimkan data pengunjung ke layanan pemberi rekomendasi yang berjalan di Cloud Run.
- Layanan pemberi rekomendasi melakukan penelusuran kesamaan vektor di BigQuery dan mengambil data tentang profil dan preferensi pengunjung.
- Layanan pemberi rekomendasi mengirimkan data profil dan preferensi pengunjung ke Gemini Enterprise Agent Platform, dengan perintah untuk membuat rekomendasi produk. Di Agent Platform, model Gemini menghasilkan rekomendasi produk yang disesuaikan untuk pengunjung.
- Layanan pemberi rekomendasi mengirimkan rekomendasi produk ke layanan etalase, yang kemudian menampilkan rekomendasi tersebut.
Untuk mengoptimalkan biaya dan performa, tambahkan cache di antara layanan etalase dan layanan pemberi rekomendasi. Layanan pemberi rekomendasi memeriksa cache untuk data pengunjung. Jika cache tidak berisi data yang relevan, layanan akan melakukan penelusuran kesamaan vektor di BigQuery. Untuk menyiapkan cache, Anda dapat menggunakan Memorystore atau mengonfigurasi load balancer dengan Cloud CDN.
Produk yang digunakan
Contoh arsitektur ini menggunakan produk Google Cloud berikut:
- Cloud Run: Platform komputasi serverless yang memungkinkan Anda menjalankan container langsung di atas infrastruktur Google yang skalabel.
- Gemini Enterprise Agent Platform: Platform komprehensif yang memungkinkan Anda membangun, menskalakan, mengatur, dan mengoptimalkan agen AI tingkat perusahaan.
- BigQuery: Data warehouse perusahaan yang membantu Anda mengelola dan menganalisis data dengan fitur bawaan seperti machine learning, analisis geospasial, dan business intelligence.
- Dataflow: Layanan yang menyediakan pemrosesan data batch dan streaming terpadu dalam skala besar.
Pertimbangan desain
Bagian ini menjelaskan faktor desain, praktik terbaik, dan rekomendasi yang selaras dengan Google Cloud Well-Architected Framework. Pertimbangkan informasi ini saat Anda menggunakan arsitektur referensi ini untuk mengembangkan topologi yang memenuhi persyaratan spesifik Anda terkait keamanan, keandalan, pengoptimalan biaya, efisiensi operasional, dan performa.
Keamanan, privasi, dan kepatuhan
Untuk membantu melindungi data pelanggan dan memenuhi persyaratan keamanan, privasi, dan kepatuhan Anda di Google Cloud, pertimbangkan rekomendasi berikut:
- Untuk menyaring perintah dan respons rekomendasi dari injeksi perintah, upaya jailbreak, dan konten berbahaya, gunakan Model Armor.
- Untuk memeriksa dan melakukan de-identifikasi informasi identitas pribadi (PII) dalam data clickstream, profil pengguna, dan perintah, gunakan Sensitive Data Protection.
Keandalan
Untuk menyangga traffic clickstream yang melonjak dan memisahkan produsen peristiwa etalase dari pipeline Dataflow, serap peristiwa pengguna melalui Pub/Sub. Buffering peristiwa di Pub/Sub membantu mencegah kehilangan data selama lonjakan traffic atau update pipeline.
Pengoptimalan biaya
Untuk mengurangi biaya token input saat perintah menggunakan petunjuk sistem atau konteks katalog produk yang berulang, gunakan cache konteks di Agent Platform.
Efisiensi operasional
Untuk mengurangi overhead operasional saat Anda membangun dan memelihara pipeline rekomendasi di Google Cloud, pertimbangkan opsi berikut:
- Jika Anda lebih memilih layanan rekomendasi retail terkelola daripada pipeline kustom, pertimbangkan AI Commerce Search di Gemini Enterprise for Customer Experience. AI Commerce Search melatih dan menyajikan model rekomendasi yang dipersonalisasi langsung dari katalog produk dan peristiwa clickstream Anda.
- Untuk otomatis membuat dan memperbarui embedding di BigQuery saat data sumber berubah, gunakan pembuatan embedding otonom.
Pengoptimalan performa
Untuk membantu memenuhi persyaratan penayangan latensi rendah bagi pengunjung etalase di Google Cloud, pertimbangkan rekomendasi berikut:
- Untuk mempercepat kueri kesamaan pada tabel besar di BigQuery, buat indeks vektor untuk penelusuran approximate nearest neighbor (ANN).
- Untuk penyajian kesamaan online berlatensi rendah dengan konkurensi etalase yang tinggi, pertimbangkan Penelusuran Vektor.
- Saat Anda men-deploy Memorystore untuk caching, gunakan Memorystore for Valkey atau Memorystore for Redis Cluster alih-alih mesin Memcached yang tidak digunakan lagi. Untuk menyajikan kueri semantik dengan latensi di bawah milidetik, Anda juga dapat menggunakan penelusuran vektor di Memorystore for Valkey.
Deployment
Untuk bereksperimen dengan aplikasi AI generatif di Google Cloud untuk workload retail, gunakan contoh kode berikut:
Langkah berikutnya
- Jelajahi lainnya panduan arsitektur AI generatif.
- Untuk ringkasan prinsip dan rekomendasi arsitektur yang khusus untuk workload AI dan ML di Google Cloud, lihat Perspektif AI dan ML dalam Well-Architected Framework.
- Untuk mengetahui lebih banyak tentang arsitektur referensi, diagram, dan praktik terbaik lainnya, jelajahi Pusat Arsitektur Cloud.
Kontributor
Penulis: Kumar Dhanagopal | Developer Solusi Lintas Produk
Kontributor lainnya:
- Amina Mansour | Tech Lead, Global Developer Relations & Strategic Content
- Megan O'Keefe | Developer Advocate
- Samantha He | Technical Writer
- Shir Meir Lador | Developer Relations Engineering Manager