Dokumen ini memberikan arsitektur tingkat tinggi untuk aplikasi yang menggunakan AI untuk membuat solusi atas pertanyaan dukungan dari pelanggan.
Audiens yang dituju untuk dokumen ini mencakup arsitek, developer, dan administrator yang membangun dan mengelola aplikasi AI generatif di cloud. Dokumen ini mengasumsikan bahwa Anda memiliki pemahaman dasar tentang AI generatif.
Bagian Deployment dalam dokumen ini memberikan contoh kode untuk kasus penggunaan dukungan pelanggan yang dibantu AI.
Arsitektur
Diagram berikut menunjukkan arsitektur untuk aplikasi meja bantuan yang dibantu AI di Google Cloud. Aplikasi menerima pertanyaan dari pelanggan, mengambil resource yang relevan dari pusat informasi, lalu membuat solusi untuk pertanyaan tersebut. Arsitektur ini adalah penerapan pendekatan retrieval-augmented generation (RAG).
Aplikasi dalam arsitektur ini terdiri dari layanan dalam container yang di-deploy di cluster Google Kubernetes Engine (GKE). Arsitektur ini menunjukkan alur berikut:
- Pelanggan mengirimkan pertanyaan ke aplikasi meja bantuan.
- Aplikasi meja bantuan meneruskan pertanyaan pelanggan ke layanan pengambilan informasi.
- Layanan pengambilan pengetahuan membuat dan mengirimkan perintah ke Gemini API di Vertex AI untuk mengambil resource yang relevan dengan pertanyaan pelanggan.
- Gemini mengidentifikasi resource yang relevan dari basis pengetahuan dukungan yang disimpan di Cloud Storage.
- Gemini menampilkan ID resource yang relevan ke layanan pengambilan pengetahuan.
- Layanan pengambilan pengetahuan mengambil resource yang relevan dari Cloud Storage.
- Layanan pengambilan informasi mengirimkan pertanyaan pelanggan dan sumber daya yang relevan ke layanan pembuat solusi.
- Layanan pembuat solusi mengirimkan resource ke Gemini API di Vertex AI, dengan perintah untuk membuat solusi mendetail atas pertanyaan pelanggan.
- Gemini akan membuat solusi, seperti petunjuk langkah demi langkah atau panduan video.
- Layanan pembuat solusi memberikan solusi kepada pelanggan melalui aplikasi meja dukungan.
Produk yang digunakan
Arsitektur contoh ini menggunakan produk Google Cloud berikut:
- Google Kubernetes Engine (GKE): Layanan Kubernetes yang dapat Anda gunakan untuk men-deploy dan mengoperasikan aplikasi dalam container dalam skala besar menggunakan infrastruktur Google.
- Vertex AI: Platform ML yang memungkinkan Anda melatih dan men-deploy model ML dan aplikasi AI, serta menyesuaikan LLM untuk digunakan dalam aplikasi yang didukung AI.
- Cloud Storage: Penyimpanan objek berbiaya rendah dan tanpa batas untuk beragam jenis data. Data dapat diakses dari dalam dan luar Google Cloud, serta direplikasi di berbagai lokasi untuk redundansi.
Deployment
Untuk bereksperimen dengan aplikasi dukungan pelanggan yang dibantu AI di Google Cloud, gunakan contoh kode berikut:
- Membangun aplikasi dukungan pelanggan yang menggunakan AI generatif.
- Contoh perintah untuk kasus penggunaan layanan pelanggan yang dibantu AI.
Langkah berikutnya
- Buat agen dukungan pelanggan menggunakan Gemini.
- Bangun agen AI untuk kasus penggunaan dukungan pelanggan dengan menggunakan playbook, alur, dan penyimpanan data di Dialogflow CX.
- Jelajahi panduan arsitektur AI generatif lainnya.
- Untuk mengetahui ringkasan prinsip dan rekomendasi arsitektur khusus untuk workload AI dan ML di Google Cloud, lihat perspektif AI dan ML dalam Framework yang Dirancang dengan Baik.
- Untuk mengetahui lebih banyak tentang arsitektur referensi, diagram, dan praktik terbaik lainnya, jelajahi Pusat Arsitektur Cloud.
Kontributor
Penulis: Kumar Dhanagopal | Cross-Product Solution Developer
Kontributor lainnya:
- Amina Mansour | Head of Cloud Platform Evaluations Team
- Megan O'Keefe | Developer Advocate
- Samantha He | Technical Writer
- Shir Meir Lador | Developer Relations Engineering Manager