生成式 AI 用途：生成客戶支援問題的解決方案

本文提供應用程式的高階架構，這類應用程式會使用 AI 生成客戶支援問題的解決方案。

本文適用於在雲端建構及管理生成式 AI 應用程式的架構師、開發人員和管理員。本文件假設您已具備生成式 AI 的基礎知識。

本文的「部署」部分提供 AI 輔助客戶服務用途的程式碼範例。

架構

下圖顯示 Google Cloud中 AI 輔助支援服務台應用程式的架構。應用程式會接收顧客提出的問題、從知識庫擷取相關資源，然後生成問題的解決方案。這個架構是檢索增強生成 (RAG) 方法的實作方式。

應用程式架構：使用 AI 生成回覆，解答顧客提出的支援要求。 應用程式架構：使用 AI 生成回覆，解答顧客提出的支援要求。

這個架構中的應用程式是由容器化服務組成，並部署在 Google Kubernetes Engine (GKE) 叢集中。架構的流程如下：

  1. 顧客向支援服務台應用程式提交問題。
  2. 支援服務台應用程式會將顧客的問題傳遞至知識檢索服務。
  3. 知識檢索服務會建構提示並傳送至 Vertex AI 中的 Gemini API，以檢索與顧客問題相關的資源。
  4. Gemini 會從儲存在 Cloud Storage 中的支援知識庫，找出相關資源。
  5. Gemini 會將相關資源的 ID 傳回知識擷取服務。
  6. 知識檢索服務會從 Cloud Storage 擷取相關資源。
  7. 知識擷取服務會將顧客的問題和相關資源傳送至解決方案產生器服務。
  8. 解決方案生成器服務會將資源傳送至 Vertex AI 中的 Gemini API，並提示生成顧客問題的詳細解決方案。
  9. Gemini 會生成解決方案，例如逐步操作說明或逐步示範影片。
  10. 解決方案產生器服務會透過支援服務台應用程式，為顧客提供解決方案。

使用的產品

這個範例架構使用下列 Google Cloud 產品：

  • Google Kubernetes Engine (GKE)：Kubernetes 服務，可讓您透過 Google 的基礎架構，大規模部署及操作容器化應用程式。
  • Vertex AI：機器學習平台，可讓您訓練及部署機器學習模型和 AI 應用程式，並自訂 LLM 用於 AI 輔助的應用程式。
  • Cloud Storage：適用於多種資料類型的物件儲存庫，成本低廉且沒有限制。 資料在 Google Cloud 內外都能存取，且會複製到多個位置，以便提供備援機制。 Google Cloud

部署

如要在Google Cloud中試用 AI 輔助的客戶服務應用程式，請使用下列程式碼範例：

後續步驟

貢獻者

作者：Kumar Dhanagopal | 跨產品解決方案開發人員

其他貢獻者：