本文档提供了一个应用的高级架构,该应用使用 AI 为客户提出的支持问题生成解决方案。
本文档的目标受众群体包括在云端构建和管理生成式 AI 应用的架构师、开发者和管理员。本文档假定您对生成式 AI 有基本的了解。
本文档的部署部分提供了 AI 辅助客户支持用例的代码示例。
架构
下图展示了 Google Cloud中 AI 辅助支持服务台应用的架构。该应用会接收客户提出的问题,从知识库中检索相关资源,然后生成问题的解决方案。该架构是检索增强生成 (RAG) 方法的一种实现。
此架构中的应用由部署在 Google Kubernetes Engine (GKE) 集群中的容器化服务组成。该架构展示了以下流程:
- 客户向支持服务台应用提交问题。
- 支持服务台应用将客户的问题传递给知识检索器服务。
- 知识检索器服务会构建提示并将其发送到 Vertex AI 中的 Gemini API,以检索与客户问题相关的资源。
- Gemini 会从存储在 Cloud Storage 中的支持知识库中识别相关资源。
- Gemini 会将相关资源的 ID 返回给知识检索器服务。
- 知识检索器服务从 Cloud Storage 中检索相关资源。
- 知识检索器服务会将客户的问题和相关资源发送给解决方案生成器服务。
- 解决方案生成器服务将资源发送到 Vertex AI 中的 Gemini API,并附带生成详细解决方案的提示,以解答客户的问题。
- Gemini 会生成解决方案,例如分步说明或视频演示。
- 解决方案生成器服务通过支持服务台应用向客户提供解决方案。
使用的产品
此示例架构使用以下 Google Cloud 产品:
- Google Kubernetes Engine (GKE):一种 Kubernetes 服务,可用于使用 Google 的基础架构来大规模部署和操作容器化应用。
- Vertex AI:一个机器学习平台,用于训练和部署机器学习模型和 AI 应用以及自定义 LLM,以在依托 AI 技术的应用中使用。
- Cloud Storage:适用于各种数据类型的费用低廉且不受限制的对象存储。数据可从 Google Cloud内部和外部访问,并且跨位置进行复制以实现冗余。
部署
如需在Google Cloud中试用 AI 辅助的客户支持应用,请使用以下代码示例:
后续步骤
- 使用 Gemini 构建客户支持代理。
- 在 Dialogflow CX 中使用 playbook、流程和数据存储区,为客户支持用例构建 AI 代理。
- 探索更多生成式 AI 架构指南。
- 如需简要了解 Google Cloud中特定于 AI 和机器学习工作负载的架构原则和建议,请参阅 Well-Architected Framework 中的 AI 和机器学习视角。
- 如需查看更多参考架构、图表和最佳实践,请浏览 Cloud 架构中心。
贡献者
作者: Kumar Dhanagopal | 跨产品解决方案开发者
其他贡献者:
- Amina Mansour | Cloud Platform 评估团队负责人
- Megan O'Keefe | 开发技术推广工程师
- Samantha He | 技术文档工程师
- Shir Meir Lador | 开发者关系工程经理