Generative AI RAG with Cloud SQL

构建一个生成式 AI 聊天应用，该应用使用检索增强生成 (RAG) 功能，根据您组织的数据提供有依据且准确的回答。本指南介绍了 生成式 AI RAG with Cloud SQL 应用模板，您可以自定义该模板以满足您的独特需求，并将其部署为应用。

例如，您可以实现此模板来满足以下业务需求：

示例 业务需求 实现
客户支持聊天机器人 公司需要提供即时客户支持。 在 Cloud Run 上托管聊天界面。Vertex AI 处理嵌入，并根据存储在 Cloud SQL 中的技术文档（以向量形式）生成回答。
内部人力资源助理 员工需要查找有关福利、公司政策和内部程序的信息。 在 Cloud Run 上托管人力资源助理。当员工查询该工具时，Vertex AI 会从 Cloud SQL 中检索相关政策信息，以生成准确且有依据的回答。
法律文件研究员 法律团队需要在大型文档库中快速查找相关判例法或合同条款。 在 Cloud Run 上托管研究门户。Vertex AI 使用存储在 Cloud SQL 中的法律文件（以向量形式）总结相关先例，并识别合同中的特定语言。
语义产品搜索 电子商务公司希望使用自然语言描述（而不是确切的关键字）来促进产品搜索。 在 Cloud Run 上托管搜索界面。Vertex AI 处理用户描述，以从存储在 Cloud SQL 中的产品目录（以向量形式）返回语义上最相关的产品。

架构

下图显示了应用中的组件和连接：

设计画布中的生成式 AI RAG 应用。该应用包含前端、检索、AI、Secret 管理和数据库组件。

以下是应用请求处理流程：

  1. 将数据加载到 Cloud SQL中的 PostgreSQL 数据库。
  2. Vertex AI 创建文本字段的嵌入，并将其作为向量 存储在数据库中。
  3. Cloud Load Balancing 前端接收外部请求，并将流量分配给 Cloud Load Balancing 后端。
  4. Cloud Load Balancing 后端将流量分配给 Cloud Run 前端服务。
  5. 前端服务与检索服务通信，以进行生成式 AI 调用。
  6. 检索服务使用 Secret Manager 安全地访问访问 Vertex AI 和 Cloud SQL 所需的 API 密钥和凭据。
  7. 检索服务将请求转换为嵌入，并在 Cloud SQL 数据库中搜索相似的向量。
  8. 检索服务将搜索结果与原始提示一并发送至 Vertex AI，以创建回答。

后续步骤