适用于生成式 AI 应用的向量搜索

本页介绍了 Memorystore for Valkey 如何使用向量搜索功能来支持存储和查询生成式 AI 应用(例如检索增强生成 (RAG) 和 LangChain)的向量数据。

使用向量搜索和 LangChain 进行生成式 AI

Memorystore for Valkey 上的向量搜索与开源 LLM 框架 LangChain 兼容。 将向量搜索与 LangChain 结合使用,可为以下用例构建解决方案:

  • RAG
  • LLM 缓存
  • 推荐引擎
  • 语义搜索
  • 图片相似性搜索

在 Memorystore for Valkey 中使用向量搜索进行生成式 AI 的优势

与其他 Google Cloud 数据库相比,使用 Memorystore 存储生成式 AI 数据的优势在于其 速度。Memorystore for Valkey 上的向量搜索利用多线程查询,以低延迟实现高查询吞吐量 (QPS)。

在 Memorystore for Valkey 中使用向量搜索进行生成式 AI 的方法

Memorystore 还提供了两种不同的搜索方法,可帮助您在速度和准确率之间找到适当的平衡。分层可导航小世界 (HNSW) 选项可提供快速的近似结果,非常适合近似匹配就足够的大型数据集。如果您需要绝对的精确度,则 FLAT 方法会生成确切的答案,但处理时间可能会稍长一些。

如果您想针对最快的向量数据读取和写入速度优化应用,那么 Memorystore for Valkey 可能是您的最佳选择。