OneLastIdea

自托管 RAG 用户的混合检索与图谱插件

为自托管 RAG 用户补上关键词+向量混合检索和知识图谱检索能力,提升文档问答命中率

  • API / 基础设施
  • B2B
  • 全球
  • 难度 3/5
  • 启动 < $500
  • MVP 约 6 周

问题

AnythingLLM 和 Flowise 的自托管用户在搭建基于自己文档的 RAG 时,受限于工具的基础检索能力。AnythingLLM 用户请求“RAG using hybrid search that combines both keyword-based and semantic vector search”,并希望像 LlamaIndex 的 knowledge graph RAG query engine 那样“adding Knowledge Graph with RAG”;Flowise 用户则希望接入 Neo4J 作为图数据库检索器。纯语义检索在关键词精确匹配场景下召回不佳,而这些工具尚未提供混合检索和图谱检索选项。用户目前只能更换工具或自己拼装 LangChain / LlamaIndex 管线。

目标用户

自托管 AnythingLLM / Flowise 搭建私有 RAG 的开发者和团队(其中包含用私有模型做 embeddings 的 Gitea 自托管用户)。市场为长尾开发者群体,单个需求 engagement 约 14-16 分、pain 仅 2-3,属于细分且偏弱的需求。

解决方案

  • 混合检索单元:BM25 关键词检索与向量相似度并行执行,RRF/加权融合排序后返回上下文
  • 图谱检索单元:从文档自动抽取实体与关系,支持 Neo4j 存储与图遍历式检索
  • 即插即用适配层:以连接器/插件形式接入 AnythingLLM(其数据连接器架构)和 Flowise(参照其 Redis / Pinecone 检索器集成方式)
  • AI 角色:LLM 负责查询理解、实体关系抽取和最终答案生成;embedding 模型负责语义侧召回

为什么是现在

LlamaIndex 已提供 knowledge graph RAG query engine、LangChain 已支持 Neo4j,说明相关组件已成熟可复用,AnythingLLM 和 Flowise 用户在 2023-2025 年间持续提出集成请求,说明现有开箱即用工具尚未覆盖这一层。

MVP 范围

第一版做:一个可插入 AnythingLLM / Flowise 的检索增强中间件(库或插件),提供:

  • 混合检索:BM25 关键词 + 向量相似度融合排序
  • 知识图谱检索:从用户文档自动抽取实体关系构建图谱,结合 LlamaIndex 风格的 KG RAG 查询

第一版不做:自己的向量数据库、完整的 RAG 平台、Gitea 数据连接器(pain 仅 2,需求最弱)、托管服务。

风险

平台依赖风险(高):这些需求本身就是 AnythingLLM / Flowise 的官方 issue,上游一旦内置,独立产品立即失去存在理由;

付费风险(高):所有信号 willingness_to_pay 均为 none,自托管开源用户付费意愿低;

需求强度风险(中):pain 仅为 2-3,属于“锦上添花”而非切肤之痛;

技术风险(中):知识图谱构建质量依赖实体抽取效果,垃圾图谱反而降低检索质量。

已有产品

产品定位价格
AnythingLLM被请求方:用户在其 issue 中要求混合检索、知识图谱 RAG 和 Gitea 连接器—
Flowise被请求方:用户要求其集成 Neo4j 检索器以支持图数据库 RAG—
LlamaIndex已有知识图谱 RAG 查询引擎,被 AnythingLLM 用户作为对标提及—
LangChain已有 Neo4j 支持,被 Flowise 用户在请求中引用—

信号证据

这张卡片依据的原始讨论。摘录保持原文,点“原文”查看上下文。

  1. GitHub Issues · Mintplex-Labs/anything-llm8月29日功能请求▲ 1410 条评论

    “I’d like to see support for RAG using hybrid search that combines both keyword-based and semantic vector search.”

    AnythingLLM lacks RAG support using hybrid search that combines keyword-based and semantic vector search.原文

  2. GitHub Issues · Mintplex-Labs/anything-llm4月30日功能请求▲ 167 条评论

    “I would love to see a connector for https://about.gitea.com/.”

    AnythingLLM lacks a data connector for Gitea repositories.原文

  3. GitHub Issues · Mintplex-Labs/anything-llm4月2日功能请求▲ 1414 条评论

    “I would like to see the support for adding Knowledge Graph with RAG .”

    User would like Anything-LLM to support adding Knowledge Graphs combined with RAG, similar to LlamaIndex's knowledge graph RAG query engine.原文

  4. GitHub Issues · FlowiseAI/Flowise11月15日功能请求▲ 1611 条评论

    “Integration of Neo4J retriever, as done for REDIS, PINECONE, etc. This provides the opportunity to use graph databases as data retrievers.”

    User wants a Neo4J retriever integration in Flowise so graph databases can be used as data retrievers.原文

这个 Idea 怎么样?

相似的 Idea

  • 48

    Flowise 用户的 GraphRAG 索引组件

    让 Flowise 用户在多文档、多来源场景下用 GraphRAG 索引和查询,替代效果不佳的普通 RAG。

    1 条信号,1 个来源,最近 27个月前

    开发者工具
    • API / 基础设施
    • B2B
    • 全球
    • 难度 3/5
    • 启动 < $500
    • MVP 约 5 周
  • 44

    本地文档用户的文件夹级 RAG 索引与监听工具

    把整个文件夹拖入即自动递归索引并持续监听新文档,随时对全库做带来源引用的问答。

    2 条信号,1 个来源,最近 8个月前

    生产力与办公
    • 桌面 App
    • B2C
    • 中国
    • 难度 3/5
    • 启动 < $500
    • MVP 约 5 周
  • 54

    领域语料 RAG 检索策略评测与选型工具

    把论文级的检索策略对比流程做成可复用工具,团队上传领域语料即可得到各策略的量化评测与选型建议。

    2 条信号,3 个来源,最近 前天

    开发者工具
    • API / 基础设施
    • B2B
    • 全球
    • 难度 3/5
    • 启动 $500–5k
    • MVP 约 6 周

本页内容由 AI 根据公开讨论整理,最后更新于 15分钟前。发现错误或需要下架原文,请看这里。