问题
AnythingLLM 和 Flowise 的自托管用户在搭建基于自己文档的 RAG 时,受限于工具的基础检索能力。AnythingLLM 用户请求“RAG using hybrid search that combines both keyword-based and semantic vector search”,并希望像 LlamaIndex 的 knowledge graph RAG query engine 那样“adding Knowledge Graph with RAG”;Flowise 用户则希望接入 Neo4J 作为图数据库检索器。纯语义检索在关键词精确匹配场景下召回不佳,而这些工具尚未提供混合检索和图谱检索选项。用户目前只能更换工具或自己拼装 LangChain / LlamaIndex 管线。
目标用户
自托管 AnythingLLM / Flowise 搭建私有 RAG 的开发者和团队(其中包含用私有模型做 embeddings 的 Gitea 自托管用户)。市场为长尾开发者群体,单个需求 engagement 约 14-16 分、pain 仅 2-3,属于细分且偏弱的需求。
解决方案
- 混合检索单元:BM25 关键词检索与向量相似度并行执行,RRF/加权融合排序后返回上下文
- 图谱检索单元:从文档自动抽取实体与关系,支持 Neo4j 存储与图遍历式检索
- 即插即用适配层:以连接器/插件形式接入 AnythingLLM(其数据连接器架构)和 Flowise(参照其 Redis / Pinecone 检索器集成方式)
- AI 角色:LLM 负责查询理解、实体关系抽取和最终答案生成;embedding 模型负责语义侧召回
为什么是现在
LlamaIndex 已提供 knowledge graph RAG query engine、LangChain 已支持 Neo4j,说明相关组件已成熟可复用,AnythingLLM 和 Flowise 用户在 2023-2025 年间持续提出集成请求,说明现有开箱即用工具尚未覆盖这一层。
MVP 范围
第一版做:一个可插入 AnythingLLM / Flowise 的检索增强中间件(库或插件),提供:
- 混合检索:BM25 关键词 + 向量相似度融合排序
- 知识图谱检索:从用户文档自动抽取实体关系构建图谱,结合 LlamaIndex 风格的 KG RAG 查询
第一版不做:自己的向量数据库、完整的 RAG 平台、Gitea 数据连接器(pain 仅 2,需求最弱)、托管服务。
风险
平台依赖风险(高):这些需求本身就是 AnythingLLM / Flowise 的官方 issue,上游一旦内置,独立产品立即失去存在理由;
付费风险(高):所有信号 willingness_to_pay 均为 none,自托管开源用户付费意愿低;
需求强度风险(中):pain 仅为 2-3,属于“锦上添花”而非切肤之痛;
技术风险(中):知识图谱构建质量依赖实体抽取效果,垃圾图谱反而降低检索质量。
已有产品
| 产品 | 定位 | 价格 |
|---|---|---|
| AnythingLLM | 被请求方:用户在其 issue 中要求混合检索、知识图谱 RAG 和 Gitea 连接器 | — |
| Flowise | 被请求方:用户要求其集成 Neo4j 检索器以支持图数据库 RAG | — |
| LlamaIndex | 已有知识图谱 RAG 查询引擎,被 AnythingLLM 用户作为对标提及 | — |
| LangChain | 已有 Neo4j 支持,被 Flowise 用户在请求中引用 | — |
信号证据
这张卡片依据的原始讨论。摘录保持原文,点“原文”查看上下文。
GitHub Issues · Mintplex-Labs/anything-llm8月29日功能请求▲ 1410 条评论
“I’d like to see support for RAG using hybrid search that combines both keyword-based and semantic vector search.”
AnythingLLM lacks RAG support using hybrid search that combines keyword-based and semantic vector search.原文
GitHub Issues · Mintplex-Labs/anything-llm4月30日功能请求▲ 167 条评论
“I would love to see a connector for https://about.gitea.com/.”
AnythingLLM lacks a data connector for Gitea repositories.原文
GitHub Issues · Mintplex-Labs/anything-llm4月2日功能请求▲ 1414 条评论
“I would like to see the support for adding Knowledge Graph with RAG .”
User would like Anything-LLM to support adding Knowledge Graphs combined with RAG, similar to LlamaIndex's knowledge graph RAG query engine.原文
GitHub Issues · FlowiseAI/Flowise11月15日功能请求▲ 1611 条评论
“Integration of Neo4J retriever, as done for REDIS, PINECONE, etc. This provides the opportunity to use graph databases as data retrievers.”
User wants a Neo4J retriever integration in Flowise so graph databases can be used as data retrievers.原文