题记与说明
横纵综合报告 | 时间截面:2026-10-28
成文说明:本文由两份章节研究综合而成——纵轴《从诞生到当下的发展历程》与横轴《横向对比》。两份源章节存于同目录parts/文件夹:原纵轴章节为2026-10-28-个人知识库方案对比-RAG-知识图谱-长上下文-vertical.md,原横轴章节为2026-10-28-个人知识库方案对比-RAG-知识图谱-长上下文-horizontal.md;下文"原纵轴章节/原横轴章节"均指这两份源文件,与本报告自身的"纵轴/横轴"两章相区分。两章均基于 2026-10-28 当日的实时网络检索写成,关键事实附来源 URL;部分量化数字(token 开销、硬件盈亏平衡点、个别工具的发布月份)来自搜索引擎对多来源的综合摘要,已标注"约"或"转述",引用时应视为量级参考而非精确值。两章之间的矛盾与重复已在综合时消解,消解过程在"交叉洞察"末节透明列出。本文是文献级横评,未实际搭建环境做端到端复测。
TL;DR
截至 2026 年 10 月,"RAG 已死"已被证伪——死掉的只是单轮朴素向量 RAG。三条路线并非互斥,而是按语料规模、隐私与问题类型分层组合:长上下文适合小语料直读,但有效窗口低于标称值,本地基本不可行;向量 RAG 是工作马,桌面工具已把门槛降到"装个软件"级;知识图谱在多跳关系与全局总结上不可替代,但建图昂贵,个人宜用 LightRAG,正以"记忆层"身份复活。每次窗口扩大都引发"检索已死"论战,又都被有效性与成本证据拉回。行动建议:小语料先用云端长上下文(NotebookLM);中等规模或隐私敏感上本地/混合 RAG;只有全局问题与跨会话记忆才值得上图;用 MCP 把知识库做成服务,混合路由兜底。
纵轴:发展脉络
0. 课题界定
"个人知识库"指个人开发者/知识工作者将私有文档(笔记、书摘、聊天记录、代码、PDF)喂给 LLM,使其可被检索、问答与推理的系统。三条技术路线构成课题主体:
- RAG(检索增强生成):切块 → 向量化 → 相似度检索 → 拼进提示词;
- 知识图谱路线:用 LLM 抽取实体/关系构建图,按图检索(GraphRAG 及其家族);
- 长上下文路线:不建索引,直接把语料塞进 128K~10M token 的上下文窗口。
纵轴部分要回答的问题是:这三者不是并列的替代品,而是一条相互挤压、彼此吸收的演化史——它们各自如何走到 2026 年的位置。
1. 史前铺垫(2012–2019):三条线各自埋下伏笔
- 知识图谱线:2007 年 Neo4j 图数据库发布;2012 年 5 月 Google 正式提出 Knowledge Graph,把"实体—关系"从学术(语义网/RDF/OWL)推向工业界;2019 年 Roam Research 上线,把"双向链接 + 个人知识图谱"带入消费级笔记市场,2020 年以 90 万美元融资换 2 亿美元估值,催生"第二大脑"(PKM)热潮(otio.ai 对比文)。
- 检索增强线:2017 年 DrQA(《Reading Wikipedia to Answer Open-Domain Questions》)证明"检索器 + 阅读器"架构可行;2019 年 ORQA/REALM 把检索端到端并进预训练。
- 长上下文线:2017 年 Transformer(arXiv:1706.03762)诞生,自注意力 O(n²) 的开销从第一天起就给上下文长度封了顶。
主要参与者:Google(知识图谱)、FAIR/DeepMind(检索)、Roam 社区(个人知识管理)。驱动因素:LLM 出现之前,"把知识注入模型"只有微调或检索两条路,而个人用户既不会微调也没有训练数据;Roam 证明了一个事实——个人笔记天然就是"图"而非"文档流",这为图谱路线后来在个人场景的复兴埋下伏笔。
2. 诞生(2020–2022.11):RAG 论文定义了问题
- 2020 年 5 月,FAIR 的 Patrick Lewis 等人发表《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》(NeurIPS 2020,arXiv:2005.11401),"RAG"一词正式诞生——用 DPR 稠密检索 + BART 生成,把外部文档"贴"进上下文。当时模型窗口只有 512~1024 token,检索是唯一现实选项。
- 2020 年 Longformer/BigBird 用稀疏注意力把窗口推到 4K(arXiv:2004.05150),但距离"塞下个人文档库"仍差几个数量级。
- 2020 年 3 月 30 日 Obsidian 首发版发布,本地 Markdown + 双链,与 Roam 的云端模式分庭抗礼(otio.ai)——本地文件库成为后来"个人知识库 + LLM"的标准载体。
- 向量数据库孕育期:Milvus 2019 年开源,Pinecone 2021 年 GA,Qdrant 2021 年开源,Chroma 2022 年出现。
主要参与者:FAIR(RAG)、Columbia/UW(DPR)、Obsidian 团队(Shida Li/Erica Xu)、向量数据库创业公司。此阶段三条线尚无交集:图谱在工业界,检索在学术界,长上下文在体系结构论文里,"个人知识库"还只是 PKM 社区的事。
3. 爆发(2022.11–2023):RAG 成为默认方案,本地分支诞生
- 2022 年 11 月 30 日 ChatGPT 上线,个人知识库需求爆炸式增长。
- 胶水层出现:LangChain 与 LlamaIndex(原名 GPT-Index)都在 2022 年 10 月发布,2023 年成为增长最快的开源项目之二,把"切块—嵌入—检索—生成"流水线模板化,个人开发者第一次能半天搭出文档问答。
- 上下文窗口竞赛第一轮:GPT-4 8K/32K(2023.03);Anthropic 宣布 Claude 支持 100K(2023.05,anthropic.com/news/100k-context-windows);GPT-4 Turbo 128K(2023.11 DevDay)。窗口涨了 30 倍,但每 token 计费使"整库塞窗口"成本高昂,RAG 仍是性价比默认解。
- 向量数据库资本潮:2023 年 4 月 Pinecone 完成 a16z 领投的 1 亿美元 B 轮,估值约 7.5 亿美元(Wing VC);Weaviate 融资 5000 万、Chroma 种子轮 1800 万。同年底 Postgres(pgvector)、Redis 等存量数据库加入向量支持,专用向量库开始被侵蚀。
- 本地化分支:2023 年 3 月 llama.cpp 发布;2023 年 7 月 Llama 2 开放商用授权;2023 年 8 月 GGUF 格式取代 GGML;年中 Ollama 把"一行命令跑模型"带给非专业用户;2023 年 5 月 privateGPT 开源,第一次实现"完全断网的个人文档问答"(GitHub/imartinez/privateGPT)。
- 产品化:NotebookLM 于 2023 年 7 月 12 日上线(前身是 5 月 Google I/O 的 Project Tailwind),其 slogan"只基于你上传的文档训练的模型"就是 RAG 的产品化表达(Google 博客);Obsidian 生态出现 Smart Connections、Copilot 等本地 RAG 插件;AnythingLLM 年底出现。
- 评估体系建立:MTEB 嵌入基准(2022.10,arXiv:2210.07316)与 RAGAS 端到端评估框架(2023.09,arXiv:2309.15217)让个人开发者第一次可以量化检索效果,而非"感觉还行"。
主要参与者:OpenAI、Anthropic、LangChain/LlamaIndex、向量数据库阵营、Ollama/llama.cpp 社区、Google Labs。驱动因素:隐私(个人笔记不想上传)、API 成本(128K 全量塞入太贵)、幻觉(需要 grounding)。r/LocalLLaMA 与 Hacker News 成为个人级方案的主要策源地。此阶段格局:RAG = 唯一主流,图谱与长上下文只是背景板。
4. 分化(2024):"RAG 已死?"论战与图谱 RAG 的反击
- 长上下文里程碑:2024 年 2 月 15 日 Gemini 1.5 Pro 宣布 100 万 token 窗口(私测,研究版达 1000 万)(Google 博客、技术报告 arXiv:2403.05530);同年 I/O 后扩至 200 万。7 月 23 日 Llama 3.1 以 Apache 授权开源 128K 窗口——长上下文第一次免费可本地用,社区随即爆发"RAG 已死"论战。
- 效果侧证伪:NVIDIA 的 RULER 基准(2024.04,arXiv:2404.06654)证明标称窗口 ≠ 有效窗口——许多 128K 模型在超过 32K 后性能显著衰减;叠加 2023 年 7 月的《Lost in the Middle》(arXiv:2307.03172,信息埋在中部时性能骤降),"窗口够大就行"被证明是幻觉。
- 正面对比研究落地:Google DeepMind 的 SELF-ROUTE 研究(2024.07,arXiv:2407.16833,EMNLP 2024 Industry Track;2024 年 12 月再评估)给出定量结论:资源充足时长上下文在维基类 QA 上平均优于 RAG(一个设置 +7.6%),但成本高一个数量级;摘要任务结论不一;用模型自反思做混合路由,可在保持效果的同时大幅降本。课题的核心权衡(成本 × 效果)自此有了第一份量化底稿。
- 图谱 RAG 反击:
- 2024 年 4 月微软发布 GraphRAG 论文《From Local to Global》(arXiv:2404.16130),用 LLM 抽取实体关系建图 + 社区摘要,解决向量 RAG 答不了的"全局性问题"("我全部笔记的主线是什么"),7 月开源,但索引阶段 token 消耗巨大成为公认痛点(成本量级见横轴表 2);
- 2024 年 5 月 HippoRAG(OSU,NeurIPS 2024,arXiv:2405.14831)以海马体索引理论 + Personalized PageRank 攻多跳问答;
- 2024 年 10 月 LightRAG(HKUDS,arXiv:2410.05779)主打双层检索 + 增量更新,直击 GraphRAG 全量重建的成本死穴。
- RAG 自我进化:2024 年 9 月 19 日 Anthropic 发布 Contextual Retrieval,用 LLM 给每个块生成上下文前缀再嵌入,检索失败率降 49%,叠加重排序后降 67%(anthropic.com/news/contextual-retrieval)——个人开发者第一次有了"廉价可抄"的提效作业。
- Agent 记忆线:2023 年 10 月 MemGPT(arXiv:2310.08560)提出"LLM 即操作系统"的分层记忆,2024 年演化为 Letta;Mem0 于 2024 年成立,记忆层赛道开启。
- 个人工具成熟:RAGFlow(2024 年开源,强文档解析)、Reor(笔记自动嵌入入库)、AnythingLLM 桌面版走向完善;Qwen2.5(2024.09)将 128K 窗口带入开源中文生态。
主要参与者:Google DeepMind、Microsoft Research、NVIDIA、Anthropic、HKUDS/OSU(学术图谱派)、Letta/Mem0/Zep(记忆层创业)。驱动因素:128K 成为开源标配 → "还需要 RAG 吗"必须回答;向量检索对多跳、关系型、全局性问题先天弱 → 图谱派找到突破口;GraphRAG 索引成本高 → 催生轻量化变体。三条路线从"默认/边缘/真空"变成"各自拥有明确的最优场景"。
5. 融合与智能体化(2025–2026.10):context engineering 与个人级平价化
- 协议层统一:2024 年 11 月 25 日 Anthropic 发布 Model Context Protocol(MCP),2025 年 3 月 26 日 OpenAI 宣布采纳(TechCrunch),微软随后跟进 Azure。个人知识库的接入方式从"复制粘贴进聊天框"变成标准工具调用——为一个知识库写一次 MCP server,可在 Claude/ChatGPT/任意客户端复用。
- agentic search 取代一次性 top-k:DeepSeek-R1(2025.01)带火推理模型,OpenAI/Gemini Deep Research(2025.02)展示"多轮检索—验证—再检索"的威力;2025 年 9 月 29 日 Anthropic《Effective context engineering for AI agents》给范式正名为 context engineering,主张 just-in-time 检索、甚至明确建议 agent 场景少用预切块向量库(anthropic.com/research/effective-context-engineering-for-ai-agents);RAGFlow 2025 年终盘点《From RAG to Context》(ragflow.io/blog)确认行业共识:RAG 演化为"自适应检索 + 上下文管理",而非被替代。
- 长上下文平民化:Llama 4 Scout 宣布 1000 万窗口(2025.04.05,benchlm.ai);Qwen3(2025.04)开源;2025 年 8 月 5 日 OpenAI 首次开放权重(GPT-2 以来)发布 gpt-oss-20b/120b,MXFP4 原生量化,20b 仅需 16GB 内存(Hugging Face)。至 2026 年 10 月,13+ 模型已提供 1M+ 窗口,frontier 默认窗口已达 ~1M。
- 本地硬件拐点:2025 年 3 月 Mac Studio M3 Ultra(512GB 统一内存)上市,个人桌面设备首次跑动满血 DeepSeek-R1 671B(MacRumors);同期 MoE 小激活模型(如 Qwen3-30B-A3B)让 24–64GB 内存的消费设备跑出可用速度。
- 记忆图谱化:2025 年 2 月 Zep/Graphiti 以双时序知识图谱在 Deep Memory Retrieval 基准上胜过 MemGPT(MarkTechPost);2025 年 4 月 Mem0 论文(arXiv:2504.19413)报告:相比全上下文,p95 延迟低 91%、相比 OpenAI 内置记忆准确率高约 26%——"图谱不是用来替代向量检索,而是管理'会随时间演化的个人记忆'"成为新定位。
- API 价格塌方:2024 年 12 月 DeepSeek-V3 开源(128K 窗口,约 $0.27/百万输入 token),叠加 2025 年的多次降价,图谱抽取、Contextual Retrieval 这类"LLM 密集型"索引技术的成本门槛下降一个数量级。
- 2026 年至今:争论焦点变为"agentic search stack 是否还需要向量库"(社区讨论见 Medium);长上下文退化研究持续(如 remio.ai 2026-08 综述);主流个人知识库产品(NotebookLM、Obsidian 插件、各类自托管套件)收敛为"向量 RAG 底座 + 图谱/记忆层按需叠加 + agent 检索调度"的混合架构。
主要参与者:Anthropic(MCP/context engineering)、OpenAI(开源转向)、DeepSeek(价格锚)、Meta/Google/Qwen(窗口军备)、Zep/Mem0/Letta(记忆层)。驱动因素:token 价格暴跌、推理模型让"多轮 agentic 检索"可控、MCP 把知识库从管道变成生态位。
6. 三条路线的状态速览(时间维度)
| 时点 | 向量 RAG | 知识图谱 RAG | 长上下文直读 |
|---|---|---|---|
| 2020 年 | 仅论文,无个人工具 | 与 LLM 无关 | 512–4K,不可用 |
| 2023 年 | 默认方案,工具链爆发 | 几乎无人用于个人库 | 128K 但按 token 计费,成本高 |
| 2026 年 | 底座方案,被 agent 调度 | 收窄为"全局问答 + 时序记忆"(LightRAG/Zep) | 小语料首选;大语料受有效窗口制约 |
(成本与效果的细节对比见下文横轴部分,此处不再重复。)
横轴:横向对比(2026-10 截面)
1. 对比对象的界定:三条路线 + 一层"产品化替代品"
- RAG 路线(含其图谱化变体):LlamaIndex、LangChain 等框架;面向个人的成品——AnythingLLM、Cherry Studio、RAGFlow、Dify、FastGPT、Khoj、Obsidian Copilot 插件。
- 知识图谱路线:Microsoft GraphRAG、LightRAG、nano-graphrag 等建图检索方案;以及面向智能体记忆的时序知识图谱——Zep/Graphiti(基于 Neo4j)、Mem0(向量+实体混合)。
- 长上下文路线:云端 frontier 模型(Gemini 3 / 3.1 Pro 的 1M 窗口、Gemini 3 Ultra 的 2M、GPT-5.5、Claude Opus 4.8 等);本地开源模型的长上下文形态(Llama 3.1 全系 128K(ZDNet)、Qwen3 原生 32K/YaRN 扩展 128K);以及把这层能力产品化的 NotebookLM。
- 产品化替代品("不自建"选项):NotebookLM(云端源锚定问答)、Open Notebook(自托管开源 NotebookLM 替代)、Reor(全本地 AI 笔记)等。
2. 检索效果:各自的真实边界
表 1:三条路线的能力对比
| 维度 | RAG(向量/混合检索) | 知识图谱(GraphRAG 一族) | 长上下文(直接塞入) |
|---|---|---|---|
| 单跳事实问答 | ✅ 强(混合检索下很稳) | ✅ 强 | ✅ 强(短窗口内) |
| 多跳关系推理(A 和 C 通过谁关联?) | ⚠️ 弱项,需多轮 agentic 检索弥补 | ✅ 不可替代的优势(子图遍历) | ⚠️ 理论可行,实际受有效上下文限制 |
| 全局主题总结("我的笔记整体在关心什么?") | ❌ 朴素 RAG 做不到,需 Map-Reduce | ✅ 社区摘要(community summary)专为此设计 | ⚠️ 语料塞得下就行,但成本高 |
| 增量更新 | ✅ 加一条嵌一条,近乎实时 | ⚠️ 需重抽实体/改图,GraphRAG 增量索引仍较重 | ⚠️ 每次会话重新塞入(prompt caching 可缓解) |
| 可溯源/可解释 | ✅ 引用原文片段 | ✅ 引用实体+关系+原文 | ❌ 整段上下文,溯源粒度差 |
| 对脏数据(扫描件/表格)鲁棒性 | ⚠️ 取决于解析器(RAGFlow 最强) | ⚠️ 抽取错误会污染图 | ✅ 交给模型自己读,反而最鲁棒 |
| 有效规模上限 | ✅ 几乎无限(检索层可扩展) | ⚠️ 图规模大后遍历和摘要成本上升 | ❌ 受窗口限制;个人十年笔记量级(数百万 token)已超限 |
来源:RAG vs 长上下文的系统性研究结论见 SELF-ROUTE(arXiv:2407.16833,GoPenAI 解读——小语料长上下文更优、大规模 RAG 更省的混合策略);GraphRAG 社区摘要与全局检索机制见 DataStudios 的机制拆解;GraphRAG 在关系型问题上优势的从业者讨论见 Reddit r/Rag。
三项关键事实展开:
- 长上下文的"标称 ≠ 有效"。RULER 与 NoLiMa(ICML 2025,论文、排行榜)的结论在 2025–2026 被反复验证:随着输入变长、干扰项增多、问题从"字面匹配"变为"语义关联",模型可用上下文缩水到标称值的一个比例(remio.ai 解读)。对个人知识库的含义是:500K token 的语料塞进 1M 窗口 ≠ 全部可靠可用,尤其涉及"哪两条笔记互相关联"这类无字面线索的问题。这是"长上下文杀不死 RAG"论点的实证核心。
- RAG 是效果/成本的均衡点,但单轮向量检索是弱项。2026 年的行业共识是"死的是单轮朴素 RAG"(dev.to:Single-Pass RAG Is Dead),替代者是 agentic RAG(规划→检索→评估→再检索的循环,Starmorph 指南)与混合检索(向量+关键词)。另有 LinkedIn 社区讨论转述的轶闻称大型生产 RAG 管线从 1 万文档扩展到 3000 万文档时失败率高达 80%——这是全文唯一连链接都没有的量化数字,且"失败率"口径未定义(检索失败还是端到端答错不得而知),检索到的同类社区说法还有 90%、70% 等相近数字、来源各异,故只能降格为社区轶闻式的定性警示看待;它描述的是企业级规模,与个人场景无关——个人语料远达不到这个量级,反而是 RAG 最舒适的区间。
- 知识图谱赢在"关系"与"全局",但边界有争议。多跳问题("我去年读的 X 和最近在写的 Y 有什么联系")与全局主题问题,是向量检索的结构性盲区,也是 GraphRAG 类方案的存在理由。但注意 Letta 的基准文章声称其文件系统式记忆在 LoCoMo 上拿到 74.0%,质疑专用知识图谱/向量库的必要性——个人场景下"轻量记忆"与"完整图谱"的边界仍在争论中(对比见 puppyone 平台综述)。
3. 成本:本地部署成本 + 维护成本,门槛差一个数量级
表 2:成本对比
| 成本项 | RAG | 知识图谱 | 长上下文 |
|---|---|---|---|
| 本地硬件门槛(最低可用) | 无 GPU 可跑:16GB 内存机器 + CPU 嵌入(BGE-M3)+ 云 API;仅当"生成也全本地"才需 24GB 显存跑 32B 级模型 | 同左 + 建图阶段额外消耗大量 LLM token(本地跑抽取会很慢) | 云端:0(订阅制);本地长上下文基本不可行——本地模型标称 32K–128K,且小参数模型的有效上下文缩水更严重 |
| 代表性配置 | AnythingLLM/Cherry Studio:桌面安装包,零 Docker;RAGFlow:最低 4 核 16GB 内存 + 50GB 磁盘 + Docker(内含 ES/MinIO/MySQL/Redis),推荐 8 核 32G(搭建门槛) | LightRAG:单 Python 服务,可配本地 Ollama 模型建图;Microsoft GraphRAG:Python 管道 + 大量 API 调用 | NotebookLM:免费;Gemini Advanced $19.99/月;Gemini Ultra $249/月解锁 2M 窗口 |
| 建库/索引成本(API 计费) | 极低:普通向量嵌入约 $0.50/百万 token 量级 | 高:Microsoft GraphRAG 全量索引约 $50/百万 token(GPT-4 级),实测案例:6 小时约 $80;LightRAG 比完整 GraphRAG 快 3–5 倍、便宜 50–70%(检索摘要转述) | 0(无建库),但首次塞入即按输入 token 计费;长上下文阶梯定价下单个 500K-token 请求成本显著上浮 |
| 查询成本 | 低:检索 + 数 K token 注入 | GraphRAG 全局搜索单次可达 610K+ token,LightRAG 压到 <100 token/查询(MemoryHub 2025 分析,检索摘要转述) | 最高:每次查询重复支付全部语料的输入 token;prompt caching 可部分缓解 |
| 维护成本(个人视角) | 低:换模型需重嵌(换嵌入模型 = 全量重建索引);一体化工具基本免维护 | 高:图 schema、实体消歧、增量更新都是持续工作;社区共识"图可能比答案更贵" | 最低:无管道可维护;但语料增长会不断逼近窗口和预算上限 |
| 本地 GPU 一次性投入(纯本地路线) | 二手 RTX 3090(24GB)约 $700,或 AMD 7900 XTX / Intel Arc Pro B70(32GB);Qwen3-32B 常见量化约需 19–20GB 显存(检索摘要转述) | 同左,且抽取阶段对显存/时长要求更高 | 不适用 |
三条要点展开:
- RAG 的部署门槛已经被桌面软件消解。AnythingLLM(官网,67k+ stars)/ Cherry Studio(300+ 模型接入)是"下载即用"的桌面应用,向量库内嵌(多数用 LanceDB/SQLite 系),嵌入模型可本地 CPU 跑(BGE-M3:免费、1024 维、8K 上下文、dense/sparse/multi-vector 三模式;Qwen3-Embedding 0.6B–8B:Apache-2.0、32K 上下文、Matryoshka 可变维度)。工程级的 RAGFlow 才开始要求 16GB 内存 + Docker 全家桶。注意区分两层:检索层(嵌入、向量库、重排)CPU 即可;生成层走云 API 则全程无 GPU,仅当要求"生成也全本地"才需要 24GB 级显卡。
- 知识图谱的门槛在 token 而非硬件。用云 API 建图是账单问题(见上表);用本地模型建图则撞上"小模型抽取质量差→图被污染"的连锁问题。LightRAG Server 提供 WebUI + 知识图谱可视化,且明确支持 Ollama 级本地模型,是目前个人做图检索的最短路径(项目介绍,检索摘要转述)。
- 长上下文在本地是伪选项。本地开源模型(Llama 3.1 128K、Qwen3 32K→YaRN 128K)标称窗口可用,但(a)KV cache 对显存的占用随窗口线性暴涨,24GB 卡塞 128K 上下文和塞 32B 模型二选一;(b)小参数模型的有效上下文缩水比 frontier 模型更严重(这是 RULER/NoLiMa 结论的合理外推,标注为本文推断)。结论:长上下文路线在 2026 年事实上只属于云端厂商和订阅用户。
- "本地 vs 云"的盈亏平衡:检索到的资料(promptcost.org,2026-05,检索摘要转述)给出本地 LLM 相对云 API 的盈亏平衡点约为每天 50 万–200 万 token——个人知识库的查询量几乎必然低于此线,意味着对个人开发者,"本地 GPU + 云 API 混合"通常比"追求全本地"更划算;本地 GPU 的价值主要在隐私和离线,而非省钱。
4. 生态与产品化替代品(2026-10 截面)
表 3:生态与成熟度
| 路线 | 代表工具 | 部署形态 | 成熟度 |
|---|---|---|---|
| RAG | AnythingLLM、Cherry Studio、RAGFlow、Dify、FastGPT、Khoj、Obsidian Copilot | 桌面安装包 / Docker | ★★★★★ 最成熟,工具密度最高;中文社区对比丰富(知乎选型讨论、CSDN 四工具对比、掘金五工具部署对比) |
| 知识图谱 | Microsoft GraphRAG、LightRAG、nano-graphrag;智能体记忆方向:Mem0、Zep/Graphiti(时序 KG,基于 Neo4j,Community 版单机无集群)、Letta | Python 管道 / 图数据库(Neo4j) | ★★★☆☆ 上升期:方向热度高、头部工具迭代快,但个人级开箱即用产品少,多需拼装 |
| 长上下文 | Gemini 3 / 3.1 Pro(1M)、Gemini 3 Ultra(2M,$249/月)、GPT-5.5、Claude Opus 4.8;产品化形态 NotebookLM、Open Notebook(自托管替代) | 订阅制 / API | ★★★★☆ 能力成熟但被 frontier 厂商垄断;13+ 模型已提供 1M+ 窗口,2M 窗口一年内出现(presenc.ai 综述) |
产品化替代品:很多"自建需求"其实已有成品
| 产品 | 形态 | 适合谁 | 来源 |
|---|---|---|---|
| NotebookLM | 云端、免费起步、源锚定问答/思维导图/音频概览 | 语料量有限、隐私不敏感、不想动手者 | notebooktoolkit 对比 |
| Obsidian + Copilot 插件 | 本地 Markdown + 插件生态 + RAG | 已有笔记积累、要求数据主权者("笔记已在 Obsidian,这就是赢家") | thinkdifferent.blog 指南 |
| Reor | 全本地 AI 笔记(Ollama 内置、自动关联) | 隐私极敏感、能接受小生态者 | 2026 各"第二大脑"盘点(检索摘要) |
| Open Notebook | 自托管开源 NotebookLM 替代 | 想要 NotebookLM 体验但要数据自持的开发者 | KDnuggets,2026-01 |
5. 数据可信度说明
- 本文多数量化数字(GraphRAG $50/M token、$80 实测、LightRAG 50–70% 节省、610K vs <100 token/查询、Qwen3-32B 显存、盈亏平衡 50 万–200 万 token/天、80% 生产管线失败率(已按社区轶闻降格处理,见横轴第 2 节)、普通嵌入 $0.50/M token)来自搜索引擎对多来源的综合摘要,已尽量附原始链接或标注"转述",未逐一打开原文复核,引用时应视为量级参考而非精确值。
- 检索工具返回的 2026 年模型名(GPT-5.5、Claude Opus 4.8、Gemini 3.1 等)与写作工具链相关,个别型号/价格可能因信源聚合有出入;决定性的、可复核的事实(1M 窗口成为 frontier 默认、RULER/NoLiMa 的有效性折扣、GraphRAG 与向量 RAG 的成本数量级差)有多来源交叉印证,置信度较高。
- 未实际搭建环境做端到端复测;本文是文献级横评,不是 bench 报告。
交叉洞察
洞察一:同一条权衡曲线,重演了四次
纵轴给出的历史序列,在横轴的成本-效果坐标系里可以读出一条反复重演的曲线:
- 2020 年:窗口 512–1024 token → 检索是唯一现实选项,RAG 论文定义问题;
- 2023 年:窗口涨 30 倍到 128K,但每 token 计费 → "整库塞窗口"太贵,RAG 仍是默认解;
- 2024 年:Gemini 1M + Llama 3.1 免费开源 128K → "RAG 已死"论战爆发 → 三份证据(RULER、Lost in the Middle、SELF-ROUTE)把问题从"塞不塞得下"改写为"成本 × 有效窗口",论战落幕;
- 2025–2026 年:token 价格塌方 + agentic 检索 + prompt caching → 问题不再是"RAG 还是长上下文",而是"如何在 agent 循环里调度两者"(context engineering)。
规律是:长上下文每一次扩容,重新定义的都是 RAG 的形态,而不是 RAG 的存亡。 2020 年的 RAG 是"检索是唯一选项",2026 年的 RAG 是"自适应检索 + 上下文管理"——名字没变,内涵换了三代。今天声称"向量库已死、agentic search 取代一切"的论调(Medium),与 2024 年的"RAG 已死"是同一个句式,大概率也是同一个结局。
洞察二:知识图谱的两次生命,个人场景要的都不是"本体"
图谱路线在纵轴上经历了两次生命:第一次是 2012 年 Google Knowledge Graph 开启的工业本体时代,与个人无关;第二次是 2024 年 GraphRAG 以"全局问答"名义回归,但索引成本高企,随后在 2025 年收窄为时序记忆层(Zep/Graphiti 双时序图、Mem0)——管理"会随时间演化的项目状态、人际关系、偏好",而不是管理静态知识本体。
两轴结合的结论:个人知识库场景对图谱的真实需求很窄,只有两类——全局性问题("我这三年的研究主线是什么")和跨会话的演化记忆。这与横轴的能力表完全吻合:图谱在多跳与全局两项上不可替代,在其余五项上并无优势,而 Letta 的 LoCoMo 基准(74.0%,文件式记忆)甚至提示连这两类需求也可能被更轻的方案部分满足。为图而图是个人场景最贵的错误。
洞察三:2025 年,个人开发者的两大成本杠杆同时松动
- token 价格塌方(DeepSeek-V3 约 $0.27/百万输入 token 起锚,2025 年多次降价):使图谱抽取、Contextual Retrieval 这类"LLM 密集型"索引技术的门槛下降一个数量级——这正是横轴成本表中 LightRAG 对个人变得可行的前提;
- 桌面一体化工具(AnythingLLM、Cherry Studio):使 RAG 的部署门槛从"Docker 工程师"降到"装个软件"——这是纵轴 2023 年"本地化分支"(llama.cpp/Ollama/privateGPT)在产品层的收口。
两者叠加的结果是:对个人开发者,硬件和钱都不再是主要门槛,维护与 token 消耗才是。 横轴"维护成本是最易低估的一项"的判断,与纵轴"成本 × 维护 × 效果"的框架在此交汇——选型时真正该问的问题从"我买得起吗"变成了"我养得起吗"。
洞察四:竞争重心从"路线"上移到"调度层"
MCP(2024.11 发布 → 2025.03 OpenAI 采纳)把知识库从"管道"变成"生态位";context engineering(2025.09)把"检索什么、何时检索"的决定权交给 agent。纵轴显示这是 2025 年后的主线事件,横轴显示这是 2026 年产品收敛的方向(混合架构)。两轴合起来说明:2026 年的选型问题已经不是"选哪条路线",而是"选哪个调度层"。 一个用 MCP server 封装的知识库,底层可以随时从纯向量换成混合检索再加图谱——接口稳定,内部自由。
洞察五:产品化替代品正在吞噬自建需求
横轴的产品替代品表 + 纵轴 NotebookLM/Obsidian 插件的演化史合起来看:NotebookLM 免费档 + 桌面级 RAG 工具已经能覆盖绝大多数常见个人需求,自建的价值收窄到四件事——数据主权(隐私敏感)、脏文档深度解析(RAGFlow)、agent 记忆(Mem0/Zep)、全局性问题与多跳关系问答(在 RAG 之上叠加 LightRAG,见决策树第 5 条)。动手自建之前,先确认自己的需求落在这四件事之内,否则默认答案是不自建。
对用户的判断与建议
决策树(按语料规模 × 隐私要求 × 问题类型):
规模换算基准(决策树所有档位共用):中文 1 字在不同 tokenizer 下约折合 0.6–2 token(粗略经验值,量级参考),本文统一按 1 篇千字笔记 ≈ 2K token 保守粗算。据此:< ~50 万 token ≈ 250 篇以内的千字笔记;32K ≈ 16 篇;1000 篇千字笔记 ≈ 200 万 token。"数万 token"统一锚定为 32K:RULER(见纵轴第 4 节)证明许多 128K 模型在超过 32K 后性能显著衰减,故本地直读的有效上限取 32K 而非标称 128K。
- 语料 < ~50 万 token(按换算基准 ≈ 250 篇以内的千字笔记)且隐私不敏感 → 直接用 NotebookLM 或 Gemini 长上下文。零部署、零维护,小语料问答的综合体验最好。注意区分两种形态:NotebookLM 是"源锚定问答"(见横轴第 4 节"产品化替代品"表),逐句附引用、可溯源;把语料裸塞进 API 长上下文则溯源粒度差(表 1"可溯源"一项为 ❌)——需要引用出处时优先 NotebookLM 形态。NotebookLM 免费档官方限额:每个笔记本最多 50 个来源、单来源 ≤ 50 万词/200MB、共 100 个笔记本、每天 50 次对话(Google 官方帮助:添加来源、官方 FAQ);50 万 token 量级的语料拆分成几个来源即可塞下,对照限额先核自己的语料量。这是 2026 年的默认起点,别自建。
- 语料小但隐私敏感,且折算 ≤ 32K token(≈ 16 篇千字笔记;32K 即本地模型的有效窗口锚点,见上方换算基准) → 本地长上下文直读:gpt-oss-20b(16GB 内存)或 Qwen3 级开源模型 + Ollama。零索引零维护,此规模档下体验最好。注意此档上限远低于标称 128K(理由见消解说明第 1 条)。
- 中等规模(数千至十万篇)默认答案:向量 RAG。 两条子路径:
- *不想动手*:AnythingLLM / Cherry Studio(零 Docker)或 Obsidian + Copilot(若笔记已在 Obsidian);LLM 走云 API(个人用量月成本通常个位数美元)+ 本地嵌入(BGE-M3,CPU 可跑),GPU 非必需。
- *要生成也全本地*:24–32GB 显存(二手 RTX 3090 24GB / Intel Arc Pro B70 32GB,与表 2 及预算表一致)+ Qwen3-32B 量化 + Ollama + 内嵌向量库(SQLite-vec/Chroma/LanceDB)+ BM25 混合检索 + bge-reranker。
- 必抄的两份免费作业:① Anthropic Contextual Retrieval(检索失败率 -49%);② 重排序——叠加上①后累计 -67%(Anthropic 官方口径,见纵轴第 4 节;上一条中的 bge-reranker 正是第②份作业的落地件)。
- 文档又重又脏(扫描件、复杂表格、学术论文)且愿意养 Docker → RAGFlow(16GB 内存起步,推荐 32GB)。
- 问题以"关系"和"全局"为主(对应洞察五第四件自建价值"全局性问题与多跳关系问答")→ 在 RAG 之上叠加 LightRAG(而非 Microsoft GraphRAG):索引成本省 50–70%,查询 token 从 61 万级降到百级(转述数据);增量更新特性对"每天写一点"的个人使用模式是决定性的。建图用云端便宜模型(DeepSeek 级 API 约 $0.1–0.3/百万输入 token)或本地 7B–14B 抽取,先在小语料上验证图质量再放量。个人笔记 < 1000 篇(按换算基准 ≈ 200 万 token)不上图。
- 在做个人 agent,需要跨会话记忆 → 先试 Letta 的文件式记忆(也许根本不需要图);确认需要后再评估 Mem0(向量+实体,存储无关)或 Zep/Graphiti(时序 KG,需 Neo4j,Community 版单机即可跑个人规模)。
- 兜底原则:混合路由 + MCP 化。 SELF-ROUTE 的结论对个人同样成立——默认便宜路线,模型自评答不了再升级:小问题走长上下文,精确查询走向量 RAG,全局问题才触发图谱摘要。用 MCP 把知识库封装成服务,一次实现、多客户端复用,天然获得 agentic just-in-time 检索。
三档预算方案:
| 档位 | 投入 | 组合 | 能拿到什么 |
|---|---|---|---|
| 零硬件投入 | ¥0–150/月 | 现有电脑 + NotebookLM(免费档)/ Gemini Advanced($19.99/月)+ 云 API 按量付费 | 覆盖绝大多数常见个人需求:长上下文问答 + 免费 RAG 产品 |
| 千元级 | 约 ¥1000–2000 一次性 + 少量 API 费 | 16GB 内存机器 + Docker + RAGFlow(最低 4核16G + 50GB 磁盘,推荐 8核32G,见表 2)或 FastGPT(2核4G 可跑)+ 云 API + 本地嵌入 | 全数据自持的工程级 RAG,脏文档解析能力 |
| 万元级(全本地) | 约 ¥5000–8000(二手 RTX 3090 24GB 约 $700,或 Arc Pro B70 32GB 更低)+ 电费 | Ollama + Qwen3-32B 量化(约 19–20GB 显存,转述)+ BGE-M3/Qwen3-Embedding + AnythingLLM/LightRAG | 完全离线的问答 + 轻量图谱;注意:按盈亏平衡数据(50 万–200 万 token/天),个人用量下全本地不省钱,买的是隐私与离线 |
反模式清单(2026 年社区反复踩的坑):
- 个人语料上跑完整版 Microsoft GraphRAG——索引贵、查询贵、增量更新重;LightRAG 或"混合检索 + agentic 循环"即可覆盖大部分动机。
- 把十年笔记全量硬塞长上下文——先撞有效上下文墙(RULER/NoLiMa),再撞阶梯定价墙。长上下文适合"一次性任务语料"(一组文档、一本书),不适合"永久增长的知识库"。
- 为图而图——没有大量"多跳关系"类问题时,图谱的持续维护成本(消歧、schema 演进)会超过收益。
- 频繁更换嵌入模型——每次更换 = 全量重嵌。一开始就锁定 BGE-M3 或 Qwen3-Embedding 这类有社区共识的开源模型。
- 只在三条路线里三选一——2026 年的主流答案是分层混合:长上下文做小任务、向量 RAG 做日常检索、图谱只给真正需要关系推理的子域、agentic 循环串联(Medium:Beyond the Vector Retrieval Bottleneck)。
两轴章节的矛盾消解说明
综合时发现并处理了三处分歧、若干重复,处理方式如下(供核查;下文"原纵轴章节/原横轴章节"指成文说明所列 parts/ 目录下的两份源章节文件,非本报告自身的"纵轴/横轴"两章):
- 小语料能否"本地长上下文直读":原纵轴章节建议笔记 < 20 万 token 时用 gpt-oss-20b 本地直读(原话:"笔记总量折算 < 20 万 token(约 300–500 页):直接走长上下文,配 gpt-oss-20b(16GB 内存)或 Qwen3 级开源模型本地直读");原横轴章节判断"长上下文在本地是伪选项"。消解:分歧源于规模档位与两处疏漏。其一,20 万 token 本身已超过多数本地模型的标称 128K 窗口,更不用说有效窗口(RULER 证明许多 128K 模型超过 32K 即衰减);其二,本地 128K 的 KV cache 显存开销与模型权重二选一。故本报告把决策树第 2 档的本地直读上限收紧为"折算 ≤ 32K token(有效窗口锚点,见决策树前的换算基准)",20 万 token 的本地直读定性为激进用法而非推荐档;隐私不敏感的小语料一律先走云端(免费/订阅制 + prompt caching)。这是本报告基于两章证据做出的综合判断,非任一原章的原话。
- RAG 要不要 24GB GPU:原纵轴章节推荐栈含 24GB 显存卡或 Apple 统一内存设备;原横轴章节强调 GPU 非必需。消解:拆分层——检索层(嵌入、向量库、重排)CPU 即可,生成层走云 API 则全程无 GPU;仅当要求"生成也全本地"才需要 24GB 级。决策树第 3 条已按此改写。
- 图谱的门槛表述:原纵轴章节给决策规则(原话:"个人笔记量 < 1000 篇时不要上图谱"),原横轴章节给成本数字(GraphRAG 约 $50/百万 token 索引、LightRAG 省 50–70%,转述)。两者不冲突,合并为"规则 + 依据":成本量级(转述数据)支撑"个人规模别用原版 GraphRAG"的规则。
- 重复内容去重:SELF-ROUTE 在两份源章节各出现一次(原纵轴章节引 arXiv 原文、原横轴章节引 GoPenAI 二手解读),本报告合并为一处引用两个链接;RULER/NoLiMa、GraphRAG 成本、Mem0/Zep、落地建议等两章重复展开的内容,本报告纵轴仅保留时间线叙事与状态表,细节统一收敛到本报告横轴的对比表与建议部分。
参考来源
基础论文与基准(arXiv)
- Transformer:https://arxiv.org/abs/1706.03762
- RAG 原始论文:https://arxiv.org/abs/2005.11401 ;Longformer/BigBird:https://arxiv.org/abs/2004.05150
- MTEB:https://arxiv.org/abs/2210.07316 ;RAGAS:https://arxiv.org/abs/2309.15217
- Lost in the Middle:https://arxiv.org/abs/2307.03172 ;RULER:https://arxiv.org/abs/2404.06654
- SELF-ROUTE(RAG vs LC):https://arxiv.org/abs/2407.16833 ;再评估:https://huggingface.co/papers/2501.01880
- Gemini 1.5 技术报告:https://arxiv.org/abs/2403.05530
- GraphRAG:https://arxiv.org/abs/2404.16130 ;HippoRAG:https://arxiv.org/abs/2405.14831 ;LightRAG:https://arxiv.org/abs/2410.05779
- MemGPT:https://arxiv.org/abs/2310.08560 ;Mem0:https://arxiv.org/abs/2504.19413
长上下文与有效性
- Gemini 1.5(1M 窗口):https://blog.google/innovation-and-ai/products/google-gemini-next-generation-model-february-2024
- LLM Context Window Comparison (2026) – Morph:https://www.morphllm.com/llm-context-window-comparison
- LLM Context Window Race 2023–2026 – presenc.ai:https://presenc.ai/research/llm-context-window-race-2023-2026
- Gemini 3.1 Pro Complete Guide – swiftwand:https://swiftwand.com/en/gemini-3-1-pro-complete-guide-2026-may-en
- Gemini Tiers Compared:https://aisubscriptioncomparison.com/pricing/gemini-tiers-compared
- RULER – Analytics India Mag:https://analyticsindiamag.com/ai-news-updates/nvidia-introduces-ruler-to-measure-the-context-length-of-models
- NoLiMa (ICML 2025):https://bytez.com/docs/icml/46685/paper ;排行榜:https://llm-stats.com/benchmarks/nolima
- Context Degradation – remio.ai:https://www.remio.ai/post/context-degradation-in-llms-what-long-context-papers-actually-show
- Llama 3.1 128K – ZDNet:https://www.zdnet.com/article/meta-inches-toward-open-source-ai-with-new-llama-3-1
- Llama 4 Scout:https://benchlm.ai/models/llama-4-scout ;gpt-oss:https://huggingface.co/openai/gpt-oss-20b
RAG vs 长上下文 / 行业共识
- RAG vs. Long-Context LLMs – GoPenAI:https://blog.gopenai.com/rag-vs-long-context-llms-a-comprehensive-study-with-a-cost-effective-hybrid-approach-01cc212419e1
- RAG vs. The Infinite Context Window – Medium:https://medium.com/data-science-collective/rag-vs-the-infinite-context-window-is-retrieval-dead-in-2026-4f48f19b549e
- Single-Pass RAG Is Dead – dev.to:https://dev.to/ji_ai/single-pass-rag-is-dead-the-complete-2026-ai-keyword-roundup-1din
- Agentic RAG – Starmorph:https://blog.starmorph.com/blog/rag-techniques-compared-best-practices-guide
- Why RAG Is Failing Agentic AI – Development Corporate:https://developmentcorporate.com/product-management/why-rag-is-failing-agentic-ai
- Beyond the Vector Retrieval Bottleneck – Medium:https://medium.com/@KilgortTrout/beyond-the-vector-retrieval-bottleneck-the-2026-guide-to-rag-context-rot-and-next-generation-c5a199d3b049
- Agentic Search Stack – Medium:https://buzzgrewal.medium.com/ai-agents-dont-need-vector-search-anymore-inside-the-agentic-search-stack-replacing-rag-in-2026-58efcabe4f6f
- RAGFlow 2025 年终盘点:https://ragflow.io/blog/rag-review-2025-from-rag-to-context
知识图谱 / GraphRAG 成本
- Microsoft GraphRAG 机制与 token 成本 – DataStudios:https://www.datastudios.org/post/microsoft-graphrag-indexing-community-summaries-global-search-and-token-costs
- GraphRAG vs 向量 RAG 实测 – devforums:https://www.devforums.com/t/graphrag-vs-vanilla-vector-rag-when-is-the-knowledge-graph-overhead-actually-worth-it/72
- GraphRAG Deep Dive 2026 – saram.io:https://saram.io/blog/graphrag-deep-dive-2026
- LightRAG vs 生产系统 token 对比 – MemoryHub:https://memoryhub.tistory.com/entry/RAG-Technology-Landscape-LightRAG-vs-Enterprise-Production-Systems
- GraphRAG 索引成本估算 – Khaled Alam:https://khaledalam.medium.com/how-i-added-token-llm-cost-estimation-to-the-indexing-pipeline-of-microsoft-graphrag-c310dd56cb0c
- LightRAG 项目介绍:https://www.tomaarsen.com/projects/LightRAG
- Reddit:From Search-Based RAG to Knowledge Graph RAG:https://www.reddit.com/r/Rag/comments/1oc59qs/from_searchbased_rag_to_knowledge_graph_rag
智能体记忆(图谱的个人级近亲)
- State of AI Agent Memory 2026 – Mem0:https://mem0.ai/blog/state-of-ai-agent-memory-2026
- Letta 记忆基准(LoCoMo 74.0%):https://www.letta.com/blog/benchmarking-ai-agent-memory
- Agent Memory Systems and Knowledge Graphs – codepointer:https://codepointer.dev/p/agent-memory-systems-and-knowledge
- Zep/Graphiti 基准 – MarkTechPost:https://www.marktechpost.com/2025/02/04/zep-ai-introduces-a-smarter-memory-layer-for-ai-agents-outperforming-the-memgpt-in-the-deep-memory-retrieval-dmr-benchmark
- Best AI Agent Memory Platforms 2026 – puppyone:https://www.puppyone.ai/en/blog/best-ai-agent-memory-platforms
个人工具生态与部署成本
- AnythingLLM 官网:https://anythingllm.com/
- 四工具对比 – CSDN:https://blog.csdn.net/2401_83450572/article/details/145820619 ;知乎选型讨论:https://www.zhihu.com/question/14711559470 ;掘金五工具部署对比:https://juejin.cn/post/7520286373594234880
- RAGFlow + Ollama 搭建(16GB 内存门槛)– CSDN:https://blog.csdn.net/xx_nm98/article/details/160449954
- RAGFlow/Dify/FastGPT 差异 – gogoai:https://www.gogoai.com/blog/ai-tool-test/ragflow-dify-fastgpt
- 消费级硬件跑本地模型 – ZimaSpace:https://shop.zimaspace.com/en-ca/blogs/tech-ai-hub/best-ai-models-for-running-locally-on-consumer-hardware
- 本地 vs 云盈亏平衡 – promptcost.org:https://promptcost.org
嵌入模型
- OpenAI vs Cohere vs Qwen3-Embedding – beri.net:https://www.beri.net/article/openai-vs-cohere-vs-qwen3-embedding-models-enterprise-rag-2026
- Embedding Models 2026 – masterprompting:https://masterprompting.net/blog/embedding-models-comparison-2026
- 主权嵌入管线:BGE-M3 + pgvector + Qdrant:https://blog.rinet.one/building-sovereign-embedding-pipeline-bge-m3-pgvector-qdrant
产品化替代品与工具史
- NotebookLM:https://blog.google/innovation-and-ai/technology/ai/notebooklm-google-ai ;NotebookLM vs Obsidian – notebooktoolkit:https://notebooktoolkit.com/answers/notebooklm-vs-obsidian
- NotebookLM 来源限额(官方帮助,50 来源/笔记本、单源 50 万词/200MB):https://support.google.com/gemininotebook/answer/16215270 ;免费档配额(官方 FAQ):https://support.google.com/gemininotebook/answer/16269187
- Open Notebook – KDnuggets:https://www.kdnuggets.com/open-notebook-a-true-open-source-private-notebooklm-alternative
- RAG on your own notes – thinkdifferent.blog:https://www.thinkdifferent.blog/blog/rag-on-your-own-notes-build-a-second-brain-that-actually-answers
- Roam/Obsidian 沿革 – otio.ai:https://otio.ai/blog/roam-research-vs-obsidian
- privateGPT:https://github.com/imartinez/privateGPT
- Pinecone 融资 – Wing VC:https://www.wing.vc/content/vectorious-revolution-pinecone-developer-empowerment-ai-first-future
协议与工程范式
- MCP 发布与 OpenAI 采纳 – TechCrunch:https://techcrunch.com/2025/03/26/openai-adopts-rival-anthropics-standard-for-connecting-ai-models-to-data
- Anthropic Contextual Retrieval:https://www.anthropic.com/news/contextual-retrieval
- Anthropic context engineering:https://www.anthropic.com/research/effective-context-engineering-for-ai-agents
- Claude 100K 上下文:https://www.anthropic.com/news/100k-context-windows
- Mac Studio M3 Ultra 跑 DeepSeek-R1 – MacRumors:https://forums.macrumors.com/threads/mac-studio-with-m3-ultra-runs-massive-deepseek-r1-ai-model-locally.2453311/