# 本地 RAG 切块起点：2026 现场笔记

# 怎么理解「本地 RAG 切块起点」

先 400–800 token、10–20% 重叠，用自己的 PDF 评估。本地知识库的失败方式很可预测：过期文档排在最新文档前面，表格被压成一团乱码，精确编码因为嵌入的模糊化永远匹配不上。每种失败都有简单而朴素的解决办法。

# 修文档

每个集合指定负责人。文档日期和版本设为必填字段。表格转成结构化文本，或者作为独立记录保存，不要让段落分块器把它拦腰切断。去掉重复内容，免得同一段话霸占检索结果。

# 修检索

使用混合检索：关键词负责编号和罕见词，向量负责语义。排序前先按元数据过滤，例如部门、产品线或有效日期。返回少量段落并附上来源，让用户可以自己核对。

# 修预期

助手应该做摘要并指向来源，而不是发明政策。公布一份简短的“不做清单”：法律解释、医疗建议、薪酬决定。每个回答都显示来源文档名称和日期，并让用户能方便地报告错误。

# 两周试点

1. 选一个团队、一个文档集合。
2. 写三十个真实问题并标注预期来源。
3. 运行试点，收集反馈，优先修入库问题。
4. 之后再扩展到更多集合或用户。

# 给试点用户的问题

• 回答引用的是你预期的文档吗？是最新版本吗？
• 有没有遗漏你确定文档里存在的重要信息？
• 该拒答时拒答了吗？该回答时回答了吗？
• 用引用来源核实这个回答花了多长时间？

试点期间用一个简单表单收集这些反馈。反馈中的规律通常指向入库或检索问题，修这些比换模型便宜得多。

想了解更多，可以看看本地 AI 教程中心和MicroAI One 软件。

# 速记要点

• 引用速度之前，用自己的提示词实测。
• 演练恢复，而不只是做备份。
• 每次请求都记录模型名称和版本。
• 每次大版本模型升级后重新检查配置。

作者：本地AI 1号网，深圳团队，专注本地大模型软硬件、装机与私有化部署。