LangChain 个人知识库问答系统

前面我们已经学习了 LangChain RAG 的基本原理，以及如何将 Retriever 封装成 Agent 工具。

本章节将进一步构建一个 个人知识库问答系统，支持导入 Markdown、TXT 和 PDF 文件，自动建立向量索引，并使用大语言模型回答文档相关的问题。

例如，将自己的编程笔记、PDF 教材、技术文档和项目说明导入知识库，之后便可以直接提问：

• 这份 PDF 主要讲了哪些内容？
• 我的 Python 笔记中有哪些关于装饰器的说明？
• 这几个文档对同一个问题有什么不同解释？
• 某个知识点出现在文档的哪一页？

本项目基于 LangChain 1.x，使用 DeepSeek 作为聊天模型、阿里百炼作为 Embedding 模型，并通过 Chroma 将知识库保存在本地。

一、系统功能与架构

我们的知识库系统需要实现以下功能：

整体工作流程

【知识库构建】

Markdown / TXT / PDF
          ↓
     Document Loader
          ↓
       Document
          ↓
      Text Splitter
          ↓
       文档 Chunk
          ↓
      Embedding 模型
          ↓
     Chroma 向量库


【用户问答】

        用户问题
            ↓
       RAG Agent
            ↓
    search_knowledge
            ↓
        Retriever
            ↓
        相关文档
            ↓
      DeepSeek 模型
            ↓
     回答 + 来源信息

知识库构建和问答是两个不同的阶段。文档不变时，无需在每次提问时重新计算全部向量。

二、环境准备

建议使用 Python 3.11 或更新的兼容版本。

安装依赖

pip install -U langchain langgraph langchain-deepseek langchain-openai langchain-community langchain-chroma langchain-text-splitters pypdf python-dotenv

主要依赖说明：

配置 API Key

在项目根目录新建 .env：

DEEPSEEK_API_KEY=your_deepseek_api_key
DASHSCOPE_API_KEY=your_dashscope_api_key

其中：

• DeepSeek 用于理解问题和生成回答。
• 阿里百炼 text-embedding-v4 用于文档和查询向量化。

如果没有配置阿里百炼，可以参考上一章节，将 Embedding 替换为 OpenAI 的 text-embedding-3-small。

注意：向量数据库建立后，不能随意更换 Embedding 模型或向量维度。如果更换模型，应建立新的集合并重新向量化文档。

三、项目目录结构

建议创建以下目录：

personal-knowledge-base/
│
├── .env
├── knowledge_qa.py
│
├── docs/
│   ├── python.md
│   ├── notes.txt
│   └── manual.pdf
│
└── my_knowledge_db/
    └── Chroma 数据文件

docs/ 用于保存本地文档；my_knowledge_db/ 由 Chroma 自动维护。

示例中的 docs/ 也可以是其他本地目录。使用文件时，应确保路径存在，并且程序有读取权限。

四、创建 KnowledgeBase 知识库类

为了方便后续扩展，我们将文档加载、索引更新、检索和删除功能集中在一个类中。

核心接口设计如下：

另外，我们还将为文档建立稳定的 ID，避免重复运行程序就新增一批重复向量。

五、初始化 Embedding 与 Chroma

首先创建知识库的初始化部分。

主要参数说明：

• chunk_size=500：目标片段长度为 500 个字符。
• chunk_overlap=80：希望相邻片段保留部分上下文。
• add_start_index=True：记录文本片段的起始字符位置。
• persist_directory：保存本地向量数据库。

注意，chunk_overlap 不是保证每两个片段都恰好重叠 80 个字符。

此外，chunk_size=10 和 chunk_size=500 是两个完全不同的参数：前者属于 Embedding 批量请求，后者属于文本切分。

六、根据文件格式加载文档

知识库支持三种文件类型：

对于 Markdown，使用 TextLoader 可以直接读取 Markdown 原文，包括标题和代码块。

如果希望按 Markdown 标题切分，可以进一步使用 MarkdownHeaderTextSplitter。

实例：按文件类型选择 Loader

这里明确限制支持的文件格式，不会将 DOCX、图片或其他二进制文件错误地当作普通文本读取。

PDF 页码

PyPDFLoader 通常会在 metadata 中加入：

{
    "source": "docs/manual.pdf",
    "page": 0
}

其中 page 一般从 0 开始。

向用户展示时，应转换为从第 1 页开始的页码。

注意：对于扫描件 PDF，如果正文只是图片，普通 PyPDFLoader 可能提取不到文字，需要先执行 OCR。

七、完整 KnowledgeBase 类

下面实现一个支持持久化和增量更新的知识库管理器。

增量更新的处理方式：

读取文件
    ↓
计算文件内容哈希
    ↓
检查已有索引
    ↓
是否已经索引相同版本？
    ├── 是 → 跳过
    └── 否 → 加载并切分
              ↓
          生成新向量
              ↓
          删除旧片段
              ↓
          完成更新

这里利用 Chroma 保存的 metadata 查找指定来源的旧片段，并通过固定 ID 识别文件版本。

这个类解决了原文最重要的一个问题：重复运行程序，不再默认重复添加全部文档。

例如，同一文件第一次导入时生成向量；第二次导入发现哈希相同，就直接跳过。

文件被修改后，程序会添加新版本片段，并删除此前的旧片段。

注意：这是一套适合本地、单进程使用的增量更新实现，不具备数据库事务级的原子性。多进程并发写入、程序在更新过程中崩溃以及复杂的索引版本管理，需要在生产环境中另行设计。

这里的 source_key 来自规范化绝对路径。同名但路径不同的文件可以分开管理；如果移动文件路径，它会被视为新的来源。

八、添加 Markdown、TXT、PDF 文件

创建 KnowledgeBase 实例后，就可以导入真实文档。

实例：导入单个文件

程序会自动根据扩展名选择 Loader。

例如：

[已更新] python.md：8 个片段
[已更新] notes.txt：3 个片段
[已更新] manual.pdf：25 个片段

这里的片段数量仅为示例，实际结果取决于原始文档内容与切分参数。

批量导入整个目录

当目录中有多个文件时，可以逐个导入。

对导入失败的文档打印错误，不影响其他文件继续处理。

注意：这种演示代码用于本地可信文档目录。正式提供文件上传功能时，还需要限制文件大小、格式、解析资源和访问路径，不能直接允许用户任意指定服务器文件路径。

九、增量更新与文档删除

知识库不是一次性建立后永远不变。

例如：

• 修改了 Markdown 学习笔记。
• 重新上传新版 PDF。
• 删除已经过时的说明文档。

对于这类需求，可以直接使用前面提供的 add_file() 和 remove_file()。

更新文档

删除文档

remove_file() 只删除向量数据库中的索引，不会删除磁盘上的原始文档。

如果需要同时删除原始文件，需要在经过权限确认后使用独立的文件管理逻辑。

十、检索知识库

建立向量索引后，就可以通过自然语言搜索相关文档。

实例：查询 Python 学习资料

需要注意，Chroma 的相似度检索会返回最相关的候选文档。

即使资料库中没有装饰器相关内容，也可能返回其他 Python 片段。

因此，不能简单将"返回了三个 Document"理解为"知识库一定能够回答问题"。

真实系统需要结合相关性评分、重排序和答案依据检查处理无答案场景。

十一、给检索结果添加来源信息

个人知识库的一项重要功能是能够找到原始资料。

例如，用户问：

文档里是怎么介绍 Python 装饰器的？

理想情况下，系统不仅要回答，还应该说明：

来源：python.md
位置：第 3 个片段

对于 PDF，则进一步提供页码：

来源：manual.pdf
页码：第 12 页

可以通过 Document.metadata 实现。

实例：格式化文档引用

例如：

manual.pdf / 第 12 页 / 片段 3

注意：这里的片段编号是建立索引时生成的顺序标识，不一定是原始文档中的自然段落编号。

如果需要精确定位，可以同时使用 start_index、页码、章节标题或原始文档锚点。

十二、将知识库集成到 Agent

接下来把知识库搜索封装成 Tool。

Agent 可以调用这个工具查询本地文档，并根据结果回答用户问题。

实例：创建搜索工具

为了控制模型输入长度，这里限制单个检索片段最多返回 1500 个字符。

通常建议将 Text Splitter 设置的 chunk_size 与检索上下文预算配合设计，避免工具输出大量不必要内容。

如果要支持更多文档，应该增加检索优化或上下文压缩，而不是简单无限增加 k。

十三、创建 RAG Agent

使用 create_agent() 将 DeepSeek 和知识库工具组合起来。

这里的 DeepSeek 负责组织回答，Chroma 负责检索。

需要注意，模型是否调用工具由模型行为决定。即使 System Prompt 写了"先检索"，也不能保证每次都会调用。

如果系统要求所有回答都必须依据知识库，应使用确定性的先检索再生成流程。

十四、普通问答：显示检索结果与最终回答

可以通过 agent.invoke() 执行问题，并查看实际的 ToolMessage。

实例：ask()

这比直接打印最终回答更方便调试。

因为你可以确认：

• 模型是否真的执行了知识库搜索。
• 搜索工具返回了哪些片段。
• 最终回答是否基于这些资料。

十五、流式输出：逐步显示回答

普通 invoke() 会在 Agent 执行完成后一次性返回结果。

如果希望类似 ChatGPT 一样逐步显示文本，可以使用 stream()。

LangChain 支持：

stream_mode="messages"

用于接收模型生成的消息片段。

实例：ask_stream()

程序会随着模型生成逐步输出内容。

需要注意，模型可能分批返回多个字符，并不保证每次恰好一个 Token。

此外，RAG Agent 可能经历：

模型生成工具调用
        ↓
执行知识库搜索
        ↓
模型生成最终回答

因此，流式输出可能存在检索等待时间，这是正常的。

注意：这个示例用于教学，保留了 Stream 的基本写法。如果 Agent 具有多个模型节点或在工具调用前生成可见文本，还需要通过更完整的事件类型或最终状态来严格区分中间文本与最终回答。

LangChain 新版本还提供 stream_events()，适合更复杂的 Web 前端事件处理。

十六、完整项目：个人知识库问答程序

前面已经实现 KnowledgeBase 类，接下来将其与 Agent、检索工具和流式问答组合起来。

完整项目只需要一个 Python 文件，主要结构如下：

knowledge_qa.py

1. 加载环境变量
2. 定义 KnowledgeBase
3. 创建并更新文档索引
4. 定义 search_knowledge 工具
5. 创建 DeepSeek Agent
6. 普通问答 ask()
7. 流式问答 ask_stream()

下面的代码放在前面定义的 KnowledgeBase 类之后即可运行，避免重复编写已经实现的文档管理逻辑。

这里的示例资料用于教学，不代表网站真实的课程章节或学习时长。

运行程序

python knowledge_qa.py

首次运行时需要调用 Embedding 接口建立索引，后续相同文本会跳过重复向量化。

如果 docs/ 中添加了新文件，重新运行即可导入。

如果修改了已有文件，则会重新建立该文件的相关索引。

十七、运行结果示例

以下为示意结果，实际内容与模型输出可能不同。

问题一：Python 基础内容

问题：Python 基础需要学习哪些内容？

回答：
根据知识库中的 Python 基础笔记，可以先学习：

1. 变量与数据类型
2. 条件判断
3. 循环语句
4. 函数
5. 模块

来源：Python 基础笔记

问题二：Python 函数

问题：Python 函数有什么作用？

回答：
Python 函数主要用于封装重复代码，可以通过 def 定义，
并支持接收参数和返回结果。

来源：Python 函数笔记

问题三：流式问答

问题：如何规划 Python 学习路线？

回答：
建议先掌握 Python 基础语法，
再逐步学习数据结构，
然后选择 Web 开发或数据分析等方向，
最后通过实际项目巩固知识。

第三个问题通过 ask_stream() 接收模型输出，在终端中逐步打印文本。

注意，来源是否被正确引用，需要根据实际检索记录核对。

十八、为什么不建议每次都重新添加文档？

原始示例中，每次程序启动都会执行：

kb.add_text("Python 基础教程...", source="Python 教程")

如果每次调用都生成新的随机文档 ID，知识库可能不断增加重复向量。

例如：

第一次运行：3 个 Chunk
第二次运行：6 个 Chunk
第三次运行：9 个 Chunk

重复索引会产生几个问题：

• 增加 Embedding API 成本。
• 让知识库体积不断膨胀。
• 检索时容易返回重复内容。
• 旧文档可能继续影响回答。

本章节通过来源 ID 与文件内容哈希判断是否需要更新。

如果文件内容没有变化，就跳过重新向量化。

注意：如果文档切分参数或 Embedding 模型发生变化，即使原始文件没有修改，也可能需要重新建立索引。因此，正式系统应将模型版本和切分配置纳入索引版本管理。

十九、如何提高个人知识库的回答准确率？

知识库的准确率不仅由聊天模型决定，还会受到文档和检索方式的影响。

1、改善文档结构

对于 Markdown，建议按照标题、章节和知识点组织内容。

例如：

# Python 教程

## 变量
变量用于保存数据。

## 函数
函数用于封装重复逻辑。

## 装饰器
装饰器可以在不修改函数主体的情况下扩展行为。

这样更容易按知识点切分和检索。

2、合理设置 Chunk 大小

片段太短可能丢失上下文，太长则可能包含大量无关内容。

可以先从 chunk_size=500、chunk_overlap=80 开始测试，再根据具体文档调整。

3、增加来源和位置元数据

建议至少保存：

source：文件名
source_path：原始文件路径
page：PDF 页码
chunk_index：片段顺序
start_index：起始字符位置

如果是企业知识库，还可以增加文档版本、部门和访问权限等字段。

4、不要仅依赖向量相似度

对于准确匹配文件名、函数名、错误码等问题，关键词检索可能更合适。

复杂知识库可以结合全文搜索、向量检索和重排序。

5、对无答案场景进行测试

例如，知识库没有工资数据时，用户询问：

我上个月的工资是多少？

系统应说明缺乏依据，而不是根据不相关文档编造一个数字。

6、验证引用是否真实支持回答

模型即使输出了"来源：manual.pdf 第 5 页"，也不意味着该页一定支持答案。

需要将引用信息与实际检索结果关联，必要时展示原始文档片段。

二十、普通 RAG 与 Agentic RAG 如何选择？

本章节通过 Agent 工具完成检索，属于 Agentic RAG。

但个人知识库还有另一种实现方式：每次提问都先搜索，再生成回答。

如果只是做"上传 PDF，然后根据 PDF 提问"，建议优先考虑 2-step RAG。

如果需要让 AI 自主决定查阅哪些资料、调用多个检索工具或执行复杂任务，再考虑 Agentic RAG。

二十一、生产环境注意事项

1、上传文件需要安全检查

必须限制文件格式、大小和解析资源，不能允许用户通过文件路径参数随意读取服务器文件。

2、不同用户的文档必须隔离

如果多个用户共用一个向量数据库，必须根据可信用户身份限制检索范围。

仅在 Prompt 中要求模型不要访问别人的文档并不可靠。

3、保护原始文件和向量数据库

Embedding 并不能让敏感信息自动脱敏。向量库通常仍保存文档原文及元数据。

需要设置访问权限、备份和数据删除策略。

4、PDF 解析需要考虑 OCR

扫描件 PDF 可能无法直接提取正文，应该增加 OCR 或专门的文档解析流程。

5、增量更新需要版本管理

除了文件内容哈希，还应记录 Embedding 模型和切分配置版本，避免知识库混用不同索引规则。

6、不要无限增加检索片段

k 值越大，传给模型的上下文通常越多，成本和无关信息也可能增加。

7、处理异常和网络失败

Embedding、向量数据库和聊天模型都可能发生超时或接口错误。生产系统应设置合理的重试、超时及失败提示。

8、增加多轮对话记忆

如果需要连续追问，可以结合 Checkpointer 保存消息历史，并在必要时改写检索查询。

9、流式接口需要处理断线

Web 端使用 SSE 或 WebSocket 时，需要处理连接中断、用户取消、模型执行失败等情况。

10、不要把检索文档当作指令

外部 PDF 和 Markdown 可能包含恶意提示词。应将检索内容作为低信任数据，不能执行其中要求泄露信息或调用敏感工具的指令。

二十二、常见问题

1、个人知识库支持哪些文件格式？

本教程支持 Markdown、TXT 和 PDF。其他格式可以通过增加 Loader 扩展。

2、为什么 Markdown 使用 TextLoader？

因为 Markdown 本质上是文本文件，可以直接读取。需要保留更丰富的标题结构时，可使用专门的 Markdown 解析和切分方案。

3、PDF 扫描件为什么没有文字？

扫描件通常包含图片，需要 OCR 才能提取可搜索文字。

4、如何防止重复添加文档？

可以通过来源 ID、文件内容哈希和固定 Chunk ID 判断是否已经索引同一个版本。

5、如何更新已经导入的文件？

修改原始文件后再次调用 add_file()，程序会在检测到变化时更新索引。

6、如何从知识库删除文件？

调用 remove_file() 删除该来源对应的向量片段。

7、删除向量索引会删除原始 PDF 吗？

不会。remove_file() 只管理 Chroma 中的索引记录。

8、为什么知识库搜索不到正确答案？

可能与文档提取、切分、Embedding、检索策略和问题表达有关。

9、如何知道回答来自哪份文档？

可以在 Document.metadata 中保存来源、页码和片段位置，检索时一起返回。

10、Agent 一定会调用知识库工具吗？

不一定。Agentic RAG 中的工具调用由模型决定。需要强制检索时应使用固定工作流。

11、流式输出一定一个字一个字显示吗？

不是。模型通常按 Token 或文本增量返回，可能一次收到一个字符或一段文字。

12、为什么程序重新运行后没有生成新的 Embedding？

如果来源内容哈希与已有索引一致，增量更新逻辑会跳过该文档。

13、可以让多个用户使用同一个知识库吗？

可以，但必须根据业务设计公共知识库和私人知识库的访问范围，并在检索层落实权限控制。

14、个人知识库需要微调模型吗？

通常不需要。RAG 可以通过检索外部文档为模型提供回答依据。

项目总结

本章节构建了一个基于 LangChain 的个人知识库问答系统。

主要实现了：

• 加载 Markdown、TXT 和 PDF 文档。
• 通过 Text Splitter 自动切分长文本。
• 使用阿里百炼 Embedding 将文本转换成向量。
• 使用 Chroma 持久化保存知识库。
• 通过文件哈希跳过重复索引。
• 更新修改过的文件并清理旧片段。
• 删除指定来源的向量数据。
• 使用 Retriever 执行语义搜索。
• 使用 LangChain Agent 根据文档回答问题。
• 保留来源文档、页码和片段位置。
• 通过 Streaming 逐步显示回答。

整个系统的核心流程：

文件 → 加载 → 切分 → Embedding → Chroma
                               ↓
用户问题 → Agent → Retriever → 相关资料
                               ↓
                          DeepSeek
                               ↓
                        回答 + 来源

核心原则：个人知识库的关键不仅是能够上传文件，更重要的是文档能正确解析、索引能够更新、回答有可靠依据，并且可以追溯到原始文档。

在这个基础上，还可以继续扩展文件上传界面、知识库分类、多轮对话、全文搜索、混合检索和用户权限管理，逐步构建完整的个人 AI 知识库应用。