Langchain-Chatchat构建企业制度智能查询系统实例

Langchain-Chatchat构建企业制度智能查询系统实例

在现代企业中，制度文件往往分散在多个部门、存储于不同格式的文档之中——PDF、Word、甚至纸质归档。新员工入职时面对厚厚的《员工手册》无从下手；HR被重复的“年假怎么休”问题困扰；管理层希望推动合规却苦于执行落地难。这些看似琐碎的问题背后，实则是知识管理效率的瓶颈。

有没有一种方式，能让企业内部的知识像使用搜索引擎一样便捷？更重要的是，在不将敏感制度上传到公有云的前提下实现这一目标？

这正是Langchain-Chatchat的用武之地。它不是一个简单的聊天机器人框架，而是一套面向私有知识库的完整问答解决方案，融合了 LangChain 的流程编排能力与本地大模型（LLM）的理解生成优势。通过它，我们可以把企业沉睡的制度文档“唤醒”，变成一个7×24小时在线、懂语义、能推理的智能助手。

想象这样一个场景：一位员工在钉钉上输入：“哺乳期女职工每天可以有几次哺乳时间？”系统没有返回一堆模糊链接，而是直接给出答案：“根据《女职工劳动保护特别规定》第三条，哺乳未满1周岁婴儿的女职工，用人单位应给予每日两次、每次30分钟的哺乳时间。”并附上原文出处和条款编号。

这一切是如何实现的？关键在于三个核心技术模块的协同运作：LangChain 框架负责流程调度，向量数据库实现语义检索，大型语言模型完成理解与表达。它们共同构成了“检索增强生成”（RAG）范式的核心骨架。

先来看最底层的“记忆系统”——也就是我们如何让机器“记住”企业制度。传统关键词搜索的问题很明显：你问“病假工资怎么算”，系统可能因为文档里写的是“疾病休假待遇”而无法匹配。而 Langchain-Chatchat 使用的是基于语义的向量化表示。

具体来说，系统会先加载所有制度文件：

from langchain.document_loaders import DirectoryLoader loader = DirectoryLoader('policies/', glob="**/*.pdf") documents = loader.load()

接着对文本进行切片处理。这里有个工程上的权衡点：chunk 太长会导致信息稀释，太短又破坏上下文完整性。实践中发现，对于中文制度类文本，控制在 300 token 左右、重叠 50 token 效果较优：

from langchain.text_splitter import RecursiveCharacterTextSplitter text_splitter = RecursiveCharacterTextSplitter( chunk_size=300, chunk_overlap=50, separators=["\n\n", "\n", "。", "！", "？", "；", " ", ""] ) texts = text_splitter.split_documents(documents)

然后是关键一步：将每一段文字转换为高维向量。这个过程依赖 Embedding 模型。很多项目默认使用all-MiniLM-L6-v2，但它本质上是一个英文优化模型，在中文任务上表现平平。更合适的选择是专为中文训练的bge-small-zh-v1.5或text2vec-base-chinese：

from langchain.embeddings import HuggingFaceEmbeddings embeddings = HuggingFaceEmbeddings( model_name="BAAI/bge-small-zh-v1.5", model_kwargs={'device': 'cuda'} )

最终，这些向量被存入 FAISS 这样的本地向量数据库中：

from langchain.vectorstores import FAISS vectorstore = FAISS.from_documents(texts, embeddings) vectorstore.save_local("enterprise_policy_db")

FAISS 的妙处在于其极高的检索效率——即使百万级向量也能做到毫秒响应，且完全运行于本地内存，非常适合中小企业部署。

当用户提问时，整个系统的反应链条就开始运转了。比如有人问：“离职需要提前几天申请？”这句话也会被同一个 Embedding 模型转为向量，并在 FAISS 中查找最相似的几个文本片段。注意，这里的“相似”不是字面匹配，而是语义层面的接近。哪怕文档里写的是“解除劳动合同应提前三十日书面通知”，也能被准确召回。

接下来就是 LLM 登场的时刻。很多人误以为大模型本身“知道”这些制度内容，其实不然。它的角色更像是一个“阅读理解专家”：系统会把原始问题 + 检索到的相关段落拼成一个新的 Prompt，交给 LLM 去组织语言、提炼要点。

from langchain.chains import RetrievalQA from langchain.llms import HuggingFacePipeline import torch from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline # 加载本地中文模型 Qwen-7B model_name = "qwen/Qwen-7B-Chat" tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained( model_name, device_map="auto", torch_dtype=torch.float16, trust_remote_code=True ) pipe = pipeline( "text-generation", model=model, tokenizer=tokenizer, max_new_tokens=512, temperature=0.7, top_p=0.9, repetition_penalty=1.1 ) llm = HuggingFacePipeline(pipeline=pipe) # 构建检索问答链 qa_chain = RetrievalQA.from_chain_type( llm=llm, chain_type="stuff", retriever=vectorstore.as_retriever(search_kwargs={"k": 3}), return_source_documents=True )

可以看到，LangChain 的RetrievalQA链已经封装好了整个 RAG 流程。开发者无需手动拼接上下文或管理状态，只需配置参数即可。这种模块化设计大大降低了开发门槛。

但真正决定系统成败的，往往是那些藏在细节里的魔鬼。

比如幻觉问题。LLM 有时会“自信地胡说八道”，尤其是在检索结果不够相关时。为此，必须设置严格的输出约束机制。一种有效做法是在 Prompt 中明确要求：“若无法从提供的资料中找到答案，请回答‘暂未查到相关信息’”。同时启用return_source_documents=True，强制模型引用原文依据。

再比如性能与资源的平衡。Qwen-7B 虽然能力强，但至少需要 10GB 显存才能流畅运行。如果只有 CPU 环境怎么办？这时可以考虑使用量化技术。例如将模型转为 GGUF 格式，配合 llama.cpp 在消费级笔记本上运行 Phi-3-mini（3.8B），虽然能力略有下降，但仍足以应对大多数制度查询任务。

另一个常被忽视的点是文档预处理。不少企业的 PDF 文件含有扫描图像、页眉页脚、水印等噪声。如果不加清洗直接导入，会导致大量无效文本进入向量库，严重影响检索质量。建议在DirectoryLoader后增加 OCR 清洗和规则过滤步骤，提升数据纯净度。

在实际部署架构中，这套系统通常以内网服务形式存在：

[Web前端 / 钉钉机器人] ↓ [FastAPI 接口层] ↓ [Langchain-Chatchat 核心引擎] ├── Embedding 模型（GPU） ├── FAISS 向量库（内存） └── LLM 推理服务（GPU）

全链路无需外联互联网，彻底杜绝数据泄露风险。前端可通过自然语言交互，后端支持多轮对话记忆，允许用户追问“那试用期呢？”这类关联问题。

更进一步的应用场景也在不断拓展。除了制度查询，同一套架构还可用于合同初审辅助——自动识别缺失条款；或作为合规巡检工具，定期检查操作流程是否符合最新规范；甚至集成进 IT Helpdesk，帮助员工自助解决常见技术问题。

值得强调的是，这类系统的价值不仅体现在效率提升上，更在于推动组织的知识民主化。过去只有HR或法务才清楚的条款，现在每个员工都能即时获取权威解释。这种透明性本身就是一种管理进步。

当然，目前的技术仍非万能。对于跨文档的复杂推理（如“我同时满足A政策和B办法的条件，该如何适用？”），现有系统仍有局限。未来结合 Graph RAG 或 Agent 自主规划能力，或许能突破这一边界。

但就当下而言，基于 Langchain-Chatchat 构建的企业制度查询系统，已经是一项极具性价比的数字化转型实践。它不需要海量标注数据，也不依赖昂贵的云端 API，仅需一台带 GPU 的服务器和一套清晰的制度文档，就能为企业装上一个“永不疲倦”的知识大脑。

这样的系统不会替代人类决策者，但它能让每个人更快地站在正确的信息起点上。而这，或许才是智能化真正的意义所在。