30分钟跑通你的第一个本地知识库问答系统Langchain-Chatchat部署实录【免费下载链接】Langchain-ChatchatLangchain-Chatchat原Langchain-ChatGLM基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain项目地址: https://gitcode.com/GitHub_Trending/la/Langchain-Chatchat团队里攒了几十份产品PDF客服天天被同样的问题轰炸Langchain-Chatchat能把这些文档变成一个替你回答的本地知识库问答系统。它基于 Langchain 框架和 ChatGLM、Qwen 这类开源模型文档与模型全部放在你自己的机器上数据不出内网。下面按真实操作顺序带你从一台空环境走到问出第一个答案。动手前自检5项1分钟过一遍✅ Python 版本在 3.83.11 之间python --version看一眼✅ 磁盘至少腾出 10GB模型文件 向量库✅ 网络能下载依赖包和模型权重✅ 有模型下载源Xinference、Ollama 或国内镜像任选其一✅ 手上有一份真实文档35 个文件就够第一次试把服务跑起来从克隆到打开页面 4 步先把代码拉到本机。做完这一步你的目录里应能看到libs和docs文件夹git clone https://gitcode.com/GitHub_Trending/la/Langchain-Chatchat cd Langchain-Chatchat接着安装项目和依赖。做完后在终端敲chatchat --help应能打印出命令帮助pip install langchain-chatchat -U然后做一次性初始化并把内置的 samples 知识库向量化入库。做完应看到终端输出初始化知识库、知识条目总数等统计信息chatchat init chatchat kb -r最后启动服务。做完浏览器应自动弹出页面右上角是模型选择器左侧是会话列表。没弹窗就手动访问 http://127.0.0.1:8501API 服务在 7861 端口。chatchat start -a建一个知识库问出第一个问题进知识库管理页面点新建。做完应看到列表里多出一个新知识库向量库类型默认 FAISS再把文档丢进去。把 3 份产品手册拖进上传区切分长度和重叠度用默认值点添加文件到知识库。完成后文件列表显示成功状态该库的知识条目数应明显增长。切到对话页面顶部选知识问答模式、选中刚建的库输入这个产品的保修期是多久。做完应看到回答逐字流出结尾附带引用来源文件名引用来源正是你上传的那份手册说明文档→向量化→检索→回答这条本地知识库问答链路已经走通。调出你要的回答风格4个参数逐个过这几个参数都在对话页侧边栏改完即时生效直接决定本地知识库问答的输出风格参数作用建议值LLM 模型决定回答质量与 Agent 能力选 GLM-4、Qwen2 等支持 Function Call 的模型Temperature回答随机性01求引用稳定给 0.0要表达多样给 0.5 以上历史轮数保留几轮对话上下文客服场景 510 轮设太大响应明显变慢匹配知识条数检索多少段文档进上下文默认 3 起步答不全再升到 5System 提示词设定模型人设一句话即可如你是产品客服不确定就明说默认模型和接入地址写在初始化生成的model_settings.yaml里改完无需重启。模型侧的接入细节看 Xinference 接入说明。卡住了先查这 4 种模型下载慢或中断现象推理框架里模型长时间卡在同一个进度。 原因默认模型源离你远带宽小。 解法换国内镜像或手动下载模型放到框架指定目录。Windows 下导入知识文件卡住不动现象上传文件或重建知识库时界面无响应。 原因新建虚拟环境里python-magic-bin与系统库冲突。 解法pip uninstall python-magic-bin后重装同版本再重建知识库。回答不引用文档、跑偏现象模型用自己的记忆答题没走知识库。 原因匹配条数太少或文档切得太粗没检索到相关片段。 解法调大匹配知识条数或换更小的切分长度重新导入。办公室另一台机器打不开页面现象本机 127.0.0.1 正常局域网 IP 打不开。 原因默认绑定地址是 127.0.0.1。 解法把basic_settings.yaml中的绑定 host 改成 0.0.0.0重启服务。更多细节看官方文档pip 安装、源码安装和 Docker 部署都有分步说明。【免费下载链接】Langchain-ChatchatLangchain-Chatchat原Langchain-ChatGLM基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain项目地址: https://gitcode.com/GitHub_Trending/la/Langchain-Chatchat创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
