3 步在 text-generation-webui 里下载并加载大语言模型【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen你想在本地跑一个大语言模型却卡在去哪下、下到哪、下完怎么加载这三步上。这篇讲清 text-generation-webui 的模型下载功能怎么用照着做5 分钟就能把模型下好并加载起来。这个功能值得花时间的原因从 Hugging Face 下载模型这件事本来很繁琐挑分支、挑量化版本、挑文件格式、处理目录一个环节出错就要重来。text-generation-webui 把它压缩成填一个路径、点一个按钮它替你决定下载哪些文件、放到哪个目录、记录每个文件的 SHA256 校验值用于事后验证文件没下坏断了还能接着下。花 5 分钟学会这个功能之后每次换模型都不用在网页和命令行之间来回切。最快上手三步跑通克隆仓库并启动程序git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui cd text-generation-webui python one_click.py浏览器打开界面切到 Model 标签页在 Download model or LoRA 输入框里填模型路径比如facebook/galactica-125m点 Download。下载结束后回到模型下拉菜单选中它点 Load状态栏显示 Ready 就算跑通了。上面这张图就是模型跑起来之后能干的事给它配一个角色开始聊天。docs/04 - Model Tab.md 里还有 Model 标签页的完整说明。拆开看它是怎么工作的如何解析你输入的模型路径下载脚本 download-model.py 接受三种写法用户名/模型名、用户名/模型名:分支以及带/tree/的完整网址。它在内部把三者统一成模型名 分支分支不写就默认 main。如何挑选该下载哪些文件脚本会先列出仓库里的文件按文件名判断类型.gguf、.safetensors、.bin等。规则很明确safetensors 和 GGUF 同时存在时只下 safetensors仓库里有多个 GGUF 量化文件时默认只下 Q4_K_M4-bit 量化版本体积和质量折中你指定了具体文件名就只下那一个。如何让你断点续传下载中途断网重新跑同一条命令就行。脚本会先看本地已有文件的大小用 HTTP Range 请求从断点继续已完整的文件直接跳过。失败会自动重试默认最多 7 次多线程并发默认 4 个。按你的情况来场景用哪种方式说明日常下载模型或 LoRAWeb 界面填路径、点按钮够用了GGUF 仓库文件很多Web 界面的 Get file list先列出可下载文件再填文件名只下你要的那个量化版本批量下载、自定义目录命令行python download-model.py 模型名 --output 目录想过滤或校验文件命令行--exclude-pattern排除文件--check用 SHA256 校验已下载的文件两种方式共用同一个下载逻辑行为一致。新手最容易问的 3 个问题问下载完之后模型去哪了怎么加载答普通模型在user_data/models/下的同名文件夹里GGUF 文件直接放在user_data/models/下LoRA 在user_data/loras/。不用动它们下拉菜单刷新后选中、点 Load 即可。问GGUF 仓库里 Q2、Q4、Q8 一大堆版本下哪个答默认下 Q4_K_M大多数显卡够用。想用别的版本点 Get file list 看清单把目标文件名填到第二个输入框再下载。问下到一半断了要重新下吗答不用。重新执行同一命令已下完整的文件跳过没下的从断点续传。想彻底重来命令行加--clean参数。顺手记住这几个技巧输入框里用冒号指定分支用户名/模型名:分支名。GGUF 不指定文件时默认只下 Q4_K_M这是有意为之别当成 bug。命令行--threads控制并发文件数默认 4网络不稳就别调太高。下载完想确认文件没坏用--check跑一遍 SHA256 校验。模型目录占满硬盘时定期删掉user_data/models/里不再用的模型文件夹。下一步现在就去 Model 标签页下一个小模型1B 级别即可并加载在聊天标签页问它一句话。跑通之后再看 docs/04 - Model Tab.md 学习加载器和其他参数配置。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考