Ollama 支持在本地安装和运行多种开源大语言模型,包括 DeepSeek、Qwen、Llama 系列及 OpenChat 等。

发布时间:2026/7/1 7:12:46
Ollama 支持在本地安装和运行多种开源大语言模型,包括 DeepSeek、Qwen、Llama 系列及 OpenChat 等。 支持的主要模型Ollama 提供了丰富的本地 LLM 模型选择常见包括DeepSeek 系列如deepseek-r1:7b、deepseek-v3适合文本生成和对话任务 。Llama 系列如 Llama 38B、70B 参数适合高质量文本生成和复杂任务 。Qwen 系列支持多种参数规模适合问答和信息检索 。OpenChat轻量级模型可快速部署适合低配设备 。自定义模型可从 Hugging Face 或其他来源导入 Ollama 不提供的模型 。安装与运行方法例如ollama pull deepseek-v3运行模型ollama run 模型名称例如ollama run deepseek-r1:7b查看已安装模型ollama list删除模型ollama rm 模型名称查看模型详情ollama show 模型名称本地部署建议硬件要求Apple SiliconM1/M2/M3/M4Mac 在本地运行模型有优势统一内存架构可直接访问 GPU 内存。32GB 内存可流畅运行 32B 参数模型 。显存需求大模型需要较大显存模型文件越大占用显存越多建议根据 GPU 容量选择模型 。路径配置可通过设置环境变量OLLAMA_MODELS修改模型下载路径避免占用系统盘 。性能优化可调整线程数OLLAMA_NUM_THREAD、Temperature、Top_p 和 Max Tokens 参数以平衡生成速度和文本质量 。总结Ollama 让本地部署 LLM 模型变得简单支持多种开源模型和自定义模型导入无需复杂环境配置即可实现离线对话、文本生成、RAG 索引等功能。用户可根据硬件条件和任务需求选择合适模型实现类似 ChatGPT 的本地体验 。