大家好我是搞自动化的大飞好久不见前一段时间因为太忙了所以偷懒了几天MiMo-V2.6 Pro和Flash发布了网上各种测评分析满天飞什么超越Kimi K3、DeepSeek V4之类的。说实话这种营销我已经看倦了看烦了我反而更关心MiMo-V2.6-Distill-Qwen-9B这种可以直接部署在本地电脑上的小模型效果到底如何在AI调用几乎需要订阅付费的年代可以自己部署使用的话那岂不是美哉配置要求内存8GB 以上内存的笔记本16G更好储存AI模型文件7-8GB解压后大概占用10G 空间安装工具老朋友LM Studio对Mac的兼容性最好安装安装LM Studio并打开 下载地址LM Studio - 发现、下载并运行本地大型语言模型 (LLMs) - LM Studio 应用程序点击“搜索”直接搜索 “MiMo-V2.6-Distill-Qwen-9B”⚠️Mac上最好使用MLX格式记得选mlx-community发布的MLX的官方社区质量和安全性有保障点击“下载”然后就静静等待下载完成就可以了打开“下载模型”就可以正常对话使用了⚠️如果遇到无法启动的问题记得更新一下LM Studio软件版本大概率可以解决测评正式开始经典问题之——“你是谁”反应速度很快很满意经典问题之——“我家附近50米就有个洗车店请问我应该怎么去”沦陷了........还是个中看不中用的家伙但反应速度这次真的OK了但我还是说早了下边就啪啪打脸看来本地部署大模型的推理能力和年初的时候没啥太大的进步虽然AI陷阱没能躲过去但万一实际应用有不少进步呢我们是客观的正好前天有一个投资问题我读了一篇文章金钱心理学这本书里作者反复强调一个观点投资、理财其中发挥最大的作用的——就是要长期持有。在时间的复利下长期持有的亏损概率会非常低。5年可能会出现亏损10年可能亏损但是坚持10年、20年的话总体收益一定是正向的你觉得这个说法是客观的吗是符合市场规律的吗DeepSeek 用时3s回复用时3sMiMo-9B用时5min回复用时2min日常几乎不可用但值得注意两个AI的回答都比较靠谱了比较以前本地小模型就是个会胡说八道的打字机但说实话对MiMo-V2.6-Distill-Qwen-9B 这个本地模型还是失望 惊喜的大家把所有注意力都放在了付费大模型的训练上对本地能跑的小模型推理处理能力并没有太大的开发动力。因为开源自部署就意味着没法变现赚钱。但我觉得这类模型才是真正考验AI能否大力推广的关键一步。就像现在的手机都有云端服务但真正开通付费云端的还是少数。大家手机上的存储是实实在在的云端存储受网络质量、服务质量、运营商影响还是不够稳定所以大家更倾向于实体存储。AI大模型也是一样的道理。AI不可能一直免费烧钱下去最终场景就类似于云服务需要付费才能用。国内的豆包已经开始了这种模式。但真正落到每个用户身上我想还是本地模型帮我们解决生活中80%-90%的问题剩下的10%-15%非常难搞的才会考虑用云端那种比较强和贵的大模型。可现在大家对本地小模型一点也不上心。除了最近Kimi和MiMo发布了本地部署的小模型之外甚至都没人研究发布小模型了。这正是我所担心的。你觉得本地小模型还有戏吗评论区聊聊下期见