SWE-1.7 发布:低成本实现前沿智能,多项训练优化提升模型性能

发布时间:2026/7/10 22:41:35
SWE-1.7 发布:低成本实现前沿智能,多项训练优化提升模型性能 发布信息2026 年 8 月 7 日Ben Pan 等人发布 SWE-1.7 模型它以更低成本达到前沿水平智能推动成本 - 性能帕累托曲线发展。该模型是强化学习流程全面改进成果基于 Kimi K2.7 基础模型训练挑战了“后训练上限”观点。SWE-1.7 在 Cognition 制定的智能体软件工程原则下针对长周期异步任务优化现已通过 Cerebras 在 Devin 平台以 1000 TPS 速度提供服务。编码基准测试结果展示了 SWE-1.7 在 FrontierCode 1.1 主测试、Terminal-Bench 2.1、SWE-Bench 多语言测试等编码基准测试中的通过率并与 Kimi K2.7 Code、GPT-5.5 等模型进行对比。训练关键部分介绍了训练 SWE-1.7 的四个重要组成部分包括保持熵值稳定训练、多集群训练与容错机制、精心筛选高质量数据、长周期任务的自压缩机制。保持熵值稳定训练训练稳定性是关键因素异步 RL 训练中存在 KL 散度不匹配问题。top - p 采样可防止熵值崩溃但简单实现会增加训练和推理不匹配通过采样分布重放改进使熵值大致恒定还减少了梯度噪声。使用 Muon 优化器和消除非确定性操作也有好处。多集群训练Cognition 因计算资源受限利用 RL 可多集群分解的特性将训练扩展到三大洲的四个数据中心。通过云存储传输压缩权重增量实现 1T 参数模型跨洲权重更新在 1 - 2 分钟内完成且不阻塞训练或推理。容错机制大规模训练中硬件故障常见架构针对推理引擎和训练器故障采取不同处理方式确保训练可继续进行。长周期任务的智能自压缩机制为解决长周期任务训练数据超出上下文窗口和响应过长问题采用自压缩训练和交替长度惩罚机制使模型在不同阶段有不同表现。数据质量数据是决定模型能力的核心因素从验证器质量、难度、作弊检测与预防三方面确保训练数据质量。结果模型行为经过大量 RL 训练SWE-1.7 比 Kimi K2.7 Code 及其他前沿开源模型更对齐可靠思维链更简洁行动前更彻底探索代码库但变更范围会增加。评估方法所有模型在最大推理努力下评估不同基准测试有不同评估方式。参考文献列出了 18 篇相关参考文献。