Orca状态预测:从Token预测到世界理解的AI范式革命

发布时间:2026/7/9 9:39:21
Orca状态预测:从Token预测到世界理解的AI范式革命 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度当GPT猜下一个词、Sora猜下一帧、机器人模型猜下一个动作整个AI行业似乎都在押注同一个范式预测下一个。这个范式诞生了ChatGPT催生了Sora驱动了Figure 01和Optimus。它如此成功以至于几乎没有人停下来问一句这真的是理解吗一篇来自北京智源人工智能研究院BAAI的Orca论文给出了截然不同的答案不是。你们全搞错了方向。Orca没有在预测下一个的赛道上继续卷参数而是从根本上换了一个问题如果模型不是在猜下一个字而是在理解世界的状态呢这个看似微小的转变可能正在重新定义AI理解的边界。1. 从猜答案到猜世界Orca的核心范式转变1.1 当前AI的三大困局统计模仿的豪华升级版2026年AI行业对预测下一个的信仰达到了顶峰。GPT-5和DeepSeek-V4把下一个Token预测做到了极致它们能写诗、写代码、做数学证明。Sora虽然已被关停但Google的Veo 3、中国的Seedance等视频模型在预测下一帧上展开了新的竞赛。机器人领域Figure 01学会了叠衣服Optimus在工厂搬运零件。表面上看AI正在全方位逼近人类智能。但Orca论文尖锐地指出这三者做的其实是同一件假事。GPT预测下一个词本质上是统计模仿。你给它今天天气它输出真好不是因为它理解天气而是因为它见过太多次这个组合。Sora预测下一帧本质上是像素插值。视频模型看起来在想象未来其实只是在做图像的平滑过渡。机器人预测下一个动作本质上是模式匹配。换句话说整个AI行业引以为傲的能力在Orca的作者看来只是统计匹配的豪华升级版。Orca论文原话智能不应该仅仅是能做Next-Token-Prediction的模型它应该被定义为构建世界状态并支持多样化下游任务的能力。1.2 状态预测 vs Token预测本质的区别Orca不是拒绝预测它拒绝的是预测什么。目前所有主流AI模型都在预测输出界面的下一个单元——下一个Token、下一帧像素、下一个动作指令。Orca说别猜表面猜本质。论文给出了一个清晰的数学框架。世界的状态S随时间演化变化受两部分因素驱动隐式动力学z物理规律、对象属性、场景动态以及显式条件c人类指令、事件描述、任务目标。用更通俗的例子说明一个球在空中传统模型关注的是球在画面中间这个像素信息而Orca关注的是这个球正在以9.8m/s²的加速度下落这个物理事实。这就是状态和Token的本质区别。Token是表面的状态是本质的。Token是统计的状态是物理的。换个比喻GPT就像一个考生没见过物理课本但刷了100万套物理选择题凭选项出现的概率蒙对了90%。Orca则像另一个考生没刷过题但真正读懂了牛顿三定律即使题目换了表述方式也能做对。2. Orca的学习机制婴儿式认知发展路径2.1 无意识学习从连续视频中捕获物理规律Orca提出了一个非常有趣的学习框架无意识学习加有意识学习。这个二分法直接致敬了人类认知发展的路径。无意识学习指的是直接从连续视频中学习。像婴儿一样不需要有人告诉你球在下落你看多了就自然懂了物理规律。Orca从125,000小时视频中捕获密集的物理状态转换——每一帧之间的变化每一个物体的运动轨迹每一次碰撞的因果关系。这个过程不使用任何标注标签靠的是自监督信号。模型通过观察世界如何运转逐渐构建起对物理规律的内在理解。这种学习方式的关键优势在于它的可扩展性——不需要昂贵的人工标注只需要大量的观察数据。2.2 有意识学习用语言组织因果结构有意识学习则用语言描述的事件和视觉问答来组织因果结构。比如球落地了、门被打开了、猫从桌上跳下来了。这些是有意义的语义事件不是连续的像素变化而是离散的、有因果关系的状态转换。它回答的是发生了什么为什么发生如果换一种干预会怎样Orca项目主页引用婴儿在学会语言之前就已经通过观察世界理解了物理规律——物体如何运动、接触如何发生、被遮挡的物体是否仍然存在、场景在动作之后如何变化。无意识学习提供密集的世界经验有意识学习将这些经验转化为可以被推理和交流的因果模式。二者缺一不可。这个设计背后有一个野心Orca不是在做一个更好的视频模型或更好的语言模型它试图构建一个通用世界基础模型。3. 最惊人的发现世界理解隐含行动能力3.1 零动作监督下的机器人表现Orca论文中最令人震惊的结果不在文本生成也不在图像预测而在机器人任务。预训练阶段Orca没有使用任何动作标签完全零动作监督。它只是看视频——125,000小时的视频理解世界在如何运转。然后当它被接入轻量级的动作解码器在真实机器人任务上测试时结果令人侧目。在真实机器人分布外测试中Orca-4B达到了36.6%的成功率而同等规模的专业机器人基线模型只有27.6%。差距接近10个百分点。在没有使用任何动作标签预训练的前提下这个结果几乎违反了机器人学习的直觉。传统机器人学习需要大量的动作标签——告诉机器人在这个状态下应该执行这个动作。这是一个极其昂贵的标注过程机器人公司往往需要雇佣数十名标注员花几个月时间给每一帧视频打上动作标签。3.2 理解物理世界本身就隐含行动能力Orca证明理解物理世界本身就隐含了行动能力。你不需要教机器人抓杯子你只需要让它看100万次杯子被抓住的视频。当它真正理解了抓这个动作的物理含义——手的形状、力的方向、物体的重量、接触面的摩擦——它自然就知道怎么抓了。这可能是当前AI领域最重要的未被充分讨论的发现世界理解本身就是一种隐式策略。模型通过观察世界状态的变化内在化了对行动后果的理解从而能够在新的情境中做出合理的行动决策。在多任务视频基准测试中Orca-4B在MVBench、TemporalBench、3DSRBench和SWITCH四个基准上的平均得分为51.8而同等规模的Qwen3.5-4B只有46.7。这表明状态预测的范式不仅在机器人领域有效在通用的多模态理解任务上也显示出优势。4. 从工程视角看状态预测的实践意义4.1 数据效率的革命性提升从工程实践的角度看Orca范式最直接的价值在于数据效率的提升。传统方法需要大量标注数据来训练特定任务模型而状态预测模型通过自监督学习从原始数据中提取通用知识。在实际部署中这意味着减少对昂贵标注数据的依赖提高模型在新任务上的泛化能力降低领域适配的成本和难度对于资源有限的团队来说这种数据效率的提升可能是决定性的。不需要为每个新任务从头开始收集和标注数据只需要让模型观察相关的场景和数据流。4.2 模型可解释性的改善状态预测范式另一个重要优势是模型行为的可解释性。由于模型学习的是世界状态的变化规律而不是表面的统计模式其决策过程更容易被理解和验证。在安全关键应用中这种可解释性尤为重要。当模型基于对物理规律的理解做出决策时工程师可以更自信地预测模型在各种边界情况下的行为而不是依赖黑箱的统计相关性。4.3 长期维护的可持续性从系统维护的角度状态预测模型显示出更好的长期适应性。当应用场景发生变化时基于物理理解的状态预测模型能够更好地适应新环境而不需要完全重新训练。这种适应性来自于模型对基础规律的学习而不是对特定数据分布的过度拟合。在实际工程中这意味着更低的模型更新成本和更稳定的系统表现。5. 状态预测的技术实现路径5.1 状态表示的学习与编码实现状态预测的第一个关键技术挑战是如何学习和编码世界状态。Orca采用的方法是通过多模态对比学习来构建统一的状态表示空间。具体来说模型需要学习将不同模态的输入图像、文本、物理参数映射到同一个语义空间中。在这个空间中相似的状态应该具有相似的表示而不受输入模态的影响。从工程实现的角度这通常涉及设计合适的编码器架构定义有效的对比学习目标处理不同模态之间的对齐问题5.2 状态转移模型的构建状态预测的核心是学习状态之间的转移规律。Orca使用类似动力系统的方法来建模状态演化考虑隐式动力学和显式条件的共同作用。在实际实现中这通常意味着设计能够捕获长期依赖的序列模型整合物理先验知识到模型架构中处理不确定性和部分可观测性5.3 从状态到行动的映射最终学习到的状态表示需要能够支持下游任务特别是机器人控制。Orca通过轻量级的动作解码器来实现从状态到行动的映射。关键的技术考虑包括保持状态表示的通用性设计高效的动作生成机制确保决策的稳定性和安全性6. 实际部署中的挑战与应对策略6.1 计算资源的需求平衡状态预测模型虽然在数据效率上有优势但在计算资源需求上可能面临挑战。学习世界状态需要处理高维的连续空间这对模型容量和训练效率提出了更高要求。在实际部署中需要在模型复杂度和计算成本之间找到平衡。一些可能的策略包括采用分层的状态表示学习使用知识蒸馏来压缩模型设计更高效的注意力机制6.2 真实世界的复杂性处理真实世界充满了不确定性、噪声和异常情况。状态预测模型需要能够处理这些复杂性而不是在理想化的假设下工作。工程实践中需要考虑设计鲁棒的状态估计方法处理传感器噪声和缺失数据建立有效的异常检测和恢复机制6.3 安全性与可靠性保障在安全关键应用中状态预测模型的可靠性和安全性至关重要。模型需要能够识别自己的认知边界在不确定的情况下采取保守策略。具体的安全措施可能包括建立置信度估计机制设计安全约束的决策框架实现人机协同的监督控制7. 状态预测范式的未来展望7.1 对AI基础设施的影响如果状态预测范式被证明是正确的当前AI行业的算力投资逻辑可能需要重新审视。OpenAI、Google、Meta这些押注更大模型、更多Token、更多算力的巨头其技术路线可能面临根本性挑战。因为下一状态预测不需要无穷大的参数它需要的是对物理世界的高效建模而不是对文本统计分布的极致逼近。这种转变可能重塑整个AI芯片和基础设施的市场格局。7.2 对应用生态的潜在影响状态预测范式可能催生新一代的AI应用。基于对世界状态的深度理解模型能够更好地支持需要物理推理和因果理解的任务。潜在的应用方向包括更智能的机器人系统基于物理的模拟和预测复杂系统的监控和优化科学发现和工程设计7.3 技术发展的可能路径从技术发展的角度看状态预测范式可能沿着几个方向演进与符号推理方法的结合多尺度状态表示的学习在线学习和适应能力的增强与神经符号方法的融合这些发展方向不仅涉及算法创新也需要新的理论框架和评估标准。Orca论文的价值不在于它是否完美而在于它提出了一个可能改变AI行业走向的问题。如果预测下一状态真的比预测下一个Token更接近理解的本质那么我们正在见证AI范式的一个重要转折点。从工程实践的角度状态预测范式为我们提供了一种新的思路不是通过更大的数据和更多的算力来逼近智能而是通过更本质的理解来构建智能。这种思路的转变可能正是AI从工具走向伙伴的关键一步。 30款热门AI模型一站整合DeepSeek/GLM/Qwen 随心用限时 5 折。 点击领海量免费额度