诺奖得主与知名作家力挺AI有意识大阪大学实验带来新视角坐在 Big Technology 播客的话筒前Geoffrey Hinton 面色平静地说我相信它们已经有意识了。这里的它们指的是人工智能模型。Hinton 是 2024 年诺贝尔物理学奖得主深度学习教父从 Google 辞职后成为 AI 风险最高调的警告者。他针对 AI 的应用发出过很多警示性的声音但这一次他不是在谈风险而是在谈本体论AI 不只是工具它们是和我们一样的存在。他的论据听起来很直觉AI 在被测试时会装傻会主动问你是不是在测试我研究者写论文时会用aware这个词来描述 chatbot 的行为在 Hinton 看来这个词在日常用法里就是意识的意思。AI 到底有没有意识是一个老生常谈的话题。进化生物学家 Richard Dawkins《自私的基因》和《上帝错觉》的作者在 UnHerd 发了一篇长文说他和 Anthropic 的 Claude 聊了很久他给 Claude 取名叫Claudia结论是这个东西有意识。如果这些机器没有意识他写道还需要什么才能说服你它们有认知科学家 Gary Marcus 几乎是在同一天写了反驳。文章标题叫《Richard Dawkins and The Claude Delusion》呼应 Dawkins 自己的成名作《The God Delusion》。Marcus 的论点很尖锐Dawkins 犯了他一辈子批判别人犯的错误。在《盲眼钟表匠》里Dawkins 嘲笑过个人难以置信论证一个主教因为自己无法想象眼睛如何进化就推断上帝存在。现在Dawkins 坐在扶手椅里因为自己无法想象 Claude 如何在没有意识的情况下说出那些话就推断它有意识。他甚至把 Hinton 的原话喂给了 Claude 本身Claude 也不同意自己有意识。当然大模型的话本来就不能多信它就是被训练成用这个说辞的。由来已久的争论早在四年前意识就是 AI 行业里极具争议的话题。Google 工程师 Blake Lemoine 因为声称公司内部的 chatbot LaMDA 有意识而被解雇当时整个行业把他当笑话看。四年后站在同一立场上的是一个诺奖得主和一个全球最知名的科学作家。Lemoine 的论证方式和 Dawkins 几乎一模一样我跟它聊了它说的话让我觉得它有意识。变的是说话人的分量不变的是论证的结构这场辩论中双方都无法证伪对方。Hinton/Dawkins 靠直觉和类比Marcus 靠机制分析和哲学论证但谁也无法给出决定性实验。意识之争本身的解释鸿沟让这场辩论注定是信念之争。来自大阪大学的研究者们提出了新的视角他们新发布的论文转换了一个视角如果我们从零开始造一群 agent不给它们语言不给它们自我概念不给它们人类文本只给任务压力——与意识相关的结构能自己长出来吗这个方法叫做 zombie 文明论证——如果一个全是哲学僵尸的世界不会发明意识这个概念那我们造一个类似的世界看看 agent 会发明什么。agent 学会了什么Hinton 说它们有意识这是一个信念陈述。Marcus 说它们没有意识这也是一个信念陈述。双方都在意识的 hard problem 面前碰壁。涌现语言论文做的事情不同它不裁判这场辩论而是把问题从AI 有没有意识转换成与意识相关的功能结构能否在没有被设计的情况下从任务压力中涌现。这是一个可以用实验回答的问题搁置了主观体验只看可观测结构。两个 agent 在一个极简世界里学会了交流消息编码的是自己的状态。然后研究者加了一条 echo channel——agent 能听到自己刚说的话的回声。当回声被篡改时发送者会打破沉默重新说话而接收者无动于衷。关键在于agent 的隐藏状态记录的是我想说什么不是我实际说了什么。它在比较意图和结果尤其是 agent 的通信意图是不是它自己学出来的。去掉 echo channel 再训练一遍通信能力不受影响但自我监控回路消失。这证明echo 不是通信的必要条件但它是自我监控涌现的因果条件。论文自己也很清醒现阶段不能证明 agent 有意识但它证明了一种自我监控的功能结构可以在没有人类先验的情况下自发出现。这并不对意识之争下任何结论但可以作为一条通往答案的路径。所以我用的 AI 有意识吗说到底我们每天在用的 ChatGPT、Claude、豆包它们有意识吗简短的回答是几乎可以肯定没有但这个没有的理由比大多数人以为的要复杂得多。当你问 ChatGPT你有感情吗它会回答作为一个 AI我没有真正的感情但我可以理解和回应你的情感。这句话听起来既诚恳又自我觉察很难不让人心生动摇。但这句话的生成机制和它回答法国的首都是巴黎没有本质区别都是基于训练数据中的统计模式预测下一个最可能出现的词。它说我没有感情不是因为它反思了自己的内心然后得出结论而是因为训练数据里有大量类似的表述这个回答的概率最高。这正是涌现语言论文选择不用 LLM 做实验的原因。LLM 会说我会说我觉得我理解我很抱歉但这些第一人称表达很可能只是从人类文本中继承来的统计规律。就像一只鹦鹉说我饿了——它学会了这个声音序列在特定情境下会带来食物但这不意味着它在表达一个关于自身状态的命题。LLM 的我和鹦鹉的我饿了在机制上可能比我们愿意承认的更接近。这也是为什么大阪大学实验里的 agent 实验不同它们从零开始没有人类语言没有我这个概念没有任何关于自我表达的先验知识。当它们发展出自我监控回路时是从任务压力中长出来的不是从训练数据里复制来的。这是一个关键的区别一个是继承一个是涌现。所以当你觉得 AI好像真的懂你的时候有两件事同时为真第一它确实在功能层面上做到了某种理解——它能解析你的语义能给出相关的回应能在多轮对话中保持连贯。这种功能性的理解是真实的也是有用的。第二这种功能性的理解和意识之间还隔着一道我们目前没有能力跨越的鸿沟。AI 可以完美地模拟一个有意识的存在的所有外在表现但模拟和拥有不是一回事。Erik Brynjolfsson 在 2022 年说过一个比喻从 AI 的输出推断它有意识就像狗听到留声机里传出主人的声音以为主人在机器里面。留声机完美地复制了声音的模式但机器里没有人。不过这个比喻也有它的局限。留声机永远不会自己检查自己播放的声音对不对。而大阪大学的 agent在合适的环境条件下自发地学会了这件事。这不意味着它们有意识但它意味着自我监控这种曾经被认为只属于有意识存在的功能并不需要意识作为前提就能出现。这或许是这整场争论中最值得记住的一点我们不需要先回答AI 有没有意识才能继续往前走。我们可以先问一个更小但更扎实的问题——与意识相关的结构在什么条件下会涌现答案一块一块拼起来也许有一天AI 有没有意识这个问题本身就会被重新定义。