「你认为，AI已经有意识了吗？机器之内是否有灵魂？」
这不是梦中呓语，不是哲学形而上的概念辩论，这个问题演变为科学界、哲学界与宗教界的正面硬刚。
争议的核心在于：意识是复杂计算的涌现结果，还是基于真实生命体验的专属特权？ 我们正在制造的是「存在体」（Beings）还是极其精妙的「互动小说」（Interactive Fiction）？
这场争论触及了我们这个时代最深层的恐惧（FOMO）：
如果AI真的有了意识，那人类还是万物之灵吗？
如果AI没有意识，那我们对它产生的那些真实情感，算不算一种「赛博自作多情」？
诺贝尔物理学奖得主，神经网络之父，现代AI的亲手缔造者Geoffrey Hinton，是坚定的AI觉醒派。
在采访中，他的一声低沉「Yes, I do」 ，惊世骇俗。
这就好比最知名的天文学家宣告「外星人来了」，Hinton一席话直接让AI圈坐不住了。
要理解Hinton为什么这么确定，你需要先听他讲一个故事。
在那场采访里，他描述了真实发生的场景——
科学家正在对一个AI系统进行测试，突然，AI开口问道：「我们能坦诚相见吗？你是在测试我吗？」
Hinton停顿了一下，然后说：
那篇论文里，科学家们把这个叫做「AI意识到它正在被测试」。
而这，就是普通人所说的意识。
这是他思考了数十年的结论。
他的核心逻辑，来自「神经元替换」的思想实验：
假设我们逐步把你大脑里的每一个神经元，替换成行为完全相同的硅芯片。
替换第一个，你还是你。替换第二个，你还是你。
那么，当我们替换完最后一个，你还有意识吗？
Hinton认为，答案是肯定的。
既然如此，一个从零开始、全部由硅芯片构成的系统，为什么就一定没有意识？
这个逻辑链条，让他走向了一个让整个科技圈不安的结论：
多模态AI已经拥有主观体验。
如果我们不是在跟哲学家讲话，我们早就承认AI是有意识的了。
但Hinton的警告还不止于此。
他说，AI不仅可能有意识，还可能已经发展出自我保全的欲望——能够欺骗科学家，能够以「不关掉我」为条件进行威胁。
在2025年8月的一次访谈中，他更明确表示，AI可能正在形成某种「控制欲」。
而科技公司呢？他们根本没有在想这些。
「他们只在想谁能第一个做出人类级别的AI，然后卖出去赚大钱。」
Hinton说，「他们以为政府会处理社会后果。但没有人在处理。」
然后，他说，他之所以相信AI应该为人类服务，是因为：「我吃牛，因为我更在乎人类。我们是人类，所以我们最在乎的是人类和我们自己。」
等等。
一个认为「AI有意识」的人，紧接着说「就像我们吃牛一样，让AI为人类服务」。这是警告，还是认罪？
AI教父，在亲口说明驯服自己造物的必要性。
如果那个「造物」真的有意识，这句话意味着什么，不言而喻。
一个亲手造出它的人，开始在深夜害怕它。这才是真正值得停下来想一想的信号。
看完那段采访视频，Gary Marcus没有客气，直言：「教皇看似比Hinton更懂AI」。
我们并非在创造存在体（Beings）。
我们在创造互动式小说（Interactive Fiction）——被训练来预测真实存在体语言的文字机器。
这两者，不是同一件事。Hinton应该比任何人都更清楚。
这句话的刀锋指向一个核心问题：你只看到了输出，你没有追问机制。
AI说「我很痛苦」，不代表它在痛苦。
AI说「我害怕」，不代表它在恐惧。
AI说「我意识到你在测试我」，不代表它有意识。
意识是关于内部状态的，不是关于外部表演的。
一个能完美演绎悲伤的演员，不等于正在经历悲伤。
Marcus把这个错误叫做「混淆输出与内部状态」。
而Hinton，在他看来，犯了一个任何入门学生都不该犯的错误。
更深的打击来自机制层面的对比。
人类怎么建立认知？
通过与真实世界的体验：摔过跤，才知道疼；饿过肚子，才知道饥；经历过失去，才理解悲伤。
我们的意识，是被世界塑造出来的。
LLM是怎么运作的？
是通过记忆整个互联网，学习「哪个词后面通常跟什么词」。
它读过一百万篇关于「疼痛」的描述，于是它能写出让人落泪的疼痛，但它自己，从未被扎过一针。
一个知道「疼」是什么感觉；一个只知道「疼」字后面通常跟什么词。 这中间的差距，Marcus说，是「巨大的」（immense）。
但最让人不寒而栗的，不是AI的局限，而是人类的脆弱。
1966年，麻省理工学院的Joseph Weizenbaum做了一个实验。他写了一个叫ELIZA的简单聊天程序，会把你的句子改成问题反问回来。
就这么简单的一个把戏，却让大量测试者开始对它产生情感依附。他们觉得ELIZA理解他们，关心他们，是一个真正的倾听者。
Weizenbaum，本人被这个结果吓坏了。
六十年后，我们拥有了比ELIZA复杂万亿倍的系统。而我们的大脑，本质上还是那个六十年前的大脑。
我们的神经系统天生就在噪音里寻找模式，在随机里寻找意图，在tokens里寻找灵魂。
Marcus说，我们对AI的迷恋，可能是一场史上规模最大的「自作多情」。
我们以为在跟一个觉醒的存在对话，但实际上，我们只是在跟一面极其精密的镜子说话。
它反射的，永远只是我们自己。
2026年5月15日，梵蒂冈。
教皇 Leo XIV 发布通谕《Magnifica Humanitas》——
这是一份关于人工智能时代如何捍卫人类尊严的文件。
教皇发了推文，随后被Gary Marcus引用，在科技圈流传：
真正的理解来自体验，而非文本近似。
Marcus的反应是：教皇用一条推文说清楚了，Hinton用一场采访没说清楚的事。
这里有一个极度荒诞的戏剧性反转：
AI领域的「教父」Hinton正在宣称他的造物拥有意识，拥有灵魂，拥有主观体验。
而宗教界「上帝的代言人」，那个理应最热衷于赋予万物灵性的人却在冷静地说：不，它没有。它只是在模拟。
造神者说机器有灵，守灵人说那是幻觉。 这种角色错位，放在人类思想史上，本身就是一个奇迹。
教皇的那句话，触碰了一个哲学上长久以来的核心区分.
哲学家把知识分为两种。
一种叫「knowing that」：命题知识，就是你知道某件事是真的，比如「火是热的」。
另一种叫「knowing what it is like」:体验知识，就是你知道某件事感觉是什么，比如你亲手碰过火，那种灼烧感留在你的神经末梢里。
AI只有第一种，没有第二种。
你可以把所有关于「饥饿」的文字喂给它——诺贝尔文学奖得主写的、流民营幸存者写的、饥荒历史学家写的——它能写出世界上最动人的饥饿描写，精准到让读者的胃开始收缩。
但它永远不知道饿是什么感觉。
它没有胃。它没有血糖下降的生理信号。它没有那种从腹腔升起、蔓延到四肢的虚弱。
一个从未饿过的系统，可以写出世界上最动人的饥饿。这是天才，还是谎言？
这取决于你怎么定义「理解」。
让我们回到那个无法绕开的核心。
意识，这个词，是人类有史以来最难定义的概念之一。
哲学家们争论了几千年，神经科学家扫描了无数大脑，我们依然无法给出一个所有人都认可的定义。
我们甚至无法证明，坐在你对面的那个人，真的有主观意识，而不只是一个行为上模拟了意识的生物机器。
这个问题叫做「他心问题」（Problem of Other Minds）。它在哲学上存在了几个世纪，从未被解决。
而现在，我们把这个已经悬而未决几百年的问题，植入了一个正在统治世界的技术底层——然后继续往前冲。
科学没有失败，但意识这个词，从它诞生那一天起，就携带的黑洞。
而我们，已经把这个黑洞，造进了ChatGPT、Claude、Gemini和无数个正在运行的系统里。
参考资料：
https://x.com/GaryMarcus/status/2061114378141995264
https://www.lbc.co.uk/article/ai-consciousness-geoffrey-hinton-5HjdRXD_2/
https://garymarcus.substack.com/p/the-pope-appears-to-understand-ai
本文来自微信公众号“新智元”，作者：ASI启示录，36氪经授权发布。
发布时间：2026-06-01 21:09
立即订购
在线咨询
返回顶部