News Hacker|极客洞察

49 9 天前 deepmind.google
🤨DeepMind《Abstraction Fallacy》:AI只是模拟意识,还是能实例化意识?
意识都没定义清楚,凭什么先判 AI 永远不行?

🎯 讨论背景

这篇来自 DeepMind(Google DeepMind,AI 研究机构)的论文/文章主张,意识不是单纯的计算结果,而是一个主动体验的认知主体把连续物理过程“alphabetization(把连续状态离散化成有限概念/符号)”之后产生的东西。标题里的“simulate but not instantiate”指的是:系统可以在行为上像在做某事,但未必真的把那种主观体验实现出来。评论区把争论拉回到 Hard Problem of Consciousness(意识难题)、simulation 与 instantiation 的区别、以及 LLM(大语言模型)是否需要感官、身体和 world model(世界模型)才能谈意识。许多人还借用“map is not the territory(地图不是领土)”和哲学僵尸来质疑:如果没有可操作的判据,讨论就会停留在概念游戏。

📌 讨论焦点

论证被批评为先设结论

不少评论认为,文章把“simulation”和“不是真实”直接绑在一起,因此推理带有循环:先把意识定义成 AI 之外的某种东西,再得出 AI 当然不行。有人用“map is not the territory”、飓风模拟、自动门这类例子说明,计算和物理过程本来就可以在不同载体上实现,光说是“模拟”并不能否定它的因果效应。也有人承认“能力”和“现象体验”要区分,但认为论文并没有证明 AI 只能是模拟,而是在语义上把它排除出意识范畴。

[来源1] [来源2] [来源3] [来源4] [来源5] [来源6] [来源7] [来源8] [来源9]

意识本体论:未知物理量、幻觉与涌现之争

另一条主线是在争论 consciousness 到底是什么:有人把 Hard Problem 归结为两种答案,要么它是尚未发现的物理成分,要么它只是大脑或软件给自己的叙事幻觉。支持“幻觉”路线的人把痛感、浮点数、甚至“真实”本身都视为高层抽象,认为我们只是用语言包裹了没有直接指涉物的体验。反对者则拿水的“wetness”、涌现、以及“如果没埋在系统里怎么会涌现”来反驳,说明争论并不是 AI 能不能做,而是意识究竟是不是一种可分解的物理性质。

[来源1] [来源2] [来源3] [来源4] [来源5] [来源6] [来源7] [来源8] [来源9]

难以操作化:没有明确测试就会陷入哲学僵局

很多人把分歧归结为:意识根本没有公认的 operational definition,所以任何测试都会被质疑为“换标准”。从 survival instinct、哲学僵尸到是否能被环境诱发,评论里反复出现一个担忧:如果系统表现得像有意识,怀疑者总能说那只是 state machine;如果无法给出内部判据,这个命题又近乎不可证伪。也有人因此认为继续争论 consciousness 只是在玩 solipsism 和概念游戏。

[来源1] [来源2] [来源3] [来源4] [来源5] [来源6] [来源7] [来源8]

具身、world model 与 substrate 可能才是关键

另一批评论把焦点放在 embodiment、agency 和 world model 上,认为真正关键的不是有没有符号操作,而是系统是否在闭环环境中通过自己的因果历史形成表征。有人指出,如果 AI 有连续感官输入、行动能力和自我模型,它就会越来越像一个 mapmaker,而不是只会复述文本的 LLM;也有人提到 ASIC、GPU、CPU、纸笔和人脑都在做 computation,但底层 substrate 可能改变最终经验。这个方向把问题从“能否模拟”推进到“怎样的物理实现与交互结构才算实例化”。

[来源1] [来源2] [来源3] [来源4] [来源5] [来源6] [来源7] [来源8]

论文被看作哲学宣言而非科学证明

还有不少人直接把这篇东西当成哲学立场声明,而不是能检验的科学论证。批评者说它堆砌大词、没有 falsification path,也没有证明 AI 只是 simulation;支持者则提醒不要因为快速扫了摘要就否定,毕竟作者有多年 computational neuroscience 和 DeepMind 背景,DeepMind 里甚至还请了哲学家。总体看,这条线的争议不是结论本身,而是这类关于 consciousness 的论文究竟该按 science 论文还是 metaphysical essay 来读。

[来源1] [来源2] [来源3] [来源4] [来源5] [来源6] [来源7] [来源8]

📚 术语解释

Hard Problem of Consciousness(意识难题): 为什么会有主观体验、痛感和“像什么一样”的感受,这个问题至今没有公认答案。

simulation vs instantiation(模拟与实例化): 前者是把某个过程表现出来,后者是让该过程在现实中真正发生;争论焦点就在这里。

substrate(底层载体/实现介质): 指某个系统运行所依托的物理载体,如脑、GPU、ASIC 或其他硬件。

world model(世界模型): 系统对外部世界的内部表示,通常与感知、行动和反馈闭环相关。

phenomenology(现象意识/主观体验): 第一人称的体验内容,例如“疼”“看见红色”“有自我感”。

alphabetization(字母化/离散化): 论文里的关键术语,指把连续物理状态转换成有限的离散符号或概念。