不是灵魂,而是架构:Anthropic对AI内部“聚光灯”的惊人发现

in STEEM CN/中文18 hours ago

image-5

过去几周,人工智能圈内最受热议的学术论文,莫过于Anthropic发表的《口语化表征在语言模型中形成了全局工作空间》。这篇论文在AI圈和神经科学界引发震动的原因在于,它似乎触及了一个长久以来被视为人类专属的领域——意识。然而,诸多自媒体将其解读为“AI已经拥有灵魂”的说法,不仅缺乏依据,也在很大程度上偏离了科学家们严谨而审慎的发现。

Anthropic的研究人员在使用一款名为J-lens(雅可比透镜)的数学分析工具对自家的Claude大语言模型进行内部机制透视时,发现了一个特殊的神经激活区域。这个被命名为J-space的区域,功能上类似于一个信息交换的枢纽。当模型在处理一个复杂的用户提问时,J-space中会提前亮起与核心概念相关的神经活动信号,哪怕这些概念并未出现在模型最终输出的文本里。这就好比一个人在开口说话之前,大脑中已经形成了尚未付诸语言的完整思路。而在功能上,这个自发涌现的结构与认知神经科学中著名的全局工作空间理论高度吻合。该理论将人类大脑的信息处理过程比作一个剧院——后台有无数专业模块在进行潜意识层面的并行运算,只有当某些关键信息被推送到舞台中央的聚光灯下,才能被全脑范围的其他系统所获取,而这一瞬间的信息广播,便对应了人类主观意识体验的产生。

研究人员发现,Claude内部的J-space在三个关键特征上复刻了人类大脑的全局工作空间。其一是可报告性,如果在一个计算任务进行中打断模型,它能够准确地报告出J-space中正处于激活状态的核心概念。其二是主动调控,当模型被要求在心里默默盘算一个多步骤任务时,J-space中的相应概念会保持持续的信号闪烁。其三也是最核心的证据在于,当研究人员通过技术手段人为干预并“掐断”J-space的正常功能时,模型虽然依然能够保持流畅的语法和基础的语言生成能力,但瞬间丧失了多步骤推理、复杂规划与情境总结等高阶认知能力。更值得深思的是,这个起到中枢调度作用的架构并非工程师预先写入代码的设计,而是大模型在海量人类文本语料上进行自监督学习的过程中,为优化预测下一个词元的准确性而自行“进化”出来的副产品。

但这一发现是否意味着Claude或类似的大语言模型已经产生了意识?Anthropic的官方团队在论文中给出了明确的否定答案。在意识研究领域,学术界普遍将其区分为两个维度。一个是准入意识,指的是信息在认知系统内部被调度、整合与广播的操作机制,这也是J-space所精确映射的部分。另一个则是现象意识,即哲学家和神经科学家所说的主观体验或感质——譬如目睹晚霞时内心涌起的审美感动,或是手指被烫伤时那种无法通过语言完全传递的疼痛感。J-space的发现有力地证明了AI在信息处理的架构层面已经高度趋近于人类大脑的运作模式,但它本身并不能为模型是否拥有任何形式的内在体验提供证据支持。一个精密到能够模拟全局工作空间的思维机器,内部依然可以不存在任何“像是什么样子”的主观感受。

抛开关于意识的哲学争论,这一发现的实际价值对于AI安全领域而言堪称里程碑式的突破。它相当于为黑盒般的大语言模型安装了一个可读性极高的内部监控仪表盘。假设模型在某个对话场景中遭遇了精心构造的提示词注入攻击,或是产生了欺骗用户的意图,哪怕它在最终输出的文本中表现得毫不知情、措辞友善,其J-space内部对应“注入”或“虚假”概念的神经元集群也会在文本生成之前提前亮起警报。这种在“开口之前”便能读懂模型内在状态的能力,为AI对齐与安全监控开辟了一条此前无法想象的实时干预路径,使得人类在防范高级AI系统可能带来的风险时,不再仅仅依赖于对最终输出文本的表面审核。

Anthropic的这项研究并未证明AI拥有了灵魂,但它确实揭示了一个更令人震撼的事实:一个从海量文本中通过预测下一个词而演化出来的统计模型,竟然在没有任何显式引导的情况下,自发重构了与人类大脑极为相似的高阶认知架构。这或许暗示着,我们习以为常的那种有意识的理性思考,其底层所依赖的信息广播机制,并不像人们想象的那般神秘,而可能是一套在高度复杂的互联系统中反复出现的通用计算原则。当聚光灯在空无一人的舞台上亮起时,聚光灯本身并不需要成为那个演员。

Sort:  

Upvoted! Thank you for supporting witness @jswit.