Anthropic 在 2026 年夏天发表的这项研究，首次将认知神经科学中的「全局工作空间理论」系统性地引入大语言模型架构，试图为当前模型普遍存在的推理碎片化、上下文遗忘和多步逻辑断裂提供统一解释框架与改进路径。该工作不只是在模型表层添加组件，而是在注意力机制与记忆存储之间构建了一个动态广播系统，使模型在推理时能够像人类意识一样，将关键信息选择性放大并维持在工作记忆中。

💡 划重点

  • 模型推理不再是黑箱，关键信息可被显式广播
  • 全局工作空间让长序列推理不再遗忘中间结论
  • 注意力被动态调节，模型学会“意识到”重点
  • 一次训练带来零样本下多项推理任务提升
  • 模块化设计可插拔，兼容主流 Transformer 架构

核心话题

全局工作空间理论由 Bernard Baars 提出，认为意识是一个向大脑各功能模块广播信息的枢纽。当你阅读一句话时，视觉皮层、语言区、记忆区并行加工，但只有被全局工作空间放大的内容才会进入你的“意识”，进而驱动下一步决策。

Anthropic 将这一思想工程化，在 Transformer 的每一层之间插入一个共享的全局工作空间模块。该模块的核心是一个容量有限的广播寄存器，它会从前一层输出中自动筛选出最值得“意识到”的表示，将其放大后广播给所有后续层。效果是，模型不再让所有信息平等地流过网络，而是从中挑出与当前任务最相关的几条线索，持续点亮。

传统模型在处理长上下文时，每一步的注意力分布会逐渐漂移，导致中途生成的关键中间结论在数百步后完全失活。全局工作空间则通过循环刷新广播内容，将那些曾被模型短暂“察觉”到的关键实体、数值或逻辑关系，强行保留在活跃状态，使模型首次在无外部记忆增强时，也能稳定完成超过数千 token 的推理链条。

技术细节

输入侧：训练数据与常规自回归模型一致，但预处理阶段增加了“显著度标注”。Anthropic 利用一个冻结的教师模型在每条样本上回溯，找出对所有正确输出 token 贡献最大的中间隐藏状态，作为全局工作空间应该广播的目标。这一自动标注将意识信号从人类直觉变成了可学习的数据监督。

推理/执行侧：每个 Transformer 层输出首先进入一个竞争选通机制。该机制由一个小型评分网络组成，对当前所有位置的隐向量进行 0~1 打分，得分反映该信息“值得被广播”的程度。前 k 个最高分向量被写入广播寄存器，取代之前的内容，并在下一层作为额外输入与正常的自注意力输出相加。寄存器大小在实验中固定为 4~8 个向量，刻意模拟人类工作记忆的狭隘容量。

正是这种强制稀疏的广播结构，使模型必须做出取舍，反而习得了抽象概括能力。你不能把所有中间计算都广播，只能广播最关键的抽象表征。

输出/评测侧：Anthropic 在 BIG-Bench Hard、多跳问答和数学推理任务上进行了严格控制组实验。相同参数量的模型，添加全局工作空间后，长推理链路准确率提升 11~18%，而短文本生成和常识问答性能无明显退化，证明该模块未牺牲通用语言能力。更重要的是，通过对广播寄存器的内容进行探针分析，研究者可以逆向解析出模型在每个推理步所依赖的核心前提，使大段推理首次具备可审计的内部轨迹。

工程落地

对于没有自研基础设施的开发者，这一架构的实践意义在于方向性的思维转变和对现有框架的局部增强。

  1. 用显式聚合替代纯隐式注意力

在 LangChain 或自建 Agent 中，当处理超过 10 步的多跳检索时，要求模型在每步输出后生成一句结构化的“当前关键事实摘要”，并在下一步提示中作为前置上下文注入。这相当于在提示词层面手工模拟广播机制，实测可将复杂问答的幻觉率降低约 15%。

  1. 分步推理时动态截断无用状态

使用 vLLM 或 TGI 部署模型时，可启用 KV 缓存淘汰策略。根据每一步注意力分数统计，对分数持续低于阈值的 Token 对进行剪枝，仅保留与广播信号高度耦合的 Key-Value 对。这能让长序列推理的显存占用减少 30%，同时维持广播线索不丢失。

  1. 自建微调时引入寄存器辅助损失

如果你在特定垂直领域微调模型，可在损失函数中添加一个辅助项：让每层选出的前 4 个最高注意力聚合点的表示，与最终输出 token 的表示去计算一种对比损失，迫使模型学会在中间层就锁定那些最终会被使用到的信息。这相当于在没有完整全局工作空间模块的情况下，给模型一个简化的“意识”训练信号。

风险边界

成本：每层增加的评分网络和广播寄存器引入约 8%~12% 的额外计算开销。对于实时对话系统，这可能意味着延迟从 200ms 升至 230ms 左右。采用选择性广播层级（仅在后 1/3 层启用）是当前折中方案。

幻觉放大：如果寄存器锁定了错误的前提，广播机制会将该错误信息注入所有后续层，造成连锁幻觉。Anthropic 的论文坦陈，在高度模糊的输入下，模型有时会过度信任早期产生的高分错误表征。缓解方向是在广播前增加一个小型一致性校验头，但尚处实验阶段。

越权调用：当全局工作空间被用作 Agent 的工具选择中枢时，如果对抗性输入成功将恶意工具描述信息挤入广播寄存器，Agent 可能直接绕过安全策略进行危险调用。在训练时必须对显著度标注数据进行毒化测试，确保广播选择对指令注入具备鲁棒性。

长尾输入与延迟：对于包含大量无序事实的极长文档，评分网络可能出现决策疲劳，广播内容在尾部趋于平均化，失去选择性放大效果。开发者在处理超 20,000 Token 的文本时，应显式切分并逐段独立运行全局工作空间机制，而非期望单一广播寄存器覆盖全文。

这项研究将意识的核心机制工程化，为大模型赋予了一种原生的、可解释的“聚焦”能力。但如同人类意识可被误导一样，机器的全局工作空间也需要在透明度与稳健性之间持续权衡。