AI可解释性领域过去数年赖以立足的基石假说，正在被它的奠基人之一亲手推翻。Goodfire研究员Nick Cammarata发表长文《Neural Networks Are Already Clean》，坦承当年在经典视觉模型中观察到的概念折叠并非物理规律，而是陈旧网络架构与初代简陋工具共同制造的假象。现代神经网络在结构改良后，原生神经元本就高度可读，学界与产业界过去两年耗费巨资研发外挂解题工具的做法，可能走入了一条昂贵的歧路。
这项自我推翻直接动摇了当前机械可解释性的主流共识。2020年，Cammarata与Chris Olah等人发表开创性论文《Zoom In》，在初代InceptionV1模型中发现了一个同时对汽车和狗起反应的混合电路，由此催生了叠加态（Superposition）假说：当网络空间不够用时，模型会把风马牛不相及的概念折叠在一起。为了解开这个乱麻团，以Anthropic为代表的团队全力转向稀疏自编码器（SAE），试图用第二个模型强行还原出单语义特征。如今Cammarata的结论完全相反：模型没有折叠互不相干的事物，网络本身已经是干净的。
架构演进抚平混沌：末层可解释比例跃升至99%
当年研究者认为神经元不可读，核心证据来自InceptionV1末层近乎全盲的混乱状态。在旧工具和旧架构下，那层神经元的可解释比例仅有0%至5%，即使后来加入现代正则化手段重新训练，比例也只回升到70%。深层网络似乎不可避免地退化成了不可名状的高维糊状物。
但当实验平台迁移至现代视觉架构ConvNeXt后，情况发生了反转。在保持模型参数大小与训练数据完全一致的前提下，末层神经元的可解释比例跃升至99%–100%。更关键的是容量边界实验：作者在参数量跨越300倍的ConvNeXt模型上测试（参数量分别为9.2万、706万和2860万），发现模型在所有尺度下都保持着清晰的层级结构。当网络物理空间受限时，神经元并没有将毫无关联的汽车与猫塞进同一个维度，而是自动收缩到更宽泛的上位范畴，用一个较粗的广义神经元来覆盖所有车辆；一旦给足参数空间，该神经元便自然分化为针对具体车型的精细分类。
这一规律同样出现在大语言模型中。2023年Anthropic在单层Transformer研究中给神经元打出的中位数解释评分是0/14，同一年OpenAI的自动化神经元解释项目在最宽泛标准下测出的可解释比例也只有1.7%。但在Qwen3-32B的最新审计中，约90%的神经元极性已具备单一主要概念。
神经网络从来没有在空间不足时折叠无关概念，它只是退回到了更粗糙的泛化层级。
这种所谓多语义性，本质上是一种连贯演化的递归泛化。一个神经元在训练过程中会长出分支，就像树枝分叉一样具有清晰脉络：最初识别特定字符组合iy的神经元，会逐步泛化到diy，最终进阶到完整短语do it yourself。如果研究工具只机械比对字符，就会得出神经元在无序混杂的误判。
数千万美元的解毒弯路：外挂拆解面临沉没代价
如果网络本身已足够清晰，过去两年围绕稀疏自编码器建立的技术栈与巨额投资就陷入了尴尬境地。学界与AI安全界此前深信，唯有在千亿模型外挂载参数量甚至更大的SAE字典，才能将不可读的神经元激活投影到高维单语义空间。
SAE自身的机械缺陷正逐渐暴露。自编码器的重构误差和L0稀疏度只是代理指标，特征词表宽度增加容易导致特征分裂，更致命的是学界已证实的特征吸收问题，即强势特征吞噬弱势语义，造成重要触发信号的遗漏。
- 风险.如果原生神经元可以直接被电路化解析，为千亿模型配套训练庞大SAE的做法，更像是先认定健康人有毒、再用外挂模型强行解毒。
当然，Anthropic绝不会轻易放弃现有阵地。其团队在数学层面严格证明了过完备空间存在叠加的可能性，并在Claude 3 Sonnet等工业级大模型上实现了基于SAE特征的因果干预，证明外挂控制确实具有工程实操价值。
- 建议.安全审计团队不应急于推翻现有SAE管线，但需暂停对更大规模字典的盲目预算扩张，等待Qwen3-32B原生单语义率结论的全面同行复现。
Cammarata本人也坦承，单凭视觉模型与初步文本测试，就推论原生机制能满足大部分安全需求，依然带有强烈的推测成分。视觉卷积模型天然具备强烈的空间局部归纳偏置，而在深层Transformer复杂的注意力与残差流中，99%的原生单语义性是否能在百亿千亿参数级别完全立足，尚需即将发布的语言模型完整技术报告来最终定性。