Goodfire 研究员称神经网络可被读懂，引发争论

Goodfire 研究员 Nick Cammarata 发布 26,000 字长文，提出大语言模型可能比此前认为的更容易被理解和监控；这一说法在 AI 圈引发热议与质疑。 Cammarata 回顾 2020 年在 OpenAI 研究图像模型 Inception v1 时发现的“叠加”现象，称当年把猫和车的图像塞进同一神经元并非无法拆解，而是两者都带有 V 形特征，问题出在研究者预设了网络不可读。 他称自己过去对可解释性非常悲观，如今认为只要有足够时间逐个电路查看前沿模型，就有可能形成完整理解，并计划很快公布针对现代 LLM 的技术结果。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。