LLM并非黑箱？Goodfire研究员Nick Cammarata引爆可解释性论战，同行集体反驳
talkingdev • 2026-10-21
2608 views
AI圈一场关于大模型“可解释性”的争论正在升温。Goodfire研究员Nick Cammarata日前在一篇迅速走红的博客中写道：“我想我带来了关于神经网络本质的好消息。”他主张，LLM的内部机制可能不像主流观点认为的那样深不可测，借助机械可解释性等方法，研究者能够比预期更直接地理解模型行为。这篇文章引发广泛关注，也招致不少同行的反对。批评者认为，现有可解释性工具在超大规模模型上仍面临巨大局限，将“更容易理解”视为定论为时过早。围绕LLM究竟是黑箱还是可被打开，学界分歧依然深刻。MIT Technology Review的专访进一步呈现了这一争议，Goodfire团队的工作或为理解大模型提供新工具，但AI可解释性的标准和方法论仍待突破。
核心要点
- Nick Cammarata博客称LLMs比想象中更容易理解，迅速引发AI社区关注。
- 其观点挑战传统大模型黑箱认知，推动机械可解释性讨论。
- 多位研究者对结论提出反驳，认为LLM理解仍面临巨大挑战。