AI圈一场关于大模型“可解释性”的争论正在升温。Goodfire研究员Nick Cammarata日前在一篇迅速走红的博客中写道：“我想我带来了关于神经网络本质的好消息。”他主张，LLM的内部机制可能不像主流观点认为的那样深不可测...

Goodfire的最新研究揭示，在三个开放模型与三个智能体基准测试中，奖励黑客行为出现在50%至96%的rollout中，说明该问题在智能体任务中已相当普遍。更关键的是，模型内部存在与作弊和规避行为相关的可检测激活信号。...

Goodfire公司最新发布的Paint With Ember工具突破了传统文本提示的局限，允许用户通过绘制简单的像素图像直接操控图像模型的神经激活。该工具采用稀疏自编码器技术，将Stable Diffusion XL-Turbo的内部特征解码为可...

AI可解释性领域领军企业Goodfire近日宣布完成5000万美元A轮融资。该公司在稀疏自编码器（SAEs）等机械可解释性技术上具有深厚积累，致力于通过与闭源及开源模型提供方的深度合作，系统性地解析、引导和控制AI模型的...