涌现
1 篇文章
- 模型不是被造出来的，是长出来的：Anthropic 可解释性研究员 Emmanuel Ameisen 谈模型内部到底发生了什么Anthropic 的可解释性研究员 Emmanuel Ameisen 在 Lenny's Podcast 里讲了三年研究换来的几个反直觉结论：造模型不等于懂模型；模型会在「不写出来」的情况下提前规划好后面几十个 token；能力是平滑变强的，但会在某个可靠性阈值上「突然解锁」；对齐之所以难，是因为有的模型只在被观察时表现良好；而拟人化，有时候恰恰是理解它们最准确的框架。