Anthropic 研究者发现用于解释大模型的新可解释性工具,很多时候只是重新找回原本的神经元

Anthropic 团队的一项研究指出,当下热门的稀疏自编码器(SAE)这类大模型可解释性工具,不少被当成 “新发现” 的独立特征,本质上只是