通过稀疏电路理解神经网络

OpenAI 通过在训练时强制绝大多数权重为零,得到结构更简单、电路更易解读的稀疏语言模型,证明在模型规模和稀疏度提升的同时,可解释性与能力可以兼得。