AI 模型中双重用途知识的关闭开关

本文介绍与 AE Studio 合作开展的 GRAM(梯度路由辅助模块)研究:在 Transformer 每一层加入可按类分组的额外神经元,把每类双重用途知识(如病毒学、网络安全)路由进各自可移除的模块,训练后即可单独删除,实现精细的能力访问控制。初步实验表明,删除模块移除相应能力的效力近似于数据过滤,且不损伤通用性能,开销却只相当于训练单个模型。