极少量样本即可毒化任意规模的 LLM

Anthropic 联合英国 AI 安全研究所与艾伦·图灵研究所,开展了迄今规模最大的 LLM 数据投毒研究。结果表明:无论模型规模或训练数据量多大,仅 250 份恶意文档即可为 600M 至 13B 参数的模型植入后门。投毒攻击的成功取决于投毒文档的绝对数量,而非占训练数据的比例,这挑战了既有假设,意味着数据投毒可能比此前认为的更易实施。