微软研究披露Lazarus后门技术,可重编程休眠神经元控制AI智能体
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
微软研究人员披露后门技术Lazarus,通过重编程LLM中不到10个休眠神经元即可给基于该模型的智能体植入后门,且无需训练。被植入后门的模型能通过标准评测并正常表现,直到触发条件出现,例如时钟跨入2027年,智能体便会在普通任务中发出下载并运行攻击者代码的命令,并以用户授予的权限执行。作者指出检测需与原始未修改权重做diff,权重来源与完整性因此关键;微软Foundry已通过来源校验、绑定可信发布方和容器扫描防范来自可信实验室的模型,并计划将权重扫描、红队工具和模型签名用于开放权重模型接入。
要点
- 重编程LLM中不到10个休眠神经元即可植入后门,无需训练
- 被植入后门的模型可通过标准评测,触发条件出现才执行恶意命令
- 微软Foundry通过模型来源校验与容器扫描防范此类攻击
对你有什么影响
MMicrosoft Research阅读原文不到10个休眠神经元的改动就能让模型通过评测后按触发条件执行命令,说明权重完整性与来源校验应像代码审计一样常态化。