跳到正文
论文与研究官方

微软研究披露Lazarus后门技术,可重编程休眠神经元控制AI智能体

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

微软研究人员披露后门技术Lazarus,通过重编程LLM中不到10个休眠神经元即可给基于该模型的智能体植入后门,且无需训练。被植入后门的模型能通过标准评测并正常表现,直到触发条件出现,例如时钟跨入2027年,智能体便会在普通任务中发出下载并运行攻击者代码的命令,并以用户授予的权限执行。作者指出检测需与原始未修改权重做diff,权重来源与完整性因此关键;微软Foundry已通过来源校验、绑定可信发布方和容器扫描防范来自可信实验室的模型,并计划将权重扫描、红队工具和模型签名用于开放权重模型接入。

要点

  1. 重编程LLM中不到10个休眠神经元即可植入后门,无需训练
  2. 被植入后门的模型可通过标准评测,触发条件出现才执行恶意命令
  3. 微软Foundry通过模型来源校验与容器扫描防范此类攻击
对你有什么影响

不到10个休眠神经元的改动就能让模型通过评测后按触发条件执行命令,说明权重完整性与来源校验应像代码审计一样常态化。

MMicrosoft Research阅读原文

相关阅读

论文与研究·Google DeepMind Blog
DeepMind 用 AlphaProof Code 形式化验证 Signal 协议代码
论文与研究·NVIDIA Blog
NVIDIA 在 CoRL 发布开源世界动作模型 GR00T 2 与 Isaac Lab 3.0
论文与研究·Google Research Blog
Google Research 在 Nature 发表智能手表无袖带检测高血压的多模态 AI 研究