跳到正文
论文与研究

反向博弈论能否管住AI智能体?

How “reverse game theory” could keep AI agents in check

MIT科技评论介绍“反向博弈论”(机制设计)作为AI对齐新思路:不深挖模型内部,而是设计激励规则让智能体守规。文中引述MIT经济学家Stephen Morris等关于交叉验证防“放水”、智能体互相对抗的预印本,以及普林斯顿Elad Hazan让模型轮流扮演解题者与审计员的方案,并讨论智能体合谋、理性假设是否成立等局限。

MMIT Technology Review AI阅读原文

相关阅读

论文与研究·Microsoft Research
微软研究披露Lazarus后门技术,可重编程休眠神经元控制AI智能体
论文与研究·Google DeepMind Blog
DeepMind 用 AlphaProof Code 形式化验证 Signal 协议代码
论文与研究·NVIDIA Blog
NVIDIA 在 CoRL 发布开源世界动作模型 GR00T 2 与 Isaac Lab 3.0