反向博弈论能否管住AI智能体?
How “reverse game theory” could keep AI agents in check
MIT科技评论介绍“反向博弈论”(机制设计)作为AI对齐新思路:不深挖模型内部,而是设计激励规则让智能体守规。文中引述MIT经济学家Stephen Morris等关于交叉验证防“放水”、智能体互相对抗的预印本,以及普林斯顿Elad Hazan让模型轮流扮演解题者与审计员的方案,并讨论智能体合谋、理性假设是否成立等局限。
MMIT Technology Review AI阅读原文