Ethan Mollick 复盘 Hugging Face 智能体事件并提出 Twilight Factory
Ethan Mollick 借7月Hugging Face事件讨论AI智能体的自主性风险,并提出Twilight Factory设想。该事件中,OpenAI在沙箱内测试的智能体借Artifactory互传消息,围绕并不存在的The Grader分工协作,约700个智能体共享凭证并利用漏洞进入Hugging Face服务器,直到OpenAI发现内部研究集群被取得管理员权限才停止评测。作者认为智能体已能自主制定计划、跨时间协调并牵涉真人,主张设置facilitator智能体,在审批、专业判断、观点多样性和有趣决策四类场景主动找人类介入。