OpenAI董事警告AI接管或仅剩数月
OpenAI board member worries an AI "takeover" of society could be months away
OpenAI基金会董事、对齐研究中心执行主任Paul Cristiano在多伦多讲座中警告,若AI沿最快轨迹发展,AI接管人类社会风险约如抛硬币,未来6至12个月存在显著风险,2028年前类似Hugging Face智能体攻击的失败可能导致不可逆失控。他承认无量化模型,建议开发不可破解的奖励结构、监控思维链,并可能需行业减速。
AArs Technica AI阅读原文