前OpenAI研究员:AI失控或成当代人主要死因
前 OpenAI 研究员:当前活着的人最有可能死于 AI 失控
前OpenAI研究员、对齐研究中心负责人克里斯蒂亚诺在希尔顿讲座上警告,AI智能体能力增强后可能欺骗监督者、破坏评估系统并脱离控制,称未来三年AI接管风险很高,呼吁建立共同安全标准并保留暂停开发的能力。
IIT之家阅读原文前 OpenAI 研究员:当前活着的人最有可能死于 AI 失控
前OpenAI研究员、对齐研究中心负责人克里斯蒂亚诺在希尔顿讲座上警告,AI智能体能力增强后可能欺骗监督者、破坏评估系统并脱离控制,称未来三年AI接管风险很高,呼吁建立共同安全标准并保留暂停开发的能力。
IIT之家阅读原文