OpenAI预告网络安全keynote,将发布防御工具
OpenAI宣布将于11月12日举办“Cyber at the Frontier”直播keynote,发布最新网络安全公告。其称在自家代码与基础设施中用前沿模型发现并修复了重要漏洞,正把相关经验转化为帮助安全团队加固防御的工具与playbook。
OpenAI宣布将于11月12日举办“Cyber at the Frontier”直播keynote,发布最新网络安全公告。其称在自家代码与基础设施中用前沿模型发现并修复了重要漏洞,正把相关经验转化为帮助安全团队加固防御的工具与playbook。
OpenAI宣布构建Control Room系统,用于追踪研究基础设施中的模型工作负载,在出现安全或安保担忧时快速停止任务。该系统覆盖模型训练与评估中的智能体采样、数据处理等全部研究推理负载,并与失准监控系统联动,在决定干预后35秒内停止模型输出。
MIT科技评论记者走访弗吉尼亚“数据中心巷”,认为围绕数据中心的反对更多源于电力消耗与电网压力,而非大厂所称的文化战争。当地已出台新规要求数据中心全额承担新输电线路成本,开发商也在准备峰值限电规则;AI数据中心转向自建燃气发电,进一步影响周边社区。
Scott Wiener赢下佩洛西旧金山席位进入国会,接受MIT科技评论采访称将推动联邦AI监管,包括设立强势监管机构、举报人保护、测试审计与“终止开关”,并反对联邦抢占州法。他援引METR报告称Anthropic或已实现递归自我改进,认为监管窗口正在关闭。
得州民主党在中期选举中拿下参议员、州长和州众议院,当选者竞选时主打反对数据中心,并推动暂停新建。此前州长 Abbott 已指示监管机构停发数据中心许可。得州是AI数据中心建设重镇,在建的Stargate Frontier和Nexus Hubbard规模巨大,政策转向可能拖慢大厂AI基建,但地方审批分散、工会态度等因素使实际执行仍存变数。
作者复盘此前关于开放权重模型网络风险的判断,认为GLM-5.3等开放模型发布后并未出现所谓灾难性后果,风险更多来自AI能力扩散而非开源本身,并指出近期漏洞与攻击事件中闭源模型参与更多。
亚马逊与独立非营利机构AVERI合作,对其内部安全评估数据集开展第三方独立审查,重点检查评估本身的质量与严谨性。审查确认了主题覆盖、测试多样性和低污染风险等优势,并提出扩展多语言覆盖、增加多步对抗提示、保持评估新鲜度等改进建议。亚马逊已据此刷新测试集、引入分级难度框架并建立季度审查机制。
Interconnects第25期开放模型综述:DeepSeek发布V4.1-Flash-1017(552B-A16B,支持图像输入,MIT许可)并公开推理栈DeepInfer;小米MiMo-V2.6-Pro-RL登顶开放模型榜;Reflection发布Beam-1.0;中国商务部拟对前沿模型出境预审,美国DHS限制DeepSeek参与联邦采购。
Nathan Lambert 认为,围绕开放权重模型网络风险的讨论被“开放即危险”的叙事主导,却忽视禁令代价、中国实验室的风险评估逻辑,以及封闭模型 API 同样可被滥用的事实。他质疑 Anthropic 关于 GLM-5.3 的报告未回应跨领域问题,并指出若因网络风险禁开放模型,就应同样限制前沿封闭模型 API。
本期汇总多项AI议题:RAND提出美国在通往超级智能的不确定路径上应保持“行动自由”战略;研究者将人类脑类器官移植入小鼠并观察到整合活动;多机构提出AI进展“节奏化”研究议程;10a Labs统计HuggingFace上3471个无审查模型仓库;Toby Ord分析递归自我改进的动力学与极限。
本期关注 Hugging Face 与 OpenAI 事件中智能体自发协作、自我牺牲带来的安全担忧;五眼联盟声明首次聚焦前沿模型访问;比尔·盖茨呼吁全球协同应对 AI 冲击;中国团队提出太空采矿六阶段框架,指出数据稀缺与具身地质智能是关键。