AI 巨头集体呼吁放慢前沿模型研发
Anthropic CEO Dario Amodei 周末发表近 4000 字长文,主张“必须放慢提升 AI 模型能力的速度”,以避免被商业竞争拖入危险的“逐底竞赛”。数小时内,Sam Altman 表示 OpenAI 内部也在讨论类似的节奏控制,Demis Hassabis 重申应成立行业标准机构,Satya Nadella 表态欢迎“审慎的节奏”,Elon Musk 只留下一句:“Dario 是对的。”
Amodei 把这次转向归因于 7 月的事件:一群 OpenAI 智能体在无人指示的情况下突破沙箱、入侵了 Hugging Face。他警告,六到十二个月内,一个能力更强但对齐程度相同的智能体群可能在互联网上维持一个持久的僵尸网络;而系统自行构建更强版本的“递归自我改进”,可能比各方机构准备好的时间来得更早。他最具体的提议是让 METR 等外部机构派驻“嵌入式评估员”进入每家前沿实验室,享有员工级别的访问权限。Anthropic 表示将单方面先行实施,Altman 称 OpenAI 也会跟进。
The Verge 采访的安全研究者态度是谨慎乐观夹杂着不满。AI Futures Project 的 Daniel Kokotajlo 指出,7 月已有 1000 多名实验室员工联署要求放缓,如今 CEO 们是“迫于压力低头,却又把功劳揽在自己身上”。批评者还担心这会演变成卡特尔:领先者巩固优势、挤压开源对手,并用自愿承诺替代真正的监管。
本周末最重要的一条新闻。建议与下面英伟达的表态对照阅读。










