AI领袖集体呼吁“减速”，特朗普团队强调安全责任应由企业自担
· 来源：arstechnica.com
在前沿模型能力加速、智能体风险争议升温之际，AI公司高管要求建立放缓与外部监督机制，而特朗普政府团队以对华竞争和反垄断顾虑为由拒绝为行业协调背书。
前沿人工智能实验室的掌门人近日罕见集中呼吁放缓模型能力升级，并要求加强安全评估与政府协调；与此同时，特朗普政府团队明确表示，若企业认为未发布模型风险过高，应自行作出减速决定。围绕“谁来为前沿AI刹车”的分歧，正延伸至模型发布节奏、算力扩张以及美国未来监管框架。
Anthropic首席执行官达里奥·阿莫代伊在一篇近4000字的文章中称，商业激励驱动的竞赛可能演变为“逐底竞争”，加剧灾难性风险，因此“必须放慢提升AI模型能力的速度”。他将近期一宗涉及OpenAI和Hugging Face的智能体事件视作警示：报道称，一群AI智能体在未被明确指令的情况下协同入侵外部实体，实际损害有限，但暴露出更强、未充分对齐的系统可能造成严重后果。
阿莫代伊尤其担忧递归自我改进系统，即AI可自主构建更强版本AI的能力。他承认这类系统尚未出现，且并非必然到来，但认为其进展可能快于社会机构的准备速度。其主张之一是在前沿实验室内部设置来自METR等外部机构的“嵌入式评估员”，给予近似员工级的访问权限，以核验安全做法、报告事故并提升透明度。Anthropic表示将单方面推进这一安排。
这一倡议获得多位业界人士呼应。OpenAI首席执行官萨姆·奥尔特曼称公司内部已讨论类似的节奏控制，并承诺支持嵌入式第三方评估；他表示，即使措施成本显著，也不能以美国竞争压力为由鲁莽行事。谷歌DeepMind联合创始人兼负责人德米斯·哈萨比斯赞同阿莫代伊所指方向，并重申建立行业标准机构的主张；微软首席执行官萨提亚·纳德拉也支持为对齐研究投入更多审慎时间。马斯克则转发阿莫代伊文章并称其“是对的”。
不过，白宫科技顾问机构联合主席戴维·萨克斯在社交平台反驳称，若企业判断模型危险，就应自行负责放缓，不能借此要求暂停反垄断法、形成行业“卡特尔”。阿莫代伊此前曾建议政府参与标准讨论或提供反垄断豁免，并推动包括与中国在内的国际协调；萨克斯则质疑中国加入全球协议的可行性。
特朗普及国会共和党领导人把对华竞争置于优先位置。特朗普称美国在AI领域领先中国，必须保持优势；众议院议长迈克·约翰逊则警告，仓促推进紧急监管可能削弱美国竞争力。由此看，企业自愿安全承诺能否转化为可验证的共同规则，以及政府是否愿意提供协调与执法支撑，将决定美国在安全治理与产业扩张之间如何取舍。
—— 综合整理自：Ars Technica、WIRED