新闻 › AI前沿新闻

Anthropic“新模型爆料”在社交平台流传:多项代号与性能说法未获官方证实,离职研究员同步警告超智能竞赛风险

· 来源:itmedia.co.jp

Anthropic“新模型爆料”在社交平台流传:多项代号与性能说法未获官方证实,离职研究员同步警告超智能竞赛风险

围绕Anthropic可能推出新一代模型的传闻近日在X上传播,但相关型号、基准和发布时间均无官方佐证;与此同时,一名刚离职的研究员公开批评行业正加速奔向难以控制的超智能。

围绕Anthropic下一代模型的“爆料”近日在社交平台X上传播。账号@NFT_Chen称,Anthropic可能为应对OpenAI所谓“Astra”模型,推出Fable系列后继产品、内部“Model 2”或名为“RSI”的系统,并称新产品目标在9月底至10月初面世。不过,Anthropic尚未就这些型号、发布时间、性能数据或IPO安排作出公开确认,相关内容应视为未经证实的社交媒体传闻。

该账号在帖文中声称,未发布的“Model 2”已被用于公司大量代码开发,并在“CoBench v2”真实研发任务中取得62.8%的成绩;又称“RSI”能力较其高出22个百分点,可替代85%的研究团队。帖文还将潜在发布描述为对OpenAI产品的正面竞争。但原始材料未提供可独立核验的技术报告、评测方法、模型卡或公司文件,因此无法确认这些代号是否真实存在,也无法验证横向比较结论。

与上述产品传闻形成鲜明对照的是,Anthropic研究员杰伊科布·科克森(Jacob Kocson)9月8日在X上宣布离职,并严厉批评OpenAI与Anthropic围绕自我改进型超智能的竞赛。他表示,自己过去3年先后在两家公司从事预训练研究;在今年早些时候离开OpenAI后,曾因重视安全而加入Anthropic,但最终认为,若没有政府介入或全行业放缓,没有企业能够负责任地构建超越人类能力的系统。

据《华尔街日报》引述,科克森称,行业正逐渐贴近一些最激进的AI风险情景,至明年年底系统“可能已无法控制”。他还称,内部开始出现“crunchtime”和“endgame”等表述。科克森强调,Anthropic的安全工作本身是认真的,但公司同样受制于竞争逻辑:若认为其他竞争者不会谨慎行事,便会倾向于抢先推进。

科克森呼吁开发者重新审视,在尚未严格理解系统内部机制前,是否应持续以强化学习推动模型迈向超智能。他认为,企业间或可就放缓节奏展开协调,但要避免全球范围的失控竞赛,可能仍需暂停能力提升等成本高昂的措施。Anthropic未就其离职言论置评。

另有台湾财经论坛文章讨论Anthropic在美国国防合作中的潜在合规与供应链风险,但该页面明确标注内容由AI生成、可能有误,且未提供可核验的原始文件,不宜作为判断公司模型能力、政府合作状态或产品路线图的依据。

—— 综合整理自:ITmedia NEWS、X(@NFT_Chen)、CMoney论坛

原文:itmedia.co.jp