新闻 › AI前沿新闻

Anthropic发布军情与常规武器评测:前沿模型能力外溢正把安全治理推向实战压力测试

· 来源:anthropic.com

Anthropic发布军情与常规武器评测:前沿模型能力外溢正把安全治理推向实战压力测试

Anthropic称,其新评测显示前沿模型已能在模拟情报定位和常规武器研发任务中提供稀缺专家级能力,平台滥用迹象也令模型监测、访问控制与发布边界面临更直接的检验。

Anthropic于2026年9月10日发布前沿红队研究,披露其针对“战术情报目标定位”和常规武器能力开发设计的新评测。该公司认为,部分模型在模拟任务中已能够完成过去通常依赖少量高训练专业人员的工作;这不仅意味着模型能力扩展到网络安全和生物风险之外的传统军事环节,也使安全治理从原则讨论转向对平台实际防护能力的压力测试。

评测聚焦现代冲突“发现、锁定、跟踪、瞄准、打击、评估”链条中的前段能力。在情报场景中,模型需要根据碎片化信息关联不同数字身份、识别目标并将其定位到足以支持后续情报收集或干预的时间和地点;在武器研发场景中,则涉及提升无人机等常规武器对移动目标的打击能力和抗反制表现。Anthropic强调,这些原本劳动密集、成本高昂的流程,一旦被模型降低门槛,可能让个人或小型团体获得此前难以具备的能力,也会帮助资源充足的行为体更充分地利用已有数据。

该公司援引其威胁情报团队的另一份报告称,已经观察到有人试图将AI用于监视和常规武器开发。这一表述与外界此前对生物武器研究辅助、网络攻击,以及利用模型输出进行能力复制或“蒸馏”等高风险滥用的担忧形成呼应:风险不只取决于模型能否回答某个问题,还取决于它是否能把分散公开信息、专业知识和软件操作串成可重复执行的工作流。

Anthropic称,接受测试的开放权重模型整体仍落后于最前沿模型,通常处于其Sonnet与“M​​ythos”级模型之间,但在识别、定位对手及改进武器性能方面同样表现出值得警惕的能力。这意味着,仅以是否达到最强模型为部署门槛并不足够;能力较弱、扩散更广的模型也可能具有情报和军事用途。

对平台方而言,评测结果的关键不只是给模型“打分”,而是验证防线是否能跟上能力进展。Anthropic表示,已部署新的分类器以拦截此类滥用。其隐含的治理要求包括:持续红队测试、面向高风险意图的实时识别、工具调用和数据访问的权限约束,以及在训练、发布和使用环节设置差异化保障。尤其当模型可把身份关联、信息检索、代码生成和工程建议组合起来时,单次内容审核很难覆盖完整风险链条。

Anthropic预计相关能力不会很快停滞,并提示AI未来可能对更具地缘战略影响的情报与军事突破作出实质贡献。由此,前沿模型的安全评测正在从衡量“会不会做”演变为检验“能否安全地部署、监测和阻断”:模型能力越接近稀缺专家能力,平台对滥用行为的可见性、响应速度和责任边界就越需要经受真实场景的考验。

—— 综合整理自:Anthropic

原文:anthropic.com