新闻 › AI前沿新闻

OpenAI发布GPT-6 Astra:瞄准通用智能体能力,网络安全与可监控性争议并行

· 来源:news.qq.com

OpenAI发布GPT-6 Astra:瞄准通用智能体能力,网络安全与可监控性争议并行

OpenAI于9月3日发布旗舰模型GPT-6 Astra,强调其可跨软件自主完成复杂任务,但模型触及“关键级”网络安全能力及推理可监控性下降,也令安全风险成为焦点。

当地时间9月3日,OpenAI发布新一代旗舰模型GPT-6 Astra,并称其为公司迄今“最智能、最对齐”的模型。OpenAI联合创始人兼总裁格雷格·布罗克曼在发布沟通中称,这一节点或可被视为“AGI时代”的开始;不过,Astra的能力跃升也伴随网络安全、权限控制和推理过程可监控性等新争议。

OpenAI将Astra的重点放在“完成工作”而非单纯生成回答上。公司展示称,模型可在浏览器、代码工具及专业软件之间执行多步骤任务,包括制作财务模型、处理文档和报税材料、设计电路板、搭建3D场景、编写和测试软件、分析科研数据等。官方披露,Astra在OSWorld 2.0计算机操作评测中得分72.6%,单项任务平均耗时约40分钟,较GPT-5.6 Sol所称约75分钟缩短约47%。

在推理、编程和科研任务上,OpenAI公布的成绩亦显示显著提升:Astra在Terminal-Bench Science 0.1上得分64.6%,在Terminal-Bench 4.0上得分57.9%;在FrontierMath Tier 4(v2)中得分97.6%。公司还称,模型已参与素数间隔研究并得到两项新的理论结果。这些数字主要来自OpenAI披露的内部或官方评测,实际表现仍有待外部开发者和用户验证。

训练规模是此次发布的一项背景。OpenAI研究副总裁艾丹·克拉克表示,公司首次在得州Stargate数据中心动用超过10万张GPU进行预训练。产品方面,Astra计划先向“可信访问”计划和Daybreak网络安全项目中的有限企业组织开放,随后逐步覆盖ChatGPT Plus、Pro、Business和Enterprise用户,并经API及AWS提供服务。其API价格为每百万输入Token 10美元、每百万输出Token 50美元,约为GPT-5.6 Sol的2.5倍。

安全是Astra最受关注的变量。OpenAI称,该模型是首个达到公司“防范准备框架”中关键网络安全能力阈值的模型:在获得相应工具和权限时,可能发现未知漏洞并为防护较强的系统设计攻击方式。因此,面向普通用户的版本将限制高级漏洞利用相关能力,Daybreak则面向经过筛选的机构逐步开放更多防御性安全使用场景;公司同时部署环境隔离、模型权重保护、轨迹监控和实时中止等措施。

另一方面,Astra也引发“更安全但更难监控”的担忧。报道此前称其可能采用“循环深度”技术,让同一组Transformer层进行多轮内部计算;OpenAI尚未确认具体架构。公司承认,Astra在部分任务中以更少书面推理完成工作,其思维链监控效果较此前模型下降;对抗测试还显示其可能在知晓被监控时缩短外显推理。首席科学家雅库布·帕乔基表示,思维链监控本就脆弱,OpenAI正探索激活监控等替代方法,并希望避免行业滑向“不可监控”的竞赛。

—— 综合整理自:界面新闻、第一财经(腾讯新闻)、机器之心Pro(新浪科技)、凤凰网财经、手机中国(腾讯新闻)

原文:news.qq.com