腾讯开源 Hy4:7700 亿参数 MoE、百万上下文,瞄准开发与企业场景
· 来源:Telecom Paper
腾讯发布并开源 Tencent Hy4 Preview:770B 总参数/49B 激活的 MoE 架构,上下文超 100 万 token,面向软件开发与办公场景。
腾讯发布并开源了 Tencent Hy4 Preview:一个总参数 7700 亿、每 token 激活 490 亿的 MoE(混合专家)架构大语言模型,上下文窗口超过 100 万 token。
官方将其定位在四类高价值任务:软件开发、办公生产力、数据分析与科学研究。第三方评测显示,Hy4 在编码与 agent 类基准上已接近同规模顶级闭源模型;由于激活参数仅 49B,推理成本被控制在可自托管的范围,开发者可通过 vLLM/SGLang 在自有集群运行。
这被认为是腾讯开源策略的关键一步:Hy 系列是独立于"混元"的新命名体系,海外媒体猜测正式版(非 Preview)将在 Q4 内推出,并可能附带工具调用与多模态扩展。
对行业的影响在于:100 万上下文+49B 激活的组合,直接挤压付费 API 在长文档处理、代码库级理解等场景的定价空间——这正是当前 API 价格战最激烈的区间。