扩散智能开源扩散语言模型Clover-35B-A3B:参数扩大5倍,生成速度达同尺寸自回归模型5-10倍
· 来源:央广网
扩散语言模型企业DiffuSpace开源Clover-35B-A3B-Preview,在智能体编程等任务上超过Mercury 2.5和Qwen3.6-35B-A3B,整体生成速度约680 tokens/秒。
10月28日,扩散语言模型研究企业扩散智能(DiffuSpace)发布并开源最新模型Clover-35B-A3B-Preview。模型采用MoE架构,总参数350亿,激活30亿。
与GPT、Claude等主流模型“从左到右”逐个生成token的自回归方式不同,扩散语言模型(dLLM)可以全局生成、并行解码,在规划和全局一致性上有优势,速度也远快于自回归模型。测试数据显示,Clover在智能体编程等关键任务上超过同类扩散模型Mercury 2.5和同尺寸自回归模型Qwen3.6-35B-A3B,生成速度最高可达后者的5到10倍。与上一代相比,Clover参数扩大了5倍,速度保持不变,能力更强,显示出dLLM路线的规模化潜力。
在官方演示中,从20条空管报文中提取地点和半径、为无人机在三维地图上设置禁飞区,Clover只用了7.32秒,而对照的Qwen3.5耗时62.3秒。其技术博客称,内部测试中整体生成速度约680 tokens/秒。在开发者的WindTunnel测评里,Clover在49项任务上的中位执行时间为1.52秒,“Jev+Mercury 2.5”组合为3.21秒。
目前模型权重和代码已在Hugging Face与GitHub发布,支持SGLang和llama.cpp推理。DiffuSpace表示,下一步还将推出基于Clover的决策模型和多模态模型。