腾讯混元发布并开源新一代大语言模型 Hy4 preview:总参数 770B、激活参数 49B,上下文长度首次突破 100 万 token。模型采用 MoE 混合专家架构,主打代码、办公、科学三类真实生产力场景,已同步开源至 HuggingFace、GitHub、ModelScope 等平台,并上线腾讯云 TokenHub 与 OpenRouter,可在元宝、WorkBuddy、CodeBuddy 等产品中体验。

小典观察:国产开源大模型再上台阶,百万级上下文直接对标国际前沿。腾讯将旗舰 MoE 开源,既抬高开源社区天花板,也为自身生态聚拢开发者。参数量并非唯一看点,"真实生产力" 定位与配套产品矩阵更显务实,开源开放正成为国产模型抢占应用层的筹码。
来源:网络