您当前的位置 :三板富> 推荐 > 正文
讯息:腾讯Hy4 flash发布,速度大幅提升,单任务成本仅为Hy4二十分之一
2026-11-16 15:02:38 来源:时代财经 编辑:news2020


(资料图)

本文来源:时代财经

11月16日,腾讯混元最新语言模型Hy4 flash发布,模型总参数量为224B(其中 64B Engram 参数),激活参数仅为12B,支持多模态和1M上下文长度。Hy4 flash是迄今为止最高性价比的Hy模型:每百万Token输入0.5元、输出2元,命中缓存时仅需0.02元,单任务成本仅为Hy4的二十分之一。

为了达到极致的性价比,同时兼顾智能水平和实用性,混元团队做了以下工作:预训练阶段,Hy4 flash加入混合注意力、LatentMoE(稀疏框架)等特性,使KV cache(键-值缓存)大小仅为Hy4的六分之一;后训练阶段,通过自蒸馏Hy4获得了较强的综合智能水平,再通过强化学习使端到端任务输出长度降低50%;在评估阶段,聚焦日常工作的产物效果、单轮输出长度,而非远离日常工作的榜单分数;在推理阶段,通过极致优化,使Hy4 flash解码速度超过150tps,可大规模低成本部署运营。

Hy4 flash已在腾讯云TokenHub、WorkBuddy、元宝、企业微信、QQ、ima、Marvis等产品上线。11 月 30 日前,用户可在WorkBuddy限时免费使用,腾讯云TokenHub API限时5折使用。

标签: 腾讯云 十分之一 智能硬件 知名企业 fl

相关阅读
版权和免责申明

凡注有"三板富 | 专注于新三板的第一垂直服务平台"或电头为"三板富 | 专注于新三板的第一垂直服务平台"的稿件,均为三板富 | 专注于新三板的第一垂直服务平台独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"三板富 | 专注于新三板的第一垂直服务平台",并保留"三板富 | 专注于新三板的第一垂直服务平台"的电头。

最新热点

精彩推送

 

Copyright © 1999-2020 www.3bf.cc All Rights Reserved 关于我们
三板富投资网  版权所有 沪ICP备2020036824号-16联系邮箱:562 66 29@qq.com