腾讯混元开源翻译模型1.5,可手机离线部署
公司动态 - 腾讯混元于12月30日宣布推出并开源翻译模型1.5,包含Tencent-HY-MT1.5-1.8B和Tencent-HY-MT1.5-7B两个模型 [1] - 两个模型均支持33个语种互译以及5种民汉/方言,覆盖中文、英语、日语等常见语种及捷克语、马拉地语等小语种 [1] - 模型已在腾讯混元官网上线,并可通过开源社区直接下载使用 [1] 产品技术规格 - HY-MT1.5-1.8B模型主要面向手机等消费级设备,支持端侧直接部署和离线实时翻译 [1] - 该模型经过量化,1GB内存即可流畅运行 [1] - 在参数量极小的前提下,其推理速度优于主流商用翻译模型API,处理50个tokens平均耗时0.18秒,而其他模型耗时约0.4秒 [1] 应用部署策略 - 在部分用户实用场景下,可同时使用混元翻译1.8B和7B两个尺寸的模型 [1] - 此策略旨在实现端侧和云侧模型的协同部署 [1]