腾讯把翻译大模型压缩到440MB,手机离线就能跑,支持33种语言
腾讯混元开源了一个手机端离线翻译模型Hy-MT1.5-1.8B-1.25bit,把一个支持33种语言、1056个翻译方向的翻译大模型压缩到了440MB,不需要联网直接在手机本地运行。
440MB大概就是一个中等大小手游的安装包,但它能做到实时翻译33种语言,而且翻译质量超过谷歌翻译。把18亿参数的模型用稀疏量化技术压缩到手机能跑的大小,同时质量不降反升,这背后的工程能力是实打实的。
更重要的是它开源了,任何手机厂商、任何App开发者都可以直接集成,以后出国旅游可能真的不需要再开流量用在线翻译了。#身体的炎症全部消失22个tips#
发布于 湖北
