据The Information报道,Apple正有意接洽PrismML,评估这家初创企业的AI模型压缩技术。
PrismML的核心技术方向是对原本只能依托服务器运行的大模型进行极致轻量化压缩,让同等智能水平的AI能力可以完全在终端设备本地运行。
报道援引PrismML官方信息称,该公司已经完成对通义千问Qwen 3.6开源大模型的压缩改造,成功让这款模型在iPhone 17 Pro设备上本地运行。
这款模型拥有270亿参数,参数规模可以类比人脑神经元数量,直接决定大模型的数据处理复杂程度。反观当前绝大多数移动端本地运行的AI模型,单次实际启用的参数规模仅有数十亿级别,性能上限差距明显。
The Information补充介绍,PrismML计划在7月14日(周二)正式对外发布自家开源模型,压缩后的模型能够胜任代码开发等复杂高阶任务。
报道中援引知情人士消息确认,Apple已经和PrismML开展多轮会面,探讨落地这套模型压缩技术的可行方案。
在AI领域的重磅收购里,Apple此前最受关注的隐秘布局是以约20亿美元收购AI初创公司Q.ai,补充自研大模型底层能力。
与此同时,Apple还和谷歌展开合作,共同打磨搭载在iOS 27上的全新Siri AI,也就是新一代重构版Siri,将会随iOS 27正式版本首发落地。
PrismML主打极致量化压缩路线,依托1比特、三值权重等自研方案,大幅削减大模型内存占用、提升本地推理速度、降低设备功耗,非常适配iPhone、Mac等Apple设备的端侧AI部署需求,能够帮助Apple智能搭载参数规模更大、推理能力更强的本地大模型,减少对云端服务器的依赖。
发布于 浙江
