54GB降到4GB,苹果接洽PrismML,模型压缩技术要火?

4个月前发布 jovi
0 0 0

54GB降到4GB,苹果接洽PrismML,模型压缩技术要火?

苹果正与初创公司PrismML合作,评估在iPhone上直接运行大规模AI模型的可能性。PrismML通过将每个权重简化为二值或三值表达,成功将270亿参数的Qwen3.6-27B模型压缩至不足4GB,使其能在12GB内存的设备上运行。这一技术突破有望提升端侧AI助手的能力,减少对云端的依赖,同时保护用户隐私。

来源:36氪

© 版权声明

相关文章

没有相关内容!