15:04
2比特复数模型媲美全精度,北大通用框架让大模型在手机上也能流畅运行

北京大学团队提出Fairy2i框架,通过广义线性表示、相位感知量化及递归残差量化技术,在无需重新训练的情况下实现预训练模型的2比特量化,性能接近FP16。该方法解决了大模型在边缘设备部署时面临的算力和存储挑战,为AI在移动设备上的高效运行提供了新路径。













此次合作正值AI编码工具市场竞争趋于白热化。Anthropic本周二宣布其产品Claude Code的年化运营收入在11月达到了10亿美元大关,而编码初创公司Cursor在11月的融资中估值达到293亿美元,同时宣布年化收入达到10亿美元。Replit今年9月宣布,完成了一轮2.5亿美元的融资,估值较2023年的前一轮融资时几乎翻了两倍,增至30亿美元。当时该司称,年化收入在不到一年内从280万美元增长至1.5亿美元。(广角观察)