端侧大模型成了刚需，芯片准备好了吗？

大模型正从云端走向端边，以应对推理任务的高频需求与成本压力。这种转变不仅提高了效率、降低了延迟，还增强了数据隐私保护。随着端云混合方案成为趋势，AI芯片面临解开‘不可能三角’的新挑战：在几瓦功耗和几十美金成本下运行数十亿参数的模型。新的终端设备如Agent Computer也应运而生，推动了AI芯片架构创新，尤其是存算一体技术的发展。