清华系团队发布国产Token优化工厂:兼容10余种国产芯片,日吞吐千亿Token

4个月前发布 jovi
2 0 0

清华系团队发布国产Token优化工厂:兼容10余种国产芯片,日吞吐千亿Token

是石科技发布国产Token优化工厂“拓元”,兼容10余种国产芯片,每日Token吞吐量达千亿级别。该解决方案旨在提高算力利用效率,解决异构算力调度、大模型推理优化等难题,助力企业降低AI落地成本。在算力效率成为竞争关键的当下,拓元为行业提供了一套完整的AI Infra优化体系。

来源:量子位

© 版权声明

相关文章

没有相关内容!