砍掉90%冗余词元,省下70万美元:Netflix开源工具狙击AI账单黑洞

5个月前发布 jovi
1 0 0
Netflix工程师开发的开源工具Headroom,通过精简输入到大语言模型的数据来大幅削减AI成本。该工具已为用户节省约70万美元,尤其适用于那些被词元成本困扰的开发者。Headroom支持多种数据类型的压缩,并内嵌于开发者工作流中,提供可逆压缩功能。

🔗 [GitHub项目]:https://github.com/chopratejas/headroom

来源:36氪

© 版权声明

相关文章

没有相关内容!