“榨”出硅的极限：怎么让GPU不“闲着”？

AI行业的‘造芯大战’正火热进行中，谷歌、OpenAI等巨头纷纷布局专用芯片。然而，并非所有公司都有能力参与其中，因此AI基础设施（AI Infra）成为新的竞争焦点。通过优化GPU利用率，可以大幅提高现有算力效率，满足快速增长的推理需求。文章深入探讨了AI Infra四层架构中的关键问题及解决方案。

🔗 [论文地址]：https://arxiv.org/abs/2304.06871