英伟达开源NeMo AutoModel，仅需一行import代码即可实现对MoE模型的高效微调。相比Hugging Face Transformers v5，NeMo AutoModel在Qwen3-30B-A3B等模型上实现了3.4-3.7倍训练吞吐量提升，并减少29%-32% GPU显存占用。该工具支持专家并行、DeepEP和TransformerEngine等关键技术，为开发者提供无痛升级方案。

🔗 [GitHub项目]：https://github.com/NVIDIA-NeMo/Automodel/tree/blog/transformers-v5-automodel/blog_experiments
🔗 [文档地址]：https://docs.nvidia.com/nemo/automodel/latest/get-started/hf-compatibility

英伟达NeMo AutoModel开源，仅需一行import即可在Hugging Face Transformers v5基础上实现MoE大模型微调提速3.7倍，并减少29%-32% GPU显存占用。该工具支持专家并行、DeepEP和TransformerEngine技术，为开发者提供了高效的模型训练方案。

🔗 [GitHub项目]：https://github.com/NVIDIA-NeMo/Automodel/tree/blog/transformers-v5-automodel/blog_experiments