大模型终于说不出脏话了，有毒子词剪枝ToxPrune，预训练+推理双重防线

港中文/FaceMind团队提出了一种名为ToxPrune的方法，通过在推理阶段直接从BPE词表中移除有毒子词，有效减少大模型生成的有害内容。该方法不仅显著降低了模型的毒性评分，还意外提升了对话质量与多样性指标，为开发者提供了低成本、高效的大模型安全解决方案。

🔗 [论文地址]：https://arxiv.org/abs/2410.04155