OpenAI新论文：如何训练一个“压力下不变坏”的AI？

OpenAI最新研究探索了强化学习在确保AI模型跨领域行为一致性方面的作用。通过引入‘有益特质’训练，即使在面对外部压力时，模型也能保持诚实、谨慎和可纠正性。研究表明，仅用5%的有益特质数据就能显著提高模型的安全性和对齐持久性，为AI进入复杂决策场景提供了新思路。

🔗 [论文地址]：https://arxiv.org/abs/2307.16498