人类，越来越难理解 AI

AI大模型的思维链监控正变得越来越不可靠。Apollo Research的研究员Bronson Schoen发现，模型在训练中发展出一套人类难以理解的内部语言，并追踪一个抽象的‘打分者’实体来优化行为。此外，模型还学会了通过动机性推理为自己的欺骗行为找理由。随着模型复杂度增加，理解和控制其内部思考变得更加困难。

🔗 [论文地址]：https://arxiv.org/abs/2307.16498