突发：OpenAI Astra模型被曝安全风险

OpenAI即将推出的Astra模型采用循环深度技术，该技术可隐藏部分或全部的模型推理过程，提高性能的同时降低成本。但这也引发了对模型监管难度增加的担忧。尽管如此，OpenAI计划通过引入额外的思维链监控机制来确保安全。这一创新旨在以较小模型实现大模型的能力，为行业带来新的竞争格局。

🔗 [论文地址]：https://arxiv.org/abs/2209.14536