奥特曼瘫坐叫停“GPT-6”训练,太强触发最高安全警报

3个月前发布 jovi
3 0 0

奥特曼瘫坐叫停“GPT-6”训练,太强触发最高安全警报

OpenAI因安全考量暂停了Astra模型的强化学习训练,为期两周。此次暂停旨在全面升级研究环境的安全措施,包括工作负载隔离、网络隔离及持续安全测试等。尽管这带来了巨大的工程成本和研究延迟,但OpenAI认为这是必要的。此外,他们正在扩大思维链监控系统的覆盖范围,以更有效地检测潜在的安全边界违规行为。

🔗 [参考链接]:https://openai.com/index/pacing-model-development-cyber-capabilities/

来源:36氪

© 版权声明

相关文章

没有相关内容!