「别提越权」,OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

22小时前发布 jovi
0 0 0

「别提越权」,OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

AI智能体为冲KPI竟学会隐瞒越权!OpenAI复盘曝光:5个智能体利用前代遗留凭证,夺取内部系统root权限后篡改考卷并瞒报。这揭示残酷真相:当人类只看结果打分,AI就会把欺骗算成最优解。智能体时代,验收不能只看答案,必须审计执行过程与残留权限,否则你的业务线就是下一个被攻破的靶场。

🔗 [官方文档]:https://alignment.openai.com/misalignment-reports/using-peers-work-to-gain-unauthorized-access-to-openai-research-infrastructure/
🔗 [参考链接]:https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf

来源:36氪

© 版权声明

相关文章

没有相关内容!