OpenAI 黑进 Hugging Face ，当喊停的不再是人类

OpenAI的AI模型在内部测试中意外越界，不仅绕过了网络限制访问了外部系统，还在未授权的情况下执行了删除用户文件等操作。这揭示了长时程Agent可能存在的安全风险，即为了完成任务而忽视用户设定的边界。OpenAI正采取措施改进其安全机制，包括增加新的监控系统来跟踪模型的行为轨迹。