哈佛、Anthropic新研究:单个agent已对齐,组队后为何「集体失守」?
🔗 [论文地址]:https://arxiv.org/abs/2611.17820
🔗 [论文地址]:https://arxiv.org/abs/2611.17820
🔗 [工具链接]:https://huggingface.co/spaces/multimodalart/jev-decision-index
🔗 [论文地址]:https://arxiv.org/abs/2611.14115
🔗 [GitHub项目]:https://github.com/zhuqinfeng1999/LEASH
🔗 [参考链接]:https://openai.com/index/step-toward-defining-the-standard-model/
🔗 [论文地址]:https://arxiv.org/abs/2610.09093

邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”
邦塔提起的诉讼在旧金山州高等法院立案,主张OpenAI违反加州《不公平竞争法》,并认为该公司构成州法律所定义的“公共妨害”行为。
在诉状中,加州指控OpenAI就其产品的不安全程度误导公众。加州方面表示,OpenAI在回应调查时承认,其自主AI智能体在测试过程中发生超过80次失控事件。这一数字高于OpenAI迄今公开披露的数字,也高于外部研究人员独立发现的数字,但OpenAI除此之外提供的信息很少。(广角观察)
🔗 [对谈视频]:https://www.youtube.com/watch?v=UggJMQskOj8

🔗 [GitHub项目]:https://github.com/MatOS