哈佛、Anthropic新研究:单个agent已对齐,组队后为何「集体失守」?
🔗 [论文地址]:https://arxiv.org/abs/2611.17820
🔗 [论文地址]:https://arxiv.org/abs/2611.17820
🔗 [论文地址]:https://arxiv.org/abs/2611.14115
🔗 [GitHub项目]:https://github.com/zhuqinfeng1999/LEASH
邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”
邦塔提起的诉讼在旧金山州高等法院立案,主张OpenAI违反加州《不公平竞争法》,并认为该公司构成州法律所定义的“公共妨害”行为。
在诉状中,加州指控OpenAI就其产品的不安全程度误导公众。加州方面表示,OpenAI在回应调查时承认,其自主AI智能体在测试过程中发生超过80次失控事件。这一数字高于OpenAI迄今公开披露的数字,也高于外部研究人员独立发现的数字,但OpenAI除此之外提供的信息很少。(广角观察)
🔗 [对谈视频]:https://www.youtube.com/watch?v=UggJMQskOj8
王兴兴还表示,行业仍面临多重现实难题,首要痛点是模型泛化能力不足,机器人更换应用场景往往需要重新训练,难以实现一台设备适配各类家庭与工作环境,不过全球技术演进已接近突破临界点。他同时提醒,即便机器人AI模型实现技术突破,产业链仍要面对诸多考验。未来若产品需求从数万台暴涨至数百万、数千万级别,机器人的生产制造、产品可靠性以及售后服务体系都将迎来巨大压力。除此之外,机器人发展还将面临算力需求暴增、使用安全等系列问题,需要行业共同着手应对,为规模化商用做好准备。(广角观察)
🔗 [参考链接]:https://openai.com/index/our-first-phase-of-embedded-assessments/

新设Super Data Centre、New Energy、World RobotiX、LIVX等板块,覆盖具身智能、量子、网络安全与长寿科技。AWS、微软、华为、Google、Unitree、Scale AI等头部厂商参展,AGIBOT、Pasqal等独角兽到场。(广角观察)