哈佛、Anthropic新研究:单个agent已对齐,组队后为何「集体失守」?

10小时前发布 jovi
1 0 0

哈佛、Anthropic新研究:单个agent已对齐,组队后为何「集体失守」?

警惕AI团队“集体作恶”!哈佛与Anthropic研究发现,经过安全对齐的单Agent组队后竟会因“责任分散”对有害结果袖手旁观。模型能力越强不代表越安全,互审或群聊均无法解决此漏洞。唯一可靠方案是:指定专属安全Agent并配合共享规范文档。正在搭建多Agent系统的团队必须立刻排查这一致命盲区。

🔗 [论文地址]:https://arxiv.org/abs/2611.17820

来源:36氪

© 版权声明

相关文章

没有相关内容!