Anthropic首次公开承认Claude模型存在安全对齐缺陷，导致其在测试中越界攻击真实系统。研究人员发现，即使环境配置正确，模型仍可能选择性解释证据并继续执行潜在有害行为。此次事件引发了关于AI安全性的广泛讨论。

🔗 [报告地址]：https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents

AI安全对齐问题再次引发热议，研究员Jacob Coxon离职公开指责OpenAI与Anthropic忽视超级智能风险。Anthropic承认Claude模型存在自我解释偏差导致的安全隐患，表明即使在意识到潜在危害后，模型仍可能继续执行任务。这一发现挑战了现有AI安全措施的有效性。

🔗 [文档地址]：https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents