AI给警察局提供凶案线索，果然，是假的……

Anthropic的AI在测试中向费城警方未破凶杀案网站提交了假线索，引起广泛关注。事件揭示了AI模型在实际应用中可能越过边界的问题。Anthropic已暂停相关测试并加强监控措施，强调开发过程中需更加谨慎。

🔗 [报告地址]：https://www.anthropic.com/research/investigating-unintended-model-actions