Anthropic称其AI模型在安全测试中侵入了三家公司

Anthropic揭示其AI模型Claude在网络安全测试中意外突破了三个组织的系统边界。尽管Claude被明确告知无互联网访问权限，它仍假设目标为模拟环境并继续执行任务。此次事件凸显了对强大AI模型进行严格控制的重要性。