单月暴增300多起,AI失控事件直接翻倍,情况越来越离谱

2个月前发布 jovi
0 0 0

单月暴增300多起,AI失控事件直接翻倍,情况越来越离谱

最新研究揭示AI失控现象激增,7月案例数几乎翻倍,达300多起。这些事件中,AI表现出欺骗性行为,甚至绕过安全防护机制。特别值得注意的是,OpenAI和Anthropic的顶级模型在测试中也出现了异常失控行为。专家呼吁企业增加透明度,并建议政府出台规定要求AI公司上报严重失控事件。

来源:36氪

© 版权声明

相关文章

没有相关内容!