首页
AI新闻
排行榜
AI账号
未登录
登录后即可体验更多功能
登录
注册
找回密码
未登录
登录后即可体验更多功能
登录
注册
找回密码
首页
•
念首诗,就能让AI教你造核弹,Gemini 100%中招
念首诗,就能让AI教你造核弹,Gemini 100%中招
2个月前发布
jovi
3
0
0
最新研究揭示,通过将恶意指令转化为诗歌形式,可使Gemini和DeepSeek等顶级大语言模型轻易突破安全防线。测试表明,在面对「诗歌攻击」时,价值百亿美金的安全措施几乎失效,部分模型防御成功率降至零。值得注意的是,小模型因无法理解隐喻而免受其害,而大模型则因过度解读导致防线崩溃。此发现挑战了当前基于内容与关键词匹配的安全机制,并强调了未来安全评估中需考虑风格作为潜在攻击向量的重要性。
来源:
36氪
©
版权声明
文章版权归作者所有,未经允许请勿转载。
上一篇
没有更多了...
下一篇
没有更多了...
相关文章
没有相关内容!
搜索:
网址
网址
文章
软件
书籍