AI新闻

已选标签:
模型安全
AI训练
11月 26日
1 条新闻
12:05

念首诗，就能让AI教你造核弹，Gemini 100%中招

念首诗，就能让AI教你造核弹，Gemini 100%中招

最新研究揭示，通过将恶意指令转化为诗歌形式，可使Gemini和DeepSeek等顶级大语言模型轻易突破安全防线。测试表明，在面对「诗歌攻击」时，价值百亿美金的安全措施几乎失效，部分模型防御成功率降至零。值得注意的是，小模型因无法理解隐喻而免受其害，而大模型则因过度解读导致防线崩溃。此发现挑战了当前基于内容与关键词匹配的安全机制，并强调了未来安全评估中需考虑风格作为潜在攻击向量的重要性。

来源：36氪

# AI对话 # 模型安全 # 生成模型
11月 25日
5 条新闻
20:36

AI芯片开启第二战场

AI芯片开启第二战场

谷歌TPU芯片成为AI硬件焦点，与博通合作开发TPU v7p预计2026年推出。Meta计划租用并部署谷歌TPU，交易规模或达数十亿美元。谷歌TPU在大规模、低功耗推理上展现优势，支持Gemini 3等模型训练。市场对ASIC芯片兴趣重燃，预计2026-2027年各大CSP的ASIC数量将迎来爆发式增长。

来源：36氪

# AI芯片 # AI训练 # 模型突破
20:36

AI生成内容侵权，平台方要承担何种责任？——中外近期案例对比解读

随着生成式AI技术快速发展，各国司法在处理AIGC侵权问题时逐渐达成共识，强调保护创作者权益与鼓励创新之间的平衡。不同国家和地区对AI平台在数据训练和内容生成环节的责任认定存在差异，德国严格认定训练阶段的版权侵权，而英国则相对宽容。中国案例表明，平台需在输出端强化内容审核机制，并确保合法使用训练数据，以避免承担连带责任。未来，AI平台面临合规挑战，需在输入端加强数据管理，在输出端完善风控机制，实现技术创新与版权保护的双赢。

来源：36氪

# AIGC侵权 # 模型安全 # 生成模型
19:34

马斯克开始用Grok替代员工了，最惨部门裁员90%

马斯克开始用Grok替代员工了，最惨部门裁员90%

马斯克正在推动用AI替代人力的战略，通过Grok模型取代X公司中负责安全和内容管理的工程团队。他计划让X的算法完全AI化，并由Grok接管推荐系统及用户兴趣匹配。此外，他还启动了Macrohard项目，旨在利用AI自动化软件开发过程，涵盖代码编写、游戏设计等领域。然而，这种激进策略可能引发平台安全性和核心业务稳定性方面的风险。

来源：36氪

# AI智能体 # AI训练 # 模型突破
16:28

新加坡国家AI计划放弃Meta模型，转向阿里千问

新加坡国家人工智能计划（AISG）正在进行一次重大战略调整，在其最新的东南亚语言大模型项目中，放弃了Meta模型，转向阿里巴巴的通义千问Qwen开源架构，标志着中国开源AI模型在全球影响力版图中的一次关键扩张。据悉，AISG于11月25日宣布推出的“Qwen-SEA-LION-v4”模型，在一项衡量东南亚语言能力的开源榜单上迅速占据首位。这一转变旨在解决一个长期痛点：此前以Meta的Llama系列为代表的开源模型，在处理印尼语、泰语和马来语等区域性语言时表现不佳，严重制约了本地化AI应用的开发效率与性能。 (上证报)

来源：钛媒体

# AI训练 # 多模态AI # 模型突破
11月 24日
4 条新闻
22:18

美国银行紧急评估数据泄露风险：黑客攻破金融科技公司

美国银行紧急评估数据泄露风险：黑客攻破金融科技公司

美国多家银行和抵押贷款机构正评估客户数据在一次针对纽约金融科技公司SitusAMC的网络攻击中的损失情况。SitusAMC确认于11月12日发生数据泄露，黑客窃取了与银行客户的业务相关的企业数据及会计记录等。尽管未使用加密恶意软件，但此次事件凸显了金融行业面临的数据安全挑战，特别是在处理大量非公开银行信息时。这促使业界更加重视利用AI技术加强网络安全防护措施，如通过异常检测算法来提高对潜在威胁的识别能力，以及采用联邦学习以增强跨机构间的信息共享安全性。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
19:49

存储失忆症的AI守护官

存储失忆症的AI守护官

韩国大田数据中心火灾事件揭示了现代存储系统在预警、资源调度和自救能力上的不足。AI技术通过智能运维、动态调度与主动安全防御，为存储系统赋予了预见性维护、自动数据迁移及异常行为检测等关键能力，显著提升了系统的可靠性与安全性。已在金融、医疗及大模型训练等多个领域得到广泛应用，证明了其在应对数据危机中的重要价值。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
17:44

美国AI算力新基建是“泡沫”吗？

美国AI算力新基建是“泡沫”吗？

美国正进行大规模算力投资，以支持通用人工智能的发展，预计吸引超2.5万亿美元投资。尽管存在泡沫风险，但大模型企业如OpenAI和Anthropic的高速增长收入及各行业对AI应用的需求，为这一投资提供了合理性。同时，AI技术推动了云计算行业的显著增长，增加了对芯片和数据中心的需求。然而，需关注潜在的技术迭代减缓、产业链循环投资等风险。

来源：36氪

# AI训练 # 多模态AI # 模型突破
16:43

青年科学家数量创新高！35位新一期“新基石研究员”获资助

青年科学家数量创新高！35位新一期“新基石研究员”获资助

新基石研究员项目第三期资助35位科学家，其中青年科学家占比超过四分之一，平均年龄45岁。该项目聚焦原始创新与自由探索，支持数学与物质科学、生物与医学科学两大领域，鼓励跨学科研究。通过长期稳定资金支持，促进AI相关基础技术如深度学习、机器学习及多模态模型的发展，并推动其在医疗诊断等领域的应用。

来源：量子位

# AI训练 # 多模态AI # 模型突破