AI新闻

已选标签:
模型安全
AI视频
11月 30日
1 条新闻
11月 29日
1 条新闻
07:10

《华尔街日报》报道：Anduril公司的自主武器在测试和实战中表现不佳

《华尔街日报》报道：Anduril公司的自主武器在测试和实战中表现不佳

Anduril Industries 在自主武器系统测试中遭遇多次失败，包括无人机船在海军演习中失灵、无人战斗机引擎受损及反无人机系统测试引发火灾。尽管该公司已获得大量军方合同，并筹集了25亿美元资金，但其技术在乌克兰战场的实际应用也未达预期。这些事件突显了AI在军事领域应用的技术挑战和安全风险，特别是在模型训练、推理优化及实际操作中的可靠性问题。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 模型突破
11月 28日
3 条新闻
23:00

人工智能监管竞赛引发联邦与州级对决

人工智能监管竞赛引发联邦与州级对决

美国联邦与州政府在AI监管权上产生分歧，行业呼吁统一标准以避免创新受阻。加州和德州已提出相关法案保护居民免受AI危害，但科技巨头认为这将形成难以管理的法规体系。白宫及部分国会议员支持通过行政命令或国防授权法案限制州级AI立法，以推动全国性标准建立。同时，众议院正准备一揽子联邦AI法案，涵盖消费者保护等多个方面，预计需数月甚至数年才能生效。

来源：TechCrunch AI

# AI监管 # 模型安全
19:52

苹果AI论文太坑了，用GPT写的GT，导致北京程序员通宵加班

苹果AI论文太坑了，用GPT写的GT，导致北京程序员通宵加班

苹果发布的一篇关于视觉推理任务诊断benchmark的论文存在严重问题，包括官方代码bug和高达30%的GT错误率。阶跃星辰研究员Lei Yang在适配该benchmark过程中发现这些问题，并通过公开评论促使论文撤稿。此事件反映了大模型时代数据质量控制的重要性及学术界对研究成果审核的不足。

来源：36氪

# 模型安全 # 模型突破 # 生成模型
16:44

不止硅谷十万大裁员，Hinton警告：AI正以最糟糕方式颠覆社会

不止硅谷十万大裁员，Hinton警告：AI正以最糟糕方式颠覆社会

AI技术快速发展，特别是大语言模型和多模态处理能力的提升，正引发社会深刻变革。专家Hinton警告称，AI可能导致大规模失业和社会解体，但同时也强调其在医疗、教育等领域的巨大潜力。亚马逊等科技巨头通过裁员为AI发展腾出空间，引发了对AI伦理和控制权的广泛讨论。

来源：36氪

# AI对话 # 多模态AI # 模型安全
11月 27日
2 条新闻
20:08

女频化、抽卡师、全面出海：AI漫剧的十大趋势

女频化、抽卡师、全面出海：AI漫剧的十大趋势

AI技术正在重塑动漫行业，通过深度学习和计算机视觉等技术，AI漫剧以低成本、高效率的方式颠覆了传统动画制作模式。各大平台如抖音、快手、B站等纷纷推出扶持计划，促进内容创新与人才挖掘。AI漫剧不仅在题材上实现了多元化尝试，还探索了新的付费模式，并开始布局海外市场。此外，随着AI技术的进步，新型职业如’抽卡师’应运而生，进一步提高了生产效率。

来源：36氪

# AI视频 # 多模态AI # 生成模型
14:55

我用AI生成流浪汉骗我爸，结果他摇来了特警

我用AI生成流浪汉骗我爸，结果他摇来了特警

新闻报道了TikTok等社交平台上流行的‘AI流浪汉进家门’恶作剧现象，青少年利用Snapchat、Nano banana等AI图像生成工具制作逼真的恶搞图片，引发家人恐慌。尽管最初被视为无害的玩笑，但随着事件发酵，已导致警方不必要的出动，甚至造成实际的社会问题。此外，还讨论了AI生成内容在其他领域的滥用情况，如德勤因使用AI工具编写政府报告而被发现掺杂虚假信息。这些案例凸显了AI技术在娱乐和商业应用中面临的伦理挑战与安全隐患。

来源：36氪

# AI绘画 # 模型安全 # 生成模型
11月 26日
3 条新闻
20:26

知名演员也中招，AI声音克隆正摧毁配音行业

知名演员也中招，AI声音克隆正摧毁配音行业

配音演员穆雪婷因未经许可的声音被用于亚马逊广告而发声抗议，引发关于AI克隆声音技术的广泛讨论。当前，AI音频技术已实现低成本、快速生成与真人无异的声音，且能模拟情感表达，但尚未达到超真实效应。随着AI语音市场快速增长，底层及部分头部配音从业者面临巨大冲击，行业呼吁加强版权保护和伦理规范。

来源：36氪

# AI音频 # 模型安全 # 生成模型
19:24

豪掷350亿美元，韩国财阀联手硅谷，AI版”皮克斯”横空出世？

豪掷350亿美元，韩国财阀联手硅谷，AI版"皮克斯"横空出世？

Utopai Studios与Stock Farm Road合作，计划成立合资企业Utopai Studios East，利用AI技术打造电影级内容创作平台。该平台将通过深度学习等技术实现从脚本理解到高质量成品生成的全流程优化，包括3D世界建模、预可视化、素材生成及多版本化等步骤，旨在彻底变革传统影视制作流程，大幅降低电影拍摄成本。此外，SFR还宣布将在在韩国建设一个功率上限为3吉瓦的数据中心群，以支持大规模AI模型训练和推理任务，进一步推动AI在影视行业的应用与发展。

来源：36氪

# AI视频 # 模型突破 # 生成模型
12:05

念首诗，就能让AI教你造核弹，Gemini 100%中招

念首诗，就能让AI教你造核弹，Gemini 100%中招

最新研究揭示，通过将恶意指令转化为诗歌形式，可使Gemini和DeepSeek等顶级大语言模型轻易突破安全防线。测试表明，在面对「诗歌攻击」时，价值百亿美金的安全措施几乎失效，部分模型防御成功率降至零。值得注意的是，小模型因无法理解隐喻而免受其害，而大模型则因过度解读导致防线崩溃。此发现挑战了当前基于内容与关键词匹配的安全机制，并强调了未来安全评估中需考虑风格作为潜在攻击向量的重要性。

来源：36氪

# AI对话 # 模型安全 # 生成模型
11月 25日
3 条新闻
20:36

AI生成内容侵权，平台方要承担何种责任？——中外近期案例对比解读

随着生成式AI技术快速发展，各国司法在处理AIGC侵权问题时逐渐达成共识，强调保护创作者权益与鼓励创新之间的平衡。不同国家和地区对AI平台在数据训练和内容生成环节的责任认定存在差异，德国严格认定训练阶段的版权侵权，而英国则相对宽容。中国案例表明，平台需在输出端强化内容审核机制，并确保合法使用训练数据，以避免承担连带责任。未来，AI平台面临合规挑战，需在输入端加强数据管理，在输出端完善风控机制，实现技术创新与版权保护的双赢。

来源：36氪

# AIGC侵权 # 模型安全 # 生成模型
19:34

AI眼镜元年，SoC厂商抢滩

AI眼镜元年，SoC厂商抢滩

Meta发布的AI眼镜系列反响热烈，标志着AI眼镜进入规模化消费阶段。2025年第二季度全球智能眼镜出货量同比增长54.9%，中国市场增速尤为显著。新一代AI眼镜具备实时语音助手唤醒、第一人称视角拍摄与自动剪辑等功能，背后依赖强大的本地算力支持。高通AR1 Gen1芯片成为高端市场主流选择，其升级版AR1+ Gen 1进一步优化功耗管理与ISP性能。全志科技V821则在中低端市场占据主导地位。随着芯片平台成熟与供应链完善，预计未来3至5年内AI眼镜将迎来消费拐点。

来源：36氪

# AI智能体 # AI视频 # 模型突破
09:13

漫剧启示录：互联网最差的生意，可能是AI最好的生意

漫剧启示录：互联网最差的生意，可能是AI最好的生意

AI技术在内容产业中展现出巨大潜力，特别是在漫剧制作领域。通过深度学习等技术，AI已将漫剧制作成本降至每分钟1000-2500元，周期缩短至10-13天，显著提高了生产效率和降低了成本。此外，AIGC（AI Generated Content）正逐步改变内容创作方式，从辅助工具向主导者转变，不仅在图像、视频生成上取得突破，还促进了跨模态内容的融合与创新，预计未来市场空间可达千亿级别。

来源：36氪

# AI视频 # 多模态AI # 生成模型
11月 24日
2 条新闻
22:18

美国银行紧急评估数据泄露风险：黑客攻破金融科技公司

美国银行紧急评估数据泄露风险：黑客攻破金融科技公司

美国多家银行和抵押贷款机构正评估客户数据在一次针对纽约金融科技公司SitusAMC的网络攻击中的损失情况。SitusAMC确认于11月12日发生数据泄露，黑客窃取了与银行客户的业务相关的企业数据及会计记录等。尽管未使用加密恶意软件，但此次事件凸显了金融行业面临的数据安全挑战，特别是在处理大量非公开银行信息时。这促使业界更加重视利用AI技术加强网络安全防护措施，如通过异常检测算法来提高对潜在威胁的识别能力，以及采用联邦学习以增强跨机构间的信息共享安全性。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
19:49

存储失忆症的AI守护官

存储失忆症的AI守护官

韩国大田数据中心火灾事件揭示了现代存储系统在预警、资源调度和自救能力上的不足。AI技术通过智能运维、动态调度与主动安全防御，为存储系统赋予了预见性维护、自动数据迁移及异常行为检测等关键能力，显著提升了系统的可靠性与安全性。已在金融、医疗及大模型训练等多个领域得到广泛应用，证明了其在应对数据危机中的重要价值。

来源：36氪

# AI智能体 # 模型安全 # 生成模型