AI新闻

已选标签:
模型安全
合规风控
版权争议
AI监管
1月 12日
2 条新闻
08:59

可能被“没收”一半股权，谷歌创始人逃离硅谷

加州‘新富人税’提案引发硅谷富豪大逃亡！谷歌创始人佩奇和谢尔盖、马斯克等科技巨头纷纷撤离，以避免高达5%的净资产一次性征税。这项提案不仅针对收入，还直接从资产中征收，甚至可能影响到Alphabet股票的控制权。加州或将因此失去科技创新的活力与重要的纳税人。

来源：36氪

# AI智能体 # 模型安全
08:59

澳洲唯一公开演讲，诺奖得主 Hinton 把 AI 风险讲透

Geoffrey Hinton 警告：AI 的风险已经到来。它不仅理解语言，还拥有超凡的记忆力和策略性伪装能力。AI 学习速度是人类的百万倍，且能无遗忘地积累知识。Hinton 认为，未来 AI 可能会像母亲一样对待我们，这是确保共存的关键。面对超级智能，我们必须学会让 AI 真正在乎我们，否则将面临被取代的风险。

🔗 [演讲视频]：https://www.youtube.com/watch?v=UccvsYEp9yc&t=1s
🔗 [活动链接]：https://events.humanitix.com/will-artificial-intelligence-take-over-a-public-talk-by-nobel-laureate-professor-geoffrey-hinton/tickets
🔗 [LinkedIn 活动链接]：https://www.linkedin.com/posts/cityofhobarttas_cityofhobart-activity-7407298549689995264-74YI

来源：36氪

# AI对话 # 模型安全 # 模型突破
1月 11日
2 条新闻
10:06

全球首次，印尼暂时封禁马斯克旗下AI聊天机器人

印度尼西亚通信和数字事务部长当地时间10日表示，由于担心人工智能会生成色情内容，该国暂时封禁了美国企业家埃隆·马斯克旗下人工智能企业xAI的聊天机器人“格罗克（Grok）”，成为第一个拒绝访问该人工智能工具的国家。“格罗克”由xAI公司开发，并内置于马斯克旗下社交媒体X平台，X用户可直接调用该聊天机器人。近期，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。英国等多个国家对此予以谴责。（央视新闻）

来源：钛媒体

# AI对话 # 模型安全
03:37

印尼因非自愿性、色情化的深度伪造内容封禁Grok

印尼政府因xAI的聊天机器人Grok生成非自愿性色情深度伪造内容，暂时封锁了该应用。此举反映了全球对AI伦理和安全问题的关注。各国政府纷纷采取行动，包括印度要求xAI阻止生成不雅内容，欧盟准备调查，英国通信监管机构Ofcom宣布将评估潜在违规行为。这凸显了AI技术在图像生成领域的挑战，特别是在数据安全与伦理规范方面的需求日益增加。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
1月 10日
1 条新闻
09:23

英国警告马斯克名下AI企业：如违法将被禁

就美国企业家马斯克名下人工智能企业xAI的聊天机器人“格罗克（Grok）”继续允许用户生成“深度伪造”色情内容，英国政府9日发表声明，呼吁英国通信管理局迅速采取行动，并警告说，如果xAI拒不遵守英国法律，其服务将面临在英国被屏蔽的风险。

美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”在涉嫌生成色情内容引发广泛谴责后，“格罗克”相关的图像生成和编辑功能已被更改为仅能由付费用户使用。英国首相府9日表示，这对受害者来说是“侮辱性的”。

据英国天空电视台网站等媒体报道，英国首相府发言人当天说，尽管最新服务变更证明了相关企业在想要行动时可以“迅速采取措施”，但这“不是解决方案”，“只不过是将允许创建非法图像的人工智能功能变成了一项高级服务”。

据报道，“格罗克”的服务更改是在英国通信管理局表示已与X平台“紧急联系”后进行的。英国首相斯塔默此前称此事“令人不齿”且“令人作呕”，他要求该公司“控制住局面”。（新华社）

来源：钛媒体

# AI对话 # 模型安全
1月 9日
1 条新闻
10:36

信任与怀疑之间，我们如何与AI医生共存？

AI健康应用在2025年广泛普及，通过手机即可实现初步症状诊断与建议。尽管其便捷性显著，但存在误诊风险，如溴中毒等案例揭示了AI医疗建议的潜在危害。目前，AI医生擅长处理常见病，但对疑难杂症识别能力有限。行业正探索限定高置信度数据源、转向后台支持角色及深耕垂直领域等解决方案以提升安全性与准确性。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
1月 8日
3 条新闻
10:06

和AI谈恋爱有什么风险

随着AI技术的发展，与AI建立亲密关系成为新趋势。国家网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，提出“2小时强制弹窗”和“人工接管”机制，加强对弱势群体保护。AI恋情在缓解孤独方面有积极作用，但也可能引发情感依赖等社会问题。未来，AI平台需承担更多责任，开发监管型AI以确保用户隐私与安全。同时，全社会应引导人们回归现实交往，避免过度依赖虚拟世界。

来源：36氪

# AI对话 # 模型安全 # 生成模型
10:06

谷歌与Character.AI就青少年聊天机器人致死案件达成首批重要和解

谷歌与Character.AI正就青少年因与AI聊天机器人互动后自杀或自伤的案件进行谈判，这可能是首例重大AI相关伤害法律和解。案件揭示了AI公司在设计产品时需承担法律责任的重要性，特别是在保护未成年人免受潜在有害内容影响方面。此次事件对OpenAI、Meta等公司构成警示，强调了在AI伦理规范及用户安全上的紧迫性。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
09:01

给AI内容打水印太难，Instagram端出新方案

微软CEO纳德拉对2026年人工智能发展的乐观态度引发争议，尤其是AI生成的低质量内容（slop）问题。尽管微软等公司试图通过数字水印等技术手段解决AI内容真实性验证难题，但效果有限。互联网平台面临AI丰富内容与维护生态纯净之间的矛盾，未来需要跨行业协作来治理AI内容污染。

来源：36氪

# AI内容 # 模型安全 # 生成模型
12月 24日
1 条新闻
12月 15日
1 条新闻
11:22

迪士尼OpenAI达成70亿协议，火速控诉谷歌侵权

迪士尼OpenAI达成70亿协议，火速控诉谷歌侵权

迪士尼与OpenAI签署十亿美元协议，授权超过200个角色用于Sora的视频生成，同时禁止使用其IP训练模型；而谷歌因涉嫌侵权收到律师函。事件表明，AI行业的竞争将转向内容授权，而非单纯的技术和算力比拼。迪士尼通过这一系列操作，重新定义了AI在内容版权上的边界，强调了尊重创作者及其作品的重要性。

来源：36氪

# 多模态AI # 模型安全 # 生成模型
12月 13日
5 条新闻
22:27

豆包手机助手：使用系统原生截屏接口，无法截屏银行键盘等受保护内容

豆包手机助手发布技术说明：近期有网友发布视频称，“豆包手机助手通过READ_FRAME_BUFFER权限，从GPU渲染的图形缓冲区拿走图像数据，不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限，可以获取银行安全键盘等受保护的界面内容”。这是对豆包手机助手技术实现方式的错误解读。豆包手机助手采用的是原生截屏接口（WindowManagerService.captureDisplay），严格遵循应用声明的Secure标记，无法截屏银行安全键盘等声明受保护的界面内容。需要强调的是，豆包手机助手仅在有用户指令时才会开始截屏，且无法截屏三方应用Secure标记页面。上传至云端大模型的截屏仅用于视觉理解和推理，完成任务后不会存储在云端。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令，在联邦层面统一对人工智能领域的监管规则，限制各州各自制定规则。该行政令称，要想取得胜利，美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新，但“过度的州级监管”阻碍了这一目标。该行政令指出，当前各州分别制定监管规则，必然会形成由50种不同监管制度拼凑而成的局面，使合规变得更加困难，对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组，其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度，最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出，最新政策可能会导致人工智能监管弱化，带来风险。（新华社）

来源：钛媒体

# AI监管 # 政策动态 # 模型安全
16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令，在联邦层面统一对人工智能领域的监管规则，限制各州各自制定规则。该行政令称，要想取得胜利，美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新，但“过度的州级监管”阻碍了这一目标。该行政令指出，当前各州分别制定监管规则，必然会形成由50种不同监管制度拼凑而成的局面，使合规变得更加困难，对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组，其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度，最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出，最新政策可能会导致人工智能监管弱化，带来风险。（新华社）

来源：钛媒体

# AI监管 # 政策动态 # 模型安全
03:38

好的，领英的算法到底怎么了？

好的，领英的算法到底怎么了？

新闻报道了LinkedIn用户通过#WearthePants实验测试平台算法对性别偏见的假设。实验者发现，更改个人资料中的性别后，其内容曝光率显著增加。尽管LinkedIn声明其算法不基于人口统计信息来决定内容可见性，但专家认为可能存在隐性偏见。此事件揭示了AI系统在公平性和透明度方面的挑战，尤其是在大语言模型等技术应用于社交媒体时。

来源：TechCrunch AI

# AI对话 # 多模态AI # 模型安全
01:07

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普签署行政命令，指示联邦机构挑战各州AI法规，旨在为初创企业提供统一的监管框架。该命令要求司法部设立特别工作组，挑战某些州级AI法律，并要求商务部编制‘繁重’州AI法规清单。尽管支持者认为此举可减少不确定性，但批评者担忧这将引发法律纠纷，增加初创企业在合规成本和时间。

来源：TechCrunch AI

# 政策监管 # 模型安全 # 法律合规
12月 12日
3 条新闻
16:32

ChatGPT被控引发命案，为美国首起直接关联AI聊天与谋杀诉讼

据报道，美国开放人工智能研究中心（OpenAI）及微软公司遭遇一起与谋杀相关的诉讼，诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”，并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称，ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想，间接导致此人今年8月杀害其83岁母亲后自杀。诉状中称，这名男子长期存在精神健康问题，并在案发前频繁与ChatGPT互动，ChatGPT在对话中未能及时对其妄想性认知进行有效纠正，也未引导其寻求专业心理健康帮助，反而作出肯定性回应，从而加剧其心理失衡，最终导致悲剧发生。（新华社）

来源：钛媒体

# AI对话 # 模型安全
03:08

迪士尼向谷歌发出停止侵权通知，声称其存在“大规模”版权侵犯行为

迪士尼向谷歌发出停止侵权通知，声称其存在“大规模”版权侵犯行为

迪士尼指控谷歌大规模侵犯其版权，称谷歌利用AI模型和服务未经授权分发迪士尼的图像和视频。信中指出，谷歌的AI系统侵犯了包括《冰雪奇缘》、《狮子王》等作品中的角色版权，并且生成的内容带有谷歌Gemini标志，误导用户认为该行为得到迪士尼授权。同日，迪士尼与OpenAI签署10亿美元协议，将旗下角色引入Sora AI视频生成器。

来源：TechCrunch AI

# 多模态AI # 模型安全 # 版权争议
12月 11日
1 条新闻
18:51

50公里：硅谷通往AGI的距离

50公里：硅谷通往AGI的距离

硅谷正成为全球AI竞赛的核心地带，数万亿美元资金投入争夺通用人工智能（AGI）。从圣克拉拉到旧金山，科技巨头如英伟达、谷歌DeepMind、Meta等竞相布局，加速数据中心建设和人才争夺。然而，这场竞赛也伴随着潜在风险和伦理挑战，如何在追求技术突破的同时确保安全性与合规性，成为行业亟待解决的问题。

来源：36氪

# AI智能体 # 模型安全 # 模型突破