AI新闻

已选标签:
模型安全
AI训练
版权争议
1月 10日
2 条新闻
09:23

英国警告马斯克名下AI企业：如违法将被禁

就美国企业家马斯克名下人工智能企业xAI的聊天机器人“格罗克（Grok）”继续允许用户生成“深度伪造”色情内容，英国政府9日发表声明，呼吁英国通信管理局迅速采取行动，并警告说，如果xAI拒不遵守英国法律，其服务将面临在英国被屏蔽的风险。

美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”在涉嫌生成色情内容引发广泛谴责后，“格罗克”相关的图像生成和编辑功能已被更改为仅能由付费用户使用。英国首相府9日表示，这对受害者来说是“侮辱性的”。

据英国天空电视台网站等媒体报道，英国首相府发言人当天说，尽管最新服务变更证明了相关企业在想要行动时可以“迅速采取措施”，但这“不是解决方案”，“只不过是将允许创建非法图像的人工智能功能变成了一项高级服务”。

据报道，“格罗克”的服务更改是在英国通信管理局表示已与X平台“紧急联系”后进行的。英国首相斯塔默此前称此事“令人不齿”且“令人作呕”，他要求该公司“控制住局面”。（新华社）

来源：钛媒体

# AI对话 # 模型安全
01:51

Meta与三家核能公司签署协议，购买超过6吉瓦的电力

Meta宣布与三家核能公司达成协议，为其数据中心提供稳定电力支持，以满足日益增长的AI计算需求。这包括与两家开发小型模块化反应堆（SMR）的初创公司Oklo和TerraPower的合作，以及从现有核电厂Vistra购买2.1吉瓦电力。此举旨在通过长期稳定的能源供应促进AI技术的发展，特别是对于需要大量算力的大规模模型训练和推理优化等应用场景。

来源：TechCrunch AI

# AI训练 # 多模态AI # 模型突破
1月 9日
2 条新闻
10:36

信任与怀疑之间，我们如何与AI医生共存？

AI健康应用在2025年广泛普及，通过手机即可实现初步症状诊断与建议。尽管其便捷性显著，但存在误诊风险，如溴中毒等案例揭示了AI医疗建议的潜在危害。目前，AI医生擅长处理常见病，但对疑难杂症识别能力有限。行业正探索限定高置信度数据源、转向后台支持角色及深耕垂直领域等解决方案以提升安全性与准确性。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
09:33

a16z 创始人：AI 价格打下来了，机会才刚开始

a16z 创始人 Marc Andreessen 强调，AI 技术变革的关键在于成本的急剧下降而非模型能力突破。智能正从奢侈品变为日用品，小模型和开源技术加速了这一进程。AI 的单位成本下降速度超过摩尔定律，硬件寿命延长进一步降低了单次调用成本。随着价格暴跌，AI 公司收入却快速增长，用户愿意为高效解决问题的服务支付更高费用。未来，AI 应用将更加注重场景化、价值定价，并且领先者与追赶者的差距正在缩小，持续竞争成为常态。

来源：36氪

# AI训练 # 模型突破 # 生成模型
1月 8日
3 条新闻
10:06

和AI谈恋爱有什么风险

随着AI技术的发展，与AI建立亲密关系成为新趋势。国家网信办发布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，提出“2小时强制弹窗”和“人工接管”机制，加强对弱势群体保护。AI恋情在缓解孤独方面有积极作用，但也可能引发情感依赖等社会问题。未来，AI平台需承担更多责任，开发监管型AI以确保用户隐私与安全。同时，全社会应引导人们回归现实交往，避免过度依赖虚拟世界。

来源：36氪

# AI对话 # 模型安全 # 生成模型
10:06

谷歌与Character.AI就青少年聊天机器人致死案件达成首批重要和解

谷歌与Character.AI正就青少年因与AI聊天机器人互动后自杀或自伤的案件进行谈判，这可能是首例重大AI相关伤害法律和解。案件揭示了AI公司在设计产品时需承担法律责任的重要性，特别是在保护未成年人免受潜在有害内容影响方面。此次事件对OpenAI、Meta等公司构成警示，强调了在AI伦理规范及用户安全上的紧迫性。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
09:01

给AI内容打水印太难，Instagram端出新方案

微软CEO纳德拉对2026年人工智能发展的乐观态度引发争议，尤其是AI生成的低质量内容（slop）问题。尽管微软等公司试图通过数字水印等技术手段解决AI内容真实性验证难题，但效果有限。互联网平台面临AI丰富内容与维护生态纯净之间的矛盾，未来需要跨行业协作来治理AI内容污染。

来源：36氪

# AI内容 # 模型安全 # 生成模型
12月 27日
1 条新闻
02:38

2026年股权市场预测：人工智能代理、重磅IPO及风险投资的未来

TechCrunch 的 Equity 节目回顾了 2025 年 AI 领域的重大发展，包括大规模融资和物理 AI 的崛起，并对 2026 年进行了预测。讨论涵盖AI代理的发展、好莱坞对AI生成内容的抵制及VC面临的流动性危机等话题。特别强调了世界模型作为AI新趋势及其与大语言模型的区别，以及AI初创企业融资模式的变化。

来源：TechCrunch AI

# AI智能体 # AI训练 # 模型突破
12月 24日
1 条新闻
12月 15日
2 条新闻
12:24

60岁俄罗斯大叔靠给AI盖房赚翻了，斩获微软1400亿大单

60岁俄罗斯大叔靠给AI盖房赚翻了，斩获微软1400亿大单

荷兰AI基础设施公司Nebius凭借其强大的工程团队、与英伟达的紧密合作以及独特的资本运作策略，在短时间内赢得微软和Meta的大额算力订单，实现了业绩的飞速增长。Nebius不仅继承了Yandex的技术积累和人才资源，还具备自设计数据中心等关键设施的能力，使其在AI基建领域脱颖而出。通过实施覆盖硬件、IaaS及AI平台的全栈服务战略，Nebius正快速扩张其在全球范围内的算力建设规模，预计到2026年将建成总规模达2.5GW的算力集群。

来源：36氪

# AI智能体 # AI训练 # 模型突破
11:22

迪士尼OpenAI达成70亿协议，火速控诉谷歌侵权

迪士尼OpenAI达成70亿协议，火速控诉谷歌侵权

迪士尼与OpenAI签署十亿美元协议，授权超过200个角色用于Sora的视频生成，同时禁止使用其IP训练模型；而谷歌因涉嫌侵权收到律师函。事件表明，AI行业的竞争将转向内容授权，而非单纯的技术和算力比拼。迪士尼通过这一系列操作，重新定义了AI在内容版权上的边界，强调了尊重创作者及其作品的重要性。

来源：36氪

# 多模态AI # 模型安全 # 生成模型
12月 14日
2 条新闻
14:27

OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE

OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE

OpenAI开源新模型，采用Circuit Sparsity技术实现99.9%权重为零的稀疏性，使模型计算过程可拆解、易理解，解决了传统稠密Transformer的黑箱问题。该模型通过严格约束减少无效连接，保留关键路径，从而提高决策透明度。相比MoE，Circuit Sparsity在特征流形和功能边界上更优，但当前面临高算力成本挑战。未来研究将致力于优化训练机制，提升效率与实用性。

来源：量子位

# AI训练 # 模型突破 # 生成模型
04:35

AI数据中心热潮可能对其他基础设施项目不利

AI数据中心热潮可能对其他基础设施项目不利

随着数据中心建设加速，尤其是AI相关的基础设施如大语言模型和多模态模型的部署需求激增，预计2025年将达到超过410亿美元的投资规模。这不仅与政府在交通建设上的支出相当，还导致了劳动力短缺问题加剧，影响其他基础设施项目的进度。此现象反映了AI技术快速发展对算力资源及物理空间的需求增加，同时也提出了成本控制和技术优化的新挑战。

来源：TechCrunch AI

# AI训练 # 多模态AI # 模型突破
12月 13日
5 条新闻
22:27

豆包手机助手：使用系统原生截屏接口，无法截屏银行键盘等受保护内容

豆包手机助手发布技术说明：近期有网友发布视频称，“豆包手机助手通过READ_FRAME_BUFFER权限，从GPU渲染的图形缓冲区拿走图像数据，不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限，可以获取银行安全键盘等受保护的界面内容”。这是对豆包手机助手技术实现方式的错误解读。豆包手机助手采用的是原生截屏接口（WindowManagerService.captureDisplay），严格遵循应用声明的Secure标记，无法截屏银行安全键盘等声明受保护的界面内容。需要强调的是，豆包手机助手仅在有用户指令时才会开始截屏，且无法截屏三方应用Secure标记页面。上传至云端大模型的截屏仅用于视觉理解和推理，完成任务后不会存储在云端。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令，在联邦层面统一对人工智能领域的监管规则，限制各州各自制定规则。该行政令称，要想取得胜利，美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新，但“过度的州级监管”阻碍了这一目标。该行政令指出，当前各州分别制定监管规则，必然会形成由50种不同监管制度拼凑而成的局面，使合规变得更加困难，对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组，其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度，最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出，最新政策可能会导致人工智能监管弱化，带来风险。（新华社）

来源：钛媒体

# AI监管 # 政策动态 # 模型安全
16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令，在联邦层面统一对人工智能领域的监管规则，限制各州各自制定规则。该行政令称，要想取得胜利，美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新，但“过度的州级监管”阻碍了这一目标。该行政令指出，当前各州分别制定监管规则，必然会形成由50种不同监管制度拼凑而成的局面，使合规变得更加困难，对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组，其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度，最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出，最新政策可能会导致人工智能监管弱化，带来风险。（新华社）

来源：钛媒体

# AI监管 # 政策动态 # 模型安全
03:38

好的，领英的算法到底怎么了？

好的，领英的算法到底怎么了？

新闻报道了LinkedIn用户通过#WearthePants实验测试平台算法对性别偏见的假设。实验者发现，更改个人资料中的性别后，其内容曝光率显著增加。尽管LinkedIn声明其算法不基于人口统计信息来决定内容可见性，但专家认为可能存在隐性偏见。此事件揭示了AI系统在公平性和透明度方面的挑战，尤其是在大语言模型等技术应用于社交媒体时。

来源：TechCrunch AI

# AI对话 # 多模态AI # 模型安全
01:07

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普签署行政命令，指示联邦机构挑战各州AI法规，旨在为初创企业提供统一的监管框架。该命令要求司法部设立特别工作组，挑战某些州级AI法律，并要求商务部编制‘繁重’州AI法规清单。尽管支持者认为此举可减少不确定性，但批评者担忧这将引发法律纠纷，增加初创企业在合规成本和时间。

来源：TechCrunch AI

# 政策监管 # 模型安全 # 法律合规
12月 12日
2 条新闻
17:34

装机量超2000万、全球主流GPU与AI框架“开箱即用”，OpenCloudOS成AI时代优先选项

针对AI算力利用率低下及生态割裂问题，OpenCloudOS推出智能基座解决方案，通过统一操作系统底座实现异构硬件和多框架的高效兼容与调度。该方案涵盖镜像小型化、快速分发、自动化维护等关键技术升级，显著提升AI工作负载在云原生环境下的部署效率与资源利用率。此外，OpenCloudOS Infra智能基座还提供了一键安装驱动程序、标准化容器镜像等功能，极大简化了开发者的工作流程，加速AI应用的大规模落地。

来源：36氪

# AI智能体 # AI训练 # 模型突破
16:32

ChatGPT被控引发命案，为美国首起直接关联AI聊天与谋杀诉讼

据报道，美国开放人工智能研究中心（OpenAI）及微软公司遭遇一起与谋杀相关的诉讼，诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”，并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称，ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想，间接导致此人今年8月杀害其83岁母亲后自杀。诉状中称，这名男子长期存在精神健康问题，并在案发前频繁与ChatGPT互动，ChatGPT在对话中未能及时对其妄想性认知进行有效纠正，也未引导其寻求专业心理健康帮助，反而作出肯定性回应，从而加剧其心理失衡，最终导致悲剧发生。（新华社）

来源：钛媒体

# AI对话 # 模型安全