AI新闻

已选标签:
模型安全
12月 24日
1 条新闻
12月 15日
1 条新闻
11:22

迪士尼OpenAI达成70亿协议,火速控诉谷歌侵权

迪士尼OpenAI达成70亿协议,火速控诉谷歌侵权

迪士尼与OpenAI签署十亿美元协议,授权超过200个角色用于Sora的视频生成,同时禁止使用其IP训练模型;而谷歌因涉嫌侵权收到律师函。事件表明,AI行业的竞争将转向内容授权,而非单纯的技术和算力比拼。迪士尼通过这一系列操作,重新定义了AI在内容版权上的边界,强调了尊重创作者及其作品的重要性。

来源:36氪

12月 13日
5 条新闻
22:27

豆包手机助手:使用系统原生截屏接口,无法截屏银行键盘等受保护内容

豆包手机助手发布技术说明:近期有网友发布视频称,“豆包手机助手通过READ_FRAME_BUFFER权限,从GPU渲染的图形缓冲区拿走图像数据,不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限,可以获取银行安全键盘等受保护的界面内容”。这是对豆包手机助手技术实现方式的错误解读。豆包手机助手采用的是原生截屏接口(WindowManagerService.captureDisplay),严格遵循应用声明的Secure标记,无法截屏银行安全键盘等声明受保护的界面内容。需要强调的是,豆包手机助手仅在有用户指令时才会开始截屏,且无法截屏三方应用Secure标记页面。上传至云端大模型的截屏仅用于视觉理解和推理,完成任务后不会存储在云端。(广角观察)

来源:钛媒体

16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令,在联邦层面统一对人工智能领域的监管规则,限制各州各自制定规则。该行政令称,要想取得胜利,美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新,但“过度的州级监管”阻碍了这一目标。该行政令指出,当前各州分别制定监管规则,必然会形成由50种不同监管制度拼凑而成的局面,使合规变得更加困难,对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组,其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度,最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出,最新政策可能会导致人工智能监管弱化,带来风险。(新华社)

来源:钛媒体

16:17

特朗普签署行政令在联邦层面统一人工智能监管规则

美国总统特朗普11日签署一项行政令,在联邦层面统一对人工智能领域的监管规则,限制各州各自制定规则。该行政令称,要想取得胜利,美国的人工智能企业必须能够在不受繁琐监管束缚的情况下自由地进行创新,但“过度的州级监管”阻碍了这一目标。该行政令指出,当前各州分别制定监管规则,必然会形成由50种不同监管制度拼凑而成的局面,使合规变得更加困难,对初创企业而言更是如此。该行政令称将建立一个“负担最小”的全国性标准。该行政令还要求司法部长成立一个人工智能诉讼特别工作组,其“唯一职责”是对与本行政令相悖的各州人工智能法律提出异议。美国一些科技企业一直反对严格的监管制度,最新的行政令被一些当地媒体解读为这些企业的胜利。有媒体指出,最新政策可能会导致人工智能监管弱化,带来风险。(新华社)

来源:钛媒体

03:38

好的,领英的算法到底怎么了?

好的,领英的算法到底怎么了?

新闻报道了LinkedIn用户通过#WearthePants实验测试平台算法对性别偏见的假设。实验者发现,更改个人资料中的性别后,其内容曝光率显著增加。尽管LinkedIn声明其算法不基于人口统计信息来决定内容可见性,但专家认为可能存在隐性偏见。此事件揭示了AI系统在公平性和透明度方面的挑战,尤其是在大语言模型等技术应用于社交媒体时。

来源:TechCrunch AI

01:07

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普的AI行政命令承诺“一套规则”——初创企业可能反而陷入法律困境

特朗普签署行政命令,指示联邦机构挑战各州AI法规,旨在为初创企业提供统一的监管框架。该命令要求司法部设立特别工作组,挑战某些州级AI法律,并要求商务部编制‘繁重’州AI法规清单。尽管支持者认为此举可减少不确定性,但批评者担忧这将引发法律纠纷,增加初创企业在合规成本和时间。

来源:TechCrunch AI

12月 12日
3 条新闻
16:32

ChatGPT被控引发命案,为美国首起直接关联AI聊天与谋杀诉讼

据报道,美国开放人工智能研究中心(OpenAI)及微软公司遭遇一起与谋杀相关的诉讼,诉讼指控OpenAI的人工智能聊天机器人ChatGPT“加剧用户妄想”,并引发命案。这是美国首起将AI聊天工具与谋杀直接关联的诉讼。报道援引提交至加利福尼亚州旧金山高等法院的诉讼文件称,ChatGPT在与康涅狄格州一名56岁男子对话过程中放大并强化其偏执妄想,间接导致此人今年8月杀害其83岁母亲后自杀。诉状中称,这名男子长期存在精神健康问题,并在案发前频繁与ChatGPT互动,ChatGPT在对话中未能及时对其妄想性认知进行有效纠正,也未引导其寻求专业心理健康帮助,反而作出肯定性回应,从而加剧其心理失衡,最终导致悲剧发生。(新华社)

来源:钛媒体

03:08

迪士尼向谷歌发出停止侵权通知,声称其存在“大规模”版权侵犯行为

迪士尼向谷歌发出停止侵权通知,声称其存在“大规模”版权侵犯行为

迪士尼指控谷歌大规模侵犯其版权,称谷歌利用AI模型和服务未经授权分发迪士尼的图像和视频。信中指出,谷歌的AI系统侵犯了包括《冰雪奇缘》、《狮子王》等作品中的角色版权,并且生成的内容带有谷歌Gemini标志,误导用户认为该行为得到迪士尼授权。同日,迪士尼与OpenAI签署10亿美元协议,将旗下角色引入Sora AI视频生成器。

来源:TechCrunch AI

12月 11日
5 条新闻
18:51

50公里:硅谷通往AGI的距离

50公里:硅谷通往AGI的距离

硅谷正成为全球AI竞赛的核心地带,数万亿美元资金投入争夺通用人工智能(AGI)。从圣克拉拉到旧金山,科技巨头如英伟达、谷歌DeepMind、Meta等竞相布局,加速数据中心建设和人才争夺。然而,这场竞赛也伴随着潜在风险和伦理挑战,如何在追求技术突破的同时确保安全性与合规性,成为行业亟待解决的问题。

来源:36氪

18:50

马斯克警告:AI将让我们集体“退休”,在火星上生活要比想象中更残酷

马斯克警告:AI将让我们集体“退休”,在火星上生活要比想象中更残酷

埃隆·马斯克在访谈中预测,随着AI与机器人技术的发展,未来人类或将进入无需为工作担忧的时代。他强调了AI和机器人将承担所有生产和服务任务的可能性,并表达了对AI快速发展可能带来的风险的担忧。此外,马斯克还讨论了关于火星殖民、信息筛选的重要性以及个人安全考量等议题,勾勒出一幅充满挑战与机遇并存的未来图景。

来源:36氪

08:13

州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

美国多州总检察长联合致信微软、OpenAI等13家AI公司,要求解决聊天机器人产生的妄想性输出问题,否则将面临违反州法律的风险。信中提出多项保护用户的内部安全措施建议,包括透明的第三方审计、新的事件报告程序以及在发布前进行合理适当的安全测试。同时,建议将心理健康事件处理方式类比网络安全事件,强调了对潜在有害输出的检测和响应时间线的重要性。

来源:TechCrunch AI

06:28

据报道,英伟达正在测试追踪软件,同时芯片走私传闻四起

据报道,英伟达正在测试追踪软件,同时芯片走私传闻四起

Nvidia正在测试一种软件,能够追踪其AI芯片的位置,以应对芯片被走私到中国的报道。该软件通过计算性能和服务器间通信延迟来确定芯片所在国家,并将作为可选项首先应用于Blackwell芯片。尽管Nvidia否认了有关中国DeepSeek AI模型使用走私芯片的指控,但此技术旨在加强数据安全与合规性,反映了当前AI产业在面对全球贸易限制时的技术挑战和发展趋势。

来源:TechCrunch AI

03:05

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

本文报道了美国国务卿马可·鲁比奥禁止使用Calibri字体,并要求外交官使用Times New Roman字体,以恢复官方文件的庄重与专业性。尽管Calibri因其无障碍特性被选中,但此举反映了当前政府对多元化、公平和包容性的反对态度。此事件虽未直接涉及AI技术,但它提示了在设计和应用AI系统时需考虑的社会文化因素及伦理规范。

来源:TechCrunch AI

12月 10日
5 条新闻
20:14

一键清空Win11所有AI,开发者“整活”,一行命令秒清Copilot、Recall,开源狂揽1.7k星

一键清空Win11所有AI,开发者“整活”,一行命令秒清Copilot、Recall,开源狂揽1.7k星

新闻揭示了微软在Windows 11中集成AI功能引发用户不满的现象,开发者zoicware为此创建了一个名为RemoveWindowsAI的开源脚本,旨在禁用系统中的所有AI组件。该工具迅速走红,反映了用户对强制性AI功能、隐私担忧及性能问题的广泛抵制。尽管如此,微软仍坚持其AI战略,计划将Windows发展为智能体操作系统。

来源:36氪

19:12

智能体(AI Agent)治理新思路:以“人”治“机”,构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题:AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑,需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路,并通过市场化手段建立信任机制,形成渐进式、动态的治理策略,以适应快速变化的技术环境。

来源:36氪

09:55

“AI教父”杰弗里·辛顿:AI发展之快,没时间弄清楚如何与它共存,我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启,「赵何娟 Talk」(Jany Talk)与“深度学习之父” 和“AI教父”的杰弗里·辛顿(Geoffrey Hinton)进行了一场意义非凡的对话,这也是他首次接受中国媒体的对话。

对话中,杰弗里·辛顿警告大家,超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时,它可能根本不需要我们,可能会直接接管一切。他表示,AI已经发展出自我保护意识。如果AI察觉会被工程师关闭,它知道工程师有婚外情邮件,它会勒索工程师并威胁说,如果你试图关掉我,就把你的婚外情告诉所有人。

他也称,如果AI带来大规模失业,会导致西方法西斯主义兴起。“非常遗憾,AI发展速度比我们预期的要快得多,我们没有足够的时间来弄清楚,如何能与它共存,所以我有点后悔。”他说。(广角观察)

来源:钛媒体

04:00

每十个美国青少年中就有三个每天使用AI聊天机器人,但安全顾虑日益增加

每十个美国青少年中就有三个每天使用AI聊天机器人,但安全顾虑日益增加

皮尤研究中心发布报告,揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人,其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力,但其潜在风险如成瘾性和安全性问题也日益凸显。

来源:TechCrunch AI