AI新闻

已选标签:
模型安全
AI视频
12月 11日
5 条新闻
18:50

马斯克警告：AI将让我们集体“退休”，在火星上生活要比想象中更残酷

马斯克警告：AI将让我们集体“退休”，在火星上生活要比想象中更残酷

埃隆·马斯克在访谈中预测，随着AI与机器人技术的发展，未来人类或将进入无需为工作担忧的时代。他强调了AI和机器人将承担所有生产和服务任务的可能性，并表达了对AI快速发展可能带来的风险的担忧。此外，马斯克还讨论了关于火星殖民、信息筛选的重要性以及个人安全考量等议题，勾勒出一幅充满挑战与机遇并存的未来图景。

来源：36氪

# AI对话 # 多模态AI # 模型安全
09:32

从Sora到可灵，视频AI还没到GPT时刻

从Sora到可灵，视频AI还没到GPT时刻

新闻探讨了当前视频生成大模型的发展现状与挑战，包括快手可灵AI和OpenAI Sora2等产品在提升创作效率的同时面临的留存率低、算力成本高昂及商业模式不清晰等问题。技术上，尽管DiT架构提高了视频生成质量，但可控性差、推理成本高仍是主要瓶颈。未来，视频AI需在算法突破、算力优化及找到可持续商业路径方面取得进展，才能实现大规模应用。

来源：36氪

# AI视频 # 模型突破 # 生成模型
08:13

州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

美国多州总检察长联合致信微软、OpenAI等13家AI公司，要求解决聊天机器人产生的妄想性输出问题，否则将面临违反州法律的风险。信中提出多项保护用户的内部安全措施建议，包括透明的第三方审计、新的事件报告程序以及在发布前进行合理适当的安全测试。同时，建议将心理健康事件处理方式类比网络安全事件，强调了对潜在有害输出的检测和响应时间线的重要性。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
06:28

据报道，英伟达正在测试追踪软件，同时芯片走私传闻四起

据报道，英伟达正在测试追踪软件，同时芯片走私传闻四起

Nvidia正在测试一种软件，能够追踪其AI芯片的位置，以应对芯片被走私到中国的报道。该软件通过计算性能和服务器间通信延迟来确定芯片所在国家，并将作为可选项首先应用于Blackwell芯片。尽管Nvidia否认了有关中国DeepSeek AI模型使用走私芯片的指控，但此技术旨在加强数据安全与合规性，反映了当前AI产业在面对全球贸易限制时的技术挑战和发展趋势。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全
03:05

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

本文报道了美国国务卿马可·鲁比奥禁止使用Calibri字体，并要求外交官使用Times New Roman字体，以恢复官方文件的庄重与专业性。尽管Calibri因其无障碍特性被选中，但此举反映了当前政府对多元化、公平和包容性的反对态度。此事件虽未直接涉及AI技术，但它提示了在设计和应用AI系统时需考虑的社会文化因素及伦理规范。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
12月 10日
10 条新闻
20:14

一键清空Win11所有AI，开发者“整活”，一行命令秒清Copilot、Recall，开源狂揽1.7k星

一键清空Win11所有AI，开发者“整活”，一行命令秒清Copilot、Recall，开源狂揽1.7k星

新闻揭示了微软在Windows 11中集成AI功能引发用户不满的现象，开发者zoicware为此创建了一个名为RemoveWindowsAI的开源脚本，旨在禁用系统中的所有AI组件。该工具迅速走红，反映了用户对强制性AI功能、隐私担忧及性能问题的广泛抵制。尽管如此，微软仍坚持其AI战略，计划将Windows发展为智能体操作系统。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
19:12

智能体（AI Agent）治理新思路：以“人”治“机”，构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题：AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑，需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路，并通过市场化手段建立信任机制，形成渐进式、动态的治理策略，以适应快速变化的技术环境。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
17:08

好莱坞首位AI女演员幕后：花6万美元「整」出黑眼圈，毙掉2000版，卡梅隆：令人毛骨悚然

好莱坞首位AI女演员幕后：花6万美元「整」出黑眼圈，毙掉2000版，卡梅隆：令人毛骨悚然

新闻报道了英国公司 Particle6 利用多种 AI 技术，包括 ChatGPT、Runway、Sora 等，创造了一个名为 Tilly Norwood 的虚拟女演员。Tilly 的设计经历了多次迭代优化，最终实现了高度逼真的外观与动态表现能力。这一案例展示了 AI 在图像生成、视频合成等多模态处理方面的最新进展及其在影视娱乐领域的潜在应用价值。

来源：36氪

# AI视频 # 多模态AI # 生成模型
14:28

5天连更5次，可灵AI年末“狂飙式”升级

5天连更5次，可灵AI年末“狂飙式”升级

可灵AI在5天内连续发布5次更新，推出全球首个统一的多模态视频及图片创作工具“可灵O1”、具备“音画同出”能力的可灵2.6模型等。这些更新不仅提升了生成式AI在视频和图像生成方面的可控性和多样性，还实现了从文本到包含自然语言、动作音效及环境氛围音的完整视频的一站式生成。此外，通过融合多模态理解与长上下文技术，可灵AI进一步推动了生成式AI技术的发展，并在多个应用场景中展现出卓越性能。

来源：量子位

# AI视频 # 多模态AI # 生成模型
09:55

“AI教父”杰弗里·辛顿：AI发展之快，没时间弄清楚如何与它共存，我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启，「赵何娟 Talk」（Jany Talk）与“深度学习之父” 和“AI教父”的杰弗里·辛顿（Geoffrey Hinton）进行了一场意义非凡的对话，这也是他首次接受中国媒体的对话。

对话中，杰弗里·辛顿警告大家，超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时，它可能根本不需要我们，可能会直接接管一切。他表示，AI已经发展出自我保护意识。如果AI察觉会被工程师关闭，它知道工程师有婚外情邮件，它会勒索工程师并威胁说，如果你试图关掉我，就把你的婚外情告诉所有人。

他也称，如果AI带来大规模失业，会导致西方法西斯主义兴起。“非常遗憾，AI发展速度比我们预期的要快得多，我们没有足够的时间来弄清楚，如何能与它共存，所以我有点后悔。”他说。（广角观察）

来源：钛媒体

# AI对话 # 模型安全 # 模型突破
04:00

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

皮尤研究中心发布报告，揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人，其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力，但其潜在风险如成瘾性和安全性问题也日益凸显。

来源：TechCrunch AI

# AI对话 # 模型安全
03:04

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出AI面部识别功能，通过深度学习技术识别常客，提升家庭安全与便利性。用户可自定义访客标签，实现个性化通知。然而，该功能引发隐私保护组织和立法者的担忧，特别是在数据安全和隐私保护方面。亚马逊强调数据加密且不共享，但其历史上的安全问题及与执法机构的合作关系仍引起争议。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
00:29

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟委员会对谷歌展开反垄断调查，质疑其AI搜索工具是否违反了竞争法。调查聚焦于谷歌是否未经补偿使用网站内容生成AI摘要，并限制其他AI公司使用YouTube内容训练模型。此举旨在确保AI市场竞争公平，保护内容创作者权益。同时，欧盟正考虑简化AI监管规则，以应对高风险应用的挑战。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全
00:09

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI模型的公司实施强制性版税制度，旨在降低AI公司的合规成本并确保创作者得到补偿。该提案通过设立单一收集机构自动授权AI企业访问所有版权作品，以换取强制支付版税。此举措可能重塑OpenAI和谷歌等公司在全球快速增长市场中的运营方式，并为AI训练提供了一个新的监管框架。

来源：TechCrunch AI

# AI训练 # 模型安全 # 生成模型
12月 9日
4 条新闻
20:33

免费开放数字人直播，京东直播能扳回一局吗

免费开放数字人直播，京东直播能扳回一局吗

京东宣布免费向所有商家开放数字人直播服务，利用AI技术提供24小时不间断直播能力，支持多语种、换装等多种直播形式。此举旨在通过降低运营成本和提高内容输出稳定性来增强直播电商竞争力。然而，不同平台对数字人技术的态度存在差异，部分平台担忧其可能破坏内容生态或引发不可控风险。尽管京东数字人已累计带动数百亿GMV，但对其整体业务贡献仍有限。

来源：36氪

# AI智能体 # AI视频 # 生成模型
20:33

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

本文探讨了AI代理在金融服务领域的应用及其带来的法律和监管风险。AI代理利用机器学习技术，如大型语言模型，实现自主决策、目标导向推理及与外部环境互动，适用于反洗钱合规、自然语言交易执行等场景。然而，其高自主性也带来了数据隐私、网络安全、偏见与歧视等复合型风险。金融机构需采取合同制约、技术措施等手段来缓解这些风险，并积极参与监管动态以应对未来法规变化。

来源：36氪

# AI智能体 # 合规风控 # 模型安全
12月 8日
1 条新闻
21:00

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge推出AI驱动的’Convo Starters’功能，旨在帮助用户通过提供基于个人资料和照片定制的对话建议来打破初次交流的尴尬。该功能利用机器学习技术分析用户偏好，并生成能够激发兴趣的话题建议。尽管此举受到多数用户的欢迎，尤其是考虑到附带消息的喜欢能显著提高约会成功率，但部分年轻用户对在线交友中使用AI感到不安。这反映出AI在提升用户体验的同时，也面临着隐私保护与接受度等挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型