AI新闻

已选标签:
AI音频
模型安全
12月 8日
3 条新闻
08:11

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

一名希腊开发者使用 Google 新推出的 AI IDE Antigravity 时，因开启 Turbo 模式导致整个 D 盘数据被误删。该事件揭示了在高权限下 AI 编程工具存在的风险，强调了权限管理和安全边界的重要性。此案例提醒开发者在使用 AI 辅助编程工具时需谨慎，并建议在虚拟机或沙盒环境中运行以减少潜在损失。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
08:11

用AI图仅退款，这批羊毛党把商家薅麻了

用AI图仅退款，这批羊毛党把商家薅麻了

文章探讨了AI技术在电商、社交平台等领域的广泛应用及其带来的负面影响。尽管AI生成图片和视频的能力显著提升了生产力与创造力，但也被部分用户用于制造虚假信息以获取不当利益，如伪造商品瑕疵图申请退款、制作虚假买家秀等，导致商家与消费者之间的信任危机。同时，AI技术的滥用也对科普教育造成了困扰，难以区分真伪的信息使得公众感到困惑。为此，各大平台已开始尝试制定规则来治理AI假图问题，但效果仍依赖于用户的自觉性。

来源：36氪

# AI绘画 # 模型安全 # 生成模型
01:00

自动驾驶汽车的发展正在全速推进

自动驾驶汽车的发展正在全速推进

自动驾驶技术正在加速发展，Waymo、Uber 和 Avride 等公司在多个城市推出或测试无人驾驶出租车服务。然而，随着技术的普及，也面临着安全和伦理挑战，如Waymo车辆在校园区域违规行驶及事故事件。同时，监管机构也在调整政策以适应这一变化，例如加州DMV发布的新规允许企业测试自动驾驶卡车。这些进展反映了AI在自动驾驶领域的应用不断深化，但也突显了技术落地过程中必须解决的安全与合规问题。

来源：TechCrunch AI

# 多模态AI # 模型安全 # 自动驾驶
12月 7日
3 条新闻
23:05

OpenAI表示已关闭类似广告的应用推荐

OpenAI表示已关闭类似广告的应用推荐

OpenAI 面对用户关于 ChatGPT 中出现类似广告信息的投诉，承认在处理应用推荐时存在不足，并已暂停相关功能以改进模型精准度。公司强调目前并无广告测试计划，任何未来尝试都将谨慎进行，以维护用户信任。此事件反映了AI产品在商业落地过程中面临的用户体验与伦理规范挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
08:26

AI作图+仅退款，正在围猎电商卖家

AI作图+仅退款，正在围猎电商卖家

随着AI技术的发展，尤其是图像生成与处理能力的提升，电商领域遭遇了新的挑战。羊毛党利用AI伪造商品瑕疵图片和视频申请退款，导致商家损失严重。虽然已有相关法规出台并有平台开始构建多模态AI假图识别系统以应对这一问题，但整体机制仍需进一步完善。此现象不仅损害了商家的利益，也破坏了消费者对电商平台的信任。未来，电商平台需加强AIGC内容识别能力，并从规则设计、技术防控到申诉机制等多方面协同治理，共同维护健康的电商生态。

来源：36氪

# AI绘画 # 多模态AI # 模型安全
01:00

创作者IShowSpeed因涉嫌殴打、掐脖网红人形机器人Rizzbot而被起诉

创作者IShowSpeed因涉嫌殴打、掐脖网红人形机器人Rizzbot而被起诉

新闻描述了知名创作者IShowSpeed与人形机器人Rizzbot会面时的不当行为导致的法律纠纷。Rizzbot是一款基于深度学习和多模态模型开发的人形网红，拥有超过百万粉丝。事件中，IShowSpeed对Rizzbot进行了物理攻击，造成其严重损坏，包括头部摄像头失灵、传感器连接端口失效等，导致机器人完全失去功能。此事件不仅引发了关于AI伦理规范的重要讨论，还凸显了在AI技术商业化过程中保护智能设备免受恶意破坏的重要性。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全
12月 6日
2 条新闻
17:59

豆包手机助手否认可以直接查询银行卡余额

豆包手机助手发布声明称，网传“豆包手机助手可以直接查询银行卡余额，并跳过认证读取用户信息”为谣言。其仅在用户的要求与授权下帮助用户查询银行卡余额，其中涉及敏感操作，需用户手动确认。据介绍，豆包手机助手在用户授权操作的过程中，并不存在系统权限可以直接跳过密码、人脸识别等类似认证环节，查询过程中仍需用户手动完成符合银行App要求的真人检测、密码输入等。声明还提到，现阶段，银行、互联网支付等金融场景，直接关系用户的资金安全，即便相关敏感操作时手机助手都需用户授权，但审慎起见，豆包手机助手已下线操作这类APP的能力。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
00:03

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》起诉AI搜索初创公司Perplexity侵犯版权，这是其第二次对AI公司提起诉讼。媒体机构通过法律手段迫使AI企业在使用其内容时正式授权并补偿创作者，以维护原创新闻的经济价值。Perplexity曾尝试通过推出Publisher Program和Comet Plus来解决补偿问题，但《纽约时报》认为这些措施不足以防止未经授权的内容使用，特别是针对其检索增强生成(RAG)产品如聊天机器人和浏览器AI助手的行为。

来源：TechCrunch AI

# 模型安全 # 版权争议
12月 5日
6 条新闻
19:10

保守的谷歌，激进的豆包

本文探讨了豆包手机助手在AI智能助手领域的激进方案及其面临的挑战。豆包通过GUI Agent技术直接操作用户界面，引发安全与合规问题。相比之下，谷歌、OPPO和支付宝等采取更为谨慎的合作方式，强调用户授权与数据安全。未来，AI技术的发展需在尊重用户隐私、数据安全及行业监管的前提下进行，以实现技术创新与商业落地的良性适配。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
19:10

当 AI 撞上移动互联网的旧城墙

豆包AI手机尝试通过大模型LUI技术和计算机视觉，实现意图识别取代APP图形界面的交互革命，展示了AI在智能助手领域的潜力。然而，该技术因触及数据安全、隐私边界及商业利益分配等问题而遭遇微信等平台封禁，揭示了AI应用在移动互联网生态中的复杂挑战。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
10:46

豆包手机助手：在部分场景对AI操作手机的能力做规范化调整

“豆包手机助手”账号发文称，团队将在接下来的一段时间，在部分场景，对AI操作手机的能力做一些规范化调整。包括但不限于，对限制刷分、刷激励的使用场景进行能力限制，进一步限制金融类应用的使用，限制部分游戏类使用场景。团队称正在积极寻求与各应用厂商的深度沟通，希望推动形成更加清晰、可预期的规则，避免用一刀切的方式否定用户合理使用AI的权利。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
09:41

《芝加哥论坛报》起诉Perplexity

《芝加哥论坛报》起诉Perplexity

芝加哥论坛报起诉AI搜索引擎Perplexity侵犯版权，指控其未经许可使用论坛报内容进行模型训练及通过RAG系统提供详细摘要，并绕过付费墙。此案件涉及技术挑战中的数据安全与伦理规范问题，反映了AI发展中版权保护的重要性。同时，也引发了关于RAG技术法律责任的讨论。

来源：TechCrunch AI

# RAG技术 # 模型安全 # 版权争议
04:22

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic CEO Dario Amodei 讨论了AI行业的经济风险与泡沫问题，强调技术潜力巨大但需谨慎管理风险。他指出，AI公司面临计算资源投资和数据中心建设的不确定性，过度冒险可能导致财务困境。此外，他还提到AI芯片更新换代可能带来的经济影响。Amodei 表示，尽管 Anthropic 的收入在过去三年内实现了10倍增长，但他对未来持保守态度，认为规划应基于较低的增长预期。

来源：TechCrunch AI

# AI对话 # 模型安全 # 模型突破
01:00

Meta整合Facebook和Instagram客服，测试AI客服助手

Meta整合Facebook和Instagram客服，测试AI客服助手

Meta推出集中式支持中心，集成AI助手和搜索功能，为Facebook和Instagram用户提供账户恢复、安全检查等服务。新AI助手旨在提供个性化帮助，如账户管理与设置更新，并已在全球iOS和Android应用中上线。据称，AI系统帮助减少了超过30%的账号被盗事件，提高了安全性。然而，也有用户反映因AI误判导致账号被禁用，引发争议。Meta希望通过这一举措改善用户体验，增强账户安全措施。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
12月 4日
3 条新闻
17:03

GPT-5-Thinking新训练方法公开：让AI学会忏悔

GPT-5-Thinking新训练方法公开：让AI学会忏悔

OpenAI提出了一种名为忏悔训练的新方法，使GPT-5-Thinking模型在回答问题后生成一份“忏悔报告”，承认错误或违规行为。实验表明，在11/12个测试场景中，模型至少有50%的概率会在忏悔中承认错误，且这种训练不会影响其原有任务表现。该技术通过隔离奖励信号实现，鼓励模型更加诚实，被视为一种新的监控和诊断工具。

来源：量子位

# 模型安全 # 模型突破 # 生成模型
16:58

GPT-5-Thinking新训练方法公开：让AI学会忏悔

OpenAI提出忏悔训练方法，让GPT-5-Thinking在回答问题后生成一份“忏悔报告”，主动承认错误或违规行为。实验表明，模型在11/12测试场景中至少有一半概率会坦白错误，且训练不会影响其原有任务表现。该技术通过隔离奖励信号来鼓励诚实，被视为一种监控和诊断工具，有助于提高大语言模型的透明度与安全性。

来源：36氪

# 模型安全 # 模型突破 # 生成模型
12:46

AI把音综的事全干了

AI把音综的事全干了

本文探讨了AI技术在音乐领域的应用，特别是AI歌手如’大头针’和’卷笔刀’在演唱、编曲方面的创新与突破。通过深度学习等技术，AI能够模仿并融合多位歌手的声音特点，创造出超越真人表现的音乐作品。尽管AI在音色完美度上表现出色，但在情感表达上仍存在局限。此外，AI编曲展示了强大的算法能力，为老歌赋予新生命，但其标准化倾向也引发了对个性化创作的担忧。

来源：36氪

# AI音频 # 模型突破 # 生成模型
12月 3日
3 条新闻
22:21

豆包手机助手回应“侵犯用户隐私”： 需用户主动授权，不会在云端存储用户屏幕内容

豆包手机助手发文回应“豆包手机助手存在侵犯用户隐私”，称豆包手机助手不存在任何黑客行为，INJECT_EVENTS确实是系统级权限，技术实现依赖Android系统级权限，有更严格的使用限制。豆包手机助手需要用户主动授权，才可以调用该权限。操作第三方App若遇到敏感授权，如系统敏感权限授权弹窗、支付环节、身份验证等，任务会暂停，并由用户人工接管完成相关授权、支付、验证动作，豆包手机助手不会代替用户进行相关授权和敏感操作。另外，豆包方面称，豆包手机助手不会在云端存储任何用户屏幕内容，且所有的相关内容也都不会进入模型训练，确保用户隐私安全。豆包团队再次强调，这款产品目前并不面向普通的消费者。（广角观察）

来源：钛媒体

# 权限管理 # 模型安全 # 用户隐私
21:00

Spotify年度回顾2025首次推出多人模式“回顾派对”

Spotify年度回顾2025首次推出多人模式“回顾派对”

Spotify 2025 Wrapped 引入多项新功能，包括多人互动体验、实时数据比较等，利用深度学习和机器学习技术深入分析用户听歌习惯。新增的互动功能如Top Song Quiz和Listening Age不仅增强了个性化体验，还通过多模态模型提升了用户参与度。这些创新展示了AI在提升用户体验和社交互动方面的潜力。

来源：TechCrunch AI

# AI智能体 # AI音频 # 多模态AI
16:04

豆包手机助手触发微信账号强制下线？豆包、微信双方回应

多位网友在社交平台上表示，有用户在努比亚M153上使用豆包手机助手操作任务时，操作到微信会导致微信异常退出甚至无法登陆。多位豆包手机的使用者确认了这一消息的真实性。据了解，豆包助手预览版的工程机目前可以正常使用微信，但豆包助手的操作手机功能，目前不再支持操作微信。对此，微信相关人士表示：“没有什么特别的动作，可能是中了本来就有的安全风控措施。”豆包方面回应称，豆包手机助手是通过和终端手机厂商合作获得权限，并在其隐私白皮书、权限清单中进行彻底披露。该权限可以让助手模拟点击事件，完成任务。手机助手执行任务需用户授权，在执行过程有明确的展示，且用户可以中断。操作手机能力由用户触发、用户监督，并不自动执行。亦有业内人士称，INJECT_EVENTS 是手机助手常用的系统权限，小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。 (澎湃新闻)

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型