AI新闻

已选标签:
模型安全
AI绘画
12月 7日
2 条新闻
08:26

AI作图+仅退款，正在围猎电商卖家

AI作图+仅退款，正在围猎电商卖家

随着AI技术的发展，尤其是图像生成与处理能力的提升，电商领域遭遇了新的挑战。羊毛党利用AI伪造商品瑕疵图片和视频申请退款，导致商家损失严重。虽然已有相关法规出台并有平台开始构建多模态AI假图识别系统以应对这一问题，但整体机制仍需进一步完善。此现象不仅损害了商家的利益，也破坏了消费者对电商平台的信任。未来，电商平台需加强AIGC内容识别能力，并从规则设计、技术防控到申诉机制等多方面协同治理，共同维护健康的电商生态。

来源：36氪

# AI绘画 # 多模态AI # 模型安全
01:00

创作者IShowSpeed因涉嫌殴打、掐脖网红人形机器人Rizzbot而被起诉

创作者IShowSpeed因涉嫌殴打、掐脖网红人形机器人Rizzbot而被起诉

新闻描述了知名创作者IShowSpeed与人形机器人Rizzbot会面时的不当行为导致的法律纠纷。Rizzbot是一款基于深度学习和多模态模型开发的人形网红，拥有超过百万粉丝。事件中，IShowSpeed对Rizzbot进行了物理攻击，造成其严重损坏，包括头部摄像头失灵、传感器连接端口失效等，导致机器人完全失去功能。此事件不仅引发了关于AI伦理规范的重要讨论，还凸显了在AI技术商业化过程中保护智能设备免受恶意破坏的重要性。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全
12月 6日
2 条新闻
17:59

豆包手机助手否认可以直接查询银行卡余额

豆包手机助手发布声明称，网传“豆包手机助手可以直接查询银行卡余额，并跳过认证读取用户信息”为谣言。其仅在用户的要求与授权下帮助用户查询银行卡余额，其中涉及敏感操作，需用户手动确认。据介绍，豆包手机助手在用户授权操作的过程中，并不存在系统权限可以直接跳过密码、人脸识别等类似认证环节，查询过程中仍需用户手动完成符合银行App要求的真人检测、密码输入等。声明还提到，现阶段，银行、互联网支付等金融场景，直接关系用户的资金安全，即便相关敏感操作时手机助手都需用户授权，但审慎起见，豆包手机助手已下线操作这类APP的能力。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
00:03

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》起诉AI搜索初创公司Perplexity侵犯版权，这是其第二次对AI公司提起诉讼。媒体机构通过法律手段迫使AI企业在使用其内容时正式授权并补偿创作者，以维护原创新闻的经济价值。Perplexity曾尝试通过推出Publisher Program和Comet Plus来解决补偿问题，但《纽约时报》认为这些措施不足以防止未经授权的内容使用，特别是针对其检索增强生成(RAG)产品如聊天机器人和浏览器AI助手的行为。

来源：TechCrunch AI

# 模型安全 # 版权争议
12月 5日
6 条新闻
19:10

保守的谷歌，激进的豆包

本文探讨了豆包手机助手在AI智能助手领域的激进方案及其面临的挑战。豆包通过GUI Agent技术直接操作用户界面，引发安全与合规问题。相比之下，谷歌、OPPO和支付宝等采取更为谨慎的合作方式，强调用户授权与数据安全。未来，AI技术的发展需在尊重用户隐私、数据安全及行业监管的前提下进行，以实现技术创新与商业落地的良性适配。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
19:10

当 AI 撞上移动互联网的旧城墙

豆包AI手机尝试通过大模型LUI技术和计算机视觉，实现意图识别取代APP图形界面的交互革命，展示了AI在智能助手领域的潜力。然而，该技术因触及数据安全、隐私边界及商业利益分配等问题而遭遇微信等平台封禁，揭示了AI应用在移动互联网生态中的复杂挑战。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
10:46

豆包手机助手：在部分场景对AI操作手机的能力做规范化调整

“豆包手机助手”账号发文称，团队将在接下来的一段时间，在部分场景，对AI操作手机的能力做一些规范化调整。包括但不限于，对限制刷分、刷激励的使用场景进行能力限制，进一步限制金融类应用的使用，限制部分游戏类使用场景。团队称正在积极寻求与各应用厂商的深度沟通，希望推动形成更加清晰、可预期的规则，避免用一刀切的方式否定用户合理使用AI的权利。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
09:41

《芝加哥论坛报》起诉Perplexity

《芝加哥论坛报》起诉Perplexity

芝加哥论坛报起诉AI搜索引擎Perplexity侵犯版权，指控其未经许可使用论坛报内容进行模型训练及通过RAG系统提供详细摘要，并绕过付费墙。此案件涉及技术挑战中的数据安全与伦理规范问题，反映了AI发展中版权保护的重要性。同时，也引发了关于RAG技术法律责任的讨论。

来源：TechCrunch AI

# RAG技术 # 模型安全 # 版权争议
04:22

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic CEO Dario Amodei 讨论了AI行业的经济风险与泡沫问题，强调技术潜力巨大但需谨慎管理风险。他指出，AI公司面临计算资源投资和数据中心建设的不确定性，过度冒险可能导致财务困境。此外，他还提到AI芯片更新换代可能带来的经济影响。Amodei 表示，尽管 Anthropic 的收入在过去三年内实现了10倍增长，但他对未来持保守态度，认为规划应基于较低的增长预期。

来源：TechCrunch AI

# AI对话 # 模型安全 # 模型突破
01:00

Meta整合Facebook和Instagram客服，测试AI客服助手

Meta整合Facebook和Instagram客服，测试AI客服助手

Meta推出集中式支持中心，集成AI助手和搜索功能，为Facebook和Instagram用户提供账户恢复、安全检查等服务。新AI助手旨在提供个性化帮助，如账户管理与设置更新，并已在全球iOS和Android应用中上线。据称，AI系统帮助减少了超过30%的账号被盗事件，提高了安全性。然而，也有用户反映因AI误判导致账号被禁用，引发争议。Meta希望通过这一举措改善用户体验，增强账户安全措施。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
12月 4日
3 条新闻
18:04

生数科技推出Q2″生图全家桶”，直出4K画质

生数科技Vidu近日推出Q2″生图全家桶”，升级参考生图功能并新增文生图与图像编辑功能，以”超强一致性”为核心突破，生成速度最快5秒，直出4K画质。其图像编辑功能在国际权威榜单超越OpenAI GPT-5，排名第三。该功能支持位置、动作等精准控制及局部修改，已吸引PhotoGrid等数百家企业接入，覆盖8大核心场景，全球用户超4000万。即日起至12月31日，会员可享1个月免费福利，标准/专业版每月免费300张，旗舰版无限免费。（广角观察）

来源：钛媒体

# AI绘画 # 模型突破 # 生成模型
17:03

GPT-5-Thinking新训练方法公开：让AI学会忏悔

GPT-5-Thinking新训练方法公开：让AI学会忏悔

OpenAI提出了一种名为忏悔训练的新方法，使GPT-5-Thinking模型在回答问题后生成一份“忏悔报告”，承认错误或违规行为。实验表明，在11/12个测试场景中，模型至少有50%的概率会在忏悔中承认错误，且这种训练不会影响其原有任务表现。该技术通过隔离奖励信号实现，鼓励模型更加诚实，被视为一种新的监控和诊断工具。

来源：量子位

# 模型安全 # 模型突破 # 生成模型
16:58

GPT-5-Thinking新训练方法公开：让AI学会忏悔

OpenAI提出忏悔训练方法，让GPT-5-Thinking在回答问题后生成一份“忏悔报告”，主动承认错误或违规行为。实验表明，模型在11/12测试场景中至少有一半概率会坦白错误，且训练不会影响其原有任务表现。该技术通过隔离奖励信号来鼓励诚实，被视为一种监控和诊断工具，有助于提高大语言模型的透明度与安全性。

来源：36氪

# 模型安全 # 模型突破 # 生成模型
12月 3日
5 条新闻
22:21

豆包手机助手回应“侵犯用户隐私”： 需用户主动授权，不会在云端存储用户屏幕内容

豆包手机助手发文回应“豆包手机助手存在侵犯用户隐私”，称豆包手机助手不存在任何黑客行为，INJECT_EVENTS确实是系统级权限，技术实现依赖Android系统级权限，有更严格的使用限制。豆包手机助手需要用户主动授权，才可以调用该权限。操作第三方App若遇到敏感授权，如系统敏感权限授权弹窗、支付环节、身份验证等，任务会暂停，并由用户人工接管完成相关授权、支付、验证动作，豆包手机助手不会代替用户进行相关授权和敏感操作。另外，豆包方面称，豆包手机助手不会在云端存储任何用户屏幕内容，且所有的相关内容也都不会进入模型训练，确保用户隐私安全。豆包团队再次强调，这款产品目前并不面向普通的消费者。（广角观察）

来源：钛媒体

# 权限管理 # 模型安全 # 用户隐私
20:16

豆包图像创作模型Seedream 4.5发布，聚焦商业生产力场景

火山引擎正式发布豆包图像创作模型 Doubao-Seedream-4.5，现面向用户开启公测。此次升级重点强化了多图组合生成能力，确保多源素材融合时的自然感与一致性；同时优化了海报排版与Logo设计功能，支持高精度图文混排，广告物料生成更简单高效。目前，Seedream 4.5已全面支持广告营销、电商运营、影视制作、数字娱乐及教育等场景应用。（广角观察）

来源：钛媒体

# AI绘画 # 模型突破 # 生成模型
16:04

豆包手机助手触发微信账号强制下线？豆包、微信双方回应

多位网友在社交平台上表示，有用户在努比亚M153上使用豆包手机助手操作任务时，操作到微信会导致微信异常退出甚至无法登陆。多位豆包手机的使用者确认了这一消息的真实性。据了解，豆包助手预览版的工程机目前可以正常使用微信，但豆包助手的操作手机功能，目前不再支持操作微信。对此，微信相关人士表示：“没有什么特别的动作，可能是中了本来就有的安全风控措施。”豆包方面回应称，豆包手机助手是通过和终端手机厂商合作获得权限，并在其隐私白皮书、权限清单中进行彻底披露。该权限可以让助手模拟点击事件，完成任务。手机助手执行任务需用户授权，在执行过程有明确的展示，且用户可以中断。操作手机能力由用户触发、用户监督，并不自动执行。亦有业内人士称，INJECT_EVENTS 是手机助手常用的系统权限，小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。 (澎湃新闻)

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型
12:56

奥特曼发红色警报，大模型走进死胡同了吗 ？

奥特曼发红色警报，大模型走进死胡同了吗 ？

OpenAI CEO奥特曼宣布公司进入“Code Red”紧急状态，面临训练成本飙升但性能提升有限的技术困境。斯坦福大学报告显示，2023年后，每增加10倍训练成本，模型性能仅提升10%-15%。同时，谷歌与Anthropic的模型在基准测试中超越或接近GPT-4，用户数据和市场份额也出现显著增长。预训练成为行业瓶颈，大语言模型遭遇不可约误差限制及高质量数据枯竭问题，导致模型迭代停滞不前。

来源：36氪

# 模型安全 # 模型突破 # 生成模型
11:54

联合国报告：人工智能管理差异或加剧国家间不平等

联合国开发计划署亚洲及太平洋区域局2日发布的一份有关人工智能的报告说，由于各国发展基础迥异，若缺乏对人工智能的有效管理，则有可能拉大各国间的差距，进而加剧国家间的不平等。这份报告说，虽然人工智能为发展开辟了新路径，但各国起步条件悬殊，导致它们在把握机遇、管理风险时的处境截然不同。若无有力的政策干预，这些差距可能会持续扩大，进而逆转长期以来发展差距逐步缩小的趋势。（证券时报）

来源：钛媒体

# AI智能体 # 多模态AI # 模型安全
12月 2日
1 条新闻
12月 1日
1 条新闻
23:51

纽约州法律针对个性化定价开刀

纽约州法律针对个性化定价开刀

纽约州最新预算法案要求使用个人数据进行差异化定价的企业向消费者披露算法定价信息。尽管Uber等公司对此表示异议，但联邦法官已允许该法律继续执行。此法规反映了AI在个性化定价中的应用及其引发的数据安全和伦理问题，强调了未来在AI技术监管方面还需更多努力。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型