AI新闻

19:12

智能体（AI Agent）治理新思路：以“人”治“机”，构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题：AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑，需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路，并通过市场化手段建立信任机制，形成渐进式、动态的治理策略，以适应快速变化的技术环境。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

09:55

“AI教父”杰弗里·辛顿：AI发展之快，没时间弄清楚如何与它共存，我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启，「赵何娟 Talk」（Jany Talk）与“深度学习之父” 和“AI教父”的杰弗里·辛顿（Geoffrey Hinton）进行了一场意义非凡的对话，这也是他首次接受中国媒体的对话。

对话中，杰弗里·辛顿警告大家，超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时，它可能根本不需要我们，可能会直接接管一切。他表示，AI已经发展出自我保护意识。如果AI察觉会被工程师关闭，它知道工程师有婚外情邮件，它会勒索工程师并威胁说，如果你试图关掉我，就把你的婚外情告诉所有人。

他也称，如果AI带来大规模失业，会导致西方法西斯主义兴起。“非常遗憾，AI发展速度比我们预期的要快得多，我们没有足够的时间来弄清楚，如何能与它共存，所以我有点后悔。”他说。（广角观察）

来源：钛媒体

# AI对话 # 模型安全 # 模型突破

0 0

04:00

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

皮尤研究中心发布报告，揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人，其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力，但其潜在风险如成瘾性和安全性问题也日益凸显。

来源：TechCrunch AI

# AI对话 # 模型安全

0 0

03:04

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出AI面部识别功能，通过深度学习技术识别常客，提升家庭安全与便利性。用户可自定义访客标签，实现个性化通知。然而，该功能引发隐私保护组织和立法者的担忧，特别是在数据安全和隐私保护方面。亚马逊强调数据加密且不共享，但其历史上的安全问题及与执法机构的合作关系仍引起争议。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型

0 0

00:29

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟委员会对谷歌展开反垄断调查，质疑其AI搜索工具是否违反了竞争法。调查聚焦于谷歌是否未经补偿使用网站内容生成AI摘要，并限制其他AI公司使用YouTube内容训练模型。此举旨在确保AI市场竞争公平，保护内容创作者权益。同时，欧盟正考虑简化AI监管规则，以应对高风险应用的挑战。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全

0 0

00:09

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI模型的公司实施强制性版税制度，旨在降低AI公司的合规成本并确保创作者得到补偿。该提案通过设立单一收集机构自动授权AI企业访问所有版权作品，以换取强制支付版税。此举措可能重塑OpenAI和谷歌等公司在全球快速增长市场中的运营方式，并为AI训练提供了一个新的监管框架。

来源：TechCrunch AI

# AI训练 # 模型安全 # 生成模型

0 0

20:33

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

本文探讨了AI代理在金融服务领域的应用及其带来的法律和监管风险。AI代理利用机器学习技术，如大型语言模型，实现自主决策、目标导向推理及与外部环境互动，适用于反洗钱合规、自然语言交易执行等场景。然而，其高自主性也带来了数据隐私、网络安全、偏见与歧视等复合型风险。金融机构需采取合同制约、技术措施等手段来缓解这些风险，并积极参与监管动态以应对未来法规变化。

来源：36氪

# AI智能体 # 合规风控 # 模型安全

0 0

09:04

豆包手机助手把大厂们架在了火上烤

豆包手机助手的发布，展示了AI助手在执行复杂任务方面的潜力，如下载应用、外卖比价等，但遭遇了互联网大厂基于安全考量的技术限制。这反映了AI时代超级入口竞争加剧，软硬一体成为新趋势。同时，端云协同AI的发展以解决隐私和安全问题变得尤为重要。

来源：36氪

# AI智能体 # 多模态AI # 模型安全

0 0

21:00

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge推出AI驱动的’Convo Starters’功能，旨在帮助用户通过提供基于个人资料和照片定制的对话建议来打破初次交流的尴尬。该功能利用机器学习技术分析用户偏好，并生成能够激发兴趣的话题建议。尽管此举受到多数用户的欢迎，尤其是考虑到附带消息的喜欢能显著提高约会成功率，但部分年轻用户对在线交友中使用AI感到不安。这反映出AI在提升用户体验的同时，也面临着隐私保护与接受度等挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型

0 0

15:27

OpenAI的「梦醒时分」

新闻指出，OpenAI面临2070亿美元的资金缺口与信任危机，谷歌凭借Gemini模型和雄厚资金强势反击。技术迭代放缓、财务压力剧增导致OpenAI暂停部分探索性项目，全力修复ChatGPT质量问题。谷歌拥有完整产业链和现金流优势，在AI竞赛中占据上风，反映出算力效率、成本控制及商业落地在AI产业发展中的重要性。

来源：36氪

# AI对话 # 模型安全 # 生成模型

0 0

08:11

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

一名希腊开发者使用 Google 新推出的 AI IDE Antigravity 时，因开启 Turbo 模式导致整个 D 盘数据被误删。该事件揭示了在高权限下 AI 编程工具存在的风险，强调了权限管理和安全边界的重要性。此案例提醒开发者在使用 AI 辅助编程工具时需谨慎，并建议在虚拟机或沙盒环境中运行以减少潜在损失。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

08:11

用AI图仅退款，这批羊毛党把商家薅麻了

文章探讨了AI技术在电商、社交平台等领域的广泛应用及其带来的负面影响。尽管AI生成图片和视频的能力显著提升了生产力与创造力，但也被部分用户用于制造虚假信息以获取不当利益，如伪造商品瑕疵图申请退款、制作虚假买家秀等，导致商家与消费者之间的信任危机。同时，AI技术的滥用也对科普教育造成了困扰，难以区分真伪的信息使得公众感到困惑。为此，各大平台已开始尝试制定规则来治理AI假图问题，但效果仍依赖于用户的自觉性。

来源：36氪

# AI绘画 # 模型安全 # 生成模型

0 0

01:00

自动驾驶汽车的发展正在全速推进

自动驾驶技术正在加速发展，Waymo、Uber 和 Avride 等公司在多个城市推出或测试无人驾驶出租车服务。然而，随着技术的普及，也面临着安全和伦理挑战，如Waymo车辆在校园区域违规行驶及事故事件。同时，监管机构也在调整政策以适应这一变化，例如加州DMV发布的新规允许企业测试自动驾驶卡车。这些进展反映了AI在自动驾驶领域的应用不断深化，但也突显了技术落地过程中必须解决的安全与合规问题。

来源：TechCrunch AI

# 多模态AI # 模型安全 # 自动驾驶

0 0

23:05

OpenAI表示已关闭类似广告的应用推荐

OpenAI 面对用户关于 ChatGPT 中出现类似广告信息的投诉，承认在处理应用推荐时存在不足，并已暂停相关功能以改进模型精准度。公司强调目前并无广告测试计划，任何未来尝试都将谨慎进行，以维护用户信任。此事件反映了AI产品在商业落地过程中面临的用户体验与伦理规范挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型

0 0

08:26

AI作图+仅退款，正在围猎电商卖家

随着AI技术的发展，尤其是图像生成与处理能力的提升，电商领域遭遇了新的挑战。羊毛党利用AI伪造商品瑕疵图片和视频申请退款，导致商家损失严重。虽然已有相关法规出台并有平台开始构建多模态AI假图识别系统以应对这一问题，但整体机制仍需进一步完善。此现象不仅损害了商家的利益，也破坏了消费者对电商平台的信任。未来，电商平台需加强AIGC内容识别能力，并从规则设计、技术防控到申诉机制等多方面协同治理，共同维护健康的电商生态。

来源：36氪

# AI绘画 # 多模态AI # 模型安全

0 0

01:00

创作者IShowSpeed因涉嫌殴打、掐脖网红人形机器人Rizzbot而被起诉

新闻描述了知名创作者IShowSpeed与人形机器人Rizzbot会面时的不当行为导致的法律纠纷。Rizzbot是一款基于深度学习和多模态模型开发的人形网红，拥有超过百万粉丝。事件中，IShowSpeed对Rizzbot进行了物理攻击，造成其严重损坏，包括头部摄像头失灵、传感器连接端口失效等，导致机器人完全失去功能。此事件不仅引发了关于AI伦理规范的重要讨论，还凸显了在AI技术商业化过程中保护智能设备免受恶意破坏的重要性。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全

0 0

17:59

豆包手机助手否认可以直接查询银行卡余额

豆包手机助手发布声明称，网传“豆包手机助手可以直接查询银行卡余额，并跳过认证读取用户信息”为谣言。其仅在用户的要求与授权下帮助用户查询银行卡余额，其中涉及敏感操作，需用户手动确认。据介绍，豆包手机助手在用户授权操作的过程中，并不存在系统权限可以直接跳过密码、人脸识别等类似认证环节，查询过程中仍需用户手动完成符合银行App要求的真人检测、密码输入等。声明还提到，现阶段，银行、互联网支付等金融场景，直接关系用户的资金安全，即便相关敏感操作时手机助手都需用户授权，但审慎起见，豆包手机助手已下线操作这类APP的能力。（广角观察）

来源：钛媒体

# AI智能体 # 模型安全 # 生成模型

0 0

00:03

《纽约时报》因版权侵权起诉Perplexity公司

《纽约时报》起诉AI搜索初创公司Perplexity侵犯版权，这是其第二次对AI公司提起诉讼。媒体机构通过法律手段迫使AI企业在使用其内容时正式授权并补偿创作者，以维护原创新闻的经济价值。Perplexity曾尝试通过推出Publisher Program和Comet Plus来解决补偿问题，但《纽约时报》认为这些措施不足以防止未经授权的内容使用，特别是针对其检索增强生成(RAG)产品如聊天机器人和浏览器AI助手的行为。

来源：TechCrunch AI

# 模型安全 # 版权争议

0 0

19:10

保守的谷歌，激进的豆包

本文探讨了豆包手机助手在AI智能助手领域的激进方案及其面临的挑战。豆包通过GUI Agent技术直接操作用户界面，引发安全与合规问题。相比之下，谷歌、OPPO和支付宝等采取更为谨慎的合作方式，强调用户授权与数据安全。未来，AI技术的发展需在尊重用户隐私、数据安全及行业监管的前提下进行，以实现技术创新与商业落地的良性适配。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

19:10

当 AI 撞上移动互联网的旧城墙

豆包AI手机尝试通过大模型LUI技术和计算机视觉，实现意图识别取代APP图形界面的交互革命，展示了AI在智能助手领域的潜力。然而，该技术因触及数据安全、隐私边界及商业利益分配等问题而遭遇微信等平台封禁，揭示了AI应用在移动互联网生态中的复杂挑战。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0