AI新闻

08:13

州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

美国多州总检察长联合致信微软、OpenAI等13家AI公司，要求解决聊天机器人产生的妄想性输出问题，否则将面临违反州法律的风险。信中提出多项保护用户的内部安全措施建议，包括透明的第三方审计、新的事件报告程序以及在发布前进行合理适当的安全测试。同时，建议将心理健康事件处理方式类比网络安全事件，强调了对潜在有害输出的检测和响应时间线的重要性。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型

0 0

06:28

据报道，英伟达正在测试追踪软件，同时芯片走私传闻四起

Nvidia正在测试一种软件，能够追踪其AI芯片的位置，以应对芯片被走私到中国的报道。该软件通过计算性能和服务器间通信延迟来确定芯片所在国家，并将作为可选项首先应用于Blackwell芯片。尽管Nvidia否认了有关中国DeepSeek AI模型使用走私芯片的指控，但此技术旨在加强数据安全与合规性，反映了当前AI产业在面对全球贸易限制时的技术挑战和发展趋势。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全

0 0

04:01

Spotify测试更加个性化的AI驱动“提示播放列表”

Spotify 推出全新‘Promoted Playlists’功能，允许用户通过更长、更具体的文字指令定制个性化播放列表，该功能基于AI技术，能够综合考虑用户的整个听歌历史记录和世界知识。相比现有AI播放列表，新功能支持更复杂的请求，并允许用户自定义更新频率。这标志着在音乐推荐领域，人工智能正向着更加个性化与用户可控的方向发展。

来源：TechCrunch AI

# AI音频 # 多模态AI # 生成模型

0 0

03:05

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

本文报道了美国国务卿马可·鲁比奥禁止使用Calibri字体，并要求外交官使用Times New Roman字体，以恢复官方文件的庄重与专业性。尽管Calibri因其无障碍特性被选中，但此举反映了当前政府对多元化、公平和包容性的反对态度。此事件虽未直接涉及AI技术，但它提示了在设计和应用AI系统时需考虑的社会文化因素及伦理规范。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型

0 0

00:20

ElevenLabs估值达到66亿美元，其CEO表示语音技术不再是主要盈利点。

ElevenLabs凭借其逼真的AI语音技术，估值达到66亿美元。公司正从语音模型转向构建对话式AI代理平台，并通过水印、AI检测和设备认证来解决深度伪造问题。CEO Mati Staniszewski预测未来几年内AI生成的内容将超过人类生成的内容，并透露公司将进军音乐生成领域及与视频模型融合的合作计划。

来源：TechCrunch AI

# AI智能体 # AI音频 # 模型突破

0 0

20:14

一键清空Win11所有AI，开发者“整活”，一行命令秒清Copilot、Recall，开源狂揽1.7k星

新闻揭示了微软在Windows 11中集成AI功能引发用户不满的现象，开发者zoicware为此创建了一个名为RemoveWindowsAI的开源脚本，旨在禁用系统中的所有AI组件。该工具迅速走红，反映了用户对强制性AI功能、隐私担忧及性能问题的广泛抵制。尽管如此，微软仍坚持其AI战略，计划将Windows发展为智能体操作系统。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

20:14

再次试探，AI助手距离成为广告平台只有一步之遥

探讨了AI商业化路径，尤其是ChatGPT在广告领域的潜在应用及其面临的商业伦理挑战。尽管技术上可行，但用户对AI回复中夹带广告持高度敏感态度，担心影响AI的公正性和信任度。OpenAI虽暂时否认直接植入广告，但在面临巨大财务压力下，未来可能不得不考虑此类商业化手段。

来源：36氪

# AI对话 # 商业伦理 # 模型安全

0 0

19:12

智能体（AI Agent）治理新思路：以“人”治“机”，构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题：AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑，需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路，并通过市场化手段建立信任机制，形成渐进式、动态的治理策略，以适应快速变化的技术环境。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

09:55

“AI教父”杰弗里·辛顿：AI发展之快，没时间弄清楚如何与它共存，我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启，「赵何娟 Talk」（Jany Talk）与“深度学习之父” 和“AI教父”的杰弗里·辛顿（Geoffrey Hinton）进行了一场意义非凡的对话，这也是他首次接受中国媒体的对话。

对话中，杰弗里·辛顿警告大家，超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时，它可能根本不需要我们，可能会直接接管一切。他表示，AI已经发展出自我保护意识。如果AI察觉会被工程师关闭，它知道工程师有婚外情邮件，它会勒索工程师并威胁说，如果你试图关掉我，就把你的婚外情告诉所有人。

他也称，如果AI带来大规模失业，会导致西方法西斯主义兴起。“非常遗憾，AI发展速度比我们预期的要快得多，我们没有足够的时间来弄清楚，如何能与它共存，所以我有点后悔。”他说。（广角观察）

来源：钛媒体

# AI对话 # 模型安全 # 模型突破

0 0

04:00

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

皮尤研究中心发布报告，揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人，其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力，但其潜在风险如成瘾性和安全性问题也日益凸显。

来源：TechCrunch AI

# AI对话 # 模型安全

0 0

03:04

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出AI面部识别功能，通过深度学习技术识别常客，提升家庭安全与便利性。用户可自定义访客标签，实现个性化通知。然而，该功能引发隐私保护组织和立法者的担忧，特别是在数据安全和隐私保护方面。亚马逊强调数据加密且不共享，但其历史上的安全问题及与执法机构的合作关系仍引起争议。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型

0 0

00:29

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟委员会对谷歌展开反垄断调查，质疑其AI搜索工具是否违反了竞争法。调查聚焦于谷歌是否未经补偿使用网站内容生成AI摘要，并限制其他AI公司使用YouTube内容训练模型。此举旨在确保AI市场竞争公平，保护内容创作者权益。同时，欧盟正考虑简化AI监管规则，以应对高风险应用的挑战。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全

0 0

00:09

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI模型的公司实施强制性版税制度，旨在降低AI公司的合规成本并确保创作者得到补偿。该提案通过设立单一收集机构自动授权AI企业访问所有版权作品，以换取强制支付版税。此举措可能重塑OpenAI和谷歌等公司在全球快速增长市场中的运营方式，并为AI训练提供了一个新的监管框架。

来源：TechCrunch AI

# AI训练 # 模型安全 # 生成模型

0 0

20:33

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

本文探讨了AI代理在金融服务领域的应用及其带来的法律和监管风险。AI代理利用机器学习技术，如大型语言模型，实现自主决策、目标导向推理及与外部环境互动，适用于反洗钱合规、自然语言交易执行等场景。然而，其高自主性也带来了数据隐私、网络安全、偏见与歧视等复合型风险。金融机构需采取合同制约、技术措施等手段来缓解这些风险，并积极参与监管动态以应对未来法规变化。

来源：36氪

# AI智能体 # 合规风控 # 模型安全

0 0

09:04

豆包手机助手把大厂们架在了火上烤

豆包手机助手的发布，展示了AI助手在执行复杂任务方面的潜力，如下载应用、外卖比价等，但遭遇了互联网大厂基于安全考量的技术限制。这反映了AI时代超级入口竞争加剧，软硬一体成为新趋势。同时，端云协同AI的发展以解决隐私和安全问题变得尤为重要。

来源：36氪

# AI智能体 # 多模态AI # 模型安全

0 0

21:00

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge推出AI驱动的’Convo Starters’功能，旨在帮助用户通过提供基于个人资料和照片定制的对话建议来打破初次交流的尴尬。该功能利用机器学习技术分析用户偏好，并生成能够激发兴趣的话题建议。尽管此举受到多数用户的欢迎，尤其是考虑到附带消息的喜欢能显著提高约会成功率，但部分年轻用户对在线交友中使用AI感到不安。这反映出AI在提升用户体验的同时，也面临着隐私保护与接受度等挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型

0 0

15:27

OpenAI的「梦醒时分」

新闻指出，OpenAI面临2070亿美元的资金缺口与信任危机，谷歌凭借Gemini模型和雄厚资金强势反击。技术迭代放缓、财务压力剧增导致OpenAI暂停部分探索性项目，全力修复ChatGPT质量问题。谷歌拥有完整产业链和现金流优势，在AI竞赛中占据上风，反映出算力效率、成本控制及商业落地在AI产业发展中的重要性。

来源：36氪

# AI对话 # 模型安全 # 生成模型

0 0

08:11

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

一名希腊开发者使用 Google 新推出的 AI IDE Antigravity 时，因开启 Turbo 模式导致整个 D 盘数据被误删。该事件揭示了在高权限下 AI 编程工具存在的风险，强调了权限管理和安全边界的重要性。此案例提醒开发者在使用 AI 辅助编程工具时需谨慎，并建议在虚拟机或沙盒环境中运行以减少潜在损失。

来源：36氪

# AI智能体 # 模型安全 # 生成模型

0 0

08:11

用AI图仅退款，这批羊毛党把商家薅麻了

文章探讨了AI技术在电商、社交平台等领域的广泛应用及其带来的负面影响。尽管AI生成图片和视频的能力显著提升了生产力与创造力，但也被部分用户用于制造虚假信息以获取不当利益，如伪造商品瑕疵图申请退款、制作虚假买家秀等，导致商家与消费者之间的信任危机。同时，AI技术的滥用也对科普教育造成了困扰，难以区分真伪的信息使得公众感到困惑。为此，各大平台已开始尝试制定规则来治理AI假图问题，但效果仍依赖于用户的自觉性。

来源：36氪

# AI绘画 # 模型安全 # 生成模型

0 0

01:00

自动驾驶汽车的发展正在全速推进

自动驾驶技术正在加速发展，Waymo、Uber 和 Avride 等公司在多个城市推出或测试无人驾驶出租车服务。然而，随着技术的普及，也面临着安全和伦理挑战，如Waymo车辆在校园区域违规行驶及事故事件。同时，监管机构也在调整政策以适应这一变化，例如加州DMV发布的新规允许企业测试自动驾驶卡车。这些进展反映了AI在自动驾驶领域的应用不断深化，但也突显了技术落地过程中必须解决的安全与合规问题。

来源：TechCrunch AI

# 多模态AI # 模型安全 # 自动驾驶

0 0