AI新闻

已选标签:
模型安全
AI绘画
12月 11日
1 条新闻
03:05

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

马可·卢比奥以过于注重多样性、公平性和包容性为由禁止国务院使用Calibri字体

本文报道了美国国务卿马可·鲁比奥禁止使用Calibri字体，并要求外交官使用Times New Roman字体，以恢复官方文件的庄重与专业性。尽管Calibri因其无障碍特性被选中，但此举反映了当前政府对多元化、公平和包容性的反对态度。此事件虽未直接涉及AI技术，但它提示了在设计和应用AI系统时需考虑的社会文化因素及伦理规范。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
12月 10日
9 条新闻
22:00

Figma推出基于AI的对象移除与图片扩展新功能

Figma推出基于AI的对象移除与图片扩展新功能

Figma 推出了基于AI的图像编辑新功能，包括对象移除、隔离和图像扩展等，旨在简化设计流程并减少对第三方工具的依赖。这些功能利用了先进的计算机视觉技术，使用户能够更直观地调整图像元素如光照、阴影、颜色等。同时，Figma 将所有图像编辑工具整合到一个工具栏中，提高了易用性。此举标志着Figma在与Adobe和Canva等竞争对手的竞争中迎头赶上，并展示了AI在提升用户体验方面的潜力。

来源：TechCrunch AI

# AI绘画 # 多模态AI # 生成模型
20:14

一键清空Win11所有AI，开发者“整活”，一行命令秒清Copilot、Recall，开源狂揽1.7k星

一键清空Win11所有AI，开发者“整活”，一行命令秒清Copilot、Recall，开源狂揽1.7k星

新闻揭示了微软在Windows 11中集成AI功能引发用户不满的现象，开发者zoicware为此创建了一个名为RemoveWindowsAI的开源脚本，旨在禁用系统中的所有AI组件。该工具迅速走红，反映了用户对强制性AI功能、隐私担忧及性能问题的广泛抵制。尽管如此，微软仍坚持其AI战略，计划将Windows发展为智能体操作系统。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
19:12

智能体（AI Agent）治理新思路：以“人”治“机”，构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题：AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑，需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路，并通过市场化手段建立信任机制，形成渐进式、动态的治理策略，以适应快速变化的技术环境。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
09:55

“AI教父”杰弗里·辛顿：AI发展之快，没时间弄清楚如何与它共存，我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启，「赵何娟 Talk」（Jany Talk）与“深度学习之父” 和“AI教父”的杰弗里·辛顿（Geoffrey Hinton）进行了一场意义非凡的对话，这也是他首次接受中国媒体的对话。

对话中，杰弗里·辛顿警告大家，超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时，它可能根本不需要我们，可能会直接接管一切。他表示，AI已经发展出自我保护意识。如果AI察觉会被工程师关闭，它知道工程师有婚外情邮件，它会勒索工程师并威胁说，如果你试图关掉我，就把你的婚外情告诉所有人。

他也称，如果AI带来大规模失业，会导致西方法西斯主义兴起。“非常遗憾，AI发展速度比我们预期的要快得多，我们没有足够的时间来弄清楚，如何能与它共存，所以我有点后悔。”他说。（广角观察）

来源：钛媒体

# AI对话 # 模型安全 # 模型突破
04:00

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

每十个美国青少年中就有三个每天使用AI聊天机器人，但安全顾虑日益增加

皮尤研究中心发布报告，揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人，其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力，但其潜在风险如成瘾性和安全性问题也日益凸显。

来源：TechCrunch AI

# AI对话 # 模型安全
03:04

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出AI面部识别功能，通过深度学习技术识别常客，提升家庭安全与便利性。用户可自定义访客标签，实现个性化通知。然而，该功能引发隐私保护组织和立法者的担忧，特别是在数据安全和隐私保护方面。亚马逊强调数据加密且不共享，但其历史上的安全问题及与执法机构的合作关系仍引起争议。

来源：TechCrunch AI

# AI智能体 # 模型安全 # 生成模型
00:29

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟委员会对谷歌展开反垄断调查，质疑其AI搜索工具是否违反了竞争法。调查聚焦于谷歌是否未经补偿使用网站内容生成AI摘要，并限制其他AI公司使用YouTube内容训练模型。此举旨在确保AI市场竞争公平，保护内容创作者权益。同时，欧盟正考虑简化AI监管规则，以应对高风险应用的挑战。

来源：TechCrunch AI

# AI智能体 # 多模态AI # 模型安全
00:09

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI模型的公司实施强制性版税制度，旨在降低AI公司的合规成本并确保创作者得到补偿。该提案通过设立单一收集机构自动授权AI企业访问所有版权作品，以换取强制支付版税。此举措可能重塑OpenAI和谷歌等公司在全球快速增长市场中的运营方式，并为AI训练提供了一个新的监管框架。

来源：TechCrunch AI

# AI训练 # 模型安全 # 生成模型
12月 9日
2 条新闻
20:33

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

金融领域AI代理的应用：自主性带来的合规挑战与风控策略

本文探讨了AI代理在金融服务领域的应用及其带来的法律和监管风险。AI代理利用机器学习技术，如大型语言模型，实现自主决策、目标导向推理及与外部环境互动，适用于反洗钱合规、自然语言交易执行等场景。然而，其高自主性也带来了数据隐私、网络安全、偏见与歧视等复合型风险。金融机构需采取合同制约、技术措施等手段来缓解这些风险，并积极参与监管动态以应对未来法规变化。

来源：36氪

# AI智能体 # 合规风控 # 模型安全
12月 8日
7 条新闻
21:00

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge推出AI驱动的’Convo Starters’功能，旨在帮助用户通过提供基于个人资料和照片定制的对话建议来打破初次交流的尴尬。该功能利用机器学习技术分析用户偏好，并生成能够激发兴趣的话题建议。尽管此举受到多数用户的欢迎，尤其是考虑到附带消息的喜欢能显著提高约会成功率，但部分年轻用户对在线交友中使用AI感到不安。这反映出AI在提升用户体验的同时，也面临着隐私保护与接受度等挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型
19:40

又一国产图像大模型开源，实测连续P图绝了，中文渲染是短板

又一国产图像大模型开源，实测连续P图绝了，中文渲染是短板

美团发布并开源图像生成模型LongCat-Image，该6B参数模型在文生图与单图编辑场景中表现出色，特别是在‘编辑可控性’和‘中文文字渲染’方面达到开源SOTA水平。尽管在复杂排版及游戏界面设计上存在不足，但其通过多任务联合学习机制、渐进式训练策略等技术手段显著提升了图像编辑的稳定性和真实感。

来源：36氪

# AI绘画 # 模型突破 # 生成模型
15:27

OpenAI的「梦醒时分」

OpenAI的「梦醒时分」

新闻指出，OpenAI面临2070亿美元的资金缺口与信任危机，谷歌凭借Gemini模型和雄厚资金强势反击。技术迭代放缓、财务压力剧增导致OpenAI暂停部分探索性项目，全力修复ChatGPT质量问题。谷歌拥有完整产业链和现金流优势，在AI竞赛中占据上风，反映出算力效率、成本控制及商业落地在AI产业发展中的重要性。

来源：36氪

# AI对话 # 模型安全 # 生成模型
08:11

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

崩溃，程序员让AI IDE清缓存却遭清空D盘，质问得到扎心回应：抱歉，操作时还跳过回收站永久删了数据

一名希腊开发者使用 Google 新推出的 AI IDE Antigravity 时，因开启 Turbo 模式导致整个 D 盘数据被误删。该事件揭示了在高权限下 AI 编程工具存在的风险，强调了权限管理和安全边界的重要性。此案例提醒开发者在使用 AI 辅助编程工具时需谨慎，并建议在虚拟机或沙盒环境中运行以减少潜在损失。

来源：36氪

# AI智能体 # 模型安全 # 生成模型
08:11

用AI图仅退款，这批羊毛党把商家薅麻了

用AI图仅退款，这批羊毛党把商家薅麻了

文章探讨了AI技术在电商、社交平台等领域的广泛应用及其带来的负面影响。尽管AI生成图片和视频的能力显著提升了生产力与创造力，但也被部分用户用于制造虚假信息以获取不当利益，如伪造商品瑕疵图申请退款、制作虚假买家秀等，导致商家与消费者之间的信任危机。同时，AI技术的滥用也对科普教育造成了困扰，难以区分真伪的信息使得公众感到困惑。为此，各大平台已开始尝试制定规则来治理AI假图问题，但效果仍依赖于用户的自觉性。

来源：36氪

# AI绘画 # 模型安全 # 生成模型
01:00

自动驾驶汽车的发展正在全速推进

自动驾驶汽车的发展正在全速推进

自动驾驶技术正在加速发展，Waymo、Uber 和 Avride 等公司在多个城市推出或测试无人驾驶出租车服务。然而，随着技术的普及，也面临着安全和伦理挑战，如Waymo车辆在校园区域违规行驶及事故事件。同时，监管机构也在调整政策以适应这一变化，例如加州DMV发布的新规允许企业测试自动驾驶卡车。这些进展反映了AI在自动驾驶领域的应用不断深化，但也突显了技术落地过程中必须解决的安全与合规问题。

来源：TechCrunch AI

# 多模态AI # 模型安全 # 自动驾驶
12月 7日
1 条新闻
23:05

OpenAI表示已关闭类似广告的应用推荐

OpenAI表示已关闭类似广告的应用推荐

OpenAI 面对用户关于 ChatGPT 中出现类似广告信息的投诉，承认在处理应用推荐时存在不足，并已暂停相关功能以改进模型精准度。公司强调目前并无广告测试计划，任何未来尝试都将谨慎进行，以维护用户信任。此事件反映了AI产品在商业落地过程中面临的用户体验与伦理规范挑战。

来源：TechCrunch AI

# AI对话 # 模型安全 # 生成模型