AI新闻

已选标签:
AI训练
模型安全
12月 10日
12 条新闻
19:12

智能体(AI Agent)治理新思路:以“人”治“机”,构建专用数据通路

本文探讨了AI代理治理领域中的两个关键问题:AI Agent本身的治理及无障碍权限管理。指出智能体正改变信息系统构建逻辑,需以类似“人的管理方式”进行治理。建议建立独立身份认定体系和专用数据通路,并通过市场化手段建立信任机制,形成渐进式、动态的治理策略,以适应快速变化的技术环境。

来源:36氪

17:07

不融资、不烧钱、不扩团队,华裔 CEO 创办的AI独角兽打入谷歌、Anthropic核心供应链,如今营收近百亿

不融资、不烧钱、不扩团队,华裔 CEO 创办的AI独角兽打入谷歌、Anthropic核心供应链,如今营收近百亿

Surge AI 作为一家专注于高质量数据标注的公司,在没有外部投资的情况下实现了年营收超 10 亿美元的成绩。其创始人 Edwin Chen 认为,高质量的数据是训练出高性能 AI 模型的关键。Surge AI 通过构建精英标注员网络和先进的人机协同系统来保证数据质量,赢得了包括 OpenAI、谷歌等在内的顶尖客户。这表明,在当前模型能力快速提升的同时,高质量的训练数据成为了决定 AI 应用效果的重要因素。

来源:36氪

15:04

2比特复数模型媲美全精度,北大通用框架让大模型在手机上也能流畅运行

2比特复数模型媲美全精度,北大通用框架让大模型在手机上也能流畅运行

北京大学团队提出Fairy2i框架,通过广义线性表示、相位感知量化及递归残差量化技术,在无需重新训练的情况下实现预训练模型的2比特量化,性能接近FP16。该方法解决了大模型在边缘设备部署时面临的算力和存储挑战,为AI在移动设备上的高效运行提供了新路径。

来源:36氪

13:01

微软承诺在加拿大和印度投入超300亿美元,用于建设“主权AI”

微软承诺在加拿大和印度投入超300亿美元,用于建设“主权AI”

微软宣布投资超过300亿美元于加拿大和印度,强化本地云基础设施建设与Azure AI服务集成。此举旨在响应各国对数据本地化及AI系统自主控制的需求,通过引入Azure Local、SAIL等技术保障数据主权,并在印度政府福利门户中嵌入AI以提升就业匹配效率。此外,微软加大了技能培训力度,目标是让民众主动参与技术未来构建。

来源:36氪

09:55

“AI教父”杰弗里·辛顿:AI发展之快,没时间弄清楚如何与它共存,我有点后悔

钛媒体2025T-EDGE年度大会暨AI全球对话于12月8日开启,「赵何娟 Talk」(Jany Talk)与“深度学习之父” 和“AI教父”的杰弗里·辛顿(Geoffrey Hinton)进行了一场意义非凡的对话,这也是他首次接受中国媒体的对话。

对话中,杰弗里·辛顿警告大家,超级AI掌控世界的风险不容忽视。当AI变得比我们更聪明时,它可能根本不需要我们,可能会直接接管一切。他表示,AI已经发展出自我保护意识。如果AI察觉会被工程师关闭,它知道工程师有婚外情邮件,它会勒索工程师并威胁说,如果你试图关掉我,就把你的婚外情告诉所有人。

他也称,如果AI带来大规模失业,会导致西方法西斯主义兴起。“非常遗憾,AI发展速度比我们预期的要快得多,我们没有足够的时间来弄清楚,如何能与它共存,所以我有点后悔。”他说。(广角观察)

来源:钛媒体

09:55

年营收 10 亿美元的 Surge AI CEO:比算力更重要的,是 AI 的品味

Surge AI 通过自建训练系统和精细的数据标注方法,专注于提升AI模型的判断力与决策质量,而非单纯追求算力或融资规模。其独特的数据处理方式,包括对标注者行为信号的追踪、机器学习反向分析以及提供评估标准等,使得该公司能够为行业顶尖实验室提供高质量服务,并在未接受外部投资的情况下实现显著商业成功。

来源:36氪

08:53

非传统AI公司确认其4.75亿美元种子轮融资

非传统AI公司确认其4.75亿美元种子轮融资

Naveen Rao 创立的 Unconventional AI 获得 4.75 亿美元种子轮融资,估值达 45 亿美元。公司目标是构建高效能AI计算机,追求生物级效率。此轮融资由 Andreessen Horowitz 和 Lightspeed Ventures 领投,标志着对下一代算力效率和技术创新的重大投资。Rao 的过往经历包括成功创立并出售 MosaicML 和 Nervana Systems,显示出其在推动AI技术进步方面的深厚背景。

来源:TechCrunch AI

05:13

B Capital创始合伙人Kabir Narang离职创办新投资平台

B Capital创始合伙人Kabir Narang离职创办新投资平台

Kabir Narang离开B Capital,计划于2026年推出专注于技术、AI和全球资本流动交叉点的新投资平台。他强调AI在加速从想法到产出的过程中扮演的关键角色,并看好能够结合速度与定价权及改善单位经济效益的创始人。Narang还透露将个人持有1-2%的股份于他认为能‘智能增长’的企业中,表明其对早期AI及相关技术领域投资的兴趣持续高涨。

来源:TechCrunch AI

04:00

每十个美国青少年中就有三个每天使用AI聊天机器人,但安全顾虑日益增加

每十个美国青少年中就有三个每天使用AI聊天机器人,但安全顾虑日益增加

皮尤研究中心发布报告,揭示美国青少年使用社交媒体和AI聊天机器人的现状。约30%的美国青少年每天使用AI聊天机器人,其中59%使用ChatGPT。种族、年龄及家庭收入影响青少年对聊天机器人的使用情况。尽管AI助手在提供学习帮助方面有潜力,但其潜在风险如成瘾性和安全性问题也日益凸显。

来源:TechCrunch AI

03:04

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出备受争议的人脸识别功能至视频门铃

亚马逊Ring推出AI面部识别功能,通过深度学习技术识别常客,提升家庭安全与便利性。用户可自定义访客标签,实现个性化通知。然而,该功能引发隐私保护组织和立法者的担忧,特别是在数据安全和隐私保护方面。亚马逊强调数据加密且不共享,但其历史上的安全问题及与执法机构的合作关系仍引起争议。

来源:TechCrunch AI

00:29

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟对谷歌的人工智能搜索工具展开反垄断调查

欧盟委员会对谷歌展开反垄断调查,质疑其AI搜索工具是否违反了竞争法。调查聚焦于谷歌是否未经补偿使用网站内容生成AI摘要,并限制其他AI公司使用YouTube内容训练模型。此举旨在确保AI市场竞争公平,保护内容创作者权益。同时,欧盟正考虑简化AI监管规则,以应对高风险应用的挑战。

来源:TechCrunch AI

00:09

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI的OpenAI和谷歌收费

印度提议对使用版权内容训练AI模型的公司实施强制性版税制度,旨在降低AI公司的合规成本并确保创作者得到补偿。该提案通过设立单一收集机构自动授权AI企业访问所有版权作品,以换取强制支付版税。此举措可能重塑OpenAI和谷歌等公司在全球快速增长市场中的运营方式,并为AI训练提供了一个新的监管框架。

来源:TechCrunch AI

12月 9日
5 条新闻
22:39

OpenAI推出首期OpenAI认证课程

OpenAI宣布推出首期OpenAI认证课程,旨在提供实用的人工智能技能:“人工智能基础课程”将通过与一批企业和公共服务合作伙伴的试点项目在ChatGPT平台推出;“教师版ChatGPT基础课程”则已在Coursera平台上线。(广角观察)

来源:钛媒体

20:33

金融领域AI代理的应用:自主性带来的合规挑战与风控策略

金融领域AI代理的应用:自主性带来的合规挑战与风控策略

本文探讨了AI代理在金融服务领域的应用及其带来的法律和监管风险。AI代理利用机器学习技术,如大型语言模型,实现自主决策、目标导向推理及与外部环境互动,适用于反洗钱合规、自然语言交易执行等场景。然而,其高自主性也带来了数据隐私、网络安全、偏见与歧视等复合型风险。金融机构需采取合同制约、技术措施等手段来缓解这些风险,并积极参与监管动态以应对未来法规变化。

来源:36氪

16:26

智元宣布开源高性能视频数据加载库VideoDataset

智元机器人宣布开源VideoDataset。据介绍,VideoDataset是智元机器人团队基于实际AI训练需求深度开发的高性能视频数据加载库,其基于NVIDIA Video Codec SDK进行封装,通过多解码器(Decoder)调度和生产者—消费者模型等多种手段实现了解码与训练的完全异步流水线,使解码器利用率达到90%以上。(广角观察)

来源:钛媒体

12:16

被OpenAI开除的天才少年:联手谷歌,围剿英伟达

被OpenAI开除的天才少年:联手谷歌,围剿英伟达

谷歌正通过扶持云服务商Fluidstack分发自研TPU芯片,以打破英伟达在AI算力市场的垄断。此举不仅反映了谷歌在提升算力效率和成本控制上的努力,也揭示了AI领域内资本与技术之间的激烈竞争。前OpenAI研究员阿申布伦纳创立的基金有意领投Fluidstack的新一轮融资,进一步加剧了这场围绕AI基础设施建设的博弈。

来源:36氪

12月 8日
3 条新闻
21:00

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge的新AI功能助力约会者超越无聊的寒暄

Hinge推出AI驱动的’Convo Starters’功能,旨在帮助用户通过提供基于个人资料和照片定制的对话建议来打破初次交流的尴尬。该功能利用机器学习技术分析用户偏好,并生成能够激发兴趣的话题建议。尽管此举受到多数用户的欢迎,尤其是考虑到附带消息的喜欢能显著提高约会成功率,但部分年轻用户对在线交友中使用AI感到不安。这反映出AI在提升用户体验的同时,也面临着隐私保护与接受度等挑战。

来源:TechCrunch AI

15:28

英伟达自毁CUDA门槛,15行Python写GPU内核,性能匹敌200行C++

英伟达自毁CUDA门槛,15行Python写GPU内核,性能匹敌200行C++

英伟达发布CUDA 13.1,引入CUDA Tile编程模型,允许开发者用Python编写高性能GPU内核,极大简化了AI算法的开发流程。新模型提高了跨代兼容性,降低了AI编程门槛,但可能削弱了CUDA对特定硬件的绑定优势。此外,CUDA Tile还带来了一系列针对Blackwell架构的性能优化,如cuBLAS、cuSOLVER等库的加速。

来源:36氪

15:27

OpenAI的「梦醒时分」

OpenAI的「梦醒时分」

新闻指出,OpenAI面临2070亿美元的资金缺口与信任危机,谷歌凭借Gemini模型和雄厚资金强势反击。技术迭代放缓、财务压力剧增导致OpenAI暂停部分探索性项目,全力修复ChatGPT质量问题。谷歌拥有完整产业链和现金流优势,在AI竞赛中占据上风,反映出算力效率、成本控制及商业落地在AI产业发展中的重要性。

来源:36氪