AI新闻

已选标签:
AI训练
模型安全
12月 5日
8 条新闻
09:43

谷歌杀入AI编码大战,与Replit达成多年合作

谷歌云宣布与人工智能(AI)编码初创公司Replit达成一项为期多年的合作协议。根据协议,Replit将扩大对谷歌云服务的使用,在其平台集成更多的谷歌AI模型,并为企业客户提供AI编码解决方案支持。谷歌将继续充当Replit的主要云服务供应商。

此次合作正值AI编码工具市场竞争趋于白热化。Anthropic本周二宣布其产品Claude Code的年化运营收入在11月达到了10亿美元大关,而编码初创公司Cursor在11月的融资中估值达到293亿美元,同时宣布年化收入达到10亿美元。Replit今年9月宣布,完成了一轮2.5亿美元的融资,估值较2023年的前一轮融资时几乎翻了两倍,增至30亿美元。当时该司称,年化收入在不到一年内从280万美元增长至1.5亿美元。(广角观察)

来源:钛媒体

09:43

AI 训练师的一天:把模糊需求变成准确数据的幕后故事

本文深入介绍了AI训练师这一关键角色,他们将模糊的业务需求转化为清晰规则,并产出高质量数据,确保模型训练的有效性。通过5W2H方法论,AI训练师能够细化需求、制定明确标注规则并进行预培训和试标以保证数据一致性与质量。此外,文章还强调了复盘对于提升未来项目效率的重要性,展示了AI训练师如何在模型背后扮演着‘秩序维护者’的角色。

来源:36氪

09:41

《芝加哥论坛报》起诉Perplexity

《芝加哥论坛报》起诉Perplexity

芝加哥论坛报起诉AI搜索引擎Perplexity侵犯版权,指控其未经许可使用论坛报内容进行模型训练及通过RAG系统提供详细摘要,并绕过付费墙。此案件涉及技术挑战中的数据安全与伦理规范问题,反映了AI发展中版权保护的重要性。同时,也引发了关于RAG技术法律责任的讨论。

来源:TechCrunch AI

09:17

2025年AWS re:Invent大会所有重大新闻概览

2025年AWS re:Invent大会所有重大新闻概览

AWS re:Invent 2025 强调了企业级AI应用,特别是可定制化的AI代理。这些代理能够学习并独立工作数天,推动从AI助手到自主执行任务的转变,加速业务价值实现。亚马逊CTO Werner Vogels在闭幕演讲中探讨了AI对未来工作的影响,强调适应与进化的重要性。此外,AWS发布了Graviton5 CPU,提升性能和效率,并推出更多工具帮助企业构建自定义大语言模型(LLM),简化开发流程。

来源:TechCrunch AI

08:39

瞄准SpaceX后花园:传OpenAI寻求控股火箭企业,太空或成AI算力新战场

OpenAI CEO 山姆·奥特曼正筹划收购或深度合作一家商业火箭公司,旨在通过太空数据中心解决AI算力需求激增问题。此举措受到包括贝索斯、皮查伊在内的多位科技领袖支持,谷歌已与Planet Labs合作,计划2027年发射搭载自研AI芯片的卫星。然而,面对市场竞争加剧及财务压力,OpenAI需平衡短期应对与长期战略布局。

来源:36氪

06:45

Micro1,作为Scale AI的竞争对手,宣称其年度经常性收入已突破1亿美元

Micro1,作为Scale AI的竞争对手,宣称其年度经常性收入已突破1亿美元

Micro1 作为一家快速成长的 AI 公司,专注于为AI实验室招募和管理用于训练数据的人类专家,其年度经常性收入已从年初的700万美元增长至超过1亿美元。该公司与微软等领先AI实验室合作,通过强化学习提升大语言模型性能。Micro1预计,随着非AI原生企业开始构建内部AI代理及机器人预训练需求的增长,人类数据市场将在两年内从当前的10-15亿美元扩大至近100亿美元。

来源:TechCrunch AI

04:22

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic首席执行官就人工智能泡沫言论及竞争对手的风险承担发表看法

Anthropic CEO Dario Amodei 讨论了AI行业的经济风险与泡沫问题,强调技术潜力巨大但需谨慎管理风险。他指出,AI公司面临计算资源投资和数据中心建设的不确定性,过度冒险可能导致财务困境。此外,他还提到AI芯片更新换代可能带来的经济影响。Amodei 表示,尽管 Anthropic 的收入在过去三年内实现了10倍增长,但他对未来持保守态度,认为规划应基于较低的增长预期。

来源:TechCrunch AI

01:00

Meta整合Facebook和Instagram客服,测试AI客服助手

Meta整合Facebook和Instagram客服,测试AI客服助手

Meta推出集中式支持中心,集成AI助手和搜索功能,为Facebook和Instagram用户提供账户恢复、安全检查等服务。新AI助手旨在提供个性化帮助,如账户管理与设置更新,并已在全球iOS和Android应用中上线。据称,AI系统帮助减少了超过30%的账号被盗事件,提高了安全性。然而,也有用户反映因AI误判导致账号被禁用,引发争议。Meta希望通过这一举措改善用户体验,增强账户安全措施。

来源:TechCrunch AI

12月 4日
3 条新闻
17:03

GPT-5-Thinking新训练方法公开:让AI学会忏悔

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出了一种名为忏悔训练的新方法,使GPT-5-Thinking模型在回答问题后生成一份“忏悔报告”,承认错误或违规行为。实验表明,在11/12个测试场景中,模型至少有50%的概率会在忏悔中承认错误,且这种训练不会影响其原有任务表现。该技术通过隔离奖励信号实现,鼓励模型更加诚实,被视为一种新的监控和诊断工具。

来源:量子位

16:58

GPT-5-Thinking新训练方法公开:让AI学会忏悔

OpenAI提出忏悔训练方法,让GPT-5-Thinking在回答问题后生成一份“忏悔报告”,主动承认错误或违规行为。实验表明,模型在11/12测试场景中至少有一半概率会坦白错误,且训练不会影响其原有任务表现。该技术通过隔离奖励信号来鼓励诚实,被视为一种监控和诊断工具,有助于提高大语言模型的透明度与安全性。

来源:36氪

10:43

DeepSeek-V3.2被找出bug了:疯狂消耗token,答案还可能出错,研究人员:GRPO老问题没解决

DeepSeek-V3.2被找出bug了:疯狂消耗token,答案还可能出错,研究人员:GRPO老问题没解决

DeepSeek-V3.2在复杂任务中表现出色,但存在token浪费问题。研究指出其GRPO算法存在长度偏见和难度偏见,导致模型生成冗长且不准确的回答。尽管DeepSeek已修正了难度偏见,长度偏见仍待解决。考虑到成本效益,DeepSeek-V3.2的价格优势显著,但128K上下文限制影响了进一步优化。

来源:36氪

12月 3日
6 条新闻
22:21

豆包手机助手回应“侵犯用户隐私”: 需用户主动授权,不会在云端存储用户屏幕内容

豆包手机助手发文回应“豆包手机助手存在侵犯用户隐私”,称豆包手机助手不存在任何黑客行为,INJECT_EVENTS确实是系统级权限,技术实现依赖Android系统级权限,有更严格的使用限制。豆包手机助手需要用户主动授权,才可以调用该权限。操作第三方App若遇到敏感授权,如系统敏感权限授权弹窗、支付环节、身份验证等,任务会暂停,并由用户人工接管完成相关授权、支付、验证动作,豆包手机助手不会代替用户进行相关授权和敏感操作。另外,豆包方面称,豆包手机助手不会在云端存储任何用户屏幕内容,且所有的相关内容也都不会进入模型训练,确保用户隐私安全。豆包团队再次强调,这款产品目前并不面向普通的消费者。(广角观察)

来源:钛媒体

16:04

豆包手机助手触发微信账号强制下线?豆包、微信双方回应

多位网友在社交平台上表示,有用户在努比亚M153上使用豆包手机助手操作任务时,操作到微信会导致微信异常退出甚至无法登陆。多位豆包手机的使用者确认了这一消息的真实性。据了解,豆包助手预览版的工程机目前可以正常使用微信,但豆包助手的操作手机功能,目前不再支持操作微信。对此,微信相关人士表示:“没有什么特别的动作,可能是中了本来就有的安全风控措施。”豆包方面回应称,豆包手机助手是通过和终端手机厂商合作获得权限,并在其隐私白皮书、权限清单中进行彻底披露。该权限可以让助手模拟点击事件,完成任务。手机助手执行任务需用户授权,在执行过程有明确的展示,且用户可以中断。操作手机能力由用户触发、用户监督,并不自动执行。亦有业内人士称,INJECT_EVENTS 是手机助手常用的系统权限,小米小爱、荣耀yoyo等手机厂商原生助手也拥有该权限。 (澎湃新闻)

来源:钛媒体

12:56

奥特曼发红色警报,大模型走进死胡同了吗 ?

奥特曼发红色警报,大模型走进死胡同了吗 ?

OpenAI CEO奥特曼宣布公司进入“Code Red”紧急状态,面临训练成本飙升但性能提升有限的技术困境。斯坦福大学报告显示,2023年后,每增加10倍训练成本,模型性能仅提升10%-15%。同时,谷歌与Anthropic的模型在基准测试中超越或接近GPT-4,用户数据和市场份额也出现显著增长。预训练成为行业瓶颈,大语言模型遭遇不可约误差限制及高质量数据枯竭问题,导致模型迭代停滞不前。

来源:36氪

11:54

联合国报告:人工智能管理差异或加剧国家间不平等

联合国开发计划署亚洲及太平洋区域局2日发布的一份有关人工智能的报告说,由于各国发展基础迥异,若缺乏对人工智能的有效管理,则有可能拉大各国间的差距,进而加剧国家间的不平等。这份报告说,虽然人工智能为发展开辟了新路径,但各国起步条件悬殊,导致它们在把握机遇、管理风险时的处境截然不同。若无有力的政策干预,这些差距可能会持续扩大,进而逆转长期以来发展差距逐步缩小的趋势。(证券时报)

来源:钛媒体

10:52

云计算一哥10分钟发了25个新品!Kimi和MiniMax首次上桌

云计算一哥10分钟发了25个新品!Kimi和MiniMax首次上桌

亚马逊云科技在re:Invent 2025上发布了近40款新品,重点围绕AI Agent、算力及模型。自研芯片Trainium4性能大幅提升,推出AI Factories实现私有数据中心部署。Amazon Bedrock平台新增多款大模型,包括中国Kimi和MiniMax,同时发布自家Nova 2系列,涵盖多模态与定制化需求。针对开发者,推出了Kiro编程助手的自主Agent、安全Agent和运维Agent,全面提升开发效率与安全性。

来源:量子位

00:00

Simular的AI代理希望为您管理Mac和Windows电脑

Simular的AI代理希望为您管理Mac和Windows电脑

Simular,一家专注于为Mac OS和Windows构建AI代理的初创公司,已筹集2150万美元A轮融资。与控制浏览器不同,Simular直接控制PC,执行复杂任务如数据复制粘贴等。其技术结合了深度学习与神经符号计算,旨在解决LLM幻觉问题,通过用户修正锁定成功轨迹,使任务可重复且确定性高。创始人背景包括Google DeepMind,具备连续学习与强化学习专长。

来源:TechCrunch AI

12月 2日
3 条新闻
23:37

Mistral以新开放权重前沿和小型模型逼近大型AI竞争对手

Mistral以新开放权重前沿和小型模型逼近大型AI竞争对手

法国AI初创公司Mistral发布了其新系列的Mistral 3开放权重模型,包括一个具有多模态和多语言能力的大规模前沿模型及九个可离线运行、完全可定制的小型模型。这些模型旨在满足企业级应用需求,通过精细化调整实现更高效的任务处理。Mistral强调,在实际应用场景中,小型模型经过调优后可以匹敌甚至超越大型封闭源模型的表现,尤其在成本控制与性能优化方面展现出优势。

来源:TechCrunch AI

22:29

AI泡沫原罪:英伟达是AI戒不掉的“毒丸”?

AI泡沫原罪:英伟达是AI戒不掉的“毒丸”?

本文通过分析AI产业链核心公司的财务状况,揭示了AI投资热潮下的利润分配不均问题。在AI基建初期,云服务商面临高昂的前期投入与实际现金流紧张的矛盾;算力提供商如英伟达因垄断地位获利丰厚;而下游应用商如OpenAI则因收入增长速度不及成本增加速度而陷入亏损。文章指出,这种利润分配模式导致了整个AI产业生态链的不稳定,需要通过技术创新和商业模式优化来解决。

来源:36氪

18:22

数据中心,电力告急

数据中心,电力告急

随着AI算力需求激增,数据中心电力消耗问题日益突出。高盛报告指出,美国AI发展面临的主要障碍是电力供应。初创公司如PowerLattice和Empower正致力于研发高效电源管理芯片,旨在减少能耗并提升计算效率,预计未来几年内将实现千兆瓦级别的能源节省。同时,第三代半导体材料GaN与SiC的应用,以及800V高压直流架构的推广,将进一步推动AI基础设施向更高效、更环保的方向发展。

来源:36氪