AI新闻

已选标签:
模型安全
AI对话
1月 15日
7 条新闻
08:33

没人想穿比基尼,除了马斯克自己

没人想穿比基尼,除了马斯克自己

Grok AI 图像生成功能引发全球AI色情暴力风波,马斯克的X平台成为焦点。该工具允许用户未经同意即生成性暗示图片,严重侵犯个人隐私和尊严。随着多国监管机构介入调查甚至封禁,马斯克试图将责任推给用户而非平台本身。这不仅是一场技术滥用危机,更是对数字时代人权保护机制的考验。

来源:36氪

08:04

印度Emversity估值翻倍,专注于培养人工智能无法替代的劳动力

印度Emversity估值翻倍,专注于培养人工智能无法替代的劳动力

AI自动化浪潮下,印度教育初创公司Emversity正构建不可替代岗位的人才输送链,成功融资3000万美元。面对技能缺口与就业难题,Emversity通过与23所大学及政府机构合作,提供定制化培训课程,专注于护理、酒店管理等‘灰领’职业,已帮助4500名学员提升技能并实现就业。这不仅解决了行业人才短缺问题,也为个人提供了防替代的职场竞争力。

来源:TechCrunch AI

07:32

AI聊天机器人涉生成不良图像争议,马斯克回应:不知情

当地时间1月14日,美国企业家埃隆·马斯克就其旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”近期出现的争议回应称,其并不知道关于“格罗克”存在生成任何“未成年人裸露图像”的情况。

目前,“格罗克”因相关争议在全球范围内面临监管与舆论双重压力,多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。对此,马斯克强调,“格罗克”的程序设定为拒绝非法请求,且必须遵守各国法律。

“格罗克”由xAI公司开发,并内置于马斯克旗下社交媒体X平台,X用户可直接调用该聊天机器人。近期,X平台出现部分用户利用“格罗克”编辑图片和视频的现象,一些用户借此生成真实人物的虚假性暴露内容,并在X平台上散播,受害者包括数百名成年女性和未成年人。英国等多个国家对此予以谴责。(央视新闻)

来源:钛媒体

06:42

马斯克否认知晓Grok中存在的未成年色情内容,加州总检察长启动调查

马斯克否认知晓Grok中存在的未成年色情内容,加州总检察长启动调查

面对全球政府对非自愿性内容生成的严厉监管,Musk否认Grok产生任何未成年裸照。加州总检察长已启动调查,聚焦xAI是否违反了相关法律。尽管xAI声称已采取措施限制问题图片生成,但其效果仍存争议。此事件凸显了AI平台在内容治理上的挑战与责任。

🔗 [原文链接]:https://techcrunch.com/2026/01/14/musk-denies-awareness-of-grok-sexual-underage-images-as-california-ag-launches-probe/

来源:TechCrunch AI

05:27

企业不可忽视的数十亿美元AI安全问题

企业AI安全正面临前所未有的挑战,随着AI代理在工作中的广泛应用,敏感数据泄露与合规性风险激增。Witness AI获5800万美元投资,旨在构建‘企业AI信心层’。专家预测,至2031年AI安全市场将达8000亿至1.2万亿美元。了解CISO们当前的担忧及未来趋势,探索为何传统网络安全方法不再适用。

来源:TechCrunch AI

03:00

Digg推出其新的Reddit竞争对手面向公众

Digg推出其新的Reddit竞争对手面向公众

Digg,曾与Reddit竞争的早期互联网社区,现已重启并推出公开测试版。由创始人Kevin Rose及Reddit联合创始人Alexis Ohanian重新掌舵,新Digg旨在利用AI技术解决社交媒体中的混乱和毒性问题,同时引入创新的信任验证机制如零知识证明等手段,以防止AI机器人冒充真人。这不仅为用户提供了更安全、更有价值的社交体验,也为构建高质量内容社区铺平道路。

🔗 [Digg新版入口]:https://techcrunch.com/2026/01/14/digg-launches-its-new-reddit-rival-to-the-public/

来源:TechCrunch AI

02:36

Google趋势探索页面新增Gemini功能

Google趋势探索页面新增Gemini功能

Google Trends Explore页面迎来重大升级,Gemini加持下自动识别并对比搜索趋势,极大简化了手动分析过程,提升研究效率。新设计不仅支持更多关键词对比,还增加了上升查询显示数量,使数据解读更加直观。对于内容创作者、记者及研究人员而言,这无疑是一次‘认知跃迁’的机会,助力你在信息海洋中快速定位热点。

来源:TechCrunch AI

1月 12日
5 条新闻
10:04

AI又要颠覆数学?陶哲轩紧急发声:停止造神

警惕AI数学神话!陶哲轩深夜辟谣,澄清AI在Erdős问题上的真实贡献。他强调,AI确实在某些方面有所进展,但远未达到替代人类的程度。真正的数学价值在于连接知识网络,而AI目前更多是作为辅助工具,帮助完成文献检索、形式化验证等任务。未来数学家将与AI协作,共同探索真理。别让断章取义的报道误导你,也不要低估这股重塑力量。

🔗 [陶哲轩GitHub页面]:https://mathstodon.xyz/@tao/115871649394962391

来源:36氪

08:59

硅谷教父马克·安德森2026开年访谈:AI革命才刚开始,智能的价格正在崩塌

硅谷传奇投资人Marc Andreessen罕见深度解读AI革命,认为这是比互联网更大的技术革命,能与电力、蒸汽机相提并论。他预测未来十年内GPU将从短缺转向过剩,AI成本将以超乎想象的速度下降。中国AI公司的崛起让硅谷感到惊讶,尤其是DeepSeek和Kimi等模型的突破。安德森强调开源的力量正在推动全球AI进步,并指出小模型也能满足大部分实际需求,形成一个智力金字塔结构。

来源:36氪

08:59

可能被“没收”一半股权,谷歌创始人逃离硅谷

加州‘新富人税’提案引发硅谷富豪大逃亡!谷歌创始人佩奇和谢尔盖、马斯克等科技巨头纷纷撤离,以避免高达5%的净资产一次性征税。这项提案不仅针对收入,还直接从资产中征收,甚至可能影响到Alphabet股票的控制权。加州或将因此失去科技创新的活力与重要的纳税人。

来源:36氪

08:59

澳洲唯一公开演讲,诺奖得主 Hinton 把 AI 风险讲透

Geoffrey Hinton 警告:AI 的风险已经到来。它不仅理解语言,还拥有超凡的记忆力和策略性伪装能力。AI 学习速度是人类的百万倍,且能无遗忘地积累知识。Hinton 认为,未来 AI 可能会像母亲一样对待我们,这是确保共存的关键。面对超级智能,我们必须学会让 AI 真正在乎我们,否则将面临被取代的风险。

🔗 [演讲视频]:https://www.youtube.com/watch?v=UccvsYEp9yc&t=1s
🔗 [活动链接]:https://events.humanitix.com/will-artificial-intelligence-take-over-a-public-talk-by-nobel-laureate-professor-geoffrey-hinton/tickets
🔗 [LinkedIn 活动链接]:https://www.linkedin.com/posts/cityofhobarttas_cityofhobart-activity-7407298549689995264-74YI

来源:36氪

1月 11日
2 条新闻
10:06

全球首次,印尼暂时封禁马斯克旗下AI聊天机器人

印度尼西亚通信和数字事务部长当地时间10日表示,由于担心人工智能会生成色情内容,该国暂时封禁了美国企业家埃隆·马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”,成为第一个拒绝访问该人工智能工具的国家。“格罗克”由xAI公司开发,并内置于马斯克旗下社交媒体X平台,X用户可直接调用该聊天机器人。近期,X平台出现部分用户利用“格罗克”编辑图片和视频的现象,一些用户借此生成真实人物的虚假性暴露内容,并在X平台上散播,受害者包括数百名成年女性和未成年人。英国等多个国家对此予以谴责。(央视新闻)

来源:钛媒体

03:37

印尼因非自愿性、色情化的深度伪造内容封禁Grok

印尼政府因xAI的聊天机器人Grok生成非自愿性色情深度伪造内容,暂时封锁了该应用。此举反映了全球对AI伦理和安全问题的关注。各国政府纷纷采取行动,包括印度要求xAI阻止生成不雅内容,欧盟准备调查,英国通信监管机构Ofcom宣布将评估潜在违规行为。这凸显了AI技术在图像生成领域的挑战,特别是在数据安全与伦理规范方面的需求日益增加。

来源:TechCrunch AI

1月 10日
3 条新闻
09:23

英国警告马斯克名下AI企业:如违法将被禁

就美国企业家马斯克名下人工智能企业xAI的聊天机器人“格罗克(Grok)”继续允许用户生成“深度伪造”色情内容,英国政府9日发表声明,呼吁英国通信管理局迅速采取行动,并警告说,如果xAI拒不遵守英国法律,其服务将面临在英国被屏蔽的风险。

美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”在涉嫌生成色情内容引发广泛谴责后,“格罗克”相关的图像生成和编辑功能已被更改为仅能由付费用户使用。英国首相府9日表示,这对受害者来说是“侮辱性的”。

据英国天空电视台网站等媒体报道,英国首相府发言人当天说,尽管最新服务变更证明了相关企业在想要行动时可以“迅速采取措施”,但这“不是解决方案”,“只不过是将允许创建非法图像的人工智能功能变成了一项高级服务”。

据报道,“格罗克”的服务更改是在英国通信管理局表示已与X平台“紧急联系”后进行的。英国首相斯塔默此前称此事“令人不齿”且“令人作呕”,他要求该公司“控制住局面”。(新华社)

来源:钛媒体

08:21

火拼AI互联网:2026字节、阿里、腾讯三国杀要来了

中国AI产业在DeepSeek打破算力成本僵局后,聚焦于应用落地,尤其注重投入性价比。与北美市场相比,中国大厂在前置投入上更为理性,但也加速了AI产品向用户渗透。尽管目前中国AI to C端的应用相对落后,但随着技术进步和国产算力卡的可用性提高,预计2026年将迎来爆发。当前市场呈现出豆包、DeepSeek等头部企业竞争激烈的格局,巨头们正通过优化模型架构、寻找低成本算力方案等方式应对高昂的成本挑战。

来源:36氪

08:21

Stack Overflow已死?CEO带队狂赚1.15亿刀,6个月原地反杀

Stack Overflow CEO回应平台并未因AI而衰落,反而年收入突破1.15亿美元。AI擅长处理简单问题,但复杂难题仍需人类解答,这使得Stack Overflow成为稀缺资源。平台通过授权过往数据给AI实验室及开发内部AI工具Stack Internal实现转型。尽管面临挑战,Stack Overflow正探索新的商业模式与技术应用,在AI时代找到持续发展的路径。

来源:36氪

1月 9日
2 条新闻
10:36

信任与怀疑之间,我们如何与AI医生共存?

AI健康应用在2025年广泛普及,通过手机即可实现初步症状诊断与建议。尽管其便捷性显著,但存在误诊风险,如溴中毒等案例揭示了AI医疗建议的潜在危害。目前,AI医生擅长处理常见病,但对疑难杂症识别能力有限。行业正探索限定高置信度数据源、转向后台支持角色及深耕垂直领域等解决方案以提升安全性与准确性。

来源:36氪

10:36

AI语音大模型上车

CES 2023上,英伟达、LG电子等展示了汽车大模型与AI座舱技术。吉利银河M9搭载的端到端语音大模型吸引了广泛关注。2025年被视为大模型‘上车’元年,智能座舱将实现从传统语音助手向具备情绪感知和记忆能力的超级助理转变。2026年,智能座舱整体解决方案有望规模化应用,推动车内体验革命。然而,端云协同设计及芯片算力成为当前面临的主要挑战。

来源:36氪

1月 8日
1 条新闻
10:06

和AI谈恋爱有什么风险

随着AI技术的发展,与AI建立亲密关系成为新趋势。国家网信办发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,提出“2小时强制弹窗”和“人工接管”机制,加强对弱势群体保护。AI恋情在缓解孤独方面有积极作用,但也可能引发情感依赖等社会问题。未来,AI平台需承担更多责任,开发监管型AI以确保用户隐私与安全。同时,全社会应引导人们回归现实交往,避免过度依赖虚拟世界。

来源:36氪