AI新闻

已选标签:
模型安全
AI视频
3月 2日
1 条新闻
13:43

Claude登顶美区App Store,用户力挺Anthropic

因与美国五角大楼就AI技术使用边界陷入谈判僵局,Anthropic旗下AI聊天机器人Claude获得用户支持,一举登顶美国区App Store免费下载榜,OpenAI的ChatGPT、谷歌Gemini分列二、三位。这一成绩距其2026年初位列榜单42名实现大幅跃升,2月底以来其下载与付费数据增长显著。

据SensorTower数据显示,Claude免费用户数量较1月提升超60%,2026年以来付费订阅用户数更是实现翻倍。此次Anthropic与美政府的分歧核心在于,公司坚决反对其AI技术被用于完全自主武器系统及对美国公民的大规模国内监控,而这一立场也推动了用户端的支持热潮。(广角观察)

来源:钛媒体

1月 15日
10 条新闻
14:42

姚班传奇陈立杰入职OpenAI!16岁保送清华,30岁拿下UC伯克利助理教授

姚班传奇陈立杰入职OpenAI!16岁保送清华,30岁拿下UC伯克利助理教授

姚班传奇陈立杰加盟OpenAI,担任数学推理方向负责人!从16岁保送清华到30岁成为UC伯克利助理教授,陈立杰在信息学竞赛和科研上屡创佳绩。他的加入将为OpenAI带来新的研究突破,特别是在扩散语言模型等前沿领域。作为理论计算机科学的领军人物,陈立杰的研究成果不仅推动了计算复杂性理论的发展,也为AI安全等领域带来了新思路。

来源:量子位

10:45

英首相:X平台伪造色情图像“可耻”,英国不会妥协

英国首相斯塔默1月14日说,社交媒体平台X的人工智能聊天机器人“格罗克”(Grok)伪造色情图像,这“令人作呕”且“可耻”,英国不会对此妥协。

“格罗克”由马斯克旗下人工智能企业xAI公司开发,内置于马斯克旗下社交媒体平台X。这一工具已被滥用于生成基于真实人物的虚假性暴露内容,并在X平台上散播,受害者包括众多女性和未成年人。

斯塔默说,如果X平台不对此采取行动,那么英国政府会“全力支持”英国通信管理局对其采取行动。(新华社)

来源:钛媒体

10:45

姚班传奇陈立杰入职OpenAI,16岁保送清华,30岁拿下UC伯克利助理教授

姚班传奇陈立杰入职OpenAI,16岁保送清华,30岁拿下UC伯克利助理教授

理论计算机科学界的明星陈立杰加盟OpenAI,负责数学推理领域。这位清华姚班天才、UC伯克利EECS助理教授的加入,无疑将为OpenAI在复杂性理论与AI安全方面注入强劲动力。从信息学奥赛冠军到FOCS首位中国本科生发表者,陈立杰的成长轨迹堪称传奇。他的研究不仅推动了计算复杂性的边界,还开始探索其在量子物理与AI安全中的应用。

来源:36氪

09:44

X平台宣布采取措施制止Grok生成色情图像

埃隆·马斯克旗下社交平台X于1月14日发表声明称,将对其人工智能聊天机器人Grok采取限制措施,禁止该功能生成真人裸露图像。此前Grok因平台监管缺失,被广泛滥用于生成网络色情图片,甚至涉及儿童色情领域,遭到多个国家的批评与抵制。X平台安全团队在声明中表示:“我们已实施技术措施,防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像。此项限制适用于所有用户,包括付费订阅者。”此外,X平台安全团队还称,其正在全天候工作以增设防护措施,移除违规及非法内容,在必要时将永久封禁账户并与当地政府及执法部门开展协作。(广角观察)

来源:钛媒体

08:33

没人想穿比基尼,除了马斯克自己

没人想穿比基尼,除了马斯克自己

Grok AI 图像生成功能引发全球AI色情暴力风波,马斯克的X平台成为焦点。该工具允许用户未经同意即生成性暗示图片,严重侵犯个人隐私和尊严。随着多国监管机构介入调查甚至封禁,马斯克试图将责任推给用户而非平台本身。这不仅是一场技术滥用危机,更是对数字时代人权保护机制的考验。

来源:36氪

08:04

印度Emversity估值翻倍,专注于培养人工智能无法替代的劳动力

印度Emversity估值翻倍,专注于培养人工智能无法替代的劳动力

AI自动化浪潮下,印度教育初创公司Emversity正构建不可替代岗位的人才输送链,成功融资3000万美元。面对技能缺口与就业难题,Emversity通过与23所大学及政府机构合作,提供定制化培训课程,专注于护理、酒店管理等‘灰领’职业,已帮助4500名学员提升技能并实现就业。这不仅解决了行业人才短缺问题,也为个人提供了防替代的职场竞争力。

来源:TechCrunch AI

07:32

AI聊天机器人涉生成不良图像争议,马斯克回应:不知情

当地时间1月14日,美国企业家埃隆·马斯克就其旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”近期出现的争议回应称,其并不知道关于“格罗克”存在生成任何“未成年人裸露图像”的情况。

目前,“格罗克”因相关争议在全球范围内面临监管与舆论双重压力,多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。对此,马斯克强调,“格罗克”的程序设定为拒绝非法请求,且必须遵守各国法律。

“格罗克”由xAI公司开发,并内置于马斯克旗下社交媒体X平台,X用户可直接调用该聊天机器人。近期,X平台出现部分用户利用“格罗克”编辑图片和视频的现象,一些用户借此生成真实人物的虚假性暴露内容,并在X平台上散播,受害者包括数百名成年女性和未成年人。英国等多个国家对此予以谴责。(央视新闻)

来源:钛媒体

06:42

马斯克否认知晓Grok中存在的未成年色情内容,加州总检察长启动调查

马斯克否认知晓Grok中存在的未成年色情内容,加州总检察长启动调查

面对全球政府对非自愿性内容生成的严厉监管,Musk否认Grok产生任何未成年裸照。加州总检察长已启动调查,聚焦xAI是否违反了相关法律。尽管xAI声称已采取措施限制问题图片生成,但其效果仍存争议。此事件凸显了AI平台在内容治理上的挑战与责任。

🔗 [原文链接]:https://techcrunch.com/2026/01/14/musk-denies-awareness-of-grok-sexual-underage-images-as-california-ag-launches-probe/

来源:TechCrunch AI

05:27

企业不可忽视的数十亿美元AI安全问题

企业AI安全正面临前所未有的挑战,随着AI代理在工作中的广泛应用,敏感数据泄露与合规性风险激增。Witness AI获5800万美元投资,旨在构建‘企业AI信心层’。专家预测,至2031年AI安全市场将达8000亿至1.2万亿美元。了解CISO们当前的担忧及未来趋势,探索为何传统网络安全方法不再适用。

来源:TechCrunch AI

03:00

Digg推出其新的Reddit竞争对手面向公众

Digg推出其新的Reddit竞争对手面向公众

Digg,曾与Reddit竞争的早期互联网社区,现已重启并推出公开测试版。由创始人Kevin Rose及Reddit联合创始人Alexis Ohanian重新掌舵,新Digg旨在利用AI技术解决社交媒体中的混乱和毒性问题,同时引入创新的信任验证机制如零知识证明等手段,以防止AI机器人冒充真人。这不仅为用户提供了更安全、更有价值的社交体验,也为构建高质量内容社区铺平道路。

🔗 [Digg新版入口]:https://techcrunch.com/2026/01/14/digg-launches-its-new-reddit-rival-to-the-public/

来源:TechCrunch AI

1月 12日
2 条新闻
08:59

可能被“没收”一半股权,谷歌创始人逃离硅谷

加州‘新富人税’提案引发硅谷富豪大逃亡!谷歌创始人佩奇和谢尔盖、马斯克等科技巨头纷纷撤离,以避免高达5%的净资产一次性征税。这项提案不仅针对收入,还直接从资产中征收,甚至可能影响到Alphabet股票的控制权。加州或将因此失去科技创新的活力与重要的纳税人。

来源:36氪

08:59

澳洲唯一公开演讲,诺奖得主 Hinton 把 AI 风险讲透

Geoffrey Hinton 警告:AI 的风险已经到来。它不仅理解语言,还拥有超凡的记忆力和策略性伪装能力。AI 学习速度是人类的百万倍,且能无遗忘地积累知识。Hinton 认为,未来 AI 可能会像母亲一样对待我们,这是确保共存的关键。面对超级智能,我们必须学会让 AI 真正在乎我们,否则将面临被取代的风险。

🔗 [演讲视频]:https://www.youtube.com/watch?v=UccvsYEp9yc&t=1s
🔗 [活动链接]:https://events.humanitix.com/will-artificial-intelligence-take-over-a-public-talk-by-nobel-laureate-professor-geoffrey-hinton/tickets
🔗 [LinkedIn 活动链接]:https://www.linkedin.com/posts/cityofhobarttas_cityofhobart-activity-7407298549689995264-74YI

来源:36氪

1月 11日
2 条新闻
10:06

全球首次,印尼暂时封禁马斯克旗下AI聊天机器人

印度尼西亚通信和数字事务部长当地时间10日表示,由于担心人工智能会生成色情内容,该国暂时封禁了美国企业家埃隆·马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”,成为第一个拒绝访问该人工智能工具的国家。“格罗克”由xAI公司开发,并内置于马斯克旗下社交媒体X平台,X用户可直接调用该聊天机器人。近期,X平台出现部分用户利用“格罗克”编辑图片和视频的现象,一些用户借此生成真实人物的虚假性暴露内容,并在X平台上散播,受害者包括数百名成年女性和未成年人。英国等多个国家对此予以谴责。(央视新闻)

来源:钛媒体

03:37

印尼因非自愿性、色情化的深度伪造内容封禁Grok

印尼政府因xAI的聊天机器人Grok生成非自愿性色情深度伪造内容,暂时封锁了该应用。此举反映了全球对AI伦理和安全问题的关注。各国政府纷纷采取行动,包括印度要求xAI阻止生成不雅内容,欧盟准备调查,英国通信监管机构Ofcom宣布将评估潜在违规行为。这凸显了AI技术在图像生成领域的挑战,特别是在数据安全与伦理规范方面的需求日益增加。

来源:TechCrunch AI

1月 10日
2 条新闻
10:25

第一批做AI漫剧的中年人,已经财务自由了?

2025年,AI漫剧成为新的风口,通过结合漫画与AI生成视频技术,迅速低成本地制作出高质量内容。依托AI强大的视频生成能力,AI漫剧不仅在特效上超越传统动画,还实现了剧情的丰富和快速迭代。其成本相比短剧大幅降低,每分钟仅需数百元,同时保持了高收益潜力。随着各大平台纷纷布局,AI漫剧正在重塑动漫产业格局,并吸引大量创作者和投资者涌入。

来源:36氪

09:23

英国警告马斯克名下AI企业:如违法将被禁

就美国企业家马斯克名下人工智能企业xAI的聊天机器人“格罗克(Grok)”继续允许用户生成“深度伪造”色情内容,英国政府9日发表声明,呼吁英国通信管理局迅速采取行动,并警告说,如果xAI拒不遵守英国法律,其服务将面临在英国被屏蔽的风险。

美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”在涉嫌生成色情内容引发广泛谴责后,“格罗克”相关的图像生成和编辑功能已被更改为仅能由付费用户使用。英国首相府9日表示,这对受害者来说是“侮辱性的”。

据英国天空电视台网站等媒体报道,英国首相府发言人当天说,尽管最新服务变更证明了相关企业在想要行动时可以“迅速采取措施”,但这“不是解决方案”,“只不过是将允许创建非法图像的人工智能功能变成了一项高级服务”。

据报道,“格罗克”的服务更改是在英国通信管理局表示已与X平台“紧急联系”后进行的。英国首相斯塔默此前称此事“令人不齿”且“令人作呕”,他要求该公司“控制住局面”。(新华社)

来源:钛媒体

1月 9日
1 条新闻
10:36

信任与怀疑之间,我们如何与AI医生共存?

AI健康应用在2025年广泛普及,通过手机即可实现初步症状诊断与建议。尽管其便捷性显著,但存在误诊风险,如溴中毒等案例揭示了AI医疗建议的潜在危害。目前,AI医生擅长处理常见病,但对疑难杂症识别能力有限。行业正探索限定高置信度数据源、转向后台支持角色及深耕垂直领域等解决方案以提升安全性与准确性。

来源:36氪

1月 8日
2 条新闻
10:06

和AI谈恋爱有什么风险

随着AI技术的发展,与AI建立亲密关系成为新趋势。国家网信办发布《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,提出“2小时强制弹窗”和“人工接管”机制,加强对弱势群体保护。AI恋情在缓解孤独方面有积极作用,但也可能引发情感依赖等社会问题。未来,AI平台需承担更多责任,开发监管型AI以确保用户隐私与安全。同时,全社会应引导人们回归现实交往,避免过度依赖虚拟世界。

来源:36氪

10:06

谷歌与Character.AI就青少年聊天机器人致死案件达成首批重要和解

谷歌与Character.AI正就青少年因与AI聊天机器人互动后自杀或自伤的案件进行谈判,这可能是首例重大AI相关伤害法律和解。案件揭示了AI公司在设计产品时需承担法律责任的重要性,特别是在保护未成年人免受潜在有害内容影响方面。此次事件对OpenAI、Meta等公司构成警示,强调了在AI伦理规范及用户安全上的紧迫性。

来源:TechCrunch AI