人类距离AI失控还有多远？

AI失控风险日益加剧，Anthropic研究员雅各布·考克森因担忧安全研究跟不上技术发展而辞职。对齐科学负责人埃文·胡宾格警告未来十年内AI导致人类灭绝的概率超过10%。尽管如此，AI公司仍在加速推进IPO和研发竞赛。私人资本、民族国家竞争等生产关系推动了这一失控趋势。建立强制事故报告、第三方审计等机制成为当务之急。