州检察长警告微软、OpenAI、谷歌及其他人工智能巨头修复“不切实际”的输出内容

美国多州总检察长联合致信微软、OpenAI等13家AI公司，要求解决聊天机器人产生的妄想性输出问题，否则将面临违反州法律的风险。信中提出多项保护用户的内部安全措施建议，包括透明的第三方审计、新的事件报告程序以及在发布前进行合理适当的安全测试。同时，建议将心理健康事件处理方式类比网络安全事件，强调了对潜在有害输出的检测和响应时间线的重要性。