OpenAI道歉！封禁枪击案嫌疑人账号却未预警，8人遇难引发AI监管反思
OpenAI CEO Sam Altman 已正式向加拿大不列颠哥伦比亚省的 Tumbler Ridge 小镇致歉。原因是该公司曾封禁一起大规模枪击案嫌疑人的 ChatGPT 账号，但未及时向警方发出预警，最终导致 8 人遇难。这一事件将 AI 平台在风险识别、执法转介和未成年人监管方面的短板推至台前。
本周，奥特曼在致 Tumbler Ridge 社区的道歉信中承认，OpenAI 未能更早地将 Jesse Van Rootselaar 的可疑活动通报给执法部门。Van Rootselaar 是今年 2 月该镇一起致命枪击案的主要嫌疑人，该事件共造成 8 人死亡。这封信的落款日期为 4 月 23 日。
去年 6 月，OpenAI 的自动审核系统已标记了 Van Rootselaar 在 ChatGPT 上的多条消息，这些内容描述了暴力场景，并最终导致其账号被封禁。据《华尔街日报》报道，部分内部员工认为这些文字可能指向现实中的暴力风险，曾敦促管理层提醒加拿大警方，但高层最终决定不联系执法机构。
今年 2 月，警方确认 Van Rootselaar 为 Tumbler Ridge 枪击案的嫌疑人。Van Rootselaar 现年 18 岁，是一名跨性别女性。OpenAI 表示，在枪击案发生、嫌疑人姓名公开后，公司发现其还使用过另一个 ChatGPT 账号。
奥特曼在信中重申了此前向 Tumbler Ridge 镇长和不列颠哥伦比亚省省长作出的承诺：OpenAI 将寻找方法，防止类似悲剧重演。他强调，未来的工作重点是与各级政府合作，确保此类事件不再发生。这封道歉信最早由当地社区报纸 Tumbler RidgeLines 刊发。
OpenAI 表示，自枪击案发生以来，公司已强化了安全流程。按照目前升级后的执法转介规则，如果今天发现 Van Rootselaar 的账号，OpenAI 会将其直接提交给执法部门。今年 3 月，加拿大议员透露，奥特曼已同意向 Tumbler Ridge 居民道歉。
不列颠哥伦比亚省省长 David Eby 周三表示，公共安全部门已从警方处获悉，枪击案调查正进入最后阶段。Tumbler Ridge 镇长 Darryl Krakowka 未立即回应置评请求，但他本周早些时候在维多利亚对记者说：“镇上居民仍在悲痛之中。有些人已经开始疗愈，但另一些人还没有。对我来说，这件事仿佛就发生在昨天，但其实已经过去几个月了。”
加拿大负责人工智能事务的部长 Evan Solomon 的代表未回应置评请求。本月，加拿大执政党自由党的全国党员通过了一项不具约束力的决议，呼吁禁止 16 岁以下青少年使用 AI 聊天机器人。Evan Solomon 及其他加拿大高级官员表示，他们正在考虑 AI 监管措施，但尚未作出最终决定。如何在个人隐私与公共利益间保持合理平衡，也考验着 AI 管理者的智慧与良知。
参考资料：
https://www.wsj.com/us-news/law/openai-ceo-apologizes-for-not-flagging-mass-shooting-suspect-to-police-afa53d1d
关注“鲸栖”小程序，掌握最新AI资讯
本文来自网络搜集，不代表鲸林向海立场，如有侵权，联系删除。转载请注明出处：https://www.itsolotime.com/archives/32171
