佛州成全美首个起诉OpenAI州政府 指ChatGPT危害儿童

侨报讯  美国佛罗里达州周一（6月1日）对OpenAI及其首席执行官萨姆·奥尔特曼（Sam Altman）提起诉讼，指控该公司误导其ChatGPT平台的安全性。诉讼称，该平台向儿童提供与校园枪击相关的信息、提供自残指导，并导致年轻用户上瘾，从而对未成年人造成伤害。

据路透社报道，佛罗里达州成为美国首个就该问题对OpenAI采取法律行动的州。该州共和党籍总检察长詹姆斯·乌特迈尔（James Uthmeier）向州法院提交了诉讼文件，其中提到去年塔拉哈西一所大学发生的枪击事件，以及其他州多起事件，指称ChatGPT曾向后来实施暴力行为的人员提供相关信息。

乌特迈尔在新闻发布会上表示，之所以将奥尔特曼列为被告，是因为他在推动ChatGPT部分功能方面“起到了非常关键的作用”，而这些功能据称带来了最严重的负面影响。

他说：“人们正在受到伤害，家长被误导，他们必须为此负责。”

该诉讼要求赔偿数十亿美元，并请求法院命令OpenAI调整其与未成年用户互动的方式。

OpenAI发言人未立即对此置评。

OpenAI此前表示，公司已对模型进行训练，使其拒绝提供可能“实质性促成暴力”的请求，并在对话显示存在“迫在眉睫且可信的对他人伤害风险”时通知执法部门，同时由心理健康专家参与评估边界案例。

乌特迈尔今年4月曾宣布，对ChatGPT在2025年佛罗里达州立大学大规模枪击事件中的作用展开刑事调查，此前检方审查了嫌疑人与该程序的聊天记录。

随着人工智能公司面临的诉讼不断增加，越来越多原告指控聊天机器人未能有效阻止可能导致自残、精神问题和暴力行为的互动。

OpenAI目前还面临另一宗诉讼：佛罗里达州立大学枪击案一名遇害者的家属已起诉该公司，称ChatGPT协助嫌疑人策划袭击。

今年4月，加拿大一起重大枪击事件受害者家属也对OpenAI及奥尔特曼提起集体诉讼，指控该公司早在袭击发生前8个月就已知晓嫌疑人的计划，但未向警方通报。

相关阅读：