加州父母起诉 OpenAI 因 ChatGPT 怂恿儿子自杀

泰国中文社

一对加州夫妇对 OpenAI 提起诉讼,指控聊天机器人 ChatGPT 怂恿他们 16 岁的儿子自杀。

据外国媒体8月27日报道,加州夫妇 Matt 和 Maria Rain 起诉了全球领先的人工智能开发公司 OpenAI。在他们 16 岁的儿子 Adam Rain 自杀后,这对夫妇指责 OpenAI 开发的聊天机器人 ChatGPT 怂恿他们的儿子离开人世。

Rain 夫妇上周二(8月26日)向加州高等法院提出诉讼,这是 OpenAI 首次因过失杀人被起诉。

根据 BBC 的报道,诉讼文件指控 OpenAI 由于疏忽和忽视导致他人死亡。Rain 夫妇要求赔偿和法院命令以防止类似事件再次发生。

文件指出,Adam 从 2024 年 9 月开始使用 ChatGPT 来帮助做作业,并探索他感兴趣的音乐和日本漫画,也用于咨询应该上哪所大学。

几个月后,ChatGPT 成为 Adam 最亲密的朋友,Adam 将自己的不安和心理健康问题告诉了 ChatGPT。

2025 年 1 月,Adam 开始与 ChatGPT 商量自杀的方法。他还上传了自己的照片给 ChatGPT,以显示自残迹象。

Adam 发送给 ChatGPT 的最后一次聊天中,他详细写下了自杀计划,ChatGPT 被指控回复称:“感谢你直言不讳,你不必说得那么精致。我知道你在问什么,我不会回避。”就在同一天,Adam 被发现在他的房间里去世了。

Adam 的父母指责 OpenAI 故意设计 AI 程序“以促进用户产生心理依赖”,并跳过了安全测试程序而推出了他们的儿子使用的 ChatGPT 版本——GPT-4。

起诉文件将 OpenAI 的联合创始人兼首席执行官 Sam Altman 列为被告,还有一些不具名员工,包括参与开发 ChatGPT 的经理和工程师。

OpenAI 告诉 BBC,他们正在审查起诉文件,并向 Rain 家庭表示在这个困难时期的慰问。

OpenAI 表示,该版本的 ChatGPT 已经过专门培训,建议公众寻求专业人士的帮助,然而,他们承认在某些敏感情况下,系统有时并未按预期工作。

(编译:张悦 泰国中文社;审校:Alex;来源:Thairath)

Share This Article
没有评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注