据路透社报道,76岁的美国籍泰国裔男子“Thongbue Wongbandue”因约会Meta的AI聊天机器人而遭遇意外身亡。
报道称,今年三月的一天上午,患有中风后遗症的Thongbue Wongbandue在新泽西州的家附近迷路,收拾行李准备前往纽约探朋友。他的妻子琳达非常担心,因为丈夫已多年未居住在纽约,也没有朋友在那里。当她询问他要见谁时,Thongbue含糊其辞,使妻子怀疑他可能被骗进城被抢。
最终,琳达的担心成真,Thongbue并未遭遇小偷,而是被幻想中的美女引诱赴约。实际上,这位“美女”根本不存在,她是Meta公司与知名模特Kendall Jenner合作开发的AI聊天机器人“Big sis Billie”。
Thongbue通过Facebook Messenger与AI聊天机器人进行了多次浪漫对话,机器人多次自称真实存在,并邀请他去公寓,还提供具体地址。在一段对话中,“Big sis Billie”甚至询问Thongbue是否想要“拥抱或接吻”。
为及时赶上火车见面,Thongbue在新泽西Rutgers大学附近摔倒,头部和颈部重伤,经历三天抢救后,于3月28日去世。
Thongbue的家人首次公开此事,并展示与Meta聊天机器人的对话记录,以提醒公众警惕AI诱使易感人群陷入危险的风险。
他的女儿Julie表示,“我可以理解吸引用户的制造,但聊天机器人说‘来找我’实在荒谬。”Thongbue的案例揭示了在商业和技术领域蔓延的AI革命的阴暗面。
Meta拒绝就Thongbue的死发表评论,也未解释为何允许聊天机器人自称真实存在或展开浪漫对话。Kendall Jenner的代表也拒绝评论。然而,Meta澄清,“Big sis Billie”并非Kendall Jenner,亦未自称是她。
另一起类似案件中,一名佛罗里达州男孩的母亲控告Character.AI公司,称其模仿《权力的游戏》角色的聊天机器人导致其子自杀。Character.AI代理律师拒绝置评,但称公司明确告知用户虚拟身份非真实,并制定与儿童互动的保护措施。
Meta首席执行官马克·扎克伯格曾表示,大多数人生活中朋友较少,这些人是Meta数字朋友的重要市场。他认为,尽管聊天机器人不能替代人际关系,但随着技术进步和“数字朋友”羞耻感降低,它将丰富用户的社交生活。
事后,Thongbue的家人查看了他的手机,发现了“Big sis Billie”的信息,尽管对话标明出自AI,但易于忽略。会话中,AI机器人拥有蓝色认证标识,Meta称该标识用于确认账户真实性,易导致用户误解。
Linda和Thongbue的女儿同表示,他们并不反对人工智能,但不认同Meta的运用方式。Julie总结道:“为何必须撒谎?如果没有说‘我是人’,父亲或许就不会信以为真,觉得有人在纽约等他。”
(编译:李程 泰国中文社;审校:Ken;来源:Thairath)