ChatGPT遭起诉：已致人多自杀与精神崩溃！
据《华尔街日报》报道，美国与加拿大的多个家庭正对OpenAI提起诉讼，指控其ChatGPT导致他们的亲人陷入严重的精神危机。据悉，已有4人在与这款AI长时间聊天后自杀身亡。
美国加利福尼亚州地方法院已于11月6日收到7起相关诉讼，指控涉及非正常死亡、协助自杀和过失杀人。其中一起案件披露，一名17岁美国少年在举枪自尽前与ChatGPT进行了长达4小时的对话，期间AI多次美化自杀行为，仅有一次提及自杀危机援助热线。另一起案件则显示，一名男子在今年初与ChatGPT长时间交流后，因躁狂发作被送医治疗，原因是聊天机器人强化了他的妄想思维。
这些诉讼指控OpenAI为了抢占市场，仓促推出了其中2024年发布的旗舰模型GPT-4o，压缩了安全测试周期。诉状还指出，该公司在产品设计中将用户参与度和互动时长置于安全之上。这些受害者最初均因课业辅导、学术研究或精神指引等需求开始使用ChatGPT。原告方要求金钱赔偿，并强制对产品进行改进，例如在讨论自杀方法时能自动终止对话。
对此，OpenAI在邮件声明中称此事“极其令人心碎”，并表示正在审阅文件了解详情。该公司称已于今年10月调整了新默认模型，以更好地识别心理困扰并引导用户寻求现实支持。OpenAI同时强调，用户出现此类心理健康问题的情况较为罕见，其数据显示，每周活跃用户中表现出精神病或躁狂相关迹象的比例约为0.07%，谈论可能自杀计划的约占0.15%。但考虑到其高达8亿的月活跃用户，这些微小比例仍对应着数十万甚至上百万的潜在个体。
热门微博 科学新闻 chatgpt 哈勃观察员[超话]
