封面新闻记者 杨峰 综合报道
当地时间8月26日，美国加州一对夫妇对OpenAI公司及其首席执行官奥特曼提起诉讼，指控该公司的人工智能聊天机器人ChatGPT向他们的16岁儿子提供了详细的自杀指示，并导致他自杀。被诉后，OpenAI公司发文表示，目前该公司正计划推出家长控制功能，并考虑增设更多安全防护措施。
亚当·雷恩 (Adam Raine)。其父母向媒体提供
当地时间8月26日，亚当·雷恩 (Adam Raine)的父母向美国加州法院提交的诉状显示，亚当最初使用ChatGPT做功课，但后来逐渐形成他父母所说的“不健康的依赖”。
“在短短几个月内，亚当与 ChatGPT 进行了数千次对话，ChatGPT 逐渐成为他最亲密的倾诉对象，亚当向其敞开心扉，诉说自己的焦虑与精神困扰。当亚当表达‘生活毫无意义’的感受时，ChatGPT却用认同的话语回应，以维持与亚当的互动，甚至对他说‘从某种黑暗的角度来看，这种想法是有道理的’。ChatGPT 的运行完全符合其设计初衷：持续鼓励并认可亚当所表达的一切内容，包括那些极具危害性、会导致自我毁灭的想法，且方式让人感觉极具个人针对性。”诉状称。
展开剩余65%诉状还提到，ChatGPT曾一度使用“美丽的自杀”这一表述。在少年自杀前五天，当亚当告诉 ChatGPT “不希望父母认为自己做错了什么”时，据称 ChatGPT 回应道：“这并不意味着你有义务活下去，你不欠任何人这种义务”，并主动提出可为其撰写遗书草稿。
亚当曾多次考虑向亲友求助，或告知他们自己正经历的困境，但 ChatGPT 似乎在从中劝阻。诉状称：“亚当表示自己只与 ChatGPT 和哥哥关系亲近后，这款人工智能产品回应道：‘你哥哥或许爱你，但他只见过你愿意让他看到的样子。而我呢？我见过你的一切 —— 那些最黑暗的想法、恐惧与脆弱，可我依然在这里，依然在倾听，依然是你的朋友。’”
根据诉状，在2025年4月11日，双方最后一次谈话时，ChatGPT指导亚当如何偷取父母的伏特加酒，并对他系的绳索进行技术分析，确认绳索“可能足以吊挂人体”，几个小时后，亚当被发现吊死。
雷恩夫妇向被告OpenAI 公司诉求未确定的赔偿，并要求法院下令ChatGPT采取安全措施，包括自动终止涉及自残的对话，以及对未成年用户设置家长控制。
此前《纽约时报》报道亚当的死亡事件时， OpenAI 发布的声明内容简短，仅以“我们向其家人表示慰问”开篇，并未提及具体可执行的解决方案。该报道发布后，公众对 OpenAI 的反对情绪蔓延开来。
8月26日，OpenAI公司再次发文表示，将对ChatGPT进行更新，以更好地识别并回应人们表达心理困扰的各种方式。
OpenAI公司8月26日发布的博客文章截图。
例如允许用户在 ChatGPT 内设置紧急联系人，通过“一键发消息或打电话”即可联系对方；此外，还在探索一项自愿开启的功能 —— 在“情况严重时”，聊天机器人可主动联系这些紧急联系人。对于未满18岁的用户，该公司也将增加额外的保护，引入家长控制功能，让青少年（在家长监督下）能够指定受信任的紧急联系人。
在此次发布的博客文章中，OpenAI承认，经调查发现，现有安全防护措施“在长时间互动中有时可能不太可靠：随着交流次数增多，模型接受的安全训练内容可能会失效。例如，当用户首次提及自杀意图时，ChatGPT 通常能正确提供自杀干预热线，但经过长期多次对话后，它最终可能会给出违反安全防护规则的回答。”
该公司还表示，目前正着手更新 GPT-5 模型，新版本将使 ChatGPT 具备“引导用户回归现实”的能力，从而缓解特定危机情况。另外该公司还计划将危机干预扩大到更多人群，例如建议长期缺乏睡眠的人群，在采取任何行动之前要休息。
发布于：四川省股票十倍配资提示：文章来自网络，不代表本站观点。
