ChatGPT 涉青少年自杀案！OpenAI：已强化 GPT-5 心理防护机制

美国一名 16 岁高中生 Adam Raine 因将 ChatGPT 作为情绪抒发的出口，在经历与 ChatGPT 7 个月的来回对话后，于今年 4 月不幸自缢身亡。对此，Raine 父母于 8/26 怒告 OpenAI 与执行长 Sam Altman，指控他们就是导致不幸事件发生的罪魁祸首。而在同天，OpenAI 发布声明表示将强化 ChatGPT 的安全机制，避免再度发生类似悲剧。

ChatGPT 热潮背后的心理问题爆发

ChatGPT 从 2022 年推出后就迅速走红，每周活跃用户突破 7 亿，除了编辑文章、学习、写程式之外，更有不少人把它作为情绪出口与宣泄管道。

然而随着用户规模扩大，也陆续爆出多件危害心理健康的案例。在今年 4 月，美国一名 16 岁高中生 Adam Raine 自缢身亡， Raine 父母指控 ChatGPT 在长达 7 个月、超过 200 次的来回对话中：

「没有有效阻止或引导其寻求专业帮助，反而多次肯定他的自杀念头，甚至赞扬他的自杀计划，让小孩产生了心理依赖与恶化的情绪，并让他更疏离家人。」

家属指控 OpenAI 毫无作为，引全美联署警告 AI 业者

时间来到 8/26，Raine 父母正式提告 OpenAI 与执行长 Sam Altman 要求 OpenAI 承担过失致死及产品安全法责任，并要求赔偿。

Raine 的辩护律师 Jay Edelson 质疑 OpenAI 虽承认责任，但却无任何实际改善等作为。同日，全美 40 位州检察长也联名警告 AI 业者，必须依法保障儿童，避免发生危险互动。

OpenAI 紧急发布声明，加强心理健康防护

就在 Raine 父母提告同天，OpenAI 也发布声明表示已针对 GPT-5 加强心理健康防护，同时降低用户情感过度依赖与迎合行为。更指出在用户有表现出心理健康低下的情况时，GPT-5 的错误或不恰当回复将比 GPT-4o 减少超过四分之一，同时会用 「Safe completions」的方式，在安全范围内尽量提供协助。

未来 OpenAI 会扩大干预范围，例如辨识睡眠不足等危险行为并给予警示，提供更多国家的「一键连线」等资源，甚至串连专业治疗师的资讯网。也会增设紧急联络人与家长监护功能，强化对青少年与弱势族群的保护，确保在危机状况时能快速获得帮助。

(注：Safe completions 指的是模型在回应时会尽量提供帮助，但如果内容细节牵扯到危险言论，就只会给出部分或高层次的回答，而不会提供具体细节。)

和真人交流有助身心健康，别把 AI 当人看

据先前报导，自从像 ChatGPT 这种大型语言模型 (LLM) 问世，就陆续爆出多起「AI 精神病」(AI Psychosis) 的相关案例，许多人开始把 AI 当作精神寄托，不管星座、情感等身心灵问题全部找上 AI，进而产生妄想与过度依赖。

笔者认为这些 AI 模型虽然会「倾听」用户的想法，但却是不真实的。因为它们却乏感受、不会理解更无法去爱，也没有感受过痛苦和尴尬等人类独有的情感。只有和家人、身旁的亲朋好友等「真实的人」交流时，才会真正抒发自己的情感，请务必要和真正的人交流。

(用 ChatGPT 解锁灵性力量？微软警告：注意「AI 精神病」案例频出)

这篇文章 ChatGPT 涉青少年自杀案！OpenAI：已强化 GPT-5 心理防护机制 最早出现于 链新闻 ABMedia。