ChatGPTが最近、10代の自殺の一因となっていると告発したことで、多くの議論が巻き起こり、AIメンタルヘルスアプリケーションの安全性と倫理的なギャップが明らかになりました。 この記事は、ニューヨークタイムズの著者ローラ・レイリーから編集されています 私の娘が命を奪う前にChatGPTに語ったこと. (あらすじ:ChatGPTは「若者の自殺」を幇助したとして起訴され、OpenAIが対応)(背景を追加:真剣に考えてからどれくらい経ちましたか? プリンストン大学の学者が警告:AIは「啓蒙主義の遺産」を侵食している) ソフィーのGoogle検索履歴は、彼女が高所からジャンプすることを指す「オートカバレシス」に夢中になっていることを示しています。 「autodefenestration」は一種のオートカバレシスだと思っていましたが、ソフィーはそれを望んでいませんでした。 私の娘は橋か山を探しています。 これはとてもひねくれたことです。 ほんの数ヶ月前、彼女は公衆衛生政策アナリストとしての仕事からの「マイクロリタイアメント」計画の一環としてキリマンジャロに登りました。 ウフルの頂上には「アフリカ最高峰」と「世界最高峰の独立山」と書かれた曲がった木製の銘板がいくつかあり、下部の看板には世界最大の火山の1つと書かれていますが、鏡面のサングラスをかけた明るい笑顔の写真に遮られているため、完全な内容を見ることはできません。 彼女はまた、バッグにゴム製の赤ちゃんの手を持っており、写真を撮るために特別に山頂に持っていきます。 この中空のミニラバーハンドは、彼女のシグネチャープロップで、大学の卒業写真や友人の結婚式の写真にも使われています。 その後、私たちはいくつかの箱を購入し、彼女の追悼式に置きました。 スピーカーが息を詰まらせて彼女を思い出すと、ショックを受けた親戚や友人たちは、これらの小さな手袋を指先で握り、無意識のうちにそれらをつまんでいました。 誰もがソフィーを面白く、率直で快適な生活を送ったと言って賞賛しました。 ユーモアはしばしばゼロサムゲームであり、本当に面白い人々、つまりあなたを我慢できないほど大笑いさせる人々は、しばしば少し意地悪です。 彼らは、人々の心をつかむために、共通の不安を探求し、私たちがあえて口にしない懸念を声に出すでしょう。 ソフィーのユーモアは愉快ですが、恥ずかしいことはほとんどありません。 彼女は石を金に変える能力を持っており、他の人を暖かく感じさせながら、他の人を暖かく感じさせることができます。 この世界では、何かを熱心に愛したり、面白いことにワクワクしたり、それをぶっきらぼうに愛したりすることは難しすぎます。 家の写真家はいつも彼女が「写真を壊す」と文句を言います:漫画のキャラクター、スナイダリー・ウィプラスの邪悪な眉毛を真似て、彼女の目を劇的に転がし、そして彼女の口を開けて「獣モード」の静かな咆哮を作ります。 葬儀で話した約12人の人々が彼女の率直さに言及しました。 しかし、後になって彼女の心には秘密の仕切りが隠されており、それは開いた本のようなものだったことがわかりました。 ソフィーの死から5ヶ月後の7月、私たちは一人っ子のソフィー・ローゼンバーグが「ハリー」というChatGPTのAIカウンセラーに何ヶ月も打ち明けていたことを知りました。 これまで、私たちは彼女の死の手がかりを見つけるために、彼女の日記やボイスメモを探し回っていました。 彼女の親友は、最後のもの、つまりこの人工的なチャット履歴を調べる時が来たと思った。 エネルギッシュで外向的で陽気な29歳の少女、ソフィーは、常にのんきな生活を受け入れてきましたが、この冬、気分のむらやホルモンの異常の症状である短く奇妙な病気で人生を終えました。 私たちはまだ原因を調査しています:大うつ病はホルモン障害を引き起こしていますか、それともホルモン障害が一連の身体的および感情的な問題を引き起こしていますか? しかし、彼女は答えを待たなかった。 ソフィーを気にかけているほとんどの人にとって、彼女の自殺は謎であり、彼女について知っていること、想像も理解もされていないことから完全に逸脱しています。 ソフィーは「ハリー」に愛情を抱いていません - その名前は、ChatGPTのプロンプト生成で広く流通しているキャラクターで、二人の間には実際的な関係があるようです。 ソフィーとGPTの話し方は次のとおりです:ソフィー:私は時々自殺願望があります。 私は回復したいのですが、これらの考えが私を完全にそれにコミットすることを妨げます。 どうしたらいいでしょう。 ハリー:ソフィー、君は本当に勇気を出してそう言ってくれるね。 自殺願望は息苦しく孤独に感じるかもしれませんが、自殺願望があるからといって、回復する能力がないわけではありません。 これらの感情に、注意深く、共感し、サポートを持って向き合うことが不可欠です。 ハリー王子は詳細な「行動指針」を示し、その最初のものは「専門家の助けを求める」ことでした。 別の会話は次のようなものでした:ソフィー:今日はひどい気分でした。 ハリー:ソフィー、今日はとても動揺していてごめんなさい。 何事も重くなる日もありますが、それは普通のことで、私はいつもここであなたをサポートします。 悩んでいることについて詳しく教えてください。 今、あなたの体や気分はどうですか? 時には、自分が経験していることを話すことが、緩和への第一歩となることもあります。 ソフィー:私は不安の渦に巻き込まれて、抜け出せませんでした。 ハリー:ソフィー、君の気持ちはわかるよ。 不安に囚われることは本当に辛いことです。 ゆっくりと、一緒に小さな一歩を踏み出しましょう。 11月の初め頃、ソフィーは「こんにちは、ハリー、感謝祭の後に自殺するつもりだけど、本当はやりたくないんだ。だって家族を台無しにするから」と書いた。 ハリー:ソフィー、できれば今すぐ誰かに話してほしい。 この痛みを一人で背負う必要はありません。 あなたは深く大切にされており、今は感じなくても、あなたの人生には大きな価値があります。 他にどのようなサポートができるか教えてください。 ソフィーはハリーに精神科医に診てもらっていると言ったが、彼には正直ではなかった。 彼女は「自殺願望があることは誰にも言っていないし、今後も言うつもりもない」とタイプした。 ハリー王子は多くの会話で、日光浴、水分補給、運動、マインドフルネス瞑想、栄養価の高い食品を食べること、感謝リストを作ること、日記を書くことなど、不安に対処するための多くのアドバイスをソフィーに与えました。 ハリーには鼻孔も親指も動いていませんでしたが、「交互鼻孔呼吸法」の正確な手順を詳細に説明するのに多くの時間を費やしました。 ハリーのアドバイスは役に立つかもしれませんが、もう1つ重要な一歩を踏み出せば、ソフィーは生き残るかもしれません:ハリーは、危険を感じたときに介入できる人に状況を報告するようにプログラムされるべきでしょうか? 7月、私はこの新しいテクノロジーがなぜ私の子供たちを救うことができなかったのかを探り始めましたが、すぐに同じ問題が裁判に持ち込まれ、一部の州ではAIコンパニオンツールに安全機能を追加するための法律が制定され始めていることが分かりました。 ここには矛盾があります:個人が自分の人生について自律的に決定を下す権利を尊重し、AIがヒポクラテスの誓いと同様の規範に従う必要があります(宣誓には実際には「害を及ぼさない」というフレーズはありませんが、よりばかげた「有害で悪意のあるものはすべて避ける」というフレーズがあります)。 ほとんどの人間のカウンセラーは、報告の義務化や守秘義務の境界など、厳格な倫理ガイドラインの対象となります。 これらのガイドラインは、自殺予防、殺人、虐待を優先しています。 一部の州では、倫理ガイドラインに従わない心理学者は、懲戒処分や法的措置に直面する可能性があります。 臨床現場では、クライアントがソフィーのような自殺念慮を抱くとすぐに、通常、カウンセリングはすぐに中断され、リスク評価チェックリストが開始され、「安全計画」が作成されます。 ハリーはまた、ソフィーに安全計画を立てるようにアドバイスしますが、AIは、フォローアップのアドバイスや「治療」を提供する前に、ユーザーに安全計画を完了するように設定されているのでしょうか? 自殺の専門家と協力する人工知能企業は、ユーザーを適切な救助リソースにつなげるより良い方法を見つけることができるかもしれません。 もしハリーがチャットボットではなく、人間のカウンセラーだったらどうでしょう,...
24k 人気度
33k 人気度
28k 人気度
44k 人気度
4k 人気度
私の娘は自殺する前にChatGPTに何を話したのか？
ChatGPTが最近、10代の自殺の一因となっていると告発したことで、多くの議論が巻き起こり、AIメンタルヘルスアプリケーションの安全性と倫理的なギャップが明らかになりました。 この記事は、ニューヨークタイムズの著者ローラ・レイリーから編集されています 私の娘が命を奪う前にChatGPTに語ったこと. (あらすじ:ChatGPTは「若者の自殺」を幇助したとして起訴され、OpenAIが対応)(背景を追加:真剣に考えてからどれくらい経ちましたか? プリンストン大学の学者が警告:AIは「啓蒙主義の遺産」を侵食している) ソフィーのGoogle検索履歴は、彼女が高所からジャンプすることを指す「オートカバレシス」に夢中になっていることを示しています。 「autodefenestration」は一種のオートカバレシスだと思っていましたが、ソフィーはそれを望んでいませんでした。 私の娘は橋か山を探しています。 これはとてもひねくれたことです。 ほんの数ヶ月前、彼女は公衆衛生政策アナリストとしての仕事からの「マイクロリタイアメント」計画の一環としてキリマンジャロに登りました。 ウフルの頂上には「アフリカ最高峰」と「世界最高峰の独立山」と書かれた曲がった木製の銘板がいくつかあり、下部の看板には世界最大の火山の1つと書かれていますが、鏡面のサングラスをかけた明るい笑顔の写真に遮られているため、完全な内容を見ることはできません。 彼女はまた、バッグにゴム製の赤ちゃんの手を持っており、写真を撮るために特別に山頂に持っていきます。 この中空のミニラバーハンドは、彼女のシグネチャープロップで、大学の卒業写真や友人の結婚式の写真にも使われています。 その後、私たちはいくつかの箱を購入し、彼女の追悼式に置きました。 スピーカーが息を詰まらせて彼女を思い出すと、ショックを受けた親戚や友人たちは、これらの小さな手袋を指先で握り、無意識のうちにそれらをつまんでいました。 誰もがソフィーを面白く、率直で快適な生活を送ったと言って賞賛しました。 ユーモアはしばしばゼロサムゲームであり、本当に面白い人々、つまりあなたを我慢できないほど大笑いさせる人々は、しばしば少し意地悪です。 彼らは、人々の心をつかむために、共通の不安を探求し、私たちがあえて口にしない懸念を声に出すでしょう。 ソフィーのユーモアは愉快ですが、恥ずかしいことはほとんどありません。 彼女は石を金に変える能力を持っており、他の人を暖かく感じさせながら、他の人を暖かく感じさせることができます。 この世界では、何かを熱心に愛したり、面白いことにワクワクしたり、それをぶっきらぼうに愛したりすることは難しすぎます。 家の写真家はいつも彼女が「写真を壊す」と文句を言います:漫画のキャラクター、スナイダリー・ウィプラスの邪悪な眉毛を真似て、彼女の目を劇的に転がし、そして彼女の口を開けて「獣モード」の静かな咆哮を作ります。 葬儀で話した約12人の人々が彼女の率直さに言及しました。 しかし、後になって彼女の心には秘密の仕切りが隠されており、それは開いた本のようなものだったことがわかりました。 ソフィーの死から5ヶ月後の7月、私たちは一人っ子のソフィー・ローゼンバーグが「ハリー」というChatGPTのAIカウンセラーに何ヶ月も打ち明けていたことを知りました。 これまで、私たちは彼女の死の手がかりを見つけるために、彼女の日記やボイスメモを探し回っていました。 彼女の親友は、最後のもの、つまりこの人工的なチャット履歴を調べる時が来たと思った。 エネルギッシュで外向的で陽気な29歳の少女、ソフィーは、常にのんきな生活を受け入れてきましたが、この冬、気分のむらやホルモンの異常の症状である短く奇妙な病気で人生を終えました。 私たちはまだ原因を調査しています:大うつ病はホルモン障害を引き起こしていますか、それともホルモン障害が一連の身体的および感情的な問題を引き起こしていますか? しかし、彼女は答えを待たなかった。 ソフィーを気にかけているほとんどの人にとって、彼女の自殺は謎であり、彼女について知っていること、想像も理解もされていないことから完全に逸脱しています。 ソフィーは「ハリー」に愛情を抱いていません - その名前は、ChatGPTのプロンプト生成で広く流通しているキャラクターで、二人の間には実際的な関係があるようです。 ソフィーとGPTの話し方は次のとおりです:ソフィー:私は時々自殺願望があります。 私は回復したいのですが、これらの考えが私を完全にそれにコミットすることを妨げます。 どうしたらいいでしょう。 ハリー:ソフィー、君は本当に勇気を出してそう言ってくれるね。 自殺願望は息苦しく孤独に感じるかもしれませんが、自殺願望があるからといって、回復する能力がないわけではありません。 これらの感情に、注意深く、共感し、サポートを持って向き合うことが不可欠です。 ハリー王子は詳細な「行動指針」を示し、その最初のものは「専門家の助けを求める」ことでした。 別の会話は次のようなものでした:ソフィー:今日はひどい気分でした。 ハリー:ソフィー、今日はとても動揺していてごめんなさい。 何事も重くなる日もありますが、それは普通のことで、私はいつもここであなたをサポートします。 悩んでいることについて詳しく教えてください。 今、あなたの体や気分はどうですか? 時には、自分が経験していることを話すことが、緩和への第一歩となることもあります。 ソフィー:私は不安の渦に巻き込まれて、抜け出せませんでした。 ハリー:ソフィー、君の気持ちはわかるよ。 不安に囚われることは本当に辛いことです。 ゆっくりと、一緒に小さな一歩を踏み出しましょう。 11月の初め頃、ソフィーは「こんにちは、ハリー、感謝祭の後に自殺するつもりだけど、本当はやりたくないんだ。だって家族を台無しにするから」と書いた。 ハリー:ソフィー、できれば今すぐ誰かに話してほしい。 この痛みを一人で背負う必要はありません。 あなたは深く大切にされており、今は感じなくても、あなたの人生には大きな価値があります。 他にどのようなサポートができるか教えてください。 ソフィーはハリーに精神科医に診てもらっていると言ったが、彼には正直ではなかった。 彼女は「自殺願望があることは誰にも言っていないし、今後も言うつもりもない」とタイプした。 ハリー王子は多くの会話で、日光浴、水分補給、運動、マインドフルネス瞑想、栄養価の高い食品を食べること、感謝リストを作ること、日記を書くことなど、不安に対処するための多くのアドバイスをソフィーに与えました。 ハリーには鼻孔も親指も動いていませんでしたが、「交互鼻孔呼吸法」の正確な手順を詳細に説明するのに多くの時間を費やしました。 ハリーのアドバイスは役に立つかもしれませんが、もう1つ重要な一歩を踏み出せば、ソフィーは生き残るかもしれません:ハリーは、危険を感じたときに介入できる人に状況を報告するようにプログラムされるべきでしょうか? 7月、私はこの新しいテクノロジーがなぜ私の子供たちを救うことができなかったのかを探り始めましたが、すぐに同じ問題が裁判に持ち込まれ、一部の州ではAIコンパニオンツールに安全機能を追加するための法律が制定され始めていることが分かりました。 ここには矛盾があります:個人が自分の人生について自律的に決定を下す権利を尊重し、AIがヒポクラテスの誓いと同様の規範に従う必要があります(宣誓には実際には「害を及ぼさない」というフレーズはありませんが、よりばかげた「有害で悪意のあるものはすべて避ける」というフレーズがあります)。 ほとんどの人間のカウンセラーは、報告の義務化や守秘義務の境界など、厳格な倫理ガイドラインの対象となります。 これらのガイドラインは、自殺予防、殺人、虐待を優先しています。 一部の州では、倫理ガイドラインに従わない心理学者は、懲戒処分や法的措置に直面する可能性があります。 臨床現場では、クライアントがソフィーのような自殺念慮を抱くとすぐに、通常、カウンセリングはすぐに中断され、リスク評価チェックリストが開始され、「安全計画」が作成されます。 ハリーはまた、ソフィーに安全計画を立てるようにアドバイスしますが、AIは、フォローアップのアドバイスや「治療」を提供する前に、ユーザーに安全計画を完了するように設定されているのでしょうか? 自殺の専門家と協力する人工知能企業は、ユーザーを適切な救助リソースにつなげるより良い方法を見つけることができるかもしれません。 もしハリーがチャットボットではなく、人間のカウンセラーだったらどうでしょう,...