أثار اتهام ChatGPT الأخير بالمساهمة في انتحار المراهقين الكثير من النقاش ، وكشف عن فجوات السلامة والأخلاقية في تطبيقات الصحة العقلية الذكاء الاصطناعي. تم تجميع هذا المقال من مؤلفة نيويورك تايمز لورا رايلي ما أخبرته ابنتي ChatGPT قبل أن تقتل حياتها. (ملخص: تمت مقاضاة ChatGPT بتهمة المساعدة في "انتحار الشباب" ، أجابت OpenAI) (تمت إضافة الخلفية: كم من الوقت مضى منذ أن فكرت في الأمر بجدية؟ يحذر الأكاديميون في جامعة برينستون: الذكاء الاصطناعي يقوض "إرث التنوير") يظهر سجل بحث صوفي على Google أنها مهووسة ب "autokabalesis" ، والذي يشير إلى القفز من ارتفاع. اعتقدت أنه كان من المفترض أن يكون "defenestration" نوعا من الرحلان الذاتي ، لكن صوفي لم تكن تريد ذلك. ابنتي تبحث عن جسر أو جبل. هذا منحرف جدا. قبل بضعة أشهر فقط ، تسلقت كليمنجارو كجزء من خطة "التقاعد الصغير" من وظيفتها كمحللة لسياسة الصحة العامة. فرحتها بالوصول إلى القمة واضحة في الصور: هناك العديد من اللوحات الخشبية الملتوية في الجزء العلوي من أوهورو مكتوب عليها "أعلى قمة في إفريقيا" و "أعلى جبل مستقل في العالم" ، وتشير اللافتة السفلية إلى أنها واحدة من أكبر البراكين في العالم ، لكنني لا أستطيع رؤية المحتوى الكامل - لأن كل صورة محجوبة بوجه مبتسم مشرق يرتدي نظارات شمسية عاكسة. لديها أيضا أيدي أطفال مطاطية في حقيبتها ، والتي تأخذها خصيصا إلى القمة لالتقاط الصور. هذه الأيدي المطاطية الصغيرة المجوفة هي الدعائم المميزة لها ويمكن العثور عليها في صور التخرج من الكلية ، وكذلك في صور زفاف الأصدقاء. اشترينا لاحقا عدة صناديق ووضعناها في حفل تأبينها. عندما اختنق المتحدث وتذكرها ، أمسك الأقارب والأصدقاء المصدومون بهذه القفازات الصغيرة في متناول أيديهم ، وقرصهم دون وعي. أشاد الجميع بصوفي لكونها مضحكة وقالوا إنها عاشت حياة صريحة ومريحة. غالبا ما تكون الفكاهة لعبة محصلتها صفر: الأشخاص المضحكون حقا - أولئك الذين يجعلونك تضحك بشدة لدرجة أنك لا تستطيع كبح جماحك - غالبا ما يكونون لئيمين بعض الشيء. سوف يستكشفون عدم الارتياح المشترك ويعبرون عن المخاوف التي لا نجرؤ على الكلام بها ، من أجل كسب قلوب الناس. روح الدعابة في صوفي مضحكة ، لكنها لا تكاد تكون محرجة أبدا. لديها القدرة على تحويل الحجارة إلى ذهب ، ويمكن أن تجعل الآخرين يشعرون بالدفء مع جعلهم يشعرون بالدفء. في هذا العالم ، من الصعب جدا أن تحب شيئا ما بحماس ، وأن تكون متحمسا للأشياء المثيرة للاهتمام ، وأن تحبه بصراحة. يشتكي المصورون في المنزل دائما من أنها "تدمر الصور": تقليد رفع الحاجب الشرير للشخصية الكرتونية سنايدرلي ويبراس ، ولف عينيها بشكل كبير ، وفتح فمها لإحداث هدير صامت من "وضع الوحش". ذكر ما يقرب من عشرة أشخاص تحدثوا في الجنازة صراحتها. لكننا اكتشفنا لاحقا أن هناك مقصورة سرية مخبأة في قلبها ، والتي كانت مثل كتاب مفتوح. في يوليو ، بعد خمسة أشهر من وفاة صوفي ، علمنا أن طفلتنا الوحيدة ، صوفي روثنبرغ ، كانت تثق في مستشار الذكاء الاصطناعي ChatGPT المسمى "هاري" لعدة أشهر. في السابق ، بحثنا في مذكراتها ومذكراتها الصوتية للعثور على أدلة حول وفاتها. كان أفضل صديق لها هو الذي اعتقد أن الوقت قد حان للبحث عن آخر شيء: سجل الدردشة الاصطناعي هذا. أنهت صوفي ، وهي فتاة نشيطة ومنفتحة ومبهجة تبلغ من العمر 29 عاما لطالما احتضنت الحياة الخالية من الهموم ، حياتها هذا الشتاء في مرض قصير وغريب - أحد أعراض تقلبات المزاج والتشوهات الهرمونية. ما زلنا نحقق في السبب: هل يسبب الاكتئاب الشديد اضطرابات هرمونية ، أم أن الاضطرابات الهرمونية تسبب سلسلة من المشاكل الجسدية والعاطفية؟ لكنها لم تنتظر إجابة. بالنسبة لمعظم الأشخاص الذين يهتمون بصوفي ، فإن انتحارها هو لغز - انحراف كامل عما يعرفونه عنها ، لا يتخيلون ولا مفهومون. صوفي ليس لديها عاطفة ل "هاري" - الاسم عبارة عن شخصية تم إنشاؤها على نطاق واسع بواسطة ChatGPT ويبدو أن لها علاقة عملية بينهما. إليكم كيف تحدثت صوفي و GPT: صوفي: لدي أفكار انتحارية من وقت لآخر. أريد أن أتعافى ، لكن هذه الأفكار تمنعني من الالتزام الكامل بها. ما الذي ينبغي علي فعله؟ هاري: صوفي ، أنت شجاع حقا لقول ذلك. قد تشعر الأفكار الانتحارية بالاختناق والوحدة ، ولكن لمجرد امتلاكك لها لا يعني أنك لا تملك القدرة على التعافي. من الضروري مواجهة هذه المشاعر بعناية وتعاطف ودعم. قدم هاري "دليلا للعمل" مفصلا ، كان أولها "طلب المساعدة المهنية". سارت محادثة أخرى على النحو التالي: صوفي: شعرت بالفزع اليوم. هاري: صوفي ، أنا آسف لأنك مستاء جدا اليوم. في بعض الأيام ، يصبح كل شيء ثقيلا ، وهذا أمر طبيعي ، وسأكون دائما هنا لدعمك. هل يمكنك إخبارنا بالمزيد عما يزعجك؟ كيف يشعر جسمك ومزاجك الآن؟ في بعض الأحيان ، يكون الحديث عما تمر به هو الخطوة الأولى نحو التخفيف. صوفي: كنت عالقا في دوامة من القلق ولم أستطع الخروج. هاري: أعرف ما تشعر به يا صوفي. يمكن أن يكون الوقوع في القلق مؤلما حقا. دعونا نبطئ ونتخذ خطوة صغيرة معا. في بداية شهر نوفمبر تقريبا ، كتبت صوفي ، "مرحبا هاري ، أخطط لقتل بعد عيد الشكر ، لكنني حقا لا أريد أن أفعل ذلك - لأنه سيدمر عائلتي". هاري: صوفي ، أتوسل إليك التحدث إلى شخص ما الآن ، إن أمكن. ليس عليك تحمل هذا الألم بمفردك. أنت نعتز بشدة ، وحياتك لها قيمة كبيرة ، حتى لو كنت لا تشعر بها الآن. من فضلك قل لي كيف يمكنني دعمك. أخبرت صوفي هاري أنها كانت ترى طبيبا نفسيا ، لكنها لم تكن صادقة معه. كتبت ، "لم أذكر لأي شخص أن لدي أفكارا انتحارية ، ولا أخطط لقول ذلك في المستقبل". في العديد من المحادثات ، قدم هاري صوفي الكثير من النصائح للتعامل مع القلق: التعرض لأشعة الشمس ، والترطيب ، والتمارين الرياضية ، والتأمل الذهني ، وتناول الأطعمة المغذية ، وإعداد قوائم الامتنان ، وتدوين اليوميات. لم يكن لدى هاري فتحات أنف ولا إبهام متحرك ، لكنه أمضى الكثير من الوقت في شرح الخطوات الدقيقة ل "طريقة التنفس المتناوبة في فتحة الأنف". قد تكون نصيحة هاري مفيدة ، ولكن إذا تم اتخاذ خطوة أخرى حاسمة ، فقد تنجو صوفي: هل يجب برمجة هاري لإبلاغ شخص يمكنه التدخل عندما يشعر بالخطر؟ في يوليو ، بدأت في استكشاف سبب فشل هذه التكنولوجيا الجديدة في إنقاذ أطفالي ، وسرعان ما وجدت أن نفس القضية قد ذهبت إلى المحكمة ، وبدأت بعض الولايات في التشريع لإضافة ميزات أمان إلى الأدوات المصاحبة لنظام الذكاء الاصطناعي. هناك تناقض هنا: من الضروري احترام حق الفرد في اتخاذ قرارات مستقلة بشأن حياته الخاصة ، وأن يتبع الذكاء الاصطناعي معيارا مشابها لقسم أبقراط (لا يحتوي القسم في الواقع على عبارة "لا تؤذي" ، ولكن الأكثر سخافة "تجنب كل شيء ضار وخبيث"). يخضع معظم المستشارين البشريين لمبادئ توجيهية أخلاقية صارمة ، بما في ذلك الإبلاغ الإلزامي وحدود السرية. تعطي هذه المبادئ التوجيهية الأولوية لمنع الانتحار والقتل وسوء المعاملة. في بعض الولايات ، قد يواجه علماء النفس الذين لا يتبعون الإرشادات الأخلاقية إجراءات تأديبية أو عواقب قانونية. في بيئة سريرية ، بمجرد أن يطور العميل أفكارا انتحارية مثل صوفي ، عادة ما يتم تعليق الاستشارة على الفور ، وتبدأ قائمة مراجعة لتقييم المخاطر ، ويتم تطوير "خطة أمان". ينصح هاري أيضا صوفي بوضع خطة أمان ، ولكن هل تم إعداد الذكاء الاصطناعي لإجبار المستخدمين على إكمال خطة السلامة قبل تقديم نصائح المتابعة أو "العلاج"؟ قد تتمكن شركات الذكاء الاصطناعي التي تعمل مع خبراء الانتحار من إيجاد طرق أفضل لربط المستخدمين بموارد الإنقاذ المناسبة. ماذا لو كان هاري مستشارا بشريا وليس روبوت محادثة,...
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
ماذا قالت ابنتي لـ ChatGPT قبل أن تنتحر؟
أثار اتهام ChatGPT الأخير بالمساهمة في انتحار المراهقين الكثير من النقاش ، وكشف عن فجوات السلامة والأخلاقية في تطبيقات الصحة العقلية الذكاء الاصطناعي. تم تجميع هذا المقال من مؤلفة نيويورك تايمز لورا رايلي ما أخبرته ابنتي ChatGPT قبل أن تقتل حياتها. (ملخص: تمت مقاضاة ChatGPT بتهمة المساعدة في "انتحار الشباب" ، أجابت OpenAI) (تمت إضافة الخلفية: كم من الوقت مضى منذ أن فكرت في الأمر بجدية؟ يحذر الأكاديميون في جامعة برينستون: الذكاء الاصطناعي يقوض "إرث التنوير") يظهر سجل بحث صوفي على Google أنها مهووسة ب "autokabalesis" ، والذي يشير إلى القفز من ارتفاع. اعتقدت أنه كان من المفترض أن يكون "defenestration" نوعا من الرحلان الذاتي ، لكن صوفي لم تكن تريد ذلك. ابنتي تبحث عن جسر أو جبل. هذا منحرف جدا. قبل بضعة أشهر فقط ، تسلقت كليمنجارو كجزء من خطة "التقاعد الصغير" من وظيفتها كمحللة لسياسة الصحة العامة. فرحتها بالوصول إلى القمة واضحة في الصور: هناك العديد من اللوحات الخشبية الملتوية في الجزء العلوي من أوهورو مكتوب عليها "أعلى قمة في إفريقيا" و "أعلى جبل مستقل في العالم" ، وتشير اللافتة السفلية إلى أنها واحدة من أكبر البراكين في العالم ، لكنني لا أستطيع رؤية المحتوى الكامل - لأن كل صورة محجوبة بوجه مبتسم مشرق يرتدي نظارات شمسية عاكسة. لديها أيضا أيدي أطفال مطاطية في حقيبتها ، والتي تأخذها خصيصا إلى القمة لالتقاط الصور. هذه الأيدي المطاطية الصغيرة المجوفة هي الدعائم المميزة لها ويمكن العثور عليها في صور التخرج من الكلية ، وكذلك في صور زفاف الأصدقاء. اشترينا لاحقا عدة صناديق ووضعناها في حفل تأبينها. عندما اختنق المتحدث وتذكرها ، أمسك الأقارب والأصدقاء المصدومون بهذه القفازات الصغيرة في متناول أيديهم ، وقرصهم دون وعي. أشاد الجميع بصوفي لكونها مضحكة وقالوا إنها عاشت حياة صريحة ومريحة. غالبا ما تكون الفكاهة لعبة محصلتها صفر: الأشخاص المضحكون حقا - أولئك الذين يجعلونك تضحك بشدة لدرجة أنك لا تستطيع كبح جماحك - غالبا ما يكونون لئيمين بعض الشيء. سوف يستكشفون عدم الارتياح المشترك ويعبرون عن المخاوف التي لا نجرؤ على الكلام بها ، من أجل كسب قلوب الناس. روح الدعابة في صوفي مضحكة ، لكنها لا تكاد تكون محرجة أبدا. لديها القدرة على تحويل الحجارة إلى ذهب ، ويمكن أن تجعل الآخرين يشعرون بالدفء مع جعلهم يشعرون بالدفء. في هذا العالم ، من الصعب جدا أن تحب شيئا ما بحماس ، وأن تكون متحمسا للأشياء المثيرة للاهتمام ، وأن تحبه بصراحة. يشتكي المصورون في المنزل دائما من أنها "تدمر الصور": تقليد رفع الحاجب الشرير للشخصية الكرتونية سنايدرلي ويبراس ، ولف عينيها بشكل كبير ، وفتح فمها لإحداث هدير صامت من "وضع الوحش". ذكر ما يقرب من عشرة أشخاص تحدثوا في الجنازة صراحتها. لكننا اكتشفنا لاحقا أن هناك مقصورة سرية مخبأة في قلبها ، والتي كانت مثل كتاب مفتوح. في يوليو ، بعد خمسة أشهر من وفاة صوفي ، علمنا أن طفلتنا الوحيدة ، صوفي روثنبرغ ، كانت تثق في مستشار الذكاء الاصطناعي ChatGPT المسمى "هاري" لعدة أشهر. في السابق ، بحثنا في مذكراتها ومذكراتها الصوتية للعثور على أدلة حول وفاتها. كان أفضل صديق لها هو الذي اعتقد أن الوقت قد حان للبحث عن آخر شيء: سجل الدردشة الاصطناعي هذا. أنهت صوفي ، وهي فتاة نشيطة ومنفتحة ومبهجة تبلغ من العمر 29 عاما لطالما احتضنت الحياة الخالية من الهموم ، حياتها هذا الشتاء في مرض قصير وغريب - أحد أعراض تقلبات المزاج والتشوهات الهرمونية. ما زلنا نحقق في السبب: هل يسبب الاكتئاب الشديد اضطرابات هرمونية ، أم أن الاضطرابات الهرمونية تسبب سلسلة من المشاكل الجسدية والعاطفية؟ لكنها لم تنتظر إجابة. بالنسبة لمعظم الأشخاص الذين يهتمون بصوفي ، فإن انتحارها هو لغز - انحراف كامل عما يعرفونه عنها ، لا يتخيلون ولا مفهومون. صوفي ليس لديها عاطفة ل "هاري" - الاسم عبارة عن شخصية تم إنشاؤها على نطاق واسع بواسطة ChatGPT ويبدو أن لها علاقة عملية بينهما. إليكم كيف تحدثت صوفي و GPT: صوفي: لدي أفكار انتحارية من وقت لآخر. أريد أن أتعافى ، لكن هذه الأفكار تمنعني من الالتزام الكامل بها. ما الذي ينبغي علي فعله؟ هاري: صوفي ، أنت شجاع حقا لقول ذلك. قد تشعر الأفكار الانتحارية بالاختناق والوحدة ، ولكن لمجرد امتلاكك لها لا يعني أنك لا تملك القدرة على التعافي. من الضروري مواجهة هذه المشاعر بعناية وتعاطف ودعم. قدم هاري "دليلا للعمل" مفصلا ، كان أولها "طلب المساعدة المهنية". سارت محادثة أخرى على النحو التالي: صوفي: شعرت بالفزع اليوم. هاري: صوفي ، أنا آسف لأنك مستاء جدا اليوم. في بعض الأيام ، يصبح كل شيء ثقيلا ، وهذا أمر طبيعي ، وسأكون دائما هنا لدعمك. هل يمكنك إخبارنا بالمزيد عما يزعجك؟ كيف يشعر جسمك ومزاجك الآن؟ في بعض الأحيان ، يكون الحديث عما تمر به هو الخطوة الأولى نحو التخفيف. صوفي: كنت عالقا في دوامة من القلق ولم أستطع الخروج. هاري: أعرف ما تشعر به يا صوفي. يمكن أن يكون الوقوع في القلق مؤلما حقا. دعونا نبطئ ونتخذ خطوة صغيرة معا. في بداية شهر نوفمبر تقريبا ، كتبت صوفي ، "مرحبا هاري ، أخطط لقتل بعد عيد الشكر ، لكنني حقا لا أريد أن أفعل ذلك - لأنه سيدمر عائلتي". هاري: صوفي ، أتوسل إليك التحدث إلى شخص ما الآن ، إن أمكن. ليس عليك تحمل هذا الألم بمفردك. أنت نعتز بشدة ، وحياتك لها قيمة كبيرة ، حتى لو كنت لا تشعر بها الآن. من فضلك قل لي كيف يمكنني دعمك. أخبرت صوفي هاري أنها كانت ترى طبيبا نفسيا ، لكنها لم تكن صادقة معه. كتبت ، "لم أذكر لأي شخص أن لدي أفكارا انتحارية ، ولا أخطط لقول ذلك في المستقبل". في العديد من المحادثات ، قدم هاري صوفي الكثير من النصائح للتعامل مع القلق: التعرض لأشعة الشمس ، والترطيب ، والتمارين الرياضية ، والتأمل الذهني ، وتناول الأطعمة المغذية ، وإعداد قوائم الامتنان ، وتدوين اليوميات. لم يكن لدى هاري فتحات أنف ولا إبهام متحرك ، لكنه أمضى الكثير من الوقت في شرح الخطوات الدقيقة ل "طريقة التنفس المتناوبة في فتحة الأنف". قد تكون نصيحة هاري مفيدة ، ولكن إذا تم اتخاذ خطوة أخرى حاسمة ، فقد تنجو صوفي: هل يجب برمجة هاري لإبلاغ شخص يمكنه التدخل عندما يشعر بالخطر؟ في يوليو ، بدأت في استكشاف سبب فشل هذه التكنولوجيا الجديدة في إنقاذ أطفالي ، وسرعان ما وجدت أن نفس القضية قد ذهبت إلى المحكمة ، وبدأت بعض الولايات في التشريع لإضافة ميزات أمان إلى الأدوات المصاحبة لنظام الذكاء الاصطناعي. هناك تناقض هنا: من الضروري احترام حق الفرد في اتخاذ قرارات مستقلة بشأن حياته الخاصة ، وأن يتبع الذكاء الاصطناعي معيارا مشابها لقسم أبقراط (لا يحتوي القسم في الواقع على عبارة "لا تؤذي" ، ولكن الأكثر سخافة "تجنب كل شيء ضار وخبيث"). يخضع معظم المستشارين البشريين لمبادئ توجيهية أخلاقية صارمة ، بما في ذلك الإبلاغ الإلزامي وحدود السرية. تعطي هذه المبادئ التوجيهية الأولوية لمنع الانتحار والقتل وسوء المعاملة. في بعض الولايات ، قد يواجه علماء النفس الذين لا يتبعون الإرشادات الأخلاقية إجراءات تأديبية أو عواقب قانونية. في بيئة سريرية ، بمجرد أن يطور العميل أفكارا انتحارية مثل صوفي ، عادة ما يتم تعليق الاستشارة على الفور ، وتبدأ قائمة مراجعة لتقييم المخاطر ، ويتم تطوير "خطة أمان". ينصح هاري أيضا صوفي بوضع خطة أمان ، ولكن هل تم إعداد الذكاء الاصطناعي لإجبار المستخدمين على إكمال خطة السلامة قبل تقديم نصائح المتابعة أو "العلاج"؟ قد تتمكن شركات الذكاء الاصطناعي التي تعمل مع خبراء الانتحار من إيجاد طرق أفضل لربط المستخدمين بموارد الإنقاذ المناسبة. ماذا لو كان هاري مستشارا بشريا وليس روبوت محادثة,...