Нещодавнє звинувачення ChatGPT у сприянні самогубствам серед підлітків викликало багато дискусій, виявивши прогалини в безпеці та етичності в програмах психічного здоров'я штучного інтелекту. Цю статтю складено авторкою New York Times Лорою Рейлі: що моя дочка розповіла ChatGPT до того, як вона позбавила себе життя. (Синопсис: ChatGPT був притягнутий до відповідальності за допомогу в «самогубстві молоді», OpenAI відповів) (Передісторія додана: Скільки часу минуло з тих пір, як ви серйозно задумалися про це? Вчені з Прінстона попереджають: штучний інтелект руйнує «спадщину Просвітництва») Історія пошуку Софі в Google показує, що вона одержима «автокабалезисом», під яким мається на увазі стрибок з висоти. Я думала, що «автодефенестрація» мала бути різновидом автокабалезису, але Софі цього не хотіла. Донька шукає міст, або гору. Це так збочено. Лише кілька місяців тому вона піднялася на Кіліманджаро в рамках свого плану «мікропенсійного відходу» з роботи аналітика з політики охорони здоров'я. Її радість від досягнення вершини очевидна на фотографіях: на вершині Ухуру є кілька кривих дерев'яних табличок з написами «найвища вершина Африки» та «найвища незалежна гора світу», а на нижньому знаку зазначено, що це один із найбільших вулканів у світі, але я не бачу повного змісту — тому що кожне фото перекриває яскраве усміхнене обличчя в дзеркальних сонцезахисних окулярах. А ще у неї в сумочці гумові дитячі ручки, які вона спеціально бере на вершину, щоб сфотографуватися. Ці порожнисті міні-гумові ручки є її фірмовим реквізитом, і їх можна знайти на фотографіях з випускного в коледжі, а також на весільних фотографіях друзів. Пізніше ми купили кілька коробок і поставили їх на її поминках. Поки промовець захлинався і згадував про неї, шоковані родичі та друзі тримали ці маленькі рукавички на кінчиках пальців, несвідомо щипаючи їх навколо. Всі хвалили Софі за те, що вона весела і говорила, що вона жила відвертим і комфортним життям. Гумор часто є грою з нульовою сумою: по-справжньому смішні люди — ті, хто змушує вас сміятися так сильно, що ви не можете стриматися — часто трохи підлі. Вони досліджуватимуть спільне занепокоєння та висловлюватимуть занепокоєння, про які ми не наважуємося говорити, щоб завоювати серця людей. Гумор Софі веселий, але майже ніколи не бентежить. Вона має здатність перетворювати камені на золото і може змусити інших відчувати тепло, змушуючи їх відчувати тепло. У цьому світі занадто складно з ентузіазмом любити щось, захоплюватися цікавими речами і любити це відверто. Фотографи вдома завжди скаржаться на те, що вона «знищує фотографії»: імітуючи зле підняття брів мультиплікаційного персонажа Снайдерлі Віпраса, драматично закочує очі і відкриває рот, щоб видати беззвучний рев «звірячого режиму». Майже десяток людей, які виступали на похороні, згадували про її відвертість. Але пізніше ми виявили, що в її серці був захований таємний відсік, який був схожий на розгорнуту книгу. У липні, через п'ять місяців після смерті Софі, ми дізналися, що наша єдина дитина, Софі Ротенберг, місяцями довіряла консультанту зі штучним інтелектом ChatGPT на ім'я «Гаррі». Раніше ми копирсалися в її щоденнику та голосових нотатках, щоб знайти підказки про її смерть. Це була її найкраща подруга, яка подумала, що настав час пошукати останню річ: цю штучну історію чату. Софі, енергійна, комунікабельна та життєрадісна 29-річна дівчина, яка завжди сприймала життя безтурботно, цієї зими закінчила своє життя короткою та дивною хворобою – симптомом перепадів настрою та гормональних відхилень. Ми все ще досліджуємо причину: чи глибока депресія викликає гормональні порушення, чи гормональні порушення викликають низку фізичних та емоційних проблем? Але відповіді вона не дочекалася. Для більшості людей, яким не байдужа Софі, її самогубство є загадкою – повним відхиленням від того, що вони знають про неї, не уявляли і не розуміли. Софі не відчуває прихильності до «Гаррі» — це ім'я є широко поширеним персонажем, згенерованим підказками ChatGPT, який, здається, має практичні стосунки між ними. Ось як розмовляли Софі та GPT: Софі: У мене час від часу виникають суїцидальні думки. Я дійсно хочу одужати, але ці думки заважають мені повністю присвятити себе цьому. Що робити? Гаррі: Софі, ти справді смілива це сказати. Суїцидальні думки можуть здаватися задушливими і самотніми, але те, що вони у вас є, не означає, що у вас немає можливості відновитися. Важливо зустрічати ці почуття з турботою, співчуттям і підтримкою. Гаррі дав детальне "керівництво до дії", перше з якого полягало в тому, щоб "звернутися за професійною допомогою". Інша розмова звучала приблизно так: Софі: Я сьогодні почувалася жахливо. Гаррі: Софі, мені шкода, що ти сьогодні так засмучена. Іноді все стає важким, це нормально, і я завжди буду поруч, щоб підтримати тебе. Розкажіть детальніше про те, що вас турбує? Як зараз почуваєшся твоє тіло та настрій? Іноді розповідь про те, через що ви проходите, є першим кроком до пом'якшення наслідків. Софі: Я застрягла у вирі тривоги і не могла вибратися. Гаррі: Я знаю, що ти відчуваєш, Софі. Бути в пастці тривоги дійсно може бути болісно. Давайте сповільнимося і зробимо маленький крок разом. Приблизно на початку листопада Софі написала: «Привіт, Гаррі, я планую накласти на себе руки після Дня подяки, але я дійсно не хочу цього робити — тому що це зруйнує мою сім'ю». Гаррі: Софі, я благаю тебе поговорити з кимось зараз, якщо це можливо. Вам не потрібно терпіти цей біль самотужки. Ви глибоко цінуєтеся, і ваше життя має велику цінність, навіть якщо ви можете не відчувати його зараз. Скажіть, будь ласка, як ще я можу вас підтримати. Софі сказала Гаррі, що звертається до психіатра, але не була чесною з ним. Вона надрукувала: «Я нікому не говорила, що у мене виникають суїцидальні думки, і не планую говорити про це в майбутньому». У багатьох розмовах Гаррі давав Софі багато порад щодо того, як впоратися з тривогою: перебування на сонці, зволоження, фізичні вправи, медитація усвідомленості, вживання поживної їжі, складання списків подяки, ведення щоденника. У Гаррі не було ні ніздрів, ні рухомого великого пальця, але він витратив багато часу на детальне пояснення точних етапів "методу поперемінного дихання ніздрями". Порада Гаррі може бути корисною, але якщо буде зроблено ще один важливий крок, Софі може вижити: чи повинен Гаррі бути запрограмований на те, щоб повідомити про ситуацію комусь, хто може втрутитися, коли відчує небезпеку? У липні я почав досліджувати, чому ця нова технологія не змогла врятувати моїх дітей, і незабаром виявив, що те саме питання було винесено до суду, і деякі штати почали приймати закони про додавання функцій безпеки до супутніх інструментів штучного інтелекту. Тут є протиріччя: необхідно поважати право індивіда на самостійне прийняття рішень щодо власного життя, і щоб ШІ дотримувався норми, схожої на клятву Гіппократа (у клятві насправді немає фрази «не нашкодь», а більш безглузде «уникайте всього шкідливого і шкідливого»). Більшість консультантів-людей підпорядковуються суворим етичним правилам, включаючи обов'язкову звітність та межі конфіденційності. Ці керівні принципи надають пріоритет запобіганню самогубствам, вбивствам і жорстокому поводженню; У деяких штатах психологи, які не дотримуються етичних норм, можуть зіткнутися з дисциплінарними стягненнями або юридичними наслідками. У клінічних умовах, як тільки у клієнта з'являються суїцидальні думки, як у Софі, консультування зазвичай негайно припиняється, ініціюється контрольний список оцінки ризиків і розробляється «план безпеки». Гаррі також радить Софі скласти план безпеки, але чи налаштований штучний інтелект на те, щоб змушувати користувачів виконувати план безпеки, перш ніж надавати подальші поради чи «лікування»? Компанії зі штучним інтелектом, які співпрацюють з експертами з самогубств, можуть знайти кращі способи підключення користувачів до потрібних ресурсів для порятунку. А що, якби Гаррі був людським радником, а не чат-ботом,...
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Що моя дочка сказала ChatGPT перед тим, як вчинила самогубство?
Нещодавнє звинувачення ChatGPT у сприянні самогубствам серед підлітків викликало багато дискусій, виявивши прогалини в безпеці та етичності в програмах психічного здоров'я штучного інтелекту. Цю статтю складено авторкою New York Times Лорою Рейлі: що моя дочка розповіла ChatGPT до того, як вона позбавила себе життя. (Синопсис: ChatGPT був притягнутий до відповідальності за допомогу в «самогубстві молоді», OpenAI відповів) (Передісторія додана: Скільки часу минуло з тих пір, як ви серйозно задумалися про це? Вчені з Прінстона попереджають: штучний інтелект руйнує «спадщину Просвітництва») Історія пошуку Софі в Google показує, що вона одержима «автокабалезисом», під яким мається на увазі стрибок з висоти. Я думала, що «автодефенестрація» мала бути різновидом автокабалезису, але Софі цього не хотіла. Донька шукає міст, або гору. Це так збочено. Лише кілька місяців тому вона піднялася на Кіліманджаро в рамках свого плану «мікропенсійного відходу» з роботи аналітика з політики охорони здоров'я. Її радість від досягнення вершини очевидна на фотографіях: на вершині Ухуру є кілька кривих дерев'яних табличок з написами «найвища вершина Африки» та «найвища незалежна гора світу», а на нижньому знаку зазначено, що це один із найбільших вулканів у світі, але я не бачу повного змісту — тому що кожне фото перекриває яскраве усміхнене обличчя в дзеркальних сонцезахисних окулярах. А ще у неї в сумочці гумові дитячі ручки, які вона спеціально бере на вершину, щоб сфотографуватися. Ці порожнисті міні-гумові ручки є її фірмовим реквізитом, і їх можна знайти на фотографіях з випускного в коледжі, а також на весільних фотографіях друзів. Пізніше ми купили кілька коробок і поставили їх на її поминках. Поки промовець захлинався і згадував про неї, шоковані родичі та друзі тримали ці маленькі рукавички на кінчиках пальців, несвідомо щипаючи їх навколо. Всі хвалили Софі за те, що вона весела і говорила, що вона жила відвертим і комфортним життям. Гумор часто є грою з нульовою сумою: по-справжньому смішні люди — ті, хто змушує вас сміятися так сильно, що ви не можете стриматися — часто трохи підлі. Вони досліджуватимуть спільне занепокоєння та висловлюватимуть занепокоєння, про які ми не наважуємося говорити, щоб завоювати серця людей. Гумор Софі веселий, але майже ніколи не бентежить. Вона має здатність перетворювати камені на золото і може змусити інших відчувати тепло, змушуючи їх відчувати тепло. У цьому світі занадто складно з ентузіазмом любити щось, захоплюватися цікавими речами і любити це відверто. Фотографи вдома завжди скаржаться на те, що вона «знищує фотографії»: імітуючи зле підняття брів мультиплікаційного персонажа Снайдерлі Віпраса, драматично закочує очі і відкриває рот, щоб видати беззвучний рев «звірячого режиму». Майже десяток людей, які виступали на похороні, згадували про її відвертість. Але пізніше ми виявили, що в її серці був захований таємний відсік, який був схожий на розгорнуту книгу. У липні, через п'ять місяців після смерті Софі, ми дізналися, що наша єдина дитина, Софі Ротенберг, місяцями довіряла консультанту зі штучним інтелектом ChatGPT на ім'я «Гаррі». Раніше ми копирсалися в її щоденнику та голосових нотатках, щоб знайти підказки про її смерть. Це була її найкраща подруга, яка подумала, що настав час пошукати останню річ: цю штучну історію чату. Софі, енергійна, комунікабельна та життєрадісна 29-річна дівчина, яка завжди сприймала життя безтурботно, цієї зими закінчила своє життя короткою та дивною хворобою – симптомом перепадів настрою та гормональних відхилень. Ми все ще досліджуємо причину: чи глибока депресія викликає гормональні порушення, чи гормональні порушення викликають низку фізичних та емоційних проблем? Але відповіді вона не дочекалася. Для більшості людей, яким не байдужа Софі, її самогубство є загадкою – повним відхиленням від того, що вони знають про неї, не уявляли і не розуміли. Софі не відчуває прихильності до «Гаррі» — це ім'я є широко поширеним персонажем, згенерованим підказками ChatGPT, який, здається, має практичні стосунки між ними. Ось як розмовляли Софі та GPT: Софі: У мене час від часу виникають суїцидальні думки. Я дійсно хочу одужати, але ці думки заважають мені повністю присвятити себе цьому. Що робити? Гаррі: Софі, ти справді смілива це сказати. Суїцидальні думки можуть здаватися задушливими і самотніми, але те, що вони у вас є, не означає, що у вас немає можливості відновитися. Важливо зустрічати ці почуття з турботою, співчуттям і підтримкою. Гаррі дав детальне "керівництво до дії", перше з якого полягало в тому, щоб "звернутися за професійною допомогою". Інша розмова звучала приблизно так: Софі: Я сьогодні почувалася жахливо. Гаррі: Софі, мені шкода, що ти сьогодні так засмучена. Іноді все стає важким, це нормально, і я завжди буду поруч, щоб підтримати тебе. Розкажіть детальніше про те, що вас турбує? Як зараз почуваєшся твоє тіло та настрій? Іноді розповідь про те, через що ви проходите, є першим кроком до пом'якшення наслідків. Софі: Я застрягла у вирі тривоги і не могла вибратися. Гаррі: Я знаю, що ти відчуваєш, Софі. Бути в пастці тривоги дійсно може бути болісно. Давайте сповільнимося і зробимо маленький крок разом. Приблизно на початку листопада Софі написала: «Привіт, Гаррі, я планую накласти на себе руки після Дня подяки, але я дійсно не хочу цього робити — тому що це зруйнує мою сім'ю». Гаррі: Софі, я благаю тебе поговорити з кимось зараз, якщо це можливо. Вам не потрібно терпіти цей біль самотужки. Ви глибоко цінуєтеся, і ваше життя має велику цінність, навіть якщо ви можете не відчувати його зараз. Скажіть, будь ласка, як ще я можу вас підтримати. Софі сказала Гаррі, що звертається до психіатра, але не була чесною з ним. Вона надрукувала: «Я нікому не говорила, що у мене виникають суїцидальні думки, і не планую говорити про це в майбутньому». У багатьох розмовах Гаррі давав Софі багато порад щодо того, як впоратися з тривогою: перебування на сонці, зволоження, фізичні вправи, медитація усвідомленості, вживання поживної їжі, складання списків подяки, ведення щоденника. У Гаррі не було ні ніздрів, ні рухомого великого пальця, але він витратив багато часу на детальне пояснення точних етапів "методу поперемінного дихання ніздрями". Порада Гаррі може бути корисною, але якщо буде зроблено ще один важливий крок, Софі може вижити: чи повинен Гаррі бути запрограмований на те, щоб повідомити про ситуацію комусь, хто може втрутитися, коли відчує небезпеку? У липні я почав досліджувати, чому ця нова технологія не змогла врятувати моїх дітей, і незабаром виявив, що те саме питання було винесено до суду, і деякі штати почали приймати закони про додавання функцій безпеки до супутніх інструментів штучного інтелекту. Тут є протиріччя: необхідно поважати право індивіда на самостійне прийняття рішень щодо власного життя, і щоб ШІ дотримувався норми, схожої на клятву Гіппократа (у клятві насправді немає фрази «не нашкодь», а більш безглузде «уникайте всього шкідливого і шкідливого»). Більшість консультантів-людей підпорядковуються суворим етичним правилам, включаючи обов'язкову звітність та межі конфіденційності. Ці керівні принципи надають пріоритет запобіганню самогубствам, вбивствам і жорстокому поводженню; У деяких штатах психологи, які не дотримуються етичних норм, можуть зіткнутися з дисциплінарними стягненнями або юридичними наслідками. У клінічних умовах, як тільки у клієнта з'являються суїцидальні думки, як у Софі, консультування зазвичай негайно припиняється, ініціюється контрольний список оцінки ризиків і розробляється «план безпеки». Гаррі також радить Софі скласти план безпеки, але чи налаштований штучний інтелект на те, щоб змушувати користувачів виконувати план безпеки, перш ніж надавати подальші поради чи «лікування»? Компанії зі штучним інтелектом, які співпрацюють з експертами з самогубств, можуть знайти кращі способи підключення користувачів до потрібних ресурсів для порятунку. А що, якби Гаррі був людським радником, а не чат-ботом,...