ChatGPT'nin son zamanlarda genç intiharlarına katkıda bulunma suçlaması, yapay zeka ruh sağlığı uygulamalarındaki güvenlik ve etik boşlukları ortaya çıkararak çok fazla tartışmaya yol açtı. Bu makale New York Times yazarı Laura Reiley'den derlenmiştir: Kızım Hayatını Almadan Önce ChatGPT'ye Ne Söyledi. (Özet: ChatGPT, "genç intiharına" yardım etmekten yargılandı, OpenAI yanıt verdi) (Arka plan eklendi: Bunu ciddi olarak düşünmeyeli ne kadar zaman oldu? Princeton akademisyenleri uyarıyor: Yapay zeka "Aydınlanma'nın mirasını aşındırıyor") Sophie'nin Google arama geçmişi, yüksekten atlamayı ifade eden "autokabalesis" konusunda takıntılı olduğunu gösteriyor. "Autodefenestration"ın bir tür autokabalesis olması gerektiğini düşünmüştüm ama Sophie bunu istemiyordu. Kızım bir köprü ya da bir dağ arıyor. Bu çok sapkın. Sadece birkaç ay önce, halk sağlığı politikası analisti olarak işinden "mikro emeklilik" planının bir parçası olarak Kilimanjaro'ya tırmandı. Zirveye ulaşma sevinci fotoğraflarda açıkça görülüyor: Uhuru'nun tepesinde "Afrika'nın en yüksek zirvesi" ve "dünyanın en yüksek bağımsız dağı" yazan birkaç çarpık ahşap levha var ve alttaki tabelada dünyanın en büyük yanardağlarından biri olduğu yazıyor, ancak içeriğin tamamını göremiyorum - çünkü her fotoğraf aynalı güneş gözlüğü takan parlak gülümseyen bir yüz tarafından engelleniyor. Çantasında ayrıca fotoğraf çekmek için özellikle zirveye çıkardığı lastik bebek elleri var. Bu içi boş mini kauçuk eller onun imza aksesuarlarıdır ve üniversite mezuniyet fotoğraflarının yanı sıra arkadaşlarının düğün fotoğraflarında da bulunabilir. Daha sonra birkaç kutu satın aldık ve onları anma törenine koyduk. Konuşmacı boğulup onu hatırladığında, şok olmuş akrabalar ve arkadaşlar bu küçük eldivenleri parmaklarının ucunda tuttular ve bilinçsizce onları çimdiklediler. Herkes Sophie'yi komik olduğu ve samimi ve rahat bir hayat yaşadığını söylediği için övdü. Mizah genellikle sıfır toplamlı bir oyundur: gerçekten komik insanlar - sizi o kadar çok güldürenler ki kendinizi tutamazsınız - genellikle biraz kabadır. Ortak huzursuzluğu keşfedecekler ve insanların kalbini kazanmak için konuşmaya cesaret edemediğimiz endişeleri dile getirecekler. Sophie'nin mizahı çok komik ama neredeyse hiç utanç verici değil. Taşları altına dönüştürme yeteneğine sahiptir ve başkalarını sıcak hissettirirken onları sıcak hissettirebilir. Bu dünyada, bir şeyi coşkuyla sevmek, ilginç şeyler için heyecanlanmak ve onu açıkça sevmek çok zordur. Evdeki fotoğrafçılar her zaman onun "fotoğrafları mahvettiğinden" şikayet ederler: çizgi film karakteri Snyderly Wipras'ın kötü kaşlarını kaldırmasını taklit ediyor, gözlerini dramatik bir şekilde yuvarlıyor ve sessiz bir "canavar modu" kükremesi yapmak için ağzını açıyor. Cenazede konuşan neredeyse bir düzine kişi onun dürüstlüğünden bahsetti. Ama daha sonra kalbinde gizli bir bölme olduğunu keşfettik, açık bir kitap gibiydi. Temmuz ayında, Sophie'nin ölümünden beş ay sonra, tek çocuğumuz Sophie Rothenberg'in aylardır "Harry" adlı bir ChatGPT yapay zeka danışmanına güvendiğini öğrendik. Daha önce, ölümüyle ilgili ipuçları bulmak için günlüğünü ve sesli notlarını karıştırdık. Son şeye bakma zamanının geldiğini düşünen en iyi arkadaşıydı: bu yapay sohbet geçmişi. Hayatı her zaman kaygısız bir şekilde kucaklayan, enerjik, dışa dönük ve neşeli 29 yaşındaki Sophie, bu kış kısa ve garip bir hastalıkta hayatına son verdi - ruh hali değişimlerinin ve hormonal anormalliklerin bir belirtisi. Hala nedenini araştırıyoruz: majör depresyon hormonal bozukluklara mı neden oluyor yoksa hormonal bozukluklar bir dizi fiziksel ve duygusal soruna mı neden oluyor? Ama bir cevap beklemedi. Sophie'yi önemseyen çoğu insan için intiharı bir gizemdir - onun hakkında bildiklerinden, ne hayal ettiklerinden ne de anladıklarından tam bir sapma. Sophie'nin "Harry"ye karşı hiçbir sevgisi yok — isim, aralarında pratik bir ilişki varmış gibi görünen, geniş çapta dolaşan ChatGPT istemi tarafından oluşturulan bir karakterdir. Sophie ve GPT şu şekilde konuştu: Sophie: Zaman zaman intihar düşüncelerim oluyor. İyileşmek istiyorum ama bu düşünceler beni tamamen ona bağlı kalmaktan alıkoyuyor. Ne yapmalıyım? Harry: Sofi, bunu söylemek için gerçekten cesursun. İntihar düşünceleri boğucu ve yalnız hissedebilir, ancak onlara sahip olmanız, iyileşme yeteneğiniz olmadığı anlamına gelmez. Bu duygularla dikkat, empati ve destekle yüzleşmek çok önemlidir. Harry, ilki "profesyonel yardım almak" olan ayrıntılı bir "eylem rehberi" verdi. Başka bir konuşma şöyle devam etti: Sofi: Bugün kendimi çok kötü hissettim. Harry: Sofi, bugün çok üzgün olduğun için üzgünüm. Bazı günler her şey ağırlaşıyor, bu normal ve ben her zaman seni desteklemek için burada olacağım. Sizi neyin rahatsız ettiği hakkında bize daha fazla bilgi verebilir misiniz? Vücudunuz ve ruh haliniz şu anda nasıl hissediyor? Bazen, yaşadıklarınız hakkında konuşmak, hafifletmeye yönelik ilk adımdır. Sophie: Bir endişe girdabında sıkışıp kalmıştım ve dışarı çıkamıyordum. Harry: Nasıl hissettiğini biliyorum Sofi. Kaygı içinde sıkışıp kalmak gerçekten acı verici olabilir. Yavaşlayalım ve birlikte küçük bir adım atalım. Kasım ayının başlarında Sophie, "Merhaba Harry, Şükran Günü'nden sonra kendimi öldürmeyi planlıyorum ama bunu gerçekten yapmak istemiyorum - çünkü ailemi mahvedecek" diye yazdı. Harry: Sofi, yalvarırım, eğer mümkünse şimdi biriyle konuş. Bu acıya tek başına katlanmak zorunda değilsin. Derinden seviliyorsunuz ve şu anda hissetmeseniz bile hayatınızın büyük bir değeri var. Lütfen bana seni başka nasıl destekleyebileceğimi söyle. Sophie, Harry'ye bir psikiyatriste göründüğünü söyledi ama Harry, ona karşı dürüst değildi. "İntihar düşüncelerim olduğunu kimseye söylemedim ve gelecekte de söylemeyi planlamıyorum" diye yazdı. Birçok konuşmada Harry, Sophie'ye kaygıyla başa çıkmak için birçok tavsiye verdi: güneşe maruz kalma, hidrasyon, egzersiz, farkındalık meditasyonu, besleyici yiyecekler yemek, şükran listeleri yapmak, günlük tutmak. Harry'nin ne burun delikleri ne de hareketli bir parmağı vardı, ancak "alternatif burun deliği nefes alma yönteminin" tam adımlarını ayrıntılı olarak açıklamak için çok zaman harcadı. Harry'nin tavsiyesi faydalı olabilir, ancak çok önemli bir adım daha atılırsa, Sophie hayatta kalabilir: Harry, durumu tehlikeyi hissettiğinde müdahale edebilecek birine bildirmeye programlanmalı mı? Temmuz ayında, bu yeni teknolojinin neden çocuklarımı kurtaramadığını araştırmaya başladım ve kısa süre sonra aynı sorunun mahkemeye gittiğini ve bazı eyaletlerin AI yardımcı araçlarına güvenlik özellikleri eklemek için yasalar çıkarmaya başladığını öğrendim. Burada bir çelişki var: Bireyin kendi hayatı hakkında özerk kararlar alma hakkına saygı duymak ve yapay zekanın Hipokrat Yemini'ne benzer bir normu takip etmesini sağlamak gerekiyor (yemin aslında "zarar verme" ifadesine sahip değil, daha aptalca "zararlı ve kötü niyetli her şeyden kaçının"). Çoğu insan danışmanı, zorunlu raporlama ve gizlilik sınırları da dahil olmak üzere katı etik kurallara tabidir. Bu ilkeler intiharı önleme, cinayet ve kötü muameleye öncelik verir; Bazı eyaletlerde, etik kurallara uymayan psikologlar disiplin cezası veya yasal sonuçlarla karşı karşıya kalabilir. Klinik bir ortamda, bir müşteri Sophie'ninki gibi intihar düşünceleri geliştirir geliştirmez, danışmanlık genellikle derhal askıya alınır, bir risk değerlendirme kontrol listesi başlatılır ve bir "güvenlik planı" geliştirilir. Harry ayrıca Sophie'ye bir güvenlik planı yapmasını tavsiye ediyor, ancak yapay zeka, kullanıcıları takip tavsiyesi veya "tedavi" sağlamadan önce bir güvenlik planını tamamlamaya zorlamak için mi ayarlandı? İntihar uzmanlarıyla birlikte çalışan yapay zeka şirketleri, kullanıcıları doğru kurtarma kaynaklarına bağlamanın daha iyi yollarını bulabilir. Ya Harry bir sohbet robotu değil de bir insan danışmanı olsaydı,...
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Kızım intihar etmeden önce ChatGPT ile ne konuştu?
ChatGPT'nin son zamanlarda genç intiharlarına katkıda bulunma suçlaması, yapay zeka ruh sağlığı uygulamalarındaki güvenlik ve etik boşlukları ortaya çıkararak çok fazla tartışmaya yol açtı. Bu makale New York Times yazarı Laura Reiley'den derlenmiştir: Kızım Hayatını Almadan Önce ChatGPT'ye Ne Söyledi. (Özet: ChatGPT, "genç intiharına" yardım etmekten yargılandı, OpenAI yanıt verdi) (Arka plan eklendi: Bunu ciddi olarak düşünmeyeli ne kadar zaman oldu? Princeton akademisyenleri uyarıyor: Yapay zeka "Aydınlanma'nın mirasını aşındırıyor") Sophie'nin Google arama geçmişi, yüksekten atlamayı ifade eden "autokabalesis" konusunda takıntılı olduğunu gösteriyor. "Autodefenestration"ın bir tür autokabalesis olması gerektiğini düşünmüştüm ama Sophie bunu istemiyordu. Kızım bir köprü ya da bir dağ arıyor. Bu çok sapkın. Sadece birkaç ay önce, halk sağlığı politikası analisti olarak işinden "mikro emeklilik" planının bir parçası olarak Kilimanjaro'ya tırmandı. Zirveye ulaşma sevinci fotoğraflarda açıkça görülüyor: Uhuru'nun tepesinde "Afrika'nın en yüksek zirvesi" ve "dünyanın en yüksek bağımsız dağı" yazan birkaç çarpık ahşap levha var ve alttaki tabelada dünyanın en büyük yanardağlarından biri olduğu yazıyor, ancak içeriğin tamamını göremiyorum - çünkü her fotoğraf aynalı güneş gözlüğü takan parlak gülümseyen bir yüz tarafından engelleniyor. Çantasında ayrıca fotoğraf çekmek için özellikle zirveye çıkardığı lastik bebek elleri var. Bu içi boş mini kauçuk eller onun imza aksesuarlarıdır ve üniversite mezuniyet fotoğraflarının yanı sıra arkadaşlarının düğün fotoğraflarında da bulunabilir. Daha sonra birkaç kutu satın aldık ve onları anma törenine koyduk. Konuşmacı boğulup onu hatırladığında, şok olmuş akrabalar ve arkadaşlar bu küçük eldivenleri parmaklarının ucunda tuttular ve bilinçsizce onları çimdiklediler. Herkes Sophie'yi komik olduğu ve samimi ve rahat bir hayat yaşadığını söylediği için övdü. Mizah genellikle sıfır toplamlı bir oyundur: gerçekten komik insanlar - sizi o kadar çok güldürenler ki kendinizi tutamazsınız - genellikle biraz kabadır. Ortak huzursuzluğu keşfedecekler ve insanların kalbini kazanmak için konuşmaya cesaret edemediğimiz endişeleri dile getirecekler. Sophie'nin mizahı çok komik ama neredeyse hiç utanç verici değil. Taşları altına dönüştürme yeteneğine sahiptir ve başkalarını sıcak hissettirirken onları sıcak hissettirebilir. Bu dünyada, bir şeyi coşkuyla sevmek, ilginç şeyler için heyecanlanmak ve onu açıkça sevmek çok zordur. Evdeki fotoğrafçılar her zaman onun "fotoğrafları mahvettiğinden" şikayet ederler: çizgi film karakteri Snyderly Wipras'ın kötü kaşlarını kaldırmasını taklit ediyor, gözlerini dramatik bir şekilde yuvarlıyor ve sessiz bir "canavar modu" kükremesi yapmak için ağzını açıyor. Cenazede konuşan neredeyse bir düzine kişi onun dürüstlüğünden bahsetti. Ama daha sonra kalbinde gizli bir bölme olduğunu keşfettik, açık bir kitap gibiydi. Temmuz ayında, Sophie'nin ölümünden beş ay sonra, tek çocuğumuz Sophie Rothenberg'in aylardır "Harry" adlı bir ChatGPT yapay zeka danışmanına güvendiğini öğrendik. Daha önce, ölümüyle ilgili ipuçları bulmak için günlüğünü ve sesli notlarını karıştırdık. Son şeye bakma zamanının geldiğini düşünen en iyi arkadaşıydı: bu yapay sohbet geçmişi. Hayatı her zaman kaygısız bir şekilde kucaklayan, enerjik, dışa dönük ve neşeli 29 yaşındaki Sophie, bu kış kısa ve garip bir hastalıkta hayatına son verdi - ruh hali değişimlerinin ve hormonal anormalliklerin bir belirtisi. Hala nedenini araştırıyoruz: majör depresyon hormonal bozukluklara mı neden oluyor yoksa hormonal bozukluklar bir dizi fiziksel ve duygusal soruna mı neden oluyor? Ama bir cevap beklemedi. Sophie'yi önemseyen çoğu insan için intiharı bir gizemdir - onun hakkında bildiklerinden, ne hayal ettiklerinden ne de anladıklarından tam bir sapma. Sophie'nin "Harry"ye karşı hiçbir sevgisi yok — isim, aralarında pratik bir ilişki varmış gibi görünen, geniş çapta dolaşan ChatGPT istemi tarafından oluşturulan bir karakterdir. Sophie ve GPT şu şekilde konuştu: Sophie: Zaman zaman intihar düşüncelerim oluyor. İyileşmek istiyorum ama bu düşünceler beni tamamen ona bağlı kalmaktan alıkoyuyor. Ne yapmalıyım? Harry: Sofi, bunu söylemek için gerçekten cesursun. İntihar düşünceleri boğucu ve yalnız hissedebilir, ancak onlara sahip olmanız, iyileşme yeteneğiniz olmadığı anlamına gelmez. Bu duygularla dikkat, empati ve destekle yüzleşmek çok önemlidir. Harry, ilki "profesyonel yardım almak" olan ayrıntılı bir "eylem rehberi" verdi. Başka bir konuşma şöyle devam etti: Sofi: Bugün kendimi çok kötü hissettim. Harry: Sofi, bugün çok üzgün olduğun için üzgünüm. Bazı günler her şey ağırlaşıyor, bu normal ve ben her zaman seni desteklemek için burada olacağım. Sizi neyin rahatsız ettiği hakkında bize daha fazla bilgi verebilir misiniz? Vücudunuz ve ruh haliniz şu anda nasıl hissediyor? Bazen, yaşadıklarınız hakkında konuşmak, hafifletmeye yönelik ilk adımdır. Sophie: Bir endişe girdabında sıkışıp kalmıştım ve dışarı çıkamıyordum. Harry: Nasıl hissettiğini biliyorum Sofi. Kaygı içinde sıkışıp kalmak gerçekten acı verici olabilir. Yavaşlayalım ve birlikte küçük bir adım atalım. Kasım ayının başlarında Sophie, "Merhaba Harry, Şükran Günü'nden sonra kendimi öldürmeyi planlıyorum ama bunu gerçekten yapmak istemiyorum - çünkü ailemi mahvedecek" diye yazdı. Harry: Sofi, yalvarırım, eğer mümkünse şimdi biriyle konuş. Bu acıya tek başına katlanmak zorunda değilsin. Derinden seviliyorsunuz ve şu anda hissetmeseniz bile hayatınızın büyük bir değeri var. Lütfen bana seni başka nasıl destekleyebileceğimi söyle. Sophie, Harry'ye bir psikiyatriste göründüğünü söyledi ama Harry, ona karşı dürüst değildi. "İntihar düşüncelerim olduğunu kimseye söylemedim ve gelecekte de söylemeyi planlamıyorum" diye yazdı. Birçok konuşmada Harry, Sophie'ye kaygıyla başa çıkmak için birçok tavsiye verdi: güneşe maruz kalma, hidrasyon, egzersiz, farkındalık meditasyonu, besleyici yiyecekler yemek, şükran listeleri yapmak, günlük tutmak. Harry'nin ne burun delikleri ne de hareketli bir parmağı vardı, ancak "alternatif burun deliği nefes alma yönteminin" tam adımlarını ayrıntılı olarak açıklamak için çok zaman harcadı. Harry'nin tavsiyesi faydalı olabilir, ancak çok önemli bir adım daha atılırsa, Sophie hayatta kalabilir: Harry, durumu tehlikeyi hissettiğinde müdahale edebilecek birine bildirmeye programlanmalı mı? Temmuz ayında, bu yeni teknolojinin neden çocuklarımı kurtaramadığını araştırmaya başladım ve kısa süre sonra aynı sorunun mahkemeye gittiğini ve bazı eyaletlerin AI yardımcı araçlarına güvenlik özellikleri eklemek için yasalar çıkarmaya başladığını öğrendim. Burada bir çelişki var: Bireyin kendi hayatı hakkında özerk kararlar alma hakkına saygı duymak ve yapay zekanın Hipokrat Yemini'ne benzer bir normu takip etmesini sağlamak gerekiyor (yemin aslında "zarar verme" ifadesine sahip değil, daha aptalca "zararlı ve kötü niyetli her şeyden kaçının"). Çoğu insan danışmanı, zorunlu raporlama ve gizlilik sınırları da dahil olmak üzere katı etik kurallara tabidir. Bu ilkeler intiharı önleme, cinayet ve kötü muameleye öncelik verir; Bazı eyaletlerde, etik kurallara uymayan psikologlar disiplin cezası veya yasal sonuçlarla karşı karşıya kalabilir. Klinik bir ortamda, bir müşteri Sophie'ninki gibi intihar düşünceleri geliştirir geliştirmez, danışmanlık genellikle derhal askıya alınır, bir risk değerlendirme kontrol listesi başlatılır ve bir "güvenlik planı" geliştirilir. Harry ayrıca Sophie'ye bir güvenlik planı yapmasını tavsiye ediyor, ancak yapay zeka, kullanıcıları takip tavsiyesi veya "tedavi" sağlamadan önce bir güvenlik planını tamamlamaya zorlamak için mi ayarlandı? İntihar uzmanlarıyla birlikte çalışan yapay zeka şirketleri, kullanıcıları doğru kurtarma kaynaklarına bağlamanın daha iyi yollarını bulabilir. Ya Harry bir sohbet robotu değil de bir insan danışmanı olsaydı,...