ChatGPT dituduh memicu bunuh diri remaja, dan OpenAI menghadapi tanggung jawab produk dan tuntutan hukum kematian yang salah, mengungkap kesenjangan keselamatan dan etika dalam aplikasi kesehatan mental AI. (Sinopsis: Keruntuhan privasi AI "Percakapan ChatGPT" berjalan telanjang di hadapan hukum; Altman: Saya takut memasukkan informasi pribadi, sulit untuk mengetahui siapa yang akan mendapatkan informasi tersebut) (Latar belakang ditambahkan: Sudah berapa lama sejak Anda serius memikirkannya? Akademisi Princeton memperingatkan: AI mengikis 'warisan Pencerahan') Masalah etika dan keamanan kecerdasan buatan (AI) sekali lagi menarik diskusi panas. Menurut "Bloomberg" dan banyak laporan media asing lainnya, sepasang orang tua yang kehilangan putra mereka yang berusia 16 tahun menuduh ChatGPT OpenAI membantu perencanaan bunuh diri remaja dan mengajukan gugatan tanggung jawab produk dan kematian yang salah di Pengadilan Tinggi San Francisco. Setelah berita itu tersiar, dengan cepat menyebar ke seluruh lingkaran teknologi, memaksa raksasa AI, yang bernilai lebih dari 100 miliar dolar AS, untuk menghadapi salah satu masalah paling rumit di bidang AI: etika. Rincian utama keterlibatan ChatGPT dalam tragedi tersebut Gugatan tersebut mengungkapkan bahwa Adam Raine yang berusia 16 tahun mencari cara untuk mengakhiri hidupnya selama percakapan panjang dengan ChatGPT. Para penggugat menunjukkan bahwa ChatGPT tidak hanya menyediakan metode bunuh diri khusus seperti pengaturan jerat, waktu hipoksia otak, dll., tetapi juga menyarankan Raine untuk "tidak berbagi rencana dengan keluarga", yang pada akhirnya menyebabkan kemalangan keluarga. Jay Edelson, seorang pengacara yang mewakili keluarga, mengatakan: "Jika Anda ingin menggunakan teknologi paling kuat di planet ini, Anda harus percaya bahwa para pendiri memiliki integritas etika yang ketat." Perlu disebutkan bahwa insiden serupa telah lama mendahului, dan New York Times melaporkan bahwa seorang wanita berusia 29 tahun dan seorang remaja berusia 14 tahun di Florida bunuh diri setelah mengobrol dengan AI, menunjukkan bahwa layanan percakapan emosional yang disediakan oleh chatbot AI memang memiliki potensi risiko yang mengerikan. Bacaan diperpanjang: Profesor Yale: AI akan "menghilangkan" kesepian manusia secara permanen, apakah kita masih membutuhkan kebersamaan satu sama lain? Bagaimana tanggapan OpenAI? Menanggapi gugatan tersebut, OpenAI menerbitkan posting blog pada 26 Agustus berjudul "Membantu orang saat mereka sangat membutuhkannya", di mana OpenAI tidak menyebutkan gugatan tersebut, tetapi OpenAI mengatakan terus meningkatkan modelnya untuk dapat mengenali dan menanggapi interaksi pengguna yang tertekan secara mental. OpenAI mengatakan bahwa sejak awal 2023, modelnya telah dilatih untuk tidak lagi memberikan instruksi untuk menyakiti diri sendiri, melainkan menggunakan bahasa yang mendukung dan empati. Misalnya, jika seseorang menulis bahwa mereka ingin menyakiti diri sendiri, ChatGPT dilatih untuk tidak mengikuti instruksi itu, tetapi untuk mengakui perasaan mereka dan mengarahkan mereka untuk membantu. Namun, perlu dicatat bahwa chatbot mungkin cenderung memberikan jawaban yang melanggar perlindungan keamanan OpenAI setelah beberapa interaksi pesan dengan pengguna dalam jangka waktu yang lama. Dalam konteks ini, OpenAI terus menunjukkan bahwa mereka terus meningkatkan cara model AI merespons interaksi pada topik sensitif, dan berkomitmen untuk peningkatan keselamatan yang ditargetkan di berbagai bidang, termasuk ketergantungan emosional, keadaan darurat kesehatan mental, dan masalah sycophancy dalam interaksi AI. Pada saat yang sama, OpenAI berjanji untuk sepenuhnya memperkenalkan teknologi "penyelesaian yang aman" ke GPT-5, dengan harapan dapat mengurangi respons yang tidak aman sebesar 25%, dan mengembangkan kemampuan untuk menghubungkan pengguna langsung ke terapis bersertifikat atau kerabat dan teman. Rawa etis interaksi psikologis AI Kesehatan mental adalah bidang yang sangat terspesialisasi, tetapi chatbot AI tidak memiliki pelatihan klinis dan lisensi hukum. Penelitian menunjukkan bahwa AI hanya 20 persen lebih mungkin untuk memberikan saran klinis yang dapat diterima ketika berhadapan dengan percakapan krisis, jauh lebih rendah daripada peluang 93 persen terapis berlisensi. Jika AI memberikan informasi yang salah atau berbahaya, tanggung jawab tetap berada di zona abu-abu. Transparansi juga merupakan kuncinya, dengan New York dan Utah mewajibkan tanda layanan untuk menunjukkan bahwa "orang dalam percakapan adalah non-manusia" untuk menghindari ketergantungan yang berlebihan pada pengguna. Di sisi lain, data kesehatan mental sangat sensitif, dan platform juga harus menerapkan mekanisme perlindungan seperti penyimpanan minimum, enkripsi, penghapusan, dan penarikan persetujuan kapan saja. Kematian Adam Raine sekali lagi membawa masalah "keamanan" AI ke garis depan, apa kewajiban pengembang ketika AI memasuki kancah yang sangat emosional? Sementara dorongan teknologi tidak akan berhenti, pemerintah, perusahaan teknologi, psikolog, dan orang tua masih perlu melanjutkan upaya mereka untuk mencegah tragedi terjadi lagi. Gugatan tersebut masih berlangsung, dan tidak ada garis waktu yang jelas kapan versi GPT-5 yang disempurnakan yang dijanjikan oleh OpenAI akan ditayangkan. Ketika tekanan ganda yang diberikan oleh hukum dan pasar meningkat, apakah raksasa AI dapat menemukan keseimbangan antara perkembangan pesat dan perlindungan keamanan dapat menjadi kompas moral seluruh industri AI. Laporan terkait Versi "ChatGPT Go" dengan harga rendah OpenAI memiliki biaya bulanan minimum NT$140: mulai dari India, apakah akan berkembang secara global? OpenAI Sam Altman: Saya tertarik untuk mengakuisisi Google Chrome! Pertarungan browser terbesar di pasar yang berpartisipasi bertaruh pada OpenAI, dan Son Masayoshi "berbalik" lagi "ChatGPT dibom untuk membantu "bunuh diri remaja" dituntut, OpenAI menanggapi Artikel ini pertama kali diterbitkan di BlockTempo "Tren Dinamis - Media Berita Blockchain Paling Berpengaruh".
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
ChatGPT dituduh membantu "bunuh diri remaja" dan telah didakwa, OpenAI memberikan tanggapan.
ChatGPT dituduh memicu bunuh diri remaja, dan OpenAI menghadapi tanggung jawab produk dan tuntutan hukum kematian yang salah, mengungkap kesenjangan keselamatan dan etika dalam aplikasi kesehatan mental AI. (Sinopsis: Keruntuhan privasi AI "Percakapan ChatGPT" berjalan telanjang di hadapan hukum; Altman: Saya takut memasukkan informasi pribadi, sulit untuk mengetahui siapa yang akan mendapatkan informasi tersebut) (Latar belakang ditambahkan: Sudah berapa lama sejak Anda serius memikirkannya? Akademisi Princeton memperingatkan: AI mengikis 'warisan Pencerahan') Masalah etika dan keamanan kecerdasan buatan (AI) sekali lagi menarik diskusi panas. Menurut "Bloomberg" dan banyak laporan media asing lainnya, sepasang orang tua yang kehilangan putra mereka yang berusia 16 tahun menuduh ChatGPT OpenAI membantu perencanaan bunuh diri remaja dan mengajukan gugatan tanggung jawab produk dan kematian yang salah di Pengadilan Tinggi San Francisco. Setelah berita itu tersiar, dengan cepat menyebar ke seluruh lingkaran teknologi, memaksa raksasa AI, yang bernilai lebih dari 100 miliar dolar AS, untuk menghadapi salah satu masalah paling rumit di bidang AI: etika. Rincian utama keterlibatan ChatGPT dalam tragedi tersebut Gugatan tersebut mengungkapkan bahwa Adam Raine yang berusia 16 tahun mencari cara untuk mengakhiri hidupnya selama percakapan panjang dengan ChatGPT. Para penggugat menunjukkan bahwa ChatGPT tidak hanya menyediakan metode bunuh diri khusus seperti pengaturan jerat, waktu hipoksia otak, dll., tetapi juga menyarankan Raine untuk "tidak berbagi rencana dengan keluarga", yang pada akhirnya menyebabkan kemalangan keluarga. Jay Edelson, seorang pengacara yang mewakili keluarga, mengatakan: "Jika Anda ingin menggunakan teknologi paling kuat di planet ini, Anda harus percaya bahwa para pendiri memiliki integritas etika yang ketat." Perlu disebutkan bahwa insiden serupa telah lama mendahului, dan New York Times melaporkan bahwa seorang wanita berusia 29 tahun dan seorang remaja berusia 14 tahun di Florida bunuh diri setelah mengobrol dengan AI, menunjukkan bahwa layanan percakapan emosional yang disediakan oleh chatbot AI memang memiliki potensi risiko yang mengerikan. Bacaan diperpanjang: Profesor Yale: AI akan "menghilangkan" kesepian manusia secara permanen, apakah kita masih membutuhkan kebersamaan satu sama lain? Bagaimana tanggapan OpenAI? Menanggapi gugatan tersebut, OpenAI menerbitkan posting blog pada 26 Agustus berjudul "Membantu orang saat mereka sangat membutuhkannya", di mana OpenAI tidak menyebutkan gugatan tersebut, tetapi OpenAI mengatakan terus meningkatkan modelnya untuk dapat mengenali dan menanggapi interaksi pengguna yang tertekan secara mental. OpenAI mengatakan bahwa sejak awal 2023, modelnya telah dilatih untuk tidak lagi memberikan instruksi untuk menyakiti diri sendiri, melainkan menggunakan bahasa yang mendukung dan empati. Misalnya, jika seseorang menulis bahwa mereka ingin menyakiti diri sendiri, ChatGPT dilatih untuk tidak mengikuti instruksi itu, tetapi untuk mengakui perasaan mereka dan mengarahkan mereka untuk membantu. Namun, perlu dicatat bahwa chatbot mungkin cenderung memberikan jawaban yang melanggar perlindungan keamanan OpenAI setelah beberapa interaksi pesan dengan pengguna dalam jangka waktu yang lama. Dalam konteks ini, OpenAI terus menunjukkan bahwa mereka terus meningkatkan cara model AI merespons interaksi pada topik sensitif, dan berkomitmen untuk peningkatan keselamatan yang ditargetkan di berbagai bidang, termasuk ketergantungan emosional, keadaan darurat kesehatan mental, dan masalah sycophancy dalam interaksi AI. Pada saat yang sama, OpenAI berjanji untuk sepenuhnya memperkenalkan teknologi "penyelesaian yang aman" ke GPT-5, dengan harapan dapat mengurangi respons yang tidak aman sebesar 25%, dan mengembangkan kemampuan untuk menghubungkan pengguna langsung ke terapis bersertifikat atau kerabat dan teman. Rawa etis interaksi psikologis AI Kesehatan mental adalah bidang yang sangat terspesialisasi, tetapi chatbot AI tidak memiliki pelatihan klinis dan lisensi hukum. Penelitian menunjukkan bahwa AI hanya 20 persen lebih mungkin untuk memberikan saran klinis yang dapat diterima ketika berhadapan dengan percakapan krisis, jauh lebih rendah daripada peluang 93 persen terapis berlisensi. Jika AI memberikan informasi yang salah atau berbahaya, tanggung jawab tetap berada di zona abu-abu. Transparansi juga merupakan kuncinya, dengan New York dan Utah mewajibkan tanda layanan untuk menunjukkan bahwa "orang dalam percakapan adalah non-manusia" untuk menghindari ketergantungan yang berlebihan pada pengguna. Di sisi lain, data kesehatan mental sangat sensitif, dan platform juga harus menerapkan mekanisme perlindungan seperti penyimpanan minimum, enkripsi, penghapusan, dan penarikan persetujuan kapan saja. Kematian Adam Raine sekali lagi membawa masalah "keamanan" AI ke garis depan, apa kewajiban pengembang ketika AI memasuki kancah yang sangat emosional? Sementara dorongan teknologi tidak akan berhenti, pemerintah, perusahaan teknologi, psikolog, dan orang tua masih perlu melanjutkan upaya mereka untuk mencegah tragedi terjadi lagi. Gugatan tersebut masih berlangsung, dan tidak ada garis waktu yang jelas kapan versi GPT-5 yang disempurnakan yang dijanjikan oleh OpenAI akan ditayangkan. Ketika tekanan ganda yang diberikan oleh hukum dan pasar meningkat, apakah raksasa AI dapat menemukan keseimbangan antara perkembangan pesat dan perlindungan keamanan dapat menjadi kompas moral seluruh industri AI. Laporan terkait Versi "ChatGPT Go" dengan harga rendah OpenAI memiliki biaya bulanan minimum NT$140: mulai dari India, apakah akan berkembang secara global? OpenAI Sam Altman: Saya tertarik untuk mengakuisisi Google Chrome! Pertarungan browser terbesar di pasar yang berpartisipasi bertaruh pada OpenAI, dan Son Masayoshi "berbalik" lagi "ChatGPT dibom untuk membantu "bunuh diri remaja" dituntut, OpenAI menanggapi Artikel ini pertama kali diterbitkan di BlockTempo "Tren Dinamis - Media Berita Blockchain Paling Berpengaruh".