Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya terhadap teknologi secara keseluruhan, serta manfaat besar yang mungkin dibawa oleh teknologi. Pada saat yang sama, saya juga menyatakan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh kecerdasan buatan super, serta risiko bahwa manusia dapat kehilangan kekuasaan secara tidak dapat dipulihkan.
Salah satu poin inti dari artikel ini adalah mendorong percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita perlu mempercepat perkembangan teknologi, tetapi harus secara terfokus pada teknologi yang dapat meningkatkan kemampuan bertahan dan bukan merusak, serta berkomitmen untuk mendorong distribusi kekuasaan, bukan mengonsentrasikannya di tangan segelintir elit. Mode pertahanan harus seperti Swiss yang demokratis, bukan seperti tuan dan kastil di bawah feodalisme abad pertengahan.
Setahun telah berlalu, ide dan pemikiran ini telah berkembang dan matang secara signifikan. Saya telah membagikan pemikiran ini di platform "80,000 jam", dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini sendiri juga terus maju dan telah mencapai hasil yang substantif: kemajuan telah dicapai di bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; "catatan komunitas" terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol pengetahuan diterapkan dalam pengenalan identitas pemerintah dan media sosial; alat pencitraan sumber terbuka diterapkan di bidang medis dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), yang mengumpulkan pembicara dari berbagai bidang pilar d/acc( seperti biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf). Orang-orang yang telah lama berkecimpung dalam teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ekstensi d/acc
Waktu telah tiba di tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak menyebabkan krisis yang sebenarnya. Dua potensi wabah sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil ditangani sebelum berkembang. Namun, situasinya kali ini berbeda, pasar prediksi menunjukkan kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.
Hanya kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui tes pernapasan tunggal, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin yang dapat diakses dengan perangkat yang tersedia di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama bergantung pada langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka.
Karena Anda memiliki masalah sistem kekebalan tubuh, Anda harus bertindak lebih hati-hati: asisten AI pribadi sumber terbuka yang Anda gunakan, selain menjalankan tugas-tugas umum seperti navigasi, rekomendasi restoran, dan acara, juga akan mempertimbangkan data pengujian udara secara real-time dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan bukti nol-pengetahuan dan teknologi privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain.
Dua bulan kemudian, pandemi secara ajaib mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara berbunyi alarm dan menunjukkan adanya virus, dan jika hasil tes pribadi positif, maka harus isolasi mandiri. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang telah berkurang drastis karena penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun lalu, kini tidak menyebabkan dampak serius.
Kegiatan hari penemuan d/acc telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar menjalin hubungan yang erat adalah sesuatu yang tidak mudah. Saya masih ingat dengan jelas pengalaman dipaksa menonton opera panjang saat SMP dan SMA, di mana saya pribadi merasa bahwa opera tersebut membosankan. Saya sangat menyadari bahwa saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar mencintai untuk memahami berbagai pekerjaan dari berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya itu saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti pemikiran d/acc sederhana dan jelas: desentralisasi, demokratis, dan pertahanan yang terdistribusi. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju pertahanan, dan dalam proses implementasinya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada lembaga otoritas pusat. Ada hubungan intrinsik yang erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, biasanya dapat berkembang pesat saat pertahanan mudah diimplementasikan, sedangkan saat pertahanan menghadapi berbagai kesulitan, ia akan menghadapi tantangan yang serius—dalam situasi tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling berhadapan, akhirnya mencapai keadaan keseimbangan yang diperintah oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan konsep yang dihasilkan dari pengabaian salah satu dari ketiga aspek ini.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka dengan bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "defensif" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang mendiktatori umat manusia secara global, tetapi tidak berhasil menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan untuk serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ia juga tidak dapat dengan baik menyelesaikan risiko kekuasaan manusia secara keseluruhan yang tereduksi dibandingkan dengan kecerdasan buatan.
Percepatan pertahanan yang terbedakan, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh semacam itu serta dampak negatif yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin merupakan satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis seperti ini, "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan di beberapa negara sebagai alternatif penjara... video dan audio terenkripsi diunggah secara terus menerus dan diinterpretasikan secara real-time oleh mesin". Namun, kontrol terpusat memiliki masalah dalam hal tingkat. Salah satu bentuk kontrol terpusat yang relatif moderat yang biasanya diabaikan tetapi tetap berbahaya, terwujud dalam bidang bioteknologi ( seperti makanan, vaksin ) penolakan terhadap pengawasan publik, serta memungkinkan perilaku penolakan tersebut tidak ditantang oleh norma-norma tertutup.
Risiko dari cara ini jelas terlihat, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian berbasis fungsi yang didanai oleh beberapa pemerintah dunia utama mungkin merupakan akar dari pandemi tersebut. Epistemologi terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang wajib dan mandat vaksin menyebabkan kemungkinan reaksi politik yang dapat bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara yang terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan akan membawa biaya yang tidak terukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi hingga batas tertentu dalam situasi tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah contoh; keberhasilan dalam non-proliferasi nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.
Dengan d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Mempertahankan prinsip di tengah tren globalisasi yang semakin mengarah pada tribalism, bukan sekadar membangun berbagai hal secara membabi buta—sebaliknya, kami berharap dapat membangun hal-hal tertentu untuk membuat dunia menjadi lebih aman dan lebih baik.
Menyadari kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat aneh, dan "jejak" manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan populasi yang rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah terus maju.
Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik ( atau kecerdasan buatan baik ) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi daripada untuk merusak.
Salah satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.
Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga sipil biasa, pemerintah, maupun robot super cerdas ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah berlanjut selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga bisa ditambahkan visi Buckminster Fuller bahwa proses penyelesaian masalah global harus partisipatif dan tersebar luas. Mengingat lanskap teknologi abad ke-21, kita dapat memandang d/acc sebagai salah satu cara untuk mencapai tujuan yang sama.
Dimensi Ketiga: Pengembangan Koordinasi antara Bertahan Hidup dan Kemakmuran
Dalam artikel saya tahun lalu, d/acc secara khusus berfokus pada teknologi defensif: pertahanan fisik, pertahanan biologis, pertahanan siber, dan pertahanan informasi. Namun, pertahanan terdesentralisasi semata-mata.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
d/acc teknologi optimisme satu tahun: tinjauan dan prospek percepatan pertahanan Desentralisasi
d/acc: Tinjauan dan Harapan Setahun Kemudian
Tahun lalu, saya menulis sebuah artikel tentang optimisme teknologi, yang menjelaskan antusiasme saya terhadap teknologi secara keseluruhan, serta manfaat besar yang mungkin dibawa oleh teknologi. Pada saat yang sama, saya juga menyatakan sikap hati-hati terhadap beberapa masalah tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh kecerdasan buatan super, serta risiko bahwa manusia dapat kehilangan kekuasaan secara tidak dapat dipulihkan.
Salah satu poin inti dari artikel ini adalah mendorong percepatan defensif yang terdesentralisasi, demokratis, dan berbeda. Kita perlu mempercepat perkembangan teknologi, tetapi harus secara terfokus pada teknologi yang dapat meningkatkan kemampuan bertahan dan bukan merusak, serta berkomitmen untuk mendorong distribusi kekuasaan, bukan mengonsentrasikannya di tangan segelintir elit. Mode pertahanan harus seperti Swiss yang demokratis, bukan seperti tuan dan kastil di bawah feodalisme abad pertengahan.
Setahun telah berlalu, ide dan pemikiran ini telah berkembang dan matang secara signifikan. Saya telah membagikan pemikiran ini di platform "80,000 jam", dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini sendiri juga terus maju dan telah mencapai hasil yang substantif: kemajuan telah dicapai di bidang vaksin sumber terbuka yang dapat diverifikasi; pemahaman orang tentang nilai udara dalam ruangan yang sehat semakin mendalam; "catatan komunitas" terus memainkan peran positif; pasar prediksi sebagai alat informasi mengalami tahun terobosan; bukti nol pengetahuan diterapkan dalam pengenalan identitas pemerintah dan media sosial; alat pencitraan sumber terbuka diterapkan di bidang medis dan antarmuka otak-mesin, dan lain-lain.
Musim gugur tahun lalu, kami menyambut kegiatan d/acc penting pertama: "Hari Penemuan d/acc"(d/aDDy), yang mengumpulkan pembicara dari berbagai bidang pilar d/acc( seperti biologi, fisika, jaringan, pertahanan informasi, serta teknologi saraf). Orang-orang yang telah lama berkecimpung dalam teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ekstensi d/acc
Waktu telah tiba di tahun 2042. Anda melihat sebuah berita di media yang menyatakan bahwa kota Anda mungkin akan mengalami wabah baru. Anda sudah terbiasa dengan jenis berita seperti ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam sebagian besar kasus, mutasi ini pada akhirnya tidak menyebabkan krisis yang sebenarnya. Dua potensi wabah sebelumnya terdeteksi lebih awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil ditangani sebelum berkembang. Namun, situasinya kali ini berbeda, pasar prediksi menunjukkan kemungkinan munculnya setidaknya 10.000 kasus mencapai 60%, yang membuat Anda sangat khawatir.
Hanya kemarin, urutan gen virus tersebut telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru ( baik melalui tes pernapasan tunggal, maupun setelah terpapar udara dalam ruangan selama 15 menit untuk mendeteksi ). Sementara itu, instruksi dan kode sumber terbuka untuk menghasilkan vaksin yang dapat diakses dengan perangkat yang tersedia di fasilitas medis modern di seluruh dunia diperkirakan akan dirilis dalam beberapa minggu ke depan. Sebagian besar orang saat ini belum mengambil tindakan apa pun, mereka terutama bergantung pada langkah-langkah penyaringan udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka.
Karena Anda memiliki masalah sistem kekebalan tubuh, Anda harus bertindak lebih hati-hati: asisten AI pribadi sumber terbuka yang Anda gunakan, selain menjalankan tugas-tugas umum seperti navigasi, rekomendasi restoran, dan acara, juga akan mempertimbangkan data pengujian udara secara real-time dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan bantuan bukti nol-pengetahuan dan teknologi privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain.
Dua bulan kemudian, pandemi secara ajaib mereda: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara berbunyi alarm dan menunjukkan adanya virus, dan jika hasil tes pribadi positif, maka harus isolasi mandiri. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang telah berkurang drastis karena penyaringan udara yang kuat menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun lalu, kini tidak menyebabkan dampak serius.
Kegiatan hari penemuan d/acc telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata membangkitkan minat mereka terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dengan latar belakang dan minat yang berbeda benar-benar menjalin hubungan yang erat adalah sesuatu yang tidak mudah. Saya masih ingat dengan jelas pengalaman dipaksa menonton opera panjang saat SMP dan SMA, di mana saya pribadi merasa bahwa opera tersebut membosankan. Saya sangat menyadari bahwa saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari itu sangat berbeda: rasanya orang-orang benar-benar mencintai untuk memahami berbagai pekerjaan dari berbagai bidang.
Jika kita ingin membangun masa depan yang lebih cerah daripada kekuasaan, perlambatan, dan penghancuran, maka kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya itu saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti pemikiran d/acc sederhana dan jelas: desentralisasi, demokratis, dan pertahanan yang terdistribusi. Membangun teknologi yang dapat mendorong keseimbangan antara serangan dan pertahanan menuju pertahanan, dan dalam proses implementasinya tidak bergantung pada penyerahan lebih banyak kekuasaan kepada lembaga otoritas pusat. Ada hubungan intrinsik yang erat antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas, biasanya dapat berkembang pesat saat pertahanan mudah diimplementasikan, sedangkan saat pertahanan menghadapi berbagai kesulitan, ia akan menghadapi tantangan yang serius—dalam situasi tersebut, hasil yang lebih mungkin muncul adalah periode kekacauan di mana semua orang saling berhadapan, akhirnya mencapai keadaan keseimbangan yang diperintah oleh yang terkuat.
Salah satu cara untuk memahami pentingnya mencoba untuk mewujudkan desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan konsep yang dihasilkan dari pengabaian salah satu dari ketiga aspek ini.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan yang berbeda"
Pada dasarnya, ini mirip dengan menjadi seorang akselerasionis yang efektif ( e/acc ), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, beberapa di antaranya menyebut diri mereka d/acc, tetapi mereka dengan bermanfaat menggambarkan fokus mereka sebagai "agresif". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "kecerdasan buatan desentralisasi" dan topik serupa, tetapi menurut saya, perhatian mereka terhadap aspek "defensif" jelas kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kelompok tertentu yang mendiktatori umat manusia secara global, tetapi tidak berhasil menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang menguntungkan untuk serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang akan menempatkan dirinya sebagai pelindung dan secara permanen menduduki posisi kekuasaan. Dalam hal kecerdasan buatan, ia juga tidak dapat dengan baik menyelesaikan risiko kekuasaan manusia secara keseluruhan yang tereduksi dibandingkan dengan kecerdasan buatan.
Percepatan pertahanan yang terbedakan, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang, dan pembaca pasti sudah akrab dengan banyak contoh semacam itu serta dampak negatif yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin merupakan satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis seperti ini, "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan di beberapa negara sebagai alternatif penjara... video dan audio terenkripsi diunggah secara terus menerus dan diinterpretasikan secara real-time oleh mesin". Namun, kontrol terpusat memiliki masalah dalam hal tingkat. Salah satu bentuk kontrol terpusat yang relatif moderat yang biasanya diabaikan tetapi tetap berbahaya, terwujud dalam bidang bioteknologi ( seperti makanan, vaksin ) penolakan terhadap pengawasan publik, serta memungkinkan perilaku penolakan tersebut tidak ditantang oleh norma-norma tertutup.
Risiko dari cara ini jelas terlihat, yaitu pusat itu sendiri sering kali menjadi sumber risiko. Kita telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian berbasis fungsi yang didanai oleh beberapa pemerintah dunia utama mungkin merupakan akar dari pandemi tersebut. Epistemologi terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang wajib dan mandat vaksin menyebabkan kemungkinan reaksi politik yang dapat bertahan selama beberapa dekade. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko terkait kecerdasan buatan atau teknologi risiko lainnya. Sebaliknya, cara yang terdesentralisasi akan lebih efektif dalam menghadapi risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat bermanfaat bagi umat manusia, dan setiap penundaan akan membawa biaya yang tidak terukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan mendapatkan keuntungan. Strategi perlambatan dapat berfungsi hingga batas tertentu dalam situasi tertentu: misalnya, makanan Eropa lebih sehat dibandingkan makanan Amerika, ini adalah contoh; keberhasilan dalam non-proliferasi nuklir sejauh ini juga demikian. Namun, strategi ini tidak mungkin selalu berhasil.
Dengan d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Salah satu perspektif lain untuk memikirkan d/acc adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa pada akhir 2000-an: pemberdayaan.
Tujuan kami adalah membangun dunia yang dapat mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain ( baik itu warga sipil biasa, pemerintah, maupun robot super cerdas ) terhadap kemampuan kita untuk membentuk nasib kita sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kita memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah berlanjut selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill pada pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga bisa ditambahkan visi Buckminster Fuller bahwa proses penyelesaian masalah global harus partisipatif dan tersebar luas. Mengingat lanskap teknologi abad ke-21, kita dapat memandang d/acc sebagai salah satu cara untuk mencapai tujuan yang sama.
Dimensi Ketiga: Pengembangan Koordinasi antara Bertahan Hidup dan Kemakmuran
Dalam artikel saya tahun lalu, d/acc secara khusus berfokus pada teknologi defensif: pertahanan fisik, pertahanan biologis, pertahanan siber, dan pertahanan informasi. Namun, pertahanan terdesentralisasi semata-mata.