The Lord of the Rings, OpenAI, dan ETH Workshop: Mengapa Vitalik tidak menjadi Sam Altman yang diusir?

Penulis asli: 0xAlpha

Editor Asli: GaryMa Wu mengatakan blockchain

Baru-baru ini, kami menonton “film” “Master of AI”, trilogi drama yang diproduksi oleh pemodal ventura dan raksasa teknologi terkemuka Silicon Valley dengan investasi lebih dari $ 10 miliar, termasuk tiga episode “Mitra dalam AI”, “Two Paths” dan “The Return of the King”. Banyak yang memuji kembalinya Sam Altman ke “tahta”, dengan beberapa bahkan membandingkannya dengan kembalinya Jobs ke Apple.

Namun, keduanya sama sekali tidak sebanding. “Master of AI” adalah cerita yang sama sekali berbeda, ini menceritakan pertempuran antara dua jalur: mengejar keuntungan, atau tidak mengejar? Itulah inti masalahnya!

Mari kita tinjau kembali awal The Lord of the Rings. Ketika Gandalf melihat Lord of the Rings di rumah Paman Bilbo, dia dengan cepat menyadari bahwa hal yang begitu kuat tidak dapat ditangani oleh orang biasa. Hanya beberapa orang suci dan dunia lain, seperti Frodo, yang bisa menghadapinya. Itu sebabnya Frodo adalah jantung dari tim – dia satu-satunya yang bisa membawa sesuatu yang begitu kuat tanpa ditelan olehnya. Bukan Gandalf, bukan ALGO, bukan Legolas, bukan Gimli, hanya Frodo. Kunci dari keseluruhan cerita Lord of the Rings adalah sifat unik Frodo.

*Catatan: Sam Altman adalah CEO OpenAI, Ilya Sutskever adalah salah satu pendiri OpenAI (dia tidak setuju dengan Sam Altman tentang pilihan jalur OpenAI dan akhirnya terpinggirkan), dan Greg Brockman adalah CTO OpenAI. Reid Hoffman adalah pengusaha terkenal dan pemodal ventura yang merupakan salah satu pendiri LinkedIn. Jessica Livingston adalah salah satu mitra pendiri Y Combinator, sebuah perusahaan modal ventura. Peter Thiel adalah pengusaha terkenal, pemodal ventura, dan salah satu pendiri PayPal. *

Sekarang, beralih kembali ke awal Master of AI. Pada tahun 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk, dan sejumlah perusahaan teknologi mengumumkan pembentukan OpenAI dan berjanji untuk menyuntikkan lebih dari $ 1 miliar ke dalam dana modal ventura. Ini adalah sekelompok otak terpintar di dunia, hampir secerdas Gandalf. Mereka juga tahu bahwa mereka sedang membangun sesuatu yang kuat, seperti Lord of the Rings, yang tidak boleh dimiliki dan dikendalikan oleh siapa pun yang mengejar kepentingan mereka sendiri. Itu harus dikuasai oleh orang-orang tanpa pamrih, seperti Frodo. Jadi, alih-alih meluncurkan perusahaan nirlaba, mereka mendirikan OpenAI sebagai organisasi penelitian nirlaba, mungkin bukan untuk mencari keuntungan.

Gagasan bahwa “hal yang begitu kuat tidak boleh dikendalikan oleh perusahaan yang berorientasi pada keuntungan” mungkin bukan konsensus para pendiri OpenAI pada saat pendiriannya. Ini kemungkinan besar alasan mengapa para pendiri ini berkumpul ketika mereka memutuskan untuk memulai OpenAI di tempat pertama. Sebelum OpenAI didirikan, Google telah menunjukkan potensi untuk menggunakan kekuatan super ini. Sepertinya OpenAI adalah “koalisi pelindung” yang terdiri dari “pelindung kemanusiaan” visioner ini untuk melawan monster AI yang diubah Google menjadi, perusahaan yang mencari keuntungan. Ilya mungkin telah dibujuk untuk meninggalkan Google untuk memimpin R&D OpenAI karena keyakinannya pada filosofi ini, karena langkah Ilya tidak akan berarti dari sudut pandang lain. Kembali pada tahun 2015, tidak ada yang mampu menyediakan platform pengembangan AI yang lebih baik daripada Google. Meskipun promotor OpenAI semuanya taipan Silicon Valley, tidak satupun dari mereka adalah praktisi AI (mereka tidak membuat kode sama sekali). Belum lagi kerugian finansial: OpenAI jelas tidak didanai sebaik Google. Para pendiri menjanjikan $ 1 miliar, tetapi hanya sekitar 10% yang terpenuhi ($ 100 juta dari Elon Musk atau $ 30 juta dari donor lain). Dari sudut pandang pengembalian keuangan pribadi, organisasi nirlaba tidak dapat memberi Ilya kompensasi finansial yang lebih baik daripada bekerja di Google. Satu-satunya hal yang mungkin meyakinkan Ilya untuk meninggalkan Google untuk memimpin OpenAI adalah filosofi ini. Ide-ide filosofis Ilya tidak begitu dikenal publik sebagai pembimbing doktoralnya. Geoffrey Hinton meninggalkan Google pada tahun 2023 karena kekecewaan dengan politik era Ronald Reagan dan ketidakpuasan dengan pendanaan militer AI.

Singkatnya, para pendiri ingin OpenAI menjadi Frodo mereka, membawa “Lord of the Rings” untuk mereka.

Namun, hidup dalam fiksi ilmiah atau film jauh lebih mudah. Dalam film, solusinya sangat sederhana. Tolkien hanya menciptakan karakter Frodo, orang tanpa pamrih yang dapat menahan godaan Lord of the Rings, dilindungi dari serangan fisik oleh “Lord of the Rings”.

Untuk membuat karakter Frodo lebih dapat dipercaya dan alami, Tolkien bahkan menciptakan ras yang naif, baik hati, dan tidak mementingkan diri sendiri – para Hobbit. Sebagai pola dasar hobbit yang tegak dan baik hati, Frodo secara alami menjadi orang terpilih, mampu menahan godaan yang bahkan tidak dapat ditolak oleh Gandalf yang bijaksana. Jika sifat Frodo dikaitkan dengan karakteristik rasial para hobbit, maka solusi Tolkien untuk masalah terbesar “Lord of the Rings” pada dasarnya adalah rasis, menggantungkan harapan umat manusia pada karakter mulia dari ras tertentu. Sebagai seorang non-rasis, sementara saya dapat menikmati plot pahlawan super (atau ras superhero) yang memecahkan masalah dalam novel atau film, saya tidak bisa begitu naif untuk berpikir bahwa dunia nyata sesederhana film. Di dunia nyata, saya tidak percaya pada solusi ini.

Dunia nyata jauh lebih rumit. Dalam kasus OpenAI, sebagian besar model yang dibangun oleh OpenAI (terutama keluarga GPT) adalah monster daya komputasi, mengandalkan chip bertenaga listrik (kebanyakan GPU). Di dunia kapitalis, ini berarti bahwa ia sangat membutuhkan modal. Oleh karena itu, tanpa restu modal, model OpenAI tidak akan berkembang menjadi seperti sekarang ini. Dalam hal ini, Sam Altman adalah tokoh kunci sebagai pusat sumber daya perusahaan. Berkat koneksi Silicon Valley Sam, OpenAI mendapat dukungan kuat dari investor dan vendor perangkat keras.

Ada alasan untuk sumber daya yang mengalir ke OpenAI untuk mendorong model – keuntungan. Tunggu, bukankah OpenAI adalah organisasi nirlaba? Yah, secara teknis ya, tetapi sesuatu telah berubah di bagian bawah. Sambil mempertahankan struktur nominal nirlaba, OpenAI berubah lebih menjadi entitas nirlaba. Ini terjadi pada tahun 2019 ketika OpenAI Global LLC diluncurkan, anak perusahaan nirlaba yang didirikan untuk menarik dana ventura secara legal dan memberikan saham kepada karyawan. Langkah cerdas ini menyelaraskan OpenAI dengan kepentingan investor (bukan donor kali ini, jadi mungkin dalam mengejar keuntungan). Melalui konsistensi ini, OpenAI dapat tumbuh dengan berkah modal. OpenAI Global LLC telah memiliki dampak besar pada pertumbuhan OpenAI, khususnya melekat pada Microsoft, mengamankan investasi $ 1 miliar (dan kemudian miliaran) dan menjalankan monster komputasi OpenAI pada platform superkomputer berbasis Azure Microsoft. Kita semua tahu bahwa model AI yang sukses membutuhkan tiga hal: algoritma, data, dan daya komputasi. OpenAI menyatukan para ahli AI top dunia untuk algoritma model mereka (pengingat: ini juga tergantung pada modal, dan tim profesional OpenAI tidak murah). Data ChatGPT terutama berasal dari internet terbuka, jadi ini bukan hambatan. Daya komputasi yang dibangun di atas chip dan listrik adalah proyek yang mahal. Singkatnya, setengah dari ketiga elemen ini terutama disediakan oleh struktur pendapatan OpenAI Global LLC. Tanpa pasokan bahan bakar yang konstan ini, OpenAI tidak akan bisa sampai sejauh ini tanpa sumbangan saja.

Tapi ini ada biayanya. Hampir tidak mungkin diberkati oleh modal sambil mempertahankan kemerdekaan. Apa yang sekarang disebut kerangka kerja nirlaba lebih nominal daripada substantif.

Ada banyak indikasi bahwa perseteruan antara Ilya dan Sam justru tentang pilihan jalan ini: llya tampaknya berusaha menghentikan OpenAI agar tidak menyimpang dari arah yang semula mereka tetapkan.

Ada juga teori bahwa Sam membuat kesalahan dalam apa yang disebut peristiwa pelarian Q-model, yang menyebabkan kudeta yang gagal ini. Tapi saya tidak percaya dewan direksi OpenAI akan memecat CEO yang sangat sukses karena salah pada masalah tertentu. Apa yang disebut kesalahan dalam penembusan model Q ini, jika ada, paling-paling merupakan pemicu.

Masalah sebenarnya dengan OpenAI mungkin telah menyimpang dari jalur aslinya. Pada 2018, Elon Musk berpisah dengan Sam karena alasan yang sama. Dan tampaknya pada tahun 2021, alasan yang sama menyebabkan sekelompok mantan anggota meninggalkan OpenAI untuk memulai Anthropic. Selain itu, pada saat episode, surat anonim Elon Musk yang diposting di Twitter juga menunjukkan masalah tersebut.

Untuk mendapat untung atau tidak mendapat untung, pertanyaannya sepertinya menemukan jawaban di akhir “The Return of the King”: dengan kembalinya Sam dan pengasingan Ilya, pertempuran untuk jalan berakhir. OpenAI ditakdirkan untuk menjadi perusahaan yang menguntungkan secara de facto (mungkin masih dengan cangkang nirlaba).

Tapi jangan salah paham. Saya tidak mengatakan bahwa Sam adalah orang jahat dan Ilya adalah orang baik. Saya hanya menunjukkan bahwa OpenAI berada dalam dilema, yang bisa disebut dilema perusahaan super:

Perusahaan yang beroperasi dengan tujuan menghasilkan keuntungan dapat dikendalikan oleh modal yang diinvestasikan di dalamnya, yang dapat menimbulkan beberapa bahaya, terutama jika perusahaan sedang membangun alat yang sangat kuat. Dan jika tidak beroperasi dengan tujuan menghasilkan keuntungan, ia mungkin menghadapi kekurangan sumber daya, dan di sektor padat modal, yang berarti mungkin tidak dapat membangun produk sama sekali.

Bahkan, kelahiran alat super kuat menimbulkan kekhawatiran serupa tentang kontrol, tidak terbatas pada lingkup perusahaan. Ambil contoh, film Oppenheimer yang baru-baru ini dirilis. Ketika bom atom berhasil meledak, Oppenheimer merasa lebih takut daripada gembira. Para ilmuwan pada waktu itu ingin menciptakan organisasi supranasional untuk memonopoli kekuatan nuklir. Idenya mirip dengan apa yang dipikirkan pendiri OpenAI pada saat itu - bahwa sesuatu yang sangat kuat seperti bom atom tidak boleh berada di tangan satu organisasi, atau bahkan pemerintah AS. Ini bukan hanya sebuah ide, ini adalah tindakan nyata. Theodore Hall, seorang fisikawan di Proyek Manhattan, membocorkan rincian kunci penciptaan bom atom ke Uni Soviet, mengakui dalam sebuah pernyataan tahun 1997 bahwa “monopoli AS atas senjata nuklir” adalah “berbahaya dan harus dihindari.” Dengan kata lain, Theodore Hall membantu desentralisasi teknologi bom nuklir. Cara untuk mendesentralisasikan tenaga nuklir dengan membocorkan rahasia ke Uni Soviet jelas merupakan praktik yang kontroversial (Rosenberg bahkan dieksekusi oleh kursi listrik karena kebocoran, terlepas dari bukti bahwa mereka dianiaya), tetapi ini mencerminkan konsensus para ilmuwan pada saat itu (termasuk Oppenheimer, bapak bom atom) - hal yang sangat kuat seperti itu tidak boleh dimonopoli! Tapi saya tidak akan menyelami bagaimana menghadapi sesuatu yang super kuat, karena itu topik yang terlalu luas. Mari kita fokuskan kembali perhatian kita pada masalah alat super kuat yang dikendalikan oleh perusahaan yang berorientasi laba.

Sejauh ini, kami masih belum menyebutkan Vitalik dalam judul artikel. Apa hubungan Vitalik dengan OpenAI atau Lord of the Rings?

Itu karena Vitalik dan para pendiri ETH berada dalam situasi yang sangat mirip.

Pada tahun 2014, ketika para pendiri ETH Workshop meluncurkan ETH Workshop, mereka terbagi atas apakah badan hukum yang akan didirikan adalah organisasi nirlaba atau perusahaan nirlaba. Pilihan terakhir, seperti OpenAI pada saat itu, adalah organisasi nirlaba, ETH Foundation. Pada saat itu, ketidaksepakatan antara pendiri ETH Workshop mungkin lebih besar daripada antara pendiri OpenAI, yang menyebabkan kepergian beberapa pendiri. Sebaliknya, membangun OpenAI sebagai organisasi nirlaba adalah konsensus di antara semua pendiri. Ketidaksepakatan atas jalan OpenAI datang kemudian.

Sebagai orang luar, tidak jelas bagi saya apakah ketidaksepakatan di antara para pendiri ETH berasal dari harapan mereka bahwa ETH Workshop akan menjadi “Lord of the Rings” yang sangat kuat dan oleh karena itu tidak boleh dikendalikan oleh entitas yang berorientasi pada keuntungan. Tapi itu tidak masalah. Penting: Meskipun ETH Fang telah tumbuh menjadi hal yang kuat, ETH Fang Foundation masih merupakan organisasi nirlaba hingga hari ini, dan tidak menghadapi dilema ya atau tidak seperti OpenAI. Bahkan, sampai hari ini, tidak masalah bahwa ETH Foundation adalah organisasi nirlaba atau perusahaan nirlaba. Mungkin masalah ini lebih penting ketika ETH pertama kali diluncurkan, tetapi itu tidak lagi terjadi hari ini. ETH Fang yang kuat sendiri memiliki kehidupan otonomnya sendiri, dan tidak dikendalikan oleh Yayasan ETH Fang. Dalam perkembangannya, ETH Foundation juga tampaknya menghadapi masalah pembiayaan yang mirip dengan OpenAI. Misalnya, saya mendengar Xiao Feng, salah satu donatur awal Yayasan ETH Fang, mengeluh di sebuah seminar bahwa Yayasan ETH Fang terlalu miskin untuk memberikan dukungan keuangan yang memadai kepada pengembang. Saya tidak tahu seberapa miskin Yayasan ETH sebenarnya, tetapi kendala keuangan ini tampaknya tidak mempengaruhi perkembangan Yayasan ETH. Sebaliknya, beberapa yayasan blockchain yang didanai dengan baik tidak dapat tumbuh menjadi ekosistem yang berkembang hanya dengan membakar uang. Di dunia ini, modal masih penting, tetapi hanya sampai batas tertentu. Dan dalam kasus OpenAI, tidak ada modal? Tidak mau!

ETH dan kecerdasan buatan, tentu saja, adalah teknologi yang sama sekali berbeda. Tetapi satu hal yang serupa: pengembangan keduanya bergantung pada investasi sumber daya yang signifikan (atau investasi modal). (Catatan: Mengembangkan kode ETH itu sendiri mungkin tidak memerlukan banyak modal, tetapi saya mengacu pada membangun seluruh sistem ETH.) Untuk menarik sejumlah besar investasi modal, OpenAI harus menyimpang dari niat awalnya dan diam-diam berubah menjadi perusahaan yang menguntungkan secara de facto. Di sisi lain, meskipun menarik banyak modal ke dalam sistem, ETH Fang tidak dikendalikan oleh organisasi nirlaba mana pun. Dengan berkah modal dan tidak di bawah kendalinya - itu hampir keajaiban!

Vitalik mampu melakukan ini karena Vitalik memiliki Frodo-nya - Blockchain!

Mari kita klasifikasikan teknologi ke dalam dua kategori berdasarkan apakah mereka benar-benar menghasilkan suatu produk: satu adalah teknologi produksi dan yang lainnya adalah teknologi koneksi. Kecerdasan buatan milik yang pertama, sedangkan blockchain milik yang terakhir. AI dapat melakukan banyak aktivitas produksi, seperti ChatGPT menghasilkan teks, Midjourney menghasilkan gambar, dan robot yang memproduksi mobil di pabrik tak berawak TSL.

Secara teknis, blockchain tidak menghasilkan apa-apa. Itu hanya mesin negara dan bahkan tidak dapat memulai operasi apa pun sendiri. Tetapi sebagai teknologi konektivitas, kepentingannya terletak pada penyediaan paradigma kolaborasi manusia berskala besar yang melampaui perusahaan nirlaba tradisional. Pada dasarnya, korporasi adalah perjanjian antara pemegang saham, kreditor, dewan direksi, dan manajemen. Keabsahan kontrak adalah bahwa jika satu pihak melanggar kontrak, pihak lain dapat menuntut di pengadilan. Dan validitas penuntutan ini terletak pada kenyataan bahwa hasilnya dilakukan oleh aparatur negara (yang disebut penegakan hukum). Jadi, pada dasarnya, perusahaan adalah hubungan kontraktual yang ditegakkan oleh mesin negara. Tapi sekarang, blockchain memberi kita cara baru untuk mengontrak yang ditegakkan oleh teknologi. Sementara kontrak blockchain BTC masih sangat spesifik secara fungsional (dan sengaja disimpan demikian), kontrak pintar ETH Fang memperluas cara kontrak baru ini menjadi universal. Pada dasarnya, ETH Workshop memungkinkan manusia untuk berkolaborasi dalam skala besar dengan cara yang sama sekali baru di banyak bidang, tidak seperti perusahaan yang berorientasi pada laba di masa lalu. Misalnya, DeFi adalah cara baru bagi orang untuk berkolaborasi di sektor keuangan.

Dalam pengertian ini, blockchain adalah “perusahaan super”! Karena paradigma “perusahaan super” inilah ETH Fang dapat tumbuh menjadi negara berkembang seperti sekarang ini, tanpa harus menghadapi kesengsaraan perusahaan OpenAI. Blockchain adalah Vitalik’s Frodo, membawa “Lord of the Rings” tanpa dikonsumsi oleh kekuatannya.

Jadi sekarang Anda dapat melihat bahwa Frodo telah menjadi tokoh kunci di balik semua cerita ini:

Gandalf beruntung karena dia memiliki Frodo sebagai teman di dunia fantasi.

• Vitalik juga beruntung karena di dunia baru ia memiliki Frodo-nya – blockchain.
• Ilya dan pendiri OpenAI lainnya tidak seberuntung itu, karena mereka berada di dunia lama di mana Frodo tidak ada.

Link ke artikel asli