«Володар перснів», OpenAI та ETH Workshop: чому Віталік не став тим Семом Альтманом, якого прогнали?

Оригінальний автор: 0xAlpha

Оригінальний редактор: ГаріМа Ву сказав блокчейн

Нещодавно ми подивилися «фільм» «Майстер штучного інтелекту» — трилогію драм, створених великими венчурними капіталістами та технологічними гігантами Кремнієвої долини з інвестиціями понад $10 млрд, включаючи три епізоди «Партнери в ШІ», «Два шляхи» та «Повернення короля». Багато хто аплодував поверненню Сема Альтмана на «трон», а деякі навіть порівнювали його з поверненням Джобса в Apple.

Однак ці два поняття просто не можна порівнювати. «Майстер ШІ» – це зовсім інша історія, вона розповідає про битву між двома шляхами: гнатися за прибутком чи не прагнути? Ось у чому суть справи!

Давайте повернемося до початку «Володаря перснів». Коли Гандальф бачить Володаря Перснів у будинку дядька Більбо, він швидко розуміє, що з такою могутньою річчю не впораються звичайні люди. Тільки деякі святі і потойбічні люди, такі як Фродо, можуть з цим впоратися. Ось чому Фродо є серцем команди – він єдиний, хто може нести щось настільки потужне, не будучи поглинутим цим. Не Гендальф, не ALGO, не Леголас, не Гімлі, тільки Фродо. Ключем до всієї історії «Володаря перснів» є унікальна природа Фродо.

*Примітка: Сем Альтман є генеральним директором OpenAI, Ілля Суцкевер є одним із співзасновників OpenAI (він не погоджувався з Семом Альтманом щодо вибору шляху OpenAI і зрештою був маргіналізований), а Грег Брокман є технічним директором OpenAI. Рід Хоффман – відомий підприємець і венчурний капіталіст, який був співзасновником LinkedIn. Джессіка Лівінгстон є одним із партнерів-засновників венчурної фірми Y Combinator. Пітер Тіль — відомий підприємець, венчурний капіталіст і співзасновник PayPal. *

Тепер поверніться до початку Master of AI. У 2015 році Сем Альтман, Грег Брокман, Рід Хоффман, Джессіка Лівінгстон, Пітер Тіль, Ілон Маск і ряд технологічних компаній оголосили про створення OpenAI і зобов’язалися влити у венчурний фонд понад $1 млрд. Це група найрозумніших мізків у світі, майже таких же розумних, як Гендальф. Вони також знають, що будують щось могутнє, наприклад, «Володар перснів», яким не повинен володіти і контролювати ніхто, хто переслідує свої власні інтереси. Його повинні освоїти самовіддані люди, як Фродо. Отже, замість того, щоб запускати комерційну компанію, вони створили OpenAI як некомерційну дослідницьку організацію, імовірно, не для отримання прибутку.

Думка про те, що «така потужна річ не повинна контролюватися компанією, орієнтованою на прибуток», можливо, не була консенсусом співзасновників OpenAI під час її заснування. Швидше за все, це причина, чому ці засновники об’єдналися, коли вирішили запустити OpenAI. Ще до заснування OpenAI Google вже продемонстрував потенціал для реалізації цієї суперсили. Схоже, що OpenAI — це «коаліція захисників», що складається з цих далекоглядних «захисників людства», щоб протистояти монстру штучного інтелекту, на якого перетворюється Google, компанії, яка прагне прибутку. Можливо, Іллю переконали піти з Google, щоб очолити R&D OpenAI через її віру в цю філософію, тому що крок Іллі був би безглуздим з будь-якої іншої точки зору. Ще у 2015 році ніхто не зміг надати кращу платформу для розробки ШІ, ніж Google. Незважаючи на те, що всі промоутери OpenAI є магнатами Кремнієвої долини, жоден з них не є практиком штучного інтелекту (вони взагалі не програмують). Не кажучи вже про фінансовий недолік: OpenAI явно не так добре фінансується, як Google. Засновники обіцяли $1 млрд, але виконали лише близько 10% ($100 млн від Ілона Маска або $30 млн від інших донорів). З точки зору особистої фінансової віддачі, некомерційна організація не може забезпечити Іллі кращу фінансову компенсацію, ніж робота в Google. Єдине, що може переконати Іллю піти з Google, щоб очолити OpenAI, — це ця філософія. Філософські ідеї Іллі не так добре відомі широкому загалу, як його докторський керівник. Джеффрі Хінтон залишив Google у 2023 році через розчарування політикою епохи Рональда Рейгана та невдоволення військовим фінансуванням ШІ.

Коротше кажучи, засновники хотіли, щоб OpenAI був їхнім Фродо, несучи для них «Володаря перснів».

Однак життя в науковій фантастиці або фільмах набагато простіше. У фільмі рішення дуже просте. Толкін просто створив персонажа Фродо, самовідданого хлопця, здатного протистояти спокусі Володаря Перснів, захищеного від фізичних нападок з боку «Володаря кілець».

Щоб зробити характер Фродо більш правдоподібним і природним, Толкін навіть створив наївну, добру і самовіддану расу – хоббітів. Як архетиповий прямоходячий, добросердий гобіт, Фродо, природно, став обранцем, здатним протистояти спокусам, перед якими не міг встояти навіть мудрий Гандальф. Якщо натуру Фродо приписують расовим особливостям гобітів, то рішення Толкієна найбільшої проблеми «Володаря перснів» по суті є расистським, пов’язуючи надії людства на благородний характер певної раси. Як нерасист, хоча я можу насолоджуватися сюжетом про супергероїв (або раси супергероїв), які вирішують проблеми в романах або фільмах, я не можу бути настільки наївним, щоб думати, що реальний світ такий же простий, як і фільми. У реальному світі я не вірю в це рішення.

Реальний світ просто набагато складніший. У випадку з OpenAI більшість моделей, побудованих OpenAI (особливо сімейство GPT), є монстрами обчислювальної потужності, які покладаються на чіпи, що працюють на електриці (переважно графічні процесори). У капіталістичному світі це означає, що він дуже потребує капіталу. Тому без благословення капіталу модель OpenAI не розвинулася б у те, чим вона є сьогодні. У цьому сенсі Сем Альтман є ключовою фігурою як ресурсний центр компанії. Завдяки зв’язкам Сема в Кремнієвій долині OpenAI має потужну підтримку з боку інвесторів і постачальників обладнання.

У ресурсів, які надходять в OpenAI для стимулювання моделей, є причина – прибуток. Стривайте, хіба OpenAI не є некомерційною організацією? Ну, технічно так, але дещо змінилося внизу. Зберігаючи свою номінально некомерційну структуру, OpenAI все більше перетворюється на комерційну організацію. Це сталося у 2019 році, коли було запущено OpenAI Global LLC – комерційну дочірню компанію, створену для легального залучення венчурних фондів та надання акцій співробітникам. Цей розумний крок узгоджує OpenAI з інтересами інвесторів (цього разу не донорів, тому, ймовірно, у гонитві за прибутком). Завдяки цій послідовності OpenAI може розвиватися з благословення капіталу. OpenAI Global LLC справила глибокий вплив на зростання OpenAI, зокрема пов’язана з Microsoft, забезпечивши інвестиції в розмірі 1 мільярда доларів США (а згодом і мільярди) і запустивши обчислювального монстра OpenAI на суперкомп’ютерній платформі Microsoft на базі Azure. Ми всі знаємо, що для успішної моделі штучного інтелекту потрібні три речі: алгоритми, дані та обчислювальна потужність. OpenAI об’єднує провідних світових експертів зі штучного інтелекту для алгоритмів своєї моделі (нагадуємо: це також залежить від капіталу, а команда професіоналів OpenAI коштує недешево). Дані ChatGPT надходять переважно з відкритого інтернету, тому це не є вузьким місцем. Обчислювальні потужності, побудовані на чіпах і електриці, є дорогим проектом. У двох словах, половина з цих трьох елементів в першу чергу забезпечується структурою прибутку OpenAI Global LLC. Без цього постійного постачання палива OpenAI не змогла б зайти так далеко без лише пожертвувань.

Але це має свою ціну. Бути благословенним капіталом, зберігаючи незалежність, практично неможливо. Те, що зараз називають некомерційною структурою, є скоріше номінальним, ніж змістовним.

Є багато ознак того, що ворожнеча між Іллею та Семом пов’язана саме з цим вибором шляху: llya, схоже, намагається зупинити OpenAI від відхилення від напрямку, який вони спочатку задали.

Існує також теорія, що Сем припустився помилки в так званому прориві Q-моделі, що призвело до цього невдалого перевороту. Але я не вірю, що рада директорів OpenAI звільнить дуже успішного генерального директора за те, що він помилився в конкретному питанні. Ця так звана помилка в пробої Q-моделі, якщо вона існує, в кращому випадку є тригером.

Справжня проблема з OpenAI може полягати в тому, що він відхилився від свого початкового шляху. У 2018 році Ілон Маск розлучився з Семом з тієї ж причини. І, схоже, у 2021 році та сама причина змусила групу колишніх учасників залишити OpenAI, щоб запустити Anthropic. Крім того, на момент епізоду анонімний лист Ілона Маска, опублікований у Twitter, також вказав на проблему.

Отримувати прибуток чи не отримувати прибуток, питання начебто знаходить відповідь в кінці «Повернення короля»: з поверненням Сема і вигнанням Іллі битва за дорогу закінчена. OpenAI судилося стати де-факто прибутковою компанією (ймовірно, все ще з некомерційною оболонкою).

Але не зрозумійте мене неправильно. Я не кажу, що Сем поганий хлопець, а Ілля хороший. Я просто вказую на те, що OpenAI стоїть перед дилемою, яку можна назвати дилемою суперкомпанії:

Компанія, яка працює з метою отримання прибутку, може контролюватися вкладеним у неї капіталом, що може становити певну небезпеку, особливо якщо компанія будує надпотужний інструмент. І якщо він не буде працювати з метою отримання прибутку, він може зіткнутися з нестачею ресурсів, причому в капіталомісткому секторі, а значить, взагалі не зможе створити продукт.

По суті, народження будь-якого надпотужного інструменту викликає аналогічні побоювання з приводу контролю, не обмежуючись корпоративною сферою. Візьмемо, наприклад, недавно вийшов фільм «Оппенгеймер». Коли атомна бомба була успішно підірвана, Оппенгеймер відчув більше страху, ніж радості. Вчені в той час хотіли створити наднаціональну організацію для монополізації ядерних сил. Ідея схожа на те, що тоді думали засновники OpenAI – що щось таке надпотужне, як атомна бомба, не повинно бути в руках однієї організації чи навіть уряду США. Це не просто ідея, це реальна дія. Теодор Холл, фізик з Манхеттенського проекту, передав Радянському Союзу ключові подробиці створення атомної бомби, визнавши в заяві 1997 року, що «монополія США на ядерну зброю» була «небезпечною і її слід уникати». Іншими словами, Теодор Холл допоміг децентралізувати технологію створення ядерних бомб. Шлях децентралізації атомної енергетики шляхом витоку секретів в СРСР був явно суперечливою практикою (Розенбергів навіть стратили електричним стільцем за витоки, незважаючи на докази того, що вони були неправомірні), але це відображало консенсус вчених того часу (включаючи Оппенгеймера, батька атомної бомби) - таку надпотужну річ не варто монополізувати! Але я не збираюся занурюватися в те, як боротися з чимось надпотужним, тому що це занадто широка тема. Давайте ще раз зосередимо увагу на питанні надпотужних інструментів, контрольованих компаніями, орієнтованими на прибуток.

Поки що ми досі не згадали Віталіка в назві статті. Яке відношення Віталік має до OpenAI чи «Володаря перснів»?

Все тому, що Віталік і засновники ETH опинилися в дуже схожій ситуації.

У 2014 році, коли засновники ETH Workshop запустили ETH Workshop, вони розійшлися в думках щодо того, чи буде юридична особа, яка буде створена, некомерційною організацією чи комерційною корпорацією. Остаточним вибором, як і OpenAI на той час, була некомерційна організація ETH Foundation. У той час розбіжності між засновниками ETH Workshop, ймовірно, були більшими, ніж між засновниками OpenAI, що призвело до відходу деяких засновників. На противагу цьому, створення OpenAI як некомерційної організації було консенсусом серед усіх засновників. Розбіжності щодо шляху OpenAI виникли пізніше.

Мені, як сторонній спостерігачеві, незрозуміло, чи розбіжності між засновниками ETH пов’язані з їхніми очікуваннями, що ETH Майстерня буде надпотужним «Володарем перснів» і, отже, не повинна контролюватися організацією, орієнтованою на прибуток. Але це не біда. Важливо: Незважаючи на те, що ETH Fang перетворився на потужну річ, ETH Fang Foundation досі залишається некомерційною організацією, і вона не стикається з дилемою «так» чи «ні», як OpenAI. Насправді, на сьогоднішній день не має значення, чи є ETH Фонд некомерційною організацією або комерційною компанією. Можливо, це питання було важливішим, коли ETH був вперше запущений, але сьогодні це вже не так. Сам могутній ETH Ікло має власне автономне життя і не контролюється Фондом ETH Ікла. У процесі своєї розробки ETH Foundation також, схоже, стикається з проблемою фінансування, подібною до OpenAI. Наприклад, я чув, як Сяо Фен, один з перших донорів фонду ETH Fang, скаржився на семінарі, що фонд ETH Fang Foundation занадто бідний, щоб надавати належну фінансову підтримку розробникам. Я не знаю, наскільки бідним насправді є ETH Фонд, але це фінансове обмеження, схоже, не вплинуло на розвиток Фонду ETH. На противагу цьому, деякі добре фінансовані блокчейн-фонди не можуть перетворитися на процвітаючу екосистему, просто спалюючи гроші. У цьому світі капітал все ще важливий, але лише в якійсь мірі. А у випадку з OpenAI немає капіталу? Нізащо!

ETH і штучний інтелект – це, звичайно, абсолютно різні технології. Але одне схоже: розвиток обох спирається на значні ресурсні вкладення (або капіталовкладення). (Примітка: розробка самого коду ETH може не вимагати великих капіталовкладень, але я маю на увазі побудову всієї системи ETH.) Для того, щоб залучити таку велику суму капіталовкладень, OpenAI довелося відійти від початкових намірів і непомітно трансформуватися в де-факто прибуткову компанію. З іншого боку, незважаючи на залучення великого капіталу в систему, ETH Фанг не контролюється жодною комерційною організацією. З благословення капіталу і не під його контролем - це майже диво!

Віталік зміг це зробити, тому що у Віталіка був свій Frodo - Blockchain!

Давайте класифікуємо технології на дві категорії, виходячи з того, чи дійсно вони виробляють продукт: одна - це технологія виробництва, а інша - технологія з’єднання. Штучний інтелект належить до перших, а блокчейн – до других. Штучний інтелект може виконувати багато виробничих дій, таких як ChatGPT генерує текст, Midjourney генерує зображення, а роботи виробляють автомобілі на безпілотних заводах TSL.

Технічно блокчейн нічого не виробляє. Це просто державна машина, яка навіть не може самостійно ініціювати будь-які операції. Але як технологія зв’язку її важливість полягає в тому, щоб забезпечити парадигму великомасштабної людської співпраці, яка виходить за рамки традиційних комерційних компаній. По суті, корпорація - це угода між акціонерами, кредиторами, радою директорів і керівництвом. Дійсність договору полягає в тому, що якщо одна сторона порушує договір, інша сторона може подати позов до суду. А обґрунтованість цього обвинувачення полягає в тому, що його результатами займається державний апарат (так званий правоохоронний). Отже, по суті, компанія - це договірні відносини, що забезпечуються державною машиною. Але тепер блокчейн пропонує нам новий спосіб укладення контрактів, який забезпечується технологіями. Незважаючи на те, що BTC блокчейн-контракти все ще є дуже функціонально специфічними (і навмисно зберігаються), смарт-контракти ETH Фанга розширюють цей новий спосіб контрактування, щоб він був універсальним. По суті, ETH Workshop дозволяє людям співпрацювати в масштабі абсолютно по-новому в багатьох сферах, на відміну від компаній, орієнтованих на прибуток минулого. Наприклад, DeFi – це новий спосіб співпраці людей у фінансовому секторі.

У цьому сенсі блокчейн – це «супер компанія»! Саме завдяки цій парадигмі «суперкомпанії» ETH Fang зміг вирости до процвітаючого стану, яким він є сьогодні, не стикаючись із корпоративними проблемами OpenAI. Блокчейн — це Фродо Віталіка, який несе «Володаря перснів», не будучи поглиненим його силою.

Тож тепер ви можете побачити, що Фродо був ключовим персонажем усіх цих історій:

• Гендальфу пощастило, тому що він мав Фродо за друга у світі фентезі.
• Віталіку пощастило ще й тому, що в новому світі у нього з’явився свій Фродо – блокчейн.
• Іллі та іншим засновникам OpenAI не так пощастило, тому що вони жили в старому світі, де Фродо не існувало.

Посилання на оригінал статті