«Властелин колец», OpenAI и ETH Workshop: почему Виталик не стал тем Сэмом Олтменом, которого прогнали?

Автор оригинала: 0xAlpha

Первоначальный редактор: GaryMa Wu сказал, что блокчейн

Недавно мы посмотрели «фильм» «Мастер ИИ», трилогию драм, спродюсированных крупными венчурными капиталистами Кремниевой долины и технологическими гигантами с инвестициями более 10 миллиардов долларов, включая три эпизода «Партнеров по искусственному интеллекту», «Два пути» и «Возвращение короля». Многие аплодировали возвращению Сэма Олтмена на «трон», а некоторые даже сравнивали его с возвращением Джобса в Apple.

Однако эти два понятия просто несопоставимы. «Мастер ИИ» — это совсем другая история, он рассказывает о битве между двумя путями: гнаться за прибылью или не преследовать? В том-то и дело!

Давайте вернемся к началу «Властелина колец». Когда Гэндальф видит Властелина Колец в доме дяди Бильбо, он быстро понимает, что с такой могущественной вещью не могут справиться обычные люди. Только некоторые святые и потусторонние люди, такие как Фродо, могут справиться с этим. Вот почему Фродо является сердцем команды - он единственный, кто может нести что-то настолько мощное, не будучи поглощенным этим. Ни Гэндальф, ни ALGO, ни Леголас, ни Гимли, только Фродо. Ключом ко всей истории «Властелина колец» является уникальная натура Фродо.

*Примечание: Сэм Альтман — генеральный директор OpenAI, Илья Суцкевер — один из соучредителей OpenAI (он не согласился с Сэмом Альтманом по поводу выбора пути OpenAI и в конечном итоге был маргинализирован), а Грег Брокман — технический директор OpenAI. Рид Хоффман — известный предприниматель и венчурный капиталист, который был соучредителем LinkedIn. Джессика Ливингстон является одним из партнеров-основателей венчурной компании Y Combinator. Питер Тиль — известный предприниматель, венчурный капиталист и соучредитель PayPal. *

Теперь вернемся к началу Master of AI. В 2015 году Сэм Альтман, Грег Брокман, Рид Хоффман, Джессика Ливингстон, Питер Тиль, Илон Маск и ряд технологических компаний объявили о создании OpenAI и пообещали вложить в венчурный фонд более $1 млрд. Это группа самых умных умов в мире, почти таких же умных, как Гэндальф. Они также знают, что строят что-то могущественное, вроде «Властелина колец», которое не должно принадлежать и контролироваться кем-либо, преследующим свои собственные интересы. Им должны овладеть самоотверженные люди, вроде Фродо. Таким образом, вместо того, чтобы основать коммерческую компанию, они основали OpenAI как некоммерческую исследовательскую организацию, предположительно некоммерческую.

Идея о том, что «такая мощная вещь не должна контролироваться компанией, ориентированной на прибыль», возможно, не была консенсусом соучредителей OpenAI во время ее основания. Скорее всего, именно по этой причине эти основатели собрались вместе, когда решили основать OpenAI. Еще до того, как была основана OpenAI, Google уже продемонстрировала потенциал для реализации этой суперспособности. Похоже, что OpenAI — это «коалиция защитников», состоящая из этих дальновидных «защитников человечества», чтобы противостоять монстру искусственного интеллекта, в которого превращается Google, компании, стремящейся к прибыли. Возможно, Илью убедили уйти из Google, чтобы возглавить исследования и разработки OpenAI, из-за ее веры в эту философию, потому что шаг Ильи был бы бессмысленным с любой другой точки зрения. Еще в 2015 году никто не смог предоставить лучшую платформу для разработки ИИ, чем Google. Несмотря на то, что все промоутеры OpenAI являются магнатами Кремниевой долины, ни один из них не является практиком ИИ (они вообще не программируют). Не говоря уже о финансовом недостатке: OpenAI явно не так хорошо финансируется, как Google. Основатели обещали $1 млрд, но выполнили только около 10% ($100 млн от Илона Маска или $30 млн от других доноров). С точки зрения личной финансовой отдачи, некоммерческая организация не может обеспечить Илье лучшую финансовую компенсацию, чем работа в Google. Единственное, что может убедить Илью уйти из Google, чтобы возглавить OpenAI, — это эта философия. Философские идеи Ильи не так хорошо известны публике, как его научный руководитель. Джеффри Хинтон покинул Google в 2023 году из-за разочарования в политике эпохи Рональда Рейгана и недовольства военным финансированием ИИ.

Короче говоря, основатели хотели, чтобы OpenAI стал их Фродо, несущим для них «Властелина колец».

Однако жизнь в научной фантастике или кино намного проще. В фильме решение очень простое. Толкин просто создал персонажа Фродо, самоотверженного парня, который может противостоять искушению Властелина Колец, защищенного от физических нападений «Властелина Колец».

Чтобы сделать характер Фродо более правдоподобным и естественным, Толкин даже создал наивную, добрую и самоотверженную расу – хоббитов. Как архетипический прямоходящий, добросердечный хоббит, Фродо, естественно, стал избранным, способным противостоять искушениям, перед которыми не смог бы устоять даже мудрый Гэндальф. Если натуру Фродо приписывают расовым особенностям хоббитов, то толкиновское решение самой большой проблемы «Властелина колец» по сути своей расистское, возлагающее надежды человечества на благородный характер определенной расы. Будучи не расистом, я могу наслаждаться сюжетом о том, как супергерои (или расы супергероев) решают проблемы в романах или фильмах, я не могу быть настолько наивным, чтобы думать, что реальный мир так же прост, как и фильмы. В реальном мире я не верю в такое решение.

Реальный мир намного сложнее. В случае с OpenAI, большинство моделей, построенных OpenAI (особенно семейство GPT), являются монстрами вычислительной мощности, полагающимися на чипы с электрическим питанием (в основном графические процессоры). В капиталистическом мире это означает, что он очень нуждается в капитале. Поэтому без благословения капитала модель OpenAI не развилась бы в то, чем она является сегодня. В этом смысле Сэм Альтман является ключевой фигурой в качестве ресурсного центра компании. Благодаря связям Сэма с Кремниевой долиной, OpenAI имеет сильную поддержку со стороны инвесторов и поставщиков оборудования.

Есть причина, по которой ресурсы, поступающие в OpenAI для управления моделями, — это прибыль. Подождите, разве OpenAI не является некоммерческой организацией? Ну технически да, но что-то изменилось внизу. Сохраняя свою номинально некоммерческую структуру, OpenAI все больше трансформируется в коммерческую организацию. Это произошло в 2019 году, когда была запущена OpenAI Global LLC — коммерческая дочерняя компания, созданная для легального привлечения венчурных фондов и раздачи акций сотрудникам. Этот умный ход приводит OpenAI в соответствие с интересами инвесторов (на этот раз не доноров, так что, вероятно, в погоне за прибылью). Благодаря такому постоянству OpenAI может расти с благословения капитала. OpenAI Global LLC оказала глубокое влияние на рост OpenAI, особенно в Microsoft, обеспечив инвестиции в размере 1 миллиарда долларов (а затем миллиарды) и запустив вычислительного монстра OpenAI на суперкомпьютерной платформе Microsoft на базе Azure. Все мы знаем, что успешная модель ИИ требует трех вещей: алгоритмов, данных и вычислительной мощности. OpenAI объединяет лучших мировых экспертов в области искусственного интеллекта для алгоритмов своей модели (напомню, что это также зависит от капитала, а команда профессионалов OpenAI стоит недешево). Данные ChatGPT поступают в основном из открытого интернета, поэтому это не узкое место. Вычислительная мощность, построенная на чипах и электричестве, является дорогостоящим проектом. В двух словах, половина из этих трех элементов в первую очередь обеспечивается структурой доходов OpenAI Global LLC. Без этих постоянных поставок топлива OpenAI не смогла бы продвинуться так далеко без одних только пожертвований.

Но за это приходится платить. Практически невозможно быть благословленным капиталом, сохраняя при этом независимость. То, что сейчас называется некоммерческой структурой, является скорее номинальным, чем содержательным.

Есть много указаний на то, что вражда между Ильей и Сэмом связана именно с этим выбором пути: llya, похоже, пытается остановить OpenAI от отклонения от первоначально заданного направления.

Существует также теория, что Сэм допустил ошибку в так называемом прорыве Q-модели, что и привело к этому неудавшемуся перевороту. Но я не верю, что совет директоров OpenAI уволит очень успешного генерального директора за то, что он ошибся в конкретном вопросе. Эта так называемая ошибка в пробое Q-модели, если она существует, в лучшем случае является триггером.

Реальная проблема с OpenAI может заключаться в том, что он отклонился от своего первоначального пути. В 2018 году Илон Маск расстался с Сэмом по той же причине. И, похоже, в 2021 году по той же причине группа бывших участников покинула OpenAI, чтобы основать Anthropic. Кроме того, на момент эпизода анонимное письмо Илона Маска, опубликованное в Twitter, также указывало на проблему.

Получать прибыль или не получать прибыль, вопрос, кажется, находит ответ в конце «Возвращения короля»: с возвращением Сэма и изгнанием Ильи битва за дорогу окончена. OpenAI суждено стать де-факто прибыльной компанией (вероятно, все еще с некоммерческой оболочкой).

Но не поймите меня неправильно. Я не говорю, что Сэм плохой парень, а Илья хороший. Я просто указываю на то, что OpenAI стоит перед дилеммой, которую можно назвать дилеммой суперкомпании:

Компания, которая работает с целью получения прибыли, может контролироваться вложенным в нее капиталом, что может представлять некоторые опасности, особенно если компания строит сверхмощный инструмент. И если она не работает с целью получения прибыли, она может столкнуться с нехваткой ресурсов, причем в капиталоемком секторе, а значит, вообще не сможет создать продукт.

На самом деле, рождение любого сверхмощного инструмента вызывает аналогичные опасения по поводу контроля, не ограничиваясь корпоративной сферой. Возьмем, к примеру, недавно вышедший фильм «Оппенгеймер». Когда атомная бомба была успешно взорвана, Оппенгеймер испытал больше страха, чем радости. Ученые в то время хотели создать наднациональную организацию для монополизации ядерных сил. Идея похожа на то, что думали в то время основатели OpenAI - что что-то настолько сверхмощное, как атомная бомба, не должно находиться в руках одной организации или даже правительства США. Это не просто идея, это реальное действие. Теодор Холл, физик из Манхэттенского проекта, передал Советскому Союзу ключевые детали создания атомной бомбы, признав в 1997 году, что «монополия США на ядерное оружие» «опасна и ее следует избегать». Другими словами, Теодор Холл помог децентрализовать технологию создания атомной бомбы. Способ децентрализации атомной энергетики путем утечки секретов в СССР был явно спорной практикой (Розенберги даже были казнены на электрическом стуле за утечки, несмотря на доказательства того, что с ними поступили несправедливо), но это отражало консенсус ученых того времени (включая Оппенгеймера, отца атомной бомбы) - такая сверхмощная вещь не должна монополизироваться! Но я не собираюсь углубляться в то, как иметь дело с чем-то сверхмощным, потому что это слишком обширная тема. Давайте переориентируемся на вопрос о сверхмощных инструментах, контролируемых компаниями, ориентированными на прибыль.

До сих пор мы не упомянули Виталика в заголовке статьи. Какое отношение Виталик имеет к OpenAI или «Властелину колец»?

А все потому, что Виталик и основатели ETH оказались в очень похожей ситуации.

В 2014 году, когда основатели ETH Workshop запустили ETH Workshop, они разделились во мнениях по поводу того, будет ли создаваемое юридическое лицо некоммерческой организацией или коммерческим корпорацией. Окончательным выбором, как и OpenAI в то время, стала некоммерческая организация ETH Foundation. В то время разногласия между основателями ETH Workshop были, вероятно, больше, чем между основателями OpenAI, что привело к уходу некоторых основателей. В отличие от этого, создание OpenAI как некоммерческой организации было консенсусом среди всех основателей. Разногласия по поводу пути развития OpenAI возникли позже.

Мне, как стороннему наблюдателю, неясно, проистекают ли разногласия между основателями ETH их ожиданиям, что ETH Мастерская будет сверхмогущественным «Властелином колец» и, следовательно, не должна контролироваться организацией, ориентированной на прибыль. Но это не имеет значения. Важно: Несмотря на то, что ETH Fang превратился в мощную вещь, фонд ETH Fang Foundation по сей день остается некоммерческой организацией, и он не сталкивается с дилеммой «да» или «нет», как OpenAI. На самом деле, на сегодняшний день не имеет значения, является ли ETH Фонд некоммерческой организацией или коммерческим предприятием. Возможно, этот вопрос был более важным, когда ETH только появился, но сегодня это уже не так. Могущественный ETH Фанг сам по себе живет автономной жизнью и не контролируется Фондом ETH Фанг. В ходе своего развития ETH Foundation также, похоже, сталкивается с проблемой финансирования, аналогичной OpenAI. Например, я слышал, как Сяо Фэн, один из первых спонсоров ETH Fang Foundation, жаловался на семинаре, что ETH Fang Foundation слишком беден, чтобы обеспечить адекватную финансовую поддержку разработчикам. Я не знаю, насколько беден Фонд ETH на самом деле, но это финансовое ограничение, похоже, не повлияло на развитие Фонда ETH. Напротив, некоторые хорошо финансируемые блокчейн-фонды не могут вырасти в процветающую экосистему, просто сжигая деньги. В этом мире капитал по-прежнему важен, но только до некоторой степени. А в случае с OpenAI нет капитала? Вы шутите!

ETH и искусственный интеллект – это, конечно, совершенно разные технологии. Но одно схоже: развитие и того, и другого зависит от значительных ресурсных инвестиций (или капиталовложений). (Примечание: Разработка самого кода ETH может не потребовать больших капиталовложений, но я имею в виду создание всей системы ETH.) Для того, чтобы привлечь такой большой объем капиталовложений, OpenAI пришлось отойти от своих первоначальных намерений и незаметно трансформироваться в де-факто прибыльную компанию. С другой стороны, несмотря на привлечение большого капитала в систему, ETH Fang не контролируется какой-либо коммерческой организацией. С благословения капитала, а не под его контролем - это почти чудо!

Виталик смог это сделать, потому что у него был свой Frodo - Blockchain!

Давайте разделим технологии на две категории в зависимости от того, производят ли они продукт: одна — это технология производства, а другая — технология подключения. Искусственный интеллект относится к первым, а блокчейн — ко вторым. Искусственный интеллект может выполнять множество производственных действий, таких как ChatGPT, генерирующий текст, Midjourney, генерирующий изображения, и роботы, производящие автомобили на беспилотных заводах TSL.

Технически блокчейн ничего не производит. Это просто конечный автомат, который даже не может инициировать какие-либо операции самостоятельно. Но как технология связи, ее важность заключается в том, что она обеспечивает парадигму крупномасштабного человеческого сотрудничества, которая выходит за рамки традиционных коммерческих компаний. По сути, корпорация — это ковенант между акционерами, кредиторами, советом директоров и менеджментом. Действительность договора заключается в том, что если одна из сторон нарушает договор, другая сторона может подать иск в суд. И обоснованность этого преследования заключается в том, что его результаты осуществляются государственным аппаратом (так называемыми правоохранительными органами). Таким образом, по сути, компания является договорными отношениями, навязанными государственной машиной. Но теперь блокчейн предлагает нам новый способ заключения контрактов, который обеспечивается технологиями. Несмотря на то, что BTC контракты блокчейна по-прежнему очень функционально специфичны (и намеренно остаются таковыми), смарт-контракты ETH Fang расширяют этот новый способ заключения контрактов, делая его универсальным. По сути, ETH Workshop позволяет людям сотрудничать в масштабе совершенно по-новому во многих областях, в отличие от компаний, ориентированных на получение прибыли в прошлом. Например, DeFi — это новый способ совместной работы людей в финансовом секторе.

В этом смысле блокчейн — это «суперкомпания»! Именно благодаря этой парадигме «суперкомпании» ETH Fang смогла вырасти до процветающего состояния, которым она является сегодня, не сталкиваясь с корпоративными проблемами OpenAI. Блокчейн — это Фродо Виталика, несущий «Властелина колец», но не поглощенный его силой.

Итак, теперь вы можете видеть, что Фродо был ключевым персонажем всех этих историй:

• Гэндальфу повезло, потому что у него был друг Фродо в мире фантазий.
• Виталику повезло еще и потому, что в новом мире у него есть свой Фродо – блокчейн.
• Илье и другим основателям OpenAI повезло меньше, потому что они жили в старом мире, где Фродо не существовало.

Ссылка на оригинальную статью