d/acc: Обзор и перспективы через год

В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм к технологиям и огромные преимущества, которые они могут принести. В то же время я выразил осторожное отношение к определённым проблемам, главным образом сосредоточив внимание на суперумном ИИ и потенциальных разрушительных рисках, которые он может вызвать, если эта технология будет неправильно построена, что может привести к необратимой утрате власти человечества.

Основная идея статьи заключается в пропаганде концепции: децентрализованного, демократичного и дифференцированного оборонительного ускорения. Мы должны как ускорять развитие технологий, так и избирательно сосредотачиваться на тех технологиях, которые могут повысить обороноспособность, а не наносят вред, и стремиться к распределению власти, избегая концентрации власти в руках немногих элит. Оборонительная модель должна подражать демократическому Швейцарскому образцу и исторически почти анархистскому региону Зоми, а не модели лордов и замков средневекового феодализма.

За последний год эти идеи и концепции значительно развились и стали более зрелыми. Я поделился этими мыслями на платформе "80,000 часов", и они вызвали множество откликов, большинство из которых было положительными, хотя, конечно, были и некоторые критические замечания.

Эта работа продолжается и приносит реальные результаты: в области проверяемых открытых вакцин мы видим прогресс; восприятие ценности здорового внутреннего воздуха углубляется; "Сообщения сообщества" продолжают оказывать положительное влияние; предсказательные рынки стали прорывом в качестве инструмента информации; нулевые доказательства (ZK-SNARKs) находят применение в области идентификации личности правительством и социальных медиа (, а также обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов ); открытые инструменты визуализации находят применение в медицине и интерфейсах мозг-компьютер (BCI) и так далее.

Прошлой осенью мы отметили первое важное событие d/acc: "День открытия d/acc"(d/aDDy), которое прошло на Devcon, собрав спикеров из различных столпов d/acc( биологии, физики, сетевой безопасности, информационной защиты и нейротехнологий), и длилось целый день. Люди, долгое время занимающиеся этими технологиями, все больше понимают работу друг друга, а внешние лица все больше осознают эту более масштабную цель: продвижение тех же ценностей, которые развивают Ethereum и криптовалюты, может быть распространено на более широкий мир.

Содержание и внешние границы d/acc

Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону защиты, при этом в процессе реализации не полагаться на передачу большей власти центральным властям. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура, когда защита легко реализуется, часто может процветать, тогда как в условиях, когда защита сталкивается с серьезными трудностями, она будет подвергаться суровым испытаниям — в таких случаях более вероятным результатом будет период хаоса, когда все противостоят друг другу, в конечном итоге достигая состояния равновесия, управляемого сильнейшими.

Понять важность одновременной реализации децентрализации, устойчивости и ускорения можно, сравнив это с концепцией, возникающей при отказе от любого из этих трех аспектов.

Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"

По сути, это похоже на то, чтобы стать эффективным акцелерационистом ( e/acc ), но при этом стремиться к децентрализации. Есть много людей, которые следуют этому пути, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "атакующий". Кроме того, много других людей проявляют более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к "защитному" аспекту явно недостаточно.

На мой взгляд, этот подход может помочь избежать риска диктатуры над человечеством со стороны определенных групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитник и навсегда занять доминирующее положение. Что касается ИИ, он также не может адекватно решить риск ослабления власти человечества по сравнению с ИИ.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Чтобы достичь целей безопасности, принятие централизованного контроля всегда имеет определенную привлекательность для части людей, читатели, без сомнения, хорошо знакомы с множеством таких примеров и их недостатками. В последнее время некоторые люди беспокоятся, что экстремальный централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями: например, представьте себе гипотетическую ситуацию, "каждый носит 'ярлык свободы' — это более ограниченный продукт носимых устройств мониторинга, аналогичный браслетам, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако у централизованного контроля есть степень проблемы. Одна форма относительно мягкого централизованного контроля, которая обычно игнорируется, но все же вредна, проявляется в области биотехнологий (, например, в отношении продуктов питания, вакцин ) и сопротивления общественному контролю, а также в разрешении этому сопротивлению оставаться без вызова закрытым нормам.

Риски такого подхода очевидны, так как сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения многие годы отказывалась признавать, что коронавирус передается воздушно-капельным путем, а обязательная социальная дистанция и обязательная вакцинация вызвали возможные политические последствия, которые могут длиться десятилетиями. Аналогичная ситуация с высокой вероятностью может снова возникнуть в любых рискованных ситуациях, связанных с ИИ или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективным в борьбе с рисками, исходящими от самого центра.

Децентрализованная защита, но исключение ускорения

В сущности, это попытка замедлить технический прогресс или подтолкнуть экономический спад.

Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь неизмеримые последствия. Во-вторых, в некорпоративном мире застой является нестабильным: те, кто «жульничает» больше всего и может найти, казалось бы, разумные пути для продолжения развития, окажутся в выигрышной позиции. Стратегия замедления может в определенных обстоятельствах работать в определенной степени: например, европейская пища более здорова, чем американская, и это является примером; успех в ядерном нераспространении до сих пор также подтверждает это. Однако эти стратегии не могут работать вечно.

С помощью d/acc мы стремимся достичь следующих целей:

• В условиях нарастающей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи — напротив, мы ожидаем построения конкретных вещей, чтобы сделать мир более безопасным и красивым.
• Осознание экспоненциального технологического прогресса означает, что мир станет чрезвычайно странным, и общий "след" человечества во вселенной, безусловно, будет постоянно увеличиваться. Наша способность защищать уязвимых животных, растения и группы людей от вреда должна постоянно улучшаться, а единственный выход — это идти вперед.
• Создание технологий, которые действительно защищают нас, а не основаны на гипотезе "хороших людей ( или хорошего ИИ ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для построения и защиты, чем для разрушения.

Другой взгляд на d/acc заключается в возвращении к рамкам движения Пиратов в Европе в конце 2000-х годов: расширение прав и возможностей.

Наша цель заключается в создании мира, который сможет сохранить человеческую активность, обеспечивая негативную свободу, то есть избегая активного вмешательства со стороны других (, будь то обычные граждане, государство или суперинтеллектуальные роботы ), в нашу способность формировать собственную судьбу, одновременно обеспечивая позитивную свободу, то есть гарантируя, что у нас есть знания и ресурсы для реализации этой способности. Это перекликается с традицией классического либерализма, которая продолжается на протяжении нескольких столетий и включает в себя внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также стоит добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем является участническим и широко распределенным. Учитывая технологическую картину 21 века, мы можем рассматривать d/acc как способ достижения этих же целей.

Третье измерение: Синергетическое развитие выживания и процветания

В моей статье прошлого года d/acc особенно сосредоточилась на защитных технологиях: физической защите, биозащите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для создания великого мира: нам также нужно проактивное позитивное видение, которое четко определяет, какие цели человечество сможет достичь после получения новой децентрализации и безопасности.

В статье прошлого года действительно содержится позитивное видение в двух аспектах:

1. Обращая внимание на вызовы сверхинтеллекта, я предложил путь (, который для меня не является оригинальным ), а именно, как мы можем достичь сверхинтеллекта, не теряя власть:

• В настоящее время строить ИИ как инструмент, а не как высокоавтономный агент.
• В будущем, используя такие инструменты, как виртуальная реальность, электромиографические технологии и интерфейсы «мозг-машина», будет установлена более тесная обратная связь между ИИ и человеком.
• Со временем постепенно приближаясь к окончательному исходу, а именно к тому, что сверхинтеллект является продуктом тесной интеграции машин и человечества.

2. Говоря о защите информации, я также упомянул, что помимо тех защитных социальных технологий, которые направлены на помощь сообществу в сохранении сплоченности и ведении качественных обсуждений в условиях атаки, существуют прогрессивные социальные технологии, способные помочь сообществам легче принимать качественные решения: Pol.is является одним из таких примеров, как и предсказательные рынки.

Но в то время эти два момента казались несоответствующими основному аргументу d/acc: "Здесь есть некоторые идеи о том, как на базовом уровне построить более демократичный и устойчивый к атакам мир, кстати, здесь также есть некоторые не связанные идеи о том, как мы можем достичь суперинтеллекта".

Однако я считаю, что в реальности существует несколько ключевых связей между технологиями d/acc, помеченными как "защитные" и "прогрессивные". Давайте расширим диаграмму d/acc из статьи прошлого года, добавив эту ось ( и переименовав ее в "Выживание и Процветание" ), чтобы увидеть, какой результат это даст:

Существует единая модель в различных областях, согласно которой науки, идеи и инструменты, которые могут помочь нам "выжить" в определенной области, тесно связаны с науками, идеями и инструментами, которые могут способствовать нашему "процветанию". Вот несколько конкретных примеров:

• Многие недавние исследования по борьбе с коронавирусом сосредоточены на его постоянном присутствии в организме, что рассматривается как ключевой механизм проблемы длительного COVID. В последнее время также появились признаки того, что постоянное присутствие вируса может быть патогенным фактором болезни Альцгеймера — если это предположение верно, то решение проблемы постоянного присутствия вируса во всех типах тканей может стать ключом к преодолению проблемы старения.
• Низкозатратные и микроизображающие инструменты, такие как те, что разрабатывает Openwater, имеют огромный потенциал в лечении микротромбов, хронических вирусов, рака и могут также быть применены в области интерфейсов мозг-машина.
• Способствовать созданию социальных инструментов, подходящих для высоко противостоящей среды (, таких как общественные заметки ), и социальных инструментов, способствующих разумному сотрудничеству в среде (, таких как Pol.is ), концепция которых крайне схожа.
• Предсказательные рынки имеют важную ценность как в условиях высокой кооперации, так и в условиях высокой конфронтации.
• Нулевое знание и аналогичные технологии позволяют проводить вычисления с данными, обеспечивая при этом защиту конфиденциальности, что как увеличивает объем данных, доступных для научных исследований и других полезных работ, так и усиливает защиту конфиденциальности.
• Солнечная энергия и батареи способствуют следующей волне чистого экономического роста