В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромные преимущества, которые они могут принести. В то же время я выразил осторожное отношение к определенным проблемам, особенно к рискам разрушения, которые могут вызвать суперискусственный интеллект, а также к риску того, что человечество может необратимо потерять власть.
Одним из основных моментов статьи является призыв к децентрализованному, демократическому и дифференцированному защитному ускорению. Мы должны ускорять развитие технологий, но целенаправленно сосредоточиться на тех технологиях, которые могут повысить обороноспособность, а не разрушительность, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит. Модель защиты должна быть похожа на демократическую Швейцарию, а не на феодализм средневековья с его лордами и замками.
Год прошел, и эти идеи и концепции значительно развились и стали более зрелыми. Я поделился этими мыслями на платформе "80,000 часов", получил множество отзывов, большинство из которых положительные, но, конечно, были и некоторые критические.
Эта работа также продолжается и уже принесла значительные результаты: достигнуты успехи в области проверяемых открытых вакцин; углубляется понимание ценности здорового внутреннего воздуха; "сообщественные заметки" продолжают играть активную роль; предсказательные рынки стали прорывными инструментами информации; нулевое знание применяется в области идентификации личности и социальных медиа; открытые инструменты визуализации находят применение в медицине и интерфейсах мозг-компьютер и так далее.
Прошлой осенью мы провели наше первое важное событие d/acc: "День открытия d/acc"(d/aDDy), собравшее спикеров из различных столпов d/acc(, таких как биология, физика, сеть, информационная безопасность и нейротехнологии). Люди, которые долгое время занимаются этими технологиями, лучше понимают работу друг друга, а внешние лица все больше осознают эту более масштабную цель: ценности, продвигающие развитие Ethereum и криптовалют, могут быть расширены на более широкий мир.
Суть и содержание d/acc
Время наступило 2042 год. Вы видите в новостях сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди часто чрезмерно реагируют на каждую мутацию животного заболевания, и в большинстве случаев эти мутации в конечном итоге не приводят к реальному кризису. Две предыдущие потенциальные эпидемии были успешно выявлены на ранних стадиях благодаря мониторингу сточных вод и анализу открытых данных из социальных сетей, и были успешно сдержаны на стадии зарождения. Однако, в этот раз ситуация иная, прогнозные рынки показывают вероятность возникновения как минимум 10,000 случаев на уровне 60%, что вызывает у вас беспокойство.
Вчера была определена геномная последовательность этого вируса. Обновление программного обеспечения для тестера воздуха, который можно носить в кармане, было сразу же выпущено, благодаря этому обновлению тестер может обнаруживать новый вирус ( как через одно дыхательное тестирование, так и через тестирование ) после 15 минут воздействия на внутренний воздух в комнате. В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, будут опубликованы в течение нескольких недель. Большинство людей пока не предприняли никаких действий, полагаясь в основном на широко используемые меры фильтрации воздуха и вентиляции для своей безопасности.
Из-за ваших собственных проблем с иммунной системой вы действуете более осторожно: используемый вами открытый локально работающий личный помощник на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о реальном времени качества воздуха и уровне углекислого газа, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, а с помощью технологии нулевых знаний и дифференциальной конфиденциальности минимизируется риск утечки данных или их использования для других целей.
Через два месяца пандемия удивительным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда датчик воздуха издавал сигнал тревоги и показывал наличие вируса, а при положительном результате теста самоизолировались. Именно эта мера позволила снизить уже значительно уменьшенный из-за пассивной мощной фильтрации воздуха уровень распространения до менее 1. Болезнь, симуляция которой показала, что она может быть в пять раз более серьезной, чем пандемия COVID-19 двадцатилетней давности, сейчас не оказала серьезного воздействия.
День активности d/acc оказался крайне успешным, так как концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но заставить людей с разным бэкграундом и интересами действительно установить тесные связи - задача непростая. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и в то время мне они казались скучными. Я прекрасно понимал, что "должен" их ценить, потому что иначе меня сочтут безкультурным ленивым компьютером, но я не смог глубже сопереживать содержанию опер. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о разных областях работы.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам обязательно нужно развивать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и этого вполне достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону обороны, и при этом в процессе реализации не полагаться на передачу большей власти центральным властям. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура, когда оборона легко осуществляется, как правило, может процветать, в то время как в условиях, когда оборона сталкивается с серьезными трудностями, она подвергается жестким испытаниям — в таких случаях более вероятный результат — это период хаоса, в котором все противостоят друг другу, в конечном итоге достигая состояния баланса, управляемого сильнейшими.
Одним из способов понять важность одновременной реализации децентрализации, защищенности и ускорения является сопоставление с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным ускорителем ( e/acc ), но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "наступление". Кроме того, есть множество других, кто проявляет более умеренный энтузиазм по поводу "децентрализованного искусственного интеллекта" и подобных тем, но, по моему мнению, их внимание к "оборонительному" аспекту явно недостаточно.
На мой взгляд, этот подход может избежать риска диктатуры определённых групп над глобальным человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для атак, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда представляет определенный интерес для определенной группы людей; читатели, безусловно, знакомы со множеством таких примеров и их недостатками. В последнее время некоторые люди выражают обеспокоенность тем, что экстремальный централизованный контроль может быть единственным способом справиться с экстраординарными технологиями будущего: например, представим гипотетическую ситуацию, где "каждый носит 'метку свободы' — это следующий шаг от более ограниченных носимых устройств слежения, подобных браслетам на лодыжку, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Тем не менее, централизованный контроль имеет свои ограничения. Одной из форм централизованного контроля, которая обычно игнорируется, но все же является вредной, является относительно умеренный централизованный контроль, проявляющийся в области биотехнологий (, например, в отношении продуктов питания, вакцин ) и сопротивления общественности к надзору, а также разрешение этому сопротивлению оставаться без вызова в закрытых стандартах.
Риски этого подхода очевидны: центры часто становятся источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что коронавирус передается по воздуху, а обязательные меры социального дистанцирования и вакцинации вызвали политическую реакцию, которая может длиться десятилетиями. Подобные ситуации с большой вероятностью могут повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В этом контексте децентрализованный подход будет более эффективно справляться с рисками, исходящими от самих центров.
Децентрализованная защита, но отторжение ускорения
По сути, это попытка замедлить технический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь непредсказуемые последствия. Во-вторых, в мире, который не является тоталитарным, стагнация нестабильна: те, кто "обманывает" больше всего и может найти кажущийся разумным способ продолжать развитие, будут в выигрыше. Стратегия замедления может работать в определенных ситуациях: например, европейская еда более полезна, чем американская, что является примером; успешное предотвращение распространения ядерного оружия до сих пор также является таким примером. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
В условиях нарастающей племенной тенденции в современном мире придерживаться принципов, а не слепо строить различные вещи — наоборот, мы надеемся строить конкретные вещи, чтобы сделать мир более безопасным и лучшим.
Осознание экспоненциального технологического прогресса означает, что мир станет крайне необычным, и общий "след" человечества во Вселенной неизбежно будет продолжать расти. Наша способность защищать уязвимые животные, растения и сообщества от вреда должна постоянно улучшаться, и единственный выход — это двигаться вперед.
Создание технологий, которые действительно защищают нас, а не основаны на предположении "хорошего человека ( или хорошего искусственного интеллекта ), контролирующего все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для построения и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 00-х годов 21 века: наделение полномочиями.
Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства в нашу способность формировать собственную судьбу со стороны других, будь то обычные граждане, государство или суперумные роботы (. В то же время мы стремимся к позитивной свободе, то есть обеспечить наличие знаний и ресурсов, чтобы реализовать эту способность. Это перекликается с классической традицией либерализма, продолжающейся на протяжении нескольких веков, которая включает в себя внимание Стюарта Брандта к "доступу к инструментам" и акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, можно добавить и видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распределенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как один из способов достижения этих же целей.
Третий измерение: Согласованное развитие выживания и процветания
В своей статье прошлого года d/acc особенно сосредоточился на защитных технологиях: физической защите, биологической защите, киберзащите и информационной защите. Однако простая децентрализованная защита
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
d/acc технологии оптимизма: обзор и перспективы ускоренной Децентрализации защиты за год
d/acc: Обзор и перспективы через год
В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромные преимущества, которые они могут принести. В то же время я выразил осторожное отношение к определенным проблемам, особенно к рискам разрушения, которые могут вызвать суперискусственный интеллект, а также к риску того, что человечество может необратимо потерять власть.
Одним из основных моментов статьи является призыв к децентрализованному, демократическому и дифференцированному защитному ускорению. Мы должны ускорять развитие технологий, но целенаправленно сосредоточиться на тех технологиях, которые могут повысить обороноспособность, а не разрушительность, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит. Модель защиты должна быть похожа на демократическую Швейцарию, а не на феодализм средневековья с его лордами и замками.
Год прошел, и эти идеи и концепции значительно развились и стали более зрелыми. Я поделился этими мыслями на платформе "80,000 часов", получил множество отзывов, большинство из которых положительные, но, конечно, были и некоторые критические.
Эта работа также продолжается и уже принесла значительные результаты: достигнуты успехи в области проверяемых открытых вакцин; углубляется понимание ценности здорового внутреннего воздуха; "сообщественные заметки" продолжают играть активную роль; предсказательные рынки стали прорывными инструментами информации; нулевое знание применяется в области идентификации личности и социальных медиа; открытые инструменты визуализации находят применение в медицине и интерфейсах мозг-компьютер и так далее.
Прошлой осенью мы провели наше первое важное событие d/acc: "День открытия d/acc"(d/aDDy), собравшее спикеров из различных столпов d/acc(, таких как биология, физика, сеть, информационная безопасность и нейротехнологии). Люди, которые долгое время занимаются этими технологиями, лучше понимают работу друг друга, а внешние лица все больше осознают эту более масштабную цель: ценности, продвигающие развитие Ethereum и криптовалют, могут быть расширены на более широкий мир.
Суть и содержание d/acc
Время наступило 2042 год. Вы видите в новостях сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди часто чрезмерно реагируют на каждую мутацию животного заболевания, и в большинстве случаев эти мутации в конечном итоге не приводят к реальному кризису. Две предыдущие потенциальные эпидемии были успешно выявлены на ранних стадиях благодаря мониторингу сточных вод и анализу открытых данных из социальных сетей, и были успешно сдержаны на стадии зарождения. Однако, в этот раз ситуация иная, прогнозные рынки показывают вероятность возникновения как минимум 10,000 случаев на уровне 60%, что вызывает у вас беспокойство.
Вчера была определена геномная последовательность этого вируса. Обновление программного обеспечения для тестера воздуха, который можно носить в кармане, было сразу же выпущено, благодаря этому обновлению тестер может обнаруживать новый вирус ( как через одно дыхательное тестирование, так и через тестирование ) после 15 минут воздействия на внутренний воздух в комнате. В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру, будут опубликованы в течение нескольких недель. Большинство людей пока не предприняли никаких действий, полагаясь в основном на широко используемые меры фильтрации воздуха и вентиляции для своей безопасности.
Из-за ваших собственных проблем с иммунной системой вы действуете более осторожно: используемый вами открытый локально работающий личный помощник на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о реальном времени качества воздуха и уровне углекислого газа, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, а с помощью технологии нулевых знаний и дифференциальной конфиденциальности минимизируется риск утечки данных или их использования для других целей.
Через два месяца пандемия удивительным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда датчик воздуха издавал сигнал тревоги и показывал наличие вируса, а при положительном результате теста самоизолировались. Именно эта мера позволила снизить уже значительно уменьшенный из-за пассивной мощной фильтрации воздуха уровень распространения до менее 1. Болезнь, симуляция которой показала, что она может быть в пять раз более серьезной, чем пандемия COVID-19 двадцатилетней давности, сейчас не оказала серьезного воздействия.
День активности d/acc оказался крайне успешным, так как концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но заставить людей с разным бэкграундом и интересами действительно установить тесные связи - задача непростая. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, и в то время мне они казались скучными. Я прекрасно понимал, что "должен" их ценить, потому что иначе меня сочтут безкультурным ленивым компьютером, но я не смог глубже сопереживать содержанию опер. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям искренне нравится узнавать о разных областях работы.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам обязательно нужно развивать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и этого вполне достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону обороны, и при этом в процессе реализации не полагаться на передачу большей власти центральным властям. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура, когда оборона легко осуществляется, как правило, может процветать, в то время как в условиях, когда оборона сталкивается с серьезными трудностями, она подвергается жестким испытаниям — в таких случаях более вероятный результат — это период хаоса, в котором все противостоят друг другу, в конечном итоге достигая состояния баланса, управляемого сильнейшими.
Одним из способов понять важность одновременной реализации децентрализации, защищенности и ускорения является сопоставление с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным ускорителем ( e/acc ), но при этом стремиться к децентрализации. Многие люди принимают этот подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "наступление". Кроме того, есть множество других, кто проявляет более умеренный энтузиазм по поводу "децентрализованного искусственного интеллекта" и подобных тем, но, по моему мнению, их внимание к "оборонительному" аспекту явно недостаточно.
На мой взгляд, этот подход может избежать риска диктатуры определённых групп над глобальным человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для атак, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда представляет определенный интерес для определенной группы людей; читатели, безусловно, знакомы со множеством таких примеров и их недостатками. В последнее время некоторые люди выражают обеспокоенность тем, что экстремальный централизованный контроль может быть единственным способом справиться с экстраординарными технологиями будущего: например, представим гипотетическую ситуацию, где "каждый носит 'метку свободы' — это следующий шаг от более ограниченных носимых устройств слежения, подобных браслетам на лодыжку, используемым в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Тем не менее, централизованный контроль имеет свои ограничения. Одной из форм централизованного контроля, которая обычно игнорируется, но все же является вредной, является относительно умеренный централизованный контроль, проявляющийся в области биотехнологий (, например, в отношении продуктов питания, вакцин ) и сопротивления общественности к надзору, а также разрешение этому сопротивлению оставаться без вызова в закрытых стандартах.
Риски этого подхода очевидны: центры часто становятся источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признавать, что коронавирус передается по воздуху, а обязательные меры социального дистанцирования и вакцинации вызвали политическую реакцию, которая может длиться десятилетиями. Подобные ситуации с большой вероятностью могут повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В этом контексте децентрализованный подход будет более эффективно справляться с рисками, исходящими от самих центров.
Децентрализованная защита, но отторжение ускорения
По сути, это попытка замедлить технический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь непредсказуемые последствия. Во-вторых, в мире, который не является тоталитарным, стагнация нестабильна: те, кто "обманывает" больше всего и может найти кажущийся разумным способ продолжать развитие, будут в выигрыше. Стратегия замедления может работать в определенных ситуациях: например, европейская еда более полезна, чем американская, что является примером; успешное предотвращение распространения ядерного оружия до сих пор также является таким примером. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 00-х годов 21 века: наделение полномочиями.
Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства в нашу способность формировать собственную судьбу со стороны других, будь то обычные граждане, государство или суперумные роботы (. В то же время мы стремимся к позитивной свободе, то есть обеспечить наличие знаний и ресурсов, чтобы реализовать эту способность. Это перекликается с классической традицией либерализма, продолжающейся на протяжении нескольких веков, которая включает в себя внимание Стюарта Брандта к "доступу к инструментам" и акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, можно добавить и видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распределенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как один из способов достижения этих же целей.
Третий измерение: Согласованное развитие выживания и процветания
В своей статье прошлого года d/acc особенно сосредоточился на защитных технологиях: физической защите, биологической защите, киберзащите и информационной защите. Однако простая децентрализованная защита