d/acc: Огляд та перспективи через рік

Минулого року я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями, а також величезні переваги, які вони можуть принести. Водночас я висловив обережність щодо деяких конкретних проблем, зокрема зосередившись на суперінтелектуальному ШІ та можливих катастрофічних ризиках, якщо ця технологія буде розроблена неналежним чином, що може призвести до незворотної втрати влади людиною.

Основна ідея статті полягає в тому, щоб просувати концепцію: децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні як прискорювати технологічний розвиток, так і вибірково зосереджуватися на тих технологіях, які можуть підвищити обороноздатність, а не завдати шкоди, і прагнути до розподілу влади, щоб уникнути концентрації її в руках небагатьох еліт. Модель оборони повинна наслідувати демократичну Швейцарію та історично практично безанархічний регіон Зомія, а не феодальну модель лордів і замків середньовіччя.

Протягом минулого року ці ідеї та концепції зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши безліч відгуків, переважно позитивних, хоча були й деякі критичні голоси.

Ця робота сама по собі продовжує просуватися і досягла реальних результатів: у сфері перевірених відкритих вакцин ми спостерігаємо прогрес; розуміння цінності здорового повітря в приміщеннях постійно поглиблюється; «Громадські нотатки» продовжують відігравати позитивну роль; ринок прогнозів як інформаційний інструмент пережив проривний рік; нульові знання ( ZK-SNARKs ) були застосовані в урядовій ідентифікації та соціальних мережах ( і забезпечили безпеку гаманців Ethereum через абстракцію облікових записів ); інструменти відкритого коду для зображень знайшли застосування в медицині та в галузі мозково-комп'ютерних інтерфейсів ( BCI ) тощо.

Минулої осені ми зустріли першу важливу подію d/acc: "день відкриття d/acc"(d/aDDy), яка відбулася на Devcon, об'єднавши спікерів з різних стовпів d/acc( біології, фізики, мережі, інформаційної безпеки та нейротехнології). Захід тривав цілий день. Люди, які довго працювали над цими технологіями, все більше усвідомлюють роботу один одного, а зовнішні особи також все більше усвідомлюють цю ширшу перспективу: спільні цінності, що сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.

Зміст і обсяг d/acc

Основна ідея d/acc проста і зрозуміла: децентралізоване, демократичне та диференційоване оборонне прискорення. Розробка технологій, які можуть сприяти балансуванню атак і захисту на користь захисту, не покладаючись у процесі реалізації на передачу більшої влади центральним авторитетам. Між цими двома аспектами існує внутрішня тісна взаємозв'язок: будь-яка децентралізована, демократична чи вільна політична структура часто може процвітати, коли захист легко реалізується, тоді як за умов, коли захист стикається з серйозними труднощами, вона зазнає серйозних викликів — у таких випадках більш імовірним результатом є період хаосу, коли всі протистоять один одному, і врешті-решт досягається стан балансу, в якому панує найсильніший.

Розуміння важливого значення одночасної реалізації децентралізації, обороноздатності та прискорення можна досягти, порівнявши його з концепцією, що виникає при відмові від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але при цьому переслідувати децентралізацію. Є багато людей, які обирають цей шлях, деякі з них називають себе d/acc, але вони корисно описують свій акцент як "напад". Крім того, є багато інших, хто проявляє більш помірний інтерес до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до "оборонних" аспектів явно недостатня.

На мою думку, цей спосіб, можливо, зможе уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і зайняти домінуючу позицію на постійній основі. Що стосується ШІ, він також не може адекватно вирішити ризик ослаблення влади людства в порівнянні з ШІ.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для деяких людей; читацька аудиторія безсумнівно вже знайома з багатьма такими прикладами та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом справитися з майбутніми екстремальними технологіями: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'мітку свободи' — це подальший продукт сучасних більш обмежених носимих пристроїв спостереження, подібних до браслетів на щиколотку, які використовуються в кількох країнах як альтернатива ув'язненню... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машинами". Однак централізований контроль має певну проблему. Один з форм, яка зазвичай ігнорується, але все ще є шкідливою, відносно м'якої форми централізованого контролю проявляється в галузі біотехнологій (, наприклад, в опорі громадського контролю щодо продуктів харчування, вакцин ), а також у дозволі цій поведінці не піддаватися викликам закритих норм.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, фінансовані кількома основними світовими урядами, могли стати причиною пандемії; централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнавати, що коронавірус передається повітрям, а обов'язкова соціальна дистанція та примусові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Подібна ситуація, ймовірно, знову виникне в будь-якому ризиковому контексті, пов'язаному з AI або іншими ризиковими технологіями. У порівнянні, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.

Децентралізоване захист, але відмова прискорення

По суті, це спроба загальмувати технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, загалом, технологічний та економічний розвиток є надзвичайно корисними для людства, будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, у некратаристському світі, стагнація є нестабільною: ті, хто "обманює" найбільше, зможуть знайти здається розумні способи продовжити розвиток, матимуть перевагу. Стратегії уповільнення можуть спрацювати в певних конкретних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також є таким. Проте ці стратегії не можуть працювати вічно.

Ми прагнемо досягти наступних цілей через d/acc:

• У сучасному світі, що дедалі більше стає племінним, дотримуватися принципів, а не сліпо будувати різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Визнання експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "відбиток" людства у Всесвіті безсумнівно буде зростати. Наша здатність захищати в脆кі тварини, рослини та громади від шкоди повинна постійно підвищуватися, і єдиний шлях вперед - це йти вперед.
• Створити технології, які насправді захищають нас, а не покладатися на припущення, що "добрі люди ( або хороший ШІ ) контролюють все". Ми досягаємо цієї мети, створюючи інструменти, які зазвичай є більш ефективними для побудови і захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х: розширення повноважень.

Наша мета полягає в побудові світу, здатного зберегти людську агентивність, реалізувати негативну свободу, тобто уникнути активного втручання інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ), у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи нас знаннями та ресурсами для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, яка триває вже кілька століть, зокрема, на увагу Стюарта Брандта до "здобуття інструментів", а також на наголос Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, також слід додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участевим і широко розподіленим. З огляду на технологічну картину 21 століття, ми можемо розглядати d/acc як один із шляхів досягнення цих самих цілей.

Третій вимір: Спільний розвиток виживання та процвітання

У своїй статті минулого року d/acc особливо зосередився на захисних технологіях: фізичній, біологічній, кібернетичній та інформаційній обороні. Однак просте децентралізоване захисту недостатньо для побудови великого світу: нам також потрібен прогресивний активний бачення, яке чітко визначає, які цілі можуть бути досягнуті людством після здобуття нової децентралізації та безпеки.

Минулий рік стаття дійсно містила позитивне бачення в двох аспектах:

1. Під час розгляду викликів суперінтелекту я запропонував шлях (, що не є оригінальним для мене ), а саме, як ми можемо досягти суперінтелекту, не втрачаючи влади:

• Зараз будувати штучний інтелект як інструмент, а не як високоавтономний агент.
• У майбутньому, за допомогою віртуальної реальності, електроміографічних технологій та інтерфейсів мозок-комп'ютер, буде створено більш тісний механізм зворотного зв'язку між ШІ та людиною.
• З часом поступово наближаємось до остаточного результату, а саме, що суперінтелект є продуктом тісної інтеграції машин і людей.

2. Під час обговорення інформаційної оборони я також згадував, що, крім тих, що спрямовані на допомогу спільноті зберігати згуртованість і вести якісні обговорення під час атаки, існують прогресивні соціальні технології, які допомагають спільноті легше робити якісні судження: Pol.is є прикладом, так само, як і ринок прогнозів.

Але тоді ці дві точки відчувалися відірваними від основної тези d/acc: "Тут є кілька ідей про те, як на базовому рівні побудувати більш демократичний і більш захисний світ, до речі, тут також є кілька не пов'язаних ідей про те, як ми можемо досягти суперінтелекту".

Проте, я вважаю, що в реальності між зазначеними як "оборонні" та "прогресивні" техніками d/acc існують деякі життєво важливі зв'язки. Давайте розширимо графік d/acc з минулорічної статті, додавши цю вісь (, одночасно переіменувавши її на "виживання та процвітання" ), щоб подивитися, який результат це дасть:

Існує єдиний шаблон у всіх сферах, згідно з яким науки, ідеї та інструменти, які допомагають нам "виживати" в певній сфері, тісно пов'язані з науками, ідеями та інструментами, які сприяють нашій "процвітанню". Ось кілька конкретних прикладів:

• Багато недавніх досліджень, що стосуються боротьби з COVID-19, зосереджуються на тривалій присутності вірусу в організмі, що вважається ключовим механізмом проблеми довгого COVID. Нещодавно також з'явилися ознаки того, що тривала присутність вірусу може бути патогенним чинником хвороби Альцгеймера — якщо ця думка підтвердиться, то вирішення проблеми тривалої присутності вірусу в усіх типах тканин може стати ключем до подолання проблеми старіння.
• Низькозатратні та мікроіміджинг інструменти, такі як ті, що розробляє Openwater, мають величезний потенціал у лікуванні мікротромбів, тривалої вірусної інфекції, раку та інших сферах, також можуть бути використані в області мозкових інтерфейсів.
• Сприяння створенню соціальних інструментів, придатних для високо конфліктних середовищ, таких як громадські нотатки (, та соціальних інструментів для раціонального співробітництва, таких як Pol.is ), є надзвичайно подібним за концепцією.
• Прогнозні ринки мають важливу цінність як в умовах високої співпраці, так і в умовах високої протидії.
• Нульові докази та подібні технології забезпечують обчислення даних при захисті приватності, що не лише збільшує обсяги даних, які можуть бути використані для наукових досліджень та інших корисних робіт, але й посилює захист приватності.
• Сонячна енергія та акумулятори сприяють наступній хвилі чистої економіки.