Минулого року я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезні вигоди, які вони можуть принести. Водночас я також висловив обережне ставлення до певних специфічних проблем, зокрема до ризиків, які можуть виникнути внаслідок суперінтелекту, а також до ризиків, пов’язаних з тим, що людство може незворотно втратити владу.
Однією з основних ідей статті є заклик до децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але зосередитися на тих, які можуть підвищити обороноздатність, а не знищувальність, і прагнути до розподілу влади, а не до концентрації її в руках небагатьох еліт. Оборонна модель повинна бути схожа на демократичну Швейцарію, а не на феодалізм середньовіччя з його лордами та замками.
Минуло рік, ці ідеї та концепції значно розвинулися та стали зрілішими. Я поділився цими думками на платформі "80,000 годин" і отримав безліч відгуків, більшість з яких була позитивною, хоча, звичайно, були й деякі критичні.
Ця робота також триває і досягла суттєвих результатів: досягнення у сфері перевірених відкритих вакцин; глибше розуміння цінності здорового внутрішнього повітря; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозів став проривом у ролі інформаційного інструменту; нульові знання отримали застосування в ідентифікації особи урядом та у соціальних мережах; відкриті інструменти візуалізації отримали застосування в медицині та в галузі мозкових інтерфейсів тощо.
Минулої осені ми відзначили першу важливу подію d/acc: "день відкриття d/acc" ( d/aDDy ), яка об'єднала доповідачів з різних ключових сфер d/acc (, таких як біологія, фізика, мережі, інформаційна безпека та нейротехнології ). Люди, які довгий час працюють над цими технологіями, краще розуміють роботу один одного, а зовнішні особи все більше усвідомлюють це більш масштабне бачення: цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.
Значення та зміст d/acc
Час настав у 2042 році. Ви в медіа бачите повідомлення, що у вашому місті може спалахнути нова епідемія. Щодо таких новин, ви вже звикли: люди часто надмірно реагують на кожну мутацію хвороб у тварин, і в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Попередні дві потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод та аналізу відкритих даних з соціальних медіа, і їх вдалося успішно стримати на стадії зародження. Однак ця ситуація інша: ринки прогнозування показують, що ймовірність появи щонайменше 10,000 випадків становить 60%, що викликає у вас занепокоєння.
Ще вчора було визначено геномний послідовність вірусу. Оновлення програмного забезпечення для повітряного тестера, який ви можете носити в кишені, було випущено негайно. Завдяки цьому оновленню тестер може виявляти новий вірус ( як через одноразове дихальне тестування, так і через тестування ) після 15 хвилин експозиції в повітрі кімнати. Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою обладнання, доступного в будь-якому сучасному медичному закладі у світі, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вживають жодних заходів, покладаючись переважно на широко використовувані заходи з очищення повітря та вентиляції для забезпечення своєї безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний асистент штучного інтелекту, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також враховує дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надають тисячі учасників та пристроїв, використовуючи технології нульових знань і диференційованої приватності, щоб максимально зменшити ризик витоку даних або їх неналежного використання для інших цілей.
Два місяці потому епідемія дивовижним чином зникла: здається, 60% людей дотримувалися основних протиепідемічних заходів, тобто носили маски, коли прилади для тестування повітря подавали сигнали тривоги і показували наявність вірусу, а якщо особистий тест був позитивним, то залишалися вдома на самоізоляції. Саме ця міра була достатньою, щоб ще більше знизити рівень поширення, який вже значно зменшився завдяки пасивній потужній фільтрації повітря, до менше ніж 1. Симуляційні результати показують, що захворювання, яке може бути в п'ять разів серйознішим за COVID-19 двадцятирічної давності, сьогодні не завдало серйозних наслідків.
д/acc виявив позитивний результат під час дня активності, а саме, концепція d/acc успішно об'єднала людей з різних галузей та реально зацікавила їх у роботі один одного.
Організувати захід з "різноманіттям" не є складним завданням, але справжнє встановлення тісних зв'язків між людьми з різними фонами та інтересами є набагато складнішим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене змушували дивитися нудні опери; тоді я вважав їх нудними і нецікавими. Я прекрасно розумів, що "повинен" їх цінувати, адже інакше мене вважали б невихованим комп'ютерним науковцем-ледарем, але я так і не зміг на більш глибокому рівні співпереживати змісту опери. Однак атмосфера заходу d/acc була абсолютно іншою: здавалося, що людям справді подобається дізнаватися про різні види робіт у різних сферах.
Якщо ми прагнемо побудувати світле майбутнє, що перевершує панування, сповільнення та знищення, ми безумовно повинні розпочати широкомасштабне будівництво альянсів. d/acc у цьому плані, здається, досяг значних успіхів, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc є простою та зрозумілою: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть схиляти баланс атак і захисту на користь оборони, при цьому не покладаючись на передачу більшої влади центральним авторитетам в процесі реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, коли захист легко реалізується, зазвичай може процвітати, а коли захист стикається з серйозними труднощами, вона зазнає суворих викликів — у таких випадках більш імовірним є результатом період хаосу, в якому всі взаємодіють один з одним, врешті-решт досягаючи стану рівноваги, де домінують найсильніші.
Розуміння спроби одночасно реалізувати децентралізацію, оборонність і прискорення важливого значення є способом порівняти його з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
По суті, це подібно до того, щоб стати ефективним акцелераціоністом (e/acc), але при цьому прагнути до децентралізації. Є багато людей, які йдуть цим шляхом, деякі з яких називають себе d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які виявляють більш помірний ентузіазм щодо "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їхня увага до "оборонних" аспектів явно недостатня.
На мою думку, цей спосіб, можливо, може уникнути ризику диктаторського правління певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може взяти на себе роль захисника і назавжди зайняти панівну позицію. Щодо штучного інтелекту, він також не може адекватно вирішити ризик послаблення влади людства в порівнянні зі штучним інтелектом.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читачі, безумовно, вже знайомі з багатьма такими випадками та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що крайній централізований контроль може бути єдиним способом реагування на майбутні екстремальні технології: наприклад, уявімо собі таку гіпотетичну ситуацію: "кожен носить 'мітку свободи' — це наступний продукт сучасних обмежених носимих пристроїв для моніторингу, подібний до браслетів на щиколотку, які використовуються в кількох країнах як альтернатива ув'язненню...... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має певну проблему. Однією з форм централізованого контролю, зазвичай ігнорованою, але все ж таки шкідливою, є відносно помірний централізований контроль, що проявляється в біотехнологічній сфері (, наприклад, опір громадського контролю щодо їжі, вакцин ) та дозволу на таку поведінку без оскарження закритими стандартами.
Цей спосіб має очевидні ризики, а саме те, що центр сам по собі часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, фінансовані кількома основними світовими урядами, могли стати причиною пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнати, що коронавірус передається повітрям, тоді як примусові соціальні дистанції та обов'язкові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Схожі ситуації, ймовірно, виникнуть знову в будь-якому ризиковому контексті, пов’язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.
Децентралізований захист, але відмова від прискорення
По суті, це спроба сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійним викликом. По-перше, загалом, технологічний та економічний розвиток є надзвичайно корисними для людства, і будь-яка затримка в цьому призведе до непомірних витрат. По-друге, у світі, що не є тоталітарним, бездіяльність є нестабільною: ті, хто "обманює" найбільше, можуть знайти, здавалося б, розумні способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може спрацювати в певних конкретних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також є таким. Проте ці стратегії не можуть діяти вічно.
Через d/acc ми прагнемо досягти наступних цілей:
У сучасному світі, що стає все більш племінним, дотримуйтесь принципів, а не просто сліпо створюйте різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
Усвідомлення експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний «слід» людства у всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та людей від шкоди повинна безперервно підвищуватися, а єдиний шлях вперед - це рухатися вперед.
Створити технології, які дійсно захищають нас, а не ґрунтуються на припущенні "добрих людей ( або хорошого штучного інтелекту ), які контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для побудови та захисту, ніж для руйнування.
Інша перспектива на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.
Наша мета полягає в тому, щоб побудувати світ, який зможе зберегти людську агенцію, реалізувати негативну свободу, тобто уникнути активного втручання інших (, будь то звичайні громадяни, уряд чи надінтелектуальні роботи ), у нашу здатність формувати власну долю, а також реалізувати позитивну свободу, тобто забезпечити, щоб у нас були знання та ресурси для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандта до "інструментального доступу", а також підкреслення Джона Стюарта Мілля важливості освіти та свободи як ключових елементів прогресу людства — можливо, також можна додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем має бути участю та широко розподілений. В умовах технологічного ландшафту XXI століття ми можемо розглядати d/acc як один із шляхів до досягнення цих самих цілей.
Третій вимір: синергійний розвиток виживання та процвітання
У моїй статті минулого року d/acc особливо зосередився на захисних технологіях: фізичній обороні, біологічній обороні, кібербезпеці та інформаційній безпеці. Однак, чиста децентралізована оборона
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
d/acc техніка оптимізму один рік: Децентралізація оборони прискорення огляд та перспективи
d/acc:Огляд та перспективи через рік
Минулого року я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезні вигоди, які вони можуть принести. Водночас я також висловив обережне ставлення до певних специфічних проблем, зокрема до ризиків, які можуть виникнути внаслідок суперінтелекту, а також до ризиків, пов’язаних з тим, що людство може незворотно втратити владу.
Однією з основних ідей статті є заклик до децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але зосередитися на тих, які можуть підвищити обороноздатність, а не знищувальність, і прагнути до розподілу влади, а не до концентрації її в руках небагатьох еліт. Оборонна модель повинна бути схожа на демократичну Швейцарію, а не на феодалізм середньовіччя з його лордами та замками.
Минуло рік, ці ідеї та концепції значно розвинулися та стали зрілішими. Я поділився цими думками на платформі "80,000 годин" і отримав безліч відгуків, більшість з яких була позитивною, хоча, звичайно, були й деякі критичні.
Ця робота також триває і досягла суттєвих результатів: досягнення у сфері перевірених відкритих вакцин; глибше розуміння цінності здорового внутрішнього повітря; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозів став проривом у ролі інформаційного інструменту; нульові знання отримали застосування в ідентифікації особи урядом та у соціальних мережах; відкриті інструменти візуалізації отримали застосування в медицині та в галузі мозкових інтерфейсів тощо.
Минулої осені ми відзначили першу важливу подію d/acc: "день відкриття d/acc" ( d/aDDy ), яка об'єднала доповідачів з різних ключових сфер d/acc (, таких як біологія, фізика, мережі, інформаційна безпека та нейротехнології ). Люди, які довгий час працюють над цими технологіями, краще розуміють роботу один одного, а зовнішні особи все більше усвідомлюють це більш масштабне бачення: цінності, які сприяють розвитку Ethereum та криптовалют, можуть бути розширені на більш широкий світ.
Значення та зміст d/acc
Час настав у 2042 році. Ви в медіа бачите повідомлення, що у вашому місті може спалахнути нова епідемія. Щодо таких новин, ви вже звикли: люди часто надмірно реагують на кожну мутацію хвороб у тварин, і в більшості випадків ці мутації врешті-решт не викликають реальної кризи. Попередні дві потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод та аналізу відкритих даних з соціальних медіа, і їх вдалося успішно стримати на стадії зародження. Однак ця ситуація інша: ринки прогнозування показують, що ймовірність появи щонайменше 10,000 випадків становить 60%, що викликає у вас занепокоєння.
Ще вчора було визначено геномний послідовність вірусу. Оновлення програмного забезпечення для повітряного тестера, який ви можете носити в кишені, було випущено негайно. Завдяки цьому оновленню тестер може виявляти новий вірус ( як через одноразове дихальне тестування, так і через тестування ) після 15 хвилин експозиції в повітрі кімнати. Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою обладнання, доступного в будь-якому сучасному медичному закладі у світі, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вживають жодних заходів, покладаючись переважно на широко використовувані заходи з очищення повітря та вентиляції для забезпечення своєї безпеки.
Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний асистент штучного інтелекту, окрім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також враховує дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надають тисячі учасників та пристроїв, використовуючи технології нульових знань і диференційованої приватності, щоб максимально зменшити ризик витоку даних або їх неналежного використання для інших цілей.
Два місяці потому епідемія дивовижним чином зникла: здається, 60% людей дотримувалися основних протиепідемічних заходів, тобто носили маски, коли прилади для тестування повітря подавали сигнали тривоги і показували наявність вірусу, а якщо особистий тест був позитивним, то залишалися вдома на самоізоляції. Саме ця міра була достатньою, щоб ще більше знизити рівень поширення, який вже значно зменшився завдяки пасивній потужній фільтрації повітря, до менше ніж 1. Симуляційні результати показують, що захворювання, яке може бути в п'ять разів серйознішим за COVID-19 двадцятирічної давності, сьогодні не завдало серйозних наслідків.
д/acc виявив позитивний результат під час дня активності, а саме, концепція d/acc успішно об'єднала людей з різних галузей та реально зацікавила їх у роботі один одного.
Організувати захід з "різноманіттям" не є складним завданням, але справжнє встановлення тісних зв'язків між людьми з різними фонами та інтересами є набагато складнішим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене змушували дивитися нудні опери; тоді я вважав їх нудними і нецікавими. Я прекрасно розумів, що "повинен" їх цінувати, адже інакше мене вважали б невихованим комп'ютерним науковцем-ледарем, але я так і не зміг на більш глибокому рівні співпереживати змісту опери. Однак атмосфера заходу d/acc була абсолютно іншою: здавалося, що людям справді подобається дізнаватися про різні види робіт у різних сферах.
Якщо ми прагнемо побудувати світле майбутнє, що перевершує панування, сповільнення та знищення, ми безумовно повинні розпочати широкомасштабне будівництво альянсів. d/acc у цьому плані, здається, досяг значних успіхів, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.
Основна ідея d/acc є простою та зрозумілою: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть схиляти баланс атак і захисту на користь оборони, при цьому не покладаючись на передачу більшої влади центральним авторитетам в процесі реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, коли захист легко реалізується, зазвичай може процвітати, а коли захист стикається з серйозними труднощами, вона зазнає суворих викликів — у таких випадках більш імовірним є результатом період хаосу, в якому всі взаємодіють один з одним, врешті-решт досягаючи стану рівноваги, де домінують найсильніші.
Розуміння спроби одночасно реалізувати децентралізацію, оборонність і прискорення важливого значення є способом порівняти його з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
По суті, це подібно до того, щоб стати ефективним акцелераціоністом (e/acc), але при цьому прагнути до децентралізації. Є багато людей, які йдуть цим шляхом, деякі з яких називають себе d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які виявляють більш помірний ентузіазм щодо "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їхня увага до "оборонних" аспектів явно недостатня.
На мою думку, цей спосіб, можливо, може уникнути ризику диктаторського правління певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може взяти на себе роль захисника і назавжди зайняти панівну позицію. Щодо штучного інтелекту, він також не може адекватно вирішити ризик послаблення влади людства в порівнянні зі штучним інтелектом.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читачі, безумовно, вже знайомі з багатьма такими випадками та їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що крайній централізований контроль може бути єдиним способом реагування на майбутні екстремальні технології: наприклад, уявімо собі таку гіпотетичну ситуацію: "кожен носить 'мітку свободи' — це наступний продукт сучасних обмежених носимих пристроїв для моніторингу, подібний до браслетів на щиколотку, які використовуються в кількох країнах як альтернатива ув'язненню...... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має певну проблему. Однією з форм централізованого контролю, зазвичай ігнорованою, але все ж таки шкідливою, є відносно помірний централізований контроль, що проявляється в біотехнологічній сфері (, наприклад, опір громадського контролю щодо їжі, вакцин ) та дозволу на таку поведінку без оскарження закритими стандартами.
Цей спосіб має очевидні ризики, а саме те, що центр сам по собі часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, фінансовані кількома основними світовими урядами, могли стати причиною пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнати, що коронавірус передається повітрям, тоді як примусові соціальні дистанції та обов'язкові вакцини викликали політичні наслідки, які можуть тривати десятиліттями. Схожі ситуації, ймовірно, виникнуть знову в будь-якому ризиковому контексті, пов’язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде ефективніше справлятися з ризиками, що походять від самого центру.
Децентралізований захист, але відмова від прискорення
По суті, це спроба сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійним викликом. По-перше, загалом, технологічний та економічний розвиток є надзвичайно корисними для людства, і будь-яка затримка в цьому призведе до непомірних витрат. По-друге, у світі, що не є тоталітарним, бездіяльність є нестабільною: ті, хто "обманює" найбільше, можуть знайти, здавалося б, розумні способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може спрацювати в певних конкретних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також є таким. Проте ці стратегії не можуть діяти вічно.
Через d/acc ми прагнемо досягти наступних цілей:
Інша перспектива на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.
Наша мета полягає в тому, щоб побудувати світ, який зможе зберегти людську агенцію, реалізувати негативну свободу, тобто уникнути активного втручання інших (, будь то звичайні громадяни, уряд чи надінтелектуальні роботи ), у нашу здатність формувати власну долю, а також реалізувати позитивну свободу, тобто забезпечити, щоб у нас були знання та ресурси для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандта до "інструментального доступу", а також підкреслення Джона Стюарта Мілля важливості освіти та свободи як ключових елементів прогресу людства — можливо, також можна додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем має бути участю та широко розподілений. В умовах технологічного ландшафту XXI століття ми можемо розглядати d/acc як один із шляхів до досягнення цих самих цілей.
Третій вимір: синергійний розвиток виживання та процвітання
У моїй статті минулого року d/acc особливо зосередився на захисних технологіях: фізичній обороні, біологічній обороні, кібербезпеці та інформаційній безпеці. Однак, чиста децентралізована оборона