d/acc: Огляд і перспективи через рік

Минулого року я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх потенційними величезними перевагами, водночас висловивши обережність щодо певних конкретних проблем, особливо тих, що стосуються надінтелектуального штучного інтелекту. Якщо ця технологія буде побудована неправильно, це може призвести до руйнівних ризиків або до того, що людство незворотно втратить владу.

Однією з основних ідей, які я висунув у цій статті, є децентралізоване, демократичне та диференційоване оборонне прискорення. Це означає прискорення технологічного розвитку, але з вибірковою увагою до тих технологій, які можуть зміцнити нашу обороноздатність, а не знищити її, і прагнення розподілити владу, а не концентрувати її в руках кількох еліт, які приймають рішення за всіх. Модель оборони має бути схожою на демократичну Швейцарію та історичний напіванархічний регіон Зомія, а не на модель лордів і замків середньовічного феодалізму.

Протягом року з того часу ці ідеї та концепції значно розвинулися та стали більш зрілими. Я поділився цими ідеями на платформі "80,000 годин" і отримав багато відгуків, переважно позитивних, хоча, звичайно, було й деякі критики.

Ця робота сама по собі продовжує просуватися і досягати реальних результатів: ми спостерігаємо прогрес у сфері перевіряємих відкритих вакцин; усвідомлення цінності здорового внутрішнього повітря постійно зростає; "громадські нотатки" продовжують відігравати позитивну роль; ринки прогнозів як інформаційний інструмент пережили проривний рік; нульові знання компактних неінтерактивних доказів знань (ZK-SNARKs) були застосовані у сфері ідентифікації урядом і соціальних медіа (і забезпечили безпеку гаманців Ethereum через абстракцію рахунків); відкриті інструменти візуалізації застосовуються у медицині та в сфері інтерфейсів мозок-комп'ютер (BCI) тощо.

Минулої осені ми провели нашу першу важливу подію в d/acc: "День досліджень d/acc" (d/aDDy), яка відбулася на Devcon. Захід зібрав спікерів з різних стовпів d/acc (біологія, фізика, мережі, інформаційна безпека та нейротехнології) і тривав цілий день. Люди, які тривалий час працюють над цими технологіями, почали більше дізнаватися про роботу один одного, а зовнішні особи також дедалі більше усвідомлюють більш грандіозне бачення: цінності, що сприяють розвитку Ethereum та криптовалют, можуть поширюватися на більш широкий світ.

Суть та обсяг d/acc

Уявіть собі сцену 2042 року. Ви бачите в новинах повідомлення про те, що в вашому місті може спалахнути нова епідемія. Такі новини вже стали звичними: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, тоді як у більшості випадків ці мутації врешті-решт не призводять до реальної кризи. Два попередні потенційні спалахи були виявлені на ранніх стадіях завдяки моніторингу стічних вод та аналізу відкритих даних соціальних медіа і успішно стримані. Однак цього разу ситуація інша, ринкові прогнози показують, що ймовірність наявності щонайменше 10 000 випадків становить 60%, що викликає у вас занепокоєння.

Вчора було визначено геном вірусу. Програмне забезпечення вашого повітряного тестера в кишені відразу оновилось, щоб виявляти новий вірус (як при тестуванні на дихання, так і після 15 хвилин перебування в закритому приміщенні). Одночасно, очікується, що відкриті інструкції та код для створення вакцини за допомогою обладнання, доступного в будь-якому сучасному медичному закладі світу, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись переважно на широко поширені заходи з очищення повітря та вентиляції для забезпечення власної безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте більш обережно: ваш відкритий локальний помічник штучного інтелекту, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також враховує дані про якість повітря в реальному часі та дані про вуглекислий газ, щоб рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників та пристроїв, завдяки ZK-SNARKs та технології диференційованої конфіденційності ризик витоку даних або їх неналежного використання знижено до мінімуму.

Через два місяці пандемія дивом зникла: здається, 60% людей дотримувалися основних протиепідемічних заходів, а саме носили маски, коли повітряний тестер сповіщав про наявність вірусу, і ізолювалися вдома, якщо їх особистий тест був позитивним. Саме цей захід дозволив зменшити вже значно знижений завдяки пасивному потужному очищенню повітря рівень передачі до менше ніж 1. Хвороба, яка за результатами моделювання могла бути в п’ять разів серйознішою за пандемію COVID-19 двадцятирічної давності, зараз не мала серйозного впливу.

Подія d/acc, що проводилася на Devcon, принесла надзвичайно позитивний результат: концепція d/acc успішно об'єднала людей з різних сфер і справді пробудила в них інтерес до роботи один одного.

Організувати захід з "різноманіттям" не важко, але справді налагодити тісні зв'язки між людьми з різним бекграундом і інтересами - це зовсім не просто. Я досі пам'ятаю, як у середній та старшій школі мене змушували дивитися довгі опери, які, на мою думку, були нудними. Я добре знав, що "повинен" їх оцінити, адже інакше мене вважали б культурним комп'ютерним науковцем-ледарем, але я не зміг на глибшому рівні відчути зв'язок із змістом опер. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям дійсно подобається дізнаватися про різні сфери роботи.

Якщо ми прагнемо побудувати світле майбутнє, яке перевершує панування, сповільнення та знищення, ми обов'язково повинні розпочати таке широке будівництво альянсів. d/acc, здається, досяг значних успіхів у цій сфері, і цього лише достатньо, щоб підкреслити цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізоване, демократичне та диференційоване оборонне прискорення. Створення технологій, які можуть сприяти зміщенню балансу між атакою та обороною на користь оборони, без покладання на передачу більшої влади центральним органам під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура зазвичай може процвітати, коли оборона легко здійснюється, і стикається з серйозними викликами, коли оборона є важкою. В таких випадках, більш імовірний результат – це період хаосу, коли всі протистоять один одному, закінчуючи досягненням стану балансу, що контролюється найсильнішими.

Розуміння важливості одночасного досягнення децентралізації, оборонності та прискорення можна здійснити, порівнявши це з концепцією, що виникає при відмові від одного з цих трьох аспектів.

Децентралізація прискорюється, але ігнорується частина "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але при цьому прагнути децентралізації. Є багато людей, які обирають цей шлях, деякі з яких називають себе d/acc, але вони корисно описують свій фокус як "атакуючий". Крім того, є багато інших, хто виявляє помірнішу пристрасть до "децентралізованого штучного інтелекту" та подібних тем, але, на мій погляд, їхня увага до "оборонних" аспектів явно недостатня.

На мій погляд, цей спосіб може уникнути ризику диктатури певних груп над глобальним людством, але він не вирішує потенційні структурні проблеми: у середовищі, що сприяє атакам, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуючу позицію. Щодо штучного інтелекту, він також не може адекватно вирішити ризик ослаблення влади людства в порівнянні зі штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для деяких людей; читач безсумнівно вже знайомий з численними такими прикладами та їх недоліками. Нещодавно деякі люди висловлювали занепокоєння, що екстремальний централізований контроль може бути єдиним шляхом для реагування на майбутні екстремальні технології: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'свободу мітку' — це наступний продукт сучасних більш обмежених носимих пристроїв моніторингу, подібний до браслетів на щиколотку, які використовуються в кількох країнах як альтернатива в'язниці... зашифровані відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має проблему в певних масштабах. Відносно м'яка форма централізованого контролю, яка зазвичай ігнорується, але все ще є шкідливою, проявляється в біотехнологічній сфері (наприклад, у харчуванні, вакцинах) через опір громадському контролю, а також у дозволі на цю опозиційну поведінку без викликів закритих стандартів.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, які фінансувалися кількома основними світовими урядами, могли бути джерелом пандемії. Централізоване епістемологічне бачення призвело до того, що Всесвітня організація охорони здоров'я протягом багатьох років відмовлялася визнавати, що коронавірус передається повітрям, а примусові заходи соціального дистанціювання та обов'язкові вакцинації викликали політичний відскок, який може тривати десятиліттями. Подібна ситуація з великою ймовірністю може повторитися в будь-якому ризиковому контексті, пов'язаному з штучним інтелектом чи іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде більш ефективним у вирішенні ризиків, що виходять від самого центру.

Децентралізоване захист, але виключає прискорення

По суті, це спроба сповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний і економічний зріст є надзвичайно корисним для людства, і будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, в світі, що не є авторитарним, стагнація є нестабільною: ті, хто найбільше "обманює" і може знайти на перший погляд розумні способи продовжувати розвиток, отримають перевагу. Стратегія уповільнення може в певних специфічних ситуаціях діяти в певній мірі: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до сьогоднішнього дня також підтверджують це. Проте ці стратегії не можуть діяти вічно.

За допомогою d/acc ми прагнемо досягти наступних цілей:

• В умовах зростаючої племінності сучасного світу дотримуйтесь принципів, а не просто сліпо будуйте різні речі — навпаки, ми сподіваємось створити конкретні речі, щоб зробити світ безпечнішим і кращим.
• Усвідомлення експоненціальних технологічних досягнень означає, що світ стане надзвичайно дивним, і загальний "відбиток" людства у Всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та людей від шкоди повинна безперервно вдосконалюватись, а єдиним виходом є сміливо рухатись вперед.
• Створення технологій, які справді захищають нас, а не ґрунтуються на припущенні "добрих людей (або хорошого штучного інтелекту), які контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є ефективнішими для будівництва та захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі в кінці 2000-х років: наділення повноваженнями.

Наша мета — створити світ, який зможе зберегти людську активність, реалізувати негативну свободу, тобто уникнути активного втручання інших (незалежно від того, чи це звичайні громадяни, уряд або надінтелектуальні роботи) у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи нас знаннями та ресурсами для реалізації цієї здатності. Це відгукується на