d/acc: Огляд та прогнози через рік

Минулого року я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх величезними перевагами, а також висловив обережне ставлення до певних проблем, зокрема зосередивши увагу на ризиках, які можуть виникнути внаслідок надзвичайно розумного штучного інтелекту, що може призвести до катастрофи або до незворотної втрати влади людиною.

Основна ідея статті полягає в дотриманні принципів децентралізації, демократії та диференційованої оборонної акселерації. Необхідно прискорити розвиток технологій, а також диференційовано зосередитися на тих технологіях, які можуть підвищити нашу обороноздатність, а не завдати шкоди, і прагнути до розподілу влади, а не до її концентрування в руках небагатьох еліт. Модель оборони повинна бути такою ж, як і демократична Швейцарія, а також історично близька до анархістського регіону Зомії, а не до моделі, яку представляють лорди та замки під час середньовічного феодалізму.

Протягом року з того часу ці ідеї та концепції зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши безліч відгуків, більшість з яких є позитивними, хоча, звичайно, є й деякі критичні голоси.

Ця робота продовжує просуватися і приносить реальні результати: у сфері перевірених відкритих вакцин ми стали свідками прогресу; усвідомлення цінності здорового внутрішнього повітря постійно поглиблюється; "громадські нотатки" продовжують відігравати позитивну роль; прогнозні ринки, як інформаційний інструмент, переживають проривний рік; нульові знання простих неінтерактивних доказів знань застосовуються в урядовій ідентифікації та соціальних медіа; відкриті інструменти візуалізації знаходять застосування в медицині та галузі мозкових інтерфейсів, і так далі.

Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриття d/acc". Захід об'єднав представників різних стовпів d/acc, таких як ( біологія, фізика, мережі, інформаційна оборона, а також нейротехнології ). Подія тривала цілий день. Люди, які протягом багатьох років працюють над цими технологіями, все більше розуміють роботу один одного, а зовнішні особи все більше усвідомлюють цю більшу мету: просування тих самих цінностей, які сприяють розвитку Ethereum та криптовалют, може бути розширене на більш широкий світ.

Значення та зовнішні межі d/acc

Час плине до 2042 року. Ви бачите в медіа повідомлення про те, що у вашому місті може спалахнути нова епідемія. На такі новини ви вже звикли: люди часто надмірно реагують на будь-які мутації хвороб тварин, хоча в більшості випадків ці мутації врешті-решт не призводять до реальної кризи. Попередні два потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод та відкритому аналізу соціальних медіа, і їх вдалося успішно стримати на стадії зародження. Однак ця ситуація відрізняється: прогнози ринку показують, що ймовірність виникнення принаймні 10 000 випадків становить 60%, що викликає у вас тривогу.

Вчора було визначено генетичну послідовність цього вірусу. Оновлення програмного забезпечення для повітряного тестера, який ви носите в кишені, було випущено негайно, завдяки цьому оновленню тестер зможе виявляти новий вірус. Тим часом, відкриті інструкції та код для створення вакцини за допомогою обладнання, яке можна знайти у будь-якій сучасній медичній установі у світі, очікується, що будуть випущені протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, вони в основному покладаються на широко використовувані методи фільтрації повітря та вентиляції для захисту своєї безпеки.

Оскільки у вас є проблеми з імунітетом, ви дієте обережніше: ваш відкритий локальний персональний асистент штучного інтелекту, окрім звичних завдань, таких як навігація, рекомендації щодо ресторанів і заходів, також враховує дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати лише найбезпечніші місця. Ці дані надаються тисячами учасників і пристроїв, за допомогою технологій ZK-SNARKs та диференційної конфіденційності, що зменшує ризик витоку даних або їх неналежного використання для інших цілей.

Два місяці потому епідемія дивовижно зникла: здавалося, що 60% людей дотримувалися основних протиепідемічних заходів, а саме носили маски, коли детектор повітря подавав сигнал тривоги і показував наявність вірусу, а у разі позитивного результату тесту залишалися вдома на самоізоляції. Саме цей крок, достатній для подальшого зниження рівня поширення, який вже значно зменшився завдяки пасивній потужній фільтрації повітря, до нижче 1. Симуляційний результат показав, що захворювання, яке може бути в п'ять разів серйознішим за COVID-19 двадцятирічної давності, нині не спричинило серйозних наслідків.

Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме концепція d/acc успішно згуртувала людей з різних сфер і дійсно викликала в них живий інтерес до роботи один одного.

Провести захід з "різноманіттям" не важко, але насправді встановити тісні зв'язки між людьми з різним фоном та інтересами - це набагато складніше. Я досі пам'ятаю, як у середній та старшій школі мене змушували дивитися затяжні опери, які на той час мені здавалися нудними. Я добре розумів, що "повинен" їх цінувати, адже інакше мене вважали б культурним комп'ютерним нердом, але я так і не зміг знайти глибший зв'язок з сюжетом опер. Проте атмосфера заходу d/acc була зовсім іншою: здавалося, що людям дійсно подобається дізнаватися про різні галузі роботи.

Якщо ми прагнемо побудувати світле майбутнє, що перевершує правління, сповільнення та руйнування, нам обов'язково потрібно розпочати таке широке будівництво альянсів. d/acc у цьому плані, здається, досяг значних успіхів, і лише цього достатньо, щоб підкреслити цінність цієї концепції.

Основна ідея d/acc проста і зрозуміла: децентралізована, демократична та диференційована оборонна прискорення. Створення технологій, які можуть сприяти зміщенню балансу між атакою та обороною на користь оборони, і при цьому в процесі реалізації не покладатися на передачу більше влади центральним авторитетам. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура зазвичай може процвітати, коли оборона легко реалізується, а стикається з серйозними труднощами, коли оборона стикається з великими труднощами.

Розуміння важливості одночасної реалізації децентралізації, захисту та прискорення можна досягти, порівнявши його з концепцією, що виникає при відмові від одного з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але при цьому прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них називають себе d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, хто виявляє більш помірний ентузіазм щодо "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їх увага до "оборонного" аспекту явно недостатня.

На мій погляд, цей спосіб, можливо, зможе уникнути ризику диктатури певних груп над світовим людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуючу позицію. Щодо штучного інтелекту, він також не може належним чином вирішити ризик ослаблення влади людства в порівнянні з штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читачі безсумнівно вже знайомі з численними такими випадками та їхніми недоліками. Нещодавно деякі люди стурбовані, що крайній централізований контроль може бути єдиним способом реагування на майбутні крайні технології: наприклад, уявімо собі таку гіпотетичну ситуацію: "кожен носить 'позначку свободи' — це наступний продукт сьогоднішніх більш обмежених носимих пристроїв моніторингу, подібних до браслетів на щиколотку, що використовуються в кількох країнах як альтернатива ув'язненню... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має певні проблеми. Одна форма відносно м'якого централізованого контролю, яка зазвичай ігнорується, але все ж таки є шкідливою, проявляється у біотехнологічній сфері в опорі до громадського контролю та дозволі на те, щоб ця форма опору залишалася без викликів у закритих нормах.

Цей спосіб має очевидні ризики, а саме те, що саме центри часто стають джерелами ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональне дослідження, фінансоване кількома основними світовими урядами, могло стати джерелом пандемії; централізована епістемологія призвела до того, що багато установ багато років відмовлялися визнати, що вірус COVID-19 передається повітрям, тоді як обов'язкове соціальне дистанціювання та примусові вакцинації викликали політичні наслідки, які можуть тривати десятиліттями. Подібні ситуації дуже ймовірно можуть повторитися в будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.

Децентралізована оборона, але відторгнення прискорення

По суті, це спроба уповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійним викликом. По-перше, в цілому технологічний і економічний зріст є надзвичайно вигідним для людства, і будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, у світі, що не є тоталітарним, бездіяльність є нестабільною: ті, хто "обманює" найбільше, здатні знаходити на перший погляд обґрунтовані способи продовжувати розвиток, отримають перевагу. Стратегія сповільнення може певною мірою працювати в деяких специфічних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні на даний момент також підтверджують це. Проте ці стратегії не можуть діяти вічно.

Через d/acc ми прагнемо досягти наступних цілей:

• В умовах зростаючої племінної тенденції у сучасному світі дотримуватися принципів, а не сліпо будувати різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і кращим.
• Визнання експоненційного технологічного прогресу означає, що світ стане вкрай незвичайним, і загальний "відбиток" людства у Всесвіті обов'язково зростатиме. Наша здатність захищати в脆кі тварини, рослини та людей від шкоди повинна постійно покращуватись, і єдиний шлях вперед — це сміливо йти вперед.
• Створення технологій, які насправді захищають нас, а не ґрунтуються на припущенні, що "добрі люди контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно ефективніші для будівництва та захисту, ніж для руйнування.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.

Наша мета – створити світ, який зможе зберегти людську агентивність, досягти негативної свободи, тобто уникнути активного втручання інших у нашу здатність формувати власну долю, одночасно досягнувши позитивної свободи, тобто забезпечити, щоб у нас були знання та ресурси для реалізації цієї здатності. Це відгукується на класичну традицію лібералізму, що триває вже кілька століть, в якій охоплюється увага до "отримання інструментів", а також акцент на освіті та свободі як ключових елементах людського прогресу. Враховуючи технологічний ландшафт XXI століття, ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.

Третій вимір: координаційний розвиток виживання та процвітання

У моїй статті минулого року d/acc особливо зосередився на оборонних технологіях: фізичній обороні, біологічній обороні, кіберобороні та інформаційній обороні. Проте чиста децентралізована оборона недостатня для створення великого світу: нам також потрібна перспективна активна візія, яка чітко визначає місце людства в отриманні нової децентралізації.