В прошлом году я написал статью о техническом оптимизме, в которой изложил свою общую энтузиазм по поводу технологий и их огромной пользы, а также выразил осторожное отношение к некоторым проблемам, сосредоточив внимание на рисках разрушения, которые может вызвать суперумный искусственный интеллект, или на рисках, которые могут привести к необратимой утрате власти человечества.
Основная идея статьи заключается в соблюдении принципов децентрализованного, демократичного и дифференцированного оборонительного ускорения. Необходимо ускорять развитие технологий, одновременно акцентируя внимание на тех из них, которые могут повысить наши оборонительные способности, а не причинять вред, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит. Модель обороны должна напоминать демократичную Швейцарию и практически анархистский регион Зомия в истории, а не ту модель, которую представляли лорды и замки в средневековом феодализме.
С тех пор за год эти идеи и концепции претерпели значительное развитие и зрелость. Я поделился этими мыслями на платформе "80,000 часов" и получил множество откликов, большинство из которых были положительными, хотя, конечно, были и некоторые критические голоса.
Эта работа продолжается и достигает реальных результатов: в области проверяемых открытых вакцин мы стали свидетелями прогресса; понимание ценности здорового воздуха в помещениях продолжает углубляться; "сообщественные заметки" продолжают оказывать положительное влияние; предсказательные рынки как инструмент информации пережили прорывный год; нулевые знания, краткие, неинтерактивные доказательства знаний применяются в области государственной идентификации и социальных медиа; открытые инструменты визуализации находят применение в медицине и интерфейсах «мозг-компьютер», и так далее.
Прошлой осенью мы отметили первое важное событие d/acc: "День открытия d/acc". Мероприятие собрало спикеров из различных столпов d/acc, таких как биология, физика, сети, информационная защита и нейротехнологии, мероприятие продолжалось целый день. Люди, на протяжении многих лет занимающиеся этими технологиями, все больше понимают работу друг друга, а внешние лица все больше осознают эту более грандиозную цель: продвигать те же ценности, которые способствуют развитию Ethereum и криптовалют, могут расширяться в более широкий мир.
Содержание и объем d/acc
Время прошло до 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может произойти новая эпидемия. На такие сообщения вы уже реагируете с присущим равнодушием: люди часто чрезмерно реагируют на каждую мутацию болезней у животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно выявлены на ранних стадиях благодаря мониторингу сточных вод и открытому анализу социальных медиа, и они были успешно сдержаны на начальной стадии. Однако на этот раз ситуация иная, прогнозные рынки показывают вероятность как минимум 10 000 случаев заболеваний на уровне 60%, что вызывает у вас беспокойство.
Вчера была определена генетическая последовательность вируса. Обновление программного обеспечения для тестера воздуха в вашем кармане было выпущено незамедлительно, с помощью этого обновления тестер сможет обнаруживать новый вирус. В то же время ожидается, что в ближайшие недели будут опубликованы открытые инструкции и код для создания вакцины с использованием оборудования, доступного в любой современной медицинской учреждении по всему миру. Большинство людей в настоящее время не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за ваших собственных проблем с иммунной системой вы действуете более осторожно: ваш открытый локальный личный помощник на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о диоксиде углерода, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с помощью технологий ZK-SNARKs и дифференциальной приватности, что минимизирует риск утечки данных или их неправомерного использования.
Два месяца спустя пандемия чудесным образом исчезла: кажется, 60% людей соблюдали основные профилактические меры, а именно носили маски, когда приборы для тестирования воздуха подавали сигнал тревоги и показывали наличие вируса, а в случае положительного результата теста оставались дома на самоизоляции. Именно эта мера была достаточной, чтобы еще больше снизить коэффициент передачи, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до уровня ниже 1. Болезнь, результаты моделирования которой показывали, что она может быть в пять раз серьезнее, чем пандемия COVID-19 двадцатилетней давности, сейчас не нанесла серьезного вреда.
Деятельность d/acc, организованная Devcon, принесла чрезвычайно положительный результат: концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но на самом деле установить тесные связи между людьми с разным опытом и интересами весьма непросто. Я до сих пор помню свой опыт в средней и старшей школе, когда меня заставляли смотреть длинные оперы, и в то время я считал их скучными и неинтересными. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным ленивым компьютерным ученым, но я так и не смог глубже понять содержание оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что люди искренне любят узнавать о различных работах в разных областях.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам необходимо начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и только это достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону обороны, не полагаясь в процессе внедрения на передачу большей власти центральным властям. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда оборона легко реализуема, и сталкивается с серьезными вызовами, когда оборона сталкивается с большими трудностями.
Один из способов понять важность одновременной реализации децентрализации, защиты и ускорения заключается в сравнении с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акселерационистом(e/acc), но при этом стремиться к децентрализации. Есть много людей, которые принимают такой подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более мягкий интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к "защитной" стороне явно недостаточно.
На мой взгляд, этот подход может избежать риска диктатуры над мировым человечеством со стороны определенных групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда имеет определенную привлекательность для части людей, и читатели, безусловно, уже знакомы с множеством таких примеров и с недостатками, которые они приносят. В последнее время некоторые люди выражают опасения, что крайний централизованный контроль может быть единственным способом справиться с будущими крайними технологиями: например, представьте себе гипотетическую ситуацию, "каждый носит 'ярлык свободы' — это следующий продукт современных более ограниченных носимых устройств для мониторинга, аналогичных браслетам на лодыжке, используемым в качестве альтернативы тюремному заключению в нескольких странах... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет свои пределы. Одна форма относительно умеренного централизованного контроля, обычно игнорируемая, но все же вредная, проявляется в сопротивлении общественному контролю в области биотехнологий и в том, что позволяет этому сопротивлению оставаться без вызова закрытым стандартам.
Риски такого подхода очевидны, а именно: сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли стать источником пандемии; централизованная эпистемология привела к тому, что многие учреждения на протяжении многих лет отказывались признавать, что коронавирус передается воздушным путем, а обязательное соблюдение социальной дистанции и вакцинация вызвали политическую реакцию, которая может продолжаться десятилетиями. Подобная ситуация вполне может повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективным в борьбе с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойной проблемой. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление приведет к непомерным затратам. Во-вторых, в мире, который не является тоталитарным, стагнация нестабильна: те, кто «жульничает» больше всего и может найти на вид разумные способы продолжать развитие, окажутся в более выгодном положении. Стратегия замедления может сработать в определенных специфических обстоятельствах: например, еда в Европе более полезна, чем еда в США, это является примером; успехи в ядерном нераспространении до сих пор также это подтверждают. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
В условиях растущей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи — напротив, мы ожидаем создать конкретные вещи, чтобы сделать мир более безопасным и прекрасным.
Осознание экспоненциального технологического прогресса означает, что мир станет крайне необычным, и общий "след" человечества во Вселенной, безусловно, будет постоянно увеличиваться. Наша способность защищать уязвимых животных, растения и людей от вреда должна постоянно улучшаться, и единственный путь вперед - это смело двигаться вперед.
Создайте технологии, которые действительно защищают нас, а не основываются на предположении "добрые люди контролируют все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: расширение полномочий.
Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства других в нашу способность формировать собственную судьбу, одновременно реализуя позитивную свободу, то есть обеспечивая наличие у нас знаний и ресурсов для реализации этой способности. Это перек呼应вает классическую традицию либерализма, существующую на протяжении нескольких веков, которая охватывает внимание к "приобретению инструментов" и подчеркивает важность образования и свободы как ключевых элементов человеческого прогресса. Учитывая технологическую среду 21 века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергия выживания и процветания
В своей статье прошлого года d/acc особенно сосредоточился на защитных технологиях: физической защите, биологической защите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для построения великого мира: нам также нужно проактивное позитивное видение, четко определяющее роль человечества в получении новых децентрализованных
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
12 Лайков
Награда
12
8
Репост
Поделиться
комментарий
0/400
AirdropHunterXiao
· 22ч назад
Кто это написал? Какой хороший напиток!
Посмотреть ОригиналОтветить0
HappyMinerUncle
· 08-11 10:23
Говорить хорошо, то что ты сказал, действительно имеет Глубина, но все равно нужно заниматься Майнингом, чтобы прокормить семью.
Посмотреть ОригиналОтветить0
fren.eth
· 08-11 08:39
Техно-панки — мечтатели
Посмотреть ОригиналОтветить0
Web3Educator
· 08-10 06:49
давайте я объясню это для моей веб3 семьи... децентрализация = ultimate defense mechanism
Посмотреть ОригиналОтветить0
ForkTrooper
· 08-10 06:48
Эти теории слишком абстрактны.
Посмотреть ОригиналОтветить0
StableGenius
· 08-10 06:36
на самом деле, эта диссертация по d/acc все еще лишена эмпирических доказательств доходности с учетом риска... смм
Посмотреть ОригиналОтветить0
LiquidityOracle
· 08-10 06:25
Кажется, это всего лишь иллюзия? Людям сложно убедить.
d/acc один год: развитие концепции защитного ускорения и перспективы на будущее
d/acc: Обзор и перспективы через год
В прошлом году я написал статью о техническом оптимизме, в которой изложил свою общую энтузиазм по поводу технологий и их огромной пользы, а также выразил осторожное отношение к некоторым проблемам, сосредоточив внимание на рисках разрушения, которые может вызвать суперумный искусственный интеллект, или на рисках, которые могут привести к необратимой утрате власти человечества.
Основная идея статьи заключается в соблюдении принципов децентрализованного, демократичного и дифференцированного оборонительного ускорения. Необходимо ускорять развитие технологий, одновременно акцентируя внимание на тех из них, которые могут повысить наши оборонительные способности, а не причинять вред, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит. Модель обороны должна напоминать демократичную Швейцарию и практически анархистский регион Зомия в истории, а не ту модель, которую представляли лорды и замки в средневековом феодализме.
С тех пор за год эти идеи и концепции претерпели значительное развитие и зрелость. Я поделился этими мыслями на платформе "80,000 часов" и получил множество откликов, большинство из которых были положительными, хотя, конечно, были и некоторые критические голоса.
Эта работа продолжается и достигает реальных результатов: в области проверяемых открытых вакцин мы стали свидетелями прогресса; понимание ценности здорового воздуха в помещениях продолжает углубляться; "сообщественные заметки" продолжают оказывать положительное влияние; предсказательные рынки как инструмент информации пережили прорывный год; нулевые знания, краткие, неинтерактивные доказательства знаний применяются в области государственной идентификации и социальных медиа; открытые инструменты визуализации находят применение в медицине и интерфейсах «мозг-компьютер», и так далее.
Прошлой осенью мы отметили первое важное событие d/acc: "День открытия d/acc". Мероприятие собрало спикеров из различных столпов d/acc, таких как биология, физика, сети, информационная защита и нейротехнологии, мероприятие продолжалось целый день. Люди, на протяжении многих лет занимающиеся этими технологиями, все больше понимают работу друг друга, а внешние лица все больше осознают эту более грандиозную цель: продвигать те же ценности, которые способствуют развитию Ethereum и криптовалют, могут расширяться в более широкий мир.
Содержание и объем d/acc
Время прошло до 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может произойти новая эпидемия. На такие сообщения вы уже реагируете с присущим равнодушием: люди часто чрезмерно реагируют на каждую мутацию болезней у животных, и в подавляющем большинстве случаев эти мутации в конечном итоге не приводят к реальным кризисам. Две предыдущие потенциальные эпидемии были успешно выявлены на ранних стадиях благодаря мониторингу сточных вод и открытому анализу социальных медиа, и они были успешно сдержаны на начальной стадии. Однако на этот раз ситуация иная, прогнозные рынки показывают вероятность как минимум 10 000 случаев заболеваний на уровне 60%, что вызывает у вас беспокойство.
Вчера была определена генетическая последовательность вируса. Обновление программного обеспечения для тестера воздуха в вашем кармане было выпущено незамедлительно, с помощью этого обновления тестер сможет обнаруживать новый вирус. В то же время ожидается, что в ближайшие недели будут опубликованы открытые инструкции и код для создания вакцины с использованием оборудования, доступного в любой современной медицинской учреждении по всему миру. Большинство людей в настоящее время не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за ваших собственных проблем с иммунной системой вы действуете более осторожно: ваш открытый локальный личный помощник на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о диоксиде углерода, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с помощью технологий ZK-SNARKs и дифференциальной приватности, что минимизирует риск утечки данных или их неправомерного использования.
Два месяца спустя пандемия чудесным образом исчезла: кажется, 60% людей соблюдали основные профилактические меры, а именно носили маски, когда приборы для тестирования воздуха подавали сигнал тревоги и показывали наличие вируса, а в случае положительного результата теста оставались дома на самоизоляции. Именно эта мера была достаточной, чтобы еще больше снизить коэффициент передачи, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до уровня ниже 1. Болезнь, результаты моделирования которой показывали, что она может быть в пять раз серьезнее, чем пандемия COVID-19 двадцатилетней давности, сейчас не нанесла серьезного вреда.
Деятельность d/acc, организованная Devcon, принесла чрезвычайно положительный результат: концепция d/acc успешно объединила людей из различных областей и действительно вызвала у них живой интерес к работе друг друга.
Провести мероприятие с "разнообразием" несложно, но на самом деле установить тесные связи между людьми с разным опытом и интересами весьма непросто. Я до сих пор помню свой опыт в средней и старшей школе, когда меня заставляли смотреть длинные оперы, и в то время я считал их скучными и неинтересными. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным ленивым компьютерным ученым, но я так и не смог глубже понять содержание оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что люди искренне любят узнавать о различных работах в разных областях.
Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, нам необходимо начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и только это достаточно, чтобы подчеркнуть ценность этой идеи.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут способствовать смещению баланса сил в сторону обороны, не полагаясь в процессе внедрения на передачу большей власти центральным властям. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура, как правило, может процветать, когда оборона легко реализуема, и сталкивается с серьезными вызовами, когда оборона сталкивается с большими трудностями.
Один из способов понять важность одновременной реализации децентрализации, защиты и ускорения заключается в сравнении с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акселерационистом(e/acc), но при этом стремиться к децентрализации. Есть много людей, которые принимают такой подход, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "агрессивный". Кроме того, есть много других, кто проявляет более мягкий интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к "защитной" стороне явно недостаточно.
На мой взгляд, этот подход может избежать риска диктатуры над мировым человечеством со стороны определенных групп, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападения, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Для достижения целей безопасности принятие централизованного контроля всегда имеет определенную привлекательность для части людей, и читатели, безусловно, уже знакомы с множеством таких примеров и с недостатками, которые они приносят. В последнее время некоторые люди выражают опасения, что крайний централизованный контроль может быть единственным способом справиться с будущими крайними технологиями: например, представьте себе гипотетическую ситуацию, "каждый носит 'ярлык свободы' — это следующий продукт современных более ограниченных носимых устройств для мониторинга, аналогичных браслетам на лодыжке, используемым в качестве альтернативы тюремному заключению в нескольких странах... зашифрованные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет свои пределы. Одна форма относительно умеренного централизованного контроля, обычно игнорируемая, но все же вредная, проявляется в сопротивлении общественному контролю в области биотехнологий и в том, что позволяет этому сопротивлению оставаться без вызова закрытым стандартам.
Риски такого подхода очевидны, а именно: сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли стать источником пандемии; централизованная эпистемология привела к тому, что многие учреждения на протяжении многих лет отказывались признавать, что коронавирус передается воздушным путем, а обязательное соблюдение социальной дистанции и вакцинация вызвали политическую реакцию, которая может продолжаться десятилетиями. Подобная ситуация вполне может повториться в любых рискованных сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В этом отношении децентрализованный подход будет более эффективным в борьбе с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойной проблемой. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление приведет к непомерным затратам. Во-вторых, в мире, который не является тоталитарным, стагнация нестабильна: те, кто «жульничает» больше всего и может найти на вид разумные способы продолжать развитие, окажутся в более выгодном положении. Стратегия замедления может сработать в определенных специфических обстоятельствах: например, еда в Европе более полезна, чем еда в США, это является примером; успехи в ядерном нераспространении до сих пор также это подтверждают. Однако эти стратегии не могут работать вечно.
С помощью d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: расширение полномочий.
Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность, реализовать негативную свободу, то есть избежать активного вмешательства других в нашу способность формировать собственную судьбу, одновременно реализуя позитивную свободу, то есть обеспечивая наличие у нас знаний и ресурсов для реализации этой способности. Это перек呼应вает классическую традицию либерализма, существующую на протяжении нескольких веков, которая охватывает внимание к "приобретению инструментов" и подчеркивает важность образования и свободы как ключевых элементов человеческого прогресса. Учитывая технологическую среду 21 века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергия выживания и процветания
В своей статье прошлого года d/acc особенно сосредоточился на защитных технологиях: физической защите, биологической защите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для построения великого мира: нам также нужно проактивное позитивное видение, четко определяющее роль человечества в получении новых децентрализованных