d/acc: Обзор и перспективы через год
В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожное отношение к определённым проблемам, в основном сосредоточив внимание на рисках, связанных с суперумным искусственным интеллектом, которые могут привести к разрушению или к необратимой потере власти человечеством.
Одной из ключевых идей статьи является приверженность концепции защитного ускорения, основанной на децентрализации, демократии и разнообразии. Необходимо ускорять развитие технологий, при этом фокусируясь на тех из них, которые могут повысить нашу защитную способность, а не нанести вред, и стремиться к распределению власти, а не к ее концентрации в руках немногих элит. Модель защиты должна напоминать демократическую Швейцарию и исторически почти безанархическую область Зомии, а не модель, представляемую феодализмом средневековья с его лордами и замками.
За год, прошедший с того времени, эти идеи и концепции претерпели значительное развитие и