d/acc : Bilan et perspectives après un an

L'année dernière, j'ai écrit un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et ses énormes bénéfices, tout en exprimant une attitude prudente face à certaines problématiques, en me concentrant principalement sur les risques de destruction que l'intelligence artificielle super-intelligente pourrait déclencher ou sur le risque de perte irréversible de pouvoir pour l'humanité.

Un des points clés de l'article est d'adopter une approche défensive d'accélération qui soit décentralisée, démocratique et différenciée. Il s'agit à la fois d'accélérer le développement technologique et de se concentrer de manière ciblée sur les technologies qui peuvent améliorer notre capacité de défense plutôt que de causer des dommages, tout en s'engageant à promouvoir la dispersion du pouvoir, plutôt que de le concentrer entre les mains d'une élite. Le modèle de défense devrait ressembler à la démocratie suisse, ainsi qu'à la région de Zomia, historiquement quasi-anarchique, plutôt qu'au modèle représenté par les seigneurs et les châteaux sous le féodalisme médiéval.

Au cours de l'année qui a suivi, ces idées et concepts ont connu un développement et une maturation significatifs. J'ai partagé ces réflexions sur la plateforme "80,000 heures", et j'ai reçu de nombreuses réactions, dont la plupart étaient positives, bien qu'il y ait également eu quelques critiques.

Ce travail a continué à progresser et a obtenu des résultats concrets : dans le domaine des vaccins open source vérifiables, nous avons été témoins de progrès ; la prise de conscience de la valeur d'un air intérieur sain s'est approfondie ; les "notes communautaires" continuent de jouer un rôle positif ; le marché prédictif a connu une année décisive en tant qu'outil d'information ; les preuves de connaissance non interactive succinctes à connaissance nulle ont été appliquées dans le domaine de l'identification gouvernementale et des réseaux sociaux ; les outils d'imagerie open source ont trouvé des applications dans le domaine médical et des interfaces cerveau-machine, etc.

L'automne dernier, nous avons accueilli notre premier événement important d'accélération : "Journée de la découverte d'accélération". L'événement a rassemblé des intervenants de divers domaines piliers d'accélération, y compris ( la biologie, la physique, le réseau, la défense de l'information, ainsi que la technologie neuronale ). L'événement a duré toute une journée. Les personnes consacrant des années à ces technologies ont de plus en plus compris le travail des autres, tandis que les personnes extérieures prennent également conscience de cette vision plus vaste : le fait de promouvoir les mêmes valeurs qui sous-tendent le développement d'Ethereum et des cryptomonnaies peut s'étendre à un monde plus vaste.

La portée et le contenu de d/acc

Le temps passe jusqu'en 2042. Vous avez vu dans les médias une nouvelle disant que votre ville pourrait connaître une nouvelle épidémie. Pour ce genre de nouvelles, vous êtes déjà habitué : les gens ont tendance à réagir de manière excessive à chaque mutation de maladie animale, et dans la grande majorité des cas, ces mutations ne déclenchent finalement pas de crise réelle. Les deux précédentes épidémies potentielles ont été détectées à un stade précoce grâce à la surveillance des eaux usées et à l'analyse open source des médias sociaux, et ont été contenues avec succès dans leur phase embryonnaire. Cependant, cette fois-ci, la situation est différente : les marchés de prévision montrent qu'il y a une probabilité de 60 % d'au moins 10 000 cas, ce qui vous inquiète.

Juste hier, la séquence génétique du virus a été déterminée. Une mise à jour du logiciel pour le testeur d'air de poche que vous avez a été rapidement lancée, grâce à cette mise à jour, le testeur peut détecter le nouveau virus. Parallèlement, des instructions et du code open source pour générer un vaccin à l'aide d'équipements disponibles dans n'importe quelle installation médicale moderne dans le monde devraient être publiés dans quelques semaines. La plupart des gens n'ont pas encore pris de mesures, ils comptent principalement sur des mesures de filtration de l'air et de ventilation largement adoptées pour se protéger.

En raison de vos problèmes immunitaires, vous agissez avec plus de prudence : l'assistant personnel d'intelligence artificielle que vous utilisez en open source et en local, en plus d'effectuer des tâches habituelles comme la navigation, les recommandations de restaurants et d'événements, prend également en compte en temps réel les données de tests de qualité de l'air et de dioxyde de carbone, afin de ne vous recommander que les lieux les plus sûrs. Ces données sont fournies par des milliers de participants et de dispositifs, et grâce aux technologies ZK-SNARKs et de confidentialité différentielle, le risque que les données soient divulguées ou utilisées à d'autres fins est réduit au minimum.

Deux mois plus tard, l'épidémie s'est miraculeusement dissipée : il semble que 60 % des personnes aient suivi les protocoles de prévention de base, à savoir porter un masque lorsque le détecteur d'air émet une alarme et indique la présence du virus, et s'isoler à domicile en cas de test positif. C'est cette mesure qui a permis de réduire encore plus le taux de transmission, déjà considérablement réduit grâce à un filtrage d'air passif, à moins de 1. Un résultat de simulation a montré qu'une maladie qui pourrait être cinq fois plus grave que la pandémie de COVID-19 d'il y a vingt ans n'a pourtant pas eu d'impact sérieux.

L'événement d/acc organisé par Devcon a obtenu un résultat extrêmement positif, à savoir que le concept d/dacc a réussi à rassembler des personnes de différents domaines et a réellement suscité leur vif intérêt pour le travail des uns et des autres.

Organiser un événement "diversifié" n'est pas une tâche difficile, mais permettre à des personnes de différents horizons et intérêts d'établir de véritables liens étroits est en revanche un défi. Je me souviens encore très bien de mon expérience au collège et au lycée, où j'étais forcé de regarder de longues opéras ; à l'époque, je trouvais personnellement ces opéras ennuyeux. Je savais que je "devrais" les apprécier, car sinon, je serais perçu comme un paresseux de l'informatique sans culture, mais je n'ai pas réussi à résonner plus profondément avec le contenu des opéras. Cependant, l'ambiance de l'événement d/d'acc était complètement différente : on avait l'impression que les gens aimaient vraiment découvrir les différents travaux dans divers domaines.

Si nous aspirons à construire un avenir plus lumineux que la domination, le ralentissement et la destruction, il est nécessaire de mener cette large construction d'alliances. d/acc semble avoir réalisé des progrès significatifs dans ce domaine, et rien que cela suffit à mettre en évidence la valeur précieuse de ce concept.

La pensée fondamentale de d/acc est simple et claire : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies qui favorisent un équilibre entre l'attaque et la défense, tout en ne s'appuyant pas sur le transfert de plus de pouvoir vers des autorités centrales pendant le processus d'implémentation. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre a tendance à prospérer lorsque la défense est facilement mise en œuvre, tandis qu'elle fait face à de lourdes difficultés lorsque la défense rencontre de sérieux défis.

Une façon de comprendre l'importance de tenter simultanément de réaliser la décentralisation, la défense et l'accélération est de la comparer aux idées générées par l'abandon de l'un de ces trois aspects.

Accélération de la décentralisation, mais ignorance de la partie "défense différenciée"

En essence, cela ressemble à devenir un efficace accéléationniste ( e/acc ), tout en poursuivant la décentralisation. Beaucoup de gens adoptent cette approche, dont certains se qualifient de d/acc, mais ils décrivent utilement leur propre accent comme "offensif". De plus, il y a beaucoup d'autres qui montrent un enthousiasme plus modéré pour "l'intelligence artificielle décentralisée" et des sujets similaires, mais à mon avis, leur attention sur les aspects "défensifs" est manifestement insuffisante.

À mon avis, cette approche pourrait peut-être éviter le risque d'une dictature mondiale par des groupes spécifiques, mais elle n'a pas résolu les problèmes structurels sous-jacents : dans un environnement favorable à l'attaque, il existe toujours un risque persistant de catastrophe, ou quelqu'un pourrait se positionner comme un protecteur et occuper une position dominante de manière permanente. En ce qui concerne l'intelligence artificielle, elle ne parvient pas non plus à résoudre correctement le risque d'affaiblissement du pouvoir de l'humanité par rapport à l'intelligence artificielle.

Accélération de la défense différenciée, mais néglige "la décentralisation et la démocratie"

Accepter un contrôle centralisé pour atteindre des objectifs de sécurité a toujours une certaine attrait pour une partie des gens. Les lecteurs sont sans aucun doute familiers avec de nombreux exemples de ce type et les inconvénients qu'ils engendrent. Récemment, certaines personnes s'inquiètent du fait qu'un contrôle centralisé extrême pourrait être le seul moyen de faire face à des technologies extrêmes à l'avenir : par exemple, imaginons un scénario hypothétique où "tout le monde porte une 'étiquette de liberté' — qui est le produit successeur des dispositifs de surveillance portables plus limités d'aujourd'hui, semblable aux étiquettes de cheville utilisées comme alternatives à l'incarcération dans plusieurs pays... Des vidéos et des audios cryptés sont continuellement téléchargés et interprétés en temps réel par des machines". Cependant, il existe un problème de degré avec le contrôle centralisé. Une forme de contrôle centralisé relativement modérée, souvent négligée mais toujours nuisible, se manifeste dans la résistance à la surveillance publique dans le domaine des biotechnologies, ainsi que dans la normalisation de ces comportements de résistance sans contestation.

Les risques de cette approche sont évidents, à savoir que le centre lui-même devient souvent la source du risque. Nous avons déjà été témoins de cela pendant la pandémie de COVID-19, où la recherche fonctionnelle financée par plusieurs gouvernements mondiaux pourrait être à l'origine de la pandémie. Une épistémologie centralisée a conduit de nombreuses institutions à refuser pendant des années de reconnaître que le coronavirus se transmettait par l'air, tandis que la distanciation sociale obligatoire et les mandats de vaccination ont suscité un retour politique qui pourrait durer des décennies. Une situation similaire est très susceptible de se reproduire dans n'importe quel scénario de risque lié à l'intelligence artificielle ou à d'autres technologies à risque. En revanche, une approche décentralisée répondra plus efficacement aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit d'une tentative de ralentir les avancées technologiques ou de promouvoir une récession économique.

Cette stratégie est confrontée à un double défi. Tout d'abord, en général, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraînera des coûts incalculables. Deuxièmement, dans un monde non autoritaire, la stagnation est instable : ceux qui "trichent" le plus et qui peuvent trouver des moyens apparemment raisonnables de continuer à progresser prendront l'avantage. La stratégie du ralentissement peut fonctionner dans certaines situations spécifiques : par exemple, la nourriture européenne est plus saine que la nourriture américaine, ce qui en est un exemple ; le succès des efforts de non-prolifération nucléaire jusqu'à présent en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

Grâce à d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans le contexte de la tendance croissante à la tribalisation dans le monde d'aujourd'hui, il est essentiel de maintenir des principes, et pas seulement de construire aveuglément diverses choses - au contraire, nous espérons construire des choses spécifiques afin de rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que l'"empreinte" humaine dans l'univers continuera inévitablement d'augmenter. Notre capacité à protéger les animaux, les plantes et les populations vulnérables contre les dommages doit continuer à s'améliorer, et le seul moyen de sortir est d'aller de l'avant.
• Construire des technologies qui protègent réellement nos intérêts, plutôt que de se baser sur l'hypothèse que "les bonnes personnes contrôlent tout". Nous atteignons cet objectif en développant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des Pirates en Europe à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, réalisant la liberté négative, c'est-à-dire éviter l'intervention active des autres sur notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire s'assurer que nous avons les connaissances et les ressources pour exercer cette capacité. Cela fait écho à une tradition du libéralisme classique qui dure depuis des siècles, englobant une préoccupation pour "l'accès aux outils" ainsi qu'une emphase sur l'éducation et la liberté comme éléments clés du progrès humain. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer d/acc comme un moyen d'atteindre ces mêmes objectifs.

Troisième dimension : Développement synergique de la survie et de la prospérité

Dans mon article de l'année dernière, d/acc s'est particulièrement concentré sur les technologies de défense : défense physique, défense biologique, défense numérique et défense de l'information. Cependant, une défense décentralisée pure n'est pas suffisante pour construire un grand monde : nous avons également besoin d'une vision proactive et avant-gardiste, qui précise le rôle de l'humanité dans l'acquisition de nouveaux moyens de décentralisation.