Wanzi Changwen, fondateur d'a16z : pourquoi l'IA sauvera le monde

Auteur : MarcAndreessen, fondateur d'a16z ; traduction : Jinse Finance cryptonaitive&ChatGPT

L'ère de l'intelligence artificielle est arrivée et les gens en paniquent.

Heureusement, je suis ici pour apporter de bonnes nouvelles : l'IA ne détruira pas le monde, elle pourrait même le sauver.

Tout d'abord, une brève introduction à ce qu'est l'intelligence artificielle : le processus d'application des mathématiques et des codes logiciels pour enseigner aux ordinateurs comment comprendre, synthétiser et générer des connaissances, comme les humains. L'intelligence artificielle est un programme comme n'importe quel autre programme informatique - il s'exécute, prend des entrées, les traite et génère des sorties. Les résultats de l'intelligence artificielle sont très utiles dans divers domaines, de la programmation à la médecine, en passant par le droit et les arts créatifs. Elle est détenue et contrôlée par des humains, comme toute autre technologie.

Une brève description de l'intelligence artificielle : ce n'est pas comme dans les films où les logiciels tueurs et les robots prennent soudainement vie et décident de massacrer les humains ou de tout détruire.

Une description plus courte de l'intelligence artificielle : cela pourrait être un moyen d'améliorer tout ce qui nous tient à cœur.

**Pourquoi l'IA peut-elle améliorer tout ce qui nous tient à cœur ? **

Une conclusion centrale de nombreuses études menées en sciences sociales au fil des ans est que l'intelligence humaine peut apporter des améliorations spectaculaires dans tous les domaines de la vie. Les personnes plus intelligentes obtiennent de meilleurs résultats dans presque tous les domaines : réussite scolaire, performance professionnelle, statut de carrière, revenu, créativité, santé physique, longévité, apprentissage de nouvelles compétences, gestion de tâches complexes, leadership, réussite entrepreneuriale, résolution de conflits, compréhension de la lecture, prise de décision financière , Comprendre les perspectives des autres, Arts créatifs, Résultats parentaux et Satisfaction à l'égard de la vie.

De plus, l'intelligence humaine est le levier que nous utilisons depuis des millénaires pour créer notre monde : science, technologie, mathématiques, physique, chimie, médecine, énergie, architecture, transports, communications, art, musique, culture, philosophie, éthique et morale. Sans l'application de l'intelligence dans tous ces domaines, nous vivrions peut-être encore dans des huttes de boue, luttant pour survivre à la pauvreté de l'agriculture. Au lieu de cela, nous avons utilisé l'intelligence pour améliorer notre niveau de vie d'environ 10 000 fois au cours des 4 000 dernières années.

L'IA nous offre l'opportunité d'améliorer à l'avenir les différents résultats de l'intelligence - de la création de nouveaux médicaments à la résolution du changement climatique en passant par les technologies permettant les voyages interstellaires - en augmentant profondément l'intelligence humaine.

Le processus d'intelligence artificielle augmentant l'intelligence humaine a déjà commencé - l'intelligence artificielle est apparue autour de nous sous diverses formes, telles que divers systèmes de contrôle informatique, et maintenant il existe des modèles de langage à grande échelle d'intelligence artificielle comme ChatGPT, et à partir de maintenant, il sera Accélération rapide - si nous le permettons.

Dans notre nouvelle ère d'intelligence artificielle :

• Chaque enfant aura un tuteur IA avec une patience infinie, une sympathie infinie, des connaissances infinies et une aide infinie. Ce mentor IA sera aux côtés de chaque enfant à mesure qu'il grandit, l'aidant à atteindre son plein potentiel et lui apportant un amour sans fin.

• Tout le monde aura un assistant/coach/mentor/formateur/conseiller/thérapeute en intelligence artificielle doté d'une patience infinie, d'une compassion infinie, d'une connaissance infinie et d'une aide infinie. Cet assistant IA sera là tout au long des opportunités et des défis de la vie, maximisant les résultats de chacun.

• Chaque scientifique aura un assistant/collaborateur/partenaire IA capable d'élargir considérablement la portée de ses recherches et réalisations scientifiques. Il en sera de même pour le monde de chaque artiste, ingénieur, homme d'affaires, médecin et ambulancier.

• Chaque dirigeant—PDG, représentant du gouvernement, président d'une organisation à but non lucratif, entraîneur sportif, enseignant—fera la même chose. L'effet d'amplification d'une meilleure prise de décision par les dirigeants est énorme, donc l'augmentation de l'intelligence est probablement la plus importante.

• La croissance de la productivité dans l'ensemble de l'économie s'accélérera considérablement, entraînant la croissance économique, la création de nouvelles industries, la création de nouveaux emplois et la croissance des salaires, menant à une nouvelle ère de prospérité matérielle sur Terre.

• Les percées scientifiques, les nouvelles technologies et les nouveaux médicaments connaîtront une expansion spectaculaire à mesure que l'IA nous aidera à décoder davantage les lois de la nature et à les utiliser à notre avantage.

• Les arts créatifs entreront dans un âge d'or alors que les artistes, musiciens, écrivains et cinéastes améliorés par l'IA pourront concrétiser leurs visions plus rapidement et à plus grande échelle que jamais auparavant.

• Je pense même que l'IA améliorera la guerre, quand il le faudra, en réduisant considérablement les taux de mortalité en temps de guerre. Chaque guerre est caractérisée par des décisions désastreuses prises par des dirigeants humains très limités sous un stress extrême et des informations limitées. Les commandants militaires et les dirigeants politiques auront désormais des conseillers en intelligence artificielle pour les aider à prendre de meilleures décisions stratégiques et tactiques qui minimisent les risques, les erreurs et les effusions de sang inutiles.

• En bref, tout ce que les gens font aujourd'hui avec leur intelligence naturelle peut être mieux fait avec l'IA, et nous serons en mesure de relever de nouveaux défis qui ne peuvent être résolus sans l'IA, de la guérison de toutes les maladies au voyage interstellaire .

• Et ce n'est pas qu'une question d'intelligence ! La qualité la plus sous-estimée de l'IA est peut-être sa touche humaine. L'art de l'IA donne à ceux qui, autrement, manqueraient de compétences techniques, la liberté de créer et de partager leurs idées artistiques. Parler à un ami IA empathique peut en fait améliorer sa capacité à faire face à l'adversité. Et, comparés aux humains, les chatbots médicaux IA sont déjà plus empathiques. L'intelligence artificielle avec une patience et une compassion infinies fera du monde un endroit plus chaleureux et plus convivial.

Les enjeux ici sont élevés et les opportunités sont profondes. L'IA est probablement la chose la plus importante et la meilleure que notre civilisation ait jamais vue, au moins à égalité avec l'électricité et les micropuces, et peut-être même mieux qu'eux.

C'est notre obligation morale envers nous-mêmes, envers nos enfants et envers notre avenir de développer et de vulgariser l'intelligence artificielle - et de nous tenir à l'écart des risques dont nous devrions avoir peur.

Nous méritons de vivre dans un monde meilleur avec l'intelligence artificielle, et maintenant nous pouvons y arriver.

** Alors, pourquoi la panique ? **

Contrairement à cette vision positive, la conversation publique actuelle sur l'IA est en proie à la panique et à la paranoïa.

Nous entendons toutes sortes d'affirmations selon lesquelles l'IA nous détruira tous, perturbera nos sociétés, prendra nos emplois, causera des inégalités massives et permettra aux mauvais acteurs de faire des choses terribles.

Pourquoi cette divergence dans les résultats potentiels, de quasi utopique à horriblement dystopique ?

** Historiquement, chaque nouvelle technologie importante, de l'ampoule à la voiture, de la radio à Internet, a déclenché une panique morale - une contagion sociale qui amène les gens à croire que la nouvelle technologie détruira le monde, ou la société, ou Les deux périront. ** Les braves gens des Archives du pessimisme ont documenté ces décennies d'épisodes de panique morale motivés par la technologie ; leur histoire montre clairement ce schéma. Il s'avère que la panique actuelle à propos de l'intelligence artificielle n'est même pas la première.

À l'heure actuelle, il existe en effet de nombreuses nouvelles technologies qui conduisent à des résultats indésirables, souvent des technologies qui présentent d'énormes avantages pour notre bien-être. Donc, ce n'est pas que la présence d'une panique morale signifie qu'il n'y a pas de quoi s'inquiéter.

Mais ** les paniques morales sont intrinsèquement irrationnelles - elles exagèrent ce qui pourrait être des préoccupations légitimes à un niveau d'hystérie qui, ironiquement, rend plus difficile pour nous de faire face à des problèmes vraiment graves. **

En ce moment, nous sommes dans une véritable panique morale à propos de l'IA.

Cette panique morale a été exploitée par de multiples acteurs pour conduire l'action politique - faisant pression pour de nouvelles restrictions, réglementations et lois sur l'IA. Ces acteurs s'expriment publiquement sur les dangers de l'intelligence artificielle avec une dramatisation extrême - ils alimentent et alimentent encore la panique morale - se présentant tous comme des défenseurs désintéressés du bien commun.

Mais sont-ils vraiment comme ça ?

Ont-ils raison ou tort ?

** Baptistes IA et Moonshiners **

Les économistes ont observé une tendance de longue date parmi ces mouvements de réforme. Les acteurs de ces mouvements peuvent être divisés en deux catégories - les « Baptistes » et les « bootleggers », sur la base de l'exemple historique de la Prohibition aux États-Unis dans les années 1920 :

• Les « Baptistes » étaient de vrais réformateurs sociaux croyants qui croyaient profondément et émotionnellement (mais pas nécessairement intellectuellement) que de nouvelles restrictions, réglementations et lois étaient nécessaires pour empêcher une catastrophe sociale. Dans le cas de la prohibition, ces acteurs étaient généralement des chrétiens sincères qui croyaient que l'alcool détruisait le tissu moral de la société. Pour le risque lié à l'IA, ces acteurs sont des personnes qui croient sincèrement que l'IA pose un risque existentiel d'un type ou d'un autre - si vous les attachez à un détecteur de mensonges, ils le font vraiment.

• Les bootleggers sont des opportunistes intéressés qui profitent des nouvelles restrictions, réglementations et lois au fur et à mesure de leur mise en œuvre et s'isolent des concurrents. Pour Prohibition, il s'agissait de contrebandiers qui ont fait d'énormes fortunes en vendant illégalement de l'alcool à une époque où les ventes légales d'alcool étaient interdites. Pour le risque IA, ce sont les PDG qui pourraient gagner plus d'argent s'ils construisaient une sorte de cartel de fournisseurs d'IA sanctionnés par le gouvernement, protégés des startups et de la concurrence open source. faillite" banque.

Un cynique pourrait soutenir que certains baptistes ostensibles sont aussi des contrebandiers – en particulier ceux dont les universités, les groupes de réflexion, les groupes d'activistes et les médias paient leurs salaires ou reçoivent des subventions pour attaquer l'IA. Si vous recevez un salaire ou une subvention pour attiser la panique de l'IA, vous êtes probablement un passeur.

Le problème avec les bootleggers, c'est qu'ils gagnent. Les baptistes sont des idéologues naïfs et les contrebandiers sont des opérateurs cyniques, de sorte que le résultat de tels mouvements de réforme est généralement que les contrebandiers obtiennent ce qu'ils veulent - contrôle réglementaire, protection contre la concurrence, formation d'un monopole, tandis que les baptistes étaient confus par la volonté d'amélioration sociale.

Nous venons de vivre un exemple choquant : les réformes bancaires suite à la crise financière mondiale de 2008. Les baptistes nous disent que nous avons besoin de nouvelles lois et réglementations pour démanteler les banques "too big to fail" afin d'empêcher qu'une crise similaire ne se reproduise. Ainsi, le Congrès américain a adopté la loi Dodd-Frank de 2010, qui a été annoncée comme répondant aux objectifs des baptistes, mais qui a en fait été exploitée par les contrebandiers - les grandes banques. Le résultat est que les banques qui étaient trop grandes pour faire faillite en 2008 sont maintenant encore plus grandes.

Donc en pratique, même si les baptistes étaient sincères, même si les baptistes avaient raison, ils seraient utilisés par des contrebandiers rusés et avides pour leur propre profit.

C'est exactement ce qui motive actuellement la réglementation de l'IA.

Cependant, il ne suffit pas d'identifier les acteurs et de blâmer leurs motivations. Nous devrions l'évaluer par rapport aux arguments des baptistes et des contrebandiers.

**Risque IA 1 : L'intelligence artificielle va-t-elle nous tuer ? **

** Le premier et le plus ancien risque apocalyptique de l'IA est la peur que l'IA décide de tuer l'humanité. **

Notre peur que la technologie elle-même se lève et nous détruise est enracinée dans notre culture. Les Grecs ont exprimé cette peur à travers le mythe de Prométhée - Prométhée a apporté à l'humanité le pouvoir destructeur du feu et plus généralement de la technologie ("techne"), ainsi Prométhée a été immortalisé par les dieux torturés. Plus tard, Mary Shelley a créé cette version mythique de nous-mêmes pour les humains modernes dans son roman Frankenstein, dans lequel nous développons la technologie de l'immortalité, qui se lève alors et tente de nous détruire. Bien sûr, l'essentiel pour effrayer la couverture médiatique de l'intelligence artificielle est l'image fixe d'un robot tueur aux yeux rouges brillants du film Terminator de James Cameron.

Le but évolutif supposé de ce mythe est de nous motiver à considérer sérieusement les risques potentiels des nouvelles technologies - après tout, le feu peut en effet être utilisé pour incendier des villes entières. Mais tout comme le feu est à la fois le fondement de la civilisation moderne, utilisé pour nous garder au chaud et nous protéger dans un monde froid et hostile, ce mythe ignore les plus grands avantages de la plupart, sinon de la totalité, des nouvelles technologies et cause en fait des ravages. L'émotion sexuelle plutôt que analyse rationnelle. Ce n'est pas parce que les anciens ont paniqué comme ça que nous devrions paniquer aussi ; nous pouvons utiliser la raison.

** Je pense que l'idée que l'IA décidera de tuer des humains est une profonde erreur de catégorie. ** L'IA n'est pas un être vivant qui a évolué pendant des milliards d'années pour participer à une lutte pour la survie des plus aptes, comme les animaux et nous-mêmes. Ce sont des ordinateurs à code mathématique, construits, possédés, utilisés et contrôlés par des humains. Penser qu'il développera à un moment donné son propre esprit et décidera qu'il a un motif qui le pousse à essayer de nous tuer est une vague de superstition.

Bref, **l'IA n'a aucune volonté, aucun but, elle ne veut pas vous tuer car elle n'est pas vivante. L'IA est une machine - pas plus vivante que votre grille-pain. **

Maintenant, apparemment, il y a ceux qui croient profondément aux tueurs d'IA - une augmentation soudaine et insensée de la couverture médiatique étouffant leurs terribles avertissements, dont certains prétendent avoir étudié le sujet pendant des décennies et sont maintenant horrifiés par ce qu'ils savent perturbé. Certains de ces vrais croyants sont même de véritables innovateurs de la technologie. Ces personnes préconisent toutes sortes de restrictions bizarres et extrêmes sur l'intelligence artificielle, de l'interdiction du développement de l'intelligence artificielle jusqu'aux frappes aériennes militaires sur les centres de données et la guerre nucléaire. Ils soutiennent que parce que des gens comme moi ne peuvent pas exclure les conséquences potentiellement catastrophiques de l'intelligence artificielle à l'avenir, nous devons adopter une position de précaution qui peut nécessiter une violence physique substantielle et la mort pour prévenir les risques existentiels potentiels.

Ma réponse est que leur position n'est pas scientifique - quelles sont les hypothèses vérifiables ? Quels faits prouveraient que cette hypothèse est fausse ? Comment savons-nous que nous sommes entrés dans une zone dangereuse ? Ces questions restent en grande partie sans réponse, à part "Vous ne pouvez pas prouver que cela n'arrivera pas!" En fait, les positions de ces baptistes sont si non scientifiques et extrêmes - une théorie du complot sur les mathématiques et le code - qu'ils ont appelé la violence physique, donc je vais faire quelque chose que je ne fais pas d'habitude, questionner leurs motivations.

Plus précisément, je pense que trois choses se passent :

Tout d'abord, rappelez-vous la réponse de John von Neumann aux inquiétudes de Robert Oppenheimer concernant sa création d'armes nucléaires - qui a contribué à mettre fin à la Seconde Guerre mondiale et à empêcher la Troisième Guerre mondiale. "Certaines personnes avouent des crimes pour revendiquer leurs crimes, dit-il. Quelle est la meilleure façon de revendiquer l'importance de son travail de manière exagérée sans paraître trop vantard ?" Cela explique l'incohérence des baptistes qui construisent et financent réellement l'IA - surveillez leurs actions, pas leurs paroles. (Truman était encore plus sévère après sa rencontre avec Oppenheimer : « Ne laisse plus entrer ce pleurnichard. »)

Deuxièmement, certains baptistes étaient en fait des contrebandiers. Il y a toute une carrière appelée « expert en sécurité IA », « éthicien IA », « chercheur en risques IA ». Leur travail consiste à être des prophètes de malheur et leurs déclarations doivent être traitées de manière appropriée.

Troisièmement, la Californie est connue pour ses nombreux cultes, de l'EST au People's Temple, de Heaven's Gate à la famille Manson. Beaucoup de ces cultes, mais pas tous, sont inoffensifs et fournissent même une assistance aux aliénés qui y trouvent un foyer. Mais certains sont si dangereux que les sectes ont souvent du mal à marcher sur la ligne de la violence et de la mort.

Et la réalité est, apparemment évidente pour tout le monde dans la Bay Area, que le "risque de l'intelligence artificielle" est devenu un culte, surgissant dans l'attention des médias mondiaux et dans le débat public. Le culte a attiré non seulement des personnalités marginales, mais également de véritables experts de l'industrie et de nombreux donateurs fortunés, dont, jusqu'à récemment, Sam Bankman-Fried. Il a développé tout un ensemble de comportements et de croyances sectaires.

Ce culte n'est pas nouveau - il existe une longue tradition occidentale appelée Millénarisme, qui a engendré le culte de l'Apocalypse. Le culte "AI Risk" a toutes les caractéristiques d'un culte apocalyptique millénariste. De Wikipedia, j'ai fait quelques ajouts:

"Le millénarisme est la croyance d'un groupe ou d'un mouvement [les prophètes du risque de l'intelligence artificielle] qu'un changement fondamental dans la société est imminent [l'arrivée de l'intelligence artificielle], après quoi tout changera [l'utopie de l'intelligence artificielle, la dystopie ou la fin du monde Seuls les événements dramatiques [interdiction de l'IA, frappes aériennes sur les centres de données, frappes nucléaires sur l'IA incontrôlée] sont censés changer le monde [arrêter l'IA], et de tels changements sont censés être provoqués ou survécus par un groupe d'hommes pieux et loyaux. Dans la plupart des épisodes du millénaire, une catastrophe ou une bataille imminente [l'apocalypse ou la prévention de l'IA] serait suivie d'un nouveau, un monde propre [une utopie de l'IA] ».

Ce modèle de sectes apocalyptiques est si évident que je suis surpris que plus de gens ne le voient pas.

Ne vous méprenez pas, les sectes sont amusantes, leur matériel écrit est souvent créatif et engageant, et leurs membres sont charmants lors de dîners et à la télévision. Mais leurs convictions extrêmes ne devraient pas déterminer l'avenir du droit et de la société - et il est clair qu'elles ne le devraient pas.

**Risque IA 2 : L'IA détruira-t-elle notre société ? **

Une deuxième idée de risque largement diffusée par l'IA est que ** l'IA détruira notre société en produisant des résultats « nuisibles » (dans le langage de ces pessimistes), même si nous ne sommes pas réellement tués. **

En bref : ** Si les machines tueuses ne nous font pas de mal, les discours de haine et la désinformation peuvent le faire. **

Il s'agit d'un objectif apocalyptique relativement nouveau qui découle du mouvement « Risque de l'IA » que j'ai décrit ci-dessus, et le domine dans une certaine mesure. En fait, la terminologie du risque lié à l'IA est récemment passée de « sécurité de l'IA » (un terme utilisé par ceux qui craignent que l'IA ne nous tue réellement) à « l'alignement de l'IA » (un terme utilisé par ceux qui s'inquiètent des « dommages » sociétaux) . Frustrés par ce changement, les premiers responsables de la sécurité de l'IA, bien qu'ils ne sachent pas comment le reprendre, préconisent maintenant de renommer le sujet de risque réel de l'IA "AInotkilleveryoneism" (AInotkilleveryoneism), bien que le terme n'ait pas encore été reconnu. clair au moins.

L'indice de la proposition de risque sociétal de l'IA est son propre terme, "AI Alignement". Aligner avec quoi ? Les valeurs humaines. Quelles valeurs humaines ? Oh, et c'est là que les choses se compliquent.

Il se trouve que j'ai été témoin d'une situation similaire - la guerre de la "confiance et de la sécurité" des médias sociaux. Ce qui est clair, c'est qu'au fil des ans, les services de médias sociaux ont été soumis à d'intenses pressions de la part des gouvernements et des militants pour interdire, restreindre, censurer et supprimer les contenus de toutes sortes. Et les préoccupations concernant le "discours de haine" (et son homologue mathématique "biais algorithmique") et la "désinformation" sont passées directement du contexte des médias sociaux au nouveau domaine de "l'alignement de l'IA".

Les principales leçons que j'ai tirées des guerres des médias sociaux sont :

D'une part, il n'y a pas de position absolue de liberté d'expression. Premièrement, chaque pays, y compris les États-Unis, considère qu'au moins certains contenus sont illégaux. Deuxièmement, certains types de contenus, tels que la pédopornographie et l'incitation à la violence dans le monde réel, sont généralement considérés comme interdits dans presque toutes les sociétés, qu'elles soient légales ou non. Par conséquent, toute plate-forme technologique qui facilite ou génère du contenu - la parole - aura certaines limites.

D'autre part, la pente glissante n'est pas un mythe, mais une fatalité. Une fois qu'un cadre est en place pour limiter même le contenu le plus flagrant - comme le discours de haine, certains termes blessants ou la désinformation, les affirmations manifestement fausses (telles que "le pape est mort") - diverses agences gouvernementales, groupes de pression militants et non -les entités gouvernementales agiront rapidement pour exiger une censure accrue et la suppression de la parole qu'elles considèrent comme une menace pour la société et/ou leurs préférences personnelles. Ils le feront par des moyens qui incluent le crime flagrant. Ce cycle semble s'éterniser dans la pratique, soutenu par des moniteurs officiels enthousiastes dans nos structures de pouvoir d'élite. Cela a été le cas dans l'espace des médias sociaux pendant une décennie, et à quelques exceptions près, cela ne fait qu'empirer.

Alors maintenant, il y a cette dynamique qui se forme autour de "l'alignement de l'IA". Ses partisans prétendent embrasser la sagesse d'adopter les discours et les idées générés par l'IA qui sont bénéfiques pour la société, et d'interdire les discours et les idées générés par l'IA qui sont nocifs pour la société. Ses opposants affirment que la police de la pensée est extrêmement arrogante, autoritaire et souvent manifestement criminelle, du moins aux États-Unis, et tente en fait de devenir une nouvelle dictature gouvernementale-entreprise-universitaire de discours autoritaire, venant directement à George F. Orwell. 1984.

Les partisans à la fois de la "confiance et de la sécurité" et de "l'alignement de l'IA" sont concentrés dans un segment très étroit de la population mondiale caractérisé par l'élite côtière américaine, qui comprend de nombreuses personnes qui travaillent et écrivent sur l'industrie technologique. En conséquence, beaucoup de mes lecteurs se trouveront conditionnés à affirmer que des limites massives sur la production de l'IA sont nécessaires pour éviter de perturber la société. Je n'essaierai pas de vous convaincre maintenant, je dirai simplement que c'est la nature du besoin et que la majeure partie du monde n'est pas d'accord avec votre idéologie ni ne veut vous voir gagner.

Si vous n'êtes pas d'accord avec la moralité étroite actuellement imposée aux médias sociaux et à l'IA par le biais de normes de discours intensifiées, vous devez également être conscient que la lutte sur ce que l'IA est autorisée à dire/générer sera bien plus importante que la lutte contre la censure des médias sociaux. beaucoup plus important. L'IA deviendra très probablement la couche de contrôle de tout dans le monde. La façon dont il est autorisé à fonctionner importera probablement plus que toute autre chose. Vous devez savoir qu'une poignée d'ingénieurs sociaux partisans isolés tentent de décider comment l'IA devrait fonctionner maintenant sous le couvert de la poursuite d'une vieille rhétorique qui vous protège.

En bref, ne laissez pas la police de la pensée supprimer l'IA.

**Risque IA 3 : L'IA prendra-t-elle tous nos emplois ? **

**Il existe une crainte constante de perte d'emploi due au remplacement du travail humain par des machines sous diverses formes telles que la mécanisation, l'automatisation, l'informatisation ou l'intelligence artificielle. **Cette préoccupation persiste depuis des centaines d'années, depuis l'avènement des dispositifs mécaniques tels que les métiers à tisser mécaniques. Alors que chaque nouvelle technologie majeure a historiquement conduit à plus d'emplois bien rémunérés, chaque vague de panique s'est accompagnée d'un récit "cette fois est différent" - cette fois, cela arrivera, cette fois c'est la technologie. coup porté au travail humain. Cependant, cela ne s'est jamais produit.

Dans un passé récent, nous avons connu deux cycles de paniques liées au chômage liées à la technologie : les peurs de l'externalisation des années 2000 et les peurs de l'automatisation des années 2010. Alors que de nombreux médias, experts et même des dirigeants de l'industrie technologique ont continué à taper sur la table tout au long des deux décennies, affirmant qu'un chômage de masse était imminent, à la fin de 2019 - avant l'épidémie de COVID - les opportunités d'emplois dans le monde sont plus grandes qu'à n'importe quel moment de l'histoire, et les salaires sont plus élevés.

Cependant, cette fausse idée ne disparaît pas.

Effectivement, c'est revenu.

Cette fois, nous avons enfin la technologie qui supprimera tous les emplois et rendra le travail humain inutile - la véritable intelligence artificielle. Bien sûr, l'histoire ne se répétera pas simplement cette fois, cette fois : l'intelligence artificielle provoquera un chômage de masse plutôt qu'une croissance économique rapide, plus d'emplois et des salaires plus élevés. droite?

Non, cela ne se produira certainement pas, et si l'IA est autorisée à se développer et à se répandre dans l'économie, elle pourrait conduire au boom économique le plus excitant et le plus durable de tous les temps, avec en conséquence une création d'emplois record et une croissance des salaires - exactement le contrairement à ce que les gens craignaient. La raison en est la suivante.

**L'automatisation tue les emplois **** Cette erreur est qu'il y a une quantité fixe de travail qui doit être effectuée dans l'économie à un moment donné, soit par des machines, soit par des humains, et si cela est fait par des machines, alors les gens n'ont pas de travail à faire. **

Le sophisme du travail global découle naturellement de l'intuition, mais cette intuition est fausse. **Lorsque la technologie est appliquée à la production, nous obtenons une croissance de la productivité - une augmentation de la production produite en réduisant les intrants. **Le résultat est une baisse des prix des biens et services. À mesure que les prix des biens et des services baissent, nous payons moins, ce qui signifie que nous avons maintenant un pouvoir d'achat supplémentaire pour acheter d'autres choses. Cela augmente la demande dans l'économie, entraînant une nouvelle production - à la fois de nouveaux produits et de nouvelles industries - créant de nouveaux emplois pour les personnes déplacées par les machines. ** Le résultat est une plus grande économie, plus de prospérité matérielle, plus d'industries, plus de produits, plus d'emplois. **

Mais la bonne nouvelle est plus que cela. Nous recevons également des salaires plus élevés. En effet, au niveau du travailleur individuel, le marché détermine la rémunération en fonction de la productivité marginale du travailleur. Un travailleur dans une industrie axée sur la technologie est plus productif qu'un travailleur dans une industrie traditionnelle. Soit l'employeur paiera plus en fonction de l'augmentation de la productivité du travailleur, soit un autre employeur le fera par pur intérêt personnel. Le résultat est que les industries qui introduisent la technologie augmenteront non seulement les possibilités d'emploi, mais aussi les salaires.

En conclusion, la technologie de pointe permet aux gens de travailler plus efficacement. Cela entraîne une baisse des prix des biens et services existants et une augmentation des salaires. Cela stimule à son tour la croissance économique et la croissance de l'emploi, et stimule la création de nouveaux emplois et de nouvelles industries. ** Si l'économie de marché peut fonctionner correctement et que la technologie peut être introduite librement, ce sera un cycle ascendant sans fin. Comme Friedman l'a observé, "les désirs et les besoins humains sont inépuisables" - nous voulons toujours plus que nous n'avons. Une économie de marché qui embrasse la technologie est la façon dont nous nous rapprochons de la réalisation de tout ce que tout le monde peut imaginer, mais jamais tout à fait. C'est pourquoi la technologie ne détruira pas les emplois, elle ne le fera jamais.

Pour ceux qui n'ont pas été exposés à ces idées, ce sont des pensées choquantes qui peuvent prendre un certain temps à comprendre. Mais je jure que je ne les invente pas - en fait, vous pouvez tous les lire dans les manuels d'économie standard. Je recommande le chapitre "La malédiction de la machine" d'Henry Hazlitt dans Economics in One Lesson, et la satire de Frederic Bastiat "The Candlemaker's Petition" qui proteste contre le soleil parce que le soleil a injustement concurrencé l'industrie de l'éclairage. Nous avons aussi la version moderne de notre temps.

Mais vous pourriez penser que cette fois est différente. Cette fois, avec l'avènement de l'intelligence artificielle, nous disposons d'une technologie qui peut remplacer tout le travail humain.

Mais, en suivant les principes que j'ai décrits ci-dessus, imaginez ce que cela signifierait si tout le travail humain existant était remplacé par des machines.

Cela signifierait que la croissance de la productivité économique décollerait à un rythme absolument astronomique, dépassant de loin tout précédent historique. Les prix des biens et services existants tomberont presque à zéro dans tous les domaines. Le bien-être des consommateurs va monter en flèche. Le pouvoir d'achat des consommateurs va monter en flèche. Il y aura une poussée de nouvelle demande dans l'économie. Les entrepreneurs créeront une gamme vertigineuse de nouvelles industries, de nouveaux produits et de nouveaux services, et embaucheront autant d'IA et de travailleurs que possible, aussi vite que possible, pour répondre à toutes les nouvelles demandes.

Et si l'intelligence artificielle remplaçait à nouveau ces travailleurs ? Ce cycle se répétera, entraînant le bien-être des consommateurs, la croissance économique et une croissance plus élevée de l'emploi et des salaires. Ce serait une spirale ascendante linéaire, menant à une utopie matérielle dont Adam Smith et Karl Marx n'ont jamais osé rêver.

Nous devrions être aussi chanceux.

**Risque 4 de l'IA : l'intelligence artificielle entraînera-t-elle de graves inégalités ? **

En parlant de Karl Marx, les inquiétudes concernant l'IA prenant des emplois mènent directement au prochain risque revendiqué de l'IA, qui est, eh bien, Marc, en supposant que l'IA prend tous les emplois, que ce soit pour le bien ou pour le mal. Alors, le fait qu'être propriétaire de l'intelligence artificielle récolterait toutes les récompenses financières et que les gens ordinaires n'obtiendraient-ils rien ne conduirait-il pas à d'énormes et graves inégalités de richesse ?

À juste titre, il s'agit d'une thèse marxiste centrale selon laquelle les propriétaires des moyens de production - la bourgeoisie - volent inévitablement toute la richesse de la société à ceux qui travaillent réellement - le prolétariat. Peu importe combien de fois la réalité prouve qu'elle est fausse, l'erreur ne semble jamais mourir. Mais réfutons-le quand même.

Le défaut de cette théorie est qu'en tant que propriétaire d'une technologie, vous n'avez pas intérêt à la conserver et à ne pas la partager. En fait, c'est l'inverse, votre intérêt est de la vendre au plus grand nombre de clients possible. . Le plus grand marché du monde est le marché mondial, comprenant 8 milliards de personnes. Ainsi, en réalité, chaque nouvelle technologie - même si elle commence par être vendue à de grandes entreprises bien rémunérées ou à des consommateurs fortunés - se propage rapidement jusqu'à ce qu'elle tombe entre les mains du plus grand marché de masse possible, couvrant finalement l'ensemble de la planète.

L'exemple classique en est le soi-disant "plan secret" d'Elon Musk en 2006 - qu'il a rendu public bien sûr - sur les plans de Tesla :

première étape, construire la voiture de sport [coûteuse] ;

La deuxième étape consiste à utiliser l'argent gagné lors de la première étape pour construire une voiture abordable ;

Étape 3, utilisez l'argent gagné à l'étape 2 pour construire une voiture plus abordable.

C'est bien sûr ce qu'il a fait et a fini par être l'homme le plus riche du monde.

Le dernier point est critique. Musk serait-il plus riche s'il ne vendait aujourd'hui que des voitures aux riches ? Ne le fera pas. Serait-il plus riche qu'il ne l'est maintenant s'il ne construisait que des voitures pour lui-même ? Bien sûr que non. Non, il maximise ses profits en vendant sur le plus grand marché possible au monde.

En bref, tout le monde peut avoir cette chose, comme nous l'avons vu dans le passé avec les automobiles, l'électricité, les radios, les ordinateurs, Internet, les téléphones portables et les moteurs de recherche. Les entreprises qui fabriquent ces technologies sont très motivées pour baisser les prix jusqu'à ce que tout le monde sur la planète puisse se les offrir. C'est exactement ce qui se passe déjà dans l'IA - c'est pourquoi vous pouvez l'utiliser aujourd'hui sur une IA générative de pointe gratuite ou à faible coût sous la forme de Microsoft Bing et Google Bard - et cela va continuer à se produire. Non pas parce que ces fournisseurs sont stupides ou généreux, mais précisément parce qu'ils sont cupides - ils veulent maximiser la taille du marché et donc maximiser les profits.

Ce qui se passe est donc à l'opposé de la théorie selon laquelle la technologie stimule la concentration de la richesse - l'utilisateur individuel de la technologie, qui inclut finalement chaque être humain sur la planète, est plutôt responsabilisé et capte la majeure partie de la valeur générée. Comme pour les technologies précédentes, les entreprises qui construisent l'IA - en supposant qu'elles doivent opérer sur un marché libre - se précipiteront pour en faire une réalité.

Marx avait tort alors, et il a tort maintenant.

Cela ne veut pas dire que l'inégalité n'est pas un problème dans notre société. C'est un problème, sauf qu'il n'est pas motivé par la technologie, mais plutôt par les secteurs de l'économie qui sont les plus résistants aux nouvelles technologies et où le gouvernement intervient le plus pour empêcher l'adoption de nouvelles technologies comme l'intelligence artificielle, en particulier le logement, l'éducation et soins de santé. ** Le risque réel de l'IA et des inégalités n'est pas que l'IA causera plus d'inégalités, mais que nous ne permettrons pas que l'IA soit utilisée pour réduire les inégalités. **

**Risque IA 5 : L'IA incitera-t-elle les personnes malveillantes à faire de mauvaises choses ? **

Jusqu'à présent, j'ai expliqué comment quatre des cinq risques d'IA les plus fréquemment soulevés ne sont pas réellement réels : l'IA ne prendra pas vie pour nous tuer, l'IA ne détruira pas notre société, l'intelligence artificielle ne le fera pas. L'intelligence ne dirigera pas. au chômage de masse, et l'IA ne conduira pas à des augmentations dévastatrices des inégalités. Mais parlons maintenant du cinquième, et c'est celui avec lequel ** je suis en fait d'accord : l'IA permettra aux méchants de faire plus facilement de mauvaises choses. **

En un sens, il s'agit d'un argument circulaire. La technologie est un outil. En commençant par le feu et la pierre, les outils peuvent être utilisés pour le bien – cuisiner et construire des maisons – et pour le mal – brûler et battre. Toute technologie peut être utilisée à de bonnes ou de mauvaises fins. compréhensible. Et l'IA permettra aux criminels, aux terroristes et aux gouvernements hostiles de faire plus facilement de mauvaises choses, cela ne fait aucun doute.

Cela a amené certaines personnes à dire, eh bien, si c'est le cas, interdisons l'IA dans ce cas avant que de mauvaises choses n'arrivent. Malheureusement, l'IA n'est pas une substance arcanique difficile à obtenir comme le plutonium. Bien au contraire, c'est le matériel le plus accessible au monde - les mathématiques et le code.

Apparemment, les chats IA sont hors de l'emballage. Vous pouvez apprendre à construire l'intelligence artificielle avec des milliers de cours, livres, articles et vidéos en ligne gratuits, et il y a de plus en plus d'implémentations open source exceptionnelles chaque jour. L'IA est comme l'air, elle sera partout. Pour l'attraper, le niveau de répression totalitaire requis serait si sévère - un gouvernement mondial qui surveille et contrôle tous les ordinateurs ? Des flics armés dans des hélicoptères noirs attaquant des GPU voyous ? — Nous n'aurons pas de société à protéger.

Nous avons donc deux façons très simples de gérer le risque que de mauvais acteurs utilisent l'IA pour faire de mauvaises choses, et c'est sur cela que nous devrions nous concentrer.

** Premièrement, nous avons mis en place des lois pour criminaliser la plupart des utilisations de l'intelligence artificielle à des fins malveillantes. ** Piratage du Pentagone ? C'est un crime. Voler de l'argent à la banque ? C'est un crime. Fabriquer des armes biologiques ? C'est un crime. Mener un attentat terroriste ? C'est un crime. Nous devons simplement nous concentrer sur la prévention de ces crimes lorsque nous le pouvons et les poursuivre lorsque nous ne le pouvons pas. Nous n'avons même pas besoin de nouvelles lois - je ne sais pas s'il y a un cas réel qui a été soulevé pour une utilisation malveillante de l'IA qui n'est pas déjà illégal. Si de nouvelles mauvaises utilisations sont découvertes, nous interdisons ces utilisations. Certificat complété.

Mais vous remarquerez ce que je viens de dire - j'ai dit que nous devrions d'abord nous concentrer sur la prévention de la criminalité assistée par l'IA avant que de mauvaises choses n'arrivent - cela ne signifie-t-il pas interdire l'IA ? Eh bien, il existe un autre moyen d'empêcher un tel comportement et c'est d'utiliser l'IA comme outil défensif. La même IA qui habilite les mauvaises personnes avec de mauvais objectifs est tout aussi puissante entre les mains de bonnes personnes – en particulier les bonnes personnes chargées d'empêcher que de mauvaises choses ne se produisent.

Par exemple, si vous craignez que l'intelligence artificielle génère de fausses personnes et de fausses vidéos, la réponse est de créer de nouveaux systèmes qui permettent aux gens de s'authentifier et d'authentifier le contenu réel grâce à des signatures cryptographiques. La création numérique et la modification de contenus réels et faux existaient avant l'IA ; la réponse n'est pas d'interdire les traitements de texte et Photoshop - ou l'IA - mais d'utiliser la technologie pour construire un système qui résout réellement le problème.

Donc ** la deuxième approche est, utilisons l'intelligence artificielle de manière agressive à des fins bénignes, légitimes et défensives. Tirons parti de l'IA dans la cyberdéfense, la biodéfense, la traque des terroristes et tout ce que nous faisons pour nous protéger, protéger nos communautés et notre nation. **

Bien sûr, de nombreuses personnes intelligentes à l'intérieur et à l'extérieur du gouvernement font déjà ce genre de travail - mais si nous concentrons tous les efforts et l'intelligence actuels sur l'interdiction inefficace de l'intelligence artificielle dans l'utilisation de l'intelligence artificielle pour empêcher les mauvaises personnes de faire de mauvaises choses , Je crois qu'un monde plein d'intelligence artificielle Un monde intelligent sera plus sûr que le monde dans lequel nous vivons aujourd'hui.

Les risques réels de ne pas mettre en œuvre l'IA à une puissance et une vitesse maximales

Il existe un dernier et réel risque lié à l'IA qui peut être le plus effrayant de tous :

L'IA est exploitée non seulement dans les sociétés occidentales relativement libérales, mais aussi en Chine.

La Chine a une vision de l'IA très différente de la nôtre. Ils ne le gardent même pas secret et ils ont clairement indiqué qu'ils poursuivaient déjà leurs objectifs. Et, ils n'ont pas l'intention de limiter leur stratégie d'IA à la Chine - ils ont l'intention de le faire là où ils fournissent des réseaux 5G, offrent des prêts Belt and Road, offrent des applications conviviales comme TikTok comme interface centralisée de contrôle et de commande d'IA, se propageant à tous les coins du monde.

** Le plus grand risque pour l'IA est que la Chine gagne la domination mondiale de l'IA alors que nous - les États-Unis et l'Occident - ne le faisons pas. **

Je propose une stratégie simple pour faire face à ce problème - en fait, c'est la stratégie que le président Ronald Reagan a adoptée lorsqu'il a remporté la première guerre froide avec l'Union soviétique.

"Nous gagnons, ils perdent."

Au lieu d'être mis en veilleuse par les peurs infondées entourant les tueurs d'IA, l'IA nuisible, l'IA destructrice d'emplois et l'IA génératrice d'inégalités, nous, aux États-Unis et en Occident, devrions être aussi pleinement investis que possible dans l'IA.

Nous devons mener la course mondiale à la supériorité technologique dans l'IA et nous assurer que la Chine ne gagne pas.

Dans le processus, nous devrions introduire l'IA dans nos économies et nos sociétés aussi rapidement et vigoureusement que possible afin de maximiser ses avantages pour la productivité économique et le potentiel humain.

C'est le meilleur moyen de compenser les risques réels de l'intelligence artificielle et de faire en sorte que notre mode de vie ne soit pas remplacé par la vision de la Chine.

**Que devrions nous faire? **

Je suis venu avec un plan simple:

**• Les grandes entreprises d'IA devraient être autorisées à développer l'IA aussi rapidement et aussi agressivement que possible ** - mais pas à obtenir un monopole réglementaire, à ne pas créer de cartel protégé par le gouvernement et à être libérées des fausses déclarations sur les risques de concurrence de l'IA sur le marché. Cela maximisera les avantages technologiques et sociaux des incroyables capacités de ces entreprises, joyaux du capitalisme moderne.

**• Les startups d'IA devraient être autorisées à développer l'IA aussi rapidement et aussi agressivement que possible. **Ils ne devraient ni faire face aux protections que les grandes entreprises reçoivent du gouvernement, ni recevoir d'aide gouvernementale. Ils devraient seulement être autorisés à concourir. Si les startups ne réussissent pas, leur présence sur le marché motivera également continuellement les grandes entreprises à bien faire – et notre économie et notre société sont de toute façon gagnantes.

**• L'IA open source devrait être autorisée à se diffuser librement et à concurrencer les grandes entreprises d'IA et les startups. **L'open source ne devrait pas avoir d'obstacles réglementaires. Même si l'open source ne séduit pas les entreprises, sa large disponibilité est une aubaine pour les étudiants du monde entier qui souhaitent apprendre à construire et à utiliser l'intelligence artificielle pour faire partie de l'avenir de la technologie et s'assurer que, peu importe qui ils sont ou combien d'argent ils ont, AI travaillera pour eux disponible.

**• Pour contrer le risque que des acteurs malveillants utilisent l'IA pour faire de mauvaises choses, les gouvernements, en partenariat avec le secteur privé, devraient s'engager activement dans tous les aspects des zones à risque potentielles, en utilisant l'IA pour maximiser les défenses de la société. ** Cela ne doit pas se limiter aux risques d'IA, mais inclut des problèmes plus généraux tels que la malnutrition, les maladies et les problèmes climatiques. L'IA peut être un outil extrêmement puissant pour la résolution de problèmes, et nous devrions la considérer comme telle.

**• Afin d'éviter le risque que la Chine n'atteigne la domination mondiale de l'IA, nous devons utiliser pleinement le pouvoir de notre secteur privé, des instituts de recherche scientifique et du gouvernement pour promouvoir conjointement la domination absolue de l'IA américaine et occidentale à l'échelle mondiale. , et éventuellement même dans le Il en est de même en Chine. Nous gagnons, ils perdent. **

C'est ainsi que nous pouvons utiliser l'intelligence artificielle pour sauver le monde.

Il est temps d'agir.

Légendes et héros

Je termine par deux déclarations simples.

Le développement de l'intelligence artificielle a commencé dans les années 1940, en même temps que l'invention des ordinateurs. Le premier article scientifique sur les réseaux de neurones - l'architecture de l'intelligence artificielle que nous avons aujourd'hui - a été publié en 1943. Au cours des 80 dernières années, une génération entière de scientifiques de l'IA est née, est allée à l'école, a travaillé et, dans de nombreux cas, est décédée sans voir les récompenses que nous obtenons maintenant. Ce sont des légendes, chacune d'elles.

Aujourd'hui, un nombre croissant d'ingénieurs - dont beaucoup sont jeunes et peuvent avoir des grands-parents ou même des arrière-grands-parents impliqués dans la création des idées derrière l'IA - travaillent à donner vie à l'IA, malgré un mur de panique et de pessimisme pour les méchants. Je ne pense pas qu'ils soient téméraires ou méchants. Ce sont des héros, tout le monde. Mon entreprise et moi sommes plus qu'heureux de soutenir autant d'entre eux que possible, et nous les soutiendrons ainsi que leur travail à 100 %.

** "Au fil des ans, les millénaristes ont souvent [les prédicteurs de risque de l'intelligence artificielle continuellement] tenté de prédire le moment exact de tels événements futurs, souvent par l'interprétation de divers signes et précurseurs. Cependant, les prédictions historiques ont presque toujours échoué. Fini [actuellement il n'y a aucune preuve crédible que l'IA tuera des humains]. ** Cependant, leurs fans [des prédicteurs de risque d'IA] essaient généralement de réviser les explications pour s'aligner sur [les risques potentiels dans l'avenir de l'IA] lorsque des événements se produisent.

Les membres de la secte du "risque de l'IA" peuvent ne pas être d'accord avec moi, et ils peuvent insister sur le fait qu'ils sont rationnels, basés sur la science et que je suis un adepte du lavage de cerveau. Notez cependant que je ne prétends pas que "l'intelligence artificielle ne sera jamais une menace pour l'humanité". Je signale juste qu'il n'y a aucune preuve à ce jour pour soutenir la thèse "l'IA nous tuera". Au lieu de nous laisser aller à la panique et aux réactions sectaires, nous devrions faire des évaluations rationnelles basées sur les preuves disponibles.