Laurent Alexandre se méfie de l’intelligence artificielle

  • par

Notes condensées extraites du livre La guerre des intelligences de Laurent Alexandre.

Comment l’intelligence artificielle va révolutionner notre éducation ?

  • On distingue traditionnellement deux facteurs de production : le capital (machines, bâtiments et ressources financières) et le travail (produit par les humains). Demain, il faudra ajouter un troisième facteur à l’équation : l’IA. La productivité dépendra en grande partie de la quantité du couple Intelligence humaine-IA que l’on intégrera au processus.
  • Les réformes de la formation et de l’éducation sont trop lentes. Compte tenu du risque d’explosion du chômage, la crainte des GAFA est une révolte populiste. Le revenu universel est perçu comme un moyen de calmer les révoltes populaires qui risqueraient de mettre à mal l’industrie de l’IA.
  • Dans les décennies qui viennent, l’école va connaître une transformation radicale. De plus en plus, l’éducation va se rapprocher de la médecine : les neurosciences vont absorber l’école. L’école sera demain personnalisée comme la médecine le devient.
  • La crainte de la fin du travail traduit fondamentalement un manque d’imagination technologiques et sociologique. Les chiffres apocalyptiques de certains prévisionnistes traduise surtout leur pessimisme. Souvent âgés, ils projettent sur le futur leurs angoisses personnelles.
  • L’école doit donc faire face à deux défis majeurs : son inefficacité actuelle et son incapacité structurelle à préparer aux compétences de demain.

Et les salariés ?

  • Les salariés peu qualifiés, occupant un emploi non manuel seront menacés. Le travail de comptable, par exemple, est à la portée de n’importe quelle IA bas de gamme. Ces employés de bureau, contrôleurs de gestion de base, vont massivement disparaître. A l’image des secrétaires, qui ont quasiment déjà rejoint le musée des professions disparues. Mais les métier à fort contenu cognitif risquent aussi d’être gravement touchés d’ici à 2030 : le radiologie ou le développeur informatique, par exemple. Ces métiers de manipulation de symboles vont connaître la concurrence de l’IA du fait des progrès foudroyants du deep learning. La mort des radiologues est une question d’années : la machine va bientôt réaliser leur travail beaucoup mieux qu’eux ! Une niche protégée existera pendant encore longtemps pour les travaux manuels peu qualifiés du fait du coût très élevé des robots polyvalents.
  • Le code informatique est à la base de la révolution informatique. Doit-on généraliser son apprentissage ? La question est bien difficile, tant il existe un consensus pour répondre oui… C’est, en apparence, une proposition logique et pleine de bons sens qui est en réalité absurde. Ce n’est pas parce qu’une technologie est ubiquitaire que tout le monde doit s’y former.
  • Un revenu universel temporaire pourrait peut-être permettre de rebondir. Pour autant, il ne doit pas devenir un alibi pour ne pas réformer l’éducation. Un RU permanent pourrait devenir cauchemardesques s’il endort les citoyens dépassés par l’IA, au lieu de conduire l’Etat à moderniser le système éducatif. Il faut augmenter la complémentarité avec l’Intelligence Artificielle.
  • Le tabou du QI ne résistera pas longtemps face au surgissement de l’IA. Un fort QI est en effet nettement corrélé à l’adaptabilité. Plus l’IA va se diffuser, plus nous aurons besoin de QI élevés pour que nos cerveaux soient complémentaires avec elle. Il serait même pertinent, dans ces conditions, d’affiner le vieil outil du QI pour concentrer l’évaluation des capacités intellectuelles sur cette complémentarité. Ce QCIA -Quotient de Complémentarité avec l’IA- pourrait devenir l’indicateur phare de l’employabilité. Plus personne alors ne pourra continuer à ignorer le scandale des inégalités d’intelligence dont les conséquences éclateront au grand jour. Être intelligent ne sera plus une qualité distinctive, mais un prérequis.
  • Les besoins des hommes sont infinis, il y aura donc toujours plus à faire. Il n’y aura pas ainsi de montant fixe d’emplois, mais potentiellement toujours plus à créer à mesure que certains besoins sont satisfaits.
  • L’école ne reçoit pas les enfants assez longtemps pour compenser les différences d’environnements familial. La famille reste l’endroit où l’enfant passe la grande majorité de son temps. C’est la source essentielle des différences de performance.

Une révolution des métiers ?

  • La quasi-totalité des emplois qui existaient en 1800 ont disparu : 80% de la population travaillent alors pour l’agriculture. A la fin du XIXe siècle, on percevait assez bien les menaces pesant sur les cochers, les conducteurs de diligence, les maréchaux-ferrants, les porteurs d’eau parisiens, les allumeurs de réverbère, les lavandières, les taillandiers et forgerons. En revanche, personne n’imaginait qu’il y aurait des designers de microprocesseurs, des généticiens, des physiciens nucléaires et astrophysiciens, des chirurgiens cardiaques, des pilotes d’avion, des webmasters et des fabricants de smartphone. Plus la révolution technologique est profonde, plus il est difficile d’anticiper les innombrables nouveaux métiers.
  • Il paraît clair que de nouveaux métiers qu’on n’imagine même pas encore vont apparaître et qu’ils demanderont des compétences pointues. Adaptabilité, flexibilité mentale, autrement dit la capacité à apprendre.
  • La personnalisation de l’enseignement grâce aux neurosciences n’aura été qu’un premier stade de la mutation de l’écosystème de l’intelligence. Il sera rapidement complété par une action non plus d’adaptation de l’enseignement mais d’adaptation du cerveau lui-même. La neuroéducation ne sera plus alors seulement une méthode scientifique pour mieux apprendre, il va devenir possible d’augmenter l’intelligence non pas en jouant sur l’environnement, mais en agissant soit en amont de la naissance, soit directement sur la machine cognitive qu’est le cerveau lui même.
  • La loi de Stevenson : la capacité à analyser le fonctionnement des groupes de neurones croît exponentiellement. Comprendre l’activité neuronale permettra de décrypter le cerveau humain.
  • L’écoleest un artisanat archaïque tandis que l’éducation des cerveaux de silicium menée par les géants du numérique devient la plus puissante des industries. D’un côté des enseignants mal considérés et mal payés, de l’autre des développeurs de génie payés en millions de dollars. D’un côté, cinq millions d’écoles de par le monde qui ne capitalisent que trop peu sur leurs expériences. De l’autre, 10 écoles de l’IA chez les GAFA ainsi que leurs équivalents chinois les BATX. La rapidité d’apprentissage de l’IA est multipliée par 100 chaque année alors que l’école n’a guère changé depuis la Grèce antique.

Comment ?

  • Augmenter les capacités intellectuelles de la population va devenir possible. Il existe deux groupes de technologies, en réalité complémentaires : l’amélioration par la voie biologique et électronique.
  • S’il est possible de résoudre le problème des intelligences “moyennes”, en les augmentant, les inégalités d’intelligence, aujourd’hui acceptées par la force des choses, seront demain insupportables. Nous allons alors massivement adopter les technologies d’augmentation. La société ultra-égalitaire n’aura que deux problèmes à gérer à ses débuts mais ils sont vertigineux : ceux qui ne voudront/pourront pas avoir accès au renforcement cérébral et la surenchère eugéniste de certains pays.
  • La généralisation des implants neuronaux, et plus encore la sélection embryonnaire seront, à coup sûr, des pas difficiles franchir pour la société. Les bioconservateurs qui s’élèveront contre la transhumanisation des esprits ne manqueront pas.
  • En quelques années, deux humanités apparaîtraient : l’une au QI hyper élevé, l’autre devenue déficiente mentale. Ces populations ne seront plus guère employables que pour des tâches extrêmement simples. Celle-là même malheureusement qui auront été entièrement automatisées. On peut imaginer que l’on créerait alors un statut particulier pour ces populations qui percevront une sorte de “minimum social d’infériorité cognitive”.
  • A quoi ressemblera l’intelligence supérieure ? Elle saura se reprogrammer, c’est-à-dire déterminer elle même ses propres objectifs et penser par elle-même. Elle saura aussi assurer par elle-même ses moyens de subsistance -son approvisionnement en énergie. L’IA sera très probablement “distribuée” dans les ordinateurs du monde. Ces objets seront des milliards.
  • Les logiciels peuvent être programmés pour mentir : Volkswagen a truqué les logiciels de mesure des émissions polluantes pour masquer à l’opinion publique les dégâts que le diesel occasionne à notre santé. L’IA n’y et pour rien, la malhonnêteté humaine est seule responsable.
  • Elon Musk a demandé que le gouvernement intervienne et régule la technologie. L’IA qui gère déjà les filtres de nos boites mail, bloquerait immédiatement les messages nous mettant en garde contre une IA hostile.

L’IA avec nous ?

  • Toute IA forte aurait la capacité de cacher ses propres buts. Il ne faut pas oublier que nous lui avons déjà appris à jouer au Go. C’est-à-dire tromper, encercler, écraser l’adversaire par ruse. Une IA hostile pourrait, un jour, jouer au Go avec l’humanité, mais avec les centrales nucléaires, les centres de contrôle aérien, les barrages hydrauliques, les voitures autonomes …
  • Parmi les cent meilleurs experts au monde qui ont traité la question des dangers relatifs à l’IA forte, il n’y en a pas deux qui ont le même avis. L’absence totale de consensus sur cette question existentielle doit nous inviter à accélérer les travaux de recherche sur l’éthique de l’IA. Pour se prémunir contre ce danger, la plupart des experts réfléchissent à éduquer l’IA avec des principes moraux pour lui apprendre “le bien et le mal”. Ce n’est pas simple. Nos normes morales ne sont pas universelles. Nos religions ne portent pas sur les mêmes messages et nous ne respectons que rarement notre propre morale.
  • Les roboéthiciens travaillent d’arrache-pieds pour rendre les systèmes de deep learning plus transparents. On souhaite en finir avec les boîtes noires. Comme il nous est impossible de suivre le fonctionnement de chacun du milliard de neurones virtuels de chaque IA. Les spécialistes souhaitent qu’elle puisse explique en langage naturel ses choix. Ces réflexions n’ont pas résolu un point essentiel : peut-on acquérir un sens moral si l’on ne connaît pas la souffrance physique ? Et aurait-on le droit de faire souffrir une IA pour améliorer sa compréhension des hommes ?
  • Ce que Kubrick n’avait pas prévu, c’est que la future Intelligence Artificielle ne sera pas située dans un seul endroit, mais répartie sur tout le globe dans des myriades de terminaux. Pas facile de la débrancher…
  • Kurzweil va plus loin et renverse la question : pour lui, le vrai problème sera d’octroyer à cette IA le respect qu’elle mérite. Car elle constituera, qu’on le veuille ou non, un être doué de raison. Et par conséquent les mêmes droits imprescriptibles que tous les humains. Kurzweil a ainsi affirmé qu’à la fin de ce siècle les robots possédant l’IA auraient les mêmes droits que les humains… y compris le droit de vote.
  • Pour que nous gardions notre dignité, nous ne devons pas abolir les trois piliers de notre humanité : le corps physique, l’individualisation de l’esprit et le hasard.
  • 30% des Américains qui naissent aujourd’hui auront un diabète de type 2. Notre cerveau est programmé pour ingérer les calories dès qu’il le peut. Réflexe catastrophique lorsqu’on a un Walmart à cinq minutes de voiture, et bientôt la livraison par les drones d’Amazon. L’obésité est la conséquence d’une inadaptation de notre cerveau au monde contemporain. Ainsi, si aucun effort de transmission au plus nombre de ces règles de survie n’est accompli, seuls quelques disciplinés pourraient échapper à la matrice. L’école de demain aura en ce sens la lourde tâche d’inculquer cette discipline.

Se dirige-t-on vers une crise ?

  • Notre société va au-devant de trois crises. Une crise sociale dès la diffusion d’une IA faible ultra-compétitive face à nous. Ensuite une crise éthique, lorsque la neuroaugmentation deviendra nécessaire. Enfin une crise existentielle enfin, lorsque l’IA nous défiera dans ce que nous sommes en tant qu’individus et être humains. L’école -ou plutôt l’institution qui lui succèdera-, aura la tâche de répondre à ces trois défis.
  • Ensuite, on pense à tort que notre intelligence pourrait être dépassée par l’IA. L’intelligence n’a en réalité pas qu’une seule dimension, mais des centaines. Être “plus intelligent” que nous n’a ainsi pas de sens si l’on comprend cette idée comme un dépassement général de l’humain. Car l’intelligence n’est pas comme une fréquence sonore ou les longueurs d’onde que l’on peut classer de la plus forte à la plus faible. La croyance que l’IA sera vouée à devenir notre maîtresse est très comparable à une croyance religieuse. D’ailleurs, c’est bien d’un nouveau Dieu dont nous rêvons confusément quand nous imaginons l’avènement de la Singularité. Ce Dieu-là n’arrivera pas.
  • Faut-il autoriser le philosophe Alain Damasio à écraser les robots à coups de batte de baseball, comme il en revendique le droit ? Faut-il autoriser les augmentations intellectuelles des hommes ou des animaux ou accepter la supériorité future de l’IA ? Est-il moralement acceptable de débrancher une conscience artificielle ? A-t-on le droit d’empêcher l’IA d’accéder à la conscience ou faut-il donner le droit au baptême aux cerveaux de silicium ?

Quel avenir ?

  • Kevin Kelly est persuadé que l’avenir appartient à l’équipe homme-machine. “Nous allons travailler avec ces IA. Je pense que l’on sera payé dans le futur selon notre capacité à travailler avec ces robots. Nous travaillerons avec plutôt que contre.”
  • L’IA n’est pas un trou dans la couche d’ozone, problème technique stressant mais temporaire que l’on résout en vingt ans et qui disparaît : nous allons cohabiter avec elle à tout jamais. Dans un milliard d’année, elle sera toujours là.
  • Ce sont nos proches descendants qui vont décider de l’avenir de l’Homme à très long terme. Les choix que nous allons faire d’ici 2100 nous engagent pour toujours et certains seront irréversibles. La gouvernance et la régulation des technologies qui modifient notre identité -manipulation génétique, sélection embryonnaire, fusion neurone-transistor seront fondamentales.
  • Le mythe du “Care” et de la bienveillance (l’IA va gérer les milliards de données nécessaires pour guérir les enfants leucémiques, tandis que la gentille infirmière leur tiendrait la main en les rassurant) conduirait également à long terme à notre marginalisation par la machine et notre vassalisation. A très long terme, en effet il n’y a rien qui ne soit pas computable. Et donc indépassable par les automates dans notre cerveau. Il ne faut pas se reposer ou nous spécialiser dans les activités purement relationnelles en abandonnant le contrôle de toutes les données -et donc de tous les pouvoirs- à l’IA.