Comment fonctionne l’intelligence humaine ?

L’intelligence artificielle est incroyablement stupide. Voilà ce que j’ai pu l’autre matin sur le site d’Europe 1. L’argument avancé est celui de la spécialisation : l’IA est effectivement performante mais uniquement pour un cas d’usage bien précis. Par exemple, un algo est plus efficace qu’un humain pour déceler un cancer sur scanner mais il n’a pas la moindre idée de ce qu’est un cancer.

Mais c’est un peu le cas chez l’humain aussi, non ? Comment fonctionne l’intelligence humaine ?

On est certes doté d’une capacité d’adaptation étonnante mais si on me balance sur un champ de bataille en 39. Croyez moi, je me mettrai en boule avant de pisser dans ma culotte.

À bien y réfléchir, l’intelligence ne semble pas être une spécifié humaine !

Premier point. Les machines n’auraient pas cette capacité à prendre des décisions, cesser de suivre les instructions pour bifurquer. Réfléchissons deux minutes. L’Homme est-il si libre que ça ? Notre comportement est programmé. Nos actes ne sont que des réactions de notre système nerveux à un environnement. Par exemple, si je rapproche mon doigt de mon oeil, ce dernier a pour instruction de se fermer pour se protéger. Si j’ai besoin de m’hydrater, mon corps me le fait savoir. Si je me casse la margoulette, j’ai pour instruction de mettre mes mains pour me protéger. Quand on décide d’acheter un bien, on se base sur des arguments émotionnels et on justifie cet achat par les arguments logiques (caractéristiques du bien notamment), etc.

À la différence d’une machine, on n’a pas accès à ces instructions directement mais cela ne veut pas dire qu’elles n’existent pas. Ce programme est mis à jour par la sélection naturelle. Là où pour une machine nous écrivons le programme qu’elles suivent.

Pire ! On n’a de moins en moins accès au code d’une machine parce qu’on tend vers des programmes auto-apprenants. C’est-à-dire des programmes écrits par la machine et trop complexes pour être compris par l’humain.

Second point. Les machines font des erreurs comme les humains. Lorsque je joue à un jeu vidéo contre l’ordinateur, il m’arrive de gagner et ce quelque soit le niveau. Il existe même des fadas qui gagnent contre la machine au niveau légendaire !

Troisième point. Les machines sont aussi créatives que les humains. En témoigne les nombreux sites générant des logos, des poèmes, des oeuvres artistiques … On peut placer la limite dans le fait que la machine n’est pas -encore- tout à fait capable d’identifier une oeuvre dite créative dans un tas d’oeuvres. Mais l’humain en est-il capable ? Pléthore d’artistes ont été reconnu à leur juste valeur après leur mort. Van Gogh coucou.

Qu’est-ce que l’intelligence ? Une histoire d’agents

(Article connexe écrit et bichonner par bibi)

Chaque cervelle est composée de petits agents. Chaque agent peut effectuer que quelques tâches simples (qui ne requiert pas de réflexion). L’intelligence se trouve dans la somme de ces agents.

Ils coopèrent sans se marcher sur les pattes. Pour marcher, par exemple, des milliers d’agents effectuent des actions très simples sans qu’on en est conscience. Plier le genoux, poser la cheville, s’appuyer sur une jambe, etc.

Tout ce schmilblick dans notre cervelle est difficile à comprendre parce qu’il s’agit d’un système qui s’est développé et complexifié au fil du temps. Il faut prendre le temps de le déconstruire pour comprendre son fonctionnement interne. Pour faire une action (marcher, par exemple), chaque pas, chaque appui de la cheville au sol nécessite une multitude de sous-tâches qui elles même nécessites des sous-tâches jusqu’à arriver à des tâches simples. Le moindre geste implique des milliers d’agents souvent dépendants entre-eux. Un truc de fou !
On appelle ça le bon sens mais on l’a appris quand on était gosse. Ça n’est pas inné. Maintenant qu’on est grand, on a oublié qu’on l’avait appris et c’est donc beaucoup de travail pour déconstruire les actions. C’est pourquoi on est dans de beaux draps !

Une question de point de vue

Nous avons vu qu’une action cache des sous actions mais où se cache le savoir de l’action mère ? L’action de marcher peut être considéré de l’intérieur et de l’extérieur.

D’un point de vie interne, les agents ne savent pas marcher mais juste déclencher des actions en fonction de signaux. D’un point de vie extérieur, on n’a pas idée du process interne pour mener à bien la tâche.

Traiter avec l’incertitude

Pourquoi est-ce qu’on ne met pas notre main dans la cheminée ? On a appris par expérience à identifier les situations de danger. Mais ce n’est pas toujours aussi évident d’identifier le danger. Par exemple, en quoi est-ce que faire la bise à quelqu’un est dangereux ? En cette période de coronavirus ça l’est ! Nous devons apprendre à traiter avec l’incertitude.

Quelles stratégies vaut-il mieux essayer pour éviter le danger ? Des milliers d’agents cherchent à anticiper et éviter ce danger. On en n’a même pas conscience. Il peut même sembler incroyable que notre esprit puisse utiliser un mécanisme aussi complexe sans s’en rendre compte. C’est ce qu’on le fait le mieux dont nous nous sommes le moins conscients. C’est pourquoi nous connaissons mieux certains processus simples qui fonctionnent mal, que d’autres plus complexes qui fonctionnent parfaitement.

Les conflits entre les agents

Quand plusieurs agents doivent entrer en concurrence pour se procurer les mêmes ressources, ils créent des conflits. Il faut remonter aux agents supérieurs pour trouver une solution. Sans agents supérieurs, ces conflits pourraient durer indéfiniment, ce qui les paralyserait.

Les superviseurs subissent la pression de la concurrence et peuvent être virés par leurs supérieurs s’ils ne remplissent pas leurs objectifs. Plus un conflit se prolonge, plus la crédibilité de cet agent s’affaiblit. La crédibilité permet de conserver son rang et obtenir des objectifs.

Il arrive que des conflits ne soient jamais résolus et restent en arrière plan. C’est pour ça qu’il existe des agents en charge de gérer d’autres agents. Leur attention n’est pas porté sur le résultat final. Il s’assure du bon enchainements des actions.

Organisation

C’est comme dans la vraie vie, en fait. Un agent a sous sa responsabilité d’autres agents. Cette division du travail est généralement la façon la plus simple de commencer à résoudre un problème. Ce schéma organisationnelle est facile à mettre en place parce que chaque agent n’a qu’à se tourner vers son supérieur pour recevoir les instructions et se tourner vers les agents dont il a la responsabilité pour répartir le travail.

Cependant, cette organisation a ses limites : quand deux agents doivent se partager des compétences, aucun d’eux ne peut être au dessus. D’autres organisation requiert de faire appel à la mémoire. On pense souvent que la mémoire c’est un moyen de garder des traces du passé mais pour un agent c’est aussi un endroit où stocker temporairement de l’information.

Pourquoi un enfant casse son château de sable avant de partir ? Par excès de violence ?

Nope. Il s’agit en fait à communiquer sa frustration de ne pas avoir atteint son objectif de construction. Et lorsque le parent le gronde, c’est un moyen de savoir que sa frustration a bien été entendu. Car l’envie de construire son château est en concurrence avec d’autres besoins (rentrer chez lui en l’occurrence).

Voilà pourquoi il casse son château : un agent n’a pas terminé sa tâche. C’est un moyen de mettre de l’ordre en interne avec ces agents.

De la douleur et du plaisir pour mettre de l’ordre

La dernière fois que j’ai flingué un château de sable, je me suis pris du sable dans les yeux. AIE AIE AIE

La douleur c’est magique. Impossible de penser à autre chose. Le seul truc important est de trouver un moyen d’arrêter la douleur. C’est pour ça que la douleur est un signal fort. Lorsque quelque chose vous apporte du plaisir, là encore, il n’est pas facile de penser à autre chose. Vous avez l’impression qu’il n’y a rien de plus important que de trouver un moyen de faire durer ce plaisir. Inutile d’illustrer via un exemple 😀

Bon, en réalité la douleur nous a aidé à survivre. Notre corps est fait de nerfs qui détectent les blessures, et les signaux de douleur émis par ces nerfs nous font réagir de façon particulière. Cela permet de nous encourager à stopper ce qu’on fait ou compte faire pour se concentrer sur ce problème.

De ce point de vue, la douleur et le plaisir sont semblables. Tous deux font apparaître un objectif et éloignent tout le reste de l’esprit. Bien que d’un point de vue extérieur ils soient contraires, ils activent tous deux les mêmes leviers. Ils utilisent les mêmes agents.

À quoi pensons-nous ?

Que sommes-nous ? Certain concepts de la vie sont trop complexes pour être définis. Donc plutôt que de s’interroger sur ce qu’on est, on peut se demander Que pensons-nous de nous ? Cela devrait nous permettre d’identifier ce vers quoi on tend, ce vers quoi on se projette.
Est-ce que notre tête décide de ça ? Notre corps est-il qu’un moyen de transport ? Notre tête est-il un moyen de centraliser toutes les informations ? Lorsqu’on ne sait pas quelle décision prendre face à une situation, notre corps et notre tête travaillent conjointement. Il se passe dans notre tête des conflits, des réflexions, etc.

À quoi sert l’imagination ?

Qui n’a jamais procrastiné ? On est capable de se mentir à soi-même, de s’influencer. Pourquoi est-ce qu’on peut tout simplement pas nous dire de le faire ?

Pour comprendre comment fonctionne quelque chose, il faut comprendre pourquoi et comment. Quelles sont nos objectifs et pourquoi souhaitons-nous faire ça ? Notre objectif pourrait être de se un objectif à long terme. Cela nous permet de nous empêcher de tout faire à la fois. Il est impossible d’avancer en essayant de se lever et de s’assoir et de marcher et de courir.

Le problème, bien sûr, est qu’il est ne suffit pas de vouloir pour le faire. On utilise pour cela des subterfuges. Autrement dit on se ment. Qui n’a jamais joué sur son téléphone plutôt que travailler ? On fait ça parce qu’on ne peut pas supprimer l’envie de jouer. Ce serait trop dangereux au point d’en mourir. Ce qui est paradoxal quand on y pense parce que si on pouvait supprimer la faim, ça réglerait bien des problèmes. Mais en interne et en repensant à tous ces agents, ce serait le chaos permanent. L’anarchie. C’est pour ça que nos agents utilisent des moyens détournés pour arriver à leur fins. Au fil de notre évolution, les possibilités de commander directement un agent (sans passer par des moyens détournés) a été supprimés. Ce doit être d’ailleurs une des raisons pour lesquelles nous recourrons à l’imagination : pour trouver les chemins manquants.

Pourquoi nous mentons-nous ?

« Je termine cet exo et ensuite j’irai au cinéma » Il arrive qu’on se promette des récompenses pour s’auto-persuader. Il existe plusieurs manières de le faire :

  • la volonté, le courage. Chez le dentiste on essaie de penser à autre chose …
  • la chimie. Fumer nous persuade d’allumer une autre cigarette …
  • les émotion. Voir l’image de ses enfants comme dans Koh Lanta …
  • le lien. Imaginer la déception de son coach, si vous n’arrivez pas à faire l’exercice …

Comment choisir ? Avec l’expérience.
Nous nous engageons souvent dans des objectifs que nous ne sommes pas capables de mener à bien. Il est facile de résoudre de petits problèmes parce que nous pouvons les traiter comme s’ils étaient extérieurs à tous nos autres objectifs. En revanche pour ce qui est des projets impliquant de plus grandes parties de notre vie. Nous ne pouvons pas choisir de réaliser de gros objectifs parce que cela provoque un conflit avec d’autres objectifs. Tant que les doutes ne seront pas balayés, tous les plans que nous faisons seront remis en cause par le risque que nous changions d’avis.