L’esprit, le sens et l’hallucination

Le Rêve de Dickens (Dickens’ Dream), aquarelle, 90.5 × 111 cm, 1870 (inachevé), Robert William Buss, Musée Charles Dickens, Londres.

Avec l’arrivée de méthodes statistiques suffisamment fiables en informatique, et de l’IA dite « générative », avec le rapprochement du fonctionnement des programmes informatiques et des réseaux neuronaux biologiques et leurs nouvelles applications nombreuses et concrètes, ne devrions-nous pas explorer à nouveau le rapport entre l’humain et l’art en tant que création artistique, mais aussi entre l’humain et l’art en tant qu’artisanat, et même plus généralement la créativité et la recherche de la connaissance au sein de nos sociétés ?

L’enfant humain commence son apprentissage dans la vie par de simples répétitions des faits et gestes de ses parents ; mais très rapidement, il en tire un sens, des concepts abstraits. Il est capable de raisonnements logiques et de faire des déductions, réduisant ainsi la quantité d’exemples et de répétitions nécessaires pour étendre ses connaissances, accélérant et facilitant son apprentissage.

L’intelligence artificielle de son côté, fonctionnant sur l’apprentissage automatique, aussi puissante soit-elle, ne fait que de la statistique et n’en tire aucun concept, ne comprend rien. Elle ne fait pas de différence entre une idée abstraite, un objet concret ou une émotion : elle ne sait qu’associer des mots à une mémoire, sans faire aucune différence entre ces mots. Lui demander de générer une image heureuse et l’image d’un chien aboutit exactement au même processus.

Certes, l’humain et l’IA se basent tous deux sur leur expérience, leur mémoire, mais l’humain fait le tri parmi toutes ces données, un tri personnel, et il est capable d’effectuer des raisonnements sur son expérience. Deux grandes catégories de processus cognitifs entrent en jeu : l’instinct, les méthodes heuristiques, automatiques, et l’émotion d’une part, et d’autre part le raisonnement, la réflexion, la logique, faisant notamment usage du langage. L’IA, qui ne possède d’ailleurs aucun langage bien qu’elle soit capable de « faire semblant » de comprendre du texte, est absolument incapable du moindre raisonnement logique ; tout au mieux elle le simule, elle l’imite.

Le fonctionnement des processus cognitifs de haut niveau chez l’humain sont notoirement difficiles à expliquer ; on ne sait pas quelle place joue la conscience dans ces processus, ni exactement où se situe le pouvoir de prendre des décisions sur l’échelle de la conscience. On ne sait pas non plus quelles propriétés physiques, quels fonctionnement biologiques et neurologiques, sont impliqués dans la pensée, l’esprit, la conscience ; on ne sait même pas si la conscience peut être reliée directement à de quelconques propriétés physiques. C’est le problème corps-esprit en philosophie, toujours non résolu. Il parait raisonnable toutefois de considérer que l’esprit est étroitement lié au cerveau. La cause physique de l’esprit tient-elle alors simplement dans un agencement de nombreux neurones connectés entre eux ? Cette question n’est pas résolue, et l’invention de l’intelligence artificielle est justement née d’une volonté d’explorer cette théorie. Si c’est le cas, si l’esprit est une conséquence du fonctionnement neurobiologique du cerveau, ou du moins s’il est une propriété émergente de l’agencement du cerveau, rien n’empêche d’imaginer qu’on puisse le reproduire artificiellement, pourvu qu’on sache atteindre le seuil de complexité nécessaire. Il faudra alors apprendre à le reconnaître. Car tant qu’on n’aura pas résolu le problème corps-esprit, on ne saura pas reconnaître objectivement l’intelligence, on ne pourra pas être certain que la machine ait un esprit, à la fois instinctif et capable de raisonnement, et capable d’améliorer ses propres capacités de raisonnement, d’elle même.

Cette question doit-elle déjà être posée ? Est-on proche d’un point de bascule et de l’émergence d’une véritable intelligence artificielle ? Si bien sûr il n’est jamais trop tôt pour anticiper, réfléchir et philosopher, mais il faut aussi savoir relativiser les discours sensationnalistes, ou alarmistes.

Même en acceptant que le problème corps-esprit soit résolu, partant du principe que l’esprit peut à minima être une propriété émergente d’un simple réseau de neurones, alors nous devons aussi accepter sans justification, ni scientifique ni philosophique, que notre modélisation du neurone en tant que perceptron est juste et suffisante, et qu’aucun processus autre que les connexions neuronales ne puisse être la cause de l’esprit. Dans le cas inverse, il reste encore à découvrir quels autres processus sont en jeu, puis savoir les modéliser et savoir les reproduire ; autrement dit, l’échéance reste très éloignée. Et seulement une fois ces aspects acceptés ou résolus, il nous reste à constater que le cerveau humain, constitué de 100 milliards de neurones, consomme 20 Watts d’énergie. L’IA se contente au mieux de quelques milliers de neurones, tout au mieux quelques millions, ce qui reste plusieurs ordres de grandeur en dessous du cerveau, tout en ayant des consommations énergétiques plusieurs ordres de grandeur au dessus de celles du cerveau. Un simple ordinateur de bureau consomme 100 à 150 Watts au repos, quand il ne fait rien.

Le cerveau ne termine jamais sa phase d’apprentissage, il apprend en permanence, il progresse, toute la vie ; l’intelligence artificielle doit être entraînée, encore et encore ; elle ne progresse pas à l’usage, comparativement à l’humain, elle a tout simplement besoin de beaucoup trop de données pour parvenir au même niveau : même apprenant pendant l’usage, et même utilisée à très grande échelle, ses progrès restent désespérément lents, et peut en perdre progressivement son alignement : des humains doivent toujours être dans la boucle pour superviser l’apprentissage et l’empêcher de partir n’importe où. N’oublions pas l’exemple de Tay, de Microsoft, agent conversationnel basé sur une intelligence artificielle, apprenant des requêtes des internautes, devenu misogyne, raciste et négationniste, en 16h seulement après sa connexion au réseau social Twitter¹, en 2016. Un précédent avait d’ailleurs déjà eu lieu chez IBM en 2013, quand leur programme Watson, par ailleurs vainqueur de Jeopardy!², s’est mis à utiliser des gros mots et de l’argot après avoir appris de l’Urban Dictionnary, un dictionnaire participatif en ligne.

On est donc encore probablement loin du temps où l’esprit artificiel pourra émerger, et pour l’instant l’IA n’est qu’un outil statistique qui ne comprend rien à ce qu’il fait. Alors peut-on vraiment parler d’hallucinations ?

Ce qu’on appelle l’hallucination en IA est en fait une sortie inattendue, fausse, dont le sens ne correspond pas à la demande en entrée. Elle est en fait la conséquence de deux aspects : l’incompréhension totale qu’a l’IA de ce qu’elle fait, l’absence d’esprit logique et raisonnable, et par là même son incapacité à reconnaître la vérité, aussi bien que l’adéquation entre le sens d’une demande et le sens de la réponse ; et une certaine extrapolation statistique : n’étant pas bornée par la logique résultant d’un esprit supérieur, d’un contrôle de haut-niveau (sans même parler de conscience), et ne possédant aucun concept abstrait, aucune représentation symbolique, ses résultats sont la conséquence d’une analyse locale sans vue d’ensemble.

Prenons une main humaine en exemple. L’humain en a une représentation abstraite, dès son plus jeune âge : elle est un membre situé à l’extrémité d’un bras, fait d’une paume, de cinq doigts dont un pouce opposable ; l’être humain en possède généralement deux, et elles sont chirales ; les doigts se terminent par des ongles, etc. Cette connaissance abstraite de la forme de la main³ permet à chacun de dessiner et reconnaître une main, même si on n’en a forcément qu’une vision partielle en toute occasion : jamais on n’en voit le dessus et le dessous ̀a la fois, on peut ne pas en voir tous les doigts, mais on sait tout de même la reconnaître. On sait que des doigts peuvent éventuellement manquer, que la main peut avoir des malformations, elle reste une main. Toute cette abstraction est absolument impossible à l’intelligence artificielle. Elle n’a pas les notions de membres, de bras, de doigts ; elle ne compte pas, ne connaît ni deux ni cinq, et ne fait pas la différence entre un doigt manquant et un doigt caché. Pour l’IA la main n’est même pas une probabilité de certaines formes apparaissant à certaines coordonnées d’une image ; le concept de main n’existe même pas, il n’y a que la probabilité de certaines formes, de certaines couleurs, en fonction de leur environnement immédiat, et d’une demande quelconque (un prompt) de l’utilisateur. Donc aucune différence entre un doigt et une main ou un bras, et l’IA peut tout à fait générer des doigts surnuméraires ou des mains difformes, simplement par manque de vision d’ensemble ; imaginez-vous dessiner le manche d’une casserole tenu dans une main, vu de près. Faites le sous une loupe tellement grossissante qu’il vous est impossible de savoir combien de doigts sont déjà dessinés, et sans même savoir compter de toute façon ; vous êtes alors forcés d’en ajouter en fonction des quelques informations locales à disposition, et il est probable que vous en dessiniez trop ou pas assez.

Au cœur du fonctionnement de la plupart des IA un tel découpage a d’ailleurs réellement lieu ; pour des raisons de performances et de puissance de calcul, les réseaux de neurones utilisés sont convolutifs, c’est à dire, en gros, qu’ils découpent les données en de multiples sous-sections plus simple à traiter individuellement, puis font une intégration pour revenir à l’ensemble. Ce système est en fait copié sur le fonctionnement du cortex visuel des mammifères, la différence primordiale étant que chez les mammifères, le cortex visuel n’est qu’une sous partie du cerveau, alors que les processus cognitifs prennent place dans le cerveau entier et selon des connexions bien plus multiples et complexes, permettant justement un contrôle, une correction des erreurs, une interprétation et une compréhension des données en entrée. Des processus qui par ailleurs prennent du temps et n’empêchent pas toutes les erreurs, même les plus stupides, quand on ne prend pas le temps de la réflexion…

Quand l’IA invente des mains difformes, ou avec trop de doigts, elle n’hallucine pas, elle n’invente rien, elle ne rêve pas : elle fait des erreurs statistiques qui sont ̀a la fois la conséquence de ses œillères et de sa stupidité, de son incapacité d’accéder à l’abstraction.

C’est vrai qu’on peut relever des similitudes fortes entre l’hallucination chez l’humain et ce qu’on appelle à tort l’hallucination chez l’IA, mais il ne faut pas non plus omettre une différence fondamentale, primordiale : chez l’humain, le rêve et l’hallucination sont la conséquence d’une altération du raisonnement et des processus cognitifs, ou d’états de conscience modifiés, tels que le sommeil, l’hypnose ou les déséquilibres chimiques provoqués par une drogue par exemple. Chez l’IA, ce n’est que l’accident visible résultant de l’absence permanente et complète de ces raisonnements, processus cognitifs, et états de conscience. Il serait donc plus juste de dire que l’IA ne fait qu’halluciner, en permanence, si seulement cela pouvait avoir le moindre sens de parler de rêve en l’absence totale de période d’éveil et de conscience, et d’hallucination en l’absence totale et permanente d’esprit analytique et de contact, même indirect, avec la réalité extérieure.

1. Aujourd’hui X ↩︎
2. Jeu télévisé étasunien diffusé depuis 1964 où les candidats doivent deviner des questions à partir de réponses possibles. ↩︎
3. Platon, 428-348 AEC : philosophe de la Grèce classique, contemporain de la démocratie athénienne. Sa théorie des formes (aussi appelée théorie des idées ou théorie des formes intelligibles) est la théorie selon laquelle les concepts, notions, ou idées abstraites, existent réellement, sont immuables et universelles et forment les modèles (archétypes) des choses et formes que nous percevons avec nos organes sensoriels. Platon soutient un dualisme entre les choses de l’ici-bas que nous croyons connaître et les Idées que nous ne saisissons que par l’intellect. Pour Platon, en effet, la réalité est ailleurs, en l’occurrence dans un univers purement abstrait ou conceptuel, et atteignable uniquement par l’intellect. ↩︎