Votre panier est actuellement videย !
L’esprit, le sens et l’hallucination

Le Rรชve de Dickens (Dickens’ Dream), aquarelle, 90.5 ร 111 cm, 1870 (inachevรฉ), Robert William Buss, Musรฉe Charles Dickens, Londres.
Avec l’arrivรฉe de mรฉthodes statistiques suffisamment fiables en informatique, et de l’IA dite ยซย gรฉnรฉrativeย ยป, avec le rapprochement du fonctionnement des programmes informatiques et des rรฉseaux neuronaux biologiques et leurs nouvelles applications nombreuses et concrรจtes, ne devrions-nous pas explorer ร nouveau le rapport entre l’humain et l’art en tant que crรฉation artistique, mais aussi entre l’humain et l’art en tant qu’artisanat, et mรชme plus gรฉnรฉralement la crรฉativitรฉ et la recherche de la connaissance au sein de nos sociรฉtรฉs ?
L’enfant humain commence son apprentissage dans la vie par de simples rรฉpรฉtitions des faits et gestes de ses parents ; mais trรจs rapidement, il en tire un sens, des concepts abstraits. Il est capable de raisonnements logiques et de faire des dรฉductions, rรฉduisant ainsi la quantitรฉ d’exemples et de rรฉpรฉtitions nรฉcessaires pour รฉtendre ses connaissances, accรฉlรฉrant et facilitant son apprentissage.
L’intelligence artificielle de son cรดtรฉ, fonctionnant sur l’apprentissage automatique, aussi puissante soit-elle, ne fait que de la statistique et n’en tire aucun concept, ne comprend rien. Elle ne fait pas de diffรฉrence entre une idรฉe abstraite, un objet concret ou une รฉmotion : elle ne sait qu’associer des mots ร une mรฉmoire, sans faire aucune diffรฉrence entre ces mots. Lui demander de gรฉnรฉrer une image heureuse et l’image d’un chien aboutit exactement au mรชme processus.
Certes, l’humain et l’IA se basent tous deux sur leur expรฉrience, leur mรฉmoire, mais l’humain fait le tri parmi toutes ces donnรฉes, un tri personnel, et il est capable d’effectuer des raisonnements sur son expรฉrience. Deux grandes catรฉgories de processus cognitifs entrent en jeu : l’instinct, les mรฉthodes heuristiques, automatiques, et l’รฉmotion d’une part, et d’autre part le raisonnement, la rรฉflexion, la logique, faisant notamment usage du langage. L’IA, qui ne possรจde d’ailleurs aucun langage bien qu’elle soit capable de ยซย faire semblantย ยป de comprendre du texte, est absolument incapable du moindre raisonnement logique ; tout au mieux elle le simule, elle l’imite.
Le fonctionnement des processus cognitifs de haut niveau chez l’humain sont notoirement difficiles ร expliquer ; on ne sait pas quelle place joue la conscience dans ces processus, ni exactement oรน se situe le pouvoir de prendre des dรฉcisions sur l’รฉchelle de la conscience. On ne sait pas non plus quelles propriรฉtรฉs physiques, quels fonctionnement biologiques et neurologiques, sont impliquรฉs dans la pensรฉe, l’esprit, la conscience ; on ne sait mรชme pas si la conscience peut รชtre reliรฉe directement ร de quelconques propriรฉtรฉs physiques. C’est le problรจme corps-esprit en philosophie, toujours non rรฉsolu. Il parait raisonnable toutefois de considรฉrer que l’esprit est รฉtroitement liรฉ au cerveau. La cause physique de l’esprit tient-elle alors simplement dans un agencement de nombreux neurones connectรฉs entre eux ? Cette question n’est pas rรฉsolue, et l’invention de l’intelligence artificielle est justement nรฉe d’une volontรฉ d’explorer cette thรฉorie. Si c’est le cas, si l’esprit est une consรฉquence du fonctionnement neurobiologique du cerveau, ou du moins s’il est une propriรฉtรฉ รฉmergente de l’agencement du cerveau, rien nโempรชche d’imaginer qu’on puisse le reproduire artificiellement, pourvu qu’on sache atteindre le seuil de complexitรฉ nรฉcessaire. Il faudra alors apprendre ร le reconnaรฎtre. Car tant qu’on n’aura pas rรฉsolu le problรจme corps-esprit, on ne saura pas reconnaรฎtre objectivement l’intelligence, on ne pourra pas รชtre certain que la machine ait un esprit, ร la fois instinctif et capable de raisonnement, et capable d’amรฉliorer ses propres capacitรฉs de raisonnement, d’elle mรชme.
Cette question doit-elle dรฉjร รชtre posรฉe ? Est-on proche d’un point de bascule et de l’รฉmergence d’une vรฉritable intelligence artificielle ? Si bien sรปr il n’est jamais trop tรดt pour anticiper, rรฉflรฉchir et philosopher, mais il faut aussi savoir relativiser les discours sensationnalistes, ou alarmistes.
Mรชme en acceptant que le problรจme corps-esprit soit rรฉsolu, partant du principe que l’esprit peut ร minima รชtre une propriรฉtรฉ รฉmergente d’un simple rรฉseau de neurones, alors nous devons aussi accepter sans justification, ni scientifique ni philosophique, que notre modรฉlisation du neurone en tant que perceptron est juste et suffisante, et qu’aucun processus autre que les connexions neuronales ne puisse รชtre la cause de l’esprit. Dans le cas inverse, il reste encore ร dรฉcouvrir quels autres processus sont en jeu, puis savoir les modรฉliser et savoir les reproduire ; autrement dit, l’รฉchรฉance reste trรจs รฉloignรฉe. Et seulement une fois ces aspects acceptรฉs ou rรฉsolus, il nous reste ร constater que le cerveau humain, constituรฉ de 100 milliards de neurones, consomme 20 Watts d’รฉnergie. L’IA se contente au mieux de quelques milliers de neurones, tout au mieux quelques millions, ce qui reste plusieurs ordres de grandeur en dessous du cerveau, tout en ayant des consommations รฉnergรฉtiques plusieurs ordres de grandeur au dessus de celles du cerveau. Un simple ordinateur de bureau consomme 100 ร 150 Watts au repos, quand il ne fait rien.
Le cerveau ne termine jamais sa phase d’apprentissage, il apprend en permanence, il progresse, toute la vie ; l’intelligence artificielle doit รชtre entraรฎnรฉe, encore et encore ; elle ne progresse pas ร l’usage, comparativement ร l’humain, elle a tout simplement besoin de beaucoup trop de donnรฉes pour parvenir au mรชme niveau : mรชme apprenant pendant l’usage, et mรชme utilisรฉe ร trรจs grande รฉchelle, ses progrรจs restent dรฉsespรฉrรฉment lents, et peut en perdre progressivement son alignement : des humains doivent toujours รชtre dans la boucle pour superviser l’apprentissage et l’empรชcher de partir n’importe oรน. N’oublions pas l’exemple de Tay, de Microsoft, agent conversationnel basรฉ sur une intelligence artificielle, apprenant des requรชtes des internautes, devenu misogyne, raciste et nรฉgationniste, en 16h seulement aprรจs sa connexion au rรฉseau social Twitter1, en 2016. Un prรฉcรฉdent avait d’ailleurs dรฉjร eu lieu chez IBM en 2013, quand leur programme Watson, par ailleurs vainqueur de Jeopardy!2, s’est mis ร utiliser des gros mots et de l’argot aprรจs avoir appris de l’Urban Dictionnary, un dictionnaire participatif en ligne.
On est donc encore probablement loin du temps oรน l’esprit artificiel pourra รฉmerger, et pour l’instant l’IA n’est qu’un outil statistique qui ne comprend rien ร ce qu’il fait. Alors peut-on vraiment parler d’hallucinations ?
Ce qu’on appelle l’hallucination en IA est en fait une sortie inattendue, fausse, dont le sens ne correspond pas ร la demande en entrรฉe. Elle est en fait la consรฉquence de deux aspects : l’incomprรฉhension totale qu’a l’IA de ce qu’elle fait, l’absence d’esprit logique et raisonnable, et par lร mรชme son incapacitรฉ ร reconnaรฎtre la vรฉritรฉ, aussi bien que l’adรฉquation entre le sens d’une demande et le sens de la rรฉponse ; et une certaine extrapolation statistique : n’รฉtant pas bornรฉe par la logique rรฉsultant d’un esprit supรฉrieur, d’un contrรดle de haut-niveau (sans mรชme parler de conscience), et ne possรฉdant aucun concept abstrait, aucune reprรฉsentation symbolique, ses rรฉsultats sont la consรฉquence d’une analyse locale sans vue d’ensemble.
Prenons une main humaine en exemple. L’humain en a une reprรฉsentation abstraite, dรจs son plus jeune รขge : elle est un membre situรฉ ร l’extrรฉmitรฉ d’un bras, fait d’une paume, de cinq doigts dont un pouce opposable ; l’รชtre humain en possรจde gรฉnรฉralement deux, et elles sont chirales ; les doigts se terminent par des ongles, etc. Cette connaissance abstraite de la forme de la main3 permet ร chacun de dessiner et reconnaรฎtre une main, mรชme si on n’en a forcรฉment qu’une vision partielle en toute occasion : jamais on n’en voit le dessus et le dessous ฬa la fois, on peut ne pas en voir tous les doigts, mais on sait tout de mรชme la reconnaรฎtre. On sait que des doigts peuvent รฉventuellement manquer, que la main peut avoir des malformations, elle reste une main. Toute cette abstraction est absolument impossible ร l’intelligence artificielle. Elle n’a pas les notions de membres, de bras, de doigts ; elle ne compte pas, ne connaรฎt ni deux ni cinq, et ne fait pas la diffรฉrence entre un doigt manquant et un doigt cachรฉ. Pour l’IA la main n’est mรชme pas une probabilitรฉ de certaines formes apparaissant ร certaines coordonnรฉes d’une image ; le concept de main n’existe mรชme pas, il n’y a que la probabilitรฉ de certaines formes, de certaines couleurs, en fonction de leur environnement immรฉdiat, et d’une demande quelconque (un prompt) de l’utilisateur. Donc aucune diffรฉrence entre un doigt et une main ou un bras, et l’IA peut tout ร fait gรฉnรฉrer des doigts surnumรฉraires ou des mains difformes, simplement par manque de vision d’ensemble ; imaginez-vous dessiner le manche d’une casserole tenu dans une main, vu de prรจs. Faites le sous une loupe tellement grossissante qu’il vous est impossible de savoir combien de doigts sont dรฉjร dessinรฉs, et sans mรชme savoir compter de toute faรงon ; vous รชtes alors forcรฉs d’en ajouter en fonction des quelques informations locales ร disposition, et il est probable que vous en dessiniez trop ou pas assez.
Au cลur du fonctionnement de la plupart des IA un tel dรฉcoupage a d’ailleurs rรฉellement lieu ; pour des raisons de performances et de puissance de calcul, les rรฉseaux de neurones utilisรฉs sont convolutifs, c’est ร dire, en gros, qu’ils dรฉcoupent les donnรฉes en de multiples sous-sections plus simple ร traiter individuellement, puis font une intรฉgration pour revenir ร l’ensemble. Ce systรจme est en fait copiรฉ sur le fonctionnement du cortex visuel des mammifรจres, la diffรฉrence primordiale รฉtant que chez les mammifรจres, le cortex visuel n’est qu’une sous partie du cerveau, alors que les processus cognitifs prennent place dans le cerveau entier et selon des connexions bien plus multiples et complexes, permettant justement un contrรดle, une correction des erreurs, une interprรฉtation et une comprรฉhension des donnรฉes en entrรฉe. Des processus qui par ailleurs prennent du temps et nโempรชchent pas toutes les erreurs, mรชme les plus stupides, quand on ne prend pas le temps de la rรฉflexion…
Quand l’IA invente des mains difformes, ou avec trop de doigts, elle n’hallucine pas, elle n’invente rien, elle ne rรชve pas : elle fait des erreurs statistiques qui sont ฬa la fois la consรฉquence de ses ลillรจres et de sa stupiditรฉ, de son incapacitรฉ d’accรฉder ร l’abstraction.
C’est vrai qu’on peut relever des similitudes fortes entre l’hallucination chez l’humain et ce qu’on appelle ร tort l’hallucination chez l’IA, mais il ne faut pas non plus omettre une diffรฉrence fondamentale, primordiale : chez l’humain, le rรชve et l’hallucination sont la consรฉquence d’une altรฉration du raisonnement et des processus cognitifs, ou d’รฉtats de conscience modifiรฉs, tels que le sommeil, l’hypnose ou les dรฉsรฉquilibres chimiques provoquรฉs par une drogue par exemple. Chez l’IA, ce n’est que l’accident visible rรฉsultant de l’absence permanente et complรจte de ces raisonnements, processus cognitifs, et รฉtats de conscience. Il serait donc plus juste de dire que l’IA ne fait qu’halluciner, en permanence, si seulement cela pouvait avoir le moindre sens de parler de rรชve en l’absence totale de pรฉriode d’รฉveil et de conscience, et d’hallucination en l’absence totale et permanente d’esprit analytique et de contact, mรชme indirect, avec la rรฉalitรฉ extรฉrieure.
- Aujourd’hui X โฉ๏ธ
- Jeu tรฉlรฉvisรฉ รฉtasunien diffusรฉ depuis 1964 oรน les candidats doivent deviner des questions ร partir de rรฉponses possibles. โฉ๏ธ
- Platon, 428-348 AEC : philosophe de la Grรจce classique, contemporain de la dรฉmocratie athรฉnienne. Sa thรฉorie des formes (aussi appelรฉe thรฉorie des idรฉes ou thรฉorie des formes intelligibles) est la thรฉorie selon laquelle les concepts, notions, ou idรฉes abstraites, existent rรฉellement, sont immuables et universelles et forment les modรจles (archรฉtypes) des choses et formes que nous percevons avec nos organes sensoriels. Platon soutient un dualisme entre les choses de l’ici-bas que nous croyons connaรฎtre et les Idรฉes que nous ne saisissons que par l’intellect. Pour Platon, en effet, la rรฉalitรฉ est ailleurs, en l’occurrence dans un univers purement abstrait ou conceptuel, et atteignable uniquement par l’intellect. โฉ๏ธ
Soutenez-nous
Vos dons sont la seule source de revenus permettant ร ce contenu dโexister, en complรจte indรฉpendance, sans pub, sans sponsoring. Merci !
Laisser un commentaire