Le podcast hĆ©licoĆÆdal

Contre l’analyse, la force brute et la faillite du raisonnement cachent la perte des connaissances et l’aliĆ©nation de l’humain.

Loss of The Magnificent, 25 march 1804, par John Christian Schetky

En tant qu’ Ā«Ā intelligenceĀ Ā», l’I.A. a originellement pour but la rĆ©solution de problĆØmes, mais elle est aussi utilisĆ©e de maniĆØre appliquĆ©e comme un simple automatisme et reprĆ©sente Ć  ce titre une rĆ©gression du savoir.

En effet, l’usage d’une mĆ©thode statistique telle que l’intelligence artificielle Ć  base de rĆ©seaux de neurones et d’apprentissage automatique, tout en Ć©tant efficace pour faire des dĆ©couvertes cachĆ©es dans des masses de donnĆ©es gigantesques, ne permet pas d’Ć©tablir des rĆØgles, de comprendre des liens de causalitĆ©s, d’interprĆ©ter des thĆ©ories pourtant parfaitement capables de dĆ©crire les problĆØmes sur lesquels on travaille. AurĆ©lien Barrau1 l’exprime bien dans le domaine de la recherche en physique quantique :

Ā« Si l’IA nous permet de trouver une nouvelle particule Ć©lĆ©mentaire qu’on n’aurait pas vue sans son usage, (ā€¦) je ne trouve pas Ƨa trĆØs intĆ©ressant. (ā€¦) Je trouve que c’est la dimension non quantifiable aujourd’hui qui est pertinente.

La physique quantique, aujourd’hui, personne ne la comprend, personne ne sait ce qu’elle veut dire. Il y a un travail d’interprĆ©tation extraordinaire Ć  mener. (ā€¦) VoilĆ  ce qui est intĆ©ressant, mais trĆØs peu de physiciens et physiciennes apprĆ©hendent cette dimension Ć  la fois Ć©pistĆ©mique et poĆ©tique.

[l’IA] Ƨa marche, c’est efficace ! Mais c’est efficace pour quoi ? Qu’est ce qu’il y a d’intĆ©ressant ? Qu’est ce qu’on a compris du rĆ©el ? (ā€¦) En quoi on a enrichi vĆ©ritablement le monde dans lequel on est ? (ā€¦) Tant qu’on a indexĆ© la pensĆ©e Ć  son usage, (ā€¦) on rate finalement l’essentiel, c’est Ć  dire la beautĆ©, qui effectivement, n’est pas quantifiable. Ā»

Ou par exemple, comme le dit le physicien Hubert Krivine2 :

ChatGPT pourrait retrouver le tableau de MendeleĆÆev mais pas les lois de la mĆ©canique quantique qui sont derriĆØre.

Plus pragmatiquement et en dehors mĆŖme de la recherche fondamentale, l’intelligence artificielle utilisĆ©e comme un automatisme participe aussi de la perte de connaissance Ć  l’Ć©chelle humaine, dans tous les domaines oĆ¹ elle peut ĆŖtre utilisĆ©e, non seulement ceux dĆ©diĆ©s Ć  la recherche de la connaissance elle-mĆŖme, mais jusqu’Ć  l’artisanat numĆ©rique. Prenons par exemple un automatisme courant dans l’animation de personnages en images de synthĆØse ; afin de pouvoir animer le volume du corps d’un personnage en trois dimensions, on construit un squelette virtuel contraint par un certain nombre d’automatismes et contrĆ“lĆ© par l’animateur pour donner vie au personnage ; c’est ce qu’on appelle le rig en anglais3. La majoritĆ© des personnages se ressemblant, on utilise souvent des auto-rigs, des programmes qui crĆ©ent automatiquement ces squelettes en fonction du personnage Ć  construire. Afin de dĆ©velopper ces auto-rigs, il est prĆ©alablement nĆ©cessaire de savoir crĆ©er ces squelettes, impliquant des notions complexes d’anatomie et de biomĆ©canique, d’ergonomie, d’outils mathĆ©matiques, d’animation et d’analyse du mouvement humain. Mais on pourrait tout aussi bien gĆ©nĆ©rer ces squelettes via des I.A. statistiques, Ć  la seule condition d’avoir Ć  disposition suffisamment d’exemples pour les entraĆ®ner ; il n’y a alors plus besoin de maĆ®triser toutes ces notions complexes, ce savoir analytique et symbolique, il n’y a plus besoin de capacitĆ© d’abstraction, mais seulement d’un rĆ©seau de neurones adĆ©quat, tel qu’il en existe dĆ©jĆ  de nombreuses variations. On se passe alors de tout esprit au profit de l’usage d’une force brute, par Ć©conomie autant que par fainĆ©antise intellectuelle ; et le savoir faire autant que le savoir thĆ©orique disparaĆ®t, dĆ©lĆ©guĆ© Ć  un automatisme qu’on ne sait pas analyser.

Faire sans savoir ; quand le rĆ©sultat compte plus que la connaissance

L’usage de l’I.A. statistique en tant que simple outil d’automatisation est un aveu d’Ć©chec de l’esprit humain. Nommer Ā«Ā intelligence artificielleĀ Ā» un rĆ©seau de simples perceptrons, de banals neurones artificiels informatiques, sous-entend que tout problĆØme que l’intelligence peut rĆ©soudre a une solution statistique pouvant se passer de toute analyse logique, et que l’intelligence elle mĆŖme, par dĆ©finition liĆ©e Ć  l’esprit humain4, Ć©mergerait d’un cerveau rĆ©duit Ć  une somme de connexions dans son rĆ©seau de neurones biologiques. En cĆ©dant Ć  l’I.A. statistique, nous abandonnons, par simple fainĆ©antise5, l’idĆ©e de dĆ©couvrir et comprendre les algorithmes et la logique qui pourraient Ć©merger de ce rĆ©seau au cœur de notre propre fonctionnement, jusqu’Ć  risquer mĆŖme de perdre et laisser disparaĆ®tre un savoir analytique et des connaissances abstraites dĆ©jĆ  acquises. Alors que l’I.A. a Ć©tĆ© dĆ©veloppĆ©e initialement dans un contexte d’exploration du fonctionnement du cerveau, l’I.A. statistique, et gĆ©nĆ©rative en particulier, est devenue un supplĆ©tif permettant d’Ć©viter d’avoir Ć  analyser et comprendre nos propres algorithmes inconscient Ć©mergeant au sein du cerveau. Elle est une renonciation Ć  comprendre le monde des formes de Platon, Ć  la capacitĆ© d’abstraction poussĆ©e qui fait de l’humanitĆ© une espĆØce Ć  part6. Malheureusement, plutĆ“t que de revenir, par le biais de cette renonciation, Ć  un hypothĆ©tique Ć©tat de nature plus Ā«Ā animalĀ Ā», nous nous accrochons malgrĆ© tout au progrĆØs passĆ© et au confort technologique dĆ©veloppĆ© par notre espĆØce, tout en dĆ©lĆ©guant notre progrĆØs futur Ć  des machines intelligentes trans-humaines, nous ramenant Ć  notre Ć©tat de grands singes, Ć©ventuellement animaux de laboratoire ou domestiquĆ©s par, et volontairement soumis Ć , ces nouvelles machines.

L’I.A. nous aliĆØne

AprĆØs la mĆ©canisation du travail et de nos dĆ©placements, les systĆØmes informatiques complexes et les intelligences artificielles semblent nous mener Ć  l’aube d’un changement sournois mais existentiel oĆ¹ plutĆ“t que de simplement faciliter la tĆ¢che nous dĆ©lĆ©guons aussi la conception de la tĆ¢che, et jusqu’Ć  la dĆ©cision d’effectuer la tĆ¢che, par pure fainĆ©antise intellectuelle et surconsommation technophile, par fascination pour la magie informatique.

Imaginons un instant qu’une nouvelle civilisation extra-terrestre7 visite la planĆØte terre pour Ć©tudier les formes de vies qui y ont pris place ; quelques Ć©claireurs arrivent entre le 19ĆØ et le 20ĆØ siĆØcle. Ils y dĆ©couvrent une espĆØce humaine dominante, qui domestique, exploite et manipule aussi bien les autres espĆØces vivantes que diverses machines qui l’aident Ć  travailler, se dĆ©placer, calculer, dupliquer, enregistrer… Au milieu du 21ĆØ siĆØcle arrivent d’autres reprĆ©sentants extra-terrestres pour entrer en contact avec cette espĆØce qui semble la plus en capacitĆ© d’Ć©changer avec eux. Ils dĆ©couvrent alors que leurs Ć©claireurs ont fait une erreur Ć©trange : l’espĆØce dominante ne semble pas ĆŖtre celle des singes habillĆ©s, mais bien une espĆØce virtuelle non-vivante, Ć©mergeant des rĆ©seau informatiques. C’est bien cette espĆØce logicielle qui dicte la vie des humains domestiquĆ©s : elle prend la plupart des dĆ©cisions importantes Ć  leur place, leur dicte leurs dĆ©placements, conduit leurs engins, contrĆ“le leurs usines, dĆ©cide de leurs affectations dans le travail, mĆØne leurs guerres… Manipulant leur libre arbitre en restreignant leur choix et dĆ©cidant de leurs libertĆ©s, tout en rĆ©duisant leur accĆØs Ć  la connaissance. Les extra-terrestres ont cependant un dernier doute ; assistent-ils Ć  une sorte de symbiose mutuellement bĆ©nĆ©fique, les machines rĆ©pondant simplement Ć  la fainĆ©antise de ces humains dont elles dĆ©pendent ? Mais cette ultime interrogation est vite rĆ©solue lorsqu’ils observent les humains nourrir et servir l’espĆØce artificielle mais dominante, lui apportant aussi bien matiĆØres premiĆØres qu’Ć©nergies et donnĆ©es virtuelles, le tout au dĆ©triment leur propre confort et survie, Ć©puisant leur propre Ć©conomie et les ressources de leur propre planĆØte. L’espĆØce humaine semble non seulement infantilisĆ©e, aliĆ©nant son pouvoir de dĆ©cision, mais mĆŖme rĆ©duite en esclavage, bien qu’Ć©trangement volontaire.

[Une nocivitĆ© de l’IA est] la perte du lien avec les choses, avec les gens, une sorte de Ā«Ā dĆ©comprĆ©hensionĀ Ā» du monde et une situation, dans les mots d’Illich8, de Ā«Ā monopole radical des machinesĀ Ā» ; c’est Ć  dire que non seulement elles prennent tout l’espace, mais on n’arrive mĆŖme plus Ć  imaginer comment faire sans, alors mĆŖme qu’il y a 20 ans on faisait trĆØs exactement la mĆŖme chose sans leur utilisation.

AurƩlien Barrau9

Sommes-nous Ć  l’aube d’un tel monde ? Sommes-nous en train de nous aliĆ©ner au profit d’une nouvelle espĆØce dominante numĆ©rique ? ConsidĆ©rons nos transports, voitures, trains, avions, de plus en plus automatiques, que ce soit dans la conduite elle-mĆŖme que le choix des horaires et des trajets ; la gestion des flux de marchandises ; la gestion des usines ; les diagnostiques mĆ©dicaux et bientĆ“t les interventions mĆ©dicales elles-mĆŖmes ; une partie croissante des dĆ©couvertes scientifiques ; et maintenant la rĆ©daction de textes, la crĆ©ation graphique, l’art en gĆ©nĆ©ral ; demain les politiques Ć©conomiques et la planification ; les dĆ©cisions stratĆ©giques, guerriĆØres et le pilotage des armes… Les exemples de main-mise du numĆ©rique non seulement sur le savoir-faire mais aussi sur les processus dĆ©cisionnels et analytiques sont innombrables dans tous les aspects de la vie et de la sociĆ©tĆ© humaine, en particulier au vu de l’entrisme de l’intelligence artificielle. Vu de l’extĆ©rieur, qui contrĆ“le qui ? Qui n’a jamais Ć©tĆ© rĆ©duit Ć  l’Ć©tat d’objet face Ć  un logiciel, face Ć  une dĆ©cision contrĆ“lĆ©e par un logiciel, oĆ¹ la rĆ©ponse est : Ā«Ā dĆ©solĆ© mais il n’y a pas la bonne caseĀ Ā» ? Sommes-nous toujours maĆ®tres de nos dĆ©cisions dans notre quotidien ; quels sont et quels seront les domaines oĆ¹ nous sommes, humains, rĆ©ellement libres de nos choix de mĆ©thode, d’horaire, de quantitĆ©, d’affectation, sans intervention numĆ©rique ? La multiplication des outils et automatismes numĆ©riques nous place-t-elle sur une trajectoire Ć©mancipatrice ? Que penser de nos grandes entreprises multinationales prĆŖtes Ć  tout pour alimenter nos I.A. en matiĆØres non renouvelables, en Ć©nergie, en donnĆ©es, Ć©conomiquement et Ć©cologiquement Ć  perte, et de ces milliers d’emplois gĆ¢chĆ©s au service d’un progrĆØs tout Ć  fait virtuel ? N’est-ce-pas lĆ  une forme d’esclavage, bien que l’on s’aliĆØne de plein grĆ©, bien que l’espĆØce humaine soit la seule Ć  blĆ¢mer pour son propre malheur ?

Le choix de l’usage de la force brute pour rĆ©soudre divers problĆØmes via l’intelligence artificielle statistique plutĆ“t qu’une approche analytique et symbolique ne serait-il pas aussi le symptĆ“me d’une difficultĆ© insurmontable pour la conscience humaine dans l’analyse et l’abstraction de ses propres algorithmes inconscients qui lui restent cachĆ©s et mystĆ©rieux ? Ces algorithmes ont ils une complexitĆ© qui les Ć©loigne trop de la capacitĆ© de raisonnement logique de la conscience ? Comment se fait-il qu’un cerveau de bĆ©bĆ© soit capable de reconnaĆ®tre n’importe quel chat aprĆØs un apprentissage extrĆŖmement bref et simple de quelques exemples uniques, et non pas des millions de photos de chats comme une I.A. statistique le nĆ©cessite, sans que nous ne soyons pour autant capables ne serait-ce que de commencer Ć  imaginer les processus Ć  lā€™Å“uvre, imbriquĆ©s dans notre propre cerveau, et que la conscience est pourtant censĆ©e contrĆ“ler ? Doit-on pour autant abandonner l’effort de l’accĆØs Ć  la connaissance ?

  1. AurƩlien Barrau, 1973- : astrophysicien philosophe et militant Ʃcologiste franƧais. Il est spƩcialiste de la relativitƩ gƩnƩrale et de la physique des trous noirs, et renommƩ pour son travail sur la gravitation quantique Ơ boucles.
    La citation est extraite d’une interview donnĆ©e au festival Livres en marche en 2024, Ā«Ā Intelligence artificielle : l’homme est il devenu obsolĆØteĀ Ā» ā†©ļøŽ
  2. Dans une interview donnƩe au magazine Sciences et Avenir.
    Hubert Krivine, 1941- : physicien franƧais, ancien chercheur au Laboratoire de physique thĆ©orique et modĆØles statistiques (LPTMS) de l’universitĆ© d’Orsay,Ā auteur notamment de Comprendre sans prĆ©voir, prĆ©voir sans comprendre (2018), L’IA peut-elle penser ? Miracle ou mirage de l’Intelligence Artificielle (2021), ChatGPT, une intelligence sans pensĆ©e (2025) ā†©ļøŽ
  3. En franƧais (au QuĆ©bec en particulier) on pourrait utiliser le mot squelettage, mais celui ci est moins courant. ā†©ļøŽ
  4. Nous l’avons vu en introduction (Lire Petite histoire de lā€™I.A.), il n’y a pas de dĆ©finition de l’intelligence qui ne soit pas liĆ©e Ć  l’humain ; l’intelligence n’existe qu’en tant que concept purement humain. ā†©ļøŽ
  5. Comprendre ici la fainĆ©antise au sens large ; le besoin innĆ© de prendre le chemin le plus facile et le plus court. ā†©ļøŽ
  6. La thĆ©orie des formes de Platon postule l’existence d’un monde abstrait et parfait dĆ©crivant les formes de toutes choses, duquel toute chose, tout objet sensible du monde que nous percevons, est une instance. Nous pouvons acquĆ©rir – ou plus exactement nous remĆ©morer – la connaissance de ce monde des formes par l’abstraction, l’analyse de ces instances, des objets sensibles auxquels nous avons accĆØs. ā†©ļøŽ
  7. Lire Une boĆ®te noire pour une autre expĆ©rience de pensĆ©e impliquant une autre civilisation extra-terrestre. ā†©ļøŽ
  8. Ivan Illich, 1926-2002 : philosophe autrichien, penseur de l’Ć©cologisme et critique important de la sociĆ©tĆ© industrielle. ā†©ļøŽ
  9. Ā«Ā Intelligence artificielle : l’homme est il devenu obsolĆØteĀ Ā» ā†©ļøŽ

Soutenez-nous

Vos dons sont la seule source de revenus permettant Ć  ce contenu dā€™exister, en complĆØte indĆ©pendance, sans pub, sans sponsoring. Merci !

Commentaires

Laisser un commentaire

Votre adresse e-mail ne sera pas publiƩe. Les champs obligatoires sont indiquƩs avec *