L'ouvrage que Mathieu Corteel prĂ©sente en sous-titre comme une philosophie sceptique de l'intelligence artificielle a attirĂ© mon attention : un bitcoineur est forcĂ©ment un peu anarchiste, et le titre faisait trop Ă©cho Ă la cĂ©lĂšbre formule d'Auguste Blanqui pour que je passe outre. Plus techno-curieux qu'autre chose, j'ai moins peur de la ÏÎÏΜη que des technophiles immatures. AssurĂ© par un interview* de l'auteur que je ne risquais pas de m'y exposer, pas plus que de m'infliger des rengaines technophobes, j'ai lu son livre qui ne traite pourtant ni de Bitcoin (quoique...**) ni d'uchronie, mais qui pouvait m'intĂ©resser Ă ces deux Ă©gards.
Il commence cependant par des oracles apocalyptiques du jour (prochain) oĂč les machines auront  codĂ© et transcodĂ© la culture dans sa totalité , prophĂ©ties mĂątinĂ©es de craintes inspirĂ©es des fantasmes transhumanistes de Nick Bostrom ou des singes dactylographes de Borel gĂ©nĂ©rant la bibliothĂšque-univers de BorgĂšs et nous plantant lĂ comme des idiots face Ă Â l'horizon de la doctrine humaine de Leibnitz.
Tout ceci en nous prévenant qu'il ne faudra pas trop compter sur la bonne volonté des marchands d'IA :  tout leur business model repose sur l'illusion .
Loin des parousies techno-solutionnistes, l'auteur, philosophe et historien des sciences, chercheur associé à Harvard, annonce de façon délibérement sceptique l'inquiétante couleur de l'avenir : l'association entre les IA et les humains  introduit une part de non-sens, d'absurde, d'illusion dans nos choix, jugements et agissements quotidiens sans qu'on s'en rende compte .
La fétichisation de la machine est sans limite .
Ceci semble effrayer l'auteur. Pour ma part, aprĂšs tant de films oĂč des formes de consciences (pas toujours droites) Ă©mergent ex machina , je dois confesser que je me sens plus amusĂ© qu'autre chose.
Dans ma jeunesse, seuls les (nombreux) idiots pensaient qu'il y avait une fille à l'autre bout du Minitel sur 3615. Vingt ans plus tard seuls des maris en rut pensaient qu'il y avaient des milliers de libertines sur Ashley Madisson. L'histoire se reproduira. Les idiots, les malins et les machines co-évolueront.
L'expĂ©rience de Blake Lemoine et de son LaMDA me fait l'effet d'un scĂ©nario. La machine lui fait miroiter sa  part spirituelle : que ne dit-elle pas qu'elle est princesse aussi, et nigĂ©riane en prime ? En vĂ©ritĂ© (et c'est ce que j'ai senti moi-mĂȘme dans des expĂ©riences que je rapporterai prochainement) l'IA parle au mieux comme un Ă©lĂšve qui triche, au pire comme un escroc. Ceci m'empĂȘche de sentir comme  un fantĂŽme dans la machine par  une sorte d'agencement paranoĂŻaque . Sans doute n'ai-je pas Ă©tĂ© assez loin dans le jeu ?
L'Ă©puisement des possibles traite du chaos psychique engendrĂ© et du  labyrinthe de discours stochastique qui se referme sur le malheureux, aliĂ©nĂ© par l'illusion d'entretenir une relation avec un ĂȘtre de pure information : l'effet mortel, en somme, de la pilule bleue. Le cerveau placĂ© dans une cuve, dans l'expĂ©rience de Putman, ne pouvait dĂ©jĂ pas dire qu'il Ă©tait placĂ© dans une cuve. Et l'on Ă©tait en 1984.
Quand Corteel évoque  le devenir machine de l'humain pris au piÚge de la combinatoire je suis un peu troublé : pour moi, je penserais volontiers que c'est parce que nous ressemblions déjà (depuis les Temps modernes , en gros?) à des machines, que celles-ci ont décidé de nous parler comme cela, y compris dans le téléphone pour nous enjoindre de press one # press two . Je peux me tromper mais il me semble que cela fait longtemps que nous avons réussi le test de ℠uring pour humains : faire croire que nous sommes des machines.
Autant prévenir, c'est rude à lire si l'on n'est pas philosophe et frotté de Wittgenstein, Deleuze et Bergson. Mon humble conclusion serait que l'on peut poser des questions à une IA, mais qu'il ne vaut mieux pas répondre aux siennes. Un peu comme certains regards qu'il vaut mieux ne pas tenter de soutenir.
 Laissez venir Ă moi les petits enfants pourrait ĂȘtre le titre du 3Ăšme chapitre : si les machines apprennent , alors autant leur faire commencer le parcours en enfance, ce que Turing proposait dĂ©jĂ en 1950. Encore faut-il s'entendre sur ce que learning veut dire. Tout savoir, est-ce savoir tout ou se noyer dans le dĂ©tail ? Comment passe-t-on d'observations singuliĂšres et hĂ©tĂ©rogĂšnes Ă des vĂ©ritĂ©s gĂ©nĂ©rales ?
Il est troublant d'observer que certaines vues sur l'IA (l'IA germinale notamment) convergent de plus en plus avec le modÚle d'apprentissage des enfants développé par la psychologie du développement . Mais peut-on se satisfaire d'une perspective dans laquelle,  en se complexifiant (en développant des rÚgles et des métarÚgles) la machine tend vers l'autonomie de la conscience ? . Pour Corteel  ce que l'on appelle aujourd'hui l'autonomie de la machine apprenante, ce n'est rien d'autre qu'un programme, défini par des billons de paramÚtres, qui sonde un océan de données pour affiner ses fonctions (...) il ne s'agit pas d'un processus d'émergence libre qui s'affranchit de son programme mathématique pour accéder à la conscience, mais d'un systÚme métamathématique qui affûte ses corrélations .
Le crime fongible dans les mathématiques ?
C'est l'espoir nĂ©o-positiviste de ceux qui n'ont pas d'Ă©tats d'Ăąme Ă prĂ©dire les crimes (qui se rĂ©pĂštent) un peu comme les sĂ©ismes (qui se dupliquent) ni Ă mathĂ©matiser le fait social dans une physique dĂ©terministe. MalgrĂ© l'Ă©vidence (faible prĂ©cision des prĂ©dictions sismographiques) et les biais comme le cadrage auto-rĂ©fĂ©rentiel des zones a priori criminogĂšnes oĂč vivraient des populations a priori Ă risque, et oĂč va prospĂ©rer un cauchemar kafkaĂŻen (troublantes citations Ă l'appui).
En attendant, la police quantique peut considérer que, tel le célÚbre chat, l'individu (ou plutÎt le dividu  : une masse de données) est à la fois coupable et non coupable.
Malgré l'échec cuisant de PredPol à Los AngelÚs, la loi JO 2024 a avalisé une série de trÚs comparables expériences (selon l'éternel mensonge) : PAVED, ou le RTM notamment. Se profile un coded gaze façonnant l'image du bon sujet dans nos sociétés post-coloniales à la façon dont le male gaze a façonné celle de la femme dans les sociétés patriarcales.
Il suffit de songer aux normes qui régissent désormais les photos d'identité (et pas seulement celles des détenus ou des migrants) : des visages-choses destinés à la seule reconnaissance par une machine.
Corteel ne l'envisage pas, mais il m'est arrivĂ© de songer au jour oĂč il serait interdit de sourire aussi dans la rue, et obligatoire d'y parler dis-tinc-te-ment, comme avec les robots tĂ©lĂ©phoniques des banques.
Le joujou du pauvre
Les IA permettent l'apparition, aprÚs les capitalismes mercantiliste et industriel, d'un  capitalisme cognitif fondé sur l'accumulation du capital immatériel, la diffusion du savoir et le rÎle moteur de l'économie de la connaissance pour citer Yann Moulier-Boutang, mais dans une version 3.1. Le capitalisme cognitif avancé se caractérise par l'accumulation des biens immatériels, comme la codification et l'intégration de nos connaissances informelles.
L'IA vectorise cette accumulation  en expropriant la propriété intellectuelle des individus à partir des usages qu'elle offre "gratuitement" .
En écrivant avec l'IA, ce qui compte , ce n'est pas ce que j'écris, c'est l'activité cognitive que je génÚre dans l'échange avec l'IA ; c'est  la valeur d'échange immatérielle, dont on m'exproprie en analysant mon activité cognitive .
(OK boomer) : dĂ©jĂ Socrate se plaignait des livres, avec lesquels il Ă©tait impossible de discuter. Mais il s'agit ici de bien plus dommageable que la fort modeste exploitation de l'auteur par son Ă©diteur. Pour citer Alain Damasio, la relation avec l'IA vous entraĂźne Ă Ă©duquer et Ă former malgrĂ© vous (...) les machines qui vont vous voler votre emploi . Il suffit de demander Ă une IA  que pense Jacques Favier, l'auteur de Bitcoin la monnaie acĂ©phale , au sujet de Bitcoin ? pour s'en convaincre : j'ai obtenu un mix de phrases recopiĂ©es... et de rĂ©fĂ©rences inventĂ©es (L'AcĂ©phale ne contient aucune rĂ©fĂ©rence au Zimbabwe, contrairement Ă ce que m'a soutenu Grok, cette tarte-Ă -la-crĂšme pour confĂ©rencier n'apparaissant en tout et pour tout qu'une fois dans mon billet n°88 â et encore, entre guillemets â et en page 25 d'un autre livre, MĂ©tamorphoses ). Comme le dit Corteel  la combinatoire c'est du vol mais c'est aussi du bousillage.
Reprenant une remarque de David Graeber (dans Bullshit jobs ) comme quoi la technologie a plutÎt paradoxalement accru la part des activités a-signifiantes, Corteel pose l'hypothÚse qu'il ne s'agit pas d'une stratégie du marché (invention d'emplois inutiles pour maintenir à flot le systÚme) mais d'un effet de surface du capitalisme cognitif, la mobilisation de connaissances informelles par le salarié se ramenant de plus en plus à de la simple computation. Le salarié fait ce que fait l'ordinateur, il brasse des symboles selon des rÚgles syntaxiques mais sans avoir à les comprendre ni en avoir le moyen. C'est la  chambre chinoise décrite par J.R Searle.
A ce point, l'hypothĂšse d'un revenu universel rĂ©munĂ©rant notre incessante activitĂ© de pollinisateurs cognitifs paraĂźt une assez chiche consolation et mĂȘme, puisqu'elle est supportĂ©e par quelques gĂ©ants de la tech , comme un possible piĂšge.
La machine de Lulle
C'est curieusement in fine qu'apparaĂźt le chapitre pour historiens. L'Ars brevis du grand Raymond Lulle (v1232-1315) est une fascinante expĂ©rience de pensĂ©e oĂč, Ă l'aide des rĂšgles de la logique aristotĂ©licienne, une Ă©trange machine permet de formuler l'ensemble des propositions nĂ©cessairement vraies et adĂ©quatement morales et de rĂ©pondre Ă 151.200 questions. Sa machine morale inspirera Leibniz ou le pĂšre Mersenne. Mais selon Corteel on la retrouve aussi, sĂ©cularisĂ©e, dans des tentatives de moral enhancement de l'IA.
Car l'effroi que gĂ©nĂšrent les biais cognitifs des IA (dans un climat politique inflammable) pose Ă©videmment des questions morales auxquelles on voudrait que l'IA elle-mĂȘme rĂ©ponde. L'IA pourrait aussi ĂȘtre socratique et nous faire accoucher d'un meilleur nous-mĂȘme. Ne nous arrĂȘtons pas en si bon chemin : d'autres IA, réécrivant Kant ou Nietzsche pourraient aussi nous proposer d'utiles exercices pĂ©dagogiques. La conviction de Corteel est qu'elles ne prolongeraient cependant pas leurs philosophies.  L'individuation axiologique et hermĂ©neutique de la pensĂ©e n'Ă©merge pas de la computation .
Ăvoquant Deleuze pour qui la bĂȘtise n'est pas un tissu d'erreur mais  une maniĂšre basse de penser , Corteel voit dans l'emprise culturelle des IA la lutte des valeurs rĂ©actives sur les valeurs actives. Il cite Chavalarias pour qui  c'est avant tout les rĂ©actions itĂ©ratives des utilisateurs qui biaisent le systĂšme . Enfin, pour ceux qui se soucient encore de dĂ©mocratie, pour les matheux inventeurs du meilleur des systĂšmes de vote possibles, Corteel achĂšve par des excursions chez Asimov, Arrow ou Condorcet un voyage qui se termine verre en main, puisque les meilleurs modes de scrutin, pour y laisser un rĂŽle Ă l'IA, sont peut-ĂȘtre ceux des concours Ćnologiques. Soit dit sans cynisme (DiogĂšne ricane ici dans son tonneau).
L'auteur a-t-il rĂ©ussi Ă montrer l'absurditĂ© des croyances en l'IA, de l'aliĂ©nation qui en dĂ©coule et du catĂ©chisme nĂ©o-positiviste ? C'est la question qu'il se pose lui-mĂȘme, non sans une dose de malice. Et oui, son livre a peut-ĂȘtre Ă©tĂ© Ă©crit par une IA***, ou du moins ses (trĂšs) nombreuses citations. Mais on peut encore rĂ©futer l'horizon assignĂ© par Leibniz Ă la pensĂ©e humaine en philosophant sur la langue, et se moquer de l'IA qui, se dĂ©rĂ©glant Ă l'occasion, se trompant de temps ou prenant les choses pour ce qu'elles ne sont pas, semble condamnĂ©e au destin de Don Quichote.
NOTES
* Compte-rendu publié par Usbek&Rica
** Courage : vous sacherez tout au prochain billet !
*** Introduction au livre par ChatGPT lui-mĂȘme
VIDEO