Série 3 (2/…)

Lorsqu’on répète à l’envi, face aux LLM : « mais, ce n’est pas une vraie intelligence », « c’est une simulation d’intelligence », « si on dit que la machine raisonne, alors on peut dire qu’un grille pain calcule », etc., il y a un contenu implicite, un sous-entendu, non remis en question dans ces propos.


Ce contenu implicite, erroné à mon sens, c’est : nous savons très bien ce qu’est la vraie intelligence, l’intelligence humaine, nous savons ce qu’est l’esprit humain.
Pourtant, les sciences cognitives nous apprennent que ce sont des notions bien difficiles à cerner. On pourra revoir à ce propos le billet sur la conférence de Daniel Andler qui a écrit par ailleurs Intelligence artificielle, intelligence humaine, la double énigme.
On pourra aussi se souvenir que nos raisonnements sont pleins de biais cognitifs, d’interférences émotionnelles ou inconscientes, comme cela est largement reconnu aujourd’hui.
Mais voilà, cela ne suffit pas à bousculer notre hiérarchie mentale, notre système de valeurs, dans lequel les mots « esprit », « pensée » sont des clés de voute, rarement questionnées. Implicitement, nous vivons avec l’idée que nous savons ce que nous faisons quand nous pensons et que cette activité est par nature supérieure à toute activité « artificielle ».
Et c’est cette hiérarchie que nous défendons, parce que nous avons l’impression qu’elle pourrait être remise en cause, par les machines qui parlent.
Mais cette défense d’une pseudo-hiérarchie entre des phénomènes hétérogènes n’a pas de sens.
On peut se contenter pour le montrer de rappeler ici la phrase de Marvin Minsky, un des pionniers de l’IA : « L’intelligence artificielle correspond à ce que l’on peut faire faire à une machine et qui aurait demandé de l’intelligence si cela avait été fait par un humain ».
Au lieu de nous arc-bouter en vain sur la défense d’une hiérarchie dénuée de sens, nous devrions comprendre ce que vont changer les LLM dans notre façon même de penser.
Du fait que nous allons, sans nul doute, de plus en plus côtoyer et utiliser ces machines qui parlent, qui argumentent, qui expliquent qui pilotent nos organisations, le sens des mots que nous croyons bien connaître va évoluer, sans que nous nous en apercevions. Par l’usage.

Pour prendre un exemple simple, avant la révolution darwinienne, dans le monde chrétien, il était certainement difficile de dire que l’homme était un animal. Il était d’une autre nature, par la volonté de Dieu. Aujourd’hui, on peut le redire facilement, comme on le faisait dans l’antiquité.
Demain, dans un débat entre plusieurs personnes sur un sujet donné, on pourra dire « au fait qu’est ce qu’en pense Chat GPT ? », sans la moindre gêne, alors qu’aujourd’hui dire qu’une machine pense fait sursauter.
Le mot « penser » aura subi un glissement de sens. Et bien d’autres avec lui.
Sans doute, en parlant d' »esprit », aurons-nous moins facilement l’image d’une entité immatérielle séparée du corps, image qui même si nous ne croyons pas à l’immatérialité de l’esprit, continue de sous-tendre notre façon de penser la pensée. L' »esprit » d’un individu, sera un peu plus concret et matériel qu’aujourd’hui.
Ce genre de changement en profondeur dans la manière de parler et finalement de penser se rapproche beaucoup de l’idée de changement de paradigme, tel que la décrit Thomas Kühn dans La structure des révolutions scientifiques.
Cela a déjà été évoqué dans un billet précédent.
Les machines que nous fabriquons nous servent à effectuer des travaux concrets, mais elles nous servent aussi de support métaphorique pour nous penser nous-mêmes.
Ce sera le sujet du billet suivant.