Série 3 (5/…)
Je reprends succinctement les billets précédents et j’essaye d’aller plus loin.
Une conversation est donc une manifestation de ce que j’appelle « le phénomène langage humain ».
Un phénomène qui nous traverse et nous dépasse mais que jusqu’à présent nous ne vivons que « de l’intérieur ».
La vie, elle aussi nous traverse et nous dépasse, mais nous pouvons la penser « de l’extérieur » parce que nous voyons d’autres êtres vivre devant nous.
« Le phénomène langage humain », nous pouvons désormais le penser, lui aussi, de l’extérieur, car nous le voyons fonctionner dans des machines.
Nous l’avons dit, il s’agit d’un phénomène émergent qui résulte d’une « rencontre », celle d’un système neuronal très complexe (machinique ou humain) et d’un système symbolique extrêmement riche, à savoir le langage. Cette « rencontre » est en fait un apprentissage qui prend, bien sûr, une forme très différente chez l’être humain et chez la machine.
Nous sommes encore très loin d’avoir pris la mesure de cet événement : nous pouvons observer ce que ce type de « rencontre » produit dans un objet technique, sans esprit, sans intention, sans conscience.
Il s’agit de ce que l’on peut appeler un évènement philosophique que nous mettrons longtemps à digérer et qui changera la façon même dont nous voyons notre place dans le monde (voir ce billet et le suivant).
En attendant cette digestion, nous pouvons remarquer que les LLM constituent d’ores et déjà, d’une certaine manière, des expériences philosophiques grandeur nature.
Ils deviennent un nouvel objet d’observation pour réfléchir à l’émergence de certaines capacités cognitives.
Un exemple concret : peu de temps avant que j’écrive ce texte, Anthropic a publié un article qui décrit un mode de fonctionnement nouvellement observé à l’intérieur de son modèle de langage Claude.
C’est un premier exemple qui ne nous apprend encore peut-être rien de nouveau sur nous-mêmes, mais qui illustre le fait que les LLM sont la première technique qui nous offre un regard extérieur sur certains mécanismes de la pensée symbolique.
De quoi s’agit-il dans ce long article ?
De manière inattendue, le modèle de langage Claude d’Anthropic semble avoir développé un dispositif de pensée inconsciente et “sans langage”, un petit ensemble de schémas neuronaux internes qui, par rapport à tous ses autres traitements internes, jouent un rôle particulier. Baptisée “l’espace J”, cette zone qui a émergé d’elle-même au cours du processus d’entraînement “fonctionne silencieusement” et permettrait à Claude de “réfléchir à un concept sans le noter”.
Lorsqu’on lui demande « à quoi elle pense », la machine dit ce qui se trouve dans son J-space, et lorsqu’on l’empêche d’y avoir accès, elle “perd ses fonctions cognitives d’ordre supérieur”.
Il faudrait bien sûr donner plus de détails, mais voici donc une première illustration du fait que l’arrivée des LLM va sans doute jouer un rôle concret dans le domaine de la philosophie de l’esprit.
Pendant plus de deux millénaires, beaucoup de questions sur la pensée relevaient presque exclusivement de l’analyse conceptuelle : on raisonnait, on argumentait, on imaginait des expériences de pensée.
Avec les LLM, certaines de ces questions deviennent partiellement observables. On peut construire un système qui met en œuvre « le phénomène langage humain », le faire apprendre, le tester, modifier son architecture, comparer ses comportements, l’interroger sur son propre fonctionnement.
Cela ne remplacera évidemment pas la philosophie de l’esprit, mais cela lui fournira des objets d’enquête tout à fait inédits.