Série 3 (3/…)
Je reprends la fin du billet précédent : les machines que nous fabriquons sont utiles pour effectuer des travaux concrets, mais elles nous servent aussi de supports métaphoriques pour nous penser nous-mêmes.
Une machine classique comme une locomotive ou une machine de chantier nous offre un modèle de ce qui nous permet de nous mouvoir et d’agir physiquement sur le monde : comme elles, nous sommes animés par une sorte de moteur, lui-même mis en mouvement par un phénomène de combustion.
Le combustible ce sont les aliments brûlés par la digestion qui alimentent en énergie nos organes et notamment nos muscles et notre cerveau.
Ce cerveau est lui aussi très schématiquement modélisé par un autre dispositif que nous avons créé : l’ordinateur. Ce dernier, avec sa mémoire globale, sa mémoire vive, ses entrée, ses sorties, nous donne une image extérieure de la façon dont nous gérons les informations que nous recevons de nos organes sensoriels, avant de réagir.
Et du coup, nous prenons conscience de ces phénomènes d’une manière nouvelle.
Que nous apprennent, à leur tour, les LLM ? Que rendent-ils visible pour la première fois ?
Que lorsqu’un réseau neuronal suffisamment complexe est plongé durablement dans un univers symbolique suffisamment riche, il peut se produit un phénomène émergent : une capacité nouvelle de production et de transformation des symboles.
Chez un LLM, cette immersion désigne l’entraînement sur un immense corpus de textes.
Chez un humain, cette immersion désigne l’apprentissage du langage, dans l’enfance, au sein d’une culture.
Cela ne veut pas dire que les deux phénomènes sont exactement semblables.
Cela veut dire que nous avons un modèle extérieur qui nous aide à prendre plus clairement conscience que nous sommes traversés par un processus que nous pouvons appeler « le phénomène langage humain ».
De la même façon, les machines classiques et leurs moteurs à combustion nous ont proposé une image de la façon dont notre nourriture nous fournit l’énergie qui nous permet de nous mouvoir et d’agir. Et notre conscience de ces processus en a été transformée.
Les machines à moteur, les ordinateurs et les Llm ne sont pas seulement des outils utiles (et/ou dangereux) dans la vie courante. Ils nous offrent des métaphores concrètes, des modèles qui transforment la conscience que nous avons des phénomènes qui se déroulent dans notre corps et notre cerveau.
On peut juger cela négatif ou positif. Mais dans les deux cas, il est utile, pour réagir comme on le souhaitera, de prendre conscience de ces transformations.
Je viens d’employer une expression un peu inhabituelle : « le phénomène langage humain ».
Je vais essayer d’expliquer pourquoi cette expression me vient à l’esprit face aux machines qui parlent.