Série 2 (3/7 – commentaire)
« Au lieu d’essayer de produire un programme qui simule l’esprit de l’adulte, pourquoi ne pas plutôt essayer de produire un programme qui simule celui de l’enfant ? » disait Alan Turing en 1930
Pendant longtemps les chercheurs en intelligence artificielle qui voulaient arriver à la compréhension du langage naturel n’ont pas suivi cette piste. Ils ont cherché à tout maîtriser et à écrire eux-mêmes entièrement tous les algorithmes de leurs programmes pour y parvenir.
C’est au moment où ils ont abandonné cette idée et laissé la machine apprendre par elle-même et donc construire sa propre structure interne (s’inventer elle-même, en quelque sorte), qu’ils ont réussi à obtenir la fameuse compréhension du langage naturel.
C’est fascinant.
Et c’est un trait de plus qui rapproche la façon dont le langage « se produit » dans la machine et « se produit » chez les être humains.
Dans le billet suivant, je reviens sur la notion d’émergence.
Et je propose d’essayer de nommer plus précisément les capacités nouvelles qui sont apparues avec les grands modèles de langage.
Et je suggère aussi que cette émergence peut naître de l’interaction (sous forme d’apprentissage) entre un certain type de dispositif neuronal (humain ou artificiel) riche et complexe et un certain type de système symbolique riche et complexe.
Tout cela donne lieu à un échange nettement plus long et à la recherche de formulations adéquates.