Venons-en maintenant à des points de vue qu’on pourrait qualifier d’analytiques. sur les LLM, les “Large langage models”. Autrement dit des points de vue de “sachants”, chercheurs dans le domaine numérique ou philosophes réfléchissant à la question des IA.
Précisons encore, on ne va pas parler ici des conséquences sociétales de l’apparition des nouvelles IA, mais plutôt des questions du type « à quoi avons-nous affaire ? ».
D’abord donc le point de vue que j’ai entendu les plus souvent dans des conférences ou ailleurs.
C’est aussi le point de vue qui m’a donné envie de réagir à travers cette petite série. En voici l’idée générale :
un LLM serait un ensemble de procédures standardisées et prédictives, qui visent à engendrer les expressions les plus probables sur la base des moyennes des expressions passées. Les grands modèles de langage fonctionnent sur la base de calculs probabilistes : lorsque vous posez une question à ChatGPT, le logiciel calcule les séquences de signes les plus probables qui correspondent à votre requête, un peu comme les logiciels d’auto-complétion des téléphones portables ou des moteurs de recherche, qui complètent automatiquement les messages ou les requêtes en fonction des messages ou des requêtes les plus répandus. Les algorithmes ne fonctionnent efficacement que parce qu’ils prédisent toujours ce qui a le plus de chances d’arriver en se basant sur des moyennes de données passées.
J’ai entendu ce genre de propos, par exemple, dans la bouche d’un spécialiste reconnu, lors d’une conférence, après que le présentateur de la conf. ait cité (comme je l’ai fait moi-même dans des circonstances analogues) une réponse d’un LLM à une question un peu subtile. Réponse particulièrement brillante qui à l’évidence était tout autre chose qu’une « moyenne de données passées ».
Encore une fois, ce premier type de réaction est celui qu’adoptent ou ont adopté beaucoup d’experts au sujet des IA.
Cette attitude est marquée par le souci de minimiser ce qui se passe avec les LLM. On peut la caricaturer avec la formule “circulez, il n’y a rien à voir”. Ou en tout cas rien de bien extraordinaire.
On critiquera bien sûr dans la suite ce point de vue et on essayera d’examiner les raisons qui peuvent animer ceux qui en sont les tenants.
Pour plus de simplicité, on pourrait les appeler les « minimiseurs ».