{"id":521,"date":"2026-04-26T16:12:11","date_gmt":"2026-04-26T14:12:11","guid":{"rendered":"http:\/\/philippethomine.net\/?p=521"},"modified":"2026-07-06T23:34:05","modified_gmt":"2026-07-06T21:34:05","slug":"structures-internalisees","status":"publish","type":"post","link":"http:\/\/philippethomine.net\/index.php\/2026\/04\/26\/structures-internalisees\/","title":{"rendered":"Les LLM internalisent les structures du langage"},"content":{"rendered":"\n<h4 class=\"wp-block-heading\">S\u00e9rie 2 (6\/7 &#8211; commentaire)<\/h4>\n\n\n\n<p class=\"wp-block-paragraph\">Je trouve que, \u00e0 travers les r\u00e9ponses de Chat GPT dans cette partie, on commence \u00e0 mieux voir ce que sont et ce que font les LLM.<br>Apr\u00e8s leur phase d&rsquo;apprentissage et d&rsquo;entra\u00eenement, on peut dire qu&rsquo;<strong>ils ont int\u00e9gr\u00e9, dans leur structure m\u00eame<\/strong>, les r\u00e9gularit\u00e9s souterraines du langage qui nous permettent de communiquer de fa\u00e7on complexe.<\/p>\n\n\n\n<!--more-->\n\n\n\n<p class=\"wp-block-paragraph\">Ils ont <strong>internalis\u00e9<\/strong> -outre le vocabulaire- les structures grammaticales, les sch\u00e9mas narratifs, les formes de raisonnement. C&rsquo;est pour cela qu&rsquo;ils peuvent, comme le fait Chat GPT dans ce texte et dans les autres, r\u00e9pondre \u00e0 des interrogations, expliquer argumenter, ou ailleurs, inventer des histoires, ou bien r\u00e9sumer, ou encore traduire.<br>Une premi\u00e8re conclusion propos\u00e9e dans ce texte : un mod\u00e8le de langage est donc <strong>un syst\u00e8me qui s\u2019accorde aux structures du langage en les internalisant<\/strong> sous forme de probabilit\u00e9s.<br>On est loin des id\u00e9es couramment entendues : ils pr\u00e9disent le mot suivant le plus probable ou bien ils se contentent de chercher les r\u00e9ponses dans des textes d\u00e9j\u00e0 \u00e9crits.<br>Une autre conclusion du texte \u00e9labor\u00e9 par Chat GPT : un mod\u00e8le de langage est <strong>un syst\u00e8me qui apprend \u00e0 reproduire les r\u00e9gularit\u00e9s du langage et, ce faisant, acc\u00e8de \u00e0 une partie des structures de l\u2019intelligence humaine<\/strong>.<br>Dans le billet suivant, on va voir une autre fa\u00e7on de parler de ces structures internalis\u00e9es, en passant par un d\u00e9tour math\u00e9matique.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>S\u00e9rie 2 (6\/7 &#8211; commentaire) Je trouve que, \u00e0 travers les r\u00e9ponses de Chat GPT dans cette partie, on commence \u00e0 mieux voir ce que sont et ce que font les LLM.Apr\u00e8s leur phase d&rsquo;apprentissage et d&rsquo;entra\u00eenement, on peut dire qu&rsquo;ils ont int\u00e9gr\u00e9, dans leur structure m\u00eame, les r\u00e9gularit\u00e9s souterraines du langage qui nous permettent [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-521","post","type-post","status-publish","format-standard","hentry","category-uncategorized","post-preview"],"_links":{"self":[{"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/posts\/521","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/comments?post=521"}],"version-history":[{"count":5,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/posts\/521\/revisions"}],"predecessor-version":[{"id":536,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/posts\/521\/revisions\/536"}],"wp:attachment":[{"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/media?parent=521"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/categories?post=521"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/philippethomine.net\/index.php\/wp-json\/wp\/v2\/tags?post=521"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}