A Polyphonic Conception of AI Understanding

Avec Pierre Beckmann.

Soutient que la question de savoir si les grands modèles de langage comprennent ce dont ils parlent est à la fois incontournable et mal posée : incontournable, parce que les utilisateurs doivent distinguer les réponses qui méritent une confiance épistémique de celles qui n’en méritent pas, et qu’aucun vocabulaire purement mathématique ou statistique ne permet d’opérer cette distinction sans réintroduire, sous un autre nom, le concept de compréhension ; mal posée, parce que le concept hérité présuppose un lieu unique de la compréhension. L’interprétabilité mécaniste révèle au contraire que les LLM sont des systèmes profondément polyphoniques, dont les réponses émergent de mécanismes parallèles d’inégale fiabilité. En s’appuyant sur des indices de compréhension médicale, mathématique, logique et spatiale dans les LLM, l’article élabore une conception adaptée à de tels systèmes : un modèle comprend un domaine dans la mesure où il contient des circuits solides, qui suivent la structure pertinente, et les mobilise de manière fiable pour contrôler ses réponses — ce qui transforme des disputes métaphysiques en apparence oiseuses en questions empiriques traitables, susceptibles de guider la répartition de la confiance.

IA, LLM, compréhension, interprétabilité mécaniste, ingénierie conceptuelle, adaptation conceptuelle, IA explicable