IA explicable
4 écrits
A Polyphonic Conception of AI Understanding
Avec Pierre Beckmann.
Soutient que la question de savoir si les grands modèles de langage comprennent ce dont ils parlent est à la fois incontournable et mal posée : incontournable, parce que les utilisateurs doivent distinguer les réponses qui méritent une confiance épistémique de celles qui n’en méritent pas, et qu’aucun vocabulaire purement mathématique ou statistique ne permet d’opérer cette distinction sans réintroduire, sous un autre nom, le concept de compréhension ; mal posée, parce que le concept hérité présuppose un lieu unique de la compréhension. L’interprétabilité mécaniste révèle au contraire que les LLM sont des systèmes profondément polyphoniques, dont les réponses émergent de mécanismes parallèles d’inégale fiabilité. En s’appuyant sur des indices de compréhension médicale, mathématique, logique et spatiale dans les LLM, l’article élabore une conception adaptée à de tels systèmes : un modèle comprend un domaine dans la mesure où il contient des circuits solides, qui suivent la structure pertinente, et les mobilise de manière fiable pour contrôler ses réponses — ce qui transforme des disputes métaphysiques en apparence oiseuses en questions empiriques traitables, susceptibles de guider la répartition de la confiance.
Télécharger le PDF
Why We Care about Understanding: Competence through Predictive Compression
Avec Pierre Beckmann.
Propose une théorie unificatrice de la compréhension en reconstruisant par rétro‑ingénierie la fonction à la fois de l’état mental et du concept. Soutient que nous tenons à la compréhension parce qu’elle fonde une compétence robuste. Notre concept de compréhension a évolué comme un indicateur efficace pour suivre cette propriété difficile à cerner, ce qui nous permet d’identifier à qui faire confiance et de qui apprendre. Cela met en lumière la dimension sociale de la compréhension et la manière dont elle façonne la compréhension humaine. La compréhension résulte de pressions convergentes à prédire le monde au moyen de modèles cognitifs non seulement exacts, mais aussi suffisamment compressés pour être stockés, démontrés et transmis.
Télécharger le PDF
Mechanistic Indicators of Understanding in Large Language Models
Philosophical Studies. 2026. Avec Pierre Beckmann. doi:10.1007/s11098-026-02513-1
Mobilise des données techniques détaillées issues de la recherche sur l’interprétabilité mécaniste (MI) pour soutenir que, bien que les LLM diffèrent profondément de la cognition humaine, ils font plus que comptabiliser des cooccurrences de mots : ils forment des structures internes que l’on peut comparer de façon féconde à différentes formes de compréhension humaine, telles que la compréhension conceptuelle, factuelle et principielle. Nous synthétisons les résultats les plus pertinents à ce jour de la MI tout en les inscrivant dans un cadre théorique intégrateur pour penser la compréhension dans les LLM. Le phénomène des « parallel mechanisms » montre toutefois que les différences entre les LLM et la cognition humaine sont aussi philosophiquement fécondes à considérer que les similarités.
Télécharger le PDF
Explainability through Systematicity: The Hard Systematicity Challenge for Artificial Intelligence
Minds and Machines 35 (35): 1–39. 2025. doi:10.1007/s11023-025-09738-9
Propose un cadre pour penser la « systématicité de la pensée », en distinguant quatre sens de l’expression, en désamorçant la prétendue tension entre systématicité et connexionnisme diagnostiquée par Fodor et Pylyshyn, et en identifiant une forme « dure » du défi de la systématicité qui continue de résister aux modèles connexionnistes.
Télécharger le PDF