Mot-clé

Changement sémantique

2 écrits

Familiar Words, Unfamiliar Minds: Conventionalization without Calibration in the Vocabulary of Mind

En cours d’évaluation

Soutient que l’extension du vocabulaire de l’esprit aux modèles de langage dissocie deux processus qui coïncident d’ordinaire : la conventionnalisation, par laquelle un mot étiré cesse d’être marqué comme tel, et la calibration, par laquelle les inférences qu’il suggère sont ajustées à ce que ses nouveaux référents confirment. De même qu’une variante génétique peut se fixer sans être une adaptation, un mot peut devenir conventionnel sans être calibré. Une étude de corpus sur « hallucinate » dans 8 568 résumés et 31 866 commentaires de forum montre que la conventionnalisation accomplit l’essentiel de son parcours en trois ans. La calibration ne suit pas nécessairement : elle suppose un référent accessible, stable et indépendant du discours tenu à son sujet, alors que les modèles de langage sont opaques, changent rapidement et sont entraînés sur ce discours même. Là où la main invisible ne suffit pas, la calibration doit être organisée, par une division réciproque du travail linguistique et selon une norme de qualification ciblée : signaler les inférences précises qu’une attribution suggère mais que les données n’étayent pas.

Télécharger le PDF

Disciplined Anthropomorphism: How to Extend Cognitive Language to Artificial Intelligence

En cours d’évaluation

Soutient que ceux qui décrivent l’IA en termes cognitifs tels que « comprendre » et « croire » et les critiques qui dénoncent là un anthropomorphisme complaisant partagent une même approche subsomptive : les uns et les autres demandent si les systèmes d’IA tombent sous des concepts forgés pour les êtres humains, et présentent comme des découvertes sur ces systèmes des verdicts largement déterminés par le cadre conceptuel adopté. Or le problème que pose l’IA est précisément celui du cadre conceptuel dans lequel penser ces systèmes, et l’essor de l’anthropomorphisme se comprend au mieux comme une réponse à ce problème, qu’il faut discipliner plutôt que décourager. Un anthropomorphisme discipliné démêle les connexions inférentielles réunies dans nos concepts cognitifs et demande lesquelles préserver, rompre ou forger pour l’IA. La discipline vient des besoins conceptuels humains qui donnent leur raison d’être à ces connexions, ainsi que des données empiriques, mécanistes en particulier, qui les étayent et les contraignent. Les conceptions de la compréhension et de la croyance qui en résultent ne sont pas de simples versions appauvries des conceptions existantes, mais peuvent être plus riches et mieux ajustées aux particularités de l’IA.

Télécharger le PDF