Grosse Sprachmodelle
9 Texte
A Polyphonic Conception of AI Understanding
Mit Pierre Beckmann.
Argumentiert, dass die Frage, ob grosse Sprachmodelle verstehen, wovon sie sprechen, zugleich unausweichlich und falsch gestellt ist: unausweichlich, weil Nutzerinnen und Nutzer Ausgaben, die epistemisches Vertrauen verdienen, von solchen unterscheiden müssen, die es nicht tun, und kein rein mathematisches oder statistisches Vokabular diese Grenze ziehen kann, ohne den Begriff des Verstehens der Sache nach wieder einzuführen; falsch gestellt, weil der überkommene Begriff einen einzigen Sitz des Verstehens voraussetzt. Die mechanistische Interpretierbarkeitsforschung zeigt dagegen, dass LLMs zutiefst polyphone Systeme sind, deren Ausgaben aus parallelen Mechanismen ungleicher Zuverlässigkeit hervorgehen. Gestützt auf Belege für medizinisches, mathematisches, logisches und räumliches Verstehen in LLMs entwickelt der Aufsatz eine für solche Systeme geeignete Konzeption: Ein Modell versteht einen Bereich in dem Masse, wie es über solide Schaltkreise verfügt, die relevante Strukturen erfassen, und diese zuverlässig zur Steuerung seiner Ausgaben heranzieht – womit scheinbar müssige metaphysische Streitfragen zu bearbeitbaren empirischen Fragen werden, an denen sich die Zuteilung von Vertrauen orientieren kann.
PDF herunterladen
Evolving Minds, Evolving Language: Metaphor as a Process of Conceptual Adaptation to Artificial Intelligence
Manuskript (+Folien)
Argumentiert, dass kognitive Termini wie „Verstehen“ oder „Schlussfolgern“ immer häufiger auch von technisch versierten Forschenden auf grosse Sprachmodelle angewandt werden und dass solche Anwendungen weder als wörtliche Zuschreibungen noch als bloss lockere Rede zu begreifen sind, sondern als Metapher im Sinne begrifflicher Anpassung: als kreative Ausdehnung von Begriffen über ihren ursprünglichen Bereich hinaus unter dem Druck begrifflicher Bedürfnisse. Im Rückgriff auf die Strawson-Kant-Tradition zu Einbildungskraft und Begriffsanwendung, auf inferentialistische Semantik, auf Bermúdez’ Theorie rationaler Rahmung und auf Gentners Structure-Mapping-Theorie der Analogie entwickelt der Aufsatz einen Rahmen mit vier ineinandergreifenden Komponenten: selektive Übertragung inferenzieller Verknüpfungen statt von Referenz, die leitende Rolle begrifflicher Bedürfnisse und ihrer aptischen Normativität, die empirische Prüfbarkeit übertragener Verknüpfungen mithilfe mechanistischer Interpretierbarkeit sowie die „Karriere“ kognitiver Termini im KI-Kontext von neuartigen Vergleichen über inferenzielle Aushandlung bis hin zu möglicher Konventionalisierung. Damit verschiebt der Aufsatz die Debatte über die wörtliche Anwendbarkeit kognitiver Termini auf KI hin zu abgestuften und empirisch bearbeitbaren Fragen nach der Passung bestimmter inferenzieller Übertragungen und zeigt zugleich, dass die Wahl eines kognitiven Vokabulars für KI evaluativ und praktisch folgenreich ist.
Präsentation ansehen
Re-Engineering the Concept of Understanding for AI
Mit Pierre Beckmann.
Argumentiert, dass der Begriff des Verstehens für künstliche Kognition neu zu konzipieren ist – empirisch informiert durch die Forschung zur mechanistischen Interpretierbarkeit und theoretisch geleitet durch ein Verständnis der Funktionen des Begriffs.
PDF folgt
Forms of Understanding in LLMs: A Crisis for Comprehension?
In The Routledge Handbook of Philosophy of AI. Leonard Dung, Guido Löhr und Chris Ranalli (Hrsg.). London: Routledge. Im Erscheinen. Mit Pierre Beckmann.
Mechanistic Indicators of Understanding in Large Language Models
Philosophical Studies. 2026. Mit Pierre Beckmann. doi:10.1007/s11098-026-02513-1
Stützt sich auf detaillierte technische Evidenz aus der Forschung zur mechanistischen Interpretierbarkeit (MI), um zu zeigen, dass LLMs zwar tiefgreifend von menschlicher Kognition abweichen, aber mehr tun als Wort‑Ko‑Okkurrenzen zu zählen: Sie bilden interne Strukturen, die sich fruchtbar mit verschiedenen Formen menschlichen Verstehens vergleichen lassen, etwa mit begrifflichem, faktischem und prinzipiellem Verständnis. Wir synthetisieren die bislang relevantesten Befunde der MI und betten sie in einen integrativen theoretischen Rahmen ein, um über Verständnis in LLMs nachzudenken. Wie das Phänomen „parallel mechanisms“ zeigt, sind die Unterschiede zwischen LLMs und menschlicher Kognition jedoch ebenso philosophisch ergiebig wie die Ähnlichkeiten.
PDF herunterladen
World Modeling in Transformers
arXiv 2609.21748. 2026. Mit Pierre Beckmann und André Freitas. doi:10.48550/arXiv.2609.21748
Zeigt, dass Verhaltensfehler einen Transformer so erscheinen lassen können, als fehle ihm ein Weltmodell, obwohl er getreue Repräsentationen seiner Umgebung gelernt hat. Bei TaxiGPT, einem auf zufälligen Wegen durch Manhattan trainierten Transformer, dessen Fehler als Beleg für eine inkohärente interne Karte gedeutet worden waren, zeigen mechanistische Analysen und kausale Interventionen, dass das Modell Kreuzungen und Strassen repräsentiert, seine Position verfolgt und mit einem Zielkompass navigiert; seine Fehler gehen auf Interferenzen zwischen überlagerten Kreuzungsmerkmalen zurück, deren Folgen durch eine Bündelung nach Affordanzen begrenzt werden, die Kreuzungen mit denselben zulässigen Bewegungen zusammenfasst. Schlägt mechanistische Indikatoren zum Vergleich von Modellen vor, die zeigen, dass Fähigkeiten der Weltmodellierung in unterschiedlichen Trainingsphasen entstehen, und plädiert dafür, statt zu fragen, ob ein Modell ein Weltmodell hat, seine Weltmodellierung mechanistisch zu untersuchen.
PDF herunterladen
Can AI Rely on the Systematicity of Truth? The Challenge of Modelling Normative Domains
Philosophy & Technology 38 (34): 1–27. 2025. doi:10.1007/s13347-025-00864-x
Argumentiert, dass die Asystematizität normativer Bereiche, die aus der Pluralität, Unvereinbarkeit und Inkommensurabilität von Werten resultiert, die Fähigkeit der KI herausfordert, diese Bereiche umfassend zu modellieren, und die unverzichtbare Rolle menschlicher Handlungsfähigkeit in der praktischen Deliberation unterstreicht.
PDF herunterladen
Kein Sicherheitsnetz der Wahrheit: Warum Normativität für LLMs schwierig bleibt
meta(φ) 13 (1): 51—89. 2025.
On the Fundamental Limitations of AI Moral Advisors
Philosophy & Technology 38 (71): 1–4. 2025. Eingeladener Kommentar. doi:10.1007/s13347-025-00896-3
Argumentiert, dass die Asystematizität der Wahrheit zwar gegen die Personalisierung von KI-Moralberatern spricht, aber auch Beschränkungen für generalistische KI-Moralberater mit sich bringt.
PDF herunterladen