KI

A Polyphonic Conception of AI Understanding

Mit Pierre Beckmann.

Argumentiert, dass die Frage, ob grosse Sprachmodelle verstehen, wovon sie sprechen, zugleich unausweichlich und falsch gestellt ist: unausweichlich, weil Nutzerinnen und Nutzer Ausgaben, die epistemisches Vertrauen verdienen, von solchen unterscheiden müssen, die es nicht tun, und kein rein mathematisches oder statistisches Vokabular diese Grenze ziehen kann, ohne den Begriff des Verstehens der Sache nach wieder einzuführen; falsch gestellt, weil der überkommene Begriff einen einzigen Sitz des Verstehens voraussetzt. Die mechanistische Interpretierbarkeitsforschung zeigt dagegen, dass LLMs zutiefst polyphone Systeme sind, deren Ausgaben aus parallelen Mechanismen ungleicher Zuverlässigkeit hervorgehen. Gestützt auf Belege für medizinisches, mathematisches, logisches und räumliches Verstehen in LLMs entwickelt der Aufsatz eine für solche Systeme geeignete Konzeption: Ein Modell versteht einen Bereich in dem Masse, wie es über solide Schaltkreise verfügt, die relevante Strukturen erfassen, und diese zuverlässig zur Steuerung seiner Ausgaben heranzieht – womit scheinbar müssige metaphysische Streitfragen zu bearbeitbaren empirischen Fragen werden, an denen sich die Zuteilung von Vertrauen orientieren kann.

KI, grosse Sprachmodelle, Verstehen, mechanistische Interpretierbarkeit, Conceptual Engineering, begriffliche Anpassung, erklärbare KI

Evolving Minds, Evolving Language: Metaphor as a Process of Conceptual Adaptation to Artificial Intelligence

Manuskript (+Folien)

Argumentiert, dass kognitive Termini wie „Verstehen“ oder „Schlussfolgern“ immer häufiger auch von technisch versierten Forschenden auf grosse Sprachmodelle angewandt werden und dass solche Anwendungen weder als wörtliche Zuschreibungen noch als bloss lockere Rede zu begreifen sind, sondern als Metapher im Sinne begrifflicher Anpassung: als kreative Ausdehnung von Begriffen über ihren ursprünglichen Bereich hinaus unter dem Druck begrifflicher Bedürfnisse. Im Rückgriff auf die Strawson-Kant-Tradition zu Einbildungskraft und Begriffsanwendung, auf inferentialistische Semantik, auf Bermúdez’ Theorie rationaler Rahmung und auf Gentners Structure-Mapping-Theorie der Analogie entwickelt der Aufsatz einen Rahmen mit vier ineinandergreifenden Komponenten: selektive Übertragung inferenzieller Verknüpfungen statt von Referenz, die leitende Rolle begrifflicher Bedürfnisse und ihrer aptischen Normativität, die empirische Prüfbarkeit übertragener Verknüpfungen mithilfe mechanistischer Interpretierbarkeit sowie die „Karriere“ kognitiver Termini im KI-Kontext von neuartigen Vergleichen über inferenzielle Aushandlung bis hin zu möglicher Konventionalisierung. Damit verschiebt der Aufsatz die Debatte über die wörtliche Anwendbarkeit kognitiver Termini auf KI hin zu abgestuften und empirisch bearbeitbaren Fragen nach der Passung bestimmter inferenzieller Übertragungen und zeigt zugleich, dass die Wahl eines kognitiven Vokabulars für KI evaluativ und praktisch folgenreich ist.

KI, grosse Sprachmodelle, Verstehen, begriffliche Anpassung, aptische Normativität, mechanistische Interpretierbarkeit

Re-Engineering the Concept of Understanding for AI

Mit Pierre Beckmann.

Argumentiert, dass der Begriff des Verstehens für künstliche Kognition neu zu konzipieren ist – empirisch informiert durch die Forschung zur mechanistischen Interpretierbarkeit und theoretisch geleitet durch ein Verständnis der Funktionen des Begriffs.

KI, grosse Sprachmodelle, Verstehen, Conceptual Engineering, mechanistische Interpretierbarkeit, Funktionen von Begriffen

The Invented Inventor: Adapting Intellectual Property to Generative AI

In Begutachtung

Da Künstliche Intelligenz (KI) zunehmend als Treiber von Entdeckungen fungiert, ist der Begriff des Erfinders einer starken Belastung ausgesetzt. Jüngste Gerichtsentscheidungen, wie das DABUS-Urteil des Schweizerischen Bundesverwaltungsgerichts aus dem Jahr 2025, offenbaren eine sich verschärfende Spannung: Gerichte fordern die geistige Schöpfung durch eine natürliche Person, auch wenn der menschliche Beitrag zu KI-gestützten Entdeckungen zunehmend marginal ausfällt. Dieser Beitrag nähert sich der daraus resultierenden Spannung aus dem Blickwinkel der politischen Philosophie anstatt der Rechtswissenschaft: Die Belastung, die KI auf den Begriff der Erfinderschaft ausübt, ist zu grundlegend, als dass sie durch interpretative Methoden gelöst werden könnte, die bestehende begriffliche Architekturen als gegeben voraussetzen. Inspiriert von Humes Genealogie des Eigentums rekonstruiert die Arbeit die historischen „Bedürfnismatrizen“, die den Begriff der Erfinderschaft geprägt haben, und verfolgt seine Entwicklung von der venezianischen Zunftökonomie über die romantische Genieideologie bis hin zur unternehmerischen Forschung und Entwicklung (F&E). Dabei zeigt sich, dass der Begriff ein überfrachtetes Bündel darstellt, das vier soziale Funktionen erfüllt: die Schaffung von Innovationsanreizen, die Verbreitung von Wissen, die Legitimation von Monopolen und die Lösung von Prioritätsstreitigkeiten. Dies verdeutlicht zugleich die Diskrepanz zwischen dem Begriff und den neu aufkommenden Realitäten KI-gesteuerter Entdeckungen. Um diese Diskrepanz aufzulösen, müssen wir den Begriff der Erfinderschaft aufschlüsseln und für jede dieser Funktionen spezialisierte begriffliche Ressourcen entwickeln. Wenn wir die Idee des Erfinders erschaffen haben, um bestimmte Funktionen zu erfüllen, können wir sie auch neu erfinden, um diese besser zu erfüllen.

KI, geistiges Eigentum, Eigentum, begriffliche Anpassung, begriffliche Bedürfnisse, Genealogie, Hume

Why We Care about Understanding: Competence through Predictive Compression

Mit Pierre Beckmann.

Entwirft eine einheitliche Theorie des Verstehens, indem die Funktion sowohl des Zustands als auch des Begriffs mittels Reverse Engineering rekonstruiert wird. Argumentiert, dass uns Verständnis wichtig ist, weil es robuste Kompetenz begründet. Unser Begriff des Verstehens hat sich als effizientes Proxy entwickelt, um diese schwer fassbare Eigenschaft zu verfolgen, sodass wir erkennen können, wem wir vertrauen und von wem wir lernen sollten. Das macht die Sozialität des Verstehens sichtbar und zeigt, wie sie den Charakter menschlichen Verstehens prägt. Verständnis ist das Ergebnis konvergierender Kräfte, die uns dazu drängen, die Welt mithilfe kognitiver Modelle vorherzusagen, die nicht nur akkurat, sondern auch hinreichend komprimiert sind, um gespeichert, demonstriert und weitergegeben werden zu können.

Verstehen, Funktionen von Begriffen, begriffliches Reverse Engineering, Zeugnis, KI, erklärbare KI

Forms of Understanding in LLMs: A Crisis for Comprehension?

In The Routledge Handbook of Philosophy of AI. Leonard Dung, Guido Löhr und Chris Ranalli (Hrsg.). London: Routledge. Im Erscheinen. Mit Pierre Beckmann.

KI, grosse Sprachmodelle, Verstehen

Mechanistic Indicators of Understanding in Large Language Models

Philosophical Studies. 2026. Mit Pierre Beckmann. doi:10.1007/s11098-026-02513-1

Stützt sich auf detaillierte technische Evidenz aus der Forschung zur mechanistischen Interpretierbarkeit (MI), um zu zeigen, dass LLMs zwar tiefgreifend von menschlicher Kognition abweichen, aber mehr tun als Wort‑Ko‑Okkurrenzen zu zählen: Sie bilden interne Strukturen, die sich fruchtbar mit verschiedenen Formen menschlichen Verstehens vergleichen lassen, etwa mit begrifflichem, faktischem und prinzipiellem Verständnis. Wir synthetisieren die bislang relevantesten Befunde der MI und betten sie in einen integrativen theoretischen Rahmen ein, um über Verständnis in LLMs nachzudenken. Wie das Phänomen „parallel mechanisms“ zeigt, sind die Unterschiede zwischen LLMs und menschlicher Kognition jedoch ebenso philosophisch ergiebig wie die Ähnlichkeiten.

KI, grosse Sprachmodelle, mechanistische Interpretierbarkeit, Verstehen, Weltmodelle, erklärbare KI

World Modeling in Transformers

arXiv 2609.21748. 2026. Mit Pierre Beckmann und André Freitas. doi:10.48550/arXiv.2609.21748

Zeigt, dass Verhaltensfehler einen Transformer so erscheinen lassen können, als fehle ihm ein Weltmodell, obwohl er getreue Repräsentationen seiner Umgebung gelernt hat. Bei TaxiGPT, einem auf zufälligen Wegen durch Manhattan trainierten Transformer, dessen Fehler als Beleg für eine inkohärente interne Karte gedeutet worden waren, zeigen mechanistische Analysen und kausale Interventionen, dass das Modell Kreuzungen und Strassen repräsentiert, seine Position verfolgt und mit einem Zielkompass navigiert; seine Fehler gehen auf Interferenzen zwischen überlagerten Kreuzungsmerkmalen zurück, deren Folgen durch eine Bündelung nach Affordanzen begrenzt werden, die Kreuzungen mit denselben zulässigen Bewegungen zusammenfasst. Schlägt mechanistische Indikatoren zum Vergleich von Modellen vor, die zeigen, dass Fähigkeiten der Weltmodellierung in unterschiedlichen Trainingsphasen entstehen, und plädiert dafür, statt zu fragen, ob ein Modell ein Weltmodell hat, seine Weltmodellierung mechanistisch zu untersuchen.

KI, grosse Sprachmodelle, Weltmodelle, mechanistische Interpretierbarkeit

Can AI Rely on the Systematicity of Truth? The Challenge of Modelling Normative Domains

Philosophy & Technology 38 (34): 1–27. 2025. doi:10.1007/s13347-025-00864-x

Argumentiert, dass die Asystematizität normativer Bereiche, die aus der Pluralität, Unvereinbarkeit und Inkommensurabilität von Werten resultiert, die Fähigkeit der KI herausfordert, diese Bereiche umfassend zu modellieren, und die unverzichtbare Rolle menschlicher Handlungsfähigkeit in der praktischen Deliberation unterstreicht.

KI, grosse Sprachmodelle, Systematizität, Wahrheit, Wertkonflikte, KI-Ethik, Deliberation

Dropping Anchor in Rough Seas: Co-Reasoning with Personalized AI Advisors and the Liberalism of Fear

Philosophy & Technology 38 (170): 1–7. 2025. Eingeladener Kommentar. doi:10.1007/s13347-025-01006-z

Eine politische Kritik an personalisierten KI‑Beratern aus der Perspektive des Liberalismus der Furcht. Hebt die involvierten Machtasymmetrien hervor und argumentiert, dass Personalisierung die Gefahr birgt, Dominanz zu stabilisieren, indem strukturelle Ungerechtigkeiten in individualisierte, aspirationale Herausforderungen übersetzt werden. Anschliessend werden drei politische Beschränkungen für personalisierte KI vorgeschlagen: der Vorrang der Nicht-Beherrschung, die öffentliche Bestreitbarkeit operativer Normen und die Anerkennung nicht‑personalisierbarer bürgerschaftlicher Lasten.

KI, KI-Ethik, KI-Berater, Liberalismus, Nichtbeherrschung, Macht, Deliberation

Explainability through Systematicity: The Hard Systematicity Challenge for Artificial Intelligence

Minds and Machines 35 (35): 1–39. 2025. doi:10.1007/s11023-025-09738-9

Bietet einen Rahmen, um über die „Systematizität des Denkens“ nachzudenken: Er unterscheidet vier Bedeutungen der Wendung, entschärft die vermeintliche Spannung zwischen Systematizität und Konnektionismus, die Fodor und Pylyshyn einflussreich diagnostiziert haben, und identifiziert eine „harte“ Form der Systematizitätsherausforderung, der konnektionistische Modelle weiterhin nicht gewachsen sind.

KI, erklärbare KI, Systematizität

Kein Sicherheitsnetz der Wahrheit: Warum Normativität für LLMs schwierig bleibt

meta(φ) 13 (1): 51—89. 2025.

KI, grosse Sprachmodelle, Systematizität, Wahrheit, Wertkonflikte

On the Fundamental Limitations of AI Moral Advisors

Philosophy & Technology 38 (71): 1–4. 2025. Eingeladener Kommentar. doi:10.1007/s13347-025-00896-3

Argumentiert, dass die Asystematizität der Wahrheit zwar gegen die Personalisierung von KI-Moralberatern spricht, aber auch Beschränkungen für generalistische KI-Moralberater mit sich bringt.

KI, KI-Ethik, KI-Berater, grosse Sprachmodelle, Systematizität, Deliberation