Erklärbare KI
4 Texte
A Polyphonic Conception of AI Understanding
Mit Pierre Beckmann.
Argumentiert, dass die Frage, ob grosse Sprachmodelle verstehen, wovon sie sprechen, zugleich unausweichlich und falsch gestellt ist: unausweichlich, weil Nutzerinnen und Nutzer Ausgaben, die epistemisches Vertrauen verdienen, von solchen unterscheiden müssen, die es nicht tun, und kein rein mathematisches oder statistisches Vokabular diese Grenze ziehen kann, ohne den Begriff des Verstehens der Sache nach wieder einzuführen; falsch gestellt, weil der überkommene Begriff einen einzigen Sitz des Verstehens voraussetzt. Die mechanistische Interpretierbarkeitsforschung zeigt dagegen, dass LLMs zutiefst polyphone Systeme sind, deren Ausgaben aus parallelen Mechanismen ungleicher Zuverlässigkeit hervorgehen. Gestützt auf Belege für medizinisches, mathematisches, logisches und räumliches Verstehen in LLMs entwickelt der Aufsatz eine für solche Systeme geeignete Konzeption: Ein Modell versteht einen Bereich in dem Masse, wie es über solide Schaltkreise verfügt, die relevante Strukturen erfassen, und diese zuverlässig zur Steuerung seiner Ausgaben heranzieht – womit scheinbar müssige metaphysische Streitfragen zu bearbeitbaren empirischen Fragen werden, an denen sich die Zuteilung von Vertrauen orientieren kann.
PDF herunterladen
Why We Care about Understanding: Competence through Predictive Compression
Mit Pierre Beckmann.
Entwirft eine einheitliche Theorie des Verstehens, indem die Funktion sowohl des Zustands als auch des Begriffs mittels Reverse Engineering rekonstruiert wird. Argumentiert, dass uns Verständnis wichtig ist, weil es robuste Kompetenz begründet. Unser Begriff des Verstehens hat sich als effizientes Proxy entwickelt, um diese schwer fassbare Eigenschaft zu verfolgen, sodass wir erkennen können, wem wir vertrauen und von wem wir lernen sollten. Das macht die Sozialität des Verstehens sichtbar und zeigt, wie sie den Charakter menschlichen Verstehens prägt. Verständnis ist das Ergebnis konvergierender Kräfte, die uns dazu drängen, die Welt mithilfe kognitiver Modelle vorherzusagen, die nicht nur akkurat, sondern auch hinreichend komprimiert sind, um gespeichert, demonstriert und weitergegeben werden zu können.
PDF herunterladen
Mechanistic Indicators of Understanding in Large Language Models
Philosophical Studies. 2026. Mit Pierre Beckmann. doi:10.1007/s11098-026-02513-1
Stützt sich auf detaillierte technische Evidenz aus der Forschung zur mechanistischen Interpretierbarkeit (MI), um zu zeigen, dass LLMs zwar tiefgreifend von menschlicher Kognition abweichen, aber mehr tun als Wort‑Ko‑Okkurrenzen zu zählen: Sie bilden interne Strukturen, die sich fruchtbar mit verschiedenen Formen menschlichen Verstehens vergleichen lassen, etwa mit begrifflichem, faktischem und prinzipiellem Verständnis. Wir synthetisieren die bislang relevantesten Befunde der MI und betten sie in einen integrativen theoretischen Rahmen ein, um über Verständnis in LLMs nachzudenken. Wie das Phänomen „parallel mechanisms“ zeigt, sind die Unterschiede zwischen LLMs und menschlicher Kognition jedoch ebenso philosophisch ergiebig wie die Ähnlichkeiten.
PDF herunterladen
Explainability through Systematicity: The Hard Systematicity Challenge for Artificial Intelligence
Minds and Machines 35 (35): 1–39. 2025. doi:10.1007/s11023-025-09738-9
Bietet einen Rahmen, um über die „Systematizität des Denkens“ nachzudenken: Er unterscheidet vier Bedeutungen der Wendung, entschärft die vermeintliche Spannung zwischen Systematizität und Konnektionismus, die Fodor und Pylyshyn einflussreich diagnostiziert haben, und identifiziert eine „harte“ Form der Systematizitätsherausforderung, der konnektionistische Modelle weiterhin nicht gewachsen sind.
PDF herunterladen