A Polyphonic Conception of AI Understanding

Mit Pierre Beckmann.

Argumentiert, dass die Frage, ob grosse Sprachmodelle verstehen, wovon sie sprechen, zugleich unausweichlich und falsch gestellt ist: unausweichlich, weil Nutzerinnen und Nutzer Ausgaben, die epistemisches Vertrauen verdienen, von solchen unterscheiden müssen, die es nicht tun, und kein rein mathematisches oder statistisches Vokabular diese Grenze ziehen kann, ohne den Begriff des Verstehens der Sache nach wieder einzuführen; falsch gestellt, weil der überkommene Begriff einen einzigen Sitz des Verstehens voraussetzt. Die mechanistische Interpretierbarkeitsforschung zeigt dagegen, dass LLMs zutiefst polyphone Systeme sind, deren Ausgaben aus parallelen Mechanismen ungleicher Zuverlässigkeit hervorgehen. Gestützt auf Belege für medizinisches, mathematisches, logisches und räumliches Verstehen in LLMs entwickelt der Aufsatz eine für solche Systeme geeignete Konzeption: Ein Modell versteht einen Bereich in dem Masse, wie es über solide Schaltkreise verfügt, die relevante Strukturen erfassen, und diese zuverlässig zur Steuerung seiner Ausgaben heranzieht – womit scheinbar müssige metaphysische Streitfragen zu bearbeitbaren empirischen Fragen werden, an denen sich die Zuteilung von Vertrauen orientieren kann.

KI, LLM, Verständnis, mechanistische Interpretierbarkeit, Conceptual Engineering, begriffliche Anpassung, erklärbare KI