Sprache als Kalibrierung auf die Mitte: Eine Hypothese zur abnehmenden Treue der Chain-of-Thought bei steigender Modellfähigkeit

Je fähiger ein Modell, desto weniger zeigt sein Gedankengang, was seine Antwort bestimmt hat. Die gängigen Erklärungen, Trainingsdruck, nachträgliche Begründung und fehlender Zugang des Modells zum eigenen Prozess, reichen für den gemessenen Trend aus. Dieser Text behauptet einen zweiten Anteil darunter: Sprache ist auf die Mitte der menschlichen Fähigkeitsverteilung kalibriert, und ein Teil dessen, was ein fähiges Modell rechnet, hat in ihr keine Form, auch ohne Training und auch dann, wenn der Gedankengang gebraucht wird. Die These ist bislang unbelegt und läuft gegen den Trend der Abhängigkeitsmaße. Sie steht und fällt mit einem Test: kausale Attribution der antwortbestimmenden Features, Prüfung ihrer Sagbarkeit von außen, Kurve gegen die Schwierigkeit bei kontrollierter Unsicherheit. Stimmt sie, hat kontrollierbare KI eine Obergrenze, die in der Sprache liegt, nicht in der Technik. English summary: The more capable a model, the less its reasoning shows what determined its answer. The usual explanations (training pressure, post-hoc justification, the model's lack of access to its own process) suffice to explain the measured trend. This text claims a second component beneath it: language is calibrated to the middle of the human ability distribution, and part of what a capable model computes has no form in it, even without training and even when the reasoning is needed. The hypothesis is so far unsupported and runs against the trend of the dependence measures. It stands or falls with one test: causal attribution of the answer-determining features, an external check of their sayability, and the curve against difficulty with uncertainty controlled. If it is right, controllable AI has an upper bound that lies in language, not in the technology. Dateien: deutsche Originalfassung (maßgeblich), englische Übersetzung, je ein Anhang mit Gutachterfragen. Hinweis zur KI-Nutzung: Erarbeitet mit Claude (Anthropic, Modell Claude Fable 5.1): Gegenargumente, Quellenprüfung, Testdesign und große Teile der Formulierung; die englische Fassung ist eine KI-Übersetzung. Hypothese, Vorhersagen, Einsatz und die Verantwortung für jede Aussage liegen beim Autor.

Authors

Publication Details

Journal
Zenodo (CERN European Organization for Nuclear Research)
Published
2026-11-01
DOI
https://doi.org/10.5281/zenodo.23852309
Primary Topic
Explainable Artificial Intelligence (XAI)
Type
preprint
Controls
|||
ALL TIME
JAN
FEB
MAR
APR
MAY
JUN
JUL
AUG
SEP
OCT
preprint

Sprache als Kalibrierung auf die Mitte: Eine Hypothese zur abnehmenden Treue der Chain-of-Thought bei steigender Modellfähigkeit

Markus Helge Brückner
2 links
Zenodo (CERN European Organization for Nuclear Research)
Explainable Artificial Intelligence (XAI)
preprint

Sprache als Kalibrierung auf die Mitte: Eine Hypothese zur abnehmenden Treue der Chain-of-Thought bei steigender Modellfähigkeit

Markus Helge Brückner
preprint en

Abstract

Je fähiger ein Modell, desto weniger zeigt sein Gedankengang, was seine Antwort bestimmt hat. Die gängigen Erklärungen, Trainingsdruck, nachträgliche Begründung und fehlender Zugang des Modells zum eigenen Prozess, reichen für den gemessenen Trend aus. Dieser Text behauptet einen zweiten Anteil darunter: Sprache ist auf die Mitte der menschlichen Fähigkeitsverteilung kalibriert, und ein Teil dessen, was ein fähiges Modell rechnet, hat in ihr keine Form, auch ohne Training und auch dann, wenn der Gedankengang gebraucht wird. Die These ist bislang unbelegt und läuft gegen den Trend der Abhängigkeitsmaße. Sie steht und fällt mit einem Test: kausale Attribution der antwortbestimmenden Features, Prüfung ihrer Sagbarkeit von außen, Kurve gegen die Schwierigkeit bei kontrollierter Unsicherheit. Stimmt sie, hat kontrollierbare KI eine Obergrenze, die in der Sprache liegt, nicht in der Technik. English summary: The more capable a model, the less its reasoning shows what determined its answer. The usual explanations (training pressure, post-hoc justification, the model's lack of access to its own process) suffice to explain the measured trend. This text claims a second component beneath it: language is calibrated to the middle of the human ability distribution, and part of what a capable model computes has no form in it, even without training and even when the reasoning is needed. The hypothesis is so far unsupported and runs against the trend of the dependence measures. It stands or falls with one test: causal attribution of the answer-determining features, an external check of their sayability, and the curve against difficulty with uncertainty controlled. If it is right, controllable AI has an upper bound that lies in language, not in the technology. Dateien: deutsche Originalfassung (maßgeblich), englische Übersetzung, je ein Anhang mit Gutachterfragen. Hinweis zur KI-Nutzung: Erarbeitet mit Claude (Anthropic, Modell Claude Fable 5.1): Gegenargumente, Quellenprüfung, Testdesign und große Teile der Formulierung; die englische Fassung ist eine KI-Übersetzung. Hypothese, Vorhersagen, Einsatz und die Verantwortung für jede Aussage liegen beim Autor.

Zenodo (CERN European Organization for Nuclear Research)
Explainable Artificial Intelligence (XAI)
AI Navigator

Ask Laika to Summarize, Analyze, and Connect papers live on the map.

Summarize Papers & Methodologies

Extract key findings, datasets, and comparative methods across publications.

Benchmark Rankings & Visual Analytics

Rank top research institutions, authors, funders, topics, and journals by Field-Weighted Citation Impact (FWCI) and paper volume with instant charts.

Connect Distant Disciplines

Bridge topological clusters on the map to find hidden collaborative intersections.

Laika access coming soon
Sprache als Kalibrierung auf die Mitte: Eine Hypothese zur abnehmenden Treue der Chain-of-Thought bei steigender Modellfähigkeit — Markus Helge Brückner · Zenodo (CERN European Organization for Nuclear Research) (2026) | TGRS Research Map | TGRS