Andersons Blickwinkel
Der wissenschaftliche Fortschritt durch KI ist von einer seltsamen Obsession bedroht

Wichtige PunkteNeuere KI-Gutachter fixieren sich auf Anhänge, während menschliche Gutachter sich auf…
Mehr anzeigen
- Neuere KI-Gutachter fixieren sich auf Anhänge, während menschliche Gutachter sich auf die Hauptergebnisse einer Arbeit konzentrieren.
- Sprachmodelle behandeln jede Passage als gleich wichtig und verfehlen daher, welche Abschnitte tatsächlich von Bedeutung sind.
- Die Anhangsverzerrung besteht über alle Zugriffsmethoden hinweg und liefert oberflächliches Feedback, das Autoren kaum bei der Verbesserung hilft.
Eine neue US-Studie legt nahe, dass KI-Modelle bei der Begutachtung wissenschaftlicher Arbeiten eine seltsame Obsession für deren Anhänge entwickeln und sich weniger mit dem Haupttext befassen. Oft schenken sie nebensächlichen Zusatzinformationen mehr Beachtung als den zentralen Ergebnissen. Da Sprachmodelle zunehmend eingesetzt werden, um menschliche Gutachter zu unterstützen oder sie sogar zu ersetzen, scheint sich diese neu erkannte Tendenz auch auf das menschliche Peer-Review-Verfahren auszubreiten und könnte den Fortschritt in der KI-Forschung behindern:

Aus der neuen Studie: Zunahme von Kritik an Anhängen in wissenschaftlichen Peer-Reviews durch Menschen. Nachdem der Anteil jahrelang unter 11 % gelegen hatte, stieg er in den jüngsten Gutachten auf 27,6 %, nachdem KI-Modelle veröffentlicht worden waren, bei denen mehr als die Hälfte ihrer Kritikpunkte auf Anhänge entfiel. Die gestrichelten Linien markieren die Veröffentlichungen wichtiger Modelle. Quelle
Bei einer Untersuchung von 2000 wissenschaftlichen Arbeiten aus vier beliebten Konferenzen stellten die Forschenden der neuen Studie fest, dass neuere Modelle etwa 50–70 % ihrer Kritikpunkte aus Anhängen ableiten, verglichen mit weniger als 30 % beim älteren GPT-5.
Zwei der prominentesten neueren KI-Modelle, die offenbar dazu führen, dass sich auch menschliche Gutachter zunehmend den Anhängen statt den wichtigeren Hauptergebnissen zuwenden, sind GPT-6.1-Sol von OpenAI und GPT-6-Astra. Beide wurden 2026 veröffentlicht.
In der Studie heißt es*:
„Der Unterschied zwischen den Modellgenerationen ist groß. Bei GPT-5 bezieht sich nur ein kleiner Teil der Schwachstellen auf den Anhang. Die beiden neueren Modelle, GPT-6.1-Sol und GPT-6-Astra, stützen sich deutlich stärker darauf, und das gilt für jede Konferenz.
„Das deutet darauf hin, dass die Neigung, sich auf den Anhang zu konzentrieren, vor allem eine Eigenschaft neuerer Modelle ist. Obwohl die neuen Modelle eine Verbesserung darstellen, hat ihre Neigung zum Anhang zugenommen. Sie haben durch die Fähigkeit, eine Arbeit detailliert zu lesen, nicht gelernt, welche Teile am wichtigsten sind.“
Die Studie ergab außerdem, dass diese Fixierung auf den Anhang je nach Methode, mit der die KI die Arbeit erhält, unterschiedlich ausfällt, da Schnittstellen über APIs, Codex und das Web PDFs nicht auf dieselbe Weise auswerten – und Codex die Mitte eines durchschnittlich langen PDFs überhaupt nicht liest, sondern es später bei Bedarf nur in einzelnen „Häppchen“ abtastet. Dennoch bevorzugten alle Methoden das Material im Anhang.
Bis vor Kurzem teilten menschliche und KI-Gutachter diese Obsession nicht:
„[Human] Gutachter behandeln den Haupttext und das ergänzende Material ganz anders als LLMs. LLMs führen mehr als 50 % ihrer Schwachstellen auf Material im Anhang zurück, Menschen dagegen weniger als 10 %.
„Der Unterschied zeigt sich auch bei einzelnen Gutachten. Von den 200 Arbeiten, die jedes Jahr von 2021 bis 2024 ausgewählt wurden, erhielten insgesamt nur 159 eine menschliche Begutachtung, in der überhaupt eine Schwachstelle im Zusammenhang mit dem Anhang genannt wurde. Im Gegensatz dazu enthielten alle 200 von LLMs erstellten Gutachten für ICLR 2027 mindestens einen Kritikpunkt zum Anhang.“

Vergleich der Kritik an Anhängen in von Menschen und von KI erstellten Peer-Reviews. Menschliche Gutachter führten lediglich 8,4 % der festgestellten Schwachstellen auf Material im Anhang zurück, bei KI-Modellen waren es 62 %. Die zweite Spalte zeigt Kritikpunkte, die sich ausschließlich auf den Anhang beziehen und für die es kein entsprechendes Problem im Haupttext gibt.
Wie die obige Testtabelle zeigt, identifizierten KI-Gutachter mehr als siebenmal so häufig wie Menschen Schwachstellen in den Anhängen und äußerten mehr als dreimal so häufig Kritik, die sich ausschließlich auf das ergänzende Material bezog. Das deutet darauf hin, dass einige der neuesten KI-Modelle an der technologischen Spitze nun Details priorisieren, die menschliche Gutachter traditionell als nachrangig gegenüber dem zentralen wissenschaftlichen Beitrag einer Arbeit betrachten würden.
Warum?
Soweit sich das erkennen lässt – diese Studie ist die erste, die das Phänomen festgestellt hat –, liegt ein Teil des Problems darin, dass die KI-Systeme nicht erkennen oder aus ihrem umfangreichen Trainingsmaterial nicht gelernt haben, dass der zentrale Inhalt einer Arbeit normalerweise nicht im Anhang steht. Ihre allgemeine Neigung, alle Texte als gleich wichtig zu behandeln, lässt den Kontext des Anhangmaterials außer Acht, das oft nicht redaktionell aufbereitet und deutlich weniger sorgfältig präsentiert ist als der Haupttext:
„LLMs kritisieren fast nie die einleitenden Seiten, auf denen eine Arbeit ihr Problem umreißt und begründet, warum es wichtig ist. Menschen widersprechen genau dieser Einordnung oft, während LLMs sie offenbar akzeptieren und sich dann den Zahlen zuwenden.“
„[Humans and LLMs] lasen den Anhang ganz anders. Menschliche Kritik nimmt im weiteren Verlauf des Anhangs rasch ab und verschwindet auf den letzten Seiten fast ganz. Die Schwächen der LLMs nehmen überhaupt nicht ab. Tatsächlich erreichen sie erst weit hinten im Anhang ihren Höhepunkt, nicht gleich am Anfang, und bestehen sogar noch jenseits von Seite 30 fort, wo menschliche Gutachter kaum noch Bedenken äußern.“
„Für ein LLM ist ein Detail auf Seite 25 ein ebenso legitimes Ziel für Kritik wie die zentrale Ergebnistabelle.“
Die Autoren merken an, dass die egalitäre Herangehensweise von LLMs an Texte sie möglicherweise ganz natürlich dazu gebracht hat, sich stärker auf das Material im Anhang zu konzentrieren, da dieses, wie oben erwähnt, tendenziell mehr Fehler enthält.
Die übergeordnete Erkenntnis, die ich aus dieser neuen Studie ziehe, ist daher, dass sich LLMs im Laufe der Zeit auf einen Abschnitt neuer wissenschaftlicher Arbeiten eingeschossen haben, in dem es häufig zu zahlreichen Fehlern oder Vermischungen kommt – einfach deshalb, weil dieser Bereich von menschlichen Autoren so oft als unordentliche Ablage für zweitrangige Belege und Nachweise genutzt wird.
Deshalb finden KI-Systeme die Anhänge zunehmend interessanter als den sorgfältig redigierten Hauptteil, weil es dort mehr zu analysieren und zu korrigieren gibt. Folglich, so die Arbeit, behandeln LLMs den einleitenden Teil der Arbeit tendenziell als sachliche Darstellung und nehmen ihn für bare Münze:
„Menschen erwarten, dass der Hauptteil für sich allein stehen kann. Deshalb wenden sie ein, wenn wesentliche Abschnitte in den Anhang ausgelagert werden. LLMs äußern diese Bedenken fast nie.“
„Das macht einen wichtigen Unterschied deutlich: Menschen erkennen, dass der Hauptteil mehr Gewicht hat als der Anhang – LLMs hingegen nicht.“
Folgen und Gegenmaßnahmen
Diese unerwartete Konzentration auf nebensächliche Details könnte erhebliche Folgen für die KI-gestützte wissenschaftliche Forschung haben, insbesondere wenn die Bedeutung der zentralen Ergebnisse einer Arbeit übersehen wird. Da diese Tendenz offenbar erst bei den neuesten Modellen aufgetreten ist, sind ihre längerfristigen Auswirkungen noch unbekannt.
Die Arbeit räumt ein, dass KI-Gutachter wertvolle Fehler aufdecken können, selbst wenn diese tief im Anhang verborgen sind. Sie warnt jedoch davor, dass nebensächlichen Details zu viel Aufmerksamkeit zulasten der zentralen Ergebnisse einer Arbeit zukommen kann. Das führt zu langen Gutachten mit geringem praktischem Nutzen:
„LLM-Gutachter legen die Messlatte höher, weil sie keinen Teil der Arbeit ungeprüft lassen. Eine wirksame Begutachtung erfordert jedoch auch ein Urteilsvermögen dafür, worauf es am meisten ankommt. Wenn die meisten Schwächen eines Gutachtens auf Inhalte im Anhang zurückgehen, die nichts mit dem Hauptbeitrag zu tun haben, bleibt die Rückmeldung oberflächlich. Sie setzt sich nicht mit dem Kern der Arbeit auseinander und hilft den Autoren kaum, sie zu verbessern.“
Die Autoren der neuen Arbeit mit dem Titel KI-Begutachtungen sind zugunsten des Anhangs verzerrt wurden auf diese Fragestellung aufmerksam, weil ihnen bei der Bewertung ihrer eigenen Einreichungen durch LLM-gestützte beziehungsweise KI-generierte Gutachten einige merkwürdige Muster aufgefallen waren. Der Code der Studie ist auf GitHub verfügbar.
Methode und Tests
Für die Tests wurden vier führende KI-Modelle von OpenAI und Anthropic ausgewählt: GPT-6-Astra, GPT-6.1-Sol, Claude-Opus-5.5 und Claude-Sonnet-5.5. Die Modelle wurden über Codex und Claude Code genutzt; ihr Begutachtungsverhalten wurde mit dem bei Zugriff über eine API und eine Weboberfläche verglichen.
Forschungsarbeiten wurden von vier großen Konferenzen zu KI und natürlicher Sprachverarbeitung zusammengetragen: ACL 2026, EMNLP 2026, COLM 2026 und ICLR 2027. Sie wurden ausgewählt, weil ihre Einreichungs- und Begutachtungsverfahren ähnlich sind: Für die Hauptarbeit gelten strenge Seitenbegrenzungen, während die Anhänge, die nach dem Literaturverzeichnis stehen, im Allgemeinen keinen Beschränkungen unterliegen.
Insgesamt wurden 2.000 Arbeiten untersucht: 1.200 stammten von ICLR 2021–2026 und 800 von vier aktuellen Konferenzen, wobei aus jeder 200 ausgewählt wurden. Alle 800 aktuellen Arbeiten hatten Anhänge mit mindestens 15 Seiten. Die Einreichungen für ICLR 2027 waren bereits anonymisiert. Bei den Arbeiten von ACL, EMNLP und COLM wurden die Namen, Zugehörigkeiten und E-Mail-Adressen der Autoren sowie Links, über die sich ihre Identität feststellen ließ, entfernt, damit die KI-Gutachter nicht auf die Urheberschaft schließen konnten.
Der Internetzugang der Modelle wurde deaktiviert, sodass sich ihre Gutachten ausschließlich auf die bereitgestellten PDFs stützten.
Zunächst wurde die KI gebeten, ein Gutachten im Stil der jeweiligen Konferenz zu verfassen, in dem die Stärken und Schwächen der Arbeit sowie eine Gesamtbewertung aufgeführt wurden. Die Anweisungen waren bewusst einfach gehalten, um nachzubilden, wie KI von einem tatsächlichen Gutachter eingesetzt werden könnte. Anschließend wurden dieselbe Arbeit und das fertige Gutachten wieder dem gleichen KI-Modell vorgelegt. Es sollte ermitteln, auf welchen Abschnitt der Arbeit sich die jeweilige Kritik bezog. Dazu wurde die Kritik zusammen mit der Originalarbeit untersucht:

Der in der Studie verwendete dreistufige Begutachtungsprozess. Aus vier Konferenzen wurden Arbeiten mit Anhängen von mindestens 15 Seiten ausgewählt und anonymisiert, bevor KI-Modelle sie begutachteten. Anschließend wurde jede Begutachtung neben der Originalarbeit betrachtet und die einzelnen Kritikpunkte den jeweils betroffenen Abschnitten zugeordnet.
Durch die Trennung dieser Aufgaben ließen sich die Teile der Arbeiten, die Kritik auf sich gezogen hatten, untersuchen, ohne dass zusätzliche Anweisungen die ursprünglichen Begutachtungen beeinflussten.
Zu den Ergebnissen, die wir bisher noch nicht besprochen haben, gehört der Test der Autoren dazu, wo die Schwächen in LLM-generierten Begutachtungen ihren Ursprung haben:

Vergleich der Stellen, an denen KI-generierte Begutachtungen Schwächen in Arbeiten aus vier Konferenzen ausmachten. Grün steht für Kritik am Hauptteil der Arbeit, Rot für Kritik im Zusammenhang mit dem Anhang und schraffierte Bereiche für Kritik, die sich ausschließlich auf den Anhang bezieht. Bei fast jedem Test entfiel mehr als die Hälfte der Kritikpunkte auf Material im Anhang; am stärksten war diese Verzerrung bei GPT-6-Astra ausgeprägt.
Wie oben zu sehen ist, stützte sich etwa die Hälfte oder mehr der von allen vier KI-Modellen geäußerten Kritik auf Material in den Anhängen – ein Muster, das sich bei allen vier Konferenzen zeigte. Ein Teil der Kritik richtete sich ausschließlich gegen den Anhang und hatte keinen Bezug zum Hauptteil der Arbeit. Diese Kritik machte 17,33 % der von GPT-Modellen erkannten Schwächen aus, gegenüber 10,16 % bei Claude.
Die Ergebnisse deuten der Arbeit zufolge darauf hin, dass dem Material im Anhang unverhältnismäßig viel Aufmerksamkeit geschenkt wurde und mitunter relativ nebensächliche Details als Anlass für Kritik an der Arbeit als Ganzes dienten.
Ein Vergleich verschiedener Methoden sollte klären, ob die Verzerrung zugunsten des Anhangs davon abhing, wie auf die KI zugegriffen wurde. Mit GPT-6-Astra wurden 100 Einreichungen bei ICLR 2027 auf drei Wegen begutachtet: über Codex, über die ChatGPT-Weboberfläche und über eine API, der entweder das Original-PDF oder dessen extrahierter Text bereitgestellt wurde.
Bei Codex wurde der Text extrahiert und mithilfe von Befehlen untersucht; über die API wurde entweder das vollständige PDF oder der daraus extrahierte Text direkt bereitgestellt. Hochgeladene Dokumente wurden dagegen über das eigene, undurchsichtige System der Weboberfläche verarbeitet:

Vergleich der Kritik an Anhängen bei verschiedenen KI-Modellen und Zugriffsmethoden. Links ist zu sehen, dass GPT-5 in vier Konferenzen deutlich seltener Material aus Anhängen zitierte als die neueren GPT-Modelle. Rechts zeigt sich, dass die Verzerrung bei vier verschiedenen Zugriffsmöglichkeiten auf GPT-6-Astra bestehen blieb: Der Anteil der Kritikpunkte im Zusammenhang mit Anhängen lag zwischen 62,2 % und 73,7 % aller Kritikpunkte. Schraffierte Bereiche kennzeichnen Kritik, die sich ausschließlich gegen Anhänge richtete.
Wie oben zu sehen ist, bezog sich die Kritik bei allen vier Methoden in 62,2 % bis 73,7 % der Fälle auf Material in Anhängen. Der höchste Anteil wurde verzeichnet, wenn der extrahierte Text direkt über die API bereitgestellt wurde. Die Verzerrung blieb demnach unabhängig davon bestehen, wie auf das Modell zugegriffen wurde.
Der Großteil der übrigen Tests wurde bereits weiter oben im Artikel vorgestellt. Weitere Informationen finden sich im Quellenmaterial.
Tricks bei der Einreichung
Das Thema betrifft die Autoren der neuen Arbeit persönlich – und mich ebenso, denn ich lese viele wissenschaftliche Arbeiten und habe auf die harte Tour die verborgenen Regeln und ihre Umgehung kennengelernt, die bestimmen, wie Arbeiten verfasst und präsentiert werden.
Die KI ist nicht grundsätzlich dafür verantwortlich, dass sie den Anhängen so viel Aufmerksamkeit schenkt – auch wenn sie dies aus den falschen Gründen tut –, denn Autoren verstecken dort oft die „Fallstricke“ ihrer Arbeit: Faktoren oder Ergebnisse, die die im Hauptteil aufgestellten Behauptungen nahezu vollständig entkräften oder zumindest erheblich einschränken können.
Auch sind Autoren nicht zwangsläufig dafür verantwortlich zu machen, wichtiges Material in den Anhang zu verschieben, da die Vorlagen beliebter Publikationen wie jener, die in der neuen Studie als Datenquellen aufgeführt sind, für den Hauptteil der Arbeit Höchstgrenzen für Seiten- oder Wortzahlen vorgeben.
Bei der Darstellung komplexer Studienergebnisse empfinden viele Autoren dies offenbar als starke Einschränkung. In den aus meiner Sicht schlimmsten Fällen† wird der Hauptteil der Arbeit schlicht zu einem Verzeichnis von Inhalten, die zur Umgehung der Vorgaben an das Ende verschoben wurden (auch wenn die Vorgaben mittlerweile aufholen und diesen „Trick“ verbieten).
Die zunehmende Spannung in diesem Szenario besteht zwischen dem Bedürfnis der Institutionen, Autorinnen und Autoren dazu anzuhalten, ihre Darstellungen diszipliniert und zurückhaltend zu gestalten – was umso wichtiger wird, je mehr Arbeiten eingereicht werden – und der offenkundigen Frustration der Forschenden, die die mühsam errungenen Früchte ihrer Arbeit in einem so vollständigen und umfassenden Kontext präsentieren möchten, wie es ihrer Ansicht nach dem betriebenen Aufwand angemessen ist.
* Betonungen der Autorinnen und Autoren, nicht meine.
†Denn bei der Auswahl der zu behandelnden Arbeiten kann diese Verlagerung in die Anhänge selbst für eine KI schwer zu erkennen sein. Sie kann die begutachtende Person jedoch erheblich aus dem Konzept bringen, wenn diese Zeit für die Begutachtung von zehn Seiten eingeplant hat und nun feststellen muss, dass sie im selben Zeitrahmen 30 Seiten Material berücksichtigen muss.
Erstmals veröffentlicht am Montag, 16. November 2026












