Sogar grundlegende KI kann jetzt Nachrichten schreiben, die als menschlich durchgehen

Neue Forschungsergebnisse deuten darauf hin, dass sogar kleine lokale KI-Modelle Nachrichten schreiben können, die Menschen nicht von echter Journalismus unterscheiden können, was top-Systeme entspricht und Leser dazu bringt, nicht zu erkennen, wer was geschrieben hat.

Laut einer neuen Forschungskooperation zwischen Deutschland und Frankreich können Menschen nicht erkennen, ob ein Nachrichtenartikel von einer KI oder einem Menschen geschrieben wurde – auch wenn er von Open-Source-Modellen geschrieben wurde, die auf relativ durchschnittlichen Consumer-Desktop-Computern heruntergeladen und ausgeführt werden können.

In einem weiteren Hinweis darauf, dass kleine KI-Modelle auf dem Vormarsch sind, ergab eine Umfrage von 2.318 Urteilen, die von 1.054 Teilnehmern in einem dedizierten akademischen Studienportal gesammelt wurden, dass menschliche Leser die Herkunft eines Artikels nicht auf einem höheren Niveau als dem Zufall erkennen konnten, selbst wenn er von relativ bescheidenen Modellen mit nur sieben Milliarden Parametern erzeugt wurde, einschließlich Mistral und Llama-Varianten:

Mittelwerte der Quellen- und Authentifizierungsbewertungen für getestete LLMs. Die 200 Milliarden Parameter von GPT-4o übersteigen die 7 Milliarden Parameter kleinerer Modelle nicht wesentlich. Die getesteten Modelle waren Gemma 7B, Phi-3 Mini, LLaMA-2 13B, Mistral 7B, GPT-4o und GPT-3.5. Quelle

Die Autoren kehren zu einem Thema zurück, das sie erstmals in der Veröffentlichung von 2024 untersucht haben Segen oder Fluch? Eine Umfrage über den Einfluss von generativer KI auf Fake News. Die Ergebnisse selbst sind neu veröffentlichte Ergebnisse aus einem größeren Projekt, das ursprünglich angekündigt wurde und die eigene JudgeGPT-Online-Partizipationsplattform der Autoren nutzt.

Leichtgewichtige Leistung

Mit dem Titel Können Menschen erkennen? Eine Zwei-Achsen-Studie der menschlichen Wahrnehmung von LLM-generierten Nachrichten und aus der Zusammenarbeit von drei Forschern an der Frankfurt University of Applied Sciences und der IRISA-Forschungseinheit in Nantes, macht die neue Studie eine wichtige Unterscheidung zwischen “Fake News” und “KI-geschriebenen Nachrichten” (da Fake News von Menschen oder KI geschrieben werden können und die beiden Aspekte nicht notwendigerweise synonym sind).

Allerdings ist vielleicht der interessanteste Aspekt die Schlussfolgerung des Papiers, dass kleine Modelle, einschließlich Mistral 7B und Gemma 7B, mit nur sieben Milliarden Parametern, sich mit Leichtigkeit gegen die likes eines ChatGPT-Modells (4o) mit 200 Milliarden Parametern behaupten können:

‘Open-Weight-Modelle mit so wenigen wie 7 Milliarden Parametern erzeugen Text, der nicht anders bewertet wird als die Ausgabe von GPT-4o, was darauf hindeutet, dass die Fähigkeit, menschlich nicht zu unterscheidende Texte zu erzeugen, nicht mehr auf Frontier-Modelle beschränkt ist.’

Allerdings kann “KI-generierte Nachrichten” viele verschiedene Arten von menschlicher/KI-Zusammenarbeit darstellen, von Rechtschreibprüfung bis hin zu vollständiger, karrierebeendender Aufgabenübertragung, und die Studie macht nicht klar, was für eine Art von KI-Inhalt für die Tests erzeugt wurde (obwohl sie die Methodik für die Erzeugung beschreibt – siehe unten).

Methode

Für die Teilnehmer, die mit der JudgeGPT-Plattform interagierten, wurde jeder Nachrichtenfragment mit einem Zwei-Achsen-Rahmenwerk bewertet, in dem sie drei unabhängige Bewertungen auf kontinuierlichen 0-100-Schiebereglern lieferten:

Die JudgeGPT-Portal-Oberfläche, auf der die Bewerter Material auf Quellenzuschreibung; Authentifizierung; und Themkenntnis bewerten. Bitte beachten Sie die Quellpapier für eine bessere Auflösung.

Quellenurteil erfasste, ob ein Absatz maschinengeschrieben oder von einem Menschen geschrieben schien; Authentifizierungsurteil, ob es als falsch oder legitim wahrgenommen wurde; und Themkenntnis, wie gut der Leser das Thema kannte.

Kontinuierliche Skalen wurden anstelle einer Likert-Skala verwendet, um Grade der Sicherheit genauer zu erfassen und um statistische Analysen, einschließlich Pearson-Korrelation und Clustering, zu unterstützen.

Maschinengenerierte Textfragmente wurden von den eigenen RogueGPT-Framework der Autoren erzeugt, der die Architektur für JudgeGPT darstellt. RogueGPT orchestriert Beiträge von sechs Large Language Models (LLMs): ChatGPT-4; ChatGPT-3.5; ChatGPT-4o; LLaMA-2 13B; Gemma 7B; und Mistral 7B.

Persona-basierte Aufforderungen wurden verwendet, um die Texte zu erzeugen, und die KI-Generierungen basierten auf realen Nachrichtenthemen und wurden von Menschen faktengeschrieben.

Andererseits wurden menschlich geschriebene Fragmente aus “etablierten Nachrichtenquellen” und ungenannten “Informationsdatenbanken” ausgewählt.

Die Autoren bemerken:

‘Das Stimulus-Set ist absichtlich auf maschinengenerierte Fragmente (∼98%) ausgerichtet, wobei human-generierte Elemente als Kalibrierungsanker dienen.

‘Diese Designentscheidung spiegelt die Fokussierung der Studie auf innerhalb-KI-Variation (über Modelle) anstelle von human-KI-Vergleichen wider; die Teilnehmer werden nicht über die Basisrate informiert, und die nahezu zufälligen Ergebnisse (Ergebnisse) bleiben bestehen, wenn sie auf dem human-generierten Subset allein analysiert werden.’

Teilnehmer gaben zunächst ihre Zustimmung und beantworteten ein demografisches Fragebogen, das Alter, Bildung, politische Ausrichtung und Vertrautheit mit KI umfasste, bevor sie die Sequenz der Nachrichtenfragmente bewerteten.

Jeder Mensch überprüfte zwischen 5-87 Elementen, mit einem Median von 12, während die Präsentationsreihenfolge zufällig war und die Modellzuweisung über die Teilnehmer ausgewogen war, um Voreingenommenheit zu reduzieren. Die Plattform zeichnete die drei Schiebereglern-Bewertungen neben der Reaktionszeit und einem anonymen Identifikator auf, der es ermöglichte, individuelle Urteile mit Hintergrundfaktoren zu verknüpfen.

Die Autoren betonen, dass die Stichprobe auf gebildete europäische Teilnehmer ausgerichtet war, mit 68% Hochschulabsolventen und 74% in Europa ansässig – eine Voreingenommenheit, die das Papier als Einschränkung für eine breitere Verallgemeinerung anerkennt.

Tests

Die Tests sind in fünf Ergebnistypen unterteilt: maschinengenerierte von human-geschriebenem Text unterscheiden; die Erkennung über verschiedene LLMs vergleichen; den Effekt von Domänenexpertise versus politischer Ausrichtung auf die Genauigkeit untersuchen; unterschiedliche Reaktionsstrategien unter den Teilnehmern identifizieren; und wie sich die Genauigkeit über wiederholte Bewertungen ändert, aufgrund von Müdigkeit:

Zusammenfassung der fünf Kernergebnisse aus 2.318 Urteilen über 1.054 Teilnehmer, die zeigen, dass die menschliche Erkennung von KI-geschriebenem Text auf allen Modellen auf dem Zufallsniveau blieb, dass die Genauigkeit mit der Domänenexpertise und nicht mit der politischen Ausrichtung zusammenhing, dass die Teilnehmer in zwei unterschiedliche Vertrauensprofile clusterten und dass die Leistung nach etwa 30 Bewertungen aufgrund von kognitiver Müdigkeit abnahm.

Der Test zeigte keinen signifikanten Unterschied über dem Zufallsniveau in den Quellenbewertungen zwischen den Bedingungen, was darauf hindeutet, dass die Teilnehmer KI-generierten Text nicht von human-geschriebenem Text unterscheiden konnten:

Quellen- und Authentifizierungsbewertungsverteilungen für maschinengenerierte und human-generierte Fragmente zeigen eine erhebliche Überlappung, ohne eine bedeutende Trennung zwischen den beiden Bedingungen, und statistische Tests – die darauf hindeuten, dass die Teilnehmer KI-generierten Text nicht zuverlässig von human-geschriebenem Inhalt unterscheiden konnten.

Im Hinblick auf den zweiten Aspekt, wie in der Grafik am Anfang des Artikels gezeigt, variierte die Erkennungsfehlrate nicht zwischen den Modellen, da die Ausgaben aller LLMs um die Zufallsebene herum clusterten, ohne signifikante Unterschiede zwischen ihnen. Selbst kleinere Open-Weight-Systeme wie Mistral 7B und Gemma 7B wurden nicht anders bewertet als GPT-4o, was darauf hindeutet, dass menschlich nicht zu unterscheidende Texte möglicherweise nicht mehr auf die größten Modelle beschränkt sind.

Im Hinblick auf den dritten Aspekt war die Genauigkeit stärker mit der Domänenexpertise als mit der politischen Ausrichtung verbunden, da die Vertrautheit mit Fake News mit besseren Urteilen korrelierte, während politische Ansichten keinen bedeutenden Effekt zeigten, was darauf hindeutet, dass gelernte analytische Fähigkeiten möglicherweise wichtiger sind als Ideologie:

Ergebnisse im Hinblick auf die dritte Untersuchungsrichtung zeigten, dass die politische Ausrichtung keinen bedeutenden Effekt auf die Quellenzuschreibung oder die Authentifizierungsbewertung hatte, während die selbstberichtete Vertrautheit mit Fake News konsistent mit höherer Genauigkeit auf beiden Achsen verbunden war, was darauf hindeutet, dass erfahrungsbasierte analytische Fähigkeiten der stärkere Prädiktor der Leistung war.

Das vierte Ergebnis zeigte, dass die Teilnehmer in zwei unterschiedliche Reaktionsstile clusterierten, die als ‘Skeptiker’ – die eine niedrige Vertrauensbasis über den Inhalt hinweg zuweisen, unabhängig von der Herkunft – und ‘Glaubende’ – die eine höhere Vertrauensbasis aufrechterhalten, identifiziert wurden.

Schließlich zeigte die fünfte Untersuchungsrichtung, dass eine rollierende Analyse der sequenziellen Urteile zeigte, dass die Teilnehmer anfangs besser bei der Aufgabe wurden, mit einer Verbesserung der Genauigkeit über etwa 15-20 Bewertungen, während sie sich an das Format anpassten:

Rollierende Durchschnitte der Quellen- und Authentifizierungsbewertungen über die Sequenz der Teilnehmerbewertungen zeigen eine kurze anfängliche Verbesserungsphase, während die Benutzer offensichtlich an die Aufgabe während der ersten 15-20 Elemente anpassen, gefolgt von einem stetigen Rückgang in beiden Maßen nach etwa 30 Bewertungen. Bitte beachten Sie die Quellpapier für eine bessere Auflösung.

Das könnte einige empirische Beweise dafür darstellen, dass wir, erschöpft von der Aussicht, Fake News von echten Nachrichten und KI-News von human-geschriebenem Inhalt zu unterscheiden, dazu neigen, standardmäßig anzunehmen, dass die Nachrichten KI-generiert und/oder falsch sind (was nicht dasselbe ist), um auf der sicheren Seite zu sein. Diejenigen, die dies als “faul” betrachten und der Meinung sind, dass Menschen ihre eigene Recherche durchführen sollten, um eine mögliche Fake News-Geschichte zu überprüfen, könnten daran interessiert sein zu erfahren, dass eine Studie von 2024 zeigte, dass dies das Problem nur verschlimmert.

Die Autoren schlagen vor, dass das Versagen der menschlichen Urteilsfähigkeit in den Ergebnissen darauf hindeutet, dass wir möglicherweise auf kryptographische Herkunfts-Technologien wie die von Adobe initiierte C2PA-Initiative zurückgreifen müssen. Andere mögliche Lösungen, die erwähnt werden, sind das eigene OriginLens-Framework der Autoren und ein weiteres autor-verwandtes Projekt namens CRED-1.

Die Autoren folgern:

‘Können Menschen erkennen? Unsere Zwei-Achsen-Studie von 2.318 Urteilen über sechs LLM-Familien liefert eine klare empirische Antwort: sie können nicht.

‘Maschinengenerierte Texte sind nicht von human-geschriebenem Text zu unterscheiden, unabhängig von Modellgröße oder -familie, Domänenexpertise sagt die Erkennungsgenauigkeit stärker voraus als politische Ausrichtung, Teilnehmer adoptieren unterschiedliche Vertrauensstrategien, und kognitive Müdigkeit begrenzt die anhaltende Erkennung.

‘Diese Ergebnisse unterstützen eine Verschiebung von benutzerbasierten Erkennungsmethoden hin zu systembasierten Gegenmaßnahmen, einschließlich Inhalts-Herkunfts-Technologien, adaptiven Vertrauensindikatoren und begrenzten Immunisierungsinterventionen.’

Schlussfolgerung

Der besorgniserregende Aspekt dieser Studie ist das umgebende Netzwerk von Projekten und Papieren, das die Autoren – oder einige der Autoren, je nach Arbeit – initiiert oder daran beteiligt sind; und es wäre sicherlich aufschlussreich gewesen, wenn man Proben von KI-generierten und human-geschriebenen Texten hätte untersuchen können, die diese Ergebnisse erzeugt haben, um ein besseres Verständnis für die Art von Ausgabe zu erhalten, die die beschriebene Generierungsmethode produziert.

Ungeachtet dessen ist es interessant zu hören, dass Open-Weight-, Open-Source-Modelle mit API-getriebenen Riesen wie der ChatGPT-Serie vergleichbar sein können – kann es sein, dass die Aufgabe nicht so schwierig ist und dass ein 200-Milliarden-Parameter-Modell für solche Aufgaben überdimensioniert ist? Wir müssten ein bisschen mehr über die eingereichten KI- und human-geschriebenen Quellenproben wissen, um diese Frage zu beantworten.

In der Zwischenzeit, laut der canirun.ai-Website, läuft Mistral 7B (das in den Tests mehr oder weniger auf dem gleichen Niveau wie ChatGPT-4o war) ‘sehr gut’ auf einem NVIDIA RTX 3080 mit 16 GB VRAM und ‘decent’ auf einem 3060 mit 6 GB VRAM – kaum die neuesten oder größten Grafikkarten im Spiel*. Also kann jeder, der seine eigene Methodik für die Einreichung von Proben entwickeln möchte, offensichtlich an diesen Experimenten teilnehmen.

* Gemma 7B ist nicht auf der Website aufgeführt.

Erstveröffentlicht am Donnerstag, 9. April 2026