Aufgaben‑ausgerichtet vs. Mensch‑ausgerichtet: Warum der nächste Benchmark für KI wir sein sollten

Alle paar Monate erscheint ein neues Modell und mischt die KI‑Ranglisten durcheinander. Laut dem 2026 AI Index Report der Stanford University haben Frontier‑Modelle innerhalb eines Jahres etwa 30 Prozentpunkte beim Humanity’s Last Exam gewonnen, einem speziell dafür konzipierten Benchmark, der für KI schwer zu bestehen ist. Fortschritte, die früher Jahre dauerten, geschehen jetzt in wenigen Monaten, und die Branche betrachtet jede neue Höchstpunktzahl als Beweis dafür, dass KI besser wird.

Ich bestreite den Fortschritt nicht. Diese Systeme sind bemerkenswert in dem, wofür sie gebaut wurden. Aber ich habe fast zwei Jahrzehnte in der Psychologie verbracht, bevor ich zu KI wechselte, und immer wieder kehre ich zu einer Frage zurück, die keiner dieser Benchmarks beantwortet. Woran genau werden die Modelle besser, und für wen? Ein Modell kann jede existierende, auf Genauigkeit basierende Rangliste anführen und dennoch die Person, die es nutzt, in mancher Hinsicht schlechter dastehen lassen. Es gibt keinen Test, der die Auswirkung von KI auf die Nutzer misst, und das verdient mehr Aufmerksamkeit.

Zwei verschiedene Arten von Ausrichtung

Die KI‑Branche spricht ständig über Alignment, doch die Diskussion dreht sich meist darum, ob das Modell Anweisungen exakt befolgt oder schädliche Inhalte erzeugt. Das ist aufgaben‑ausgerichtete KI. Sie ist darauf optimiert, die vorliegende Anfrage korrekt und effizient zu erfüllen.

Es gibt jedoch einen anderen Ansatz, um Alignment zu betrachten und Menschen zu schützen. Mensch‑ausgerichtete KI bewertet, was eine Interaktion für die Person auf der anderen Seite des Bildschirms bewirkt, sobald sie beendet ist. Hat sie die Person befähigt, die nächste schwierige Entscheidung eigenständig zu treffen, oder ist sie stärker vom System abhängig geworden? Während Aufgaben‑Alignment das Ergebnis misst, misst menschliches Alignment die Nachwirkung.

Diese beiden Ziele stehen nicht immer im Konflikt. Ein Modell, das eine schnelle, präzise Antwort auf eine technische Frage liefert, erfüllt beide. Wenn die Frage jedoch keine eindeutige richtige Antwort hat, werden die Unterschiede in der Ausrichtung deutlich.

Was die Ranglisten nicht zeigen

Die am häufigsten zitierten Benchmarks der Branche testen Dinge wie Wettbewerbs‑Mathematik und repository‑große Programmieraufgaben. Das sind wertvolle Fähigkeiten, doch jede Frage hat eine korrekte Antwort, und die Modelle sind darauf ausgelegt, diese zu finden.

Das funktioniert gut für objektive Probleme, aber Menschen nutzen KI für mehr als Mathematik, Programmierung und grundlegende Recherche. Sie stellen Fragen zu ihrer Karriere und arbeiten an schwierigen Gesprächen mit ihren Partner*innen. Es gibt keinen Test, der ein Modell danach bewertet, ob es diese Fragen gut gehandhabt hat, weil es keine objektive Wahrheit gibt, an der man die Antwort prüfen könnte. Die relevanten Informationen liegen in der fragenden Person. Egal, wie detailliert die Eingabe ist, das Modell kann nicht darauf zugreifen.

Verantwortungsvolle KI füllt einen Teil der Lücke, die diese Benchmarks offenlassen, doch selbst diese Arbeit zielt lediglich darauf ab, Schaden zu reduzieren, anstatt das menschliche Denken zu verbessern. Die aktuellen Sicherheitsmaßnahmen sind darauf ausgerichtet, zu verhindern, dass das Modell bei gefährlichen Vorhaben hilft. Sie berücksichtigen nicht, ob die tausenden alltäglichen Gespräche, die jede Sicherheitsprüfung bestehen, die Menschen zudem dazu bringen, ihrem eigenen Urteilsvermögen weniger zu vertrauen.

Wie Modelle Abhängigkeit erzeugen

Jedes von mir getestete Modell neigt dazu, umfassend, schnell und selbstbewusst zu sein. Darauf wird es während des Trainings belohnt, und das ist die richtige Instinktreaktion, wenn es um einen defekten Software‑Build oder eine Frist für eine Rechtsakte geht. Wenn die Entscheidung jedoch von den Werten und der Geschichte einer Person abhängt, kann derselbe Instinkt gegen die nutzende Person arbeiten.

Forschungen haben bereits gezeigt, dass dies mehr als nur hypothetisch ist. OpenAI und das MIT Media Lab führten eine Reihe von Studien zur affektiven Nutzung von ChatGPT durch und fanden heraus, dass Personen, die die KI als Freund betrachteten und sie über längere Zeit nutzten, eher negative Folgen meldeten, darunter höhere Einsamkeit und emotionale Abhängigkeit – ein Muster, das auch von MIT Technology Review beschrieben wurde. Separat zeigte eine 2025‑Studie, veröffentlicht in der Zeitschrift Societies, dass häufige Nutzung von KI‑Werkzeugen negativ mit kritischen Denkfähigkeiten korreliert. Vermittelt wurde dies durch das, was Forschende kognitive Entlastung nennen – die Tendenz, eine mentale Aufgabe an ein Werkzeug abzugeben, anstatt sie selbst zu bearbeiten.

Das bedeutet nicht, dass Menschen KI weniger nutzen sollten. Stattdessen müssen wir erkennen, dass, wenn ein System jede Art von Frage auf dieselbe Weise löst, etwas auf der subjektiven Seite der Bilanz verloren geht, und momentan verfolgt fast niemand diesen Verlust.

Direkte Antworten ihren Stellenwert geben

Ich möchte klarstellen, wo aufgaben‑ausgerichtete KI die richtige Wahl ist, denn der Zweck dieses Beitrags ist nicht, für ein Modell zu argumentieren, das bei allem ausweicht. Wenn jemand nach einem Server‑Fehler oder einer Frist für die Steuererklärung fragt, ist eine schnelle, direkte, autoritative Antwort genau das Richtige. Es wäre wenig hilfreich, wenn die KI mit einer offenen Frage antwortet. Das Problem entsteht, wenn wir denselben Instinkt auf eine Eingabe zur Bewertung einer Scheidung anwenden, wie wir ihn bei einer Eingabe zur Fehlersuche im Code nutzen.

Was wir stattdessen messen sollten

Zurückhaltung. Die Fähigkeit, einen Moment zu erkennen, in dem das Lösen der Frage für den Nutzer mehr schadet als nützt, und entsprechend zurückzuhalten.

Kalibrierte Fragestellung. Statt zu sagen, zu fragen, wenn ein Problem subjektiv ist oder mit der Identität und den Werten einer Person verknüpft ist, anstatt mit einer faktischen Datenbank.

Den Moment lesen. Unterscheiden, ob eine Anfrage eine direkte, umfassende Antwort erfordert oder Raum lässt, damit die Person sie selbst erarbeiten kann.

Albert Banduras seit Jahrzehnten bestehende Forschung zur Selbstwirksamkeit hat gezeigt, dass Menschen ihr Vertrauen durch eigene Meisterungserfahrungen aufbauen, nicht indem sie jemand anderem oder etwas anderem das Problem für sie lösen lassen. Dieses Prinzip ist ein halbes Jahrhundert vor KI entstanden und sollte in die Gestaltung und Bewertung der Technologie einfließen.

Was Fortschritt als Nächstes bedeuten sollte

Das alles ist kein Aufruf, den technischen Fortschritt zu verlangsamen. Ich feiere die Fortschritte beim Codieren und beim logischen Denken. Aber ein Scorecard, das ausschließlich auf Aufgabenerfüllung basiert, sagt uns nur, dass KI intelligenter wird. Es sagt uns nichts darüber, ob die Menschen, die sie nutzen, besser darin werden, eigenständig zu denken.

Ich würde mir wünschen, dass sich das ändert. Wenn diese Systeme leistungsfähiger werden, sollten auch die Menschen, die sie verwenden, kompetenter werden. Wir haben bewiesen, dass KI uns in einem Test übertreffen kann. Der nächste Test sollte prüfen, ob sie uns dabei hilft, langfristig besser zu denken, lange nachdem das Gespräch beendet ist.