Übergang zur Verifizierungswirtschaft

Die Überprüfung der Arbeit von KI kann zu einem bedeutenden Sektor in der neuen maschinellen Lernwirtschaft werden; einem Sektor, der erheblich skalieren muss und der nicht automatisiert werden kann. Aber mit dem Voranschreiten der Jahre werden menschliche “Experten” wahrscheinlich an Qualität verlieren.

Meinung. Meine Frau ist Architektin in einer der am stärksten verstopften und intensivsten Bürokratien in Europa. Ein bedeutender Teil des Wertes ihrer Ausbildung liegt in der Erlangung und Aufrechterhaltung ihres Rechts auf Unterschrift – einer teuren Qualifikation, die jedes Jahr erneuert werden muss und die es ihr ermöglicht, buchstäblich “abzusegnen” auf Vorschläge, deren Umsetzung hunderttausende, sogar Millionen Euro betragen kann.

Sie erzählt mir, dass dies nicht der schwierigste Teil ihrer Arbeit ist, da es nur ihre eigenen Berechnungen oder die von anderen formalisiert und dass für diesen Zweck externe Arbeit normalerweise nicht schwierig zu überprüfen ist.

Im Wesentlichen – wie oft auch der Fall ist, wenn CEOs ernannt werden – stellt diese Stempel (es ist buchstäblich ein Stempel) hauptsächlich den Stakeholdern einen “Arsch zum Kick” bereit, wenn etwas schiefgeht. Indem er die Rechenschaftspflicht sicherstellt, ermöglicht er auch Versicherungsschutz und Investorensicherheit, die ohne solche Garantien nicht erreichbar wären.

Es ist das zweite Mal in meinem Leben, dass ich diesen Prozess direkt erlebt habe; vor 25 Jahren war ich mit einer Onkologin in einer weiteren berüchtigten EU-Bürokratie, Italien, verlobt und sah, wie sehr ihre Expertenunterschrift die letzte Stufe in einer Kette des Vertrauens war, an der viele andere außer ihr beitragen mussten.

Ich hörte von meiner Ex-Verlobten in dieser Zeit und kürzlich von meiner Frau, dass ihre Berufe von qualifizierten Betrügern durchsetzt seien, die ihre Stempel verkauften und originellere oder nützlichere Arbeit ablehnten, da sie weniger lukrativ seien. Solche zynische Praktiker können hohe Summen verlangen, weil sie relativ seltene und unverzichtbare Ressourcen darstellen.

Schauen Sie sich das an

Dieses Thema kam mir in den Sinn, als ich auf eine neue und umfassende Studie stieß, die den Titel Einige einfache Ökonomie der AGI trägt. In ihr beschreiben drei Forscher von MIT, Washington University in St. Louis und UCLA eine nahe Zukunft, in der der beängstigende, arbeitende Impuls zur KI-gesteuerten Automatisierung mit der Notwendigkeit von realen “Arschen zum Kick” in hochriskanten Szenarien kollidiert – und so zu einer neuen Wirtschaft der menschlichen Verifizierung, Ratifizierung und Verantwortung führt*.

Die Studie steht im Gegensatz zu den aktuellen Medienvorstellungen von geschwächten Geschäftsbereichen mit umfangreichen Büros, die auf einzelne “Beaufsichtiger” reduziert werden, deren Entscheidungen als Trainingsdaten verwendet werden, um (hoffentlich) den letzten Rest von “Fleischware” zu feuern^†.

Stattdessen glauben die Autoren, dass praktische Überlegungen und Compliance-Anforderungen enorme Aufmerksamkeit auf die “Gummistempel”-Menschen lenken werden, die den Rechtsabteilungen von Unternehmen (KI/menschlich/KI-unterstützt) genügen:

‘Für Unternehmen ist die Kernstrategie, dass die Verifizierung nicht länger eine reine Compliance-Funktion ist, sondern eine primäre ProduktionsTechnologie – und zunehmend ihre am besten verteidigbare. Dies erfordert einen strukturellen Wandel: Investitionen in Beobachtbarkeit, Erweiterung der Verifizierungs-Grundwahrheit und Reorganisation um eine “Sandwich”-Topologie (menschliche Absicht → maschinelle Ausführung → menschliche Verifizierung und Unterzeichnung).

‘In einer Wirtschaft, in der rohe Ausgaben kommodifiziert sind, migriert der Wettbewerbsvorteil zu den seltenen Talenten und Daten, die in der Lage sind, agierende Systeme zuverlässig zu steuern und zu zertifizieren – Netzwerkeffekte nicht in der reinen Ausgabe, sondern in vertrauenswürdigen Ergebnissen.’

Die Autoren vermuten, dass die definierende Einschränkung des Wachstums nicht die Intelligenz sein wird – die KI nun “von der Biologie entkoppelt” hat –, sondern die Verifizierungsbandbreite.

Wertverschiebung zur menschlichen Verifizierung

Die Studie beschreibt den Übergang zur AGI als eine sich verbreiternde Kluft zwischen den Kosten der maschinellen Ausgabe und den Kosten der Überprüfung dieser Ausgabe – letztere bleiben an die endliche menschliche Zeit und Erfahrung gebunden.

Die Erstellung von Plänen, Berichten, Entwürfen und Empfehlungen würde in diesem Szenario billig und reichlich werden, während die Bestimmung, welche davon solide, ausgerichtet und sicher genug sind, um darauf zu handeln, zur “knappen Funktion” werden würde. Die effektive Grenze für die Bereitstellung würde daher nicht darin bestehen, wie viel Ausgabe Systeme produzieren können, sondern wie viel von dieser Ausgabe glaubwürdig verifiziert werden kann.

So würde anstelle von immer spezifischeren Fähigkeiten in messbaren Aufgaben der System, wie die Autoren vorhersagen, Messbarkeit selbst belohnen: Arbeit, die parametrisiert werden kann, würde zur Kommodifizierung tendieren, da ihre Ausführungskosten gegen die Grenzkosten des Rechnens gehen, mit Wert, der in hochwertiger Grundwahrheit, zuverlässigen Prüfspuren und institutionellen Mechanismen für die Zuweisung und Absorption von Verantwortung anfällt.

Daher würde in einer Verifizierungswirtschaft der Vorteil weniger in der Produktion von Inhalten liegen, sondern in der Zertifizierung von Ergebnissen und der Unterzeichnung der damit verbundenen Risiken.

Wenn die Automatisierung weiter beschleunigt, während die Verifizierung durch menschliche Zeit und Aufmerksamkeit begrenzt bleibt, prognostiziert die Studie, dass eine hohle Wirtschaft entstehen würde, in der, wenn die Kosten der Automatisierung von Arbeit sinken, immer mehr Agenten bereitgestellt werden, weil es ökonomisch sinnvoll ist, dies zu tun – obwohl die Fähigkeit, ihre Ausgabe ordnungsgemäß zu überprüfen, nicht im gleichen Tempo wächst. In diesem Szenario würde der Anteil der Arbeit, die tatsächlich verifiziert wird, schrumpfen, mit all den negativen Konsequenzen, die sich daraus ergeben.

Im Gegensatz dazu würde eine erweiterte Wirtschaft sicherstellen, dass die Verifizierungskapazität im gleichen Maße mit der Automatisierung wächst. Dies würde eine bewusste Investition in strukturierte Schulung zur Erhaltung von Fachwissen sowie neue Haftungsrahmen beinhalten, die Risiken absorbieren können. Die Bereitstellung würde dann an das gebunden sein, was tatsächlich überprüft und versichert werden kann – effektiv ein sehr altes Flaschenhals-Problem, das durch eine beispiellose technologische Entwicklung in den Vordergrund gerückt wird:

‘Im Technologiebereich wird das dominierende Umsatzmodell von der Monetisierung des Softwarezugangs (Software-as-a-Service) zur Monetisierung von Ergebnissen („Software-as-Labor“) wechseln. Folglich werden Unternehmen in erster Linie nach ihrer Fähigkeit bewertet, das Risiko von Fehlern durch Haftung-as-a-Service zu absorbieren.

‘Die Ausführung ist jetzt unendlich skalierbar; die rechtliche und finanzielle Fähigkeit, ihre unvermeidlichen Fehler zu absorbieren, ist die neue Flasche.

Rückgang der Erträge

Tatsächlich ist die Erhaltung von Fachwissen bei Menschen für das Problem von entscheidender Bedeutung, da eine Kultur der industrialisierten Aufsicht, wie die Autoren behaupten, über die Zeit die Qualität derjenigen, die die Aufsicht ausführen, verschlechtern würde – weil nachfolgende Generationen von Aufsehern nicht länger direkte und gelebte Erfahrung mit den Bereichen haben, die eine Verifizierung erfordern.

Argumentierbar wäre zu diesem Zeitpunkt die Qualität der Aufsicht wirklich anfällig für Automatisierung, da neue Entscheidungen allein auf der Grundlage vorheriger Entscheidungen getroffen würden. Dies würde jedoch die Stakeholder ohne einen kickbaren Arsch oder ein tragfähiges Geschäftsmodell zurücklassen. Es würde auch eine solche Rolle so volatil und riskant machen, dass sie selbst in einer Zeit niedriger Beschäftigung unattraktiv wäre.

Die Isolierung von qualifizierten Fachleuten wie Ärzten und Architekten in eine gut bezahlte, aber hoch belastete “Gummistempel”-Position würde wahrscheinlich ihren Wert in dieser Rolle im Laufe der Zeit untergraben: Je weiter ihre tatsächliche Felderfahrung in der Vergangenheit zurückliegt, desto “theoretischer” könnten ihre Entscheidungen werden, da ihre aufgegebene Domäne in ihrer Abwesenheit weiterentwickelt.

(Dies ist auch in der vor-KI-Unternehmenskultur vertraut, in Form von Fachpersonal, das in die Führungskräfte aufsteigt und immer mehr den Kontakt zu neuen Entwicklungen verliert, was letztendlich ihren Wert als Aufseher und Organisatoren untergräbt. Es ist auch Pakled-Fans aus Star Trek: TNG vertraut – einer Rasse, die fortschrittliche Technologie umfassend nutzt, aber nicht mehr weiß, wie man sie erstellt oder repariert.)

Die Ausführung auf niedrigem Niveau hat historisch als Ausbildungsgrund für zukünftige Experten gedient; aber wenn die Automatisierung die Routineaufgaben eliminiert, durch die Urteilsvermögen kultiviert wird, wird die zukünftige Versorgung mit fähigen Verifizierern schrumpfen, wie die Autoren nahelegen.

So prophezeit die Studie ein Paradox: Je mächtiger agierende Systeme werden, desto mehr wird die Gesellschaft auf einen Bestand an menschlichem Fachwissen angewiesen sein, das diese Systeme selbst untergraben könnten.

Und lassen Sie uns daran erinnern, dass dies in keiner Weise ein technisches Problem ist, noch ist es für eine technische Lösung anfällig. In vielen Aspekten deutet dieses Syndrom auf das logistische Äquivalent von KI-Modellkollaps hin – nur dass wir hier die Untergrabung eines ökonomischen Modells betrachten.

‘Aus politischer Sicht ist die Kernherausforderung eine tiefgreifende strukturelle Asymmetrie: Die Gewinne der KI-Bereitstellung werden aggressiv privatisiert, während die systemischen Risiken sozialisiert werden. Unternehmen und Einzelpersonen nutzen den Vorteil der Automatisierung, während sie katastrophale Risiken externalisieren.

‘Ohne gemeinsame Verifizierungsinfrastruktur und strenge Haftungspreisgestaltung wird der Markt rational in eine hohle Wirtschaft drift – ein Gleichgewicht, das durch explosive gemessene Aktivität gekennzeichnet ist, aber letztendlich menschliche Kontrolle aufweist.’

Schlussfolgerung: Eine andere Krise

Die Autoren definieren die vorhergesagte Krise als eine Messlücke, in der quantifizierbare Prozesse von menschlichem Beitrag automatisiert werden können, aber n-harte oder n-legale Prozesse, die menschliches Fachwissen erfordern, übrig bleiben.

Meine Frau sagt jedoch, dass die Komplexität oder Schwierigkeit eines Prozesses nicht unbedingt mit der Notwendigkeit von Rechenschaftspflicht in diesem Prozess zusammenhängt; viele der Dinge, die sie “absegnet”, stellen triviale Probleme oder Berechnungen dar, sind aber folgenschwer, wenn sie fehlschlagen. Und je mehr die Geschäftskultur streitlustig wird, desto mehr werden Versicherer und Investoren menschliche Rechenschaftspflicht über einen breiteren Bereich von Prozessen verlangen.

Der Übergang zur Verifizierungswirtschaft könnte also eine andere Krise verursachen als die, die derzeit Schlagzeilen macht. Das Problem in diesem Fall wäre nicht, ob KI mehr produzieren kann, sondern ob Institutionen genug von dem, was produziert wird, verifizieren können, um maschinelle Intelligenz in dauerhaften Wert umzuwandeln.

Da maschinelle Intelligenz bald ohne Beispiel skalieren könnte und die Verfügbarkeit von anwendbaren menschlicher Zeit nicht mit diesem Tempo Schritt halten kann, scheinen die in der neuen Arbeit aufgeführten Probleme wahrscheinlich sehr schnell aufzutauchen – auch wenn sie zunächst von den umfassenderen wirtschaftlichen Auswirkungen der KI-Adoption überlagert werden.

* Die Studie ist zu lang, um sie auf die übliche Weise aufzuteilen, und ist ohnehin für diese Art der Analyse strukturell ungeeignet. Deshalb habe ich mich entschieden, sie zu kommentieren und ihre Bedeutung zu betrachten, anstatt den Leser auf die Quellarbeit zu verweisen, damit er dies ebenfalls tun kann.

^† /s

Erstveröffentlicht am Mittwoch, den 25. Februar 2026