Die kommende “Exolution” von KI

Heute stehen wir an der Schwelle einer technologischen Veränderung und beobachten die Reise von LLMs zu Agenten und schließlich zu agenter KI und AGI, und es geht nicht nur um größere Modelle oder schnellere Antworten. Es geht auch darum, dass Maschinen von passiven Assistenten zu aktiven Mitarbeitern und vielleicht sogar zu unabhängigen Denkern werden.

Lassen Sie uns diesen Weg nachzeichnen und erkunden, was es für Arbeit, Expertise und die Rolle der Menschen bei der Gestaltung der Intelligenz von morgen bedeutet.

Der Unterschied zwischen LLMs, agentenbasierten Systemen und agenter KI

Um den Unterschied besser zu verstehen, hier ein Beispiel. Wenn ich einem LLM etwas wie “Ich möchte von Chicago nach Austin reisen, nicht mehr als vier Stunden am Tag fahren und in malerischen Orten stoppen” frage, wird ein reguläres LLM eine statische Antwort in Textform basierend auf Sprachgenerierung zurückgeben. Es wird wahrscheinlich nur auf die Anfrage reagieren, ohne eine gründliche Analyse durchzuführen.

Ein Agent würde die Anfrage zunächst als reisebezogen klassifizieren. Dann würde er bestimmen, welche Daten benötigt werden: Routen mit Kartendiensten, Wetterinformationen, Kraftstoffkosten, Hotels, Restaurants usw. Anschließend würde der Agent die Anfrage in Teilgaben aufteilen und diese an spezialisierte Module oder LLMs weiterleiten, die auf den relevanten Quellen trainiert wurden. Dies ist Orchestrierung und Koordination mehrerer Modelle und Werkzeuge unter einer einheitlichen Logik.

Heute sind die meisten großen Systeme wie ChatGPT oder Claude von Anthropic im Wesentlichen bereits Agenten. Obwohl es dem Benutzer so erscheinen mag, als würde er mit einem einzelnen Modell interagieren, steckt hinter den Kulissen eine komplexe Architektur mit vielen Modellen und Systemen. Sie können bereits komplexe Anfragen bearbeiten, aber ihre Fähigkeiten sind größtenteils auf die Bereitstellung von Informationen beschränkt; sie nehmen noch keine Aktionen vor.

Ein vollständig autonomer Agent ist ein System, das Informationen sammelt und beispielsweise unabhängig ein Hotel buchen, ein Ticket kaufen oder eine Zahlung initiieren kann, vorausgesetzt, es hat Zugang zu den relevanten APIs oder Benutzerdaten. Solche Agenten sind derzeit in den frühen Entwicklungsstadien. Im Moment sind sie eher wie Semi-Agents, die in der Lage sind, Informationen zu verarbeiten, aber noch keine autonomen Aktionen auszuführen.

Ein interessantes Thema in der Forschungsgemeinschaft ist agenter KI. Im Gegensatz zu einem regulären Agenten, dessen Verhalten von Entwicklern skriptet wird, ist agenter KI ein System, das unabhängig entscheidet, welche Aufgaben es ausführt, welche Daten es benötigt und sogar, wie es seine eigene Schulung fortsetzt. Dies geht über die Ausführung von Anweisungen hinaus; es beinhaltet autonome Entscheidungen. Allerdings bleibt agenter KI derzeit theoretisch; es gibt noch keine solchen Systeme in der Praxis.

AGI – das neue Horizont. Aber ist es erreichbar?

Meta hat vor drei Monaten in Scale AI investiert. Das Ziel war, sich auf dem Weg zum Bau von AGI, künstlicher allgemeiner Intelligenz, zu vereinen, die in der Lage ist, jede Aufgabe auf menschlichem Niveau oder sogar darüber hinaus zu erfüllen. Wenn die heutige KI eine technologische Revolution ist, wird AGI eine wahre Mega-Revolution sein; manchmal nenne ich es “Exolution”, was “Exodus” von KI aus den Schatten bedeutet. Wer es zuerst erreicht, wird einen globalen strategischen Vorteil erlangen.

Was die Frage angeht, wie nah wir an tatsächlicher AGI sind, hängt stark davon ab, wie wir sie definieren. Ich stimme Ilya Sutskevers Meinung zu: AGI ist ein System, das jede intellektuelle Aufgabe ausführen kann, die ein Mensch kann. Nicht nur Fragen beantworten, sondern auch Vernunft, Entscheidungsfindung, Verallgemeinerung und Interpretation über Domänen hinweg. Wahre AGI ist universal und nicht auf enge Aufgabenbereiche beschränkt.

Keines der aktuellen Modelle hat dieses Niveau erreicht. Wir bewegen uns in diese Richtung, aber wahre AGI im theoretischen Sinne existiert noch nicht. Und vielleicht ist das auch gut so. Wir befinden uns in einer Phase der Approximation, und es ist wahrscheinlich, dass wir noch eine Weile dort bleiben werden.

Die Grundlage von AGI wird wahrscheinlich ein agentenbasiertes System sein. Es wird nicht unbedingt auf einem einzelnen LLM basieren, da, wie kein einzelner Mensch, egal wie brillant, alle Domänen des Wissens und der Fähigkeiten meistern kann, auch kein einzelnes LLM den gesamten Spektrum von AGI-Aufgaben alleine bewältigen kann. Was wir benötigen, ist eine Art “kollektive Intelligenz”: eine Architektur, die in der Lage ist, mehrere Modelle und Komponenten zu koordinieren.

AGI wird wahrscheinlich nicht einfach als von Menschen entworfenes System entstehen, sondern als Meta-System. Es wird ein System sein, das teilweise entwickelt und mit Hilfe von KI selbst evolviert. Dies ist wichtig, da Systeme, die ausschließlich von Menschen entworfen werden, inhärente Einschränkungen aufweisen können. Die Einbeziehung von KI in den Entwicklungsprozess kann helfen, diese Einschränkungen zu überwinden und das System adaptiver zu machen.

AGI wird wahrscheinlich nicht durch einen einzelnen Durchbruch entstehen. Nicht durch größere LLMs, intelligentere Agenten oder völlig neue Architekturen, sondern durch eine Synthese all dieser Faktoren. Wahrscheinlich durch etwas grundlegend Neues, das die Kategorien, die wir derzeit verwenden, transzendiert.

“Humanity’s Last Exam” und andere AGI-Benchmarks

“Humanity’s Last Exam” (HLE) ist einer der ambitionierteren Benchmarks, der derzeit im Kontext von LLMs, Agenten und AGI diskutiert wird. Im Wesentlichen handelt es sich um einen Test, der aus etwa 2.500 Fragen besteht, die ein breites Spektrum akademischer Disziplinen abdecken – Mathematik, Physik, Biologie, Chemie, Ingenieurwesen, Informatik und sogar Schach. Die Idee ist, zu bewerten, ob ein KI-System in der Lage ist, Probleme auf einem Niveau zu lösen, das ein echtes menschliches Verständnis widerspiegelt.

Die aktuellen Sprachmodelle erzielen bei HLE sehr schlechte Ergebnisse, oft mit weniger als 5% Genauigkeit. Dies steht im starken Kontrast zu anderen Benchmarks wie MMLU oder GPQA, bei denen Modelle wesentlich höhere Punktzahlen erzielen. Die Schwierigkeiten, die Modelle bei HLE haben, unterstreichen, wie weit sie noch von einer echten allgemeinen Intelligenz entfernt sind.

Es ist wichtig zu beachten, dass eine hohe Leistung bei Benchmarks mit bekannten oder engen Datenmengen nicht unbedingt auf die Anwesenheit echter allgemeiner Intelligenz hinweist. Ein Modell kann fein abgestimmt oder “trainiert” werden, was seine scheinbaren Fähigkeiten aufblähen kann. Also würde sogar ein perfekter Score bei HLE nicht bedeuten, dass wir AGI erreicht haben; es würde nur bedeuten, dass wir einen bestimmten Test bestanden haben.

Was treibt AGI voran

Ich stimme voll und ganz zu, dass die Kernsäulen von AGI Daten, Rechenleistung und Talent sind. Die Situation bei der Rechenleistung ist klar. Schlüsselspieler wie Meta haben versucht, ihre eigenen Chips zu produzieren und Milliarden in ihre eigene Chip-Entwicklungsprozess investiert. Aber Unternehmen verlassen sich immer noch stark auf Chips und Rechenleistung anderer Spieler wie Nvidia, die nicht nur die notwendige Hardware liefern, sondern auch die Bedeutung des Aufbaus der Produktion verstehen.

Mehr Fragen gibt es über Daten und Talente. Das Internet ist ausgeschöpft – es gibt keinen Text, der von Menschen erstellt wurde und derzeit nicht für die Schulung verwendet wird. Der Gesamtvolumen der Informationen, die die Menschheit bisher produziert hat, stellt sich als überraschend klein heraus. Deshalb beginnen Unternehmen, aktiv mit denen zu kooperieren, die hochwertige menschliche Daten generieren können.

Vollautomatisierung oder Mensch-im-Loop?

Ein weiterer Punkt – der Rückgang der Nachfrage nach manueller Datenannotation. Vor einigen Jahren wuchs die Branche mit voller Geschwindigkeit. Tausende von Annotatoren wurden aufgenommen, um den Hunger der KI-Pipelines zu stillen. Heute hat sich viel von diesem Schwung in Richtung Automatisierung verschoben. Modelle haben sich verbessert, und auch die Werkzeuge um sie herum haben sich verbessert.

Nehmen wir Gesichtserkennung. Es war eines der Haupttreiber der Bildannotation. Aber diese Kategorie ist größtenteils gelöst. Modelle wie YOLO, SAM und Samurai absorbieren routinierte Arbeiten schnell. Diese Systeme komprimieren Wochen manueller Arbeit in Minuten, oft mit erstaunlicher Genauigkeit. Wir haben auch viele ML-gestützte Werkzeuge in unserer proprietären Plattform Keylabs implementiert. Es hilft wirklich, den Routine-Workflow zu reduzieren.

Aber all diese Modelle sind durch ihre Verallgemeinerung eingeschränkt und geeignet für die Automatisierung standardisierter und einheitlicher Operationen. Komplexe oder einzigartige Fälle erfordern immer noch menschliche Aufmerksamkeit.

Wir bewegen uns weg von dem alten Paradigma, in dem ein Annotator einfach eine detailorientierte Person war, die ein Objekt oder eine Emotion erkennen konnte. In der neuen Realität werden Fachleute benötigt: Ärzte, um medizinische Bilder zu annotieren, Programmierer, um zu coden, Architekten, um Blaupausen zu erstellen, Marketing-Experten für Kundeninsights und Militärfachleute für Verteidigungsszenarien.

Wir sehen bereits reale Fälle, wie z.B. Kampfpiloten, die Daten für KI annotieren und 1.000 Dollar pro Stunde für ihre Expertise verdienen. Weil solche Spezialisten rar sind und ihr Wissen für die Schulung von Hochleistungs-KI entscheidend ist.

Die Welt ändert sich: immer mehr Menschen werden zu Operatoren und “Trainern” von künstlicher Intelligenz. Vor kurzem erhielt ich eine LinkedIn-Nachricht, in der ich gebeten wurde, ein Dataset für eine KI-App für CEOs zu überprüfen. In Zukunft könnte jeder von uns ein Angebot erhalten, als Annotator zu arbeiten, nicht nur als jemand, der Knöpfe klickt, sondern als Experte, dessen Wissen die Intelligenz von morgen prägt.

Wir leben bereits in dieser neuen Realität, einer Welt der Datenannotation und KI-Schulung. Wer sie erkennt und sich anpasst, wird einen erheblichen Vorteil erlangen.