Yu Su, Mitgründer und CEO von NeoCognition – Interview-Serie

Yu Su, Mitgründer und CEO von NeoCognition, ist ein langjähriger Forscher im Bereich künstlicher Intelligenz, dessen Karriere sowohl die Akademie als auch die Unternehmens-AI und fortschrittliche Agentensysteme umfasst. Neben der Leitung von NeoCognition ist er als Associate Professor und Innovationsforscher an der Ohio State University tätig, wo seine Arbeit sich auf AI-Agents, Reasoning-Systeme und maschinelles Lernen konzentriert. Sein Hintergrund umfasst auch mehr als sechs Jahre als Senior Researcher bei Microsoft (MSFT ), wo er angesichts führender Forscher wie Percy Liang an konversationellen AI-Systemen für Outlook mit semantischer Parsing-Technik arbeitete. In verschiedenen Rollen bei Microsoft, in der Akademie und in Forschungseinrichtungen wie dem IBM T.J. Watson Research Center hat Yu Su einen Ruf für die Weiterentwicklung von AI-Systemen aufgebaut, die reasonieren, lernen und mit komplexen digitalen Umgebungen interagieren können, was dazu beiträgt, die Lücke zwischen Spitzenforschung und realen Anwendungen zu überbrücken.

NeoCognition ist ein Forschungsunternehmen für AI-Agents, das sich auf die Entwicklung von sogenannter “spezialisierter Intelligenz” konzentriert – AI-Systeme, die kontinuierlich lernen und verbessern, indem sie Erfahrungen sammeln. Gegründet von führenden AI-Forschern, verfolgt das Unternehmen eine Vision, die über statische große Sprachmodelle hinausgeht und auf Agenten abzielt, die in bestimmten Bereichen tiefes Fachwissen entwickeln können. Die Forschung konzentriert sich auf Bereiche wie kontinuierliches Lernen, Reasoning, Planung, Werkzeugnutzung und Multi-Agenten-Kollaboration, mit dem Ziel, AI-Systeme zu schaffen, die im Laufe der Zeit immer leistungsfähiger und zuverlässiger werden. Durch die Kombination von Fortschritten im maschinellen Lernen mit strukturiertem Reasoning und adaptiven Lernmethoden zielt NeoCognition darauf ab, die nächste Generation von AI-Agentsen zu prägen, die in der Lage sind, immer komplexere reale Aufgaben zu bewältigen.

Viele Unternehmen haben sich beeilt, generische AI-Copiloten zu veröffentlichen, aber es gibt zunehmend Bedenken hinsichtlich der Zuverlässigkeit, wenn diese Systeme in realen Produktionsumgebungen eingesetzt werden. Warum glauben Sie, dass so viele aktuelle AI-Agents außerhalb kontrollierter Demos Schwierigkeiten haben?

Die meisten aktuellen AI-Agents haben in der Produktion Schwierigkeiten, weil sie immer noch grundlegende Generalisten sind, die ohne ein dauerhaftes Verständnis der Umgebung, in der sie arbeiten, operieren. Sie können oft eine Aufgabe in einem Demo abschließen, aber das ist sehr unterschiedlich von der Entwicklung wiederholbarer Urteilsfähigkeit innerhalb eines realen Betriebssystems.

Heutige Modelle sind beeindruckende Muster-Erkennungssysteme, aber ihnen fehlen noch die Mechanismen, die Menschen nutzen, um zu zuverlässigen Experten zu werden. Menschen werden nicht zuverlässig, indem sie isolierte Aufgaben memorieren. Wir spezialisieren uns, indem wir die Struktur einer bestimmten Welt lernen: die Workflows, Einschränkungen, Beziehungen, Werkzeuge, Prioritäten und Konsequenzen, die eine Profession oder Organisation definieren. Im Laufe der Zeit bauen wir ein internes Arbeitsmodell dieser Umgebung auf, und dieses Modell ermöglicht es uns, gute Entscheidungen zu treffen, die konsistent und wiederholbar sind.

Die meisten AI-Agents heute bauen nicht dieses Art von operationalem Verständnis auf. Sie verlassen sich stark auf Prompting-, Retrieval- oder Orchestrierungsschichten, die ihnen helfen, isolierte Aktionen abzuschließen, aber sie improvisieren immer noch größtenteils, wenn sie auf eine neue Situation stoßen. Deshalb bricht die Leistung oft zusammen, wenn die Umgebung sich ändert und noch mehr, wenn sie chaotisch, dynamisch oder hochriskant wird.

Das fehlende Stück ist Spezialisierung. Menschen gedeihen, weil wir uns kontinuierlich an veränderte Umgebungen anpassen und innerhalb von ihnen zu Experten werden können, indem wir kontinuierlich lernen. Wir glauben, dass AI-Agents eine ähnliche Fähigkeit benötigen: die Fähigkeit, die lokale Struktur eines Bereichs tief genug zu lernen, um mit echter Leistungsfähigkeit zu operieren.

NeoCognition hat seine Vision als Aufbau von Agenten beschrieben, die kontinuierlich lernen und sich anpassen können, ähnlich wie Menschen. Wie sieht das technisch im Vergleich zu den statischen Feinabstimmungs- oder Retrieval-basierten Ansätzen aus, die viele Unternehmen heute verwenden?

Die meisten Unternehmens-AI-Systeme heute verbessern ihre Leistung entweder durch Feinabstimmung eines Modells oder durch Abrufen relevanter Informationen zur Inferenzzeit. Diese Ansätze können nützlich sein, aber sie ermöglichen es einem Agenten nicht grundlegend, sich innerhalb eines Bereichs zu spezialisieren.

Feinabstimmung ist typischerweise statisch nach der Schulung. Retrieval-Systeme helfen, Informationen zu finden, aber das Abrufen von Wissen ist nicht dasselbe wie die Entwicklung von Bereichsexpertise oder das Anpassen von Verhalten aufgrund von Erfahrungen im Laufe der Zeit. In vielen Fällen fehlt dem Agenten immer noch ein dauerhaftes Modell der Umgebung, in der er operiert.

Wenn ein Mensch einem Unternehmen beitritt, wird er nicht einfach deshalb effektiv, weil er Dokumente suchen kann. Er entwickelt allmählich Urteilsfähigkeit, indem er versteht, wie die Organisation tatsächlich funktioniert, und Expertise entsteht durch das kontinuierliche Verfeinern dieses internen Modells.

Wir glauben, dass die nächste Generation von Agenten einen ähnlichen Lernmechanismus benötigt. Bei NeoCognition konzentrieren wir uns darauf, es Agenten zu ermöglichen, diese Art von sich entwickelnden operationellen Modellen zu bilden, damit sie kontinuierlich innerhalb eines Bereichs spezialisieren und verbessern können, anstatt immer wieder von vorne zu beginnen oder von ständiger menschlicher Neukonfiguration abhängig zu sein.

Es scheint, dass es eine wachsende Kluft zwischen AI-Experimentierung und operationalem Vertrauen gibt. Unternehmen können möglicherweise erfolgreich Agenten intern prototypisieren, aber die Bereitstellung im großen Maßstab ist eine ganz andere Herausforderung. Was unterschätzen Organisationen bei diesem Übergang?

Viele Organisationen unterschätzen, wie dynamisch reale operationelle Umgebungen tatsächlich sind. Ein Agent, der mit 85% Genauigkeit arbeitet, klingt stark im Test, aber im Unternehmensmaßstab bedeutet das immer noch einen ständigen Strom von Fehlern und WiederherstellungsSituationen, die menschliche Teams verwalten müssen. Die Herausforderung wird noch größer in mehrschrittigen Workflows, in denen Fehler über Systeme und Aufgaben hinweg kumulieren, was die Überwachung, Intervention und Rechenschaftspflicht viel schwieriger macht, als viele Organisationen ursprünglich erwarten.

Unternehmen behandeln die Bereitstellung immer noch als eine Orchestrierungs- oder Prompting-Problematik, wenn es in Wirklichkeit auch ein Lernproblem ist. Der schwierige Teil ist nicht nur, einen Agenten dazu zu bringen, eine Aufgabe auszuführen. Es geht darum, dem System zu ermöglichen, dauerhafte Kompetenz und Urteilsfähigkeit innerhalb einer dynamischen operationellen Umgebung zu entwickeln.

Die Last der Anpassung, Prompting, Aufsicht und Neukonfiguration liegt immer noch schwer auf menschlichen Teams. Das ist oft ein Zeichen dafür, dass das System immer noch operationales Verständnis fehlt; sie werden jedes Mal manuell durch es geführt.

Ein großes Thema, das in der gesamten AI-Branche auftritt, ist Governance, Sicherheitsvorkehrungen und Richtlinien-Durchsetzung. NeoCognition argumentiert jedoch, dass Governance allein nicht ausreicht. Warum glauben Sie, dass Zuverlässigkeit letztendlich Systeme erfordert, die sich kontinuierlich an ihre Umgebung anpassen, anstatt einfach statische Regeln zu befolgen?

Governance und Sicherheitsvorkehrungen sind extrem wichtig, aber statische Regeln allein können die Zuverlässigkeit in komplexen Umgebungen nicht vollständig lösen.

Produktionsreife operationelle Systeme ändern sich ständig. Workflows entwickeln sich, Tools werden aktualisiert, Richtlinien ändern sich und unvorhersehbare Situationen treten auf, die nicht immer im Voraus antizipiert werden können. Wenn ein Agent nur weiß, wie er vordefinierte Regeln befolgen kann, ohne die Umgebung zu verstehen, in der er operiert, wird er schließlich auf Situationen stoßen, für die diese Regeln nicht vorgesehen sind.

Menschen sind zuverlässig, weil wir Urteilsfähigkeit entwickeln, nicht nur, weil wir skriptartig vorgehen, sondern weil wir die Struktur und Einschränkungen der Welt um uns herum verstehen. Wir lernen, wann wir eskalieren, wann etwas ungewöhnlich aussieht und wann der Kontext den richtigen Kurs der Aktion ändert.

Wir glauben, dass AI-Agents eine ähnliche Fähigkeit zur Anpassung und Umgebungsverständnis benötigen. Sicherere Systeme werden durch die Verbesserung ihrer Kompetenz und Spezialisierung innerhalb klar definierten operationellen Welten entstehen. Diese Art von System beobachtet ihre eigene Umgebung und ihre eigenen Ausgaben und verfolgt, wo sie versagt und ihr Verhalten aktualisiert.

Die AI-Branche betont oft größere Modelle und umfassendere Fähigkeiten, aber NeoCognition scheint sich auf Spezialisierung und kontextuelles Lernen zu konzentrieren. Glauben Sie, dass die Zukunft von Unternehmens-AI-Agents eher wie hoch spezialisierte digitale Arbeitskräfte aussehen wird als wie universelle Assistenten?

Wir glauben fest an die Zukunft der Spezialisierung. Die Branche hat verständlicherweise auf zunehmend allgemeine Modelle gesetzt, weil breite Fähigkeiten beeindruckend sind. Aber in Unternehmensumgebungen ist die eigentliche Herausforderung nicht, ob ein Agent ein bisschen von allem kann. Es ist, ob er eine bestimmte Rolle zuverlässig und mit gutem Urteil über einen längeren Zeitraum hinweg ausführen kann. Unsere Stärke liegt nicht darin, dass wir in jeder Umgebung geborene Experten sind. Es liegt darin, dass wir die Struktur einer bestimmten Welt tief genug lernen können, um effektiv innerhalb von ihr zu operieren.

Bei NeoCognition glauben wir, dass die Zukunft nicht von einem Super-Agenten geprägt sein wird, der alles kann. Stattdessen wird es eine Fülle von spezialisierten Agenten geben, von denen jeder eine bestimmte Welt tief genug lernt, um mit Experten-Niveau-Leistungsfähigkeit, Urteilsfähigkeit und Zuverlässigkeit innerhalb von ihr zu operieren. Ihr Zweck ist nicht, menschliche Expertise zu ersetzen, sondern sie reichhaltiger zu machen: Frontier-Grade-Fähigkeiten in weit mehr Händen zu platzieren und den Basissatz dessen zu erhöhen, was jede Person oder Organisation tun kann.

Eine der größten Bedenken im Zusammenhang mit autonomen Agenten ist, wie sie sich verhalten, wenn sich die Umgebung unerwartet ändert. Wie wichtig ist reale Anpassung und Umgebungsbewusstsein, um Ausfälle, Halluzinationen oder unsichere Aktionen zu verhindern?

Es ist absolut kritisch. Ohne Umgebungsbewusstsein können Agenten weiterhin selbstsicher handeln, auch wenn ihr Verständnis der Situation veraltet oder unvollständig ist. Dort entstehen oft operationelle Ausfälle.

Wir glauben, dass Zuverlässigkeit erfordert, dass Agenten kontinuierlich die lokale Struktur der Umgebung lernen, in der sie operieren, und ihr Verständnis im Laufe der Zeit aktualisieren. Zuverlässigkeit ändert sich und entwickelt sich im Laufe der Zeit: Was im September zuverlässig schien, muss im Mai nicht unbedingt gleich zuverlässig sein. Je tiefer ein Agent die Systeme, Einschränkungen, Workflows und Beziehungen um sich herum versteht, desto fähiger wird er, zu erkennen, wenn sich Bedingungen geändert haben oder wenn Unsicherheit eine Eskalation erfordert.

Wie nahe glauben Sie, dass die Branche daran ist, AI-Systeme bereitzustellen, die sich durch kontinuierliche Interaktion mit realen operationellen Umgebungen wirklich selbst verbessern können?

Wir sind noch am Anfang beim Aufbau der zugrunde liegenden Lernmechanismen, die für zuverlässiges kontinuierliches Lernen und Selbstverbesserung erforderlich sind, aber die Branche ist dieser Übergang viel näher, als viele Menschen realisieren. Wir leben in einer komprimierten Zeitleiste. Die Zutaten für den nächsten technologischen Durchbruch sind bereit. Es kann sehr bald passieren.

Was zählt, ist nicht einfach Selbstverbesserung im Allgemeinen, sondern strukturierte Spezialisierung innerhalb realer Umgebungen. Das bedeutet, Workflows, Einschränkungen, Beziehungen und Muster erfolgreichen Verhaltens auf eine Weise zu lernen, die stabil, regelbar und resistent gegen katastrophales Vergessen ist. Das ist das Problem, auf das wir uns bei NeoCognition konzentrieren.

Wenn wir einige Jahre in die Zukunft blicken, was wird Ihrer Meinung nach letztendlich vertrauenswürdige Unternehmens-AI-Agents von der Welle experimenteller Systeme unterscheiden, die derzeit den Markt fluten?

Die Systeme, die erfolgreich sein werden, sind diejenigen, die weniger wie Spielzeug-Szenarien und mehr wie zuverlässige Operateure wirken.

Reine Modellfähigkeit allein wird nicht ausreichen. Unternehmen werden letztendlich daran interessiert sein, ob Agenten konsistent innerhalb ihrer tatsächlichen Umgebungen operieren können, lokale Workflows und Einschränkungen verstehen, Grenzen und Berechtigungen respektieren, sich sicher über die Zeit hinweg anpassen und wiederholbare Ergebnisse liefern.

Die zukünftigen Gewinner im Unternehmens-AI-Bereich werden nicht einfach die Systeme sein, die die breiteste Palette von Fragen beantworten können. Sie werden die Systeme sein, die eine bestimmte operationelle Welt tief genug lernen können, um mit echter Leistungsfähigkeit, Urteilsfähigkeit und Zuverlässigkeit innerhalb von ihr zu handeln.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten NeoCognition besuchen: NeoCognition.