Yu Su, medeoprichter en CEO van NeoCognition – Interviewreeks

Yu Su, medeoprichter en CEO van NeoCognition, is een lange tijd artificial intelligence-onderzoeker wiens carrière zich uitstrekt over academische instellingen, enterprise AI en geavanceerde agentsystemen. Naast het leiden van NeoCognition, is hij als associate professor en innovation scholar verbonden aan The Ohio State University, waar zijn werk zich heeft gericht op AI-agents, redeneringssystemen en machine learning. Zijn achtergrond omvat ook meer dan zes jaar als senior onderzoeker bij Microsoft (MSFT ), waar hij samenwerkte met toonaangevende onderzoekers, waaronder Percy Liang, aan conversational AI-systemen voor Outlook met behulp van semantische parsing-technieken. In zijn verschillende rollen bij Microsoft, academische instellingen en onderzoeksinstellingen zoals het IBM T.J. Watson Research Center, heeft Yu Su een reputatie opgebouwd voor het ontwikkelen van AI-systemen die kunnen redeneren, leren en interactie hebben met complexe digitale omgevingen, waardoor de kloof tussen baanbrekend onderzoek en praktische toepassingen wordt overbrugd.

NeoCognition is een onderzoeksbureau voor AI-agents dat zich richt op het ontwikkelen van wat het “gespecialiseerde intelligentie” noemt – AI-systemen die continu leren en verbeteren door ervaring. Het bedrijf, opgericht door toonaangevende AI-onderzoekers, streeft naar een visie die verder gaat dan statische grote taalmodellen en richt zich op agents die een diepe expertise kunnen ontwikkelen in specifieke domeinen. Het onderzoek richt zich op gebieden zoals continue leren, redeneren, plannen, toolgebruik en multi-agent-samenwerking, met als doel het creëren van AI-systemen die capabeler en betrouwbaarder worden over tijd. Door de combinatie van vooruitgang in machine learning met gestructureerde redenering en adaptieve leertechnieken, beoogt NeoCognition bij te dragen aan de vorming van de volgende generatie AI-agents die in staat zijn om complexe, real-world taken aan te pakken.

Veel bedrijven haastten zich om generieke AI-co-piloten uit te brengen, maar we horen steeds vaker zorgen over betrouwbaarheid zodra deze systemen in echte productieomgevingen terechtkomen. Waarom denk je dat zoveel huidige AI-agents buiten gecontroleerde demos worstelen?

De meeste huidige AI-agents worstelen in productieomgevingen omdat ze nog steeds fundamenteel generalisten zijn die opereren zonder een duurzame kennis van de omgeving waarin ze werken. Ze kunnen vaak één keer een taak voltooien in een demo, maar dat is heel anders dan het ontwikkelen van herhaalbare oordeelkundigheid binnen een echte operationele systeem.

De huidige modellen zijn indrukwekkende patroonherkenners, maar ze missen nog steeds de mechanismen die mensen gebruiken om betrouwbare experts te worden. Mensen worden niet betrouwbaar door geïsoleerde taken te memoriseren. We specialiseren ons door de structuur van een bepaalde wereld te leren: de workflows, beperkingen, relaties, tools, prioriteiten en consequenties die een beroep of organisatie definiëren. Na verloop van tijd bouwen we een intern werkmodel van die omgeving op, en dat model is wat goede beslissingen consistent en herhaalbaar maakt.

De meeste AI-agents van vandaag bouwen dat soort operationele kennis niet op. Ze vertrouwen zwaar op prompting, retrieval of orchestratielagen die helpen om geïsoleerde acties te voltooien, maar ze improviseren nog steeds grotendeels elke keer dat ze een nieuwe situatie tegenkomen. Dat is waarom de prestaties vaak instorten zodra de omgeving verandert en nog meer wanneer deze rommelig, dynamisch of hoogrisico wordt.

Het ontbrekende stuk is specialisatie. Mensen gedijen omdat we ons kunnen aanpassen aan veranderende omgevingen en ons kunnen specialiseren in die omgevingen door continue leren. We geloven dat AI-agents een soortgelijke capaciteit nodig hebben: de mogelijkheid om de lokale structuur van een domein diep genoeg te leren om met echte vaardigheid te opereren.

NeoCognition heeft zijn visie omschreven als het bouwen van agents die continu kunnen leren en aanpassen, meer zoals mensen. Hoe ziet dat er technisch uit in vergelijking met de statische fine-tuning of retrieval-gebaseerde benaderingen die veel ondernemingen vandaag gebruiken?

De meeste ondernemings-AI-systemen van vandaag verbeteren de prestaties door een model één keer bij te schaven of door relevante informatie op te halen bij inferentie. Die benaderingen kunnen nuttig zijn, maar ze laten een agent niet fundamenteel toe om evoluerende expertise binnen een domein te ontwikkelen.

Bijschaven is meestal statisch na de training. Retrieval-systemen helpen bij het opzoeken van informatie, maar het opzoeken van kennis is niet hetzelfde als het ontwikkelen van domeinexpertise of het aanpassen van gedrag op basis van ervaring over tijd. In veel gevallen ontbreekt het de agent nog steeds aan een persistent model van de omgeving waarin het opereert.

Wanneer een mens een bedrijf binnenkomt, wordt hij niet effectief omdat hij documenten kan doorzoeken. Hij ontwikkelt langzaam oordeelkundigheid door te begrijpen hoe de organisatie werkelijk functioneert en expertise ontstaat uit het continu verfijnen van dat interne model.

We geloven dat de volgende generatie agents een soortgelijk leermechanisme nodig heeft. Bij NeoCognition richten we ons op het mogelijk maken van agents om die soort evoluerende operationele modellen te vormen, zodat ze continu kunnen specialiseren en verbeteren binnen een domein over tijd, in plaats van steeds opnieuw te beginnen of afhankelijk te zijn van constante menselijke herschikking.

Er lijkt een groeiende kloof te zijn tussen AI-experimenten en operationeel vertrouwen. Ondernemingen kunnen agents met succes intern prototypen, maar het implementeren ervan op grote schaal is een heel andere uitdaging. Wat onderschatten organisaties over deze overgang?

Veel organisaties onderschatten hoe dynamisch echte operationele omgevingen werkelijk zijn. Een agent die 85% nauwkeurigheid haalt, kan sterk klinken in tests, maar op ondernemingsniveau vertaalt dit zich nog steeds in een constante stroom van fouten en herstelsituaties die door menselijke teams moeten worden beheerd. De uitdaging wordt nog groter in multi-stap-workflows waar fouten zich opstapelen over systemen en taken, waardoor toezicht, interventie en verantwoordelijkheid veel moeilijker worden dan veel organisaties aanvankelijk verwachten.

Ondernemingen behandelen implementatie nog steeds als een orkestratie- of prompting-probleem, terwijl het in werkelijkheid ook een leerprobleem is. Het moeilijke deel is niet alleen een agent laten uitvoeren van een taak. Het is het mogelijk maken van het systeem om duurzame competentie en oordeelkundigheid te ontwikkelen binnen een dynamische operationele omgeving.

De last van aanpassing, prompting, toezicht en herschikking rust nog steeds zwaar op menselijke teams. Dat is vaak een teken dat het systeem nog steeds geen operationele kennis heeft; het wordt elke keer handmatig gestuurd doorheen. Dat is geen pad naar schaalbaarheid of vertrouwen.

Een belangrijk thema dat naar voren komt in de AI-industrie is governance, guardrails en beleidsuitvoering. Toch stelt NeoCognition dat governance alleen niet voldoende is. Waarom denk je dat betrouwbaarheid uiteindelijk systemen vereist die continu aanpassen aan hun omgeving in plaats van alleen statische regels te volgen?

Beleid en guardrails zijn extreem belangrijk, maar statische regels alleen kunnen de betrouwbaarheid in complexe omgevingen niet volledig oplossen.

Productie-niveau operationele systemen veranderen constant. Workflows evolueren, tools worden bijgewerkt, beleid verandert en onverwachte situaties doen zich voor die niet altijd van tevoren kunnen worden voorzien. Als een agent alleen weet hoe hij vooraf gedefinieerde regels moet volgen zonder de omgeving waarin hij opereert te begrijpen, zal hij uiteindelijk situaties tegenkomen waarvoor die regels geen rekening hebben gehouden.

De betrouwbaarheid van mensen komt voort uit oordeelkundigheid, niet alleen uit strikte naleving van scripts, maar omdat we oordeelkundigheid ontwikkelen door de structuur en beperkingen van de wereld om ons heen te begrijpen. We leren wanneer we moeten escaleren, wanneer iets abnormaal lijkt en wanneer de context de juiste koers van actie verandert.

We geloven dat AI-agents een soortgelijke capaciteit voor aanpassing en omgevingskennis nodig hebben. Veiliger systemen zullen voortkomen uit het maken van hen meer competent en gespecialiseerd binnen duidelijk gedefinieerde operationele werelden. Dit type systeem observeert zijn eigen omgeving en output en volgt waar het faalt en actualiseert zijn gedrag.

De AI-industrie benadrukt vaak grotere modellen en bredere capaciteiten, maar NeoCognition lijkt zich te richten op specialisatie en contextueel leren. Denk je dat de toekomst van ondernemings-AI-agents meer zal lijken op hoge, gespecialiseerde digitale werknemers dan op universele assistenten?

We geloven sterk in de toekomst die wordt gedreven door specialisatie. De industrie heeft terecht de focus gelegd op steeds algemener modellen, omdat brede capaciteit indrukwekkend is. Maar in ondernemingsomgevingen is de echte uitdaging niet of een agent een beetje van alles kan doen. Het is of het een specifieke rol betrouwbaar en met goed oordeelkundigheid over tijd kan uitvoeren. Onze kracht ligt niet in het feit dat we van nature experts zijn in elke omgeving. Het ligt in het feit dat we de structuur van een bepaalde wereld diep genoeg kunnen leren om effectief binnen die wereld te opereren.

Bij NeoCognition geloven we dat de toekomst niet één superagent zal zijn die alles doet. In plaats daarvan zal het een overvloed aan gespecialiseerde agents zijn, waarvan elk één een bepaalde wereld diep genoeg leert om met expertniveau vaardigheid, oordeelkundigheid en betrouwbaarheid binnen die wereld te opereren. Hun doel is niet om menselijke expertise te vervangen, maar om die meer overvloedig te maken: om frontier-klasse capaciteit in veel meer handen te leggen en de basis te verhogen van wat elke persoon of organisatie kan doen.

Een van de grootste zorgen rondom autonome agents is hoe ze zich gedragen wanneer omgevingen onverwacht veranderen. Hoe belangrijk is het om in de praktijk aan te passen en omgevingsbewustzijn te hebben voor het voorkomen van fouten, hallucinaties of onveilige acties?

Het is absoluut cruciaal. Zonder omgevingsbewustzijn kunnen agents blijven handelen met vertrouwen, zelfs wanneer hun begrip van de situatie verouderd of onvolledig is. Dat is waar operationele fouten vaak ontstaan.

We geloven dat betrouwbaarheid vereist dat agents continu de lokale structuur van de omgeving waarin ze opereren leren en hun begrip over tijd bijwerken. Betrouwbaarheid verandert en evolueert over tijd: wat in september betrouwbaar leek, lijkt in mei misschien niet hetzelfde. Hoe dieper een agent de systemen, beperkingen, workflows en relaties om zich heen begrijpt, hoe capabeler het wordt om te herkennen wanneer omstandigheden zijn veranderd of wanneer onzekerheid escalatie vereist.

Hoe dicht denk je dat de industrie bij het implementeren van AI-systemen is die echt zichzelf kunnen verbeteren door voortdurende interactie met echte operationele omgevingen?

We zijn nog vroeg in het opbouwen van de onderliggende leermechanismen die nodig zijn voor betrouwbare continue leren en zelfverbetering, maar de industrie is dichter bij deze overgang dan veel mensen beseffen. We leven in een samengeperste tijdlijn. De ingrediënten voor de volgende technologische doorbraak zijn klaar. Het kan heel snel gebeuren.

Wat ertoe doet, is niet alleen zelfverbetering in het algemeen, maar gestructureerde specialisatie binnen echte omgevingen. Dat betekent leren van workflows, beperkingen, relaties en patronen van succesvol gedrag op manieren die stabiel, beheersbaar en resistent zijn tegen catastrofale vergetelheid. Dat is het probleem waar we ons bij NeoCognition op richten.

Als we een paar jaar vooruitkijken, wat denk je dat uiteindelijk het verschil zal maken tussen vertrouwbare ondernemings-AI-agents en de golf van experimentele systemen die momenteel de markt overspoelen?

De systemen die slagen, zullen degenen zijn die minder lijken op speelscenario’s en meer op betrouwbare operators.

Alleen de capaciteit van het model is niet voldoende. Ondernemingen zullen uiteindelijk geïnteresseerd zijn in of agents consistent kunnen opereren binnen hun werkelijke omgevingen, lokale workflows en beperkingen begrijpen, grenzen en machtigingen respecteren, veilig aanpassen over tijd en herhaalbare resultaten leveren.

De toekomstige winnaars in ondernemings-AI zullen niet alleen de systemen zijn die het breedste bereik van vragen kunnen beantwoorden. Ze zullen de systemen zijn die een bepaalde operationele wereld diep genoeg kunnen leren om met echte vaardigheid, oordeelkundigheid en betrouwbaarheid binnen die wereld te handelen.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten NeoCognition bezoeken.