Yu Su, medgrunnlegger og CEO av NeoCognition – Intervju-serie

Yu Su, medgrunnlegger og CEO av NeoCognition, er en langvarig kunstig intelligens-forsker hvis karriere spenner over akademiske, bedrifts AI og avanserte agent-systemer. I tillegg til å lede NeoCognition, er han også professor og innovasjonsforsker ved Ohio State University, der hans arbeid har fokusert på AI-agenter, resoneringssystemer og maskinlæring. Hans bakgrunn inkluderer også mer enn seks år som seniorforsker i Microsoft, der han arbeidet sammen med ledende forskere som Percy Liang på konversasjons-AI-systemer for Outlook ved hjelp av semantisk parsing-teknikker. Over roller i Microsoft, akademiske og forskningsinstitusjoner som IBM T.J. Watson Research Center, har Yu Su bygget en reputasjon for å fremme AI-systemer som kan resonere, lære og samhandle med komplekse digitale miljøer, og hjelpe med å lukke gapet mellom banebrytende forskning og virkelige anvendelser.

NeoCognition er et AI-agent-forskningsfirma som fokuserer på å utvikle hva de beskriver som “spesialisert intelligens” – AI-systemer som kontinuerlig lærer og forbedrer seg gjennom erfaring. Grunnlagt av ledende AI-forskere, har selskapet en visjon som går utover statiske store språkmodeller mot agenter som kan utvikle dyp ekspertise i bestemte domener. Deres forskning fokuserer på områder som kontinuerlig læring, resonering, planlegging, verktøybruk og multi-agent-samarbeid, med målet om å skape AI-systemer som blir mer kompetente og pålitelige over tid. Ved å kombinere fremgang i maskinlæring med strukturert resonering og adaptiv læringsteknikk, har NeoCognition som mål å hjelpe med å forme den neste generasjonen av AI-agenter som kan håndtere stadig mer komplekse virkelige oppgaver.

Mange selskaper har rushet til å lansere generiske AI-kopiloter, men vi hører stadig mer bekymring om pålitelighet når disse systemene kommer inn i virkelige produksjonsmiljøer. Hvorfor tror du at så mange nåværende AI-agenter sliter utenfor kontrollerte demonstrasjoner?

De fleste nåværende AI-agenter sliter i produksjon fordi de fortsatt er fundamentalt generalister som opererer uten en varig forståelse av miljøet de arbeider i. De kan ofte fullføre en oppgave en gang i en demo, men det er svært forskjellig fra å utvikle gjentakende dømmekraft innenfor et virkelig operasjonelt system.

I dag er modellene imponerende mønster-tilpasere, men de mangler fortsatt mekanismene mennesker bruker for å bli pålitelige eksperter. Mennesker blir ikke pålitelige ved å memorere isolerte oppgaver. Vi spesialiserer oss ved å lære strukturen i en bestemt verden: arbeidsflyter, begrensninger, relasjoner, verktøy, prioriteringer og konsekvenser som definerer en profesjon eller organisasjon. Over tid bygger vi en intern arbeidsmodell av det miljøet, og det er den modellen som gjør at gode avgjørelser blir konsistente og gjentakende.

De fleste AI-agenter i dag bygger ikke den type operasjonell forståelse. De er avhengige av prompting, innhenting eller orkestreringslag som hjelper dem med å fullføre isolerte handlinger, men de improviserer fortsatt hver gang de møter en ny situasjon. Det er derfor at ytelsen ofte bryter sammen når miljøet endrer seg og enda mer når det blir uventet, dynamisk eller høyrisikabelt.

Den manglende delen er spesialisering. Mennesker trives fordi vi kan kontinuerlig tilpasse oss til endrede miljøer og bli eksperter innen dem gjennom kontinuerlig læring. Vi tror AI-agenter trenger en lignende evne: evnen til å lære den lokale strukturen i et domene dypt nok til å operere med virkelig kompetanse.

NeoCognition har beskrevet sin visjon som å bygge agenter som kan kontinuerlig lære og tilpasse seg mer som mennesker. Hva betyr det teknisk sammenlignet med de statiske finjustering- eller innhentingsbaserte tilnærmingene mange bedrifter avhenger av i dag?

De fleste bedrifts-AI-systemer i dag forbedrer ytelsen enten ved å finjustere en modell en gang eller ved å innhente relevant informasjon på inferenstid. Disse tilnærmingene kan være nyttige, men de tillater ikke fundamentalt at en agent utvikler evoluerende ekspertise innenfor et domene.

Finjustering er vanligvis statisk etter opplæring. Innhentingsystemer hjelper med å fremheve informasjon, men å innhente kunnskap er ikke det samme som å utvikle domene-ekspertise eller tilpasse atferd basert på erfaring over tid. I mange tilfeller mangler agenten fortsatt en varig modell av miljøet det opererer i.

Når en person starter i et selskap, blir de ikke effektive bare fordi de kan søke i dokumenter. De utvikler gradvis dømmekraft ved å forstå hvordan organisasjonen faktisk fungerer, og ekspertise oppstår fra kontinuerlig tilpasning av den interne modellen.

Vi tror den neste generasjonen av agenter trenger en lignende læringsmekanisme. Hos NeoCognition fokuserer vi på å aktivere agenter til å danne slike evoluerende operasjonelle modeller, slik at de kan kontinuerlig spesialisere og forbedre seg innenfor et domene over tid, i stedet for å starte på nytt hver gang eller avhenge av konstant menneskelig omkonfigurering.

Det ser ut til å være en økende skille mellom AI-eksperimentering og operasjonell tillit. Bedrifter kan være suksessfulle med å prototypere agenter internt, men å deployere dem i skala er en helt annen utfordring. Hva underestimerer organisasjonene om denne overgangen?

Mange organisasjoner underestimerer hvor dynamiske virkelige operasjonelle miljøer faktisk er. En agent som utfører med 85% nøyaktighet kan høres sterk ut i testing, men på bedriftsnivå oversettes det til en konstant strøm av feil og gjenopprettingsituasjoner som menneskelige team må håndtere. Utfordringen blir enda mer betydelig i multi-trinn-arbeidsflyter hvor feil akkumulerer over systemer og oppgaver, og gjør tilsyn, inngripen og ansvarliggjøring mye vanskeligere enn mange organisasjoner initialt forventer.

Bedrifter behandler fortsatt deployering som et orkestrerings- eller promptingsproblem, når i virkeligheten er det også et læringsproblem. Den vanskelige delen er ikke bare å få en agent til å utføre en oppgave, men å aktivere systemet til å utvikle varig kompetanse og dømmekraft innenfor et dynamisk operasjonelt miljø.

Børen av tilpasning, prompting, tilsyn og omkonfigurering faller fortsatt tungt på menneskelige team i dag. Det er ofte et tegn på at systemet fortsatt mangler operasjonell forståelse; de blir manuelt styrt gjennom det hver gang. Det er ikke en vei til skala eller tillit.

En stor tema som oppstår over hele AI-industrien er styring, beskyttelse og politikk-gjennomføring. Likevel argumenterer NeoCognition for at styring alene ikke er nok. Hvorfor tror du at pålitelighet ultimate krever systemer som kontinuerlig tilpasser seg miljøet i stedet for bare å følge statiske regler?

Styring og beskyttelse er ekstremt viktig, men statiske regler alene kan ikke fullstendig løse pålitelighet i komplekse miljøer.

Produksjonsnivå-operasjonelle systemer er konstant i endring. Arbeidsflyter utvikler seg, verktøy oppdateres, politikker skifter, og uventede situasjoner oppstår som ikke alltid kan forutsies på forhånd. Hvis en agent bare kjenner hvordan å følge forhåndsdefinerte regler uten å forstå miljøet det opererer i, vil det til slutt møte situasjoner som reglene ikke har tatt hensyn til.

Menneskers pålitelighet kommer fra dømmekraft, ikke bare rigid overholdelse av skript, men fordi vi utvikler dømmekraft gjennom å forstå strukturen og begrensningene i verden rundt oss. Vi lærer når å eskalere, når noe ser uvanlig ut, og når konteksten endrer den riktige kursen.

Vi tror AI-agenter trenger en lignende kapasitet for tilpasning og miljøforståelse. Sikrere systemer vil komme fra å gjøre dem mer kompetente og spesialiserte innenfor tydelig definerte operasjonelle verdener. Slike systemer observerer sitt eget miljø og egne utdata og sporer hvor det feiler og oppdaterer atferden.

AI-industrien legger ofte vekt på større modeller og bredere kapasiteter, men NeoCognition ser ut til å fokusere på spesialisering og kontekstuell læring. Tror du at fremtiden for bedrifts-AI-agenter vil se ut som høyt spesialiserte digitale arbeidere i stedet for universelle assistenter?

Vi tror sterkt på at fremtiden vil bli drevet av spesialisering. Industrien har forståeligvis fokusert på stadig mer generelle modeller fordi bred kapasitet er imponerende. Men i bedriftsmiljøer er den virkelige utfordringen ikke om en agent kan gjøre en liten del av alt. Det er om den kan utføre en bestemt rolle pålitelig og med sunn dømmekraft over tid. Vår styrke er ikke at vi er født eksperter i hvert miljø. Det er at vi kan lære strukturen i en bestemt verden dypt nok til å operere effektivt innenfor den.

Hos NeoCognition tror vi at fremtiden ikke vil være en super-agent som gjør alt. Det vil være et overflod av spesialiserte agenter, hver enkelt lærer en bestemt verden dypt nok til å operere med ekspert-nivå-kompetanse, pålitelighet og dømmekraft. Deres formål er ikke å erstatte menneskelig ekspertise, men å gjøre den mer overflodig: å sette frontier-grad-kapasitet i langt flere hender og heve baseline-nivået for hva hver person eller organisasjon kan gjøre.

En av de største bekymringene omkring autonome agenter er hvordan de oppfører seg når miljøet endrer seg uventet. Hvor viktig er virkelig tilpasning og miljøbevissthet for å forebygge feil, hallusinasjoner eller usikre handlinger?

Det er absolutt kritisk. Uten miljøbevissthet kan agenter fortsette å handle med tillit selv når deres forståelse av situasjonen er foreldet eller ufullstendig. Det er der operasjonelle feil ofte oppstår.

Vi tror pålitelighet krever at agenter kontinuerlig lærer den lokale strukturen i miljøet de opererer i og oppdaterer forståelsen over tid. Pålitelighet endrer seg og utvikler seg over tid: hva som ser pålitelig ut i september, kan ikke se like pålitelig ut i mai. Jo dyptere en agent forstår systemene, begrensningene, arbeidsflytene og relasjonene rundt det, jo mer kapabel blir det til å gjenkjenne når forhold har endret seg eller når usikkerhet krever eskalering.

Hvor nær tror du industrien er til å deployere AI-systemer som kan virkelig forbedre seg gjennom kontinuerlig interaksjon med virkelige operasjonelle miljøer?

Vi er fortsatt tidlige i å bygge de underliggende læringsmekanismene som kreves for pålitelig kontinuerlig læring og selvforbedring, men industrien er mye nærmere denne overgangen enn mange mennesker innser. Vi lever i en komprimert tidslinje. Ingrediensene for den neste teknologiske gjennombruddet er klare. Det kan skje ganske snart.

Hva betyr ikke bare selvforbedring i abstrakt, men strukturert spesialisering innenfor virkelige miljøer. Det betyr å lære arbeidsflyter, begrensninger, relasjoner og mønster av suksessfulle atferd på måter som er stabile, styrbare og motstandsdyktige mot katastrofale glemming. Det er problemet vi fokuserer på hos NeoCognition.

Om noen år, hva tror du vil ultimate skille pålitelige bedrifts-AI-agenter fra bølgen av eksperimentelle systemer som nå flommer markedet?

Systemene som lykkes, vil være de som føles mindre som leke-scenarier og mer som pålitelige operatører.

Ren modell-kapasitet alene vil ikke være nok. Bedrifter vil ultimate bry seg om hvorvidt agenter kan operere konsistent innenfor deres faktiske miljøer, forstå lokale arbeidsflyter og begrensninger, respektere grenser og tillatelser, tilpasse seg trygt over tid og levere gjentakende resultater.

Fremtidens vinnere i bedrifts-AI vil ikke bare være systemene som kan svare på det bredeste spekteret av spørsmål. De vil være systemene som kan lære et bestemt operasjonelt verden dypt nok til å handle med virkelig kompetanse, dømmekraft og pålitelighet innenfor det.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke NeoCognition.