Yu Su, medgrundare och VD för NeoCognition – Intervjuserie

Yu Su, medgrundare och VD för NeoCognition, är en långvarig artificiell intelligens-forskare vars karriär spänner över akademi, företags-ai och avancerade agentsystem. Utöver att leda NeoCognition, är han också biträdande professor och innovationsforskare vid Ohio State University, där hans arbete har fokuserat på ai-agenter, resonemangssystem och maskinlärning. Hans bakgrund inkluderar också mer än sex år som senior forskare på Microsoft, där han arbetade tillsammans med ledande forskare, inklusive Percy Liang, på konversations-ai-system för Outlook med hjälp av semantisk parsningsteknik. Under sina roller på Microsoft, akademi och forskningsinstitutioner som IBM T.J. Watson Research Center, har Yu Su byggt ett rykte för att utveckla ai-system som kan resonera, lära och interagera med komplexa digitala miljöer, vilket hjälper till att överbrygga gapet mellan banbrytande forskning och verkliga tillämpningar.

NeoCognition är ett ai-agent-forskningsföretag som fokuserar på att utveckla vad de beskriver som “specialiserad intelligens” – ai-system som kontinuerligt lär och förbättras genom erfarenhet. Grundat av ledande ai-forskare, strävar företaget efter en vision som går utöver statiska stora språkmodeller mot agenter som kan utveckla djup expertis inom specifika områden. Deras forskning fokuserar på områden som kontinuerligt lärande, resonemang, planering, verktygsanvändning och multi-agent-samarbete, med målet att skapa ai-system som blir mer kapabla och tillförlitliga över tid. Genom att kombinera framsteg inom maskinlärning med strukturerat resonemang och adaptiva lärandetekniker, syftar NeoCognition till att bidra till att forma nästa generation av ai-agenter som kan hantera alltmer komplexa verkliga uppgifter.

Många företag skyndade sig att släppa generiska ai-kopiloter, men vi hör alltmer om bekymmer kring tillförlitlighet när dessa system kommer in i verkliga produktionsmiljöer. Varför tror du att så många nuvarande ai-agenter kämpar utanför kontrollerade demonstrationer?

De flesta nuvarande ai-agenter kämpar i produktion eftersom de fortfarande i grunden är generalister som opererar utan en varaktig förståelse av den miljö de arbetar i. De kan ofta slutföra en uppgift en gång i en demonstration, men det är mycket annorlunda än att utveckla återkommande omdöme inom ett verkligt operativt system.

Dagens modeller är imponerande mönsterigenkännare, men de saknar fortfarande de mekanismer som människor använder för att bli tillförlitliga experter. Människor blir inte pålitliga genom att memorera isolerade uppgifter. Vi specialiserar oss genom att lära oss strukturen i en specifik värld: arbetsflöden, begränsningar, relationer, verktyg, prioriteringar och konsekvenser som definierar ett yrke eller en organisation. Över tid bygger vi upp en intern arbetsmodell av den miljön, och den modellen är vad som tillåter bra beslut att bli konsekventa och återkommande.

De flesta ai-agenter idag bygger inte upp den typen av operativ förståelse. De förlitar sig tungt på promptning, återvinning eller orkestreringslager som hjälper dem att slutföra isolerade åtgärder, men de improviserar fortfarande i stor utsträckning varje gång de möter en ny situation. Det är därför prestandan ofta bryts ner när miljön förändras och ännu mer när den blir rörig, dynamisk eller högrisk.

Den saknade biten är specialisering. Människor blomstrar eftersom vi kan kontinuerligt anpassa oss till förändrade miljöer och bli experter inom dem genom kontinuerligt lärande. Vi tror att ai-agenter behöver en liknande förmåga: förmågan att lära sig den lokala strukturen i ett område tillräckligt djupt för att operera med verklig kompetens.

NeoCognition har beskrivit sin vision som att bygga agenter som kan kontinuerligt lära och anpassa sig mer som människor. Vad ser det ut som tekniskt jämfört med de statiska finjusterings- eller återvinningsbaserade tillvägagångssätten som många företag förlitar sig på idag?

De flesta företags ai-system idag förbättrar prestanda antingen genom att finjustera en modell en gång eller genom att hämta relevant information vid inferenstid. Dessa tillvägagångssätt kan vara användbara, men de tillåter inte i grunden att en agent utvecklar utvecklande expertis inom ett område.

Finjustering är vanligtvis statisk efter utbildning. Återvinningssystem hjälper till att presentera information, men att hämta kunskap är inte detsamma som att utveckla domänexpertis eller anpassa beteende baserat på erfarenhet över tid. I många fall saknar agenten fortfarande en varaktig modell av den miljö den opererar i.

När en människa ansluter till ett företag, blir de inte effektiva bara för att de kan söka dokument. De utvecklar gradvis omdöme genom att förstå hur organisationen faktiskt fungerar, och expertis uppstår från att kontinuerligt förbättra den interna modellen.

Vi tror att nästa generation av agenter behöver en liknande läromekanism. På NeoCognition fokuserar vi på att möjliggöra för agenter att bilda dessa typer av utvecklande operativa modeller, så att de kan kontinuerligt specialisera och förbättra sig inom ett område över tid, snarare än att upprepa starten från scratch eller förlita sig på konstant mänsklig omkonstruktion.

Det verkar finnas en växande klyfta mellan ai-experiment och operativ tillförlitlighet. Företag kan lyckas prototypa agenter internt, men att distribuera dem i stor skala är en annan utmaning helt. Vad underskattar organisationer om denna övergång?

Många organisationer underskattar hur dynamiska verkliga operativa miljöer faktiskt är. En agent som presterar med 85% noggrannhet kan låta starkt i testning, men i företags skala översätts det fortfarande till en konstant ström av fel och återhämtnings situationer som mänskliga team måste hantera. Utmaningen blir ännu mer betydande i multi-stegs arbetsflöden där fel ackumuleras över system och uppgifter, vilket gör tillsyn, ingripande och ansvar betydligt svårare än vad många organisationer initialt förväntar sig.

Företag behandlar fortfarande distribution som ett orkestrerings- eller prompt-problem, när det i verkligheten också är ett lärande problem. Den svåra delen är inte bara att få en agent att utföra en uppgift, utan att möjliggöra för systemet att utveckla varaktig kompetens och omdöme inom en dynamisk operativ miljö.

Bördan av anpassning, promptning, tillsyn och omkonstruktion faller fortfarande tungt på mänskliga team idag. Det är ofta ett tecken på att systemet fortfarande saknar operativ förståelse; de styrs manuellt genom det varje gång. Det är inte en väg till skala eller tillförlitlighet.

En stor tema som växer fram över hela ai-industrin är styrning, skydd och policygenomförande. Men NeoCognition hävdar att styrning ensam är inte tillräckligt. Varför tror du att tillförlitlighet slutligen kräver system som kontinuerligt anpassar sig till sin miljö snarare än att bara följa statiska regler?

Styrning och skydd är extremt viktiga, men statiska regler ensam kan inte fullständigt lösa tillförlitlighet i komplexa miljöer.

Produktionsnivå operativa system förändras konstant. Arbetsflöden utvecklas, verktyg uppdateras, policys förändras och oväntade situationer uppstår som inte alltid kan förutses i förväg. Om en agent bara känner till hur man följer fördefinierade regler utan att förstå den miljö den opererar i, kommer den så småningom att möta situationer som dessa regler inte har tagit hänsyn till.

Människors tillförlitlighet kommer från omdöme, inte bara från strikt efterlevnad av manus, men eftersom vi utvecklar omdöme genom att förstå världens struktur och begränsningar runt oss. Vi lär oss när vi ska eskalera, när något ser onormalt ut och när kontexten förändrar den korrekta handlingsvägen.

Vi tror att ai-agenter behöver en liknande förmåga till anpassning och miljöförståelse. Säkrare system kommer från att göra dem mer kompetenta och specialiserade inom tydligt definierade operativa världar. Sådana system observerar sin egen miljö och egna utdata och spårar var de misslyckas och uppdaterar sitt beteende.

Ai-industrin betonar ofta större modeller och bredare förmågor, men NeoCognition verkar fokuserad på specialisering och kontextuellt lärande. Tror du att framtiden för företags ai-agenter kommer att se ut som högt specialiserade digitala arbetare snarare än universella assistenter?

Vi tror starkt att framtiden kommer att drivas av specialisering. Industrin har förståeligt nog fokuserat på alltmer allmänna modeller eftersom bred förmåga är imponerande. Men i företagsmiljöer är den verkliga utmaningen inte om en agent kan göra en liten del av allt. Det är om den kan utföra en specifik roll tillförlitligt och med gott omdöme över tid. Vår styrka är inte att vi är födda experter i varje miljö. Det är att vi kan lära oss strukturen i en specifik värld tillräckligt djupt för att operera effektivt inom den.

På NeoCognition tror vi att framtiden inte kommer att vara en superagent som gör allt. Istället kommer det att vara en överflöd av specialiserade agenter, var och en som lär sig en specifik värld tillräckligt djupt för att operera med expertnivå, tillförlitlighet och omdöme. Deras syfte är inte att ersätta mänsklig expertis, utan att göra den mer överflödande: att sätta frontier-grad- förmåga i många fler händer och höja baslinjen för vad en person eller organisation kan göra.

En av de största bekymren kring autonoma agenter är hur de beter sig när miljöer förändras oväntat. Hur viktigt är verklig anpassning och miljömedvetenhet för att förhindra fel, hallucinationer eller osäkra åtgärder?

Det är absolut kritiskt. Utan miljömedvetenhet kan agenter fortsätta att agera med tillförsikt även när deras förståelse av situationen är föråldrad eller ofullständig. Det är där operativa misslyckanden ofta uppstår.

Vi tror att tillförlitlighet kräver att agenter kontinuerligt lär sig den lokala strukturen i den miljö de opererar i och uppdaterar sin förståelse över tid. Tillförlitlighet förändras och utvecklas över tid: vad som verkade tillförlitligt i september kan inte verka lika tillförlitligt i maj. Ju djupare en agent förstår systemen, begränsningarna, arbetsflödena och relationerna runt omkring, desto mer kapabel blir den att känna igen när förhållandena har förändrats eller när osäkerhet kräver eskalering.

Hur nära tror du att industrin är till att distribuera ai-system som kan äkta förbättra sig genom kontinuerlig interaktion med verkliga operativa miljöer?

Vi är fortfarande tidigt i att bygga de underliggande lärandemekanismer som krävs för tillförlitligt kontinuerligt lärande och självförbättring, men industrin är mycket närmare denna övergång än vad många människor inser. Vi lever i en komprimerad tidslinje. Ingredienserna för nästa tekniska genombrott är redo. Det kan hända ganska snart.

Vad som betyder något är inte bara självförbättring i det abstrakta, utan strukturerad specialisering inom verkliga miljöer. Det betyder att lära sig arbetsflöden, begränsningar, relationer och mönster av framgångsrikt beteende på sätt som är stabila, styrbara och resistenta mot katastrofalt glömska. Det är problemet vi fokuserar på på NeoCognition.

Om vi ser framåt flera år, vad tror du kommer att skilja tillförlitliga företags ai-agenter från den våg av experimentella system som för närvarande översvämmar marknaden?

De system som lyckas kommer att vara de som känns mindre som lekscenarier och mer som pålitliga operatörer.

Ren modellförmåga ensam kommer inte att räcka. Företag kommer slutligen att bry sig om huruvida agenter kan operera konsekvent inom sina faktiska miljöer, förstå lokala arbetsflöden och begränsningar, respektera gränser och behörigheter, anpassa sig säkert över tid och leverera återkommande resultat.

Framtiden vinnare i företags ai kommer inte att vara de system som kan svara på den bredaste omfattningen av frågor. De kommer att vara de system som kan lära sig en specifik operativ värld tillräckligt djupt för att agera med verklig kompetens, omdöme och tillförlitlighet inom den.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka NeoCognition.