Yu Su, spoluzakladatel a CEO NeoCognition – Interview Series

Yu Su, spoluzakladatel a CEO NeoCognition, je dlouholetý výzkumník umělé inteligence, jehož kariéra zahrnuje akademii, firemní umělou inteligenci a pokročilé agentní systémy. Kromě vedení NeoCognition působí jako associate profesor a inovační vědec na Ohijské státní univerzitě, kde se jeho práce zaměřila na agentní systémy umělé inteligence, systémy rozumu a strojové učení. Jeho pozadí také zahrnuje více než šest let jako senior výzkumník v Microsoftu, kde pracoval spolu s předními výzkumníky, včetně Percy Lianga, na konverzačních systémech umělé inteligence pro Outlook pomocí technik sémantického parsingu. V rámci svých rolí v Microsoftu, akademii a výzkumných institucích, jako je IBM T.J. Watson Research Center, si Yu Su vybudoval reputaci pro rozvoj systémů umělé inteligence, které mohou rozumět, učit se a interagovat s komplexními digitálními prostředími, a pomáhá tak překlenout mezeru mezi nejnovějším výzkumem a praktickými aplikacemi.

NeoCognition je společnost pro výzkum agentních systémů umělé inteligence, která se zaměřuje na vývoj toho, co popisuje jako „specializovanou inteligenci“ — systémy umělé inteligence, které se不断ně učí a zlepšují prostřednictvím zkušeností. Založena předními výzkumníky umělé inteligence, společnost usiluje o vizi, která jde za statické velké jazykové modely směrem k agentům, kteří mohou rozvíjet hluboké odborné znalosti v konkrétních oblastech. Jejich výzkum se zaměřuje na oblasti, jako je kontinuální učení, rozumnost, plánování, používání nástrojů a spolupráci více agentů, s cílem vytvořit systémy umělé inteligence, které se stanou schopnějšími a spolehlivějšími s časem. Kombinací pokroku ve strojovém učení se strukturovaným rozumem a adaptivními technikami učení si NeoCognition klade za cíl pomoci tvarovat příští generaci agentů umělé inteligence, kteří budou schopni zvládat stále složitější úkoly reálného světa.

Mnohé společnosti spěchaly, aby vydaly obecné pilotní systémy umělé inteligence, ale stále více slyšíme obavy o spolehlivosti, jednou tyto systémy vstoupí do skutečných provozních prostředí. Proč si myslíte, že tolik současných agentů umělé inteligence zápasí mimo kontrolované demonstrace?

Většina současných agentů umělé inteligence zápasí v provozu, protože jsou stále fundamentálně obecní a operují bez trvanlivé understandingu prostředí, ve kterém pracují. Mohou často dokončit úkol jednou v demonstraci, ale to je velmi odlišné od rozvoje opakované soudnosti uvnitř skutečného provozního systému.

Dnešní modely jsou působivými rozpoznávači vzorců, ale stále postrádají mechanismy, které lidé používají, aby se stali spolehlivými odborníky. Lidé se nestávají důvěryhodnými memorováním izolovaných úkolů. Specializujeme se tak, že se učíme strukturu konkrétního světa: pracovní postupy, omezení, vztahy, nástroje, priority a důsledky, které definují profesi nebo organizaci. S časem stavíme vnitřní pracovní model tohoto prostředí, a ten model je to, co umožňuje, aby dobré rozhodnutí se stala konzistentními a opakovanými.

Většina současných agentů umělé inteligence nevytváří takový provozní understanding. Spoléhají se silně na podněty, vyhledávání nebo orchestraci vrstev, které jim pomáhají dokončit izolované akce, ale stálelargely improvizují každým разом, když narazí na novou situaci. To je důvod, proč se výkon často zhroutí, jednou se prostředí změní a ještě více, když se stane špinavým, dynamickým nebo vysoce rizikovým.

Chybějící kus je specializace. Lidé prosperují, protože můžeme neustále přizpůsobovat se měnícím se prostředím a stát se odborníky uvnitř nich prostřednictvím kontinuálního učení. Věříme, že agenti umělé inteligence potřebují podobnou schopnost: schopnost se učit místní strukturu domény dostatečně hluboce, aby mohli operovat s opravdovou odborností.

NeoCognition popsala svou vizi jako budování agentů, kteří se mohou kontinuálně učit a přizpůsobovat více jako lidé. Jak to vypadá technicky ve srovnání se statickým jemným laděním nebo založením na vyhledávání, které mnoho podniků dnes používá?

Většina podnikových systémů umělé inteligence dnes zlepšuje výkon buď jemným laděním modelu jednou nebo vyhledáváním relevantních informací v době inference. Tyto přístupy mohou být užitečné, ale nefundamentálně nepovolují agentovi vyvinout se vyvíjející odbornost uvnitř domény.

Jemné ladění je typicky statické po tréninku. Systémy vyhledávání pomáhají povrchovat informace, ale vyhledávání znalostí není totéž jako rozvoj doménové odbornosti nebo přizpůsobení chování na základě zkušeností s časem. V mnoha případech agent stále postrádá trvalý model prostředí, ve kterém operuje.

Když člověk vstoupí do společnosti, nestane se účinným pouze proto, že může vyhledávat dokumenty. Postupně vyvíjí soudnost tím, že rozumí, jak organizace skutečně funguje, a odbornost se objevuje z kontinuálního zdokonalování toho vnitřního modelu.

Věříme, že příští generace agentů potřebuje podobný mechanismus učení. V NeoCognition se zaměřujeme na umožnění agentům tvořit takové evolující provozní modely, aby mohli kontinuálně specializovat a zlepšovat se uvnitř domény s časem, místo aby opakovaně začínali od začátku nebo záviseli na stálém lidském přepracování.

Zdá se, že existuje rostoucí propast mezi experimentováním s umělou inteligencí a provozní důvěrou. Podniky mohou úspěšně prototypovat agenty interně, ale nasazení jich do rozsahu je zcela jiná výzva. Co podniky podceňují při tomto přechodu?

Mnohé podniky podceňují, jak dynamická jsou skutečná provozní prostředí. Agent, který funguje s 85% přesností, může vypadat silně v testování, ale v podnikovém rozsahu to stále znamená stálý proud chyb a situací, které lidské týmy musí spravovat. Výzva se stává ještě významnější ve vícekrokových pracovních postupech, kde se chyby kumulují napříč systémy a úkoly, což činí dohled, zásah a odpovědnost daleko obtížnější, než si mnohé podniky původně představovaly.

Podniky stále považují nasazení za orchestraci nebo problém podnětů, zatímco ve skutečnosti je to také problém učení. Obtížná část není pouze to, aby se agentovi podařilo vykonat úkol, ale umožnit systému vyvinout trvalou kompetenci a soudnost uvnitř dynamického provozního prostředí.

Břemeno přizpůsobení, podnětů, dohledu a přepracování stále leží silně na lidských týmech dnes. To je často známkou toho, že systém stále postrádá provozní understanding; jsou manuálně řízeni skrz něj každým разом.

Jedním z hlavních témat, které se objevují v celé oblasti umělé inteligence, je governance, bezpečnostní zábrany a vynucování politik. NeoCognition ale tvrdí, že governance sama o sobě nestačí. Proč si myslíte, že spolehlivost nakonec vyžaduje systémy, které se kontinuálně přizpůsobují svému prostředí, místo aby pouze následovaly statické pravidla?

Governance a bezpečnostní zábrany jsou extrémně důležité, ale statická pravidla sama o sobě nemohou plně vyřešit spolehlivost v komplexních prostředích.

Provozní systémy jsou neustále měněny. Pracovní postupy se vyvíjejí, nástroje se aktualizují, politiky se mění a neočekávané situace se objevují, které nelze vždy předvídat dopředu. Pokud agent zná pouze statická pravidla bez understandingu prostředí, ve kterém operuje, nakonec narazí na situace, které tato pravidla nezohledňovala.

Spolehlivost lidí pochází ze soudnosti, ne pouze z rigidního dodržování scénářů, ale protože vyvíjíme soudnost tím, že rozumíme struktuře a omezením světa kolem nás. Učíme se, kdy eskalovat, kdy něco vypadá abnormálně a kdy kontext mění správný postup.

Věříme, že agenti umělé inteligence potřebují podobnou kapacitu pro přizpůsobení a environmentální understanding. Bezpečnější systémy budou pocházet z toho, že je učiníme více kompetentními a specializovanými uvnitř jasně definovaných provozních světů. Tento typ systému pozoruje své vlastní prostředí a výstupy a sleduje, kde selhává a aktualizuje své chování.

Obor umělé inteligence často zdůrazňuje větší modely a širší schopnosti, ale NeoCognition se zdá být zaměřena na specializaci a kontextuální učení. Věříte, že budoucnost podnikových agentů umělé inteligence bude vypadat více jako vysoce specializovaní digitální pracovníci než jako univerzální asistenti?

Pečlivě věříme, že budoucnost bude poháněna specializací. Odvětví se pochopitelně zaměřilo na stále obecnější modely, protože široká schopnost je působivá. Ale v podnikových prostředích je skutečná výzva ne zda agent může udělat trochu všeho, ale zda může spolehlivě a s dobrým úsudkem plnit specifickou roli s časem. Naše síla není v tom, že jsme narozeni jako experti ve všech prostředích. Je v tom, že můžeme se učit strukturu konkrétního světa dostatečně hluboce, aby jsme mohli operovat efektivně uvnitř něj.

V NeoCognition věříme, že budoucnost nebude jeden superagent, který dělá vše. Místo toho to bude hojnost specializovaných agentů, z nichž každý se učí konkrétní svět dostatečně hluboce, aby operoval s expertní úrovní odbornosti, spolehlivosti a soudnosti. Jejich účel není nahradit lidskou odbornost, ale učinit ji hojnější: umístit špičkovou schopnost do mnoha rukou a zvýšit základní úroveň toho, co může udělat kterákoli osoba nebo organizace.

Jedním z největších obav týkajících se autonomních agentů je, jak se chovají, když se prostředí změní neočekávaně. Jak důležité je skutečné přizpůsobení a environmentální povědomí pro prevenci selhání, halucinací nebo nebezpečných akcí?

Je absolutně kritické. Bez environmentálního povědomí mohou agenti pokračovat v jednání i tehdy, když je jejich understanding situace zastaralý nebo neúplný. To je místo, kde se často objevují provozní selhání.

Věříme, že spolehlivost vyžaduje, aby agenti kontinuálně se učí místní strukturu prostředí, ve kterém operují, a aktualizovali své understanding s časem. Spolehlivost se mění a vyvíjí s časem: co se zdálo spolehlivé v září, nemusí se zdát stejné v květnu. Čím hlubší understanding má agent systémů, omezení, pracovních postupů a vztahů kolem něj, tím více se stává schopným rozpoznat, kdy se podmínky změnily nebo kdy je nutná eskalace.

Jak blízko si myslíte, že je odvětví k nasazení systémů umělé inteligence, které se mohou skutečně zlepšovat prostřednictvím interakce s skutečnými provozními prostředími?

<p Jsme stále na počátku budování základních mechanismů učení, které jsou vyžadovány pro spolehlivé kontinuální učení a sebezdokonalování, ale odvětví je mnohem blíže k tomuto přechodu, než si mnozí lidé uvědomují. Žijeme v komprimovaném časovém rámci. Ingredience pro příští technologický průlom jsou připraveny. Může se to stát khá brzy.

Co záleží, není pouze sebezdokonalování v abstraktním smyslu, ale strukturovaná specializace uvnitř skutečných prostředí. To znamená učení pracovních postupů, omezení, vztahů a vzorců úspěšného chování způsobem, který je stabilní, řiditelný a odolný vůči katastrofickému zapomínání. To je problém, na který se zaměřujeme v NeoCognition.

Pohledem do budoucna několika let, co si myslíte, že nakonec oddělí důvěryhodné podnikové agenty umělé inteligence od vlny experimentálních systémů, které現在 zaplňují trh?

Systémy, které uspějí, budou ty, které se budou cítit méně jako scénáře pro hračky a více jako spolehliví operátoři.

Čistá schopnost modelu sama o sobě nebude dostatečná. Podniky nakonec budou pečovat o to, zda agenti mohou operovat konzistentně uvnitř svých skutečných prostředí, rozumět místním pracovním postupům a omezením, respektovat hranice a oprávnění, přizpůsobovat se bezpečně s časem a dodávat opakované výsledky.

Budoucí vítězové v podnikové umělé inteligenci nebudou prostě systémy, které mohou odpovědět na nejširší řadu otázek. Budou systémy, které mohou se učit konkrétní provozní svět dostatečně hluboce, aby jednaly s opravdovou odborností, soudností a spolehlivostí uvnitř něj.

Děkuji za skvělý rozhovor, čtenáři, kteří si přejí se dozvědět více, by měli navštívit NeoCognition.