Manuel Romero, spoluzakladatel a Chief Scientific Officer ve společnosti Maisa – Interview Series

Manuel Romero, spoluzakladatel a Chief Scientific Officer ve společnosti Maisa, je AI výzkumník a inženýr zaměřený na vývoj spolehlivých, podnikových umělých inteligencí. Spoluzakladatel Maisy v roce 2024, aby vytvořil zodpovědnou AI, která je schopná provádět komplexní obchodní procesy s transparentností a kontrolou. Před Maisou zastával Romero seniorní pozice AI inženýra a strojového učení ve společnostech, jako jsou Clibrain a Narrativa, kde se specializoval na zpracování přirozeného jazyka a velké AI systémy. Na počátku své kariéry pracoval jako full-stack softwarový inženýr a specialista na DevOps, než přešel do pokročilého AI výzkumu a vývoje, stal se aktivním přispěvatelem do otevřené AI ekosystému.

Maisa AI vyvíjí autonomní „digitální pracovníky“, AI agenty, kteří jsou navrženi pro automatizaci komplexních podnikových workflow, zatímco zachovávají stopovatelnost, správu a spolehlivost. Platforma umožňuje organizacím vytvářet a nasazovat AI agenty pomocí přirozeného jazyka, umožňující automatizaci napříč interními systémy a zdroji dat bez rozsáhlého kódování. Díky zaměření na ověřitelné odůvodňování a strukturovanou realizaci si Maisa klade za cíl překonat běžné omezení spojená s generativními AI systémy a pomoci podnikům bezpečně nasadit autonomní AI ve velkém měřítku.

Často jste se zaměřoval na pochopení hlubšího „proč“ za AI systémy. Z technického hlediska, co vás vedlo ke spoluzaložení Maisy v roce 2024 a jakou mezeru v podnikové AI architektuře jste věřili, že nebyla řešena?

Motivace pro založení Maisy přišla z uvědomění, že většina podnikových AI stacků byla postavena kolem modelů, ne systémů.

Během boomu generativních AI se mnoho firem zaměřilo na integraci velkých jazykových modelů do stávajících workflow. Tyto systémy však byly často křehké, neprůhledné a obtížně ovladatelné ve velkém měřítku. Chyběly:

• deterministické realizace, kde to bylo důležité.
• silná pozorovatelnost, stopovatelnost
• opakovatelnost

Mezeru, kterou jsme viděli, byla absence skutečné AI infrastruktury pro podniky. Společnosti stavěly aplikace kolem LLM API, ale postrádaly něco ekvivalentního k počítačové architektuře pro znalostní práci.

Maisa byla vytvořena, aby tuto mezeru uzavřela, navrhnout architekturu zaměřenou na Knowledge Processing Unit (KPU), systém, který umožňuje AI pracovat spolehlivě uvnitř skutečných podnikových workflow.

Pracoval jste v pokročilém zpracování přirozeného jazyka a generativních systémech, než jste založil Maisu. Jak tyto zkušenosti ovlivnily architektonické rozhodnutí za platformou?

Moje zkušenosti s prací v NLP a NLG, zejména s trénováním a předtrénováním jazykových modelů a později velkých jazykových modelů (stovek z nich), mi ukázaly, že při budování skutečných systémů na nich je něco velmi jasného. Architektura transformátoru je extrémně silná, ale přichází s alespoň třemi základními omezeními, která musí být řešena, aby se mohla spolehlivě použít v produkci.

První je halucinace. Tyto modely generují text pravděpodobnostně a mohou produkovat výstupy, které znějí správně, ale nejsou založeny na ověřených informacích.

Druhé je omezení kontextu. I s větším kontextovým oknem modely pracují v omezeném tokenovém prostoru, což činí obtížným odůvodňování nad velkými nebo komplexními znalostními tělesy.

Třetí je aktuální informace. Předtrénované modely reprezentují snímek znalostí v době trénování, zatímco podnikové prostředí vyžaduje systémy, které mohou odůvodňovat nad neustále se měnícími informacemi.

Uznání těchto omezení formovalo mnoho architektonických rozhodnutí za Maisou. Místo spoléhání se na model samotný jsme se zaměřili na budování systému, který poskytuje strukturovaný přístup ke znalostem, validační mechanismy a řízenou realizaci, aby AI mohla pracovat spolehlivě v reálných podnikových workflow.

Mnohé podniky experimentují s generativními AI, ale mají potíže s přechodem za pilotní projekty. Z hlediska systémového designu, co je hlavní důvod, proč škálování selhává v mnoha organizacích?

Mnohé podniky mají potíže s přechodem generativních AI za pilotní projekty, protože většina nasazení je postavena jako experimenty, spíše než jako robustní systémy. Rané prototypy často spoléhají na inženýrství promptů, lehkou orchestraci a jednoduché pipeline pro načítání, které mohou prokázat hodnotu, ale neposkytují spolehlivost, pozorovatelnost nebo kontrolu vyžadovanou pro produkční prostředí. Když se organizace snaží škálovat tyto systémy, setkávají se s problémy, jako jsou nekonzistentní výstupy, nedostatek stopovatelnosti, obtížná integrace s podnikovými workflow a omezená správa nad tím, jak AI chová. V jádru problému je, že velké jazykové modely jsou pravděpodobnostními generátory, zatímco podnikové procesy vyžadují předvídatelné a auditovatelné chování. Bez architektury, která přidává strukturu kolem odůvodňování, validace, realizace a monitorování, zůstávají generativní AI systémy obtížně škálovatelné za izolované použití.

Digital Workers od Maisy jsou navrženy tak, aby byly auditovatelné a strukturované, spíše než čistě pravděpodobnostní. Co to znamená v praktických termínech pro podniky, které vyhodnocují AI pro produkční použití?

Když říkáme, že Digital Workers od Maisy jsou auditovatelné a strukturované, spíše než čistě pravděpodobnostní, míníme, že AI pracuje v řízeném systému, kde jeho akce a odůvodňování lze stopovat a spravovat. Místo toho, aby se model mohl volně generovat výstupy a rozhodnutí, systém strukturuje, jak AI interaguje s daty, nástroji a workflow. Každý krok v procesu lze protokolovat, inspektorovat a ověřit, a akce jsou realizovány prostřednictvím definovaných rozhraní, spíše než přímo z modelového výstupu. Pro podniky to znamená, že AI systémy lze monitorovat, audovat a integrovat do kritických procesů s větší jistotou. To posunuje AI z černé skříňky na systém, jehož chování lze pochopit, řídit a důvěřovat v produkčních prostředích.

Jako architekt Knowledge Processing Unit, jak se liší od typické orchestrace vrstvy nebo workflow engine postavené kolem velkých jazykových modelů?

Knowledge Processing Unit se liší od typické orchestrace vrstvy, protože je navržen tak, aby spravoval celý životní cyklus AI řízeného odůvodňování, spíše než pouze koordinovat promptů a modelových volání. Většina orchestrace frameworků funguje jako workflow manažeři, kteří řetězí spolu kroky, jako je načítání, promptování a realizace nástrojů. KPU funguje na hlubší architektonické úrovni, strukturujícím, jak je znalost přístupná, jak se odůvodňování provádí a jak se akce realizují v systému. Lze jej považovat za základní výpočetní vrstvu, integrující paměť, validaci a řízenou realizaci, aby AI mohla pracovat spolehlivě uvnitř komplexních podnikových workflow, spíše než pouze generovat odpovědi.

V regulovaných odvětvích je tolerance k riziku nízká. Jaká konkrétní designová rozhodnutí jste učinili, aby AI výstupy zůstaly spolehlivé a nešířily chyby napříč komplexními workflow?

V regulovaných odvětvích je spolehlivost a kontrola nezbytná, takže jsme systém navrhli s několika ochrannými mechanismy, aby AI výstupy zůstaly důvěryhodné. Jedním z klíčových principů je strukturovaná realizace, kde AI nemůže přímo spustit kritické akce bez procházení řízených rozhraní. Kromě toho jsme zahrnuli validační vrstvy, které kontrolují modelové výstupy proti schématům, pravidlům nebo sekundárním mechanismům, než jsou přijaty. Kromě toho systém udržuje plnou pozorovatelnost, zaznamenávající kroky odůvodňování, interakce s nástroji a rozhodnutí, aby je bylo možné stopovat a audovat. Tyto designová rozhodnutí společně pomáhají zabránit šíření chyb napříč workflow a umožňují organizacím provozovat AI systémy s úrovní spolehlivosti a správy vyžadovanou v regulovaných prostředích.

Jaké jsou nejvíce přesvědčivé rané použití, kde jste viděli Digital Workers přecházet z asistovaného vedení k plně operačnímu AI řízenému provedení?

Některá z nejvíce přesvědčivých raných použití se objevují v znalostně intenzivních workflow, kde procesy jsou dobře definovány, ale stále vyžadují významnou analýzu a rozhodování. V oblastech, jako je kontrola compliance, technická podpora a interní znalostní správa, mohou Digital Workers jít za hranice pouhé asistence a začít realizovat strukturované úkoly od začátku do konce. Mohou načítat a analyzovat velké objemy interních informací, aplikovat definované postupy, interagovat s podnikovými systémy prostřednictvím řízených nástrojů a produkovat výstupy, které přímo vstupují do operačních workflow. Klíčový posun nastává, když AI není pouze generována návrhy, ale je schopna spolehlivě realizovat definované akce v rámci řízeného systému, umožňující organizacím automatizovat části komplexní znalostní práce, spíše než pouze ji doplňovat.

Jak očekáváte, že se bude vyvíjet základní AI infrastruktura, aby splňovala požadavky na compliance, aniž by omezovala inovace?

Jako se zvyšuje regulační kontrola nad AI, věřím, že uvidíme posun od architektur, které jednoduše volají model provider API a důvěřují výstupu slepě. Podniky a regulátoři budou stále více požadovat systémy, kde chování AI je pozorovatelné, auditovatelné a řízené. To je místo, kde architektury, jako je Knowledge Processing Unit, získají na významu. Tento typ architektury umožňuje organizacím vynucovat kontroly, stopovat rozhodnutí a zajistit, aby AI výstupy byly spolehlivé, než ovlivňují skutečné procesy. V průběhu času očekávám, že tyto systémy se stanou standardní základnou pro důvěryhodnou AI infrastrukturu.

Mluvili jste o etice a zodpovědnosti spolu se svými technickými pracemi. Jak tyto perspektivy ovlivňují váš přístup ke stavbě transparentních AI systémů?

Etika a zodpovědnost, pro mě, přímo překládají do systémových designových rozhodnutí. Pokud AI systémy budou účastnit se skutečných operačních workflow, nemohou fungovat jako neprůhledné černé skříňky, jejichž chování nelze inspektorovat nebo pochopit. Tato perspektiva silně ovlivnila můj přístup ke stavbě AI systémů. Transparentnost, stopovatelnost a lidská kontrola musí být vestavěny do architektury od začátku. To znamená zajistit, aby kroky odůvodňování mohly být pozorovány, rozhodnutí mohla být audita, a akce byly realizovány prostřednictvím řízených mechanismů. Když jsou tyto principy zabudovány do infrastruktury, AI systémy se stanou nejen důvěryhodnějšími, ale také snáze spravovatelnými pro organizace.

Předpokládáte, že agentic AI infrastruktura se stane stejně základní jako cloudová infrastruktura v předchozím desetiletí — a co se musí stát technicky, aby se tento posun udál?

Věřím, že agentic AI infrastruktura má potenciál stát se stejně základní jako cloudová infrastruktura se stala v předchozím desetiletí. Když organizace hledají automatizaci stále komplexnější znalostní práce, budou potřebovat systémy, které mohou spolehlivě koordinovat odůvodňování, paměť a realizaci napříč mnoha úkoly a zdroji dat. Nicméně, aby se tento posun udál, základní architektura musí dozrát za jednoduchou integraci modelů. Potřebujeme infrastrukturu, která poskytuje strukturované odůvodňování, spolehlivý přístup k podnikovým znalostem, silnou pozorovatelnost a řízenou realizaci, aby AI mohla pracovat spolehlivě uvnitř komplexních podnikových workflow. Když tyto schopnosti budou vestavěny do jádra systému, agentic AI může evoluce z experimentálních nástrojů do spolehlivé infrastruktury, na kterou se organizace mohou spolehnout pro kritické operace.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Maisa AI.