Manuel Romero, medgrundare och Chief Scientific Officer på Maisa – Intervjuserie

Manuel Romero, medgrundare och Chief Scientific Officer på Maisa, är en AI-forskare och ingenjör som fokuserar på att utveckla tillförlitliga, företagsklassiga artificiella intelligenssystem. Han grundade Maisa 2024 för att bygga ansvarsfull AI som kan utföra komplexa affärsprocesser med transparens och kontroll. Innan Maisa hade Romero seniora AI-ingenjörs- och maskinlärarroller på företag som Clibrain och Narrativa, där han specialiserade sig på naturligt språkbehandling och storskaliga AI-system. Tidigare i sin karriär arbetade han som fullstack-utvecklare och DevOps-specialist innan han övergick till avancerad AI-forskning och utveckling och blev en aktiv bidragsgivare till den öppna AI-ekosystemet.

Maisa AI utvecklar autonoma “digitala arbetare”, AI-agenter som är utformade för att automatisera komplexa företagsflöden samtidigt som de upprätthåller spårbarhet, styrning och tillförlitlighet. Plattformen möjliggör för organisationer att bygga och distribuera AI-agenter med hjälp av naturligt språk, vilket möjliggör automatisering över interna system och datakällor utan omfattande kodning. Genom att fokusera på validerad resonemang och strukturerad exekvering syftar Maisa till att övervinna vanliga begränsningar som är förknippade med generativa AI-system och hjälpa företag att säkert distribuera autonoma AI i stor skala.

Du har ofta fokuserat på att förstå den djupare “varför” bakom AI-system. Ur ett tekniskt perspektiv, vad var det som drev dig att medgrundade Maisa 2024, och vilket gap i företags AI-arkitektur trodde du inte var tillgodosett?

Motivationen bakom att grunda Maisa kom från insikten att de flesta företags AI-staplar byggdes kring modeller, inte system.

Under den generativa AI-boomen fokuserade många företag på att integrera stora språkmodeller i befintliga arbetsflöden. Dessa system var dock ofta sköra, ogenomskinliga och svåra att operera i stor skala. De saknade:

• bestämd exekvering där det behövdes.
• stark spårbarhet, validering
• reproducibilitet

Gapet vi såg var avsaknaden av riktig AI-infrastruktur för företag. Företag byggde applikationer kring LLM-API:er, men de saknade något motsvarande en datorarkitektur för kunskapsarbete.

Maisa skapades för att täppa till detta gap genom att utforma en arkitektur som kretsar kring Knowledge Processing Unit (KPU), ett system som möjliggör att AI kan operera tillförlitligt inom riktiga företagsflöden.

Du har arbetat med avancerad naturlig språkbehandling och generativa system innan du grundade Maisa. Hur har dessa erfarenheter format de arkitekturval som ligger bakom plattformen?

Min erfarenhet av att arbeta med NLP och NLG, särskilt kring utbildning och förutbildning av språkmodeller och senare stora språkmodeller (hundratals av dem), gjorde en sak mycket tydlig när jag försökte bygga riktiga system ovanpå dem. Transformerarkitekturen är extremt kraftfull, men den kommer med minst tre grundläggande begränsningar som måste åtgärdas för att använda den tillförlitligt i produktion.

Den första är hallucinationer. Dessa modeller genererar text probabilistiskt och kan producera utdata som låter korrekta men inte är grundade i verifierad information.

Den andra är kontextbegränsningar. Även med större kontextfönster opererar modellerna inom ett begränsat tokenspace, vilket gör det svårt att resonera över stora eller komplexa kunskapskroppar.

Den tredje är uppdaterad information. Förutbildade modeller representerar en ögonblicksbild av kunskap vid utbildningstidpunkten, medan företagsmiljöer kräver system som kan resonera över ständigt föränderlig information.

Att känna till dessa begränsningar formade många av de arkitekturval som ligger bakom Maisa. Istället för att förlita sig på modellen ensam, fokuserade vi på att bygga ett system som tillhandahåller strukturerad tillgång till kunskap, valideringsmekanismer och kontrollerad exekvering så att AI kan operera tillförlitligt i riktiga företagsflöden.

Många företag experimenterar med generativ AI men kämpar för att gå utöver pilotprojekt. Ur ett systemdesignperspektiv, vad är den grundläggande orsaken till att skalning misslyckas i så många organisationer?

Många företag kämpar för att gå utöver generativa AI-pilotprojekt eftersom de flesta distributioner byggs som experiment snarare än som robusta system. Tidiga prototyper bygger ofta på promptteknik, lätt orkestrering och enkla återvinningpipelines, vilket kan demonstrera värde men inte tillhandahåller den tillförlitlighet, spårbarhet eller kontroll som krävs för produktionsmiljöer. När organisationer försöker skala upp dessa system möter de problem som inkonsekventa utdata, brist på spårbarhet, svårigheter att integrera med företagsflöden och begränsad styrning över hur AI beter sig. I grunden är problemet att stora språkmodeller är probabilistiska generatorer, medan företagsprocesser kräver förutsägbar och granskbar beteende. Utan en arkitektur som lägger struktur kring resonemang, validering, exekvering och övervakning förblir generativa AI-system svåra att skala utöver isolerade användningsfall.

Maisas Digital Workers är utformade för att vara granskbara och strukturerade snarare än rent probabilistiska. Vad betyder det i praktiken för företag som utvärderar AI för produktionsanvändning?

När vi säger att Maisas Digital Workers är granskbara och strukturerade snarare än rent probabilistiska, menar vi att AI opererar inom ett kontrollerat system där dess handlingar och resonemang kan spåras och styras. Istället för att låta en modell fritt generera utdata och beslut, strukturerar systemet hur AI interagerar med data, verktyg och arbetsflöden. Varje steg i processen kan loggas, inspekteras och valideras, och handlingar utförs genom definierade gränssnitt snarare än direkt från modellutdata. För företag betyder det att AI-system kan övervakas, granskas och integreras i kritiska processer med större förtroende. Det skiftar AI från att vara en svart låda till ett system vars beteende kan förstås, kontrolleras och lita på i produktionsmiljöer.

Som arkitekten bakom Knowledge Processing Unit, hur skiljer den sig från en typisk orkestreringslager eller arbetsflödesmotor byggd kring stora språkmodeller?

Knowledge Processing Unit skiljer sig från typiska orkestreringslager eftersom den är utformad för att hantera hela livscykeln för AI-driven resonemang snarare än att bara koordinera prompter och modellanrop. De flesta orkestreringsramverk fungerar som arbetsflödeschefer som kedjar samman steg som återvinning, promptning och verktygsutförande. KPU opererar på ett djupare arkitektoniskt nivå genom att strukturera hur kunskap tillgås, hur resonemang utförs och hur handlingar utförs inom systemet. Den behandlar kunskapsbehandling som en kärnkomputationslager, som integrerar minne, validering och kontrollerad exekvering så att AI kan operera tillförlitligt inom komplexa företagsflöden snarare än att bara generera svar.

I reglerade branscher är risktoleransen låg. Vilka specifika designbeslut gjorde du för att säkerställa att AI-utdata förblir tillförlitliga och inte sprider fel över komplexa arbetsflöden?

I reglerade branscher är tillförlitlighet och kontroll avgörande, så vi utformade systemet med flera skyddsåtgärder för att säkerställa att AI-utdata förblir trovärdiga. En viktig princip är strukturerad exekvering, där AI inte kan utlösa kritiska handlingar utan att passera genom kontrollerade gränssnitt. Vi har också inkorporerat valideringslager som kontrollerar modellutdata mot scheman, regler eller sekundära mekanismer innan de accepteras. Dessutom upprätthåller systemet fullständig spårbarhet, som registrerar resonemangssteg, verktygsinteraktioner och beslut så att de kan spåras och granskas. Tillsammans hjälper dessa designval till att förhindra att fel sprids genom arbetsflöden och låter organisationer operera AI-system med den tillförlitlighet och styrning som krävs i reglerade miljöer.

Vilka är de mest övertygande tidiga användningsfallen där du har sett Digital Workers gå från vägledd assistans till fullt operativ AI-driven exekvering?

Några av de mest övertygande tidiga användningsfallen visas i kunskapsintensiva arbetsflöden där processer är väldefinierade men fortfarande kräver betydande analys och beslutsfattande. Inom områden som regelefterlevnad, teknisk support och intern kunskapsförvaltning kan Digital Workers gå utöver att bara assistera människor och börja utföra strukturerade uppgifter från början till slut. De kan hämta och analysera stora mängder intern information, tillämpa definierade procedurer, interagera med företagssystem genom kontrollerade verktyg och producera utdata som matar direkt in i operativa arbetsflöden. Den viktiga skiftningen sker när AI inte bara genererar förslag utan kan tillförlitligt utföra definierade handlingar inom ett styrt system, vilket låter organisationer automatisera delar av komplexa kunskapsarbeten snarare än att bara förstärka dem.

Som AI-övervakningen ökar globalt, hur ser du att kärn-AI-infrastrukturen utvecklas för att möta kraven på regelefterlevnad utan att begränsa innovation?

När AI-övervakningen ökar tror jag att vi kommer att se en skiftning bort från arkitekturer som enbart anropar modellprovider-API:er och litar på utdata blint. Företag och myndigheter kommer alltmer att kräva system där AI-beteende är spårbar, granskningsbar och styrd. Det är här arkitekturer som Knowledge Processing Unit blir viktiga. Denna typ av arkitektur låter organisationer verkställa kontroller, spåra beslut och säkerställa att AI-utdata är tillförlitliga innan de påverkar riktiga processer. Med tiden förväntar jag mig att dessa typer av system kommer att bli standardgrunden för trovärdig AI-infrastruktur.

Du har talat om etik och ansvar tillsammans med ditt tekniska arbete. Hur påverkar dessa perspektiv hur du närmar dig att bygga transparenta AI-system?

Etik och ansvar, för mig, översätts direkt till systemdesignbeslut. Om AI-system ska delta i riktiga operativa arbetsflöden kan de inte fungera som ogenomskinliga svarta lådor vars beteende inte kan inspekteras eller förstås. Det perspektivet har starkt påverkat hur jag närmar mig att bygga AI-system. Transparens, spårbarhet och mänsklig tillsyn måste byggas in i arkitekturen från början. Detta innebär att säkerställa att resonemangssteg kan observeras, beslut kan granskas och handlingar utförs genom kontrollerade mekanismer. När dessa principer är inbäddade på infrastrukturnivån blir AI-system inte bara mer trovärdiga utan också lättare för organisationer att styra ansvarsfullt.

Om du ser framåt, tror du att agensbaserad AI-infrastruktur kommer att bli lika grundläggande som molninfrastruktur blev under det föregående decenniet — och vad behöver hända tekniskt för att den skiftningen ska materialiseras?

Jag tror att agensbaserad AI-infrastruktur har potentialen att bli lika grundläggande som molninfrastruktur har blivit under det senaste decenniet. När organisationer försöker automatisera alltmer komplexa kunskapsarbeten kommer de att behöva system som kan tillförlitligt koordinera resonemang, minne och exekvering över många uppgifter och datakällor. Men för att den skiftningen ska materialiseras måste den underliggande arkitekturen mognat ut bortom enkla modellintegrationer. Vi behöver infrastruktur som tillhandahåller strukturerat resonemang, tillförlitlig tillgång till företagskunskap, stark spårbarhet och kontrollerad exekvering av handlingar. När dessa funktioner byggs in i kärnsystemet kan agensbaserad AI utvecklas från experimentella verktyg till pålitlig infrastruktur som organisationer litar på för att driva kritiska operationer.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Maisa AI.