Manuel Romero, Medstifter og Chief Scientific Officer hos Maisa – Interviewserie

Manuel Romero, Medstifter og Chief Scientific Officer hos Maisa, er en AI-forsker og -ingeniør, der fokuserer på at udvikle pålidelige, enterprise-klasse kunstig intelligenssystemer. Han co-foundede Maisa i 2024 for at bygge ansvarlig AI, der kan udføre komplekse forretningsprocesser med gennemsigtighed og kontrol. Før Maisa havde Romero seniort AI-ingeniør- og maskinlæringsroller i virksomheder som Clibrain og Narrativa, hvor han specialiserede sig i naturlig sprogbehandling og store AI-systemer. Tidligere i sin karriere arbejdede han som full-stack software-ingeniør og DevOps-specialist, før han gik over til avanceret AI-forskning og -udvikling og blev en aktiv bidragsyder til det åbne AI-økosystem.

Maisa AI udvikler autonome “digitale arbejdere”, AI-agenter designet til at automatisere komplekse virksomhedsworkflows, mens de opretholder sporbarehed, styre og pålidelighed. Platformen giver virksomheder mulighed for at bygge og udrulle AI-agenter ved hjælp af naturligt sprog, hvilket muliggør automation på tværs af interne systemer og datakilder uden omfattende kodning. Ved at fokusere på verificerbar begrundelse og struktureret udførelse søger Maisa at overvinde almindelige begrænsninger i forbindelse med generative AI-systemer og hjælpe virksomheder med at sikre en tryg udvikling af autonome AI i stor målestok.

Du har ofte fokuseret på at forstå den dybere “hvorfor” bag AI-systemer. Fra et teknisk synspunkt, hvad var det, der fik dig til at co-founde Maisa i 2024, og hvilken åbning i virksomheds-AI-arkitektur mente du ikke blev behandlet?

Motivationen bag oprettelsen af Maisa kom fra en erkendelse af, at de fleste virksomheds-AI-stacks var bygget op omkring modeller, ikke systemer.

Under den generative AI-boom fokuserede mange virksomheder på at integrere store sprogmodeller i eksisterende workflows. Disse systemer var dog ofte skrøbelige, uigennemsigtige og svære at operere i stor målestok. De manglede:

• bestemt udførelse, hvor det var nødvendigt.
• stærk overvågning, sporbarehed
• reproducerbarhed

Åbningen, vi så, var fraværet af sandt AI-infrastruktur for virksomheder. Virksomheder byggede applikationer omkring LLM-API’er, men de manglede noget, der svarede til en computerarkitektur for videnarbejde.

Maisa blev oprettet for at imødekomme denne åbning ved at designe en arkitektur, der er centreret omkring Knowledge Processing Unit (KPU), et system, der giver AI mulighed for at operere pålideligt inden for virksomhedsworkflows.

Du har arbejdet med avanceret naturlig sprogbehandling og generative systemer, før du co-foundede Maisa. Hvordan har disse erfaringer formet de arkitektoniske valg bag platformen?

Min erfaring med at arbejde med NLP og NLG, især omkring træning og fortræning af sprogmodeller og senere store sprogmodeller (hundredvis af dem), gjorde noget meget klart, da jeg forsøgte at bygge rigtige systemer oven på dem. Transformer-arkitekturen er ekstremt kraftfuld, men den kommer med mindst tre grundlæggende begrænsninger, der skal være til stede for at bruge den pålideligt i produktion.

Det første er hallucinationer. Disse modeller genererer tekst probabilistisk og kan producere outputs, der lyder korrekte, men ikke er grundet i verificeret information.

Det andet er kontekstbegrænsninger. Selv med større kontekstvinduer opererer modellerne inden for en begrænset token-rum, hvilket gør det svært at begrundelse over store eller komplekse kroppe af viden.

Det tredje er opdateret information. Förtrenede modeller repræsenterer et øjebliksbillede af viden på træningstidspunktet, mens virksomhedsmiljøer kræver systemer, der kan begrundelse over konstant ændrende information.

At erkende disse begrænsninger har formet mange af de arkitektoniske valg bag Maisa. I stedet for at afhænge af modellen alene fokuserede vi på at bygge et system, der giver struktureret adgang til viden, valideringsmekanismer og kontrolleret udførelse, så AI kan operere pålideligt i virksomhedsworkflows.

Mange virksomheder eksperimenterer med generativ AI, men har svært ved at flytte sig ud over pilotprojekter. Fra et systemdesign-perspektiv, hvad er den grundlæggende årsag til, at skalaen fejler i så mange organisationer?

Mange virksomheder har svært ved at flytte sig ud over generative AI-pilotprojekter, fordi de fleste installationer er bygget som eksperimenter snarere end som robuste systemer. Tidlige prototyper afhænger ofte af prompt-ingeniørarbejde, let orkestrering og simple hentningsrør, som kan demonstrere værdi, men ikke giver den pålidelighed, overvågning eller kontrol, der kræves i produktionsmiljøer. Når organisationer forsøger at skala disse systemer, støder de på problemer som inkonsistente outputs, manglende sporbarehed, vanskeligheder med at integrere med virksomhedsworkflows og begrænset styre over, hvordan AI-opfører sig. I sin kerne er problemet, at store sprogmodeller er probabilistiske genereringer, mens virksomhedsprocesser kræver forudsigelige og revisionssikre opførsel. Uden en arkitektur, der tilføjer struktur omkring begrundelse, validering, udførelse og overvågning, forbliver generative AI-systemer vanskelige at skala ud over isolerede brugsområder.

Maisas digitale arbejdere er designet til at være gennemskuelige og strukturerede snarere end rent probabilistiske. Hvad betyder det i praktisk forstand for virksomheder, der vurderer AI til produktionsbrug?

Når vi siger, at Maisas digitale arbejdere er gennemskuelige og strukturerede snarere end rent probabilistiske, mener vi, at AI-opererer inden for et kontrolleret system, hvor dens handlinger og begrundelse kan spores og styres. I stedet for at lade en model frit generere outputs og beslutninger, strukturerer systemet, hvordan AI-interagerer med data, værktøjer og workflows. Hver trin i processen kan logges, inspiceres og valideres, og handlinger udføres gennem definerede grænseflader snarere end direkte fra modeloutput. For virksomheder betyder det, at AI-systemer kan overvåges, revisioneres og integreres i kritiske processer med større tillid. Det skifter AI fra at være en sort boks-hjælper til et system, hvis opførsel kan forstås, styres og tillides i produktionsmiljøer.

Som arkitekten bag Knowledge Processing Unit, hvordan adskiller det sig fra en typisk orkestreringslag eller workflow-motor bygget omkring store sprogmodeller?

Knowledge Processing Unit adskiller sig fra typiske orkestreringslag, fordi det er designet til at håndtere den fulde livscyklus for AI-drevet begrundelse snarere end blot at koordinere prompts og modelkald. De fleste orkestreringsrammer fungerer som workflow-managere, der kæder sammen trin som hentning, prompting og værktøjsudførelse. KPU opererer på et dybere arkitektonisk niveau ved at strukturere, hvordan viden tilgås, hvordan begrundelse udføres, og hvordan handlinger udføres inden for systemet. Det behandler videnbehandling som en kernekomputationslag, der integrerer hukommelse, validering og kontrolleret udførelse, så AI kan operere pålideligt inden for komplekse virksomhedsworkflows snarere end blot generere svar.

I regulerede brancher er risikotolerance lav. Hvad bestemte designvalg gjorde du for at sikre, at AI-outputs forbliver pålidelige og ikke forplanter fejl over komplekse workflows?

I regulerede brancher er pålidelighed og kontrol essentielle, så vi designede systemet med flere sikkerhedsforanstaltninger for at sikre, at AI-outputs forbliver troværdige. En af de vigtigste principper er struktureret udførelse, hvor AI ikke kan udløse kritiske handlinger uden at gå gennem kontrollerede grænseflader. Vi inkorporerede også valideringslag, der checker modeloutputs mod skemaer, regler eller sekundære mekanismer, før de accepteres. Derudover opretholder systemet fuld overvågning, optager begrundelses-trin, værktøjsinteraktioner og beslutninger, så de kan spores og revisioneres. Disse designvalg hjælper sammen med at forhindre fejl i at forplante sig gennem workflows og giver virksomheder mulighed for at operere AI-systemer med den pålidelighed og styre, der kræves i regulerede miljøer.

Hvad er de mest overbevisende tidlige brugsområder, hvor du har set digitale arbejdere gå fra guidet assistance til fuldt operativ AI-drevet udførelse?

Nogle af de mest overbevisende tidlige brugsområder viser sig i videnintensive workflows, hvor processer er veldefinerede, men stadig kræver betydelig analyse og beslutningstagning. I områder som compliance-gennemgang, teknisk supportoperationer og intern videnstyring kan digitale arbejdere gå ud over blot at assistere mennesker og begynde at udføre strukturerede opgaver fra ende til anden. De kan hente og analysere store mængder interne informationer, anvende definerede procedurer, interagere med virksomhedssystemer gennem kontrollerede værktøjer og producere outputs, der direkte kan fødes ind i operationelle workflows. Den vigtigste skift sker, når AI ikke blot genererer forslag, men kan pålideligt udføre definerede handlinger inden for et styret system, hvilket giver virksomheder mulighed for at automatisere dele af komplekse videnarbejde snarere end blot at supplere det.

Som regulatorisk opmærksomhed omkring AI intensiveres globalt, hvordan ser du core AI-infrastruktur udvikle sig for at imødekomme compliance-krav uden at begrænse innovation?

Som regulatorisk opmærksomhed omkring AI øges, tror jeg, vi vil se en skift væk fra arkitekturer, der blot kalder modelprovider-API’er og blindt stole på outputtet. Virksomheder og regulatører vil i stigende grad kræve systemer, hvor AI-opførsel er overvåget, revisioneret og styret. Det er her, arkitekturer som Knowledge Processing Unit bliver vigtige. Denne type arkitektur giver virksomheder mulighed for at påtvinge kontroller, spore beslutninger og sikre, at AI-outputs er pålidelige, før de påvirker reelle processer. Over tid forventer jeg, at disse systemer vil blive standardfundamentet for troværdig AI-infrastruktur.

Du har talt om etik og ansvarlighed sammen med dit tekniske arbejde. Hvordan påvirker disse perspektiver din tilgang til bygning af gennemskuelige AI-systemer?

Etik og ansvarlighed oversætter sig direkte til systemdesignvalg for mig. Hvis AI-systemer skal deltage i reelle operationelle workflows, kan de ikke fungere som uigennemsigtige sorte bokse, hvis opførsel ikke kan inspiceres eller forstås. Denne perspektiv har stærkt påvirket, hvordan jeg tilgår bygning af AI-systemer. Gennemskuelighed, sporbarehed og menneskelig oversigt skal bygges ind i arkitekturen fra starten. Dette indebærer at sikre, at begrundelses-trin kan observeres, beslutninger kan revisioneres, og handlinger udføres gennem kontrollerede mekanismer. Når disse principper er indlejret på infrastrukturniveau, bliver AI-systemer ikke blot mere troværdige, men også lettere for virksomheder at styre ansvarligt.

Settende fremad, tror du, at agentic AI-infrastruktur vil blive lige så grundlæggende som cloud-infrastruktur gjorde i det foregående årti — og hvad skal der ske teknisk for, at denne skift skal materialisere?

Jeg tror, at agentic AI-infrastruktur har potentialet til at blive lige så grundlæggende som cloud-infrastruktur er blevet i det foregående årti. Når virksomheder søger at automatisere stadig mere komplekse videnarbejde, vil de have brug for systemer, der kan koordinere begrundelse, hukommelse og udførelse på tværs af mange opgaver og datakilder. For at denne skift skal materialisere, skal den underliggende arkitektur modnes ud over enkle modelintegrationer. Vi har brug for infrastruktur, der giver struktureret begrundelse, pålidelig adgang til virksomhedsviden, stærk overvågning og kontrolleret udførelse af handlinger. Når disse kapaciteter er bygget ind i kernesystemet, kan agentic AI udvikle sig fra eksperimentelle værktøjer til pålidelig infrastruktur, som virksomheder kan stole på til at drive kritiske operationer.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Maisa AI.