Manuel Romero, medgrunnlegger og Chief Scientific Officer i Maisa – Intervju-serie

Manuel Romero, medgrunnlegger og Chief Scientific Officer i Maisa, er en AI-forsker og ingeniør som fokuserer på å utvikle pålitelige, bedriftsgraderte kunstig intelligens-systemer. Han grunnla Maisa i 2024 for å bygge ansvarlige AI-kapasiteter som kan utføre komplekse forretningsprosesser med transparens og kontroll. Før Maisa, hadde Romero senior AI-ingeniør- og maskinlæringsroller i selskaper som Clibrain og Narrativa, hvor han spesialiserte seg i naturlig språkbehandling og store skala AI-systemer. Tidligere i sin karriere arbeidet han som full-stack programvareutvikler og DevOps-ekspert før han gikk over til avansert AI-forskning og utvikling, og ble en aktiv bidragsyter til den åpne kildekode AI-økosystemet.

Maisa AI utvikler autonome “digitale arbeidere”, AI-agenter som er designet for å automatisere komplekse bedriftsprosesser samtidig som de opprettholder sporing, styring og pålitelighet. Plattformen lar organisasjoner bygge og distribuere AI-agenter ved hjelp av naturlig språk, som muliggjør automatisering over interne systemer og datakilder uten omfattende kodning. Ved å fokusere på verifiserbar resonnering og strukturert eksekvering, søker Maisa å overvinne vanlige begrensninger forbundet med generative AI-systemer og hjelpe bedrifter med å trygt distribuere autonome AI i stor skala.

Du har ofte fokusert på å forstå den dypereliggende “hvorfor” bak AI-systemer. Fra et teknisk ståsted, hva var motivasjonen bak å grunnlegge Maisa i 2024, og hva var gapet i bedrifts AI-arkitektur som du trodde ikke ble behandlet?

Motivasjonen bak å grunnlegge Maisa kom fra en erkjennelse av at de fleste bedrifts AI-stacker var bygget rundt modeller, ikke systemer.

Under den generative AI-boomen, fokuserte mange selskaper på å integrere store språkmodeller i eksisterende arbeidsflyter. Imidlertid var disse systemene ofte skjøre, uklare og vanskelige å operere i stor skala. De manglet:

• deterministisk eksekvering der det matte.
• sterk sporing, sporbarhet
• reproduserbarhet

Gapet vi så var fraværet av sanne AI-infrastrukturer for bedrifter. Selskaper bygget applikasjoner rundt LLM-API-er, men de manglet noe ekvivalent til en datamaskinarkitektur for kunnskapsarbeid.

Maisa ble skapt for å fylle dette gapet ved å designe en arkitektur sentrert rundt Knowledge Processing Unit (KPU), et system som muliggjør AI å operere pålitelig innenfor virkelige bedriftsprosesser.

Du har arbeidet med avansert naturlig språkbehandling og generative systemer før du grunnla Maisa. Hvordan har disse erfaringene påvirket arkitekturvalgene bak plattformen?

Min erfaring med å arbeide med NLP og NLG, spesielt rundt trening og for-trening av språkmodeller og senere store språkmodeller (hundrevis av dem), gjorde noe veldig klart når jeg prøvde å bygge virkelige systemer på toppen av dem. Transformer-arkitekturen er ekstremt kraftfull, men den kommer med minst tre grunnleggende begrensninger som må bli behandlet for å bruke den pålitelig i produksjon.

Det første er hallucinasjoner. Disse modellene genererer tekst probabilistisk og kan produsere utdata som høres riktige ut, men som ikke er grunnlagt i verifisert informasjon.

Det andre er kontekstbegrensninger. Selv med større kontekstvinduer, opererer modellene innenfor en begrenset token-rom, som gjør det vanskelig å resonnere over store eller komplekse kunnskapskropper.

Det tredje er oppdatert informasjon. Forhånds-trente modeller representerer et øyeblikksbilde av kunnskap på trenings tid, mens bedriftsmiljøer krever systemer som kan resonnere over konstant endrende informasjon.

Å erkjenne disse begrensningene har påvirket mange av arkitekturvalgene bak Maisa. I stedet for å stole på modellen alene, fokuserte vi på å bygge et system som gir strukturert tilgang til kunnskap, valideringsmekanismer og kontrollert eksekvering, så AI kan operere pålitelig i virkelige bedriftsprosesser.

Mange bedrifter eksperimenterer med generative AI, men sliter med å flytte seg beyond pilots. Fra et systemdesign-perspektiv, hva er den grunnleggende årsaken til at skaling feiler i så mange organisasjoner?

Mange bedrifter sliter med å flytte seg beyond generative AI-piloter fordi de fleste deployeringer er bygget som eksperimenter snarere enn som robuste systemer. Tidlige prototyper ofte avhenger av prompt-ingeniørkunst, lett orkestrering og enkle innhenting-pipelines, som kan demonstrere verdi, men ikke gir den påliteligheten, sporingen eller kontrollen som kreves for produksjonsmiljøer. Når organisasjoner prøver å skale disse systemene, møter de problemer som inkonsistente utdata, manglende sporing, vanskeligheter med å integrere med bedriftsprosesser og begrensede styringsmuligheter over hvordan AI oppfører seg. I kjernen er problemet at store språkmodeller er probabilistiske generatore, mens bedriftsprosesser krever forutsigbar og auditerbar atferd. Uten en arkitektur som legger struktur rundt resonnering, validering, eksekvering og overvåking, blir generative AI-systemer vanskelige å skale beyond isolerte brukstilfeller.

Maisas digitale arbeidere er designet for å være auditable og strukturert snarere enn ren probabilistisk. Hva betyr dette i praksis for bedrifter som vurderer AI for produksjonsbruk?

Når vi sier at Maisas digitale arbeidere er auditable og strukturert snarere enn ren probabilistisk, mener vi at AI opererer innenfor et kontrollert system hvor dens handlinger og resonnering kan spores og styres. I stedet for å la en modell fritt generere utdata og beslutninger, strukturerer systemet hvordan AI interagerer med data, verktøy og prosesser. Hver trinn i prosessen kan logges, inspisert og valideres, og handlinger utføres gjennom definerte grensesnitt snarere enn direkte fra modellutdata. For bedrifter betyr dette at AI-systemer kan overvåkes, auditeres og integreres i kritiske prosesser med større tillit. Det flytter AI fra å være en svart boks-assistent til et system hvis atferd kan forstås, kontrolleres og tillits i produksjonsmiljøer.

Som arkitekten bak Knowledge Processing Unit, hvordan skiller den seg fra en typisk orkestreringslag eller arbeidsflyt-motor bygget rundt store språkmodeller?

Knowledge Processing Unit skiller seg fra typiske orkestreringslag fordi den er designet for å håndtere hele livssyklusen til AI-drevet resonnering snarere enn bare å koordinere promter og modellkall. De fleste orkestreringsrammeverk fungerer som arbeidsflyt-ledere som lenker sammen trinn som innhenting, prompting og verktøy-eksekvering. KPU opererer på et dypere arkitektonisk nivå ved å strukturere hvordan kunnskap tilgjengelig, hvordan resonnering utføres og hvordan handlinger utføres innenfor systemet. Den behandler kunnskapsbehandling som en kjernekomputasjonslag, integrerende minne, validering og kontrollert eksekvering så AI kan operere pålitelig innenfor komplekse bedriftsprosesser snarere enn bare å generere svar.

I regulerte industrier er risikotoleransen lav. Hva var de spesifikke designbeslutningene du tok for å sikre at AI-utdata forble pålitelige og ikke propagerte feil over komplekse arbeidsflyter?

I regulerte industrier er pålitelighet og kontroll essensielle, så vi designet systemet med flere sikkerhetstiltak for å sikre at AI-utdata forble pålitelige. En av de viktigste prinsippene er strukturert eksekvering, hvor AI ikke kan utløse kritiske handlinger uten å gå gjennom kontrollerte grensesnitt. Vi inkorporerte også valideringslag som sjekker modellutdata mot skjema, regler eller sekundære mekanismer før de aksepteres. I tillegg opprettholder systemet full sporing, og logger resonneringstrinn, verktøyinteraksjoner og beslutninger så de kan spores og auditeres. Disse designvalgene hjelper til å forhindre feil fra å propagere gjennom arbeidsflyter og lar organisasjoner operere AI-systemer med den påliteligheten og styringen som kreves i regulerte miljøer.

Hva er de mest overbevisende tidlige bruksområdene hvor du har sett digitale arbeidere flytte fra guidet assistanse til fullt operativ AI-drevet eksekvering?

Noen av de mest overbevisende tidlige bruksområdene dukker opp i kunnskapsintensive arbeidsflyter hvor prosesser er godt definert, men fortsatt krever betydelig analyse og beslutning. I områder som compliance-gjennomgang, teknisk support-operasjoner og intern kunnskapsforvaltning, kan digitale arbeidere flytte beyond å bare assisterer mennesker og begynne å utføre strukturerte oppgaver fra ende til ende. De kan hente og analysere store mengder interne informasjon, anvende definerte prosedyrer, interagere med bedriftssystemer gjennom kontrollerte verktøy og produsere utdata som direkte kan matas inn i operative arbeidsflyter. Den kritiske skiftet skjer når AI ikke bare genererer forslag, men kan pålitelig utføre definerte handlinger innenfor et styrt system, og lar organisasjoner automatisere deler av komplekse kunnskapsarbeid snarere enn bare å forbedre det.

Som reguleringen rundt AI intensiveres globalt, hvordan ser du for deg at kjerne-AI-infrastrukturen vil utvikle seg for å møte kravene til overholdelse uten å begrense innovasjon?

Som reguleringen rundt AI øker, tror jeg vi vil se en skifte bort fra arkitekturer som bare kaller modell-leverandør-API-er og stoler på utdata blindt. Bedrifter og reguleringer vil stadig kreve systemer hvor AI-atferd er observerbar, auditerbar og styrt. Dette er hvor arkitekturer som Knowledge Processing Unit blir viktige. Denne typen arkitektur lar organisasjoner pålegge kontroll, spore beslutninger og sikre at AI-utdata er pålitelige før de påvirker virkelige prosesser. Over tid forventer jeg at disse typene systemer vil bli standardgrunnlaget for pålitelig AI-infrastruktur.

Du har talt om etikk og ansvar sammen med ditt tekniske arbeid. Hvordan påvirker disse perspektivene hvordan du nærmer deg å bygge transparente AI-systemer?

Etikk og ansvar, for meg, oversettes direkte til systemdesign-valg. Hvis AI-systemer skal delta i virkelige operative arbeidsflyter, kan de ikke fungere som uklare svarte bokser hvis atferd ikke kan inspiseres eller forstås. Denne perspektiven har sterkt påvirket hvordan jeg nærmer meg å bygge AI-systemer. Transparens, sporbarhet og menneskelig tilsyn må bygges inn i arkitekturen fra starten. Dette betyr å sikre at resonneringstrinn kan observeres, beslutninger kan auditeres og handlinger utføres gjennom kontrollerte mekanismer. Når disse prinsippene er innbygget på infrastrukturnivå, blir AI-systemer ikke bare mer pålitelige, men også enklere for organisasjoner å styre ansvarlig.

Ser fremover, tror du at agens AI-infrastruktur vil bli like grunnleggende som sky-infrastruktur ble i den forrige tiåret — og hva må skje teknisk for at skiftet skal materialiseres?

Jeg tror at agens AI-infrastruktur har potensialet til å bli like grunnleggende som sky-infrastruktur har blitt over de siste ti årene. Når organisasjoner søker å automatisere stadig mer komplekse kunnskapsarbeid, vil de trenge systemer som kan pålitelig koordinere resonnering, minne og eksekvering over mange oppgaver og datakilder. Imidlertid, for at skiftet skal materialiseres, må den underliggende arkitekturen modnes beyond enkle modell-integreringer. Vi trenger infrastruktur som gir strukturert resonnering, pålitelig tilgang til bedriftskunnskap, sterk sporing og kontrollert eksekvering. Når disse kapasitetene er bygget inn i kjerne-systemet, kan agens AI utvikle seg fra eksperimentelle verktøy til pålitelig infrastruktur som organisasjoner kan stole på for å drive kritiske operasjoner.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Maisa AI.