Manuel Romero, Co-Fondator și Șef al Departamentului Științific la Maisa – Seria de Interviuri

Manuel Romero, Co-Fondator și Țef al Departamentului Științific la Maisa, este un cercetător și inginer în domeniul inteligenței artificiale, axat pe dezvoltarea de sisteme de inteligență artificială de încredere și de nivel întreprindere. El a co-fondat Maisa în 2024 pentru a construi sisteme de inteligență artificială responsabile, capabile să execute procese de afaceri complexe cu transparență și control. Înainte de a fonda Maisa, Romero a ocupat funcții de inginerie și învățare automată la companii precum Clibrain și Narrativa, unde s-a specializat în prelucrarea limbajului natural și sisteme de inteligență artificială de mare scară. La începutul carierei sale, el a lucrat ca inginer de software full-stack și specialist DevOps, înainte de a trece la cercetarea și dezvoltarea avansată a inteligenței artificiale, devenind un contributor activ la ecosistemul deschis al inteligenței artificiale.

Maisa AI dezvoltă “lucrători digitali” autonomi, agenți de inteligență artificială proiectați pentru a automatiza fluxuri de lucru complexe ale întreprinderilor, menținând urmărirea, guvernanța și fiabilitatea. Platforma permite organizațiilor să creeze și să implementeze agenți de inteligență artificială utilizând limbajul natural, permițând automatizarea în interiorul sistemelor și surselor de date fără codificare extinsă. Prin concentrarea asupra raționamentului verificabil și a execuției structurate, Maisa își propune să depășească limitările comune asociate cu sistemele de inteligență artificială generativă și să ajute întreprinderile să implementeze în siguranță inteligența artificială autonomă la scară largă.

Ați abordat adesea înțelegerea motivelor profunde din spatele sistemelor de inteligență artificială. Din punct de vedere tehnic, ce v-a determinat să fondați Maisa în 2024 și ce lacună în arhitectura inteligenței artificiale a întreprinderilor credeți că nu a fost abordată?

Motivația din spatele fondării Maisa a venit din realizarea că majoritatea stivelor de inteligență artificială ale întreprinderilor au fost construite în jurul modelelor, nu sistemelor.

În timpul boom-ului inteligenței artificiale generative, multe companii s-au concentrat pe integrarea modelelor de limbaj larg în fluxurile de lucru existente. Cu toate acestea, aceste sisteme erau adesea fragile, opace și dificil de operat la scară. Le lipseau:

• execuția deterministică acolo unde era important.
• observabilitate puternică, urmărire
• reproducibilitate

Lacuna pe care am văzut-o a fost absența unei infrastructuri reale de inteligență artificială pentru întreprinderi. Companiile construiau aplicații în jurul API-urilor de modele de limbaj, dar le lipsea ceva echivalent cu o arhitectură de calculator pentru munca de cunoaștere.

Maisa a fost creat pentru a aborda această lacună, proiectând o arhitectură centrată pe Unitatea de Prelucrare a Cunoașterii (KPU), un sistem care permite inteligenței artificiale să opereze în mod fiabil în interiorul fluxurilor de lucru reale ale întreprinderilor.

Ați lucrat în domeniul prelucrării limbajului natural avansat și al sistemelor generative înainte de a fonda Maisa. Cum au influențat aceste experiențe alegerile arhitecturale din spatele platformei?

Experiența mea de lucru în PNL și NLG, în special în jurul pregătirii și pre-pregătirii modelelor de limbaj și a modelelor de limbaj larg (sute de astfel de modele), a făcut ceva foarte clar atunci când am încercat să construiesc sisteme reale pe baza lor. Arhitectura transformer este extrem de puternică, dar vine cu cel puțin trei limitări fundamentale care trebuie abordate pentru a o utiliza în mod fiabil în producție.

Prima este halucinația. Aceste modele generează text probabilistic și pot produce ieșiri care sună corect, dar nu sunt bazate pe informații verificate.

A doua este limitarea contextului. Chiar și cu ferestre de context mai mari, modelele operează într-un spațiu de token delimitat, ceea ce face dificilă raționarea asupra unor corpuri mari sau complexe de cunoaștere.

A treia este informația actualizată. Modelele pre-antrenate reprezintă o imagine a cunoașterii la momentul antrenării, în timp ce mediile întreprinderilor necesită sisteme care pot raționa asupra informațiilor în schimbare constant.

Recunoașterea acestor limitări a influențat multe dintre deciziile arhitecturale din spatele Maisa. În loc să ne bazăm doar pe model, ne-am concentrat pe construirea unui sistem care oferă acces structurat la cunoaștere, mecanisme de validare și execuție controlată, astfel încât inteligența artificială să poată opera în mod fiabil în fluxurile de lucru complexe ale întreprinderilor.

În multe întreprinderi, experimentele cu inteligența artificială generativă sunt dificile de scalat dincolo de proiecte-pilot. Din punct de vedere al proiectării sistemelor, care este motivul principal pentru care scalarea eșuează în atâtea organizații?

Întreprinderile au dificultăți în a scala inteligența artificială generativă dincolo de proiecte-pilot pentru că majoritatea implementărilor sunt construite ca experimente, nu ca sisteme robuste. Prototipurile inițiale se bazează adesea pe ingineria prompturilor, orchestrarea ușoară și pipeline-urile de recuperare simple, care pot demonstra valoare, dar nu oferă fiabilitatea, observabilitatea sau controlul necesar pentru medii de producție. Atunci când organizațiile încearcă să scaleze aceste sisteme, ele întâlnesc probleme precum ieșiri inconsistente, lipsa de urmărire, dificultăți în integrarea cu fluxurile de lucru ale întreprinderii și guvernanță limitată asupra modului în care se comportă inteligența artificială. La bază, problema este că modelele de limbaj larg sunt generatoare probabilistice, în timp ce procesele întreprinderilor necesită comportament previzibil și auditabil. Fără o arhitectură care să adauge structură în jurul raționamentului, validării, execuției și monitorizării, sistemele de inteligență artificială generativă rămân dificil de scalat dincolo de cazuri de utilizare izolate.

Lucrătorii digitali ai Maisa sunt proiectați să fie auditabili și structurați, mai degrabă decât pur probabilistici. Ce înseamnă acest lucru în termeni practici pentru întreprinderile care evaluează inteligența artificială pentru utilizare în producție?

Când spunem că Lucrătorii digitali ai Maisa sunt auditabili și structurați, mai degrabă decât pur probabilistici, ne referim la faptul că inteligența artificială operează într-un sistem controlat, în care acțiunile și raționamentul său pot fi urmărite și guvernate. În loc să permitem unui model să genereze ieșiri și decizii în mod liber, sistemul structurează modul în care inteligența artificială interacționează cu datele, uneltele și fluxurile de lucru. Fiecare pas în proces poate fi înregistrat, inspectat și validat, iar acțiunile sunt executate prin interfețe definite, mai degrabă decât direct din ieșirile modelului. Pentru întreprinderi, acest lucru înseamnă că sistemele de inteligență artificială pot fi monitorizate, auditate și integrate în procese critice cu mai multă încredere. Acest lucru schimbă inteligența artificială de la a fi un asistent “cutie neagră” la un sistem a cărui comportare poate fi înțeleasă, controlată și încredințată în medii de producție.

Ca arhitect al Unității de Prelucrare a Cunoașterii, cum se diferențiază aceasta de o orchestrare tipică sau de un motor de flux de lucru construit în jurul modelelor de limbaj larg?

Unitatea de Prelucrare a Cunoașterii se diferențiază de orchestrarea tipică pentru că este proiectată să gestioneze întregul ciclu de viață al raționamentului bazat pe inteligență artificială, mai degrabă decât să coordoneze doar prompturi și apeluri de model. Majoritatea cadrului de orchestrare acționează ca manageri de flux de lucru care lansează împreună pași precum recuperarea, promptarea și execuția uneltelor. Unitatea de Prelucrare a Cunoașterii operează la un nivel arhitectural mai profund, structurând modul în care cunoașterea este accesată, modul în care raționamentul este efectuat și modul în care acțiunile sunt executate în sistem. Tratează prelucrarea cunoașterii ca pe un strat computațional de bază, integrând memoria, validarea și execuția controlată, astfel încât inteligența artificială să poată opera în mod fiabil în interiorul fluxurilor de lucru complexe ale întreprinderilor, mai degrabă decât doar să genereze răspunsuri.

În industriile reglementate, toleranța la risc este scăzută. Care au fost deciziile de proiectare specifice pe care le-ați luat pentru a asigura că ieșirile inteligenței artificiale rămân fiabile și nu propagă erori în fluxuri de lucru complexe?

În industriile reglementate, fiabilitatea și controlul sunt esențiale, așa că am proiectat sistemul cu mai multe măsuri de siguranță pentru a asigura că ieșirile inteligenței artificiale rămân de încredere. Un principiu cheie este execuția structurată, în care inteligența artificială nu poate declanșa acțiuni critice fără a trece printr-un interfață controlată. De asemenea, incorporăm straturi de validare care verifică ieșirile modelului împotriva schemelor, regulilor sau mecanismelor secundare înainte de a fi acceptate. În plus, sistemul menține o observabilitate completă, înregistrând pașii de raționament, interacțiunile uneltelor și deciziile, astfel încât acestea să poată fi urmărite și auditate. Împreună, aceste decizii de proiectare ajută la prevenirea erorilor care se pot propaga prin fluxurile de lucru și permit organizațiilor să opereze sisteme de inteligență artificială cu nivelul de fiabilitate și guvernanță necesar în medii reglementate.

Care sunt cele mai convingătoare cazuri de utilizare inițiale în care ați văzut Lucrătorii digitali trece de la asistență ghidată la execuție completă bazată pe inteligență artificială?

Unii dintre cele mai convingătoare cazuri de utilizare inițiale apar în fluxurile de lucru intensive de cunoaștere, unde procesele sunt bine definite, dar încă necesită o analiză și o luare a deciziilor semnificative. În domenii precum revizuirea conformității, operațiunile de suport tehnic și gestionarea cunoașterii interne, Lucrătorii digitali pot trece dincolo de simpla asistență pentru oameni și începe să execute sarcini structurate de la capăt la capăt. Ei pot recupera și analiza volume mari de informații interne, aplica proceduri definite, interacționa cu sistemele întreprinderii prin unelte controlate și produce ieșiri care se alimentează direct în fluxurile de lucru operaționale. Schimbarea cheie are loc atunci când inteligența artificială nu numai că generează sugestii, dar este capabilă să execute în mod fiabil acțiuni definite într-un sistem guvernat, permițând organizațiilor să automatizeze părți ale muncii de cunoaștere complexă, mai degrabă decât doar să o îmbunătățească.

Pe măsură ce atenția regulamentară asupra inteligenței artificiale se intensifică la nivel global, cum credeți că infrastructura de bază a inteligenței artificiale va evolua pentru a îndeplini cerințele de conformitate fără a limita inovația?

Pe măsură ce atenția regulamentară asupra inteligenței artificiale crește, cred că vom vedea o schimbare departe de arhitecturile care se bazează doar pe apeluri către furnizorii de modele. Întreprinderile și regulatorii vor cere tot mai mult sisteme în care comportamentul inteligenței artificiale este observabil, auditabil și guvernat. Acesta este locul în care arhitecturi precum Unitatea de Prelucrare a Cunoașterii devin importante. Acest tip de arhitectură permite organizațiilor să impună controale, să urmărească deciziile și să asigure că ieșirile inteligenței artificiale sunt fiabile înainte de a influența procese reale. În timp, mă aștept ca astfel de sisteme să devină fundația standard pentru infrastructura de inteligență artificială de încredere.

Ați vorbit despre etică și responsabilitate alături de munca dvs. tehnică. Cum influențează aceste perspective modul în care abordați construirea sistemelor de inteligență artificială transparente?

Etica și responsabilitatea, pentru mine, se traduc direct în decizii de proiectare a sistemului. Dacă sistemele de inteligență artificială urmează să participe la fluxuri de lucru operaționale reale, ele nu pot funcționa ca cutii negre opace ale căror comportamente nu pot fi inspectate sau înțelese. Această perspectivă a influențat puternic modul în care abordăm construirea sistemelor de inteligență artificială. Transparența, urmărirea și supravegherea umană trebuie să fie încorporate în arhitectură de la început. Acest lucru înseamnă a asigura că pașii de raționament pot fi observați, deciziile pot fi auditate și acțiunile sunt executate prin mecanisme controlate. Atunci când aceste principii sunt încorporate la nivelul infrastructurii, sistemele de inteligență artificială devin nu numai mai de încredere, ci și mai ușor de guvernat în mod responsabil de către organizații.

Privind înainte, credeți că infrastructura de inteligență artificială agențială va deveni la fel de fundamentală precum infrastructura cloud a devenit în deceniul precedent — și ce trebuie să se întâmple din punct de vedere tehnic pentru ca această schimbare să se materializeze?

Cred că infrastructura de inteligență artificială agențială are potențialul de a deveni la fel de fundamentală precum infrastructura cloud a devenit în deceniul precedent. Pe măsură ce organizațiile își propun să automatizeze munca de cunoaștere din ce în ce mai complexă, ele vor avea nevoie de sisteme care pot coordona în mod fiabil raționamentul, memoria și execuția pe multiple sarcini și surse de date. Cu toate acestea, pentru ca această schimbare să se materializeze, arhitectura de bază trebuie să evolueze dincolo de simple integrări de modele. Avem nevoie de infrastructură care să ofere raționament structurat, acces fiabil la cunoașterea întreprinderii, observabilitate puternică și execuție controlată a acțiunilor. Când aceste capacități sunt integrate în sistemul de bază, inteligența artificială agențială poate evolua de la unelte experimentale la infrastructură de încredere pe care organizațiile o pot folosi pentru a opera procese critice.

Mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe despre Maisa AI pot vizita Maisa AI.