Manuel Romero, Współzałożyciel i Dyrektor Naukowy w Maisa – Wywiad

Manuel Romero, Współzałożyciel i Dyrektor Naukowy w Maisa, jest badaczem i inżynierem sztucznej inteligencji, specjalizującym się w tworzeniu niezawodnych, przedsiębiorczych systemów sztucznej inteligencji. W 2024 roku współzałożył Maisa, aby stworzyć odpowiedzialną sztuczną inteligencję, która mogłaby wykonywać złożone procesy biznesowe w sposób przejrzysty i kontrolowany. Przed Maisa, Romero pełnił stanowiska inżynierskie i analityczne w firmach takich jak Clibrain i Narrativa, gdzie specjalizował się w przetwarzaniu języka naturalnego i dużych systemach sztucznej inteligencji. Na początku swojej kariery pracował jako inżynier oprogramowania i specjalista DevOps, zanim przeszedł do zaawansowanych badań i rozwoju sztucznej inteligencji, stając się aktywnym współtwórcą otwartego ekosystemu sztucznej inteligencji.

Maisa AI rozwija autonomiczne „cyfrowe pracowników”, agenci sztucznej inteligencji zaprojektowani do automatyzacji złożonych procesów przedsiębiorstw, przy zachowaniu przejrzystości, zarządzania i niezawodności. Platforma umożliwia organizacjom tworzenie i wdrażanie agenci sztucznej inteligencji przy użyciu języka naturalnego, umożliwiając automatyzację wewnątrz systemów i źródeł danych bez konieczności obszernego programowania. Poprzez skupienie się na weryfikowalnym rozumowaniu i strukturalnym wykonaniu, Maisa dąży do pokonania typowych ograniczeń związanych z systemami sztucznej inteligencji generatywnej i pomocy przedsiębiorstwom w bezpiecznym wdrożeniu autonomicznej sztucznej inteligencji na dużą skalę.

Często koncentrujesz się na zrozumieniu głębszego „dlaczego” za systemami sztucznej inteligencji. Z technicznego punktu widzenia, co skłoniło Cię do współzałożenia Maisa w 2024 roku, i jaki lukę w architekturze sztucznej inteligencji przedsiębiorstw uważałeś za niewypełnioną?

Motywacja do założenia Maisa wynikała z uświadomienia sobie, że większość przedsiębiorczych stosów sztucznej inteligencji była zbudowana wokół modeli, a nie systemów.

Podczas boomu sztucznej inteligencji generatywnej, wiele firm skupiło się na integracji dużych modeli językowych z istniejącymi procesami. Jednak te systemy były często kruche, nieprzezroczyste i trudne do obsługi na dużą skalę. Brakowało im:

• określonego wykonania, gdzie to było istotne.
• mocnej obserwowalności, przejrzystości
• powtarzalności

Luka, którą widzieliśmy, to brak prawdziwej infrastruktury sztucznej inteligencji dla przedsiębiorstw. Firmy budowały aplikacje wokół interfejsów API modeli, ale brakowało im czegoś równoważnego do architektury komputera dla pracy z wiedzą.

Maisa zostało stworzone, aby wypełnić tę lukę, projektując architekturę opartą na Jednostce Przetwarzania Wiedzy (KPU), systemie, który umożliwia sztucznej inteligencji działać niezawodnie wewnątrz rzeczywistych procesów przedsiębiorstw.

Pracowałeś nad zaawansowanym przetwarzaniem języka naturalnego i systemami generatywnymi przed założeniem Maisa. Jak te doświadczenia wpłynęły na architektoniczne decyzje dotyczące platformy?

Moje doświadczenie w dziedzinie NLP i NLG, szczególnie w szkoleniu i wstępnym szkoleniu modeli językowych i późniejszych dużych modelach językowych (setek z nich), uświadomiło mi, że przy próbie budowania prawdziwych systemów na ich podstawie. Architektura transformatora jest niezwykle potężna, ale posiada co najmniej trzy podstawowe ograniczenia, które muszą być rozwiązane, aby ją można było niezawodnie wykorzystywać w produkcji.

Pierwszym z nich są halucynacje. Te modele generują tekst w sposób probabilistyczny i mogą produkować dane wyjściowe, które brzmią poprawnie, ale nie są oparte na zweryfikowanej informacji.

Drugim ograniczeniem są ograniczenia kontekstowe. Nawet z większymi oknami kontekstowymi, modele działają wewnątrz ograniczonej przestrzeni tokenów, co utrudnia rozumowanie nad dużymi lub złożonymi ciałami wiedzy.

Trzecim ograniczeniem jest dostęp do aktualnej wiedzy. Przeszkolone modele reprezentują migawkę wiedzy w czasie szkolenia, podczas gdy środowiska przedsiębiorstw wymagają systemów, które mogą rozumować nad stale zmieniającą się informacją.

Uznanie tych ograniczeń ukształtowało wiele architektonicznych decyzji dotyczących Maisa. Zamiast polegać wyłącznie na modelu, skupiliśmy się na budowaniu systemu, który zapewnia strukturalny dostęp do wiedzy, mechanizmy walidacji i kontrolowane wykonanie, aby sztuczna inteligencja mogła działać niezawodnie wewnątrz rzeczywistych procesów przedsiębiorstw.

Wiele przedsiębiorstw eksperymentuje z sztuczną inteligencją generatywną, ale ma trudności z przejściem poza pilotaż. Z punktu widzenia projektowania systemów, jaki jest podstawowy powód, dla którego skalowanie kończy się niepowodzeniem w tak wielu organizacjach?

Wiele przedsiębiorstw ma trudności z przejściem poza pilotażowe wdrożenia sztucznej inteligencji generatywnej, ponieważ większość wdrożeń jest budowana jako eksperymenty, a nie jako solidne systemy. Wczesne prototypy często polegają na inżynierii promptów, lekkiej orkiestracji i prostych potokach pobierania, które mogą wykazać wartość, ale nie zapewniają niezawodności, obserwowalności ani kontroli wymaganej w środowiskach produkcyjnych. Gdy organizacje próbują skalować te systemy, napotykają problemy, takie jak niespójne dane wyjściowe, brak przejrzystości, trudności z integracją z procesami przedsiębiorstwa i ograniczona kontrola nad tym, jak sztuczna inteligencja się zachowuje. Podstawowym problemem jest to, że duże modele językowe są generatorami probabilistycznymi, podczas gdy procesy przedsiębiorstw wymagają przewidywalnego i audytowanego zachowania. Bez architektury, która dodaje strukturę wokół rozumowania, walidacji, wykonania i monitorowania, systemy sztucznej inteligencji generatywnej pozostają trudne do skalowania poza izolowane przypadki użycia.

Cyfrowi Pracownicy Maisa są zaprojektowani, aby być audytowalni i strukturalni, a nie czysto probabilistyczni. Co to oznacza w praktyce dla przedsiębiorstw oceniających sztuczną inteligencję do użycia w produkcji?

Gdy mówimy, że Cyfrowi Pracownicy Maisa są audytowalni i strukturalni, a nie czysto probabilistyczni, mamy na myśli, że sztuczna inteligencja działa w kontrolowanym systemie, w którym jej działania i rozumowanie mogą być śledzone i zarządzane. Zamiast pozwalać modelowi swobodnie generować dane wyjściowe i decyzje, system strukturalizuje, w jaki sposób sztuczna inteligencja wchodzi w interakcję z danymi, narzędziami i procesami. Każdy krok w procesie może być zalogowany, zinspekcjonowany i zweryfikowany, a działania są wykonywane za pomocą zdefiniowanych interfejsów, a nie bezpośrednio z danych wyjściowych modelu. Dla przedsiębiorstw oznacza to, że systemy sztucznej inteligencji mogą być monitorowane, audytowane i integrowane z krytycznymi procesami z większą pewnością. Przenosi sztuczną inteligencję z bycia czarną skrzynką do systemu, którego zachowanie można zrozumieć, kontrolować i ufać w środowiskach produkcyjnych.

Jako architekt Jednostki Przetwarzania Wiedzy, jak różni się ona od typowej warstwy orkiestracji lub silnika przepływu pracy zbudowanego wokół dużych modeli językowych?

Jednostka Przetwarzania Wiedzy różni się od typowych warstw orkiestracji, ponieważ jest zaprojektowana do zarządzania pełnym cyklem życia sztucznej inteligencji, a nie tylko koordynowania wezwań modeli i akcji. Większość ram orkiestracji działa jako menedżerowie przepływu, łącząc kroki, takie jak pobieranie, wywoływanie modelu i wykonanie narzędzi. Jednostka Przetwarzania Wiedzy działa na głębszym poziomie architektonicznym, strukturalizując, w jaki sposób wiedza jest dostępna, w jaki sposób rozumowanie jest wykonywane, a w jaki sposób akcje są wykonywane w systemie. Traktuje przetwarzanie wiedzy jako podstawową warstwę obliczeniową, integrując pamięć, walidację i kontrolowane wykonanie, aby sztuczna inteligencja mogła działać niezawodnie wewnątrz złożonych procesów przedsiębiorstw, a nie tylko generować odpowiedzi.

W regulowanych branżach, tolerancja ryzyka jest niska. Jakie konkretnie decyzje projektowe podjąłeś, aby upewnić się, że dane wyjściowe sztucznej inteligencji pozostają niezawodne i nie propagują błędów w złożonych procesach?

W regulowanych branżach, niezawodność i kontrola są niezbędne, więc zaprojektowaliśmy system z kilkoma zabezpieczeniami, aby upewnić się, że dane wyjściowe sztucznej inteligencji pozostają godne zaufania. Jednym z kluczowych zasad jest strukturalne wykonanie, gdzie sztuczna inteligencja nie może wywołać krytycznych akcji bez przejścia przez kontrolowane interfejsy. Wbudowaliśmy również warstwy walidacji, które sprawdzają dane wyjściowe modelu względem schematów, zasad lub mechanizmów wtórnych przed ich akceptacją. Ponadto system utrzymuje pełną obserwowalność, rejestrując kroki rozumowania, interakcje z narzędziami i decyzje, aby mogły być śledzone i audytowane. Razem, te decyzje projektowe pomagają zapobiec błędom, które mogą się rozprzestrzeniać w procesach i pozwalają organizacjom działać systemy sztucznej inteligencji z poziomem niezawodności i zarządzania wymaganym w regulowanych środowiskach.

Jakie są najbardziej przekonywujące wczesne przypadki użycia, w których widzieliśmy, jak Cyfrowi Pracownicy przechodzą od asysty do w pełni operacyjnego wykonania sztucznej inteligencji?

Niektóre z najbardziej przekonywujących wczesnych przypadków użycia pojawiają się w procesach intensywnie opartych na wiedzy, gdzie procesy są dobrze zdefiniowane, ale nadal wymagają znacznej analizy i podejmowania decyzji. W obszarach, takich jak przegląd zgodności, operacje wsparcia technicznego i wewnętrzne zarządzanie wiedzą, Cyfrowi Pracownicy mogą przechodzić od asysty ludzi do wykonywania strukturalnych zadań od końca do końca. Mogą one pobrać i przeanalizować duże ilości wewnętrznej informacji, zastosować określone procedury, wchodzić w interakcje z systemami przedsiębiorstwa za pomocą kontrolowanych narzędzi i produkować dane wyjściowe, które bezpośrednio zasilają operacyjne procesy. Kluczowa zmiana zachodzi, gdy sztuczna inteligencja nie tylko generuje sugestie, ale jest w stanie niezawodnie wykonywać określone akcje w ramach zarządzanego systemu, pozwalając organizacjom zautomatyzować części złożonej pracy z wiedzą, a nie tylko ją wspomagać.

Jak regulatory szczegółowość wokół sztucznej inteligencji nasila się na całym świecie, jak widzisz ewolucję podstawowej infrastruktury sztucznej inteligencji, aby spełnić wymagania zgodności bez ograniczania innowacji?

Ponieważ regulatory szczegółowość wokół sztucznej inteligencji rośnie, uważam, że będziemy świadkami odejścia od architektur, które po prostu wywołują interfejsy API dostawców modeli i ufają danych wyjściowych. Przedsiębiorstwa i organy regulacyjne będą coraz bardziej wymagać systemów, w których zachowanie sztucznej inteligencji jest obserwowalne, audytowalne i zarządzane. To właśnie tutaj architektury, takie jak Jednostka Przetwarzania Wiedzy, stają się ważne. Tego rodzaju architektury pozwalają organizacjom egzekwować kontrolę, śledzić decyzje i upewnić się, że dane wyjściowe sztucznej inteligencji są niezawodne przed wpływaniem na rzeczywiste procesy. Z czasem oczekuję, że takie systemy staną się standardową podstawą dla godnej zaufania infrastruktury sztucznej inteligencji.

Mówiłeś o etyce i odpowiedzialności obok swojej pracy technicznej. Jak te perspektywy wpływają na Twoje podejście do budowania przejrzystych systemów sztucznej inteligencji?

Etyka i odpowiedzialność, dla mnie, przekładają się bezpośrednio na decyzje dotyczące projektowania systemów. Jeśli systemy sztucznej inteligencji mają uczestniczyć w rzeczywistych procesach operacyjnych, nie mogą funkcjonować jako nieprzezroczyste skrzynki czarne, których zachowanie nie może być zbadane ani zrozumiane. Ta perspektywa silnie wpłynęła na moje podejście do budowania systemów sztucznej inteligencji. Przejrzystość, śledzenie i nadzór ludzki muszą być wbudowane w architekturę od samego początku. Oznacza to zapewnienie, że kroki rozumowania mogą być obserwowane, decyzje mogą być audytowane, a akcje są wykonywane za pomocą kontrolowanych mechanizmów. Gdy te zasady są wbudowane na poziomie infrastruktury, systemy sztucznej inteligencji stają się nie tylko bardziej godne zaufania, ale także łatwiejsze dla organizacji do odpowiedzialnego zarządzania.

Spójrzając w przyszłość, uważasz, że infrastruktura sztucznej inteligencji agentynej stanie się tak podstawowa, jak infrastruktura chmurowa była w poprzedniej dekadzie — i co musi się wydarzyć technicznie, aby ta zmiana się ziściła?

Uważam, że infrastruktura sztucznej inteligencji agentynej ma potencjał, aby stać się tak podstawowa, jak infrastruktura chmurowa stała się w ciągu ostatniej dekady. Gdy organizacje będą szukać sposobów na zautomatyzowanie coraz bardziej złożonej pracy z wiedzą, będą potrzebować systemów, które mogą niezawodnie koordynować rozumowanie, pamięć i wykonanie w wielu zadaniach i źródłach danych. Jednak aby ta zmiana się ziściła, podstawowa architektura musi dojrzać poza proste integracje modeli. Potrzebujemy infrastruktury, która zapewnia strukturalne rozumowanie, niezawodny dostęp do wiedzy przedsiębiorstwa, silną obserwowalność i kontrolowane wykonanie akcji. Gdy te możliwości są wbudowane w system, sztuczna inteligencja agentyjna może ewoluować z eksperymentalnych narzędzi w niezawodną infrastrukturę, na którą organizacje będą mogły polegać, aby prowadzić krytyczne operacje.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Maisa AI.