Sohrab Hosseini, współzałożyciel orq.ai – seria wywiadów

Sohrab Hosseini, współzałożyciel orq.ai, jest liderem technologicznym i przedsiębiorcą z Amsterdamu, z głębokim doświadczeniem w zakresie SaaS, dużych systemów i zastosowań sztucznej inteligencji. Od założenia orq.ai w 2022 roku, skupił się na budowaniu praktycznej infrastruktury, która pomaga zespołom przenieść duże modele językowe z eksperymentów do niezawodnego użycia produkcyjnego. Jego doświadczenie obejmuje stanowiska kierownicze, takie jak COO i CTO w Neocles, CTO ds. technologii przyszłości w Transdev, gdzie pracował nad routingiem autonomicznym i zarządzaniem flotą, oraz COO w TradeYourTrip. Równolegle jest aktywny jako doradca i anioł biznesu, wspierając firmy AI we wczesnej fazie rozwoju, zapewniając kierunek produktowy, ocenę techniczną i strategię wykonania.

orq.ai to platforma współpracy i LLMOps sztucznej inteligencji, zaprojektowana, aby pomóc organizacjom w projektowaniu, eksploatowaniu i skalowaniu produktów i agentów napędzanych przez sztuczną inteligencję w środowiskach rzeczywistych. Platforma łączy zarządzanie promptami, eksperymenty, zbieranie informacji zwrotnej i widoczność w czasie rzeczywistym kosztów i wyników w jednej przestrzeni roboczej, pozostając kompatybilną z wszystkimi głównymi dostawcami dużych modeli językowych. Umożliwiając bliską współpracę między zespołami technicznymi i nie technicznymi, orq.ai pomaga firmom skracać cykle wydawnicze, poprawiać zarządzanie i przejrzystość, oraz redukować złożoność i koszty eksploatacji systemów sztucznej inteligencji w produkcji.

Pełniłeś stanowiska kierownicze w dziedzinie systemów autonomicznych, technologii zarządzania flotą i platform SaaS przed założeniem Orq.ai — jak ta ścieżka kariery ukształtowała Twoją decyzję o budowie warstwy kontrolnej dla agentów AI w 2022 roku?

Nasze tło zawsze było związane z kierowaniem zespołami inżynierskimi i skupieniem się na platformach umożliwiających; rzeczy takie jak chmura, DevOps i umożliwianie danych, szczególnie podczas naszej pracy jako konsultanci techniczni. Kiedy nastąpił boom sztucznej inteligencji, mój współzałożyciel i ja zapytaliśmy się: jaki rodzaj umożliwienia będą potrzebować przedsiębiorstwa, aby nie tylko budować sztuczną inteligencję, ale również ją właściwie zarządzać i kontrolować?

Widzieliśmy, że prawdziwa potrzeba polega na posiadaniu warstwy kontrolnej dla agentów AI na poziomie przedsiębiorstwa. To skłoniło nas do budowy Orq.ai od samego początku.

Gdy po raz pierwszy uruchomiliście Orq.ai, co widzieliście na rynku, co przekonało was, że prawdziwe utrudnienie nie leży w jakości modelu, ale w niemożności przeniesienia systemów agenckich z demonstracji do niezawodnej produkcji?

Wierzyliśmy, że budując innowacyjne oprogramowanie, trzeba budować z myślą o przyszłości. Od samego początku zakładaliśmy, że duże modele językowe będą coraz lepsze i mądrzejsze z czasem. Tak więc, prawdziwym wyzwaniem, które widzieliśmy, nie było jakość samego modelu, ale wszystkie problemy związane z kontrolą, zarządzaniem i cyklem życia, które pojawiają się, gdy próbuje się przenieść z demonstracji do środowiska produkcyjnego.

Innymi słowy, nawet jeśli modele się poprawiają, prawdziwa wartość dla naszych klientów (i dla nas) polega na tym, aby te systemy naprawdę działały niezawodnie w produkcji. I to jest właśnie to, czego próbowaliśmy się podjąć.

Większość zespołów może budować imponujące prototypy, ale mają trudności z orkiestracją czasu wykonywania, zarządzaniem i monitorowaniem. Jakie jest Twoim zdaniem największe miejsce awarii, gdy zespoły inżynierskie próbują skalować od środowiska proof-of-concept do agenta na żywo?

Największe miejsce awarii polega na tym, że zespoły często myślą, że jest to prosta, liniowa ścieżka od budowy agenta do jego ukończenia. W rzeczywistości jest to bardzo iteracyjny proces.

Ciągle dostosowujesz swoje założenia, testujesz je, przenosisz do produkcji, a potem monitorujesz, co się dzieje w świecie rzeczywistym. Znajdujesz przypadki brzegowe, a potem zaczynasz ten cykl od nowa.

Wyzwaniem jest to, że nie jest to jednorazowy wysiłek; jest to ciągły proces doskonalenia. I aby dodać do tego, nie jest to tylko iteracyjny; jest to również to, że często brakuje odpowiednich narzędzi lub rusztowań, aby ten proces przebiegał gładko.

Potrzebujesz sposobu, aby eksperci domeny, menedżerowie produktu i inżynierowie mogli współpracować bez tworzenia silosów lub drogich przekazań, które marnują dużo czasu. Więc to jest kolejny duży element układanki: upewnienie się, że wszyscy ci interesariusze mogą iterować razem wydajnie. I to jest coś, czego próbowaliśmy się podjąć.

Orq.ai позиционирует się jako zjednoczona warstwa kontrolna, która obejmuje eksperymenty, ocenę, obserwowalność i czas wykonywania. Dlaczego uważaliście, że architektura end-to-end była niezbędna, a nie oferta izolowanych narzędzi, jak wiele rozwiązań punktowych?

Gdy zaczynasz, jest naturalne, że wybierasz pojedyncze narzędzie, które rozwiązuje Twój największy ból głowy w tym momencie, często jest to obserwowalność. Ale gdy Twoja drużyna ewoluuje, trafiasz na następną wąskie gardło i dodajesz kolejne narzędzie, na przykład bramę AI. Zanim się zorientujesz, masz pięć do siedmiu różnych narzędzi w swoim krajobrazie. Dane stają się fragmentowane, ludzie tracą widoczność, a ty marnujesz zasoby tylko na utrzymanie tych integracji. Tracisz tę zjednoczoną perspektywę na cały cykl życia.

Uważaliśmy, że gdy przedsiębiorstwa oparte na agentach wyłaniają się, naprawdę potrzebujesz tej architektury end-to-end. Potrzebujesz zjednoczonej perspektywy na to, co robią wszystkie Twoje agenci w organizacji, a nie fragmentowane rozwiązania punktowe. Dlatego nie widzieliśmy innego sposobu, jak objąć te duże części przepływu pracy w zjednoczonej platformie.

Z nowym Agent Studio i przebudowanym czasem wykonywania, jakie główne bóle głowy próbowaliście rozwiązać na podstawie informacji zwrotnej od wczesnych klientów w Europie i USA?

To, co zobaczyliśmy, to fakt, że zespoły używały wszystkich rodzajów bibliotek open-source do budowy swoich agentów, chociaż sama architektura agenta może być dość czysta i prosta. Kończyli się oni z obciążonymi bibliotekami, dużą nadwyżką i dużym zakresem nauki, tylko po to, aby dostać nawet proste agenty. Z Orq, chcieliśmy ten ciężar zrzucić.

Zamiast martwić się o architekturę, obliczenia, autoskalowanie, całą tę infrastrukturę, zespoły mogą po prostu skoncentrować się na konfigurowaniu swoich agentów i daniu im odpowiednich narzędzi i API. My zajmujemy się ciężką pracą, aby mogli się skoncentrować na budowaniu swoich przypadków użycia. I ponadto, ponieważ wspieramy cały cykl życia, zbudowaliśmy specjalne stanowiska, które pozwalają naprawdę przetestować agenty w skali.

To oznacza, że możesz szybciej znaleźć przypadki brzegowe i wzmocnić swoje agenty bardziej skutecznie. Chodzi o to, aby dać zespołom narzędzia nie tylko do łatwego budowania agentów, ale również do ich ulepszania i wzmacniania w scenariuszach świata rzeczywistego, bez dodatkowych problemów.

Jak GDPR i unijna ustawa o AI zaostrzają wymagania, jak te regulacje wpływają na sposób, w jaki przedsiębiorstwa projektują, monitorują i wdrażają agenty — i jak Orq.ai dostosowuje się do tego?

To nie jest tak, że te wymagania są nagle zaostrzane, one po prostu są częścią prawa, a nasi klienci muszą się im podporządkować. To, co robimy, to zapewnienie, że na całym cyklu życia dajemy zespołom odpowiednie narzędzia, oceniające i barierki, aby mogli budować zgodność od samego początku.

Upewniamy się, że rezydencja danych, prywatność danych, wszystko to jest wbudowane od samego początku. I z powodu napięć geopolitycznych i popytu na suwerenność technologiczną i AI w Europie, widzieliśmy duże zapotrzebowanie na to. Ponieważ możemy działać w pełni na terenie przedsiębiorstwa i pomóc im zmniejszyć zależność, jesteśmy w dobrej pozycji, aby im pomóc w utrzymaniu kontroli nad własnym losem.

Przedsiębiorstwa coraz częściej pytają o architektury gotowe do suwerenności i wdrożenia hybrydowe/na terenie przedsiębiorstwa. Co ten trend mówi o tym, dokąd zmierza infrastruktura AI przedsiębiorstw?

Każde przedsiębiorstwo i nawet każdy przypadek użycia obejmuje kompromisy. Chodzi o to, jak gotowe i bezpieczne musi być coś. Wspieramy każdy smak na tym spektrum. Ale to, co widzimy, to silny nacisk na suwerenność i rezydencję danych na poziomie modelu.

Klienci chcą jasności co do tego, gdzie ich dane mieszkają, i możliwości zmniejszenia zależności od dużych dostawców chmury. Dzięki naszej bramie AI, która działa na wszystkich głównych platformach chmury i na terenie przedsiębiorstwa, zespoły mogą łatwo podejmować te kompromisy w zależności od przypadku użycia. Mają elastyczność, aby pozostać w kontroli i przechodzić bezproblemowo między środowiskami.

Widzimy ogromny wzrost popytu ze strony większych przedsiębiorstw i instytucji sektora publicznego.

Jak widzisz ewolucję przepływów pracy wielu agentów, barier bezpieczeństwa i bardziej zaawansowanych systemów rozumowania, gdy przedsiębiorstwa przechodzą od eksperymentów do prawdziwej industrializacji agentów w 2026 roku?

Gdy użycie agentów naprawdę się upowszechni, widzimy nowe rodzaje problemów, szczególnie w przypadku ustawień wielu agentów. Możesz mieć dziesiątki lub nawet setki agentów działających w Twojej organizacji w dowolnym momencie, tak jak pracownicy.

Pytanie brzmi: jak zarządzasz nimi wszystkimi, gdy masz ten wielowymiarowy zestaw problemów, takich jak koszty, jakość danych, rezydencja danych, poprawność, metryki hallucynacji itd.? Potrzebujesz nowej warstwy zarządzania, aby rozwiązać ten problem, i potrzebujesz barier bezpieczeństwa, które mogą być wdrożone od góry do dołu.

Potrzebujesz również widoczności od góry do dołu i nowych warstw agregacji, aby Twojemu CFO, COO, CISO mogli zobaczyć, co się dzieje, i interweniować z uzasadnionymi wglądami. Naprawdę uważamy, że w 2026 roku ten cały „departament agentów” i technologia, która go wspiera, staną się znacznie gorętszym tematem.

Agent drift, regresja jakości i niejasne przepływy danych są powtarzającymi się problemami w produkcji AI. Jak warstwa kontrolna Orq.ai rozwiązuje te długotrwałe luki w wersjonowaniu, ocenianiu i monitorowaniu?

Każdy agent naprawdę potrzebuje własnego zestawu ocen. Te oceny definiują, co jest prawidłowe i nieprawidłowe dla tego konkretnego scenariusza. Poświęcając czas na odpowiednie ustawienie tych zestawów ocen, zespoły mogą lepiej prowadzić eksperymenty offline, aby zobaczyć, jak się zachowują, zanim pójdą na żywo. I potem, monitorując te same oceny online, mogą zobaczyć, kiedy modele dryfują lub kiedy zachowanie agenta zaczyna się zmieniać w czasie. W ten sposób masz spójny zestaw metryk jakości podczas testów offline, monitorowania online i barier bezpieczeństwa.

Spójrzając w przyszłość, co Twoim zdaniem będzie definiowało następną generację agentów AI na poziomie przedsiębiorstw — i jak Orq.ai pozycjonuje się, aby stać się domyślną platformą operacyjną dla tego świata?

Spójrzając w przyszłość, uważam, że to, co będzie definiowało następną generację agentów AI przedsiębiorstw, to fakt, że każdy dostawca będzie dostarczał własne agenty. W większych przedsiębiorstwach będzie to szeroki krajobraz pierwszych i trzecich agentów współpracujących ze sobą i wywołujących się nawzajem.

To nie będzie tylko jeden rodzaj agenta lub jeden dostawca; to będzie cały ekosystem, który potrzebuje zarządzania i zgodności. I to jest miejsce, w którym Orq.ai się pojawia. Pozycjonujemy się jako wieża kontrolna agenta, która daje różnym warstwom w organizacji odpowiednią agregowaną perspektywę i uzasadnione wglądy, aby interweniować na każdym etapie.

Niezależnie od tego, czy chodzi o budowanie, skalowanie, eksploatowanie, czy nawet wycofywanie agentów, różne funkcje będą potrzebować różnych widoków na ten krajobraz. I my będziemy dostawcą tej funkcjonalności.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić orq.ai.