Modiqo pozyskał 3 miliony dolarów, aby uczynić przepływy pracy AI w przedsiębiorstwach bardziej niezawodnymi

Agenci AI stały się niezwykle dobrzy w demonstracjach. Trudniejszym wyzwaniem jest rozpoczęcie pracy po wdrożeniu, kiedy przepływy pracy są przerywane, ponieważ model zmienia zachowanie, interfejs API ulega zmianie lub warstwa orchestracji awaryjnie przestaje działać. To właśnie problem niezawodności operacyjnej jest celem Modiqo z jego nowo ogłoszonym rundą pre-seed o wartości 3 milionów dolarów.

Rundę finansowania współprowadzili Heavybit i Seligman Ventures, z udziałem Irregular Expressions i aniołów inwestorów. Firma twierdzi, że finansowanie wesprze wdrożenie Rote, warstwy wykonawczej zaprojektowanej w celu uczynienia przepływów pracy AI deterministycznymi i powtarzalnymi w środowiskach produkcyjnych.

Według założyciela i dyrektora generalnego Modiqo, Chetana Conikee, przedsiębiorstwa zbyt dużo czasu poświęcają na odbudowę przepływów pracy AI, które wcześniej działały, ale później zawiodły z powodu zmian w podstawowych systemach. Zamiast wielokrotnie nakazywać modelom odkrywanie tego samego zachowania, Rote próbuje zachować pomyślne ścieżki wykonawcze i odtwarzać je w sposób ciągły.

Rosnący problem niezawodności w przedsiębiorstwach AI

W ciągu ostatniego roku przedsiębiorstwa przyspieszyły eksperymenty z agentami AI na potrzeby automatyzacji wewnętrznej, przetwarzania danych, operacji oprogramowania i zadań skierowanych do klientów. Jednak wiele organizacji odkrywa, że niezawodność, a nie surowa zdolność modelu, staje się najbardziej istotną operacyjną wąskim gardłem.

Tradycyjne przepływy pracy AI często opierają się silnie na inferencji probabilistycznej na każdym etapie. Ta elastyczność może być przydatna podczas eksperymentów, ale również wprowadza nieprzewidywalność, gdy systemy są oczekiwane do ciągłej pracy w skali.

Podejście Modiqo koncentruje się na przekształcaniu udanych wykonań AI w ponownie wykorzystywane przepływy pracy deterministyczne. Zamiast wielokrotnie wysyłać duże prompty i okna kontekstowe przez potoki inferencyjne, firma celuje w zachowanie zwalidowanego logicznego wykonawczego i ponowne jego wykorzystanie, gdy jest to możliwe.

Strategia ta jest zgodna z szerszym ruchem pojawiającym się w infrastrukturze przedsiębiorstw AI. Coraz więcej firm szuka hybrydowych systemów, które łączą elastyczność LLM z warstwami orchestracji deterministycznej, które zapewniają audytowalność, powtarzalność i niższe koszty operacyjne.

Co tak naprawdę robi Rote

Rote działa jako lokalna warstwa wykonawcza, która obserwuje pomyślne zachowanie agenta i konwertuje te akcje w powtarzalne procesy. Platforma jest zaprojektowana w celu integracji z istniejącymi narzędziami przedsiębiorstwa, minimalizując potrzebę drogiej pracy inżynieryjnej.

Według Modiqo, system koncentruje się na czterech kluczowych obszarach:

• Powtarzalność w przypadku zmiany modeli AI i interfejsów API
• Ponowne wykorzystanie przepływów pracy w celu redukcji zużycia tokenów
• Widoczność historii wykonawczej i kosztów operacyjnych
• Łatwiejsza integracja z istniejącymi systemami przedsiębiorstwa

Jednym z centralnych argumentów firmy jest to, że przedsiębiorstwa przepłacają za inferencję, ponieważ systemy AI wielokrotnie rozwiązują problemy, które już wcześniej zostały rozwiązane. Poprzez przechwytywanie pomyślnych wzorców wykonawczych, Modiqo uważa, że organizacje mogą znacznie zmniejszyć zużycie tokenów, jednocześnie poprawiając spójność.

To pojęcie minimalizowania „kosztów odkrywania” staje się coraz bardziej istotne, gdy przedsiębiorstwa spotykają się z rosnącymi kosztami inferencji związanymi z dużymi wdrożeniami agentów.

Inwestorzy widzą infrastrukturę jako następne pole bitwy AI

Inwestorzy wspierający Modiqo pozycjonują firmę nie tyle jako kolejną warstwę aplikacji AI, ale bardziej jako podstawową infrastrukturę dla systemów agentów produkcyjnych.

Joseph Ruscio opisał obecne pokolenie agentów AI jako imponujące w demonstracjach, ale niewiarygodne w środowiskach produkcyjnych. Argumentował, że jednym z głębszych problemów branży jest to, że większość wykonań agentów pozostaje efemeryczna, a nie staje się ponownie wykorzystywanymi artefaktami operacyjnymi.

Podobnie, Umesh Padval wskazał na niezawodność operacyjną jako największe nierozwiązane wyzwanie w przyjęciu AI w przedsiębiorstwach, szczególnie gdy organizacje próbują skalować systemy AI poza eksperymenty.

Nacisk na warstwy wykonawcze, a nie na inżynierię promptów, odzwierciedla również przesunięcie w krajobrazie infrastruktury AI. Wcześniejsze narzędzia przedsiębiorstw AI często koncentrowały się silnie na promptach i otoczce orchestracji. Coraz więcej uwagi kieruje się ku trwałości przepływów pracy, obserwowalności, zarządzaniu i kontroli kosztów.

Przedsiębiorstwa AI wkraczają w fazę operacyjną

Uruchomienie Rote następuje podczas szerszego przejścia w przyjęciu AI w przedsiębiorstwach. Wczesne cykle przyjęcia były dominowane przez eksperymenty i wdrożenia proof-of-concept. Wiele organizacji wkracza teraz w fazę, w której niezawodność operacyjna ma większe znaczenie niż nowość.

To przejście tworzy popyt na infrastrukturę, która może wspierać długotrwałe, audytowalne systemy AI, a nie jednorazowe interakcje z chatbotami.

Na swojej stronie internetowej Modiqo pozycjonuje Rote jako infrastrukturę dla „niezawodnych przepływów pracy agentów AI”, podkreślając spójność wykonawczą i własność operacyjną, a nie samodzielne zachowanie.

Czy warstwy wykonawcze deterministyczne staną się standardową częścią stosów AI przedsiębiorstw, pozostaje nieznane. Jednak wraz ze wzrostem kosztów tokenów i próbami operacjonalizacji agentów AI w skali, infrastruktura skupiona na powtarzalności i niezawodności staje się coraz bardziej jednym z centralnych obszarów inwestycji branży.