Modiqo strânge 3 milioane de dolari pentru a face fluxurile de lucru ale inteligenței artificiale mai fiabile

Agenții inteligenței artificiale au devenit remarabil de buni la demonstrații. Provocarea mai dificilă începe după implementare, când fluxurile de lucru se întrerup din cauza schimbării comportamentului unui model, a deplasării unei API sau a eșecului unui strat de orchestrare. Acea instabilitate operațională este problema pe care Modiqo o vizează cu rotunjirea recent anunțată de 3 milioane de dolari.

Rotunjirea a fost condusă de Heavybit și Seligman Ventures, cu participarea de la Irregular Expressions și investitori îngeri. Compania spune că finanțarea va sprijini lansarea Rote, stratul său de execuție proiectat pentru a face fluxurile de lucru ale inteligenței artificiale deterministice și reproductibile în medii de producție.

Conform fondatorului și directorului general al Modiqo, Chetan Conikee, întreprinderile cheltuie prea mult timp reconstruind fluxuri de lucru ale inteligenței artificiale care au funcționat anterior, dar ulterior au eșuat din cauza schimbărilor în sistemele subiacente. În loc de a provoca în mod repetat modelele să redescopere același comportament, Rote încearcă să păstreze căile de execuție reușite și să le reia în mod consecvent.

Crescândă problema de fiabilitate în inteligența artificială a întreprinderilor

În ultimul an, întreprinderile au accelerat experimentarea cu agenți de inteligență artificială pentru automatizarea internă, prelucrarea datelor, operațiunile software și sarcinile orientate către clienți. Cu toate acestea, multe organizații descoperă că fiabilitatea, mai degrabă decât capacitatea brută a modelului, devine gâtul de sticlă operațional definitiv.

Fluxurile de lucru tradiționale ale inteligenței artificiale depind adesea puternic de inferența probabilistică la fiecare etapă. Acea flexibilitate poate fi utilă în timpul experimentării, dar introduce și imprevizibilitate atunci când se așteaptă ca sistemele să funcționeze continuu la scară.

Abordarea Modiqo se concentrează pe convertirea execuțiilor reușite ale inteligenței artificiale în fluxuri de lucru deterministice reutilizabile. În loc de a trimite în mod repetat prompturi mari și ferestre de context prin conductele de inferență, compania își propune să păstreze logica de execuție validată și să o reutilizeze atunci când este posibil.

Strategia se aliniază cu o mișcare mai largă care apare în întreaga infrastructură a inteligenței artificiale a întreprinderilor. În mod din ce în ce mai mult, companiile caută sisteme hibride care combină flexibilitatea LLM cu straturi de orchestrare deterministice care oferă auditabilitate, reproductibilitate și costuri operaționale mai mici.

Ce de fapt Rote

Rote funcționează ca un strat de execuție local care observă comportamentul reușit al agentului și convertește acele acțiuni în procese reproductibile. Platforma este proiectată pentru a se integra cu instrumentele existente ale întreprinderii, minimizând nevoia de lucrări de inginerie personalizate scumpe.

Conform Modiqo, sistemul se concentrează pe patru domenii de bază:

• Reproductibilitatea pe modele și API schimbătoare de inteligență artificială
• Reutilizarea fluxurilor de lucru pentru a reduce consumul de tokenuri
• Vizibilitatea în istoricul execuției și costurile operaționale
• Integrarea mai ușoară în sistemele existente ale întreprinderii

Unul dintre argumentele centrale ale companiei este că întreprinderile cheltuie prea mult pe inferență, deoarece sistemele de inteligență artificială rezolvă în mod repetat probleme pe care le-au rezolvat deja anterior. Prin capturarea modelelor de execuție reușite, Modiqo consideră că organizațiile pot reduce semnificativ utilizarea tokenurilor, îmbunătățind în același timp coerența.

Același concept de minimizare a “costurilor de redescoperire” devine din ce în ce mai important pe măsură ce întreprinderile se confruntă cu cheltuieli de inferență în creștere legate de implementarea la scară largă a agenților.

Investitorii văd infrastructura ca următorul câmp de luptă al inteligenței artificiale

Investitorii care sprijină Modiqo poziționează compania mai degrabă ca o infrastructură fundamentală pentru sistemele de agenți de producție decât ca un alt strat de aplicație de inteligență artificială.

Joseph Ruscio a descris generația actuală de agenți de inteligență artificială ca fiind impresionantă la demonstrații, dar nefiabilă în medii de producție. El a argumentat că una dintre problemele mai profunde ale industriei este că majoritatea execuțiilor agenților rămân efemere, mai degrabă decât să devină artefacte operaționale reutilizabile.

În mod similar, Umesh Padval a subliniat fiabilitatea operațională ca provocarea nerezolvată majoră în adoptarea inteligenței artificiale a întreprinderilor, în special pe măsură ce organizațiile încearcă să scaleze sistemele de inteligență artificială dincolo de experimentare.

Accentul pe straturile de execuție, mai degrabă decât pe ingineria promptelor, reflectă de asemenea o schimbare în peisajul infrastructurii de inteligență artificială. Instrumentele anterioare de inteligență artificială ale întreprinderilor s-au concentrat adesea puternic pe prompte și învelișuri de orchestrare. În mod din ce în ce mai mult, atenția se mută spre durabilitatea fluxurilor de lucru, observabilitate, guvernanță și controlul costurilor.

Inteligența artificială a întreprinderilor intră în faza operațională

Lansarea Rote are loc în timpul unei tranziții mai largi în adoptarea inteligenței artificiale a întreprinderilor. Ciclurile de adoptare inițială au fost dominate de experimentare și implementări de demonstrație. Multe organizații intră acum într-o fază în care fiabilitatea operațională contează mai mult decât noutatea.

Această schimbare creează o cerere de infrastructură capabilă să susțină sisteme de inteligență artificială care rulează pe termen lung și care pot fi auditate, mai degrabă decât interacțiuni unice de chatbot.

Pe site-ul său, Modiqo prezintă Rote ca infrastructură pentru “fluxuri de lucru de inteligență artificială fiabile”, subliniind coerența execuției și proprietatea operațională, mai degrabă decât doar comportamentul autonom.

Compania argumentează că, în cele din urmă, întreprinderile au nevoie de sisteme care se comportă mai mult ca infrastructuri de software stabile decât experimente probabilistice.

Indiferent dacă straturile de execuție deterministice devin o parte standard a stivelor de inteligență artificială a întreprinderilor rămâne de văzut. Dar pe măsură ce costurile tokenurilor cresc și organizațiile încearcă să operaționalizeze agenți de inteligență artificială la scară, infrastructura axată pe reproductibilitate și fiabilitate devine din ce în ce mai mult una dintre principalele domenii de investiții ale industriei.