Modiqo získává 3 miliony dolarů na zlepšení spolehlivosti pracovních postupů podnikového umělého inteligence

Agenti umělé inteligence se stali pozoruhodně dobrými v demonstracích. Těžší výzva začíná po nasazení, kdy se pracovní postupy rozpadají, protože se změní chování modelu, změní se API nebo selže vrstva orchestrace bez hlášení. Touto provozní nestabilitou se zabývá Modiqo se svou nově oznámenou před-seedovou investicí ve výši 3 milionů dolarů.

Kolotoč financování vedly Heavybit a Seligman Ventures, se zapojením Irregular Expressions a andělskými investory. Společnost uvádí, že financování podpoří spuštění Rote, jeho vrstvy pro provádění, která je navržena tak, aby dělala pracovní postupy umělé inteligence deterministické a opakované ve výrobních prostředích.

Podle zakladatele a generálního ředitele Modiqo Chetana Conikee společnosti příliš mnoho času tráví přestavbou pracovních postupů umělé inteligence, které dříve fungovaly, ale později selhaly kvůli změnám v základních systémech. Místo opakovaného podněcování modelů k opětovnému objevování stejného chování se Rote snaží zachovat úspěšné prováděcí cesty a přehrávat je konzistentně.

Rostoucí problém spolehlivosti v podnikovém umělé inteligenci

V průběhu minulého roku podniky urychlovaly experimentování s agenty umělé inteligence pro interní automatizaci, zpracování dat, softwarové operace a úkoly zákazníků. Mnoho organizací však zjišťuje, že spolehlivost, spíše než surová schopnost modelu, se stává definujícím provozním úzkým místem.

Tradiční pracovní postupy umělé inteligence často závisí silně na pravděpodobnostním odvozování na každé etapě. Tato flexibilita může být užitečná během experimentování, ale také zavádí nepředvídatelnost, když se systémy očekávají, že budou fungovat nepřetržitě v měřítku.

Přístup Modiqo spočívá v převodu úspěšných vykonání umělé inteligence na opakované deterministické pracovní postupy. Místo opakovaného zasílání velkých podnětů a kontextových oken prostřednictvím inferenčních potrubí se společnost snaží zachovat ověřenou logiku provádění a znovu ji použít, kdykoli je to možné.

Tato strategie se shoduje s širším hnutím, které se objevuje v infrastruktuře podnikového umělého inteligence. Společnosti stále více hledají hybridní systémy, které kombinují flexibilitu velkých jazykových modelů s deterministickými vrstvami orchestrace, které poskytují auditovatelnost, opakovanost a nižší provozní náklady.

Co Rote vlastně dělá

Rote funguje jako místní vrstva pro provádění, která pozoruje úspěšné chování agenta a převádí tato jednání na opakované procesy. Platforma je navržena tak, aby se integrovala s existujícími podnikovými nástroji, zatímco minimalizuje potřebu drahého vlastního inženýrského díla.

Podle Modiqo se systém zaměřuje na čtyři hlavní oblasti:

• Opakovanost napříč měnícími se modely umělé inteligence a API
• Opakované použití pracovních postupů pro snížení spotřeby tokenů
• Přehled o historii provádění a provozních nákladech
• Snadnější integrace do stávajících podnikových systémů

Jednou z hlavních argumentů společnosti je, že podniky přeplácí za inferenci, protože systémy umělé inteligence opakovaně řeší problémy, které již dříve vyřešily. Zachycením úspěšných vzorců provádění se Modiqo domnívá, že organizace mohou výrazně snížit spotřebu tokenů a zároveň zlepšit konzistenci.

Tento koncept minimalizace nákladů na “znovuobjevení” se stává stále důležitějším, protože podniky čelí rostoucím nákladům na inferenci spojeným s nasazením velkých agentů.

Investoři považují infrastrukturu za další bitevní pole umělé inteligence

Investoři, kteří podporují Modiqo, позиcionují společnost méně jako další aplikaci vrstvy umělé inteligence a více jako základní infrastrukturu pro systémy agentů ve výrobě.

Joseph Ruscio popsal současnou generaci agentů umělé inteligence jako působivou v demonstracích, ale nespolehlivou ve výrobních prostředích. Argumentoval, že jedním z hlubších problémů odvětví je, že většina vykonání agentů zůstává efemérní spíše než se stává opakovanými provozními artefakty.

Podobně Umesh Padval poukázal na provozní spolehlivost jako na největší nevyřešený problém v podnikovém přijetí umělé inteligence, zejména když se organizace snaží škálovat systémy umělé inteligence za hranice experimentování.

Důraz na vrstvy pro provádění spíše než na inženýrství podnětů také odráží posun v krajině infrastruktury umělé inteligence. Dřívější podniková nástroje pro umělou inteligenci se často soustředily silně na podněty a obálky orchestrace. Pozornost se stále více zaměřuje na trvanlivost pracovních postupů, pozorovatelnost, správu a kontrolu nákladů.

Podniková umělá inteligence vstupuje do své provozní fáze

Spuštění Rote se shoduje s širším přechodem v podnikovém přijetí umělé inteligence. Rané cykly přijetí byly dominovány experimentováním a nasazením prokazujícím koncept. Mnoho organizací nyní vstupuje do fáze, ve které provozní spolehlivost znamená více než novinka.

Tento posun vytváří poptávku po infrastruktuře, která je schopna podporovat dlouhodobě běžící, auditovatelné systémy umělé inteligence, spíše než jednorázové interakce chatbotů.

Na svém webu Modiqo позиcionuje Rote jako infrastrukturu pro “spolehlivé pracovní postupy agentů umělé inteligence”, zdůrazňující konzistenci provádění a provozní vlastnictví spíše než autonomní chování samotné. Společnost argumentuje, že podniky nakonec potřebují systémy, které se chovají více jako stabilní softwarová infrastruktura než jako probabilistické experimenty.

Ještě není jasné, zda deterministické vrstvy pro provádění se stanou standardní součástí podnikových zásobníků umělé inteligence. Ale když náklady na tokeny rostou a organizace se snaží provozovat agenty umělé inteligence ve velkém měřítku, infrastruktura zaměřená na opakovanost a spolehlivost se stále více stává jednou z hlavních oblastí investic.