Myslitelé

Proč sophisticovanost zvítězí v sektoru Machine Learning Ops

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Neexistuje žádný pochyb o tom, že operace strojového učení (MLOps) je rostoucí sektor. Trh by měl dosáhnout 700 milionů dolarů do roku 2025 – téměř čtyřnásobku toho, co to bylo v roce 2020.

Přesto, zatímco technicky správné a silné, tyto řešení nevytvořila očekávané příjmy, což vyvolalo obavy o budoucí růst.

Můžu pochopit pesimismus, který obklopuje tento prostor, protože jsem strávil prvních 20 let své kariéry budováním interních nástrojů MLOps ve vysoce respektované investiční manažerské firmě. Nedávno jsem investoval do startupů MLOps, ale byly pomalé v dosažení úrovně příjmů, kterou bych očekával. Na základě svých pozitivních i negativních zkušeností s MLOps rozumím, proč tyto startupy bojují a proč jsou nyní připraveny k růstu.

Nástroje MLOps jsou kritické pro společnosti, které nasazují datové modely a algoritmy. Pokud vyvíjíte software, potřebujete nástroje, které vám umožňují diagnostikovat a předpovídat problémy se softwarem, které by vám mohly způsobit ztrátu významných příjmů kvůli jeho selhání. Totéž platí pro společnosti, které budují datové řešení. Pokud nemáte dostatečné nástroje MLOps pro hodnocení modelů, monitorování dat, sledování posunu parametrů a výkonu modelů a sledování předpovězeného versus skutečného výkonu modelů, pravděpodobně byste neměli používat modely v produkčních kritických úkolech.

Nicméně, společnosti nasazující řešení řízená strojovým učením bez hlubokých znalostí a zkušeností nerozpoznávají potřebu více sofistikovaných nástrojů a nerozumí hodnotě nízkoúrovňové technické integrace. Jsou více pohodlné s nástroji, které operují na externalitách, i když jsou méně efektivní, protože jsou méně invazivní a představují nižší náklady na přijetí a riziko, pokud nástroje nefungují.

Naopak, společnosti s týmy strojového učení, kteří mají hlubší znalosti a zkušenosti, se domnívají, že mohou tyto nástroje postavit sami a nechtějí přijmout třetí strany. Kromě toho problémy, které vyplývají z nedostatků nástrojů MLOps, nejsou vždy snadno identifikovatelné nebo diagnostikovatelné – objevují se jako modelovací versus operační selhání. Výsledkem je, že společnosti nasazující řešení řízená strojovým učením, ať už technicky sofistikované nebo nezkušené, byly pomalé v přijetí.

Ale věci začínají měnit. Společnosti nyní rozpoznávají hodnotu sofistikovaných, hluboce integrovaných nástrojů MLOps. Buď zkušenosti s problémy, které vyplývají z absence těchto nástrojů, nebo viděli, jak jejich konkurenti trpí jejich absencí v mnoha vysokoprofilových selháních, a nyní jsou nuceni se učit o složitějších řešeních MLOps.

Ty společnosti MLOps, které přežily zimní období příjmů, by měly vidět oteplení trhu a růst prodejních příležitostí.

Společnosti prodávající povrchní řešení začnou ztrácet podnikání pro více integrovaná řešení, která jsou těžší na pochopení a přijetí, ale poskytují více monitorovacích, ladících a opravárenských služeb pro své zákazníky. Vývojáři softwaru MLOps by měli zachovat víru, že budování silného softwaru, který řeší problémy hlubším a komplexnějším způsobem, zvítězí v dlouhodobém horizontu nad jednoduchými řešeními, která poskytují okamžité výsledky, ale nevyřeší plnou šíři problémů, se kterými se jejich zákazníci potýkají.

David Magerman je spoluzakladatel a managing partner ve firmě Differential Ventures. Předtím strávil celou svou kariéru v Renaissance Technologies. Magerman má doktorát z počítačových věd na Stanford University.