Případ pro decentralizaci vaší technologické sady AI

Tolik konverzace o vývoji AI se stala dominantní díky futuristické a filozofické debatě – měli bychom se zaměřit na obecnou umělou inteligenci, kde se AI stane dostatečně pokročilou na to, aby mohla provádět jakoukoli úlohu stejně jako člověk? Je to vůbec možné?

Zatímco diskuse o urychlení versus zpomalení je důležitá a aktuální s pokroky, jako je model Q-star, další aspekty také záleží. Hlavně, důležitost decentralizace vaší technologické sady a jak to udělat bez toho, aby to bylo příliš nákladné. Tyto dvě výzvy mohou vypadat jako protiklad: budování a nasazování modelů je neuvěřitelně drahé, ale přílišná závislost na jednom modelu může být škodlivá v dlouhodobém horizontu. Znám tuto výzvu osobně jako zakladatel AI.

Abyste mohli vybudovat inteligenci, potřebujete talent, data a škálovatelný výpočet. Abyste urychlili dobu uvedení na trh a mohli dělat více s méně, mnoho společností zvolí budování na základě stávajících modelů, spíše než budování od základu. A tento přístup má smysl, když to, co stavíte, je tak náročné na zdroje. Tento problém je ještě více zhoršován tím, že na rozdíl od softwaru většina pokroků v AI dosud byla dosažena přidáním více škály, což vyžaduje více výpočetní síly a tedy nákladů.

Ale co se stane, když společnost, ve které jste postavili své řešení, zažije selhání řízení nebo výpadek produktu? Z praktického hlediska závislost na jediném modelu pro stavbu vašeho produktu znamená, že jste nyní součástí negativního efektu dominó pro cokoliv, co se stane.

Musíme si také uvědomit rizika spojená s prací se systémy, které jsou pravděpodobnostní. Není nám zvykem a svět, ve kterém žijeme, byl dosud navržen a vytvořen tak, aby fungoval s definitivní odpovědí. Modely jsou tekuté z hlediska výstupu a společnosti neustále upravují modely, což znamená, že kód, který jste napsali pro podporu těchto a výsledků, na které se vaše zákazníci spoléhají, se může změnit bez vašeho vědomí nebo kontroly.

Centralizace také vytváří bezpečnostní obavy, protože zavádí jeden bod selhání. Každá společnost pracuje ve svém nejlepším zájmu. Pokud existuje bezpečnostní nebo riziko spojené s modelem, máte mnohem méně kontroly nad opravou tohoto problému nebo méně přístupu k alternativám.

Kam nás to vede?

AI bezpochyby verbessí, jak žijeme. Existuje tolik věcí, které je schopno dosáhnout a vyřešit, od toho, jak shromažďujeme informace, až po to, jak chápeme obrovské množství dat. Ale s touto příležitostí také přichází riziko. Pokud se příliš spoléháme na jeden model, všechny společnosti se vystavují bezpečnostním a produktovým výzvám.

Abyste tohle vyřešili, musíme snížit náklady na inferenci a učinit pro společnosti snazší mít přístup k více modelům. A samozřejmě, všechno se točí kolem dat. Data a vlastnictví dat budou záležet. Čím více unikátních, kvalitních a dostupných dat, tím více budou užitečná.

Pro mnoho problémů můžete optimalizovat modely pro konkrétní aplikaci. Poslední míle AI jsou společnosti, které staví logiku směrování, hodnocení a orchestrace vrstev na základě různých modelů, specializujících se na různé vertikály.

Byly provedeny mnohé podstatné investice v tomto prostoru, které nás přivádějí blíže k tomuto cíli. Nedávné (a působivé) kolo financování Mistal je slibný vývoj směrem k alternativě OpenAI. Existují také společnosti, které pomáhají jiným poskytovatelům AI udělat cross-model multiplexing realitou a snižují náklady na inferenci prostřednictvím specializovaného hardwaru, softwaru a modelové destilace, jako několik příkladů.

Také uvidíme, jak se otevřený zdroj rozvine, a vládní orgány musí povolit otevřený zdroj, aby zůstal otevřený. S otevřenými modely je snazší mít více kontroly. Avšak mezery ve výkonu jsou stále tam.

Předpokládám, že skončíme ve světě, kde budete mít juniorské modely optimalizované pro provádění méně složitých úkolů ve velkém měřítku, zatímco větší superinteligentní modely budou fungovat jako oracle pro aktualizace a budou stále více využívat výpočetní sílu pro řešení složitějších problémů. Není třeba mít model s trillionem parametrů, aby jste mohli odpovědět na žádost zákaznické služby. Líčím to jako nemít seniora manažera, který spravuje úkol, který může zvládnout stážista. Stejně jako máme mnoho rolí pro lidské protějšky, většina společností se také bude spoléhat na sbírku modelů s různými úrovněmi sofistikovanosti.

Abyste mohli dosáhnout této rovnováhy, potřebujete jasný rozbor úkolů a benchmarking, zvažující čas, výpočetní složitost, náklady a požadovanou škálu. V závislosti na použití můžete priorizovat odpovídajícím způsobem. Určete základní pravdu, ideální výsledek pro srovnání, a příklad vstupních a výstupních dat, abyste mohli spustit různé podněty pro optimalizaci a získat nejbližší výsledek k základní pravdě.

Pokud společnosti AI mohou úspěšně decentralizovat svou technologickou sadu a stavět na více modelech, můžeme zlepšit bezpečnost a spolehlivost těchto nástrojů a tím maximalizovat pozitivní dopad AI. Už jsme nejsou v místě pro teoretické debaty – je čas se zaměřit na to, jak použít AI k tomu, aby tyto technologie byly účinnější a odolnější.