BoolSi získala 6 milionů dolarů na transformaci softwaru na custom silicon pomocí AI

Hardware akcelerace slibovala dramatické zlepšení výkonu, ale přístup k těmto zlepšením tradičně vyžadoval specializované znalosti v oblasti návrhů čipů. Startup BoolSi se sídlem v Bostonu chce změnit tuto rovnici. Společnost oznámila seed kolo ve výši 6 milionů dolarů vedené firmou Fine Structure Ventures, se účastí Pillar VC, Fifth Quarter Ventures a Coalition Ventures, zatímco pracuje na tom, aby custom hardwarová akcelerace byla dostupná pro vývojáře softwaru.

Financování bude podporovat spuštění soukromé bety BoolSi později v tomto roce a urychlit vývoj platformy, která automaticky převádí software na hardwarové akcelerátory běžící na Field Programmable Gate Arrays (FPGAs), bez nutnosti, aby inženýři se učí hardwarové popisovací jazyky nebo tradiční pracovní postupy návrhu čipů.

Přepisování cesty od kódu k hardwaru

V srdci přístupu BoolSi je jednoduchá myšlenka: vývojáři softwaru by měli být schopni dosáhnout hardwarových zlepšení výkonu bez toho, aby se stali inženýry hardwaru.

Místo překladu zdrojového kódu řádek po řádku do digitálních obvodů, BoolSi trénuje modely strojového učení, aby se naučily chování programu. Jakmile systém pochopí transformaci mezi vstupy a výstupy, neuronová síť se smrští do plně digitálního obvodu, který lze analyzovat, ověřit a optimalizovat pomocí stávajících nástrojů pro návrh čipů. Podle společnosti je výsledný hardware přesnější implementací chování původního kódu.

Společnost popisuje tuto novou kompilační vrstvu, která se nachází mezi softwarem a křemíkem. Vývojáři identifikují výpočetní hotspot v jazycích C, C++ nebo jiných podporovaných jazycích a BoolSi generuje custom hardwarový akcelerátor spolu s požadovanými nasazenými artefakty. Výsledkem je ko-procesor přizpůsobený speciálně pro tuto zátěž.

Proč FPGAs záleží

Počáteční zaměření BoolSi je na FPGAs, kategorii rekonfigurovatelných čipů, které lze přizpůsobit po výrobě. FPGAs se staly stále důležitějšími v robotice, edge AI a vestavěných systémech, protože mohou spouštět specializované úkoly s mnohem nižší latencí a spotřebou energie než tradiční procesory.

Navzdory jejich výhodám, vývoj FPGAs zůstává pro většinu softwarových týmů obtížný. Stávající nástroje často vyžadují znalosti hardwarových popisovacích jazyků, jako je Verilog nebo VHDL, což vytváří strmou křivku učení, která omezuje přijetí. BoolSi se snaží odstranit tuto bariéru úplně, aby pohlížel na generování hardwaru jako na kompilační problém, nikoli na hardwarový návrhový problém.

Od měsíců inženýrství k odpoledni

Jedním z nejpozoruhodnějších příkladů společnosti je 10 000 řádkový C knihovna regulárních výrazů, která identifikuje e-mailové adresy v textovém proudu. Během spuštění na procesoru ARM Cortex-A9 dokončila zátěž za 2,66 milisekund. Kompilovaná do hardwarového akcelerátoru generovaného BoolSi, doba spuštění klesla na 0,325 milisekund. Použití osmi paralelních hardwarových agentů snížilo latenci dále na 0,042 milisekund, což představuje 63násobné zlepšení oproti základnímu CPU.

Robotika a vestavěné systémy jako první

BoolSi se最初 zaměřuje na vývojáře vestavěných systémů pracujících v robotice, kde latence, energetická efektivita a výkon v reálném čase často určují, zda produkt uspěje. Aplikace, jako je fúze senzorů, řízení motorů, odhad toku optického toku a modelově prediktivní řízení, jsou přirozenými kandidáty pro hardwarovou akceleraci.

Cílem společnosti je podstatně větší. Představuje si budoucnost, ve které každý CPU je spárován s rekonfigurovatelnou logikou, která může být přizpůsobena pro zátěže běžící vedle něj. Jakmile se AI-pomocný vývoj softwaru bude nadále snižovat čas potřebný k vytváření aplikací, BoolSi tvrdí, že další velký skok v produktivitě může pocházet z automatického převodu těchto aplikací na specializovaný hardware.

Pokud se tato vize ukáže jako proveditelná, rozlišení mezi softwarovým inženýrstvím a hardwarovým inženýrstvím by mohlo být mnohem méně rigidní, než je tomu dnes. Prozatím se společnost zaměřuje na prokázání, že custom křemík může být stejně dostupný jako psaní kódu.