Backboard.io onthult AI-infrastructuurstack met focus op efficiëntie, ondernemingscontrole en soevereine implementatie

Omdat organisaties haast hebben om kunstmatige intelligentie te adopteren, is het gesprek steeds meer verschoven van de pure prestatie van modellen naar een meer praktische vraag: hoe kunnen ondernemingen AI tegen lagere kosten uitvoeren zonder de controle over hun gegevens te verliezen? Het in Ottawa gevestigde Backboard.io gelooft dat het antwoord niet ligt in steeds grotere GPU-clusters, maar in het aanzienlijk efficiënter maken van de bestaande AI-infrastructuur.

Op Canada Day introduceerde het bedrijf vier belangrijke technologieën die modelcompressie, AI-geassisteerde softwareontwikkeling, multi-model AI-toegang en langetermijngeheugen voor AI omvatten. Hoewel de aankondiging de Canadese roots van het bedrijf benadrukt, gaat het bredere verhaal over infrastructuur die is ontworpen voor ondernemingen die AI-kosten willen verlagen en gevoelige workloads binnen hun eigen omgevingen willen houden.

Bestaande GPUs verder helpen

Misschien wel de meest technisch significante aankondiging is BackboardQuant (BBQ), een modelcompressietechnologie die volgens het bedrijf de grootte van AI-modellen tot 70% kan verkleinen terwijl de uitvoerkwaliteit nagenoeg identiek blijft.

Modelcompressie is een steeds belangrijker onderzoeksgebied voor AI geworden, omdat organisaties worstelen met de stijgende kosten van inferentie. Kleinere modellen verbruiken minder geheugen, vereisen minder hardwarebronnen en kunnen vaak sneller worden uitgevoerd, waardoor organisaties geavanceerde modellen kunnen implementeren zonder hun GPU-capaciteit voortdurend uit te breiden.

Volgens Backboard.io toont intern testen aan dat BBQ tot 2,7 keer snellere inferentie kan leveren, waardoor een enkele GPU werk kan doen dat anders meerdere accelerators zou vereisen. In plaats van bestaande basismodellen te vervangen, is de technologie ontworpen om ze voor productie-implementaties te optimaliseren.

Concurreren in AI-geassisteerde softwareontwikkeling

Het bedrijf introduceerde ook Backboard Studio, een AI-codingplatform dat rechtstreeks op een van de meest concurrerende AI-markten is gericht.

In plaats van een eigen frontier-taalmodel te ontwikkelen, volgt Backboard een andere architectuurbenadering. Het platform is gebouwd op bestaande modellen en probeert efficiëntie te verbeteren door orkestratie, contextbeheer, recursieve workflows en tokenoptimalisatie. Ontwikkelaars kunnen kiezen uit toonaangevende commerciële modellen of open-sourcealternatieven, terwijl het platform projectcontext, workflowuitvoering en productiegerichte codegeneratie beheert.

Backboard beweert dat het platform benchmarkresultaten behaalt die concurreren met toonaangevende coding-assistenten, terwijl het tokengebruik tot 30% vermindert, een steeds belangrijker overweging voor ondernemingen die AI-bederingskosten proberen te beheren.

Het bedrijf benadrukt ook de flexibiliteit van ondernemingsimplementatie. Backboard Studio kan zowel als cloudservice als binnen de infrastructuur van een onderneming worden uitgevoerd, waardoor propriëtaire broncode binnen de ondernemingsomgeving kan blijven in plaats van naar externe AI-aanbieders te worden verzonden.

Nash consolideert duizenden AI-modellen

Een derde onderdeel van de aankondiging is Nash, een unified chat-applicatie die toegang biedt tot duizenden tekst- en afbeeldingsAI-modellen via een enkele interface.

Het concept adresseert een groeiende ondernemingszorg die bekend staat als “shadow AI”, waarbij medewerkers onafhankelijk consumenten-AI-hulpmiddelen buiten goedgekeurde bedrijfssystemen adopteren. In plaats van AI-gebruik te blokkeren, positioneert Backboard Nash als een gecentraliseerd platform dat ondernemingen toegang biedt tot een breed scala aan modellen, terwijl het governance over gebruikersgegevens en ondernemingsgeheugen behoudt.

De onderliggende infrastructuur ondersteunt ook Bring Your Own Key (BYOK), adaptief contextbeheer en routing over duizenden beschikbare modellen via een enkel platform.

Geheugen behandelen als AI-infrastructuur

Een van de definiërende technische focuspunten van Backboard sinds de lancering is persistent AI-geheugen.

Grote taalmodellen blijven fundamenteel staatloos, wat betekent dat conversaties, voorkeuren en historische context meestal verdwijnen, tenzij ontwikkelaars extra infrastructuur rondom hen bouwen. Backboard heeft zichzelf gepositioneerd als een toegewijd geheugenlaag die werkt over verschillende AI-modellen en -toepassingen, in plaats van gebruikers te binden aan een enkel ecosysteem.

Het bedrijf zegt dat het geheugensysteem momenteel eerste staat op zowel de LoCoMo- als de LongMemEval-benchmark, twee breed gerefereerde evaluaties die langetermijnredenering en persistent geheugenprestaties meten. Eerder dit jaar beschreef Backboard geheugen als fundamenteler infrastructuur in plaats van slechts een extra functie die op bestaande modellen is gebouwd.

Deze architectuur stelt ondernemingen in staat om gebruikersgeschiedenis, voorkeuren en contextuele kennis te behouden, zelfs wanneer ze tussen verschillende taalmodellen schakelen.

AI die binnen ondernemingsgrenzen blijft

Over alle vier aankondigingen heen, komt een consistente ontwerpfilosofie naar voren: ondernemingen willen AI-systemen die onder hun eigen governance opereren.

Backboard’s platform kan binnen de particuliere cloud van een klant worden geïmplementeerd, waardoor ondernemingen de eigendom van hun gegevens kunnen behouden terwijl ze moderne AI-mogelijkheden gebruiken. Deze benadering is met name relevant voor branches die gevoelige informatie verwerken, zoals de gezondheidszorg, financiële dienstverlening, overheid en kritieke infrastructuur, waar regelgevingsvereisten vaak de gebruiken van extern gehoste AI-diensten beperken.

In plaats van soevereiniteit uitsluitend als een nationale kwestie te beschouwen, richt de architectuur van het bedrijf zich op ondernemingscontrole – modellen, geheugen en toepassingsgegevens binnen klantbeheerde omgevingen houden.

Een groeiend Canadees AI-infrastructuurverhaal

Hoewel een groot deel van het mondiale AI-gesprek nog steeds is gericht op de ontwikkelaars van foundation-modellen in Silicon Valley, vertegenwoordigt Backboard een andere categorie van AI-bedrijven die aan kracht wint: infrastructuurbouwers die bestaande modellen praktischer maken voor productieomgevingen.

Opgericht door Rob Imbeault, eerder medeoprichter van het Canadese supply chain softwarebedrijf Assent, heeft Backboard zich gericht op het verbeteren van de economie en operationele kenmerken van ondernemings-AI, in plaats van te concurreren om het volgende frontier-taalmodel te bouwen. Eerder dit jaar haalde het bedrijf een pre-seed financieringsronde op om zijn AI-infrastructuurplatform verder te ontwikkelen.

Naarmate ondernemings-AI volwassener wordt, kunnen technologieën die inferentiekosten verlagen, geheugen verbeteren, multi-model-implementatie vereenvoudigen en zelf-gehoste AI-omgevingen mogelijk maken, steeds belangrijker worden naast de vooruitgang in modelmogelijkheden. De recente releases van Backboard weerspiegelen die bredere verschuiving – van het bouwen van steeds grotere modellen naar het bouwen van infrastructuur die ondernemingen helpt om meer waarde te halen uit de modellen die ze al gebruiken.