Liquid AI lanceert Liquid Foundation Models: een game-changer in generatieve AI

In een baanbrekende aankondiging heeft Liquid AI, een spin-off van het MIT, zijn eerste reeks Liquid Foundation Models (LFM’s) gelanceerd. Deze modellen, ontworpen vanuit de eerste principes, zetten een nieuwe standaard in de generatieve AI-ruimte, met ongeëvenaarde prestaties op verschillende schalen. LFM’s, met hun innovatieve architectuur en geavanceerde mogelijkheden, zijn klaar om industrieleidende AI-modellen, waaronder ChatGPT, uit te dagen.

Liquid AI is opgericht door een team van MIT-onderzoekers, waaronder Ramin Hasani, Mathias Lechner, Alexander Amini en Daniela Rus. Het bedrijf is gevestigd in Boston, Massachusetts, en heeft als missie om capabele en efficiënte algemene AI-systemen te creëren voor ondernemingen van alle maten. Het team heeft oorspronkelijk liquid neural networks gepionierd, een klasse van AI-modellen geïnspireerd door hersendynamica, en streeft ernaar om de mogelijkheden van AI-systemen uit te breiden op elke schaal, van edge-apparaten tot ondernemingsbrede implementaties.

Wat zijn Liquid Foundation Models (LFM’s)?

Liquid Foundation Models vertegenwoordigen een nieuwe generatie AI-systemen die hooguit efficiënt zijn in zowel geheugengebruik als rekenkracht. Gebouwd met een basis in dynamische systemen, signaalverwerking en numerieke lineaire algebra, zijn deze modellen ontworpen om verschillende soorten sequentiële gegevens – zoals tekst, video, audio en signalen – met opmerkelijke nauwkeurigheid te verwerken.

Liquid AI heeft drie primaire taalmodellen ontwikkeld als onderdeel van deze lancering:

• LFM-1B: een dicht model met 1,3 miljard parameters, geoptimaliseerd voor resource-beperkte omgevingen.
• LFM-3B: een model met 3,1 miljard parameters, ideaal voor edge-implementatiescenario’s, zoals mobiele applicaties.
• LFM-40B: een model met 40,3 miljard parameters, een Mixture of Experts (MoE)-model ontworpen om complexe taken met uitzonderlijke prestaties te verwerken.

Deze modellen hebben reeds state-of-the-art-resultaten gedemonstreerd op belangrijke AI-benchmarks, waardoor ze een formidabele concurrent zijn voor bestaande generatieve AI-modellen.

State-of-the-Art-prestaties

Liquid AI’s LFM’s leveren de beste prestaties in hun klasse op verschillende benchmarks. Zo overtreft LFM-1B transformer-gebaseerde modellen in zijn groottecategorie, terwijl LFM-3B concurreert met grotere modellen zoals Microsoft’s Phi-3.5 en Meta’s Llama-reeks. Het LFM-40B-model is, ondanks zijn grootte, efficiënt genoeg om modellen met nog grotere parameteraantallen te rivaliseren, waardoor het een unieke balans tussen prestaties en resource-efficiëntie biedt.

Enkele highlights van LFM-prestaties zijn:

• LFM-1B: domineert benchmarks zoals MMLU en ARC-C, en zet een nieuwe standaard voor 1B-parametermodellen.
• LFM-3B: overtreft modellen zoals Phi-3.5 en Google’s Gemma 2 in efficiëntie, terwijl het een kleine geheugenvoetafdruk behoudt, waardoor het ideaal is voor mobiele en edge-AI-toepassingen.
• LFM-40B: de MoE-architectuur van dit model biedt vergelijkbare prestaties met grotere modellen, met 12 miljard actieve parameters op elk moment.

Een nieuwe era in AI-efficiëntie

Een significante uitdaging in moderne AI is het beheersen van geheugen en berekening, vooral bij het werken met lange-contexttaken zoals documentensamenvatting of chatbot-interacties. LFM’s excelleren op dit gebied door invoergegevens efficiënt te compressen, waardoor het geheugengebruik tijdens inferentie wordt verlaagd. Dit stelt de modellen in staat om langere sequenties te verwerken zonder dure hardware-upgrades te vereisen.

Bijvoorbeeld biedt LFM-3B een 32k token context lengte – waardoor het een van de meest efficiënte modellen is voor taken die grote hoeveelheden gegevens tegelijk verwerken.

Een revolutionaire architectuur

LFM’s zijn gebouwd op een unieke architecturale framework, afwijkend van traditionele transformer-modellen. De architectuur is gecentreerd rond adaptieve lineaire operatoren, die berekening baseren op de invoergegevens. Deze aanpak stelt Liquid AI in staat om prestaties aanzienlijk te optimaliseren op verschillende hardware-platforms, waaronder NVIDIA (NVDA ), AMD, Cerebras (CBRS ) en Apple-hardware.

De ontwerpruimte voor LFM’s omvat een novelle combinatie van token-mixing en channel-mixing structuren die de manier verbeteren waarop het model gegevens verwerkt. Dit leidt tot superieure generalisatie- en redeneercapaciteiten, vooral bij lange-contexttaken en multimodale toepassingen.

Uitbreiding van de AI-grens

Liquid AI heeft grote ambities voor LFM’s. Naast taalmodellen werkt het bedrijf aan het uitbreiden van zijn foundation-modellen om verschillende gegevensmodaliteiten te ondersteunen, waaronder video, audio en tijdsreeksgegevens. Deze vooruitgang zal LFM’s in staat stellen om te schalen over meerdere industrieën, zoals financiële dienstverlening, biotechnologie en consumentenelektronica.

Het bedrijf is ook gefocust op het bijdragen aan de open science-gemeenschap. Hoewel de modellen zelf op dit moment niet open-source zijn, plant Liquid AI om relevante onderzoeksresultaten, methoden en datasets vrij te geven aan de bredere AI-gemeenschap, waardoor samenwerking en innovatie worden aangemoedigd.

Vroeg toegang en adoptie

Liquid AI biedt momenteel vroeg toegang tot zijn LFM’s via verschillende platforms, waaronder Liquid Playground, Lambda (Chat UI en API) en Perplexity Labs. Ondernemingen die cutting-edge AI-systemen in hun operaties willen integreren, kunnen de potentie van LFM’s verkennen op verschillende implementatie-omgevingen, van edge-apparaten tot on-premise-oplossingen.

Liquid AI’s open-science-aanpak moedigt vroege adoptanten aan om hun ervaringen en inzichten te delen. Het bedrijf zoekt actief naar feedback om zijn modellen te verfijnen en te optimaliseren voor echte toepassingen. Ontwikkelaars en organisaties die geïnteresseerd zijn in het onderdeel van deze reis te worden, kunnen deelnemen aan red-teaming-inspanningen en helpen Liquid AI zijn AI-systemen te verbeteren.

Conclusie

De lancering van Liquid Foundation Models markeert een significante vooruitgang in het AI-landschap. Met een focus op efficiëntie, adaptiviteit en prestaties, staan LFM’s klaar om de manier waarop ondernemingen AI-integratie benaderen, te herschikken. Naarmate meer organisaties deze modellen adopteren, zal Liquid AI’s visie van schaalbare, algemene AI-systemen waarschijnlijk een hoeksteen worden van de volgende era van kunstmatige intelligentie.

Als u geïnteresseerd bent in het verkennen van de potentie van LFM’s voor uw organisatie, nodigt Liquid AI u uit om contact op te nemen en deel te nemen aan de groeiende gemeenschap van vroege adoptanten die de toekomst van AI vormgeven.

Voor meer informatie, bezoek de officiële website van Liquid AI en start vandaag met experimenteren met LFM’s.