Liquid AI julkaisee Liquid Foundation Modelsin: uranuurtaja generatiivisessa tekoälyssä

Murroksellisessa ilmoituksessa Liquid AI, MIT:n spin-off, on esitellyt ensimmäisen Liquid Foundation Models (LFM) -sarjansa. Nämä mallit, jotka on suunniteltu alusta alkaen, asettavat uuden standardin generatiivisessa tekoälyssä, tarjoten vertaamattoman suorituskyvyn eri mittakaavoissa. LFM:t, joilla on innovatiivinen arkkitehtuuri ja edistyneet ominaisuudet, ovat valmiit haastamaan alan johtavat tekoälymallit, mukaan lukien ChatGPT.

Liquid AI perustettiin MIT:n tutkijaryhmän toimesta, johon kuuluvat Ramin Hasani, Mathias Lechner, Alexander Amini ja Daniela Rus. Yrityksen päämaja sijaitsee Bostonissa, Massachusettsissa, ja sen tehtävänä on luoda kykyisiä ja tehokkaita yleiskäyttöisiä tekoälyjärjestelmiä kaiken kokoisille yrityksille. Tiimi kehitti alun perin nestemäiset hermoverkot, tekoälymallien luokan, joka on inspiroitu aivojen dynamiikasta, ja nyt pyrkii laajentamaan tekoälyjärjestelmien ominaisuuksia kaikilla tasoilla, älylaitteista yritysasteisiin.

Mitä ovat Liquid Foundation Models (LFM)?

Liquid Foundation Models edustavat uutta sukupolvea tekoälyjärjestelmiä, jotka ovat erittäin tehokkaita sekä muistin käytön että laskentatehon suhteen. Rakennettu dynaamisten järjestelmien, signaalinkäsittelyn ja numeerisen lineaarisen algebran perustalle, nämä mallit on suunniteltu käsittelemään erilaisia sekvenssimuotoisia tietoja – kuten tekstiä, videoita, ääniä ja signaaleja – merkittävällä tarkkuudella.

Liquid AI on kehittänyt kolme pääkieltämallia tämän julkaisun yhteydessä:

• LFM-1B: Tiheä malli, jossa on 1,3 miljardia parametreja, joka on optimoitu resurssirajoitettuihin ympäristöihin.
• LFM-3B: 3,1 miljardin parametrin malli, joka on ihanteellinen älypuhelimen sovelluksiin.
• LFM-40B: 40,3 miljardin parametrin Mixture of Experts (MoE) -malli, joka on suunniteltu käsittelemään monimutkaisia tehtäviä poikkeuksellisen suorituskyvyn kanssa.

Nämä mallit ovat jo osoittaneet huipputason tuloksia useilla tekoälytestein, mikä tekee niistä vahvan kilpailijan olemassa oleville generatiivisille tekoälymallille.

State-of-the-Art Suorituskyky

Liquid AI:n LFM:t tarjoavat parhaimman suorituskyvyn eri mittakaavoissa. Esimerkiksi LFM-1B ylittää transformer-pohjaiset mallit samassa kokoluokassa, kun taas LFM-3B kilpailee suurempien mallien, kuten Microsoftin Phi-3.5 ja Metan Llama-sarjan, kanssa. LFM-40B -malli, joka on huomattavan suuri, on silti tarpeeksi tehokas kilpailemaan jopa suurempien mallien kanssa, tarjoten ainutlaatuisen tasapainon suorituskyvyn ja resurssitehokkuuden välillä.

Jotkut LFM-suorituskyvyn korkeat ovat:

• LFM-1B: Hallitsee testejä, kuten MMLU ja ARC-C, asettaen uuden standardin 1 miljardin parametrin malleille.
• LFM-3B: Ylittää malleja, kuten Phi-3.5 ja Google (GOOGL ) Gemma 2, tehokkuudessa, samalla säilyttäen pienikokoisen muistijäljen, mikä tekee siitä ihanteellisen älypuhelimen ja älypuhelimen sovelluksiin.
• LFM-40B: Tämän mallin MoE-arkkitehtuuri tarjoaa vertaamattoman suorituskyvyn suurempien mallien kanssa, jossa on 12 miljardia aktiivista parametria kerran.

Uusi aikakausi tekoälyn tehokkuudessa

Yksi suurimmista haasteista modernissa tekoälyssä on muistin ja laskennan hallinta, erityisesti pitkien kontekstien tehtävien, kuten asiakirjan tiivistämisen tai chatbot-viestinnän, kanssa. LFM:t menestyvät tässä alueessa tehokkaasti pakkaamalla syötetietoja, mikä johtaa vähäiseen muistinkäyttöön johtopäätöksessä. Tämä mahdollistaa mallien käsittelyn pidempiä sekvenssejä ilman kalliiden laitteiden päivitystarpeita.

Esimerkiksi LFM-3B tarjoaa 32k tokenin kontekstipituuden – mikä tekee siitä yhden tehokkaimmista malleista tehtäviin, jotka vaativat suuria määriä dataa käsiteltäväksi samanaikaisesti.

Vallankumouksellinen arkkitehtuuri

LFM:t on rakennettu yksilölliselle arkkitehtuuriselle kehykselle, joka poikkeaa perinteisistä transformer-malleista. Arkkitehtuuri keskittyy sopeutuviin lineaarisiin operaattoreihin, jotka mukauttavat laskentaa syötteen mukaan. Tämä lähestymistapa mahdollistaa Liquid AI:lle merkittävän suorituskyvyn optimoinnin eri laitteistoalustoilla, mukaan lukien NVIDIA (NVDA ), AMD, Cerebras (CBRS ) ja Apple.

LFM:n suunnittelutila käsittää uuden yhdistelmän token-sekoittamis- ja kanavasekoittamisrakenteita, jotka parantavat mallin tietojen käsittelyä. Tämä johtaa erinomaiseen yleistymiseen ja päättelykykyyn, erityisesti pitkien kontekstien tehtävissä ja monimodaalisissa sovelluksissa.

Laajentamassa tekoälyn rajoja

Liquid AI:lla on suuret tavoitteet LFM:lle. Kielen mallien lisäksi yritys työskentelee perusmallien laajentamisessa eri data-muodoille, kuten videoille, äänille ja aikasarjatietoille. Nämä edistysaskeleet mahdollistavat LFM:lle skaalautumisen useille aloille, kuten rahoituspalveluihin, biotieteisiin ja kuluttajaelektroniikkaan.

Yritys on myös keskittynyt osallistumaan avoimeen tieteelliseen yhteisöön. Vaikka malleja ei vielä avata, Liquid AI aikoo julkaista relevantteja tutkimustuloksia, menetelmiä ja tietoja laajemmalle tekoäly-yhteisölle, kannustaen yhteistyöhön ja innovaatioon.

Varoitukset ja omaksuminen

Liquid AI tarjoaa tällä hetkellä varhaisen pääsyn LFM:ihin useiden alustojen kautta, mukaan lukien Liquid Playground, Lambda (Chat UI ja API) ja Perplexity Labs. Yritykset, jotka haluavat integroida uraauurtavan tekoälyn toimintoihinsa, voivat tutkia LFM:n potentiaalia eri käyttöympäristöissä, älylaitteista sijaintipaikkojen ratkaisuihin.

Liquid AI:n avoimen tieteen lähestymistapa kannustaa varhaisia käyttäjiä jakamaan kokemuksiaan ja näkemyksiään. Yritys etsii aktiivisesti palautetta mallien hienosäätöön ja optimointiin todellisissa sovelluksissa. Kehittäjät ja organisaatiot, jotka ovat kiinnostuneita liittymään tähän matkaan, voivat osallistua punainen tiimin ponnisteluihin ja auttaa Liquid AI:ta parantamaan tekoälyjärjestelmiään.

Johtopäätös

Liquid Foundation Modelsin julkaisu merkitsee merkittävää edistystaskua tekoälymaisemassa. Tehokkuuden, sopeutuvuuden ja suorituskyvyn painopisteen kanssa LFM:t ovat valmiit muokkaamaan tapaa, jolla yritykset lähestyvät tekoälyn integrointia. Kun enemmän organisaatioita omaksuu nämä mallit, Liquid AI:n visio skaalautuvista, yleiskäyttöisistä tekoälyjärjestelmistä tulee todennäköisesti olemaan seuraavan tekoälysukupolven kulmakivi.

Jos olet kiinnostunut tutkimaan LFM:n potentiaalia organisaatiollesi, Liquid AI kutsuu sinut ottamaan meihin yhteyttä ja liittymään kasvavaan joukkoon varhaisia käyttäjiä, jotka muokkaavat tekoälyn tulevaisuutta.

Lisätietoja varten vieraile Liquid AI:n virallisella verkkosivustolla ja aloita kokeileminen LFM:llä tänään.