Milla Jovovichin MemPalace pyrkii ratkaisemaan tekoälyn muistiongelman

Miljoonat ihmiset avaa päivittäin chat-ikkunan ja aloittavat keskustelun tekoälyjärjestelmän (AI) kanssa. Se kuuntelee tarkkaavaisesti, luo välittömästi älykkään kuulostavan vastauksen ja sitten, kun istunto päättyy, unohtaa jokaisen yksityiskohdan vuorovaikutuksesta.

Tämän rituaalin mittakaava on hämmästyttävä. ChatGPT käsittelee yksin yli miljardi kyselyä päivässä, ja siellä on yli 800 miljoonaa viikoittain aktiivista käyttäjää vuoden 2025 lopussa. Generatiivisen tekoälyn käyttö on saavuttanut yli 16 % maailman väestöstä, luku joka ei ollut merkittävä kolme vuotta sitten.

Tukee tätä mallia valtava infrastruktuuri, jolla on kasvava ympäristöllinen hinta: Yhdysvaltain datakeskukset kuluttivat 183 terawattituntia sähköä vuonna 2024, mikä on enemmän kuin 4 % maan kokonaissähkönkulutuksesta, tai noin Pakistanin vuosittaisen sähkönkulutuksen verran.

Tekoälyjärjestelmien muistin puute aiheuttaa, että suuri osa tästä energiasta menee kontekstin uudelleenluomiseen. Toistuvat selitykset, projektien uudelleenesittely ja kontekstin kaataminen kunkin istunnon alussa ovat haaskattua laskentaa.

Muisti on se, mikä tekee työkalusta yhteistyökumppanin

Tekoälyavustajat eivät ole oletusarvoisesti pysyviä muisteja. Tämä ei olisi ongelma, jos käyttäisimme tekoälyä laskimena: syötä luku, saat tuloksen, siirry eteenpäin.

Mutta useimmat ihmiset eivät enää käytä sitä tavalla. Heillä on pitkiä, iteratiivisia, syvästi kontekstuaalisia keskusteluja tekoälyn kanssa – rakentavat asioita viikkojen tai kuukausien ajan, kehittävät jaettua kieltä, päätöksiä ja historiaa. Tekoälyn kontekstin määrä, jonka se voi pitää mielessään kerran, voi vaihdella tilausluokan mukaan.

Tähän asti tekoäly on osoittautunut upeaksi työkaluksi, mutta jo varhaisessa kehitysvaiheessa se on pyrkinyt olemaan kumppani. Tämä tavoite vaatii muistia. Ilman sitä edistysaskeleet jatkavat nollautumista.

Pysyvä muisti muuttaa sitä, mitä tekoäly voi tehdä käytännössä. Kehittäjä saa tekoälyjärjestelmän, joka pitää yllä arkkitehtuurisia päätöksiä ja niiden taustalla olevaa syytä. Tiimi saa sellaisen, joka tietää projektin historian ilman uudelleenohjelmointia. Kirjailija saa sellaisen, joka on kertynyt tietoa heidän työstään ajan myötä. Mallin kyky on vähemmän tärkeää kuin se, pystyykö se kertymään tietoa siitä, kuka sitä käyttää.

Miksi tämä on ollut vaikea ratkaista

Haaste ei ole vain tallennus, vaan myös hakeminen. Teoreettisesti voit syöttää jokaisen aiemman keskustelun uuteen istuntoon. Mutta se muuttuu nopeasti laskennallisesti absurdiksi. Kontekstiuudet laajenevat, mutta eivät ole äärettömiä. Kuukausien mittaisen epäjärjestyksen kaataminen viestiin on sekä tehokasta että aikaa vievää.

Paras Pandey, data-insinööri, toteaa ydinasian yksinkertaisesti: “Tekoälyn muisti on todella hakutarkkuuden ongelma, joka on pukeutunut tallennusongelman muotoon. Voit säilyttää mitä tahansa, mutta haaste on hakea oikea osa siitä johtopäätöksen aikana ilman, että kuvittelet aukkoja. Se on vaikeampi versio siitä, mitä olemme ratkaisseet tietojärjestelmissä vuosien ajan, ja ala on edelleen varhaisessa vaiheessa.”

Nykyiset tekoälymuisti -lähestymistavat käyttävät järjestelmiä, jotka päättävät, mitä muistetaan. Mutta antaa tekoälyn päättää, mikä on tärkeää, usein heittää pois juuri sen tarkan kontekstin, joka teki alkuperäisen vaihdon arvokkaaksi. Säilytät yleisen idean, mutta menetät koko keskustelun, jossa selitit tarkat huolesi ja hylkäsit vaihtoehdot.

Idealinen tilanne olisi, että oikea tieto löytyy oikeaan aikaan.

MemPalace tulee kuvaan

Tämä on tarkalleen se ongelma, jota MemPalace, äskettäin julkaistu avoimen lähdekoodin projekti, pyrkii ratkaisemaan. Sen sijaan, että yhteenvedon tai hävittäminen, se tallentaa keskustelut kokonaisuudessaan ja luo navigoivan rakenteen niiden ympärille, lainaten antiikin Kreikan muistipalatsin tekniikasta, jossa puhujat sijoittivat ajatuksia mielikuvituksellisen rakennuksen eri huoneisiin myöhemmäksi muistamiseksi.

MemPalacen merkittävyyttä ei ole vain lähestymistavan eleganssi. Se on tulokset. Akateemisissa tekoälymuistin hakutestissä MemPalace on saavuttanut korkeimmat koskaan julkaistut tulokset ilmaisjärjestelmälle, ja se tekee niin käyttäen ainoastaan omaa laitteistoa, ilman tilausta, ilman pilriippuvuutta ja ilman ulkoista API:ta.

Kilpailevat kaupalliset palvelut laskuttavat 20-250 dollaria kuukaudessa vastaavasta, usein heikommin suorittavasta toiminnallisuudesta.

Tämä yhdistelmä parhaimmasta suorituskyvystä, täysin paikallisesta ja täysin ilmaisesta on epätavallisen arvokasta. Ja koska se toimii laitteistollasi eikä etäpalvelimilla, jokainen MemPalacen kautta ohjattu kysely on yksi, joka ei lisää datakeskusten kasvavaa energialaskua.

Laajempi kuva

MemPalace on yksi projekti, mutta se osoittaa jotain suurempaa: pysyvän muistin tunnustamista tekoälyjärjestelmien perusominaisuudeksi eikä premium-lisäominaisuudeksi.

Projekti on rakennettu pienellä tiimillä, Milla Jovovich (kyllä, Resident Evil -näyttelijä), Ben Sigman ja Claude, ja siinä on vain seitsemän committia.

Se, että järjestelmä, joka ylittää kaupallisia tuotteita, joilla on omat insinööritiimit, tuli sellaisesta vaatimattomasta ponnistuksesta, kertoo jotain siitä, missä todellinen vaikeus piilee.

Ongelma ei ollut tietokoneissa tai resursseissa. Se oli selkeämpi malli siitä, mitä muisti todella tarvitsee tehdä.