Mielipide

ChatGPT:n Muistiraja on Ärsyttävä — Aivot Näyttävät Paremmän Tavan

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Jos olet ChatGPT:n voimakäyttäjä, sinun on ehkä koettu viime aikoina pelottava “Muisti on täynnä” -näyttö. Tämä viesti näkyy, kun olet saavuttanut ChatGPT:n tallennettujen muistien rajan, ja se voi olla merkittävä este pitkäaikaisissa projekteissa. Muisti on tarkoitettu olemaan avainominaisuus monimutkaisissa, jatkuvissa tehtävissä – haluat, että tekoälysi kantaa tietoa aiemmista istunnoista tuleviin tuloksiin. Nähdessäsi muisti täynnä -varoitus keskellä aikakriittistä projektia (esim. kun minä olin vianmääritystä tehdessäni jatkuvia HTTP 502 -palvelinvirheitä yhdellä sisar-sivustollamme) voi olla erittäin ärsyttävää ja häiritsevää.

Ärsytys ChatGPT:n Muistirajan Suhteen

Perusongelma ei ole se, että muistiraja on olemassa – jopa maksavat ChatGPT Plus -käyttäjät voivat ymmärtää, että siellä voi olla käytännön rajoituksia siitä, kuinka paljon voidaan tallentaa. Todellinen ongelma on miten sinun on hallinnoitava vanhoja muistoja, kun raja on saavutettu. Nykyinen käyttöliittymä muistin hallintaan on vaivaannuttava ja aikaa vievä. Kun ChatGPT ilmoittaa, että muistisi on 100 % täynnä, sinulla on kaksi vaihtoehtoa: voit poistaa muistit yksitellen tarkkaan tai poistaa kaikki kerran. Ei ole välimuotoa tai joukkopojotustyökalua, jolla voit tehokkaasti karsia tallennettua tietoa.

Yhden muistin poistaminen kerran, erityisesti jos sinun on tehtävä tämä joka muutama päivä, tuntuu tehtävältä, joka ei sovellu pitkäaikaiseen käyttöön. Kaikki tallennetut muistit on tallennettu jonkin syyn takia – ne sisältävät arvokasta asiayhteyttä, jonka olet antanut ChatGPT:lle tarpeistasi tai liiketoiminnastasi. Luonnollisesti haluat poistaa vain vähimmän määrän kohteita, jotta et estä tekoälyltä ymmärtämästä historiaasi. Kuitenkin muistin hallinnan suunnittelu pakottaa joko kaikki- tai -mitään -lähestymistavan tai hitaan manuaalisen kuraation. Olen henkilökohtaisesti huomannut, että jokainen poistettu muisti vapauttaa vain noin 1% muistitilaa, mikä viittaa siihen, että järjestelmä sallii vain noin 100 muistia ennen kuin se on täynnä (100 %: n käyttö). Tämä kova katto tuntuu arbitraariselta modernien tekoälyjärjestelmien mittapuulla, ja se heikentää ChatGPT:n lupausta tulevaisuuden tietoisena avustajana, joka kasvaa kanssasi.

Mitä Pitäisi Tapahtua

Ottaen huomioon, että ChatGPT ja sen taustalla oleva infrastruktuuri pääsevät käyttämään lähes rajattomia laskentaresursseja, on yllättävää, että pitkäaikaisen muistin ratkaisu on niin perustava. Ihannetapauksessa pitkäaikaiset tekoälymuistit pitäisi toistaa paremmin, miten ihmisaivot toimivat ja käsittelevät tietoa ajan myötä. Ihmisaivot ovat kehittyneet tehokkaita strategioita muistien hallintaan – emme vain tallenna jokaista tapahtumaa sana sanalta ja säilytä sitä loputtomiin. Sen sijaan aivot on suunniteltu tehokkuutta varten: meillä on yksityiskohtainen tieto lyhytaikaisesti, sitten hitaasti konsolidoidaan ja pakataan ne yksityiskohdat pitkäaikaiseen muistiin.

Neurotieteessä muistin konsolidointi viittaa prosessiin, jossa epävakaa lyhytaikainen muisti muutetaan vakaaksi, pitkäaikaiseksi. Standardimallin mukaan uudet kokemukset koodataan aluksi hippokampuksessa, aivojen alueella, joka on keskeinen episodisen muistin muodostumiselle, ja ajan myötä tieto “koulutetaan” kuoriin pysyvään tallennukseen. Tämä prosessi ei tapahdu välittömästi – se vaatii ajan kulkemista ja usein tapahtuu levon tai unen aikana. Hippokampus toimii nopeaoppimisena puskurina, kun taas kuori integroi tiedon hitaasti kestävämpään muotoon laajojen hermoverkkojen yli. Toisin sanoen aivojen “lyhytaikainen muisti” (työmuisti ja viimeaikaiset kokemukset) siirretään systemaattisesti ja järjestetään uudelleen hajautettuun pitkäaikaiseen muistivarastoon. Tämä monivaiheinen siirto tekee muistista kestävämmän häiriöille tai unohtamiselle, samanlaiseen tapaan kuin stabiloimalla tallenteen, jotta se ei ylikirjoiteta helposti.

Olennaisesti ihmisaivot eivät haaskaa resursseja tallentamalla jokaisen yksityiskohdan sanasta sanaan. Sen sijaan ne taipuvat suodattamaan triviat yksityiskohdat ja säilyttämään sen, mikä on tärkeintä kokemuksistamme. Psykologit ovat jo kauan havainneet, että kun muistamme menneisyyden tapahtuman tai oppimamme tiedon, me yleensä muistamme asioiden yleisen tavan eikä täydellistä, sana sanalta kertovaa kuvausta. Esimerkiksi kun olet lukenut kirjan tai katsellut elokuvaa, muistat pääjuonen ja teemat, mutta ei jokaista vuorosanaa. Ajan myötä tapahtuman tarkan sanamuodon ja yksityiskohtien häviäminen jättää taakse abstraktin tiivistelmän siitä, mitä tapahtui. Itse asiassa tutkimus osoittaa, että meidän sanasta sanaan muisti (täsmälliset yksityiskohdat) häviää nopeammin kuin yleisen tavan muisti (yleinen merkitys) ajan kuluessa. Tämä on tehokas tapa tallentaa tietoa: poistamalla tarpeettomat yksityiskohdat aivot “pakkaa” tiedon, säilyttäen olennaiset osat, jotka ovat todennäköisesti hyödyllisiä tulevaisuudessa.

Tämä hermostollinen pakkaus voidaan verrata siihen, miten tietokoneet pakkaavat tiedostoja, ja tosiaan tutkijat ovat havainneet vastaavia prosesseja aivoissa. Kun me mentaalisesti toistamme muiston tai kuvittelemme tulevaisuuden skenaariota, hermostollinen edustus on tehokkaasti nopeutettu ja siitä on poistettu joitakin yksityiskohtia – se on pakkauksen muotoa oikeasta kokemuksesta. Neurotieteilijät UT Austinissa löysivät aivoaaltojen mekanismin, joka mahdollistaa meille koko tapahtumajonon (esim. iltapäivän viettäminen ruokakaupassa) muistamisen vain muutamassa sekunnissa käyttäen nopeampaa aivorytmiä, joka koodaa vähemmän yksityiskohtaisia, korkean tason tietoja. Olemme siis pystyvätkään nopeuttamaan muistojamme, säilyttäen olennaiset kohdat ja ohiat yksityiskohdat, jotka ovat tarpeettomia tai liian paksuja toistaa kokonaan. Seuraus on, että kuvitellut suunnitelmat ja muistetut kokemukset tallennetaan tiivistetyssä muodossa – yhä hyödyllisiä ja ymmärrettäviä, mutta paljon aikaa- ja tilaa tehokkaampia kuin alkuperäinen kokemus.

Toinen tärkeä aivomuistin hallinnan näkökohta on priorisointi. Kaikki, mitä lyhytaikaiseen muistiin tallennetaan, ei ole pysyvästi tallennettu. Aivot päättävät, mikä on muistettavaa ja mikä ei, perustuen merkitykseen tai emotionaaliseen merkitykseen. Tuore tutkimus Rockefellerin yliopistossa osoitti tämän periaatteen hiirillä: hiiret altistettiin useille lopputuloksille (joistakin hyvin palkitsevista, joistakin lievästi palkitsevista, joistakin kielteisistä). Aluksi hiiret oppivat kaikki assosiaatiot, mutta kun ne testattiin kuukauden kuluttua, vain kaikkein merkittävin korkean palkkion muisti säilytettiin, kun taas vähemmän tärkeät yksityiskohdat olivat hävinneet.

Toisin sanoen aivot suodattivat melun pois ja pitivät muistin, joka oli tärkein eläimen tavoitteille. Tutkijat löysivät jopa aivoalueen, etenkin talamus, joka toimii välittäjänä hippokampuksen ja kuoren välillä konsolidoinnissa, lähettäen jatkuvaa vahvistusta tärkeille muistille – periaatteessa sanomalla kuorelle “säilytä tämä” kunnes muisti on täysin koodattu – ja sallimalla vähemmän tärkeiden muistojen hävitä. Tämä havainto korostaa, että unohdaminen ei ole vain muistin epäonnistuminen, vaan aktiivinen järjestelmän ominaisuus: päästessään irti tarpeettomista tai tarpeettomista muistoista aivot estävät muistivarastonsa täytymisen ja varmistavat, että kaikkein hyödyllisin tieto on helposti saatavilla.

Tekoälymuistin Uudelleenarviointi Ihmisen Periaatteilla

Ihmisaivojen tapa käsitellä muistia tarjoaa selkeän suunnitelman siitä, miten ChatGPT ja vastaavat tekoälyjärjestelmät pitäisivät hallita pitkäaikaista tietoa. Sen sijaan, että kohdeltiin jokaista tallennettua muistia erillisenä tietopisteenä, joka on joko tallennettu ikuisesti tai poistettu manuaalisesti, tekoäly voisi konsolidoida ja tiivistää vanhoja muistoja taustalla. Esimerkiksi, jos sinulla on kymmenen liittyvää keskustelua tai faktaa tallennettuna jatkuvasta projektistasi, tekoäly voisi automaattisesti yhdistää ne yhteen tiivisteeseen tai joukkoon johtopäätöksiä – tehokkaasti pakkaamalla muistin säilyttäen sen olennaisen. Tämä vapauttaisi tilaa uudelle tiedolle ilman, että vanhat vuorovaikutukset unohtuisivat. Tosiaan OpenAI:n asiakirjat viitat siihen, että ChatGPT:n mallit voivat jo tehdä jonkinlaista automaattista päivittämistä ja yhdistämistä tallennetuista yksityiskohdista, mutta nykyinen käyttäjäkokemus viittaa siihen, että se ei ole vielä saumattoma tai riittävä.

Toinen inhimillinen parannus olisi priorisoidun muistin säilyttäminen. Sen sijaan, että olisi joustamaton 100 kohteen raja, tekoäly voisi punnita, mitkä muistit ovat olleet useimmin merkittäviä tai tärkeimpiä käyttäjän tarpeisiin, ja poistaa vain ne, jotka ovat vähiten tärkeitä. Käytännössä tämä voisi tarkoittaa, että ChatGPT tunnistaa, että tiettyjä faktoja (esim. yrityksesi ydin tavoitteet, jatkuvan projektin määritykset, henkilökohtaiset suositukset) on erittäin merkittäviä ja niiden pitäisi aina säilyttää, kun taas yksittäisiä triviaaleja kuukausien takaa voisi arkistoida tai poistaa ensin. Tämä dynaaminen lähestymistapa vastaa sitä, miten aivot jatkuvasti karsivat käyttämättömiä yhteyksiä ja vahvistavat usein käytettyjä yhteyksiä kognitiivisen tehokkuuden optimoimiseksi.

Pohjimmiltaan pitkäaikainen tekoälymuistijärjestelmän pitäisi kehittyä, ei vain täyttyä ja loppua. Ihmisaivot ovat erittäin sopeutuvia – ne muuttuvat ja järjestäytyvät uudelleen ajan myötä, eivätkä ne odota, että ulkopuolinen käyttäjä hallitsee jokaista muistipaikkaa. Jos ChatGPT:n muisti toimisi enemmän kuin oma, käyttäjät eivät kohtaisi äkkiä 100 kohteen rajaa eivätkä joutuisi valitsemaan kaiken poistamisen ja yksittäisen kohdistamisen välillä. Sen sijaan vanhat chat-muistit muuttuisivat hitaasti tietopohjaksi, josta tekoäly voisi hyötyä, ja ainoastaan todella vanhentuneet tai merkityksettömät kappaleet häviäisivät. Tekoäly-yhteisö, joka on tämän kohderyhmä, voi ymmärtää, että tällaisen järjestelmän toteuttaminen voi vaatia tekniikoita, kuten kontekstien tiivistäminen, vektorigrafiikkatietokannat tiedon hakemiseksi tai hierarkkiset muistikerrokset neuroverkoissa – kaikki nämä ovat aktiivisia tutkimusaloja. Itse asiassa antamalla tekoälylle “episodinen muisti”, joka pakkaa itsensä ajan myötä, on tunnettu haaste, ja sen ratkaiseminen olisi askel kohti tekoälyä, joka oppii jatkuvasti ja laajentaa tietopohjaansa kestävästi.

Johtopäätös

ChatGPT:n nykyinen muistirajoitus tuntuu väliaikaiselta ratkaisulta, joka ei hyödyntää tekoälyn koko voimaa. Katsomalla ihmisen kognitioon, näemme, että tehokas pitkäaikainen muisti ei ole vain rajattoman raakadatan tallentamista – se on älykäs pakkaus, konsolidointi ja unohtaminen oikeista asioista. Ihmisaivojen kyky pitää kiinni siitä, mikä on tärkeää, ja taloudellisuus tallennuksessa on juuri se, mikä tekee pitkäaikaisesta muistista niin laajan ja hyödyllisen. Jotta tekoäly voisi olla todellinen pitkäaikainen kumppani, se pitäisi omaksua vastaavan strategian: automaattisesti tiivistää aiemmat vuorovaikutukset kestäviksi oivalluksiksi, sen sijaan, että se siirtäisi tämän taakan käyttäjälle. Ärsytys “muisti täynnä” -seinästä voisi korvata järjestelmällä, joka kasvaa käytön myötä, oppii ja muistaa joustavalla, inhimillisellä tavalla. Tämän periaatteiden omaksuminen ei vain ratkaisisi käyttöliittymän ongelmakohdan, vaan myös avaaisi voimakkaamman ja henkilökohtaisemman tekoälykokemuksen koko käyttäjä- ja kehittäjäyhteisölle, jotka riippuvat näistä työkaluista.

Antoine on visionäärisellä johtajalla ja Unite.AI:n perustajakumppani, joka on intohimoisesti omistautunut tulevaisuuden älyteknologian ja robotiikan muotoiluun ja edistämiseen. Sarjayrittäjänä hän uskoo, että älyteknologia tulee olemaan yhtä mullistava yhteiskunnalle kuin sähkö, ja hän on usein innostunut puhumaan älyteknologian ja AGI:n mahdollisuuksista.

Hän on tulevaisuudentutkija, joka on omistautunut tutkimiseen, miten nämä innovaatiot muotoilevat maailmaamme. Lisäksi hän on Securities.io:n perustaja, joka on keskittynyt sijoittamiseen älykkäisiin teknologioihin, jotka määrittelevät tulevaisuutta ja muokkaavat koko toimialoja.