Backboard asettaa uuden maailmanlaajuisen standardin tekoälymuistissa — Askelen kohti todella agenteellista tekoälyä

Backboard on ylittänyt tärkeän kynnyksen tekoälyjärjestelmissä osoittamalla, että muisti voidaan käsitellä ydininfrastruktuurina eikä haurhana lisäominaisuutena. Yritys ilmoitti johtavansa molempia suuria tekoälymuistin mittareita, LoCoMo ja LongMemEval, ja on ensimmäinen alusta, joka on saavuttanut tämän tasapuolisen akateemisen ja riippumattoman arviointimenetelmien avulla.

Riippumattomassa arvioinnissa, jonka NewMathData suoritti, Backboard saavutti 93,4 prosentin tarkin LongMemEval-tuloksen, joka on korkein julkaistu tulos tähän mennessä, kun se suoritetaan benchmarkin alkuperäisen määrittelyn mukaisesti. Tämä tulos perustuu aiemmin julkaistuun 90,1 prosentin tulokseen LoCoMo-mittauksessa, jolloin Backboard kuuluu hyvin pieniin järjestelmiin, jotka pystyvät ylläpitämään sekä lyhyen aikavälin tarkkuutta että pitkän aikavälin kontekstuaalista jatkuvuutta.

Huomattavaa on, että arvioijat havaitsivat useita tapauksia, joissa Backboardin vastaukset merkittiin virheellisiksi, vaikka ne olivat kontekstuaalisesti tarkempia kuin benchmarkin odotetut vastaukset. Näissä tapauksissa järjestelmä otti huomioon jo aiemmin vuorovaikutuksessa esitetyn tietoja eikä siten noudattanut suppeampaa tulkintaa kysymyksestä. Tämän seurauksena ilmoitettu tulos edustaa konservatiivista perustaa eikä suorituskyvyn ylärajaa.

Miksi muisti on muodostunut tekoälyssä pullonkaulaksi

Useimmat nykyiset tekoälyjärjestelmät käyttäytyvät edelleen kuin niillä ei olisi todellista menneisyyttä. Vaikka suuret kielimallit ovat erittäin hyviä luomaan sujuvia vastauksia, ne taipuvat unohtamaan kontekstin istunnon päätyttyä tai kun kysymysikkuna täyttyy. Tämä rajoitus pakottaa kehittäjiä rakentamaan tilan uudelleen hakukikkauksien, kysymysinsinöörityksen tai hauraiden työkalujen ketjujen avulla, jotka usein murtuvat, kun järjestelmät kasvavat monimutkaisemmiksi.

Muisti ei ole vain muistamisesta kyse. Käytännön käytössä muisti määrää, voivatko tekoälyjärjestelmät säilyä koherentteina ajan myötä, koordinoida tehtävien välillä ja luoda luottamusta käyttäjien kanssa. Ilman kestävää muistia järjestelmät nollautuvat, harhautuvat, tai ristiriitaisia itsensä kanssa. Kun tekoäly siirtyy yksittäisistä vuorovaikutuksista pitkäaikaisiin työnkulkuun, muisti on muodostunut ensisijaiseksi pullonkaulaksi.

Backboard lähestyy tätä ongelmaa käsittelemällä muistia ensisijaisena infrastruktuurina. Sen sijaan, että muisti olisi kiinnitetty sovelluskerrokseen, se integroi pysyvyyden, upotukset, hakutoiminnot ja orkestraation yhtenäiseen alustaan, johon pääsee käsiksi yhden API:n kautta.

Järjestelmätasoinen lähestymistapa benchmarkin säätöön nähden

Backboard ei suunnitellut arkkitehtuuriaan benchmark-pisteytyksiä ajatellen. Arviot olivat joko itsenäisesti käynnistettyjä tai käytettiin sisäisesti ymmärtämään, miten järjestelmä vertautui akateemiseen tutkimukseen. Saavutettu suorituskyky heijastaa järjestelmän käyttäytymistä realistisissa olosuhteissa eikä tehtävän mukaan räätälöityä optimointia.

Tämä ero on merkittävä, koska useimmat benchmarkit mitataan mallin käyttäytymistä eristyneisyydessä, kun taas todelliset tekoälyjärjestelmät koostuvat monista liikkuva osista. Backboardin tulokset osoittavat, että muistin suorituskyky ei ole yksinomaan mallin koosta tai brutaaliin laskentaan perustuva, vaan siitä, miten muisti on järjestetty, päivitetty ja jaettu ajan myötä.

Alusta yhdistää pysyvän pitkäaikaisen muistin, alkuperäiset upotukset ja vektoroinnin, sisäänrakennetun hakutoiminnon ja generoinnin, jaetun muistin eri agenttien välillä sekä pääsyn yli 17 000:een suureen kielimalliin, mukaan lukien “tuo-omasi-avain”-tuki. Yhdistämällä nämä elementit Backboard poistaa tarpeen yrityksille koota avoimen lähdekoodin komponentteja, jotka usein epäonnistuvat tuotantoon liittyvissä rajoituksissa.

Agenteellisen tekoälyn käytännöllistäminen

Agenteellisen tekoälystä kiinnostus jatkuu kasvamassa, mutta useimmat toteutukset kamppailevat siirtymisen demojen ulkopuolelle. Syy on yksinkertainen: agentit ilman jaettua, pysyvää muistia eivät voi koordinoida tehokkaasti. Ne hajoavat, menettävät kontekstin ja käyttäytyvät epävakaiden vuorovaikutusten aikana.

Backboard mahdollistaa pysyvän, jaetun muistin agenttien välillä, vaikka ne perustuvat eri perusmalleihin. Kun muisti on luotettavaa, agenteellinen käyttäytyminen ilmenee luonnostaan eikä skriptatuksi. Järjestelmät voivat muistaa aiemmat päätökset, ylläpitää jatkuvuutta istuntojen välillä ja koordinoida toimia ilman jatkuvaa uudelleenohjelmointia.

Alustan muistirunko on suunniteltu säilyttämään aikaisen jatkuvuuden eikä rakentamaan tilaa staattisten graafien tai toistuvan hakutoiminnon kautta. Tämä mahdollistaa tekoälyjärjestelmien säilymisen johdonmukaisina ja tarkasteltavina, kun ne kasvavat monimutkaisemmiksi.

Järjestelmät, joilla ei voi unohtaa

Backboardin arkkitehtuuri perustuu sen perustajan ja toimitusjohtajan, Rob Imbeaultin, kokemuksiin, joka aiemmin auttoi rakentamaan Assentin varhaisesta startup-vaiheesta yli 1,4 miljardin dollarin arvoiseksi globaaliksi yritys-alustaksi. Assentissa Imbeault työskenteli järjestelmissä, jotka olivat upotettuina asiakkaiden toimintoihin, tukien sääntelyyn liittyvää ja monimutkaista toimintaketjuun liittyvää työtä, jossa jatkuvuus, oikeellisuus ja luottamus eivät olleet neuvotteltavissa.

Se kokemus muovasi vakaan vakuutuksen. Arvokkain infrastruktuuri on harvoin loistava. Se on infrastruktuuri, joka toimii hiljaisesti, johdonmukaisesti ja pitkän ajan yli. Nämä ympäristöt eivät voi nollata kontekstin menetettyä. Jos tila katoaa tai luottamus heikkenee, järjestelmä epäonnistuu toiminnallisesti, ei pelkästään teknisesti.

Imbeault näki modernin tekoälyssä rakenteellisen epäsymmetrian. Vaikka suuret kielimallit kehittyivät nopeasti, ne säilyivät perustavanlaatuisesti tilattomina. Konteksti katosi istuntojen välillä, pakottaen kehittäjiä rakentamaan muistin hauraiden kysymysketjujen ja ad hoc -hakkerien kautta. Nämä lähestymistavat saattavat toimia demoissa, mutta ne murtuvat, kun tekoälyjärjestelmiä odotetaan toimivan jatkuvasti, koordinoida agenttien välillä ja kehittyvän ajan myötä.

Backboard luotiin tämän aukon sulkemiseksi. Muisti kohdellaan kestävänä infrastruktuurina eikä sovelluslogiikkana, mikä mahdollistaa tekoälyjärjestelmien ylläpitämisen tilaa vuorovaikutusten, mallien ja agenttien välillä. Tarkkuuden, oikeellisuuden ja pitkäaikaisen luotettavuuden painopiste heijastaa uskomusta, joka muodostui jo ennen Backboardin perustamista: tuotantoympäristöissä muistivirheet eivät ole vähäisiä virheitä, vaan järjestelmällisiä riskejä.

Tämä näkemys on Backboardin suunnittelufilosofian perusta. Tavoitteena ei ole esittää älykkyyttä eristyneissä hetkissä, vaan mahdollistaa tekoälyjärjestelmät, jotka käyttäytyvät luotettavina ohjelmistoina, vaikka monimutkaisuus kasvaa ja aikahorisontti laajenee.

Miten tämä vaikuttaa tekoälyn tulevaisuuteen

Laajempi implikaatio Backboardin tuloksista on, että seuraava vaihe tekoälyssä ei johdu ainoastaan suuremmista malleista tai pitemmistä kontekstiuuskunnista. Se johtuu järjestelmistä, jotka voivat muistaa, päättää ja kehittyä ajan myötä.

Kun yritykset käyttävät tekoälyä asiakastukeen, operaatioihin, tutkimukseen ja sääntelyyn, pysyvä muisti muodostuu luottamuksen ja skaalautuvuuden perustaksi. Alustat, jotka ratkaisevat muistin infrastruktuuritasolla, määrittävät, miten agenteellinen tekoäly siirtyy kokeilusta arkipäivään.

Backboard kääntää nyt huomionsa auttamaan tiimejä ymmärtämään ja arvioimaan tekoälyjärjestelmien käyttäytymistä todellisissa rajoituksissa. Yrityksen tuleva Switchboard-ominaisuus pyrkii tekemään monimutkaiset tekoälykonfiguraatiot läpinäkyvimmiksi ja ennustettavammiksi.

Tekoälyn tulevaisuus muotoillaan vähemmän älykkäiden kysymyskikkaiden temppujen ja enemmän järjestelmien avulla, joita voidaan luottaa ajan myötä. Muisti on tämän muutoksen perusta, ja Backboardin viimeisimmät tulokset osoittavat, että tämä perusta on vihdoin muotoutumassa.