Ketjuajattelun loppu? CoreThink ja Kalifornian yliopiston tutkijat ehdottavat paradigmamuutosta tekoälyssä

Vuosiin tekoälykilpailu on keskittynyt mittakaavaan. Suuremmat mallit, enemmän GPU:ita, pidemmät ohjelmat. OpenAI, Anthropic ja Google (GOOGL ) ovat johtaneet tätä rintamaa massiivisilla suurkielimalleilla (LLM), vahvistusoppimisen hienosäätöllä ja ketjuajattelukysymyksillä – tekniikoilla, jotka on suunniteltu jäljitämään päättelyä kirjoittamalla askelkohtaiset vastaukset.

Uusi tekninen valkoinen kirja nimeltä CoreThink: Symbolinen päättelykerros päättää pitkän aikavälin tehtävistä LLM: n kanssa CoreThink AI: sta ja Kalifornian yliopiston tutkijoilta väittää, että tämä paradigma saattaa olla saavuttamassa kattoaan. Kirjoittajat esittävät provokatiivisen väitteen: LLM: t ovat voimakkaita tilastollisia tekstigeneraattoreita, mutta ne eivät ole päättelykoneita. Ja ketjuajattelu, menetelmä, jota useimmiten käytetään ehdottamaan muuta, on enemmän suorituskuin aito logiikka.

Vastauksena tiimi esittää Yleiset symboliikka, neurosymbolisen päättelykerroksen, joka on suunniteltu liitettäväksi olemassa oleviin malleihin. Heidän arviointinsa osoittavat dramaattisia parannuksia laajalla valikoimalla päättelytehtävistä – saavutettuina ilman uudelleen koulutusta tai lisättyä GPU-kustannuksia. Jos tämä lähestymistapa vahvistetaan, se voisi merkitä käännekohtaa siinä, miten tekoälyjärjestelmiä suunnitellaan logiikkaa ja päätöksentekoa varten.

Mitä on ketjuajattelu — ja miksi se on tärkeää

Ketjuajattelu (CoT) on tullut yhdeksi laajimmin käytetyistä tekniikoista modernissa tekoälyssä. Kysymällä mallilta kirjoittaa ulos päättelyaskelensa ennen kuin se antaa vastauksen, tutkijat havaitsivat, että he voivat usein parantaa benchmark-pisteitä alueilla kuten matematiikka, koodaus ja suunnittelu. Pinnan alla se näytti läpimurrolta.

Raportti kuitenkin korostaa tämän lähestymistavan rajoituksia. CoT -selitykset saattavat näyttää vakuuttavilta, mutta tutkimukset osoittavat, että ne usein epäuskoisia siitä, mitä malli todella laskee, järkeillen tulokset jälkikäteen sen sijaan, että paljastaisivat todellisen logiikan. Tämä luo todellisia riskejä. Lääketieteessä uskottava kertomus saattaa peittää riippuvuuden epäilyttävistä korrelaatioista, johtaa vaarallisiin väärään diagnosointiin. Lakissa keksityt perusteet voivat olla sekoitettu aitoihin perusteisiin, uhkaa oikeudenmukaisuutta ja vastuuta.

Raportti korostaa myös tehokkuutta: CoT -ketjut usein kasvavat liian pitkiksi yksinkertaisissa ongelmissa, kun taas ne romahtavat pinnallisiksi päättelyksi monimutkaisissa ongelmissa. Tuloksena on haaskattu laskenta ja useissa tapauksissa vähennetty tarkkuus. Kirjoittajat päättelevät, että ketjuajattelu on “esiintyvä, ei mekaniikka” – pinnan tasoinen esitys, joka luo tulkinnan illuusion ilman sen toimittamista.

Symbolinen tekoäly: Varhaisista unelmista uusiin heräämisiin

Ketjuajattelun arvostelu kutsuu tarkastelemaan symbolisen tekoälyn historiaa. Sen varhaisimmissa vuosikymmeninä tekoälytutkimus kiersi sääntöpohjaisia järjestelmiä, jotka koodasivat tiedon eksplisiittiseen logiseen muotoon. Asiantuntijajärjestelmät kuten MYCIN yrittivät diagnosoida sairauksia soveltamalla käsin tehtyjä sääntöjä, ja petosjärjestelmät riippuivat laajoista logiikkajoukoista saadakseen kiinni poikkeamista.

Symbolinen tekoäly oli epäilemättömän vahva: jokainen askel sen päättelyssä oli läpinäkyvä ja jäljitettävissä. Mutta nämä järjestelmät olivat hauraita. Koodaaminen kymmenille tuhansille säännöille vaati valtavan työn, ja ne kamppailivat uusien tilanteiden kanssa. Kriitikot kuten Hubert Dreyfus väittivät, että ihmisen älykkyys riippuu hiljaisesta, kontekstiriippuvaisesta taidosta, jota mikään sääntöjoukko ei voi kaapata. 1990-luvulla symboliset lähestymistavat antoivat tilaa dataohjattuille neuroverkkomalleille.

Viime vuosina on ollut uusi pyrkimys yhdistää molempien maailmojen vahvuudet neurosymbolisen tekoälyn kautta. Idean takana on yksinkertainen: anna neuroverkkomalleille käsitellä epäjohdonmukaisia havaintotuloksia kuten kuvia tai tekstiä, kun taas symboliset moduulit tarjoavat rakenteellisen päättelyn ja loogisen varman. Mutta useimmat näistä hybrideistä ovat kamppailleet integroinnin kanssa. Symboliset rungot olivat liian jähmeitä, kun taas neuromoduulit usein heikensivät johdonmukaisuutta. Tuloksena oli monimutkaisia, raskaita järjestelmiä, jotka eivät toimittaneet luvattua tulkinnaista.

Yleiset symboliikka: Uusi päättelykerros

CoreThinkin Yleiset symboliikka -päättelijä (GSR) pyrkii voittamaan nämä rajoitukset toisenlaisella lähestymistavalla. Sen sijaan, että kääntäisi kieltä jähmeisiin muodollisiin rakenteisiin tai korkean dimensionaalisiin upotuksiin, GSR toimii kokonaan luonnollisessa kielessä. Jokainen päättelyaskel on ilmaistu sanoissa, varmistaen, että konteksti, nuanssi ja modaali säilytetään. Tämä tarkoittaa, että eroja kuten “on” ja “pitäisi” kantautuu päättelyprosessiin, sen sijaan, että abstrahoidaan pois.

Runko toimii parsimoalla syötteitä alkuperäisessä luonnollisessa kielessä, soveltamalla loogisia rajoituksia kielellisillä muunnoksilla ja tuottamalla sanallisia päättelyjälkiä, jotka säilytetään täysin ihmisen luettavissa. Kun ristiriidat tai virheet ilmenevät, ne näkyvät suoraan päättelypolussa, sallien tulkinnan ja virheenjäljityksen. Pysyäkseen tehokkaana järjestelmä leikkaa tarpeettomat askelmat, mahdollistaen vakaan pitkän aikavälin päättelyn ilman GPU: n skaalausta.

Koska se toimii kerroksena eikä edellytä uudelleen koulutusta, GSR voidaan soveltaa olemassa oleviin perusmalleihin. Arvioissa se toimitti johdonmukaisesti tarkkuuden parannuksia 30-60 prosenttia päättelytehtävissä, kaikki ilman koulutuskustannusten lisäämistä.

Benchmark-tulokset

Parannukset ovat parhaiten havainnollistettavissa benchmarkien kautta. LiveCodeBench v6: ssä, joka arvioi kilpailuluokan koodausongelmia, CoreThink saavutti 66,6 prosentin läpäisyprosentin, olleen merkittävästi korkeampi kuin johtavat mallit sen luokassa. SWE-Bench Lite -benchmarkissa, joka on benchmarkkaus realistisille bugikorjausongelmille GitHub -varastoista, järjestelmä saavutti 62,3 prosentin tarkkuuden, korkeimman tuloksen, joka on koskaan raportoitu. Ja ARC-AGI-2: ssä, yhdessä vaativimmista abstraktin päättelyn testeistä, se sai 24,4 prosentin tuloksen, joka ylittää merkittävästi eturintamalla olevat mallit kuten Claude ja Gemini, jotka ovat edelleen alle 6 prosentin.

Nämä luvut heijastavat enemmän kuin pelkän tarkkuuden. Yksityiskohtaisissa tapaustutkimuksissa symbolinen kerros mahdollisti malleille toimia toisin. Skikit-learnin ColumnTransformer -esimerkissä perusmalli ehdotti pinnallista korjausta, joka peitti virheen. CoreThink: iin täydentävä järjestelmä tunnisti kuitenkin synkronointiongelman juurella ja korjasi sen kattavasti. Haastavassa LeetCode -haasteessa perusmalli sovelsi väärin dynaamista ohjelmointia ja epäonnistui täysin, kun taas symbolinen päättelykerros korjasi virheellisen tilarepresentation ja tuotti toimivan ratkaisun.

Kuinka se sopii symboliseen heräämiseen

Yleiset symboliikka liittyy kasvavaan joukkoon pyrkimyksiä tuoda rakennetta takaisin tekoälyn päättelyyn. Klassinen symbolinen tekoäly osoitti avoimuuden arvon, mutta se ei voinut sopeutua uuteen. Perinteiset neurosymboliset hybridit lupaavat tasapainoa, mutta usein muuttuvat kömpelöiksi. Suunnittelupinot, jotka kiinnittivät hakua LLM: iin, tarjosivat aluksi toivoa, mutta romahtivat monimutkaisuuden alla, kun tehtävät laajenivat.

Viimeaikaiset edistysaskeleet osoittavat uusien hybrideiden potentiaalia. DeepMindin AlphaGeometry on osoittanut, että symboliset rakenteet voivat ylittää puhtaat neuroverkkomallit geometriassa. CoreThinkin lähestymistapa laajentaa tätä suuntaa. Sen ARC-AGI -putkessa deterministinen objektin havaitseminen ja symbolinen mallin abstraktio yhdistyvät neurotoiminnan kanssa, tuottaen tuloksia, jotka ovat paljon LLM -järjestelmiä parempia. Työkalujen käytössä symbolinen kerros auttaa ylläpitämään kontekstia ja pakottaa rajoituksia, mahdollistaen luotettavamman monivaiheisen suunnittelun.

Avainero on, että yleiset symboliikka eivät riipu jähmeästä logiikasta tai massiivisesta uudelleen koulutuksesta. Päättelyä suoraan kielellä se säilyttää joustavuuden säilyttäen samalla tulkinnaista. Tämä tekee siitä kevyemmän kuin aikaisemmat hybridit ja olennaisesti käytännöllisemmän integroinnissa yritysohjelmiin.

Miksi se on tärkeää

Jos ketjuajattelu on päättelyn illusio, tekoälyteollisuus kohtaa kiireisen haasteen. Yritykset eivät voi riippua järjestelmistä, jotka vain näyttävät päättävän, etenkin korkean panoksen ympäristöissä kuten lääketieteessä, laissa ja rahoituksessa. Raportti ehdottaa, että todellinen edistys tulee ei mallien skaalautumisesta, vaan itse päättelyn perustoiden uudelleenarvioinnista.

Yleiset symboliikka on yksi tällainen perusta. Se tarjoaa kevyen, tulkinnaisen kerroksen, joka voi parantaa olemassa olevia malleja ilman uudelleen koulutusta, tuottaen aitoja päättelyparannuksia sen sijaan, että se tarjoaisi pinnan tasoinen kertomus. Tekoälyyhteisölle se merkitsee mahdollista paradigmamuutosta: symbolisen päättelyn paluuta ei niin jähmeidenä sääntöinä, vaan neurooppimisen joustavana kumppanina.

Kuten kirjoittajat sanovat: ”Emme tarvitse lisää parametreja saadaksemme paremman päättelyn – meidän on uudelleenarvioitava perusteet.”