Tekoälyn uusi vaisto: miksi älykkäämpi ajattelu on tärkeämpää kuin pidempi ajattelu

Tekoälyn (AI) kehitys on perustunut pitkään uskomukseen, jonka mukaan datan ja laskentakapasiteetin lisääminen parantaa suorituskykyä. Tämä “brute force” -lähestymistapa on johtanut vaikuttaviin tekoälyjärjestelmiin, kuten GPT-3, jotka ovat suorittaneet erinomaisesti viime vuosina. Kuitenkin tämä paradigma lähestyy rajojaan. Kun tekoälyongelmat tulevat monimutkaisemmiksi, on selvää, ettei yksinään lisäämällä laskentakapasiteettia voida saavuttaa kestävää tai tehokasta ratkaisua pitkän aikavälin edistymiseksi. Tämä toteamus on saanut tutkijat uudelleenarvioimaan lähestymistapaansa tekoälyn kehittämiseen. Tässä yhteydessä Deep Cogiton Cogito v2 -malli esittelee uuden lähestymistavan, joka voisi muuttaa tekoälyn kehittämisen tulevaisuutta. Sen sijaan, että riippuisi enemmän laskentakapasiteetista tai pidentämisestä, Cogito v2 kehittää sisäisiä “vaistoja”, jotka ohjaavat mallia oikeille poluille ennen kuin etsintä edes alkaa. Tämä on paradigmamuutos siinä, miten tekoälyä kehitetään, keskittymällä älykkäämpään ajatteluun, ei pidemmän ajatteluun.

Tekoälyn kehityksen muutos

Monien vuosien ajan tekoälyn edistymisen taustalla on ollut ajatus, jonka mukaan “enemmän on parempi”. Tämä lähestymistapa on johtanut tekoälymallien kehittymiseen, jotka luovat laajoja päättelyketjuja monimutkaisten ongelmien ratkaisemiseksi. OpenAI:n mallit, kuten GPT-3, ovat esimerkki tällaisesta lähestymistavasta, jossa pidemmät päättelyketjut ovat johtaneet vaikuttaviin tuloksiin haastavissa tehtävissä. Vaikka tämä menetelmä on tuottanut vaikuttavia tuloksia, se sisältää merkittäviä haittoja. Pidemmät päättelyketjut vaativat enemmän laskentaresursseja, mikä johtaa hitaampiin inference-aikoihin ja suurempiin toimintakustannuksiin. Lisäksi tutkimus on osoittanut, että nämä laajennetut prosessit usein johtavat vähenevän hyödyn ja vähenevän tehokkuuden. Perusongelmana on, että riippuvuus pitkistä päättelyketjuista ja laskentakapasiteetin lisäämisestä ei ole enää tehokas ratkaisu monimutkaisten tekoälyongelmien ratkaisemiseksi. Nämä lähestymistavat ovat rajoitettuja massiivisen laskentaaikansa ja muistivaatimustensa vuoksi.

Miksi “vaisto” on tärkeä tekoälylle

Toisin kuin nykyiset tekoälyjärjestelmät, jotka riippuvat laajennetusta päättelystä, ihmiset usein luottavat siihen, mitä kutsutaan “vaistoksi” (nopeaksi, intuitiiviseksi arvostelukyvyksi) ongelmien ratkaisemiseen. Vaikka vaisto voi vaikuttaa abstraktiolta, se on usein seuraus vuosien kokemuksesta, oppimisesta ja kontekstin prosessoinnista, joka mahdollistaa ihmisille nopeiden päätösten tekemisen ilman, että jokainen yksityiskohta on täysin analysoitu. Tämä intuitio erottaa raakalaskennan ihmismäisestä päättelystä. Ihmiset rakentavat tämän “vaiston” mallinnuskyvyn ja kertyneen kokemuksen kautta, mikä mahdollistaa päätösten tekemisen ilman, että jokainen mahdollinen vaihtoehto on täysin tutkittu. Tekoälyn uusi “vaisto” pyrkii jäljittelemään tämän prosessin.

Miten Cogito v2 sisällytti “vaiston”

Cogito on sisällyttänyt “vaiston” (tarkemmin sanottuna älykkään etukäteen) ideaa juuri julkaistuun Cogito v2 -malliinsa. He integroivat tämän idean käyttäen mekanismia, jota kutsutaan Toistuvana tiivistämisenä ja vahvistamisena (IDA). Tämä mekanismi mahdollistaa mallin oppimisen omasta päättelyprosessistaan ja parantaa ongelmanratkaisukykyään ajan myötä. Sen sijaan, että malli riippuisi staattisista ohjauksista tai kiinteistä opettajista, IDA mahdollistaa tekoälylle tiivistää onnistuneita päättelypolkuja takaisin sen ydinparametreihin. Tämä itseparantava prosessi parantaa mallin päättelykykyä ajan myötä, optimoimalla sekä tarkkoja vastauksia että tehokkaita ajattelutapoja.

• Toistuva tiivistäminen ja vahvistaminen (IDA)

Ymmärtääksemme, miten IDA toimii, voidaan tarkastella kaksiprosessiteoriaa, joka jakaa ihmisen ajattelun kahteen järjestelmään: Järjestelmä 1 ja Järjestelmä 2. Järjestelmä 1 viittaa nopeaan, intuitiiviseen päätöksentekoon, kun taas Järjestelmä 2 on hitaampi ja tarkempi. Teoria esittää, että ihmiset luottavat Järjestelmään 1 useimmissa tehtävissä, mutta siirtyvät Järjestelmään 2, kun heitä vastaan tulee monimutkaisempia päätöksiä.

IDA on kaksivaiheinen sykli: vahvistaminen ja tiivistäminen. Vahvistamisvaiheessa malli käyttää intensiivisiä laskentamenetelmiä luodakseen laadukkaita ratkaisuja tai päättelyjäljityksiä. Tämä on kuin Järjestelmä 2 -ajattelua, jossa tekoäly ottaa aikaa tarkastellakseen huolellisesti potentiaalisia ratkaisuja. Tiivistämisvaiheessa malli internalisoi vahvistamisvaiheen havainnot, muuttaen päättelyprosessin Järjestelmästä 2 Järjestelmäksi 1. Ihmisen ajattelun tapaan, jossa kokemus tekee ajattelusta intuitiivisempaa, tekoälymalli, jolla on IDA, voi tehdä nopeampia ja tehokkaampia päätöksiä ajan myötä.

IDA:n avainidea on käyttää laskentaintensiivisiä päättelyjä vahvistamisvaiheessa ja sitten tiivistää parannetun päättelyn takaisin mallin parametreihin. Tämä prosessi mahdollistaa mallille internalisoida tehokkaita päättelystrategioita, jotka rakentavat sen kykyä ajatella intuitiivisesti ongelmien ratkaisemisessa. Toistamalla tämän syklin, tekoälyjärjestelmä parantaa jatkuvasti kykyään tehdä päätöksiä vähemmän laskentaresursseja käyttäen.

Älykkään vaiston sisällyttämisen edut tekoälyyn

Yksi älykkään vaiston tärkeimmistä eduista on sen tehokkuus. Mallit kuten Cogito v2 osoittavat päättelyketjuja, jotka ovat jopa 60 % lyhyempiä kuin kilpailevien mallien. Tämä tarkoittaa, että ne voivat saavuttaa vastauksia vähemmällä sisäisillä askelilla, vähentäen aikaa ja resursseja, joita tarvitaan inferenceen. Esimerkiksi ongelma, joka voi vaatia DeepSeek R1:ltä yli 200 tokenia, voidaan ratkaista Cogito v2:lla alle 100 tokenilla.

Lisäksi Cogito v2:n koulutuskustannukset ovat merkittävästi alhaisemmat kuin perinteisten tekoälymallien. Koko Cogito v2:n koulutusprosessi, joka kattaa laajan valikoiman parametreja, maksoi alle 3,5 miljoonaa dollaria, mikä on paljon vähemmän kuin suurten tekoälymallien, kuten GPT-4, koulutukseen liittyvät kustannukset.

Cogito v2 on myös osoittanut emergenttejä kykyjä alueilla, joille se ei ollut erityisesti koulutettu. Esimerkiksi vaikka se on koulutettu pääasiassa tekstille, Cogito v2 voi päättelyä kuvista, piirtäen johtopäätöksiä kuvan koostumuksesta ja ympäristöstä. Tämä monitieteinen päättelykyky on merkittävä askel kohti yleistä tekoälyä, tärkeää merkkipaalu tekoälyn kehityksessä.

Tekoälyn kehityksen uudelleenarviointi

Älykkään vaiston menestys osoittaa, että tekoälyn kehitysstrategiat tarvitsevat perustavanlaatuista muutosta. Sen sijaan, että keskittyisivät yksinään mallin kokoon kasvattamiseen tai laskentaresurssien lisäämiseen, tekoälyn kehityksen tulisi keskittyä järjestelmien luomiseen, jotka voivat kehittää ja parantaa omia kognitiivisia strategioitaan. Tämä muutos heijastaa ihmisen kognitiivista kehitystä, jossa älykkyys ei johdu suuremmasta aivomassasta tai pidemmästä ajattelustaika, vaan paremmista mentaalisista malleista ja päättelystrategioista. Tämä lähestymistavan muutos voi olla merkittävä pitkällä aikavälillä. Keskittymällä älykkäämpään päättelyyn raakalaskennan sijaan, tekoäly voi tulla monipuolisemmaksi, sopeutuvammaksi ja paremmin kykeneväksi käsittelemään uusia haasteita. Tämä muutos voi kiihdyttää tekoälyn soveltamista aloilla kuten terveydenhuollossa, kyberTurvallisuudessa ja autonomisessa liikenteessä, tehdessä tekoälyjärjestelmistä tehokkaampia, kustannustehokkaampia ja vaikuttavampia.

Lopputulos

Cogito v2:n menestys osoittaa, että tekoälyn tulevaisuus ei ole skaalaamalla mallien kokoa tai lisäämällä laskentakapasiteettia, vaan parantamalla päättelyarkkitehtuureja ja optimoimalla älykkäämmän ongelmanratkaisun. Tämä muutos luvaa kestävämmän ja helpommin saatavilla olevan tulevaisuuden tekoälylle, jossa järjestelmät voivat jatkuvasti parantua ja sopeutua vähemmän riippuen massiivisista laskentaresursseista. Keskittymällä älykkäämpään päättelyyn raakalaskennan sijaan, tekoäly voi tulla kykenevämmäksi ratkaisemaan monimutkaisia, todellisia maailman ongelmia.