Hva er loven om akselererende avkastning? Hvordan det fører til AGI

I et nylig intervju da han ble spurt om når han forventer å se fremkomsten av Artificial General Intelligence (AGI), Elon Musk svarte "3 til 6 år". Googles DeepMind-sjef Demis Hassabis mener nå at AGI er "noen år, kanskje innen et tiår unna." as uttalte på Wall Street Journals Future of Everything-festival.

Disse tallene anses å være optimistiske sammenlignet med de fleste AI-bransjeeksperter som tror at AGI ofte er et tiår, om ikke et århundre unna. Noe av denne pessimismen er fra frykt for å forplikte seg til en kortere tidslinje for bare til slutt å bli bevist feil. Tross alt i 1956, ved Dartmouth Summer Research Project, ble begrepet "kunstig intelligens" laget og startet som et felt, med forventning om at en maskin så intelligent som et menneske ville ikke eksistere om mer enn en generasjon (25 år).

Andre som Geoffrey Hinton som er kjent som gudfaren til AI har litt mer nyansert syn. "Inntil ganske nylig trodde jeg at det skulle ta 20 til 50 år før vi har AI for generell bruk. Og nå tror jeg det kan være 20 år eller mindre.»

AI-bransjen har utviklet seg raskt de siste årene takket være den raske utviklingen av algoritmer for dyp forsterkning av læring, mange av dem som driver dagens Store språkmodeller (LLM-er).

Ikke desto mindre har alle disse gjennombruddene bare ført til smale AI-applikasjoner som chatbots og språkoversettelse. Dette er sammenlignet med AGI, en type kunstig intelligens som har evnen til å forstå, lære og anvende kunnskap på tvers av et bredt spekter av oppgaver på et nivå som kan sammenlignes med et menneskes.

Den manglende koblingen til AGI virker for mange uoppnåelig, men for noen få som tror på det som kalles "The Law of Accelerating Returns", er det uunngåelig at vi til slutt vil bygge en AGI.

Law of Accelerating Returns ble konseptualisert av ingen ringere enn Ray Kurzweil, forfatter, oppfinner og fremtidsforsker. Han er involvert i felt som optisk tegngjenkjenning (OCR), tekst-til-tale-syntese, talegjenkjenningsteknologi, og han ble ansatt av Google etter å ha publisert sin AI-bok "Hvordan skape et sinn". Denne banebrytende boken illustrerer hvordan vi trenger å forstå den menneskelige hjernen for å reversere den for å skape den ultimate tenkemaskinen. Denne boken var så viktig for fremtiden til AI, at Eric Schmidt rekrutterte Ray Kurzweil til å jobbe med AI-prosjekter etter at han hadde lest denne banebrytende boken. 

Den mest relevante Ray Kurzweil-boken er ingen ringere enn "Singulariteten er nærSiden den ble publisert i 2005, har spådommene speilet teknologisk vekst de siste to tiårene. Det viktigste er at Ray Kurzweil spår at vi vil oppnå AGI innen 2, en tidslinje som er i tråd med den nylige oppfatningen delt av Elon Musk og Demis Hassabis.

Loven antyder at endringshastigheten i et bredt spekter av evolusjonære systemer (inkludert men ikke begrenset til veksten av teknologier) har en tendens til å øke eksponentielt.

I sammenheng med teknologisk vekst innebærer loven at vi kan forvente raske teknologiske fremskritt i fremtiden fordi tempoet i teknologisk innovasjon i seg selv akselererer. Ray Kurzweil hevder at hver ny generasjon teknologi bygger på den forrige, og øker potensialet for innovasjon i en eksponentiell hastighet.

Denne loven viser hvordan en eksplosiv vekst av akselererende teknologier, som for tiden ledes av Generative AI, vil ri andre bølger av andre konvergerende eksponentielle teknologier som brikkeproduksjon og 3D-utskrift. Denne konvergensen er katapulten for AI til å bli den kraftigste applikasjonen som noen gang er bygget.

I 2001 spådde Ray Kurzweil følgende:

En analyse av teknologihistorien viser at teknologiske endringer er eksponentielle, i motsetning til det sunne "intuitive lineære" synet. Så vi vil ikke oppleve 100 år med fremgang i det 21. århundre - det vil være mer som 20,000 XNUMX år med fremgang (med dagens hastighet). «Returnene», som chiphastighet og kostnadseffektivitet, øker også eksponentielt. Det er til og med eksponentiell vekst i hastigheten på eksponentiell vekst. I løpet av noen tiår vil maskinintelligens overgå menneskelig intelligens, noe som fører til The Singularity - teknologisk endring så rask og dyp at den representerer et brudd i menneskets historie. Implikasjonene inkluderer sammenslåingen av biologisk og ikke-biologisk intelligens, udødelige programvarebaserte mennesker og ultrahøye nivåer av intelligens som utvider seg utover i universet med lysets hastighet.

Denne teknologiske eksplosjonen skyldes Moores lov hvilken spådde at antall transistorer på en gitt brikke ville dobles omtrent hvert annet år. Dette sammen med andre teknologiske gjennombrudd illustrerer at loven om akselererende avkastning blomstrer. Disse er Ray Kurzweil observasjoner for hva dette vil bety for menneskehetens fremtid:

• Evolusjon bruker positiv tilbakemelding ved at de mer dyktige metodene som er et resultat av ett stadium av evolusjonær fremgang, brukes til å lage det neste trinnet. Som et resultat har
• hastigheten på utviklingen av en evolusjonsprosess øker eksponentielt over tid. Over tid øker «rekkefølgen» av informasjonen som er innebygd i evolusjonsprosessen (dvs. målestokken på hvor godt informasjonen passer til et formål, som i evolusjon er overlevelse).
• En sammenheng med observasjonen ovenfor er at "avkastningen" til en evolusjonær prosess (f.eks. hastigheten, kostnadseffektiviteten eller den totale "kraften" til en prosess) øker eksponentielt over tid.
• I en annen positiv tilbakemeldingssløyfe, ettersom en bestemt evolusjonsprosess (f.eks. beregning) blir mer effektiv (f.eks. kostnadseffektiv), blir større ressurser satt inn mot den videre fremdriften av denne prosessen. Dette resulterer i et andre nivå av eksponentiell vekst (dvs. hastigheten på eksponentiell vekst i seg selv vokser eksponentielt).
• Biologisk evolusjon er en slik evolusjonsprosess.
• Teknologisk evolusjon er en annen slik evolusjonsprosess. Faktisk, fremveksten av den første teknologien som skaper arter resulterte i den nye evolusjonære prosessen med teknologi. Derfor er teknologisk evolusjon en utvekst av – og en fortsettelse av – biologisk evolusjon.
• Et spesifikt paradigme (en metode eller tilnærming for å løse et problem, f.eks. krympende transistorer på en integrert krets som en tilnærming til å lage kraftigere datamaskiner) gir eksponentiell vekst inntil metoden tar ut potensialet. Når dette skjer, skjer et paradigmeskifte (dvs. en fundamental endring i tilnærmingen), som gjør at eksponentiell vekst kan fortsette.

Leserne bør lese Kurzweils blogg, og etterpå bør de reflektere over implikasjonene av denne eksponentielle veksten, og hvordan den samsvarer med og skiller seg fra det de personlig har opplevd siden bloggen først ble publisert.

Loven om akselererende avkastning er, selv om den ikke er like populær som Moores lov, like relevant i dag som da den opprinnelig ble publisert.