Hva er Loven om akselererende tilbakebetalinger? Hvordan den fører til AGI

I et nylig intervju, da han ble spurt når han forventer å se fremveksten av kunstig generell intelligens (AGI), svarte Elon Musk “3 til 6 år”. Googles DeepMind-sjef Demis Hassabis tror nå at AGI er “noen år, kanskje innen en decade” som ble uttalt på The Wall Street Journals Future of Everything Festival.

Disse tallene regnes som optimistiske sammenlignet med de fleste AI-bransjens eksperter, som tror at AGI er ofte et tiår, hvis ikke et århundre unna. Noen av denne pesimismen skyldes frykten for å binde seg til en kortere tidsramme, bare for å bli bevist feil til slutt. Etter all, i 1956, på Dartmouth Summer Research Project, ble begrepet “kunstig intelligens” myntet og startet som et felt, med forventningen om at en maskin like intelligent som et menneske ville eksistere innen noen år (25 år).

Andre, som Geoffrey Hinton, som er kjent som gudfaren til AI, har en litt mer nuansert syn. “Inntil nylig, trodde jeg det ville være som 20 til 50 år før vi får generell AI. Og nå tror jeg det kan være 20 år eller mindre.”

AI-bransjen har utviklet seg raskt de siste årene, takket være den raske utviklingen av dypt forsterkingslæring-algoritmer, mange av dem som driver i dag Store språkmodeller (LLM).

Likevel, har alle disse gjennombruddene bare ført til smale AI-applikasjoner, som chatbots og språkoversettelse. Dette er i sammenligning med AGI, en type kunstig intelligens som besitter evnen til å forstå, lære og anvende kunnskap på tvers av et bredt spekter av oppgaver på et nivå sammenlignbart med et menneske.

Den manglende lenken til AGI for mange synes uoppnåelig, men for noen som tror på hva som kalles “Loven om akselererende tilbakebetalinger”, er det uunngåelig at vi til slutt vil bygge en AGI.

Loven om akselererende tilbakebetalinger ble konseptualisert av ingen ringere enn Ray Kurzweil, forfatter, oppfinner og fremtidsforsker. Han er involvert i felt som optisk tegngjenkjenning (OCR), tekst-til-tale-syntese, talegjenkjenningsteknologi, og han ble ansatt av Google (GOOGL ) etter å ha publisert sin AI-bok “Hvordan skape en hjerne”. Denne banebrytende boken illustrerer hvordan vi må forstå menneskehjernen for å reversere ingeniørkunsten og skape den ultimate tenkende maskinen. Denne boken var så instrumental for fremtiden til AI, at Eric Schmidt rekrutterte Ray Kurzweil til å arbeide med AI-prosjekter etter å ha fullført å lese denne seminale boken. 

Den mest relevante Ray Kurzweil-boken er ingen ringere enn “Singularityen er nær“, siden den ble publisert i 2005, har dens forutsigelser speilet teknologisk vekst over de siste to tiårene. Viktigst er at Ray Kurzweil forutsier at vi vil oppnå AGI i 2029, en tidsramme som er i linje med den nylige meningen delt av Elon Musk og Demis Hassabis.

Loven fastslår at forandringstakten i en rekke evolusjonære systemer (inkludert, men ikke begrenset til, veksten av teknologier) tenderer til å øke eksponentielt.

I sammenheng med teknologisk vekst, impliserer loven at vi kan forvente raske teknologiske fremsteg i fremtiden, fordi takten i teknologisk innovasjon selv akselererer. Ray Kurzweil argumenterer for at hver ny generasjon teknologi bygger på den forrige, og øker potensialet for innovasjon med en eksponentiell rate.

Denne loven viser hvordan en eksplosiv vekst av akselererende teknologier, som for tiden ledet av generativ AI, vil ri på andre bølger av konvergerende eksponentielle teknologier, som chip-fabrikasjon og 3-D-utskrift. Denne konvergensen er katalysatoren for at AI skal bli den mest powerful applikasjonen noensinne bygget.

I 2001, forutså Ray Kurzweil følgende:

En analyse av teknologiens historie viser at teknologisk forandring er eksponentiell, i motsetning til den vanlige “intuitive lineære” visjonen. Så vi vil ikke oppleve 100 år med fremgang i det 21. århundre — det vil være mer som 20 000 år med fremgang (etter dagens rate). “Avkastningene”, som chip-hastighet og kost-efektivitet, øker også eksponentielt. Det er også eksponentiell vekst i raten av eksponentiell vekst. Innen noen tiår, vil maskinintelligensen overgå menneskelig intelligens, og føre til Singularity — teknologisk forandring så rask og dyp at det representerer en brudd i menneskehetens historie. Implikasjonene inkluderer sammenslåingen av biologisk og ikke-biologisk intelligens, programvare-basert udødelighet, og ultra-høye nivåer av intelligens som utvider seg utover i universet med lyshastighet.

Dette teknologiske eksplosjonen skyldes Moores lov, som forutså at antallet transistorer på en gitt chip ville doble seg omtrent hver to år. Dette sammen med andre teknologiske gjennombrudd illustrerer at Loven om akselererende tilbakebetalinger er i live.  Disse er Ray Kurzweils observasjoner for hva dette vil bety for fremtiden til menneskeheten:

• Evolusjon anvender positiv tilbakekobling, slik at de mer kapable metodene som resulterer fra en fase av evolusjonær fremgang, brukes til å skape den neste fasen. Som resultat,
• øker forandringstakten i en evolusjonær prosess eksponentielt over tid. Over tid, øker “ordenen” i informasjonen som er innbygget i den evolusjonære prosessen (dvs. målet for hvor godt informasjonen passer til en hensikt, som i evolusjon er overlevelse) eksponentielt.
• En korrelat til ovenstående observasjon er at “avkastningene” av en evolusjonær prosess (f.eks. hastighet, kost-efektivitet eller generell “kraft” i en prosess) øker eksponentielt over tid.
• I en annen positiv tilbakekobling, som en bestemt evolusjonær prosess (f.eks. beregning) blir mer effektiv (f.eks. kost-efektiv), deployeres større ressurser mot den videre fremgangen av den prosessen. Dette resulterer i en annen eksponentiell vekst (dvs. forandringstakten i eksponentiell vekst selv øker eksponentielt).
• Biologisk evolusjon er en slik evolusjonær prosess.
• Teknologisk evolusjon er en annen slik evolusjonær prosess. Faktisk, oppkomsten av den første teknologi-creerende arten resulterte i den nye evolusjonære prosessen teknologi. Derfor er teknologisk evolusjon en utvidelse av — og en fortsettelse av — biologisk evolusjon.
• En bestemt paradigme (en metode eller tilnærming til å løse et problem, f.eks. å minske transistorene på en integrert krets som en tilnærming til å gjøre mer powerful datamaskiner) gir eksponentiell vekst inntil metoden uttømmer sitt potensiale. Når dette skjer, skjer en paradigmeskifte (dvs. en grunnleggende endring i tilnærmingen), som muliggjør eksponentiell vekst å fortsette.

Leserne bør lese Kurzweils blogg, og deretter reflektere over implikasjonene av denne eksponentielle veksten, og hvordan den matcher og forskjeller fra hva de har personlig erfart siden bloggen ble først publisert.

Loven om akselererende tilbakebetalinger, selv om den ikke er like populær som Moores lov, er like relevant i dag som da den ble først publisert.