Hvad er loven om at accelerere afkast? Hvordan det fører til AGI

I et nyligt interview, da han blev spurgt, hvornår han forventer at se fremkomsten af ​​Artificial General Intelligence (AGI), Elon Musk svarede "3 til 6 år". Googles DeepMind-chef Demis Hassabis mener nu, at AGI er det "et par år, måske inden for et årti væk” as erklærede ved Wall Street Journals Future of Everything-festival.

Disse tal anses for at være optimistiske sammenlignet med de fleste AI-industrieksperter, der mener, at AGI ofte er et årti, hvis ikke et århundrede væk. Noget af denne pessimisme er fra frygt for at forpligte sig til en kortere tidslinje for først til sidst at blive bevist forkert. Når alt kommer til alt i 1956, ved Dartmouth Summer Research Project blev udtrykket "kunstig intelligens" opfundet og startede som et felt med forventning om, at en maskine så intelligent som et menneske ville eksistere om ikke mere end en generation (25 år).

Andre såsom Geoffrey Hinton, der er kendt som gudfaderen til AI har lidt mere nuanceret syn. "Indtil for ganske nylig troede jeg, at der ville gå 20 til 50 år, før vi har AI til generelle formål. Og nu tror jeg, det kan være 20 år eller mindre."

AI-industrien har udviklet sig hurtigt i løbet af de sidste par år takket være den hurtige udvikling af dybe forstærkende læringsalgoritmer, mange der driver nutidens Store sprogmodeller (LLM'er).

Ikke desto mindre har alle disse gennembrud kun ført til smalle AI-applikationer såsom chatbots og sprogoversættelse. Dette er i sammenligning med AGI, en type kunstig intelligens, der besidder evnen til at forstå, lære og anvende viden på tværs af en bred vifte af opgaver på et niveau, der kan sammenlignes med et menneskes.

Det manglende led til AGI virker for mange uopnåeligt, men for nogle få, der tror på det, der kaldes "The Law of Accelerating Returns", er det uundgåeligt, at vi i sidste ende vil bygge en AGI.

Loven om accelererende afkast blev konceptualiseret af ingen ringere end Ray Kurzweil, forfatter, opfinder og fremtidsforsker. Han er involveret i områder som optisk tegngenkendelse (OCR), tekst-til-tale-syntese, talegenkendelsesteknologi, og han blev ansat af Google efter at have udgivet sin AI-bog "Sådan skaber du et sind". Denne banebrydende bog illustrerer, hvordan vi er nødt til at forstå den menneskelige hjerne for at omvendt konstruere den for at skabe den ultimative tænkemaskine. Denne bog var så medvirkende til fremtiden for AI, at Eric Schmidt rekrutterede Ray Kurzweil til at arbejde på AI-projekter, efter at han havde læst denne skelsættende bog. 

Den mest relevante Ray Kurzweil bog er ingen ringere end "Singularity er i nærheden", siden den blev offentliggjort i 2005, har dens forudsigelser afspejlet teknologisk vækst i løbet af de sidste 2 årtier. Vigtigst af alt forudser Ray Kurzweil, at vi vil opnå AGI i 2029, en tidslinje, der er i tråd med den nylige mening delt af Elon Musk og Demis Hassabis.

Loven hævder, at ændringshastigheden i en lang række evolutionære systemer (herunder, men ikke begrænset til, væksten af ​​teknologier) har en tendens til at stige eksponentielt.

I forbindelse med teknologisk vækst indebærer loven, at vi kan forvente hurtige teknologiske fremskridt i fremtiden, fordi tempoet i teknologisk innovation i sig selv accelererer. Ray Kurzweil hævder, at hver ny generation af teknologi bygger på den forrige, hvilket øger potentialet for innovation i en eksponentiel hastighed.

Denne lov viser, hvordan en eksplosiv vækst af accelererende teknologier, som i øjeblikket ledes af Generative AI, vil ride på andre bølger af andre konvergerende eksponentielle teknologier såsom chipfremstilling og 3-D-print. Denne konvergens er katapulten for AI til at blive den mest kraftfulde applikation, der nogensinde er bygget.

I 2001, Ray Kurzweil forudsagde følgende:

En analyse af teknologiens historie viser, at teknologiske forandringer er eksponentielle, i modsætning til den almindelige "intuitive lineære" opfattelse. Så vi vil ikke opleve 100 års fremskridt i det 21. århundrede – det vil mere ligne 20,000 års fremskridt (i dagens hastighed). "Afkastet", såsom chiphastighed og omkostningseffektivitet, stiger også eksponentielt. Der er endda eksponentiel vækst i hastigheden af ​​eksponentiel vækst. Inden for få årtier vil maskinintelligens overgå menneskelig intelligens, hvilket fører til The Singularity - teknologisk forandring så hurtig og dybtgående, at den repræsenterer et brud i menneskets historie. Implikationerne omfatter sammensmeltningen af ​​biologisk og ikke-biologisk intelligens, udødelige software-baserede mennesker og ultrahøje niveauer af intelligens, der udvider sig udad i universet med lysets hastighed.

Denne teknologiske eksplosion skyldes Moore's Law som forudsagde, at antallet af transistorer på en given chip ville fordobles cirka hvert andet år. Dette kombineret med andre teknologiske gennembrud illustrerer, at loven om accelererende afkast trives. Disse er Ray Kurzweil observationer for, hvad dette vil betyde for menneskehedens fremtid:

• Evolution anvender positiv feedback ved, at de mere dygtige metoder, der er resultatet af et trin af evolutionære fremskridt, bruges til at skabe det næste trin. Som følge heraf
• hastigheden af ​​fremskridt i en evolutionær proces stiger eksponentielt over tid. Over tid stiger "rækkefølgen" af informationen, der er indlejret i den evolutionære proces (dvs. målet for, hvor godt informationen passer til et formål, som i evolution er overlevelse).
• En sammenhæng til ovenstående observation er, at "afkastet" af en evolutionær proces (f.eks. hastigheden, omkostningseffektiviteten eller den samlede "kraft" af en proces) øges eksponentielt over tid.
• I en anden positiv feedback-sløjfe, når en bestemt evolutionær proces (f.eks. beregning) bliver mere effektiv (f.eks. omkostningseffektiv), bliver større ressourcer indsat til den videre fremskridt i denne proces. Dette resulterer i et andet niveau af eksponentiel vækst (dvs. selve hastigheden af ​​eksponentiel vækst vokser eksponentielt).
• Biologisk evolution er en sådan evolutionær proces.
• Teknologisk evolution er en anden sådan evolutionær proces. Faktisk resulterede fremkomsten af ​​den første teknologi til at skabe arter i den nye evolutionære teknologiske proces. Derfor er teknologisk evolution en udløber af – og en fortsættelse af – biologisk evolution.
• Et specifikt paradigme (en metode eller tilgang til at løse et problem, f.eks. krympende transistorer på et integreret kredsløb som en tilgang til at lave mere kraftfulde computere) giver eksponentiel vækst, indtil metoden udtømmer sit potentiale. Når dette sker, sker der et paradigmeskifte (dvs. en fundamental ændring i tilgangen), som gør det muligt for eksponentiel vækst at fortsætte.

Læsere bør læse Kurzweils blog, bagefter skulle de reflektere over implikationerne af denne eksponentielle vækst, og hvordan den matcher og adskiller sig fra det, de personligt har oplevet, siden bloggen oprindeligt blev offentliggjort.

The Law of Accelerating Returns, selvom den ikke er så populær som Moores lov, er stadig lige så relevant i dag, som da den oprindeligt blev offentliggjort.