Vad är lagen om accelererande avkastning? Hur det leder till AGI

I en intervju nyligen när han tillfrågades när han förväntar sig att se tillkomsten av artificiell allmän intelligens (AGI), Elon Musk svarade "3 till 6 år". Googles DeepMind-vd Demis Hassabis tror nu att AGI är det "några år, kanske inom ett decennium bort” as anges vid Wall Street Journals Future of Everything-festival.

Dessa siffror anses vara optimistiska jämfört med de flesta AI-industrikunniga som tror att AGI ofta är ett decennium, om inte ett sekel bort. En del av denna pessimism beror på rädsla för att förbinda sig till en kortare tidslinje för att bara så småningom visa sig ha fel. När allt kommer omkring 1956, vid Dartmouth Summer Research Project, myntades termen "Artificial Intelligence" och började som ett fält, med förväntningen att en maskin lika intelligent som en människa skulle existera om inte mer än en generation (25 år).

Andra som Geoffrey Hinton som är känd som gudfadern till AI har lite mer nyanserad syn. "Tills helt nyligen trodde jag att det skulle ta 20 till 50 år innan vi har allmän AI. Och nu tror jag att det kan vara 20 år eller mindre.”

AI-industrin har utvecklats snabbt under det senaste året tack vare den snabba utvecklingen av algoritmer för djupförstärkning, många som driver dagens Stora språkmodeller (LLMs).

Ändå har alla dessa genombrott bara lett till smala AI-applikationer som chatbots och språköversättning. Detta är i jämförelse med AGI, en typ av artificiell intelligens som har förmågan att förstå, lära sig och tillämpa kunskap över ett brett spektrum av uppgifter på en nivå som är jämförbar med en människas.

Den saknade länken till AGI för många verkar ouppnåelig, men för ett fåtal som tror på det som kallas "The Law of Accelerating Returns" är det oundvikligt att vi så småningom kommer att bygga en AGI.

The Law of Accelerating Returns konceptualiserades av ingen mindre än Ray Kurzweil, författare, uppfinnare och futurist. Han är involverad i områden som optisk teckenigenkänning (OCR), text-till-tal-syntes, taligenkänningsteknik, och han anställdes av Google efter att ha publicerat sin AI-bok "Hur man skapar ett sinne". Denna banbrytande bok illustrerar hur vi behöver förstå den mänskliga hjärnan för att omvända den för att skapa den ultimata tänkande maskinen. Den här boken var så avgörande för AI:s framtid att Eric Schmidt rekryterade Ray Kurzweil för att arbeta med AI-projekt efter att han läst klart denna framstående bok. 

Den mest relevanta Ray Kurzweil-boken är ingen mindre än "Singularity är nära", sedan de publicerades 2005, har dess förutsägelser speglat den tekniska tillväxten under de senaste två decennierna. Viktigast av allt förutspår Ray Kurzweil att vi kommer att uppnå AGI till 2, en tidslinje som är i linje med den senaste åsikten som delas av Elon Musk och Demis Hassabis.

Lagen hävdar att förändringstakten i en mängd olika evolutionära system (inklusive men inte begränsat till tillväxten av teknologier) tenderar att öka exponentiellt.

I samband med teknisk tillväxt innebär lagen att vi kan förvänta oss snabba tekniska framsteg i framtiden eftersom takten i den tekniska innovationen i sig ökar. Ray Kurzweil hävdar att varje ny generation av teknik bygger på den tidigare, vilket ökar potentialen för innovation i en exponentiell takt.

Denna lag visar hur en explosiv tillväxt av accelererande teknologier, som för närvarande leds av Generative AI, kommer att rida på andra vågor av andra konvergerande exponentiella teknologier som chiptillverkning och 3-D-utskrift. Denna konvergens är katapulten för AI att bli den mest kraftfulla applikationen som någonsin byggts.

2001, Ray Kurzweil förutsagda följande:

En analys av teknikens historia visar att den tekniska förändringen är exponentiell, i motsats till den sunt förnuftiga "intuitiva linjära" synen. Så vi kommer inte att uppleva 100 år av framsteg under 21-talet – det kommer att vara mer som 20,000 XNUMX år av framsteg (i dagens takt). "Avkastningen", såsom chiphastighet och kostnadseffektivitet, ökar också exponentiellt. Det finns till och med exponentiell tillväxt i hastigheten för exponentiell tillväxt. Inom några decennier kommer maskinintelligens att överträffa mänsklig intelligens, vilket leder till The Singularity - teknisk förändring så snabb och djupgående att den representerar ett brott i mänsklighetens historia. Implikationerna inkluderar sammanslagning av biologisk och icke-biologisk intelligens, odödliga mjukvarubaserade människor och ultrahöga nivåer av intelligens som expanderar utåt i universum med ljusets hastighet.

Denna tekniska explosion beror på Moores lag som förutspådde att antalet transistorer på ett givet chip skulle fördubblas ungefär vartannat år. Detta tillsammans med andra tekniska genombrott illustrerar att lagen om accelererande avkastning blomstrar. Dessa är Ray Kurzweil observationer för vad detta kommer att betyda för mänsklighetens framtid:

• Evolution tillämpar positiv feedback genom att de mer kapabla metoderna som är resultatet av ett steg av evolutionära framsteg används för att skapa nästa steg. Som ett resultat av detta
• framstegshastigheten för en evolutionär process ökar exponentiellt över tiden. Med tiden ökar "ordningen" på informationen som är inbäddad i den evolutionära processen (dvs måttet på hur väl informationen passar ett syfte, vilket i evolutionen är överlevnad).
• Ett samband med ovanstående observation är att "avkastningen" av en evolutionär process (t.ex. hastigheten, kostnadseffektiviteten eller den övergripande "kraften" hos en process) ökar exponentiellt över tiden.
• I en annan positiv återkopplingsslinga, när en viss evolutionär process (t.ex. beräkning) blir mer effektiv (t.ex. kostnadseffektiv), satsas större resurser på den vidare processen. Detta resulterar i en andra nivå av exponentiell tillväxt (dvs. hastigheten för exponentiell tillväxt i sig växer exponentiellt).
• Biologisk evolution är en sådan evolutionär process.
• Teknologisk evolution är en annan sådan evolutionär process. Faktum är att uppkomsten av den första tekniken som skapar arter resulterade i den nya evolutionära teknikprocessen. Därför är den tekniska evolutionen en utväxt av – och en fortsättning på – biologisk evolution.
• Ett specifikt paradigm (en metod eller ett tillvägagångssätt för att lösa ett problem, t.ex. krympande transistorer på en integrerad krets som ett tillvägagångssätt för att göra kraftfullare datorer) ger exponentiell tillväxt tills metoden förbrukar sin potential. När detta händer sker ett paradigmskifte (dvs. en fundamental förändring av tillvägagångssättet), vilket gör att exponentiell tillväxt kan fortsätta.

Läsare borde läsa Kurzweils blogg, efteråt bör de reflektera över implikationerna av denna exponentiella tillväxt, och hur den matchar och skiljer sig från vad de personligen har upplevt sedan bloggen ursprungligen publicerades.

The Law of Accelerating Returns, även om den inte är lika populär som Moores lag, är fortfarande lika relevant idag som när den först publicerades.