Wat is de wet van versnellende rendementen? Hoe het leidt tot AGI

In een recent interview op de vraag wanneer hij de komst van Artificial General Intelligence (AGI) verwacht, zei Elon Musk antwoordde “3 tot 6 jaar”. Demis Hassabis, CEO van DeepMind van Google, gelooft nu dat AGI dat wel is "een paar jaar, misschien binnen tien jaar' as bepaald de Het Future of Everything-festival van de Wall Street Journal.

Deze cijfers worden als optimistisch beschouwd in vergelijking met de meeste experts uit de AI-industrie die geloven dat AGI vaak een decennium, zo niet een eeuw verwijderd is. Een deel van dit pessimisme komt voort uit de angst om vast te houden aan een kortere tijdlijn om uiteindelijk pas ongelijk te krijgen. Immers, in 1956 werd bij het Dartmouth Summer Research Project de term "kunstmatige intelligentie" bedacht en begonnen als een veld, met de verwachting dat een machine zo intelligent als een mens zou binnen niet meer dan een generatie bestaan (25 jaar).

Anderen zoals Geoffrey Hinton die bekend is zoals de peetvader van AI hebben een ietsje meer genuanceerde kijk. “Tot voor kort dacht ik dat het 20 tot 50 jaar zou duren voordat we AI voor algemeen gebruik zouden hebben. En nu denk ik dat het misschien 20 jaar of minder is.

De AI-industrie heeft de afgelopen jaren snelle vooruitgang geboekt dankzij de snelle ontwikkeling van diepgaande leeralgoritmen, waarvan er vele de drijvende kracht zijn achter de hedendaagse technologie. Grote taalmodellen (LLM's).

Desalniettemin hebben al deze doorbraken alleen geleid tot beperkte AI-toepassingen zoals chatbots en taalvertaling. Dit is in vergelijking met AGI, een type kunstmatige intelligentie dat het vermogen bezit om kennis te begrijpen, te leren en toe te passen voor een breed scala aan taken op een niveau dat vergelijkbaar is met dat van een mens.

De ontbrekende schakel naar AGI lijkt voor velen onbereikbaar, maar voor enkelen die geloven in wat "The Law of Accelerating Returns" wordt genoemd, is het onvermijdelijk dat we uiteindelijk een AGI zullen bouwen.

De wet van versnellende opbrengsten is bedacht door niemand minder dan Ray Kurzweil, auteur, uitvinder en futurist. Hij is betrokken bij gebieden zoals optische tekenherkenning (OCR), tekst-naar-spraaksynthese, spraakherkenningstechnologie, en hij werd ingehuurd door Google na de publicatie van zijn AI-boek "Hoe een geest te creëren'. Dit baanbrekende boek illustreert hoe we het menselijk brein moeten begrijpen om het te reverse-engineeren om de ultieme denkmachine te creëren. Dit boek was zo belangrijk voor de toekomst van AI, dat Eric Schmidt Ray Kurzweil rekruteerde om aan AI-projecten te werken nadat hij dit baanbrekende boek had gelezen. 

Het meest relevante boek van Ray Kurzweil is niemand minder dan “De singulariteit is dichtbij“Sinds de publicatie in 2005 weerspiegelen de voorspellingen de technologische groei van de afgelopen 2 decennia. Het belangrijkste is dat Ray Kurzweil voorspelt dat we AGI tegen 2029 zullen bereiken, een tijdlijn die in overeenstemming is met de recente mening van Elon Musk en Demis Hassabis.

De wet stelt dat de snelheid van verandering in een grote verscheidenheid aan evolutionaire systemen (inclusief maar niet beperkt tot de groei van technologieën) de neiging heeft om exponentieel toe te nemen.

In de context van technologische groei houdt de wet in dat we in de toekomst snelle technologische vooruitgang kunnen verwachten, omdat het tempo van technologische innovatie zelf steeds sneller gaat. Ray Kurzweil stelt dat elke nieuwe generatie technologie voortbouwt op de vorige, waardoor het innovatiepotentieel exponentieel toeneemt.

Deze wet laat zien hoe een explosieve groei van versnellende technologieën, die momenteel wordt geleid door generatieve AI, andere golven van andere convergerende exponentiële technologieën zoals chipproductie en 3D-printen zal meevoeren. Deze convergentie is de katapult voor AI om de krachtigste applicatie ooit te worden.

In 2001 Ray Kurzweil voorspeld het volgende:

Een analyse van de geschiedenis van de technologie laat zien dat technologische verandering exponentieel is, in tegenstelling tot de gezond verstand "intuïtieve lineaire" visie. We zullen dus geen 100 jaar vooruitgang ervaren in de 21e eeuw - het zal eerder 20,000 jaar vooruitgang zijn (in het huidige tempo). Ook de 'opbrengsten', zoals chipsnelheid en kosteneffectiviteit, nemen exponentieel toe. Er is zelfs exponentiële groei in het tempo van exponentiële groei. Binnen een paar decennia zal machine-intelligentie de menselijke intelligentie overtreffen, wat leidt tot The Singularity - technologische verandering die zo snel en ingrijpend is dat het een breuk in het weefsel van de menselijke geschiedenis betekent. De implicaties zijn onder meer de samensmelting van biologische en niet-biologische intelligentie, onsterfelijke op software gebaseerde mensen en ultrahoge niveaus van intelligentie die zich met de snelheid van het licht naar buiten in het universum uitbreiden.

Deze technologische explosie is te wijten aan de wet van Moore welke voorspelde dat het aantal transistors op een bepaalde chip ongeveer elke twee jaar zou verdubbelen. Dit in combinatie met andere technologische doorbraken illustreert dat de wet van versnellende opbrengsten goed gedijt. Dit zijn Ray Kurzweil-observaties voor wat dit zal betekenen voor de toekomst van de mensheid:

• Evolutie past positieve feedback toe in die zin dat de meer capabele methoden die voortkomen uit een stadium van evolutionaire vooruitgang worden gebruikt om het volgende stadium te creëren. Het resultaat is dat de
• snelheid van voortgang van een evolutionair proces neemt in de loop van de tijd exponentieel toe. Na verloop van tijd neemt de 'volgorde' van de informatie die in het evolutionaire proces is ingebed (dwz de maatstaf van hoe goed de informatie past bij een doel, wat in evolutie overleving is) toe.
• Een correlaat van de bovenstaande observatie is dat de "opbrengsten" van een evolutionair proces (bijvoorbeeld de snelheid, kosteneffectiviteit of algehele "kracht" van een proces) in de loop van de tijd exponentieel toenemen.
• In een andere positieve feedbackloop, als een bepaald evolutionair proces (bijv. berekening) effectiever wordt (bijv. kosteneffectief), worden er meer middelen ingezet voor de verdere voortgang van dat proces. Dit resulteert in een tweede niveau van exponentiële groei (dwz de snelheid van exponentiële groei zelf groeit exponentieel).
• Biologische evolutie is zo'n evolutionair proces.
• Technologische evolutie is weer zo'n evolutionair proces. Inderdaad, de opkomst van de eerste technologie die soorten creëerde, resulteerde in het nieuwe evolutionaire proces van technologie. Daarom is technologische evolutie een uitvloeisel van – en een voortzetting van – biologische evolutie.
• Een specifiek paradigma (een methode of benadering om een ​​probleem op te lossen, bijvoorbeeld het verkleinen van transistors op een geïntegreerde schakeling als een benadering om krachtigere computers te maken) zorgt voor exponentiële groei totdat de methode zijn potentieel heeft uitgeput. Wanneer dit gebeurt, vindt er een paradigmaverschuiving plaats (dwz een fundamentele verandering in de aanpak), waardoor exponentiële groei kan worden voortgezet.

Lezers zouden moeten lezen Kurzweils blog, daarna moeten ze nadenken over de implicaties van deze exponentiële groei, en hoe deze overeenkomt met en verschilt van wat ze persoonlijk hebben ervaren sinds de eerste publicatie van de blog.

De wet van versnellende opbrengsten is weliswaar niet zo populair als de wet van Moore, maar blijft vandaag even relevant als toen deze voor het eerst werd gepubliceerd.