AGI-22 Highlights utvecklingen av Artificiell Allmän Intelligens

Jag deltog nyligen i den 15:e årliga konferensen om Artificiell Allmän Intelligens (AGI-22) som hölls i Seattle i augusti, i ett försök att bekanta mig med nya utvecklingar som kunde leda till skapandet av en Artificiell Allmän Intelligens (AGI).

En AGI är en typ av avancerad AI som kan generalisera över flera domäner och inte är begränsad till en specifik uppgift. Exempel på smal AI inkluderar en autonom fordon, en chattbot, en schackbot eller någon annan AI som är utformad för en specifik uppgift. En AGI skulle kunna flexibelt växla mellan någon av ovanstående eller något annat expertområde. Det består av en spekulativ typ av AI som skulle dra nytta av nya algoritmer som överföringsinlärning och evolutionär inlärning, samtidigt som den utnyttjar etablerade algoritmer som djup förstärkt inlärning.

Under den inledande keynote-föreläsningen talade Ben Goertzel, en AI-forskare , VD och grundare av SingularityNET, och ledare för OpenCog Foundation om branschens tillstånd. Han tycktes entusiastisk över AGI:s framtida riktning och sa att “Vi är år bort, inte decennier bort”. Detta skulle placera den slutliga lanseringen av en AGI till cirka 2029, samma år som Ray Kurzweil, en av världens ledande uppfinnare, tänkare och futurister, berömt förutspådde uppkomsten av en AI som uppnår mänsklig intelligensnivå.

Teorin går ut på att när denna typ av intelligens uppnås, kommer AI att omedelbart och kontinuerligt förbättra sig själv för att snabbt överträffa mänsklig intelligens i vad som kallas superintelligens.

En annan talare, Charles J. Simon, grundare och VD för Future AI, sa i en separat session att “AGI:s uppkomst kommer att vara gradvis” och “AGI är oundviklig och kommer att anlända tidigare än de flesta människor tror, det kan vara ett par år”.

Trots denna optimistiska inställning finns det betydande hinder på plats. Ben Goertzel erkände också att för att uppnå AGI, “Vi behöver en tillströmning av nya idéer, inte bara skala upp neurala nätverk”. Detta är en åsikt som delas av Gary Marcus, som är känd för att ha sagt att “djupinlärning har nått en vägg”.

Några av de kärnchallenger för att skapa en AGI inkluderar att hitta ett belöningssystem som kan skala intelligens på ett maximalt informerat sätt. Moravecs paradox återspeglar det nuvarande problemet med att uppnå AGI med vår nuvarande teknik. Denna paradox säger att anpassningar som är intuitiva för ett ettårigt barn, såsom att lära sig att gå och simulera verkligheten, är mycket svårare att programmera i en AI än vad människor uppfattar som svårt.

För människor är det tvärtom, att bemästra schack eller utföra komplexa matematiska formler kan kräva en livstid att bemästra, men dessa är två ganska enkla uppgifter för smal AI.

En av lösningarna på denna paradox kan vara evolutionär inlärning, också känd som evolutionära algoritmer. Detta möjliggör för en AI att söka efter komplexa lösningar genom att imitera processen för biologisk evolution.

I en separat Q & A sa Ben Goertzel att “AGI är inte oundviklig, men det är mycket sannolikt”. Detta är samma slutsats som jag har kommit till, men gränsen mellan oundviklighet och sannolikhet suddas ut.

Under konferensen presenterades många papper, ett av de mest noterbara papperen som diskuterades var Polynomial Functors: A General Theory of Interaction av David Spivak från Topos Institute i Berkeley, CA och Nelson Niu från University of Washington, i Seattle, WA. Detta papper diskuterar en matematisk kategori som kallas Poly som kan påverka den framtida riktningen för AI när det gäller intima relationer med dynamiska processer, beslutsfattande och lagring och omvandling av data. Det återstår att se hur detta kommer att påverka AGI-forskningen, men det kan vara en av de saknade komponenterna som kan leda oss till AGI.

Självklart fanns det andra papper som var mer spekulativa, såsom Versatility-Efficiency Index (VEI): Towards a Comprehensive Definition of IQ for AGI Agents av Mohammadreza Alidoust. Idén är att konstruera ett alternativt sätt att mäta intelligensnivån hos intelligenta system, en typ av IQ-test för att mäta AGI-agenter på ett beräkningsmässigt sätt.

Två noterbara företag som kan göra genombrott i denna underliggande teknik är OpenAI och DeepMind, båda av vilka var märkbart frånvarande. Det kan bero på att AGI inte tas på allvar av AI-samhället, men de är de två företagen som är mest benägna att göra det första genombrottet inom detta område. Detta är särskilt sant eftersom OpenAI:s uttalade uppdrag är att bedriva grundläggande, långsiktig forskning mot skapandet av en säker AGI.

Medan det inte fanns några stora revolutionerande genombrott att avslöja på konferensen, är det tydligt att AGI sysselsätter många forskare och det är något som AI-samhället bör ägna mer uppmärksamhet åt. Efter allt, en AGI kan vara lösningen på att lösa mänsklighetens flera existentiella hot.