AGI-22 belyser framstegen inom utvecklingen av artificiell allmän intelligens

Jag deltog nyligen i den 15:e årliga konferensen om artificiell allmän intelligens (AGI-22) som hölls i Seattle i augusti, i ett försök att bekanta mig med nya utvecklingar som kunde leda till den slutliga skapelsen av en artificiell allmän intelligens (AGI).

En AGI är en typ av avancerad AI som kan generalisera över flera domäner och inte är begränsad till en specifik omfattning. Exempel på smal AI inkluderar en självkörande bil, en chatbot, en schackbot eller någon annan AI som är utformad för ett enda syfte. En AGI i jämförelse skulle kunna flexibelt växla mellan någon av ovanstående eller något annat expertområde. Den består av en spekulativ typ av AI som skulle dra nytta av nya algoritmer som transfer learning och evolutionär inlärning, samtidigt som den utnyttjar äldre algoritmer som deep reinforcement learning.

Under den inledande keynote-sessionen talade Ben Goertzel, en AI-forskare , VD och grundare av SingularityNET, och ledare för OpenCog Foundation om branschens tillstånd. Han tycktes entusiastisk över den framtida riktningen för AGI och sa att “Vi är år bort snarare än årtionden bort”. Detta skulle placera den slutliga lanseringen av en AGI till cirka 2029, samma år som Ray Kurzweil, en av världens ledande uppfinnare, tänkare och futurister, berömt förutspådde uppkomsten av en AI som uppnår mänsklig intelligensnivå.

Teorin går ut på att när denna typ av intelligens uppnås, kommer AI omedelbart och kontinuerligt att förbättra sig själv för att snabbt överträffa mänsklig intelligens i vad som kallas superintelligens.

En annan talare Charles J. Simon, grundare och VD för Future AI sa i en separat session, “AGI-uppkomst kommer att vara gradvis” och “AGI är oundviklig och kommer att anlända tidigare än de flesta människor tror, det kan vara ett par år”.

Trots denna optimistiska inställning finns det betydande hinder på plats. Ben Goertzel erkände också att för att uppnå AGI, “Vi behöver en tillströmning av nya idéer, inte bara skala upp neuronnätverk”. Detta är en inställning som har delats av Gary Marcus, som är känd för att ha sagt att “djupinlärning har nått en vägg”.

Några av de kärnutmaningar som finns för att skapa en AGI inkluderar att hitta ett belöningssystem som kan skala intelligens på ett maximalt informerat sätt. Moravecs paradox återspeglar det nuvarande problemet med att uppnå AGI med vår nuvarande teknik. Denna paradox säger att anpassningar som är intuitiva för ett ettåring, såsom att lära sig att gå och simulera verkligheten, är mycket svårare att programmera i en AI än vad människor uppfattar som svårt.

För människor är det tvärtom, att behärska schack eller utföra komplexa matematiska formler kan kräva en livstid att bemästra, men dessa är två ganska enkla uppgifter för smal AI.

En av lösningarna på denna paradox kan vara evolutionär inlärning, också känd som evolutionära algoritmer. Detta möjliggör i princip att en AI söker efter komplexa lösningar genom att imitera processen för biologisk evolution.

I en separat Q&A sa Ben Goertzel att “AGI är inte oundviklig, men det är mycket sannolikt”. Detta är samma slutsats som jag har kommit till, men gränsen mellan oundviklighet och sannolikhet suddas ut.

Under konferensen presenterades många papper, ett av de noterbara papperen som diskuterades var Polynomial Functors: A General Theory of Interaction av David Spivak från Topos Institute i Berkeley, CA och Nelson Niu från University of Washington, i Seattle, WA. Detta papper diskuterar en matematisk kategori som kallas Poly som kan påverka den framtida riktningen för AI när det gäller intima relationer med dynamiska processer, beslutsfattande och lagring och omvandling av data. Det återstår att se hur detta kommer att påverka AGI-forskningen, men det kan vara en av de saknade komponenterna som kan leda oss till AGI.

Det fanns givetvis andra papper som var mer spekulativa, såsom Versatility-Efficiency Index (VEI): Towards a Comprehensive Definition of IQ for AGI Agents av Mohammadreza Alidoust. Idén är att konstruera ett alternativt sätt att mäta intelligensnivån hos intelligenta system, en typ av IQ-test för att mäta AGI-agenter på ett beräkningsmässigt sätt.

Två noterbara företag som kan göra genombrott i denna underliggande teknik är OpenAI och DeepMind, båda av vilka var märkbart frånvarande. Det kan bero på att AGI inte tas på allvar av AI-samhället, men de är de två företagen som är mest benägna att göra det första genombrottet inom detta område. Detta är särskilt sant eftersom OpenAI:s uttalade uppdrag är att bedriva grundläggande, långsiktig forskning mot skapandet av en säker AGI.

Medan det inte fanns några stora revolutionerande genombrott att avslöja på konferensen, är det tydligt att AGI sysselsätter många forskare och det är något som AI-samhället bör ägna mer uppmärksamhet åt. Efter allt, en AGI kan vara lösningen på att lösa mänsklighetens flera existentiella hot.