Matthew Ikle, Chief Science Officer på SingularityNET – Intervjuserie

Matthew Ikle är Chief Science Officer på SingularityNET, ett företag som grundades med uppdraget att skapa en decentraliserad, demokratisk, inkluderande och nyttig Artificiell Allmän Intelligens. En “AGI” som inte är beroende av någon central enhet, som är öppen för alla och inte begränsad till de smala målen för ett enskilt företag eller ens ett enskilt land.

SingularityNET-teamet består av erfarna ingenjörer, forskare, entreprenörer och marknadsförare. Kärnplattformen och AI-lagen kompletteras av specialiserade team som är dedikerade till tillämpningsområden som finans, robotik, biomedicinsk AI, media, konst och underhållning.

Med tanke på din omfattande erfarenhet och roll på SingularityNET, hur säker är du på att vi kommer att uppnå AGI år 2029 eller tidigare, som förutspås av Dr. Ben Goertzel?

Jag kommer att svara på denna fråga på ett lite omvänt sätt. 2029 är ungefär fem år från nu. För många år sedan (i början av 2010-talet) var jag extremt optimistisk om AGI-forskningens framsteg. Min optimism vid den tiden grundades på den detaljerade tanken och idéernas sammanfall som jag såg i AGI-forskningen vid den tiden. Medan de flesta stora idéerna från den eran, tror jag, fortfarande har potential, kommer svårigheten, som ofta är fallet, från att fylla i detaljerna i sådana breda visioner.

Med denna reservation i åtanke, finns det nu en mängd ny information, från många discipliner – neurovetenskap, matematik, datavetenskap, psykologi, sociologi, du namnger det – som inte bara ger mekanismer för att slutföra detaljerna, utan också konceptuellt stöder grunderna för det tidigare arbetet. Jag ser mönster, och i ganska olika fält, som alla verkar konvergera i en accelererande takt mot liknande beteenden. På många sätt påminner denna konvergens mig om tiden före lanseringen av den första iPhone. För att citera Greg Meredith, som arbetar med vår RhoLang-infrastruktur för säker samtidig bearbetning, är mönstren jag ser dessa dagar relaterade till ursprungshistorier – hur började det första livet/cellen på jorden? Hur och när bildades medvetandet? Och relaterade frågor om fasövergångar, till exempel.

Till exempel finns det ganska mycket ny experimentell forskning som tenderar att stödja idéerna som ligger till grund för en komplex dynamisk systemsyn. EEG-mönster hos mänskliga försökspersoner, till exempel, visar anmärkningsvärt beteende i linje med sådana systemdynamik. Dessa resultat påminner om tidigare arbete inom medvetandeteorier. Nu verkar det finnas början på experimentellt stöd för dessa teoretiska idéer.

På SingularityNET tänker jag mycket på de självliknande strukturerna som genererar sådana dynamik. Detta är ganska annorlunda, skulle jag argumentera, än vad som händer i mycket av DNN/GPT-forskningen, även om det finns ett visst erkännande bland vissa mer grundläggande forskare av dessa idéer. Jag skulle peka på artikeln “Medvetande i artificiell intelligens: Insikter från medvetandeforskningen” som släpptes av 19 forskare i augusti 2023, till exempel. Forskarna omfattade en mängd olika discipliner, inklusive medvetandestudier, AI-säkerhetsforskning, hjärnvetenskap, matematik, datavetenskap, psykologi, neurovetenskap och neurobildning, och medvetande och kognitionsforskning. Vad dessa forskare har gemensamt är större än en enkel strävan efter den nästa inkrementella arkitektoniska förbättringen i DNN, utan de fokuserar på att vetenskapligt förstå de stora filosofiska idéerna som ligger till grund för mänskligt tänkande och hur man kan bringa dem till användning för att implementera riktiga AGI-system.

Vad ser du som de största tekniska eller filosofiska hindren för att uppnå AGI inom detta årtionde?

Att förstå och besvara stora filosofiska och vetenskapliga frågor, inklusive:

• Vad är liv? Vi kan tro att svaret är tydligt, men biologiska definitioner har visat sig vara problematiska. Är virus “levande” till exempel.
• Vad är medvetande?
• Vad är intelligens?
• Hur uppstod liv från några grundläggande kemikalier i specifika miljöförhållanden? Hur kunde vi replikera detta?
• Hur uppstod det första “medvetandet”? Vilka ingredienser och förhållanden möjliggjorde detta?
• Hur implementerar vi det vi lär oss när vi undersöker de ovan nämnda fem frågorna?
• Är vår nuvarande teknik upp till uppgiften att implementera våra lösningar? Om inte, vad behöver vi uppfinna och utveckla?
• Hur mycket tid och personal behöver vi för att implementera våra lösningar?

SingularityNET ser neuro-symbolisk AI som en lovande lösning för att övervinna de nuvarande begränsningarna för generativ AI. Kan du förklara vad neuro-symbolisk AI är och hur SingularityNET planerar att utnyttja denna approach för att påskynda utvecklingen av AGI?

Historiskt har det funnits två huvudsakliga läger av AGI-forskare, tillsammans med ett tredje läger som kombinerar idéerna från de två första. Det har funnits forskare som tror enbart på en sub-symbolisk approach. Dessa dagar betyder detta primärt användning av djupa neurala nätverk (DNN) som Transformer-modeller, inklusive den nuvarande skörden av stora språkmodeller (LLM). På grund av användningen av artificiella neurala nätverk kallas sub-symboliska metoder också neurala metoder. I sub-symboliska system körs bearbetning över identiska och omarkerade noder (neuroner) och länkar (synapser). Symboliska förespråkare använder högre ordningens logik och symbolisk resonemang, där noder och länkar är märkta med konceptuell och semantisk mening. SingularityNET följer en tredje approach som skulle kunna beskrivas som en neuro-symbolisk hybrid, som utnyttjar styrkorna hos symboliska och sub-symboliska metoder.

Ändå är det en specifik sorts hybrid som i stor utsträckning bygger på Ben Goertzels patternistiska filosofi om medvetande och detaljerad i, bland annat, hans skrift “The General Theory of General Intelligence: A Pragmatic Patternist Perspective”.

Medan mycket av den nuvarande DNN- och LLM-forskningen bygger på enkla neurala modeller och algoritmer, och användningen av enorma datamängder (t.ex. hela internet), och korrekt inställning av miljarder parametrar i hopp om att uppnå AGI, bygger SingularityNETs PRIMUS-strategi på grundläggande förståelse av dynamiska processer på flera rumsliga och tidsmässiga skalor och hur man bäst kan anpassa sådana processer för att framkalla önskade egenskaper på olika skalor. Sådan förståelse möjliggör oss att fortsätta att vägleda AGI-forskning och utveckling på ett sätt som är begripligt för människor.

Vilka ramverk tror du är kritiska för att säkerställa att AGI-utveckling gynnar hela mänskligheten? Hur kan decentraliserade AI-plattformar som SingularityNET främja en mer rättvis och transparent process jämfört med centraliserade AI-modeller?

Alla möjliga idéer här:

Transparens — Medan ingenting är perfekt, kan säkerställande av fullständig transparens i beslutsprocessen hjälpa alla inblandade (forskare, utvecklare, användare och icke-användare) att samordna, vägleda, förstå och bättre hantera AGI-utveckling för mänsklighetens bästa. Detta är liknande problemet med bias som jag kommer att beröra nedan.

Decentralisering – Medan decentralisering kan vara rörig, kan den hjälpa till att säkerställa att makten delas mer brett. Det är inte i sig en panacea, men ett verktyg som, om det används korrekt, kan hjälpa till att skapa mer rättvisa processer och resultat.

Konsensusbaserat beslutsfattande – Decentralisering och konsensusbaserat beslutsfattande kan samarbeta i strävan efter mer rättvisa processer och resultat. Återigen garanterar de inte alltid rättvisa. Det finns också komplexiteter som måste hanteras här i termer av rykte och expertisområden. Till exempel, hur kan vi bäst balansera motsatta önskvärda egenskaper? Jag ser transparens, decentralisering och konsensusbaserat beslutsfattande som bara tre kritiskt viktiga verktyg som kan användas för att vägleda AGI-utveckling för mänsklighetens bästa.

Rumslig-tidsmässig anpassning av emergent fenomen över flera skalor från det oerhört lilla till det oerhört stora. Vid utveckling av AGI tror jag att det är viktigt att inte bara förlita sig på en enda “svart låda”-approach, där man hoppas att allt blir rätt från början. Istället tror jag att design av AGI med grundläggande förståelse på olika utvecklingsstadier och på flera skalor inte bara kan göra det mer sannolikt att uppnå AGI, utan mer viktigt, att vägleda sådan utveckling i linje med mänskliga värderingar.

SingularityNET är en decentraliserad AI-plattform. Hur ser du på korsningen mellan blockchain-teknologi och AGI, särskilt när det gäller säkerhet, styrning och decentraliserad kontroll?

Blockchain har definitivt en roll att spela i AI-kontroll, säkerhet och styrning. En av blockchains största styrkor är dess förmåga att främja transparens. Frågan om bias är ett utmärkt exempel på detta. Jag skulle argumentera för att varje person och varje datamängd är partisk. Jag har mina egna personliga bias, till exempel, när det gäller vad jag tror krävs för att uppnå riktigt säker, nyttig och välvillig AGI. Dessa bias har formats av mina studier och bakgrund och de vägleder mitt eget arbete.

Samtidigt försöker jag vara helt öppen för idéer som motsäger mina bias och är villig att justera mina bias baserat på nya bevis. Oavsett, försöker jag vara så öppen och transparent som möjligt med avseende på mina bias, och sedan villkora mina idéer och beslut baserat på en självreflekterande förståelse av dessa bias. Det är knepigt, det är svårt, men jag tror att det är bättre än att inte erkänna ens egna bias. Genom sin natur möjliggör blockchain bättre och transparent spårning, spårning och verifiering av processer och händelser. På ett liknande sätt som jag beskrivit tidigare, är transparens en nödvändig, men inte alltid tillräcklig, komponent för säkerhet, styrning och decentraliserad kontroll.

Hur blockchain och AGI samutvecklas är en intressant fråga. För att de två teknologierna ska interagera mot en positiv singularitet, verkar det tydligt att de grundläggande egenskaperna jag hela tiden pekar på (transparens, decentralisering, konsensus och värderingsanpassning), är centrala och kritiska och måste beaktas vid alla stadier av deras samutveckling.

Som en ledare som har varit nära involverad i både AI och blockchain, vad tror du är de viktigaste faktorerna för att främja samarbete mellan dessa två områden, och hur kan det driva innovation inom AGI?

Jag kommer från AI/AGI-sidan av det här paret. Som ofta är fallet när man integrerar tvärvetenskapliga idéer, handlar mycket om språk och kommunikation. Alla grupper måste lyssna på varandra för att bättre förstå hur teknologierna kan hjälpa varandra. I mitt arbete på SingularityNET har detta varit en konstant kamp. Högkvalificerade forskare, som det vore en underdrift att säga att SingularityNET har i överflöd, har ofta tydliga mentala föreställningar om stora idéer. När man arbetar över disciplinära gränser, är den svåra delen att inse att inte alla är “i ditt huvud”. Vad man tar för givet, kommer inte att vara så tydligt observerat av dem i andra fält. Till och med ord som används i gemensamhet kan användas på olika sätt över olika fält. Det fanns ett nyligt fall i vårt BioAI-arbete, där biologer använde ett matematiskt begrepp, men inte helt korrekt i termer av dess matematiska definition. När sådana situationer är tydligt förstådda, kan teamet gå vidare med ett gemensamt syfte, så att integrationen verkligen visar att helheten är större än summan av delarna.

Hur ser du på att AI- och blockchain-industrierna arbetar mot större mångfald och inkludering, och vilken roll spelar SingularityNET i att främja dessa värderingar?

AI och blockchain kan båda spela viktiga roller i att förbättra mångfalds- och inkluderingsinsatser. Även om jag tror att det är omöjligt att ta bort all bias – många bias formas enbart genom livserfarenheter – kan man vara öppen och transparent om sin egen bias. Detta är något jag aktivt strävar efter att göra i mitt eget arbete, som är partiskt på grund av min akademiska bakgrund, så att jag ser problem genom en lins av komplexa systemdynamik. Ändå strävar jag efter att vara öppen för och förstå idéer och analogier från andra perspektiv. AI kan användas för att hjälpa till i denna självreflekterande process, och blockchain kan definitivt hjälpa till med transparens. SingularityNET kan spela en enorm roll genom att vara värd för verktyg för att upptäcka, mäta och ta bort, så långt som möjligt, bias i datamängder.

Hur bidrar SingularityNETs arbete i decentraliserade AI-ekosystem till att lösa globala utmaningar som hållbarhet, utbildning och jobbskapande, särskilt i regioner som Afrika, där du har ett särskilt intresse?

 Hållbarhet:

• Att tillämpa AI och systemmodeller för att lösa komplexa ekosystemproblem i stor skala.
• Att övervaka sådana lösningar i stor skala.
• Att använda blockchain för att spåra, spåra och verifiera sådana lösningar.
• Att använda en kombination av AI, ekosystemmodeller, hyperlokala data och blockchain, har vi ideat kompletta lösningar för hantverksmässig gruvdrift i Afrika och jordbrukskolbindning i stor skala.

Utbildning:

Som en tidigare fast anställd professor i matematik och datavetenskap, är utbildning extremt viktigt för mig, särskilt eftersom det ger möjligheter till underbetjänade studentgrupper. Det är viktigt att:

• Förbättra tillgänglighet genom att utveckla hybridkurser för att nå studenter som kan ha geografiska, ekonomiska eller tidsmässiga begränsningar.
• Framhäva mångfald och inkludering genom att öka deltagandet av underbetjänade grupper i AI, blockchain och andra avancerade teknologier.
• Främja tvärvetenskaplig kunskap genom att skapa kurser som broar akademiska och professionella fält.
• Stödja karriärutveckling genom att tillhandahålla färdigheter och certifikat som är direkt tillämpliga på arbetsmarknaden.

Jag ser både AGI och blockchain, och deras synergier, som spelar kritiska roller i att hantera de ovan nämnda målen inom “lärling till mästerskap” -stilprogram centrerade kring praktiskt, projektbaserat lärande.

Jobbskapande:

Genom att främja de fyra utbildningsmålen ovan, verkar det för mig som att AGI, blockchain och andra avancerade teknologier, tillsammans med positiva samarbeten mellan lärare och lärande, kunde uppmuntra och framkalla helt nya teknologier och företag.

Som någon som är engagerad i att uppnå en positiv singularitet, vilka specifika milstolpar eller genombrott i AI-teknologi tror du kommer att vara nödvändiga för att säkerställa att AGI utvecklas på ett sätt som är nyttigt för samhället?

• Förmåga att anpassa emergent fenomen på mänskligt tolkningsbara sätt över flera rumsliga och tidsmässiga skalor.
• Förmåga att förstå på en djupare nivå de begrepp som ligger till grund för “spontana” fasövergångar.
• Förmåga att övervinna flera hårda problem på en fin detalj för att möjliggöra sann multi-bearbetning genom tillståndssuperpositioner.
• Transparens på alla stadier.
• Decentraliserat beslutsfattande baserat på konsensusbyggnad.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka SingularityNET.