Matthew Ikle, Chief Science Officer at SingularityNET – Interview Series

Matthew Ikle is de Chief Science Officer bij SingularityNET, een bedrijf dat is opgericht met de missie om een decentraal, democratisch, inclusief en gunstig Artificial General Intelligence te creëren. Een ‘AGI’ dat niet afhankelijk is van een centrale entiteit, dat open is voor iedereen en niet beperkt is tot de smalle doelen van een enkel bedrijf of zelfs een enkel land.

Het SingularityNET-team bestaat uit ervaren ingenieurs, wetenschappers, onderzoekers, ondernemers en marketeers. Het core-platform en de AI-teams worden verder aangevuld met gespecialiseerde teams die zich richten op toepassingsgebieden zoals financiën, robotica, biomedische AI, media, kunst en entertainment.

Gezien uw uitgebreide ervaring en uw rol bij SingularityNET, hoe zelfverzekerd bent u dat we AGI zullen bereiken tegen 2029 of eerder, zoals voorspeld door Dr. Ben Goertzel?

Ik ga deze vraag op een beetje een omweg beantwoorden. 2029 is ongeveer vijf jaar van nu. Veel jaar geleden (begin-midden 2010) was ik extreem optimistisch over de vooruitgang van AGI. Mijn optimisme op dat moment was gebaseerd op het niveau van gedetailleerd denken en de convergentie van ideeën die ik zag in AGI-onderzoek op dat moment. Terwijl de meeste grote ideeën uit die tijd, denk ik, nog steeds beloftevol zijn, komt de moeilijkheid, zoals vaak het geval is, van het uitwerken van de details van dergelijke brede visies.

Met die kanttekening in gedachten is er nu een overvloed aan nieuwe informatie, vanuit verschillende disciplines – neurowetenschap, wiskunde, informatica, psychologie, sociologie, noem maar op – die niet alleen de mechanismen biedt voor het voltooien van die details, maar ook conceptueel de fundamenten van dat eerdere werk ondersteunt. Ik zie patronen, en in vrijwel alle uiteenlopende gebieden, die allemaal lijken te convergeren naar analoge soorten gedragingen met een versnellende snelheid. Op veel manieren doet deze convergentie me denken aan de periode vóór de release van de eerste iPhone. Om Greg Meredith te parafraseren, die werkt aan onze RhoLang-infrastructuur voor veilige gelijktijdige verwerking, de patronen die ik tegenwoordig zie, hebben te maken met oorsprongsverhalen – hoe begon het eerste leven/cel op aarde? Hoe en wanneer vormde de geest zich? En gerelateerde vragen met betrekking tot fase-overgangen, bijvoorbeeld.

Bijvoorbeeld, er is heel wat nieuw experimenteel onderzoek dat de ideeën ondersteunt die ten grondslag liggen aan een complex dynamisch systeem. EEG-patronen van menselijke onderwerpen vertonen opvallend gedrag in overeenstemming met dergelijke systeemdynamica. Deze resultaten doen denken aan eerder werk in bewustzijnstheorieën. Nu lijkt er een begin van experimentele ondersteuning te zijn voor die theoretische ideeën.

Bij SingularityNET denk ik veel na over de zelfgelijke structuren die dergelijke dynamica genereren. Dit is heel anders, zou ik argumenteren, dan wat gebeurt in veel van de DNN/GPT-gemeenschap, hoewel er zeker erkenning is onder bepaalde meer fundamentele onderzoekers van die ideeën. Ik zou verwijzen naar het paper “Bewustzijn in kunstmatige intelligentie: inzichten uit de wetenschap van bewustzijn” dat in augustus 2023 is uitgebracht door 19 onderzoekers. De onderzoekers kwamen uit een verscheidenheid aan disciplines, waaronder bewustzijnstudies, AI-veiligheidsonderzoek, hersenwetenschap, wiskunde, informatica, psychologie, neurowetenschap en neurobeelden, en geest en cognitieonderzoek. Wat deze onderzoekers gemeen hebben, is groter dan een eenvoudige zoektocht naar de volgende incrementele architectonische verbetering in DNN’s, maar ze zijn gericht op het wetenschappelijk begrijpen van de grote filosofische ideeën die ten grondslag liggen aan menselijke cognitie en hoe ze kunnen worden toegepast om echte AGI-systemen te implementeren.

Wat ziet u als de grootste technologische of filosofische hindernissen om AGI te bereiken binnen deze decennium?

Het begrijpen en beantwoorden van grote filosofische en wetenschappelijke vragen, waaronder:

• Wat is leven? We denken misschien dat het antwoord duidelijk is, maar biologische definities hebben zichzelf als problematisch bewezen. Zijn virussen “levend” bijvoorbeeld.
• Wat is geest?
• Wat is intelligentie?
• Hoe is leven ontstaan uit een paar basischemicaliën in specifieke omgevingsomstandigheden? Hoe kunnen we dit repliceren?
• Hoe is de eerste “geest” ontstaan? Welke ingrediënten en omstandigheden hebben dit mogelijk gemaakt?
• Hoe implementeren we wat we leren als we de bovenstaande vijf vragen onderzoeken?
• Is onze huidige technologie op de taak berekend om onze oplossingen te implementeren? Als niet, wat moeten we dan uitvinden en ontwikkelen?
• Hoeveel tijd en personeel hebben we nodig om onze oplossingen te implementeren?

SingularityNET ziet neuro-symbolische AI als een veelbelovende oplossing om de huidige beperkingen van generatieve AI te overwinnen. Kunt u uitleggen wat neuro-symbolische AI is en hoe SingularityNET van plan is om deze benadering te gebruiken om de ontwikkeling van AGI te versnellen?

Historisch gezien zijn er twee belangrijke kampen van AGI-onderzoekers, samen met een derde kamp dat de ideeën van de andere twee combineert. Er zijn onderzoekers die geloven in een sub-symbolische benadering. Dit betekent tegenwoordig voornamelijk het gebruik van diepe neurale netwerken (DNN’s) zoals Transformer-modellen, waaronder de huidige generatie van grote taalmodellen (LLM’s). Vanwege het gebruik van kunstmatige neurale netwerken worden sub-symbolische benaderingen ook wel neurale methoden genoemd. In sub-symbolische systemen wordt de verwerking uitgevoerd over identieke en niet-gelabelde knooppunten (neuronen) en links (synapsen). Symbolische voorstanders gebruiken hogere-orde logica en symbolische redenering, waarbij knooppunten en links zijn gelabeld met conceptuele en semantische betekenis. SingularityNET volgt een derde benadering die het beste kan worden omschreven als een neuro-symbolische hybride, die de sterke punten van symbolische en sub-symbolische methoden combineert.

Het is echter een speciale soort hybride, die grotendeels gebaseerd is op Ben Goertzels’ patternistische filosofie van de geest en gedetailleerd in, onder andere, zijn pamflet “The General Theory of General Intelligence: A Pragmatic Patternist Perspective”.

Terwijl veel van het huidige DNN- en LLM-onderzoek is gebaseerd op simplistische neurale modellen en algoritmen, het gebruik van enorme datasets (bijv. het hele internet) en correcte instellingen van miljarden parameters in de hoop AGI te bereiken, is SingularityNET’s PRIMUS-strategie gebaseerd op fundamentale inzichten in dynamische processen op meerdere spatio-temporele schalen en hoe deze processen het beste kunnen worden afgestemd om gewenste eigenschappen te laten ontstaan op verschillende schalen. Dergelijke inzichten stellen ons in staat om AGI-onderzoek en -ontwikkeling te leiden op een manier die voor mensen begrijpelijk is.

Wat zijn de kritische kaders om ervoor te zorgen dat AGI-ontwikkeling ten goede komt aan de hele mensheid? Hoe kunnen gedecentraliseerde AI-platforms zoals SingularityNET een meer eerlijke en transparante proces bevorderen in vergelijking met gecentraliseerde AI-modellen?

Er zijn allerlei ideeën:

Transparantie — Hoewel niets perfect is, kan het waarborgen van complete transparantie van het besluitvormingsproces helpen om iedereen die betrokken is (onderzoekers, ontwikkelaars, gebruikers en niet-gebruikers) te laten uitlijnen, leiden, begrijpen en beter omgaan met AGI-ontwikkeling ten behoeve van de mensheid. Dit is vergelijkbaar met het probleem van vooroordelen, dat ik hieronder zal aansnijden.

Decentralisatie – Hoewel decentralisatie rommelig kan zijn, kan het helpen om ervoor te zorgen dat de macht breder wordt gedeeld. Het is op zichzelf geen panacee, maar een instrument dat, als het correct wordt gebruikt, kan helpen om een meer eerlijk proces en resultaat te creëren.

Consensus-gebaseerd besluitvormen – Decentralisatie en consensus-gebaseerd besluitvormen kunnen samenwerken in de richting van een meer eerlijk proces en resultaat. Opnieuw garanderen ze niet altijd eerlijkheid. Er zijn ook complexiteiten die hier moeten worden aangepakt in termen van reputatie en gebieden van expertise. Bijvoorbeeld, hoe kunnen we het beste conflicterende gewenste kenmerken in evenwicht brengen? Ik zie transparantie, decentralisatie en consensus-gebaseerd besluitvormen als drie kritisch belangrijke instrumenten die kunnen worden gebruikt om AGI-ontwikkeling te leiden ten behoeve van de mensheid.

Spatiotemporele uitlijning van emergente fenomenen over meerdere schalen, van het uitzonderlijk kleine tot het ongehoord grote. Bij de ontwikkeling van AGI geloof ik dat het belangrijk is om niet alleen te vertrouwen op een enkele “black-box”-benadering, waarbij men hoopt alles correct te krijgen vanaf het begin. In plaats daarvan geloof ik dat het ontwerpen van AGI met fundamentele inzichten op verschillende ontwikkelingsstadia en op meerdere schalen niet alleen de kans groter maakt om AGI te bereiken, maar vooral om dergelijke ontwikkeling te leiden in overeenstemming met menselijke waarden.

SingularityNET is een gedecentraliseerd AI-platform. Hoe ziet u de kruising van blockchain-technologie en AGI evolueren, met name met betrekking tot beveiliging, bestuur en gedecentraliseerde controle?

Blockchain heeft zeker een rol te spelen in AI-controle, -beveiliging en -bestuur. Een van de grootste sterke punten van blockchain is zijn vermogen om transparantie te bevorderen. De kwestie van vooroordelen is een goed voorbeeld hiervan. Ik zou argumenteren dat elke persoon en elke dataset vooroordelen heeft. Ik heb mijn eigen persoonlijke vooroordelen, bijvoorbeeld, over wat ik geloof dat nodig is om echt veilige, gunstige en weldadige AGI te bereiken. Deze vooroordelen zijn gevormd door mijn studies en achtergrond en ze leiden mijn eigen werk.

Tegelijkertijd probeer ik volledig open te staan voor ideeën die in conflict zijn met mijn vooroordelen en ben ik bereid om mijn vooroordelen aan te passen op basis van nieuwe bewijzen. Ongeacht, probeer ik mijn best te doen om open en transparant te zijn met betrekking tot mijn vooroordelen en om mijn ideeën en beslissingen te conditioneren op basis van een zelfreflecterend begrip van die vooroordelen. Het is moeilijk, het is lastig, maar, denk ik, beter dan niet te erkennen dat men eigen vooroordelen heeft. Door zijn aard biedt blockchain een betere en transparante manier om processen en gebeurtenissen te volgen, te traceren en te verifiëren. Op een soortgelijke manier als ik eerder beschreef, is transparantie een noodzakelijk, maar niet altijd voldoende, onderdeel voor beveiliging, bestuur en gedecentraliseerde controle.

Hoe blockchain en AGI samen evolueren is een interessante vraag. Om ervoor te zorgen dat de twee technologieën elkaar positief beïnvloeden, lijkt het erop dat de fundamentele kenmerken die ik blijf benadrukken (transparantie, decentralisatie, consensus en waardenuitlijning) centraal en kritisch zijn en moeten worden meegenomen in alle stadia van hun co-evolutie.

Als leider die nauw betrokken is geweest bij zowel AI als blockchain, wat gelooft u dat de belangrijkste factoren zijn voor het bevorderen van samenwerking tussen deze twee gebieden, en hoe kan dit innovatie stimuleren in AGI?

Ik kom van de AI/AGI-kant van het paar. Zoals vaak het geval is bij het integreren van cross-disciplinaire ideeën, komt veel neer op kwesties van taal en communicatie. Alle groepen moeten naar elkaar luisteren om beter te begrijpen hoe de technologieën elkaar kunnen helpen. In mijn werk bij SingularityNET is dit een constante strijd. Hoogwaardige onderzoekers, wat een understatement zou zijn om te zeggen dat SingularityNET daarvan in overvloed heeft, hebben vaak duidelijke mentale concepten van grote ideeën. Bij het werken over disciplinaire grenzen heen is het moeilijke deel het realiseren dat niet iedereen “in uw hoofd” zit. Wat u als vanzelfsprekend aanneemt, zal niet zo duidelijk worden waargenomen door mensen uit andere vakgebieden. Er was onlangs een geval in ons BioAI-werk, waarin biologen een wiskundig begrip gebruikten, maar niet helemaal correct in termen van zijn wiskundige definitie. Zodra dergelijke situaties duidelijk worden begrepen, kan het team verdergaan met een gemeenschappelijk doel, zodat de integratie echt groter is dan de som van zijn delen.

Hoe ziet u de AI- en blockchain-industrieën werken aan grotere diversiteit en inclusie, en wat is de rol van SingularityNET bij het bevorderen van deze waarden?

AI en blockchain kunnen beide een belangrijke rol spelen bij het verbeteren van diversificatie- en inclusie-inspanningen. Hoewel ik geloof dat het onmogelijk is om alle vooroordelen te verwijderen – veel vooroordelen vormen zich simpelweg door levenservaringen – kan men open en transparant zijn over zijn vooroordelen. Dit is iets wat ik actief nastreef in mijn eigen werk, dat wordt beïnvloed door mijn academische achtergrond, zodat ik problemen zie door een lens van complexe systeemdynamica. Toch probeer ik open te staan voor en te begrijpen ideeën en analogieën vanuit andere perspectieven. AI kan worden ingezet om te helpen bij dit zelfreflectieproces, en blockchain kan zeker helpen met transparantie. SingularityNET kan een enorme rol spelen door tools te hosten voor het detecteren, meten en verwijderen (zoveel als mogelijk) van vooroordelen in datasets.

Hoe draagt het werk van SingularityNET bij aan het oplossen van mondiale uitdagingen zoals duurzaamheid, onderwijs en banencreatie, vooral in regio’s zoals Afrika, waar u een speciale interesse in heeft?

Duurzaamheid:

• Het toepassen van AI en systeemmodellen om complexe ecosysteemproblemen op grote schaal op te lossen.
• Het monitoren van dergelijke oplossingen op grote schaal.
• Het gebruik van blockchain om dergelijke oplossingen te volgen, te traceren en te verifiëren.
• Het gebruik van een combinatie van AI, ecosysteemmodellen, hyper-lokale gegevens en blockchain, hebben we complete oplossingen bedacht voor ambachtelijke mijnbouw in Afrika en agrarische koolstofvastlegging op grote schaal.

Onderwijs:

Als voormalig gewoon hoogleraar wiskunde en informatica is onderwijs uiterst belangrijk voor mij, vooral omdat het kansen biedt aan minderbedeelde studentenpopulaties. Het is belangrijk:

• Om toegankelijkheid te vergroten door hybride cursussen te ontwikkelen om studenten te bereiken die mogelijk geografische, financiële of tijdsbeperkingen hebben.
• Om diversiteit en inclusie te bevorderen door de deelname van minderbedeelde populaties in AI, blockchain en andere geavanceerde technologieën te vergroten.
• Om interdisciplinaire kennis te bevorderen door cursussen te creëren die academische en professionele vakgebieden verbinden.
• Om carrièrevordering te ondersteunen door vaardigheden en certificaten te bieden die rechtstreeks toepasbaar zijn op de arbeidsmarkt.

Ik zie zowel AGI als blockchain, en hun synergieën, als speelende kritische rollen bij het aanpakken van de bovenstaande doelstellingen binnen “leerling tot meester”-stijlprogramma’s die zijn gericht op hands-on, projectgebaseerd leren.

Banencreatie:

Door de vier onderwijsdoelstellingen hierboven te bevorderen, lijkt het mij dat AGI, blockchain en andere geavanceerde technologieën, gekoppeld aan positieve samenwerkingen tussen leraren en leerlingen, nieuwe technologieën en bedrijven kunnen aanmoedigen en doen ontstaan.

Als iemand die zich inzet voor het bereiken van een positieve singulariteit, welke specifieke mijlpalen of doorbraken in AI-technologie gelooft u dat nodig zullen zijn om ervoor te zorgen dat AGI op een gunstige manier voor de samenleving ontwikkelt?

• De mogelijkheid om emergente fenomenen in menselijk interpreteerbare manieren over meerdere spatio-temporele schalen uit te lijnen.
• De mogelijkheid om op een dieper niveau de concepten te begrijpen die ten grondslag liggen aan “spontane” fase-overgangen.
• De mogelijkheid om meerdere harde problemen te overwinnen op een fijne schaal om echte multi-verwerking via toestandsuperpositie mogelijk te maken.
• Transparantie op alle stadia.
• Gedecentraliseerd besluitvormen op basis van consensusvorming.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken SingularityNET.