Matthew Ikle, Chief Science Officer hos SingularityNET – Interview Serie

Matthew Ikle er Chief Science Officer hos SingularityNET, et firma grundlagt med missionen om at skabe en decentral, demokratisk, inklusiv og beneficial Artificial General Intelligence. En ‘AGI’, der ikke er afhængig af nogen central enhed, der er åben for alle og ikke begrænset til de snævre mål for en enkelt virksomhed eller endda et enkelt land.

SingularityNET-teamet består af erfarne ingeniører, videnskabsmænd, forskere, iværksættere og markedsførere. Det centrale platform og AI-hold er yderligere suppleret med specialiserede hold, der er dedikeret til ansøgningsområder som finans, robotteknologi, biomedicinsk AI, medier, kunst og underholdning.

Givet din omfattende erfaring og rolle hos SingularityNET, hvor sikker er du på, at vi vil opnå AGI inden 2029 eller tidligere, som forudsagt af Dr. Ben Goertzel?

Jeg vil svare på dette spørgsmål på en lidt omvej. 2029 er omtrent fem år fra nu. For mange år siden (tidligt-midt i 2010’erne) var jeg ekstremt optimistisk omkring AGI-fremgangen. Min optimisme på det tidspunkt var baseret på niveauet af detaljeret tanke og konvergens af ideer, jeg var vidne til i AGI-forskningen på det tidspunkt. Mens de fleste af de store ideer fra den æra, jeg tror, stadig har løfte, kommer vanskeligheden, som det ofte er tilfældet, fra at udarbejde detaljerne i sådanne bredstrokes visioner.

Med denne forbehold i mente er der nu en mængde ny information, fra talrige discipliner – neurovidenskab, matematik, datalogi, psykologi, sociologi, du navn det – der giver ikke kun mekanismerne for at fuldføre disse detaljer, men også konceptuelt støtter grundlaget for det tidligere arbejde. Jeg ser mønstre, og i ret divergerende fag, der alle synes at mig at konvergere i en accelererende rate mod analoge former for adfærd. På mange måder minder denne konvergens om perioden før udgivelsen af den første iPhone. For at citerer Greg Meredith, der arbejder på vores RhoLang-infrastruktur for sikker samtidig behandling, mønstrene jeg ser i disse dage er relateret til oprindelseshistorier – hvordan begyndte det første liv/cellen på jorden? Hvordan og hvornår formede sindet? Og relaterede spørgsmål vedrørende faseovergange for eksempel.

For eksempel er der ret meget ny eksperimentel forskning, der tenderer til at støtte ideerne under en kompleks dynamisk system synspunkt. EEG-mønstre af menneskelige forsøgspersoner, for eksempel, viser bemærkelsesværdig adfærd i overensstemmelse med sådanne system dynamik. Disse resultater minder tilbage til noget tidligere arbejde i bevidsthedsteorier. Nu synes der at være begyndelsen på eksperimentel backup for disse teoretiske ideer.

Hos SingularityNET tænker jeg meget over de selv-lignende strukturer, der genererer sådanne dynamik. Dette er ret forskelligt, jeg ville argumentere, end hvad der sker i meget af DNN/GPT-fællesskabet, selv om der bestemt er en erkendelse blandt visse mere fundamentale forskere af disse ideer. Jeg ville pege på artiklen “Bevidsthed i kunstig intelligens: Indsigter fra bevidsthedsvidenskaben” udgivet af 19 forskere i august 2023, for eksempel. Forskerne dækkede en række discipliner, herunder bevidsthedsstudier, AI-sikkerhedsforskning, hjernevidenskab, matematik, datalogi, psykologi, neurovidenskab og neurobillede, og sind og kognitionsforskning. Hvad disse forskere har til fælles er større end en simpel jagt på den næste inkrementelle arkitektoniske forbedring i DNN’er, men i stedet er de fokuseret på videnskabeligt at forstå de store filosofiske ideer, der ligger under menneskelig kognition og hvordan man kan bringe dem til at implementere rigtige AGI-systemer.

Hvad ser du som de største tekniske eller filosofiske hindringer for at opnå AGI inden for dette årti?

At forstå og besvare store filosofiske og videnskabelige spørgsmål, herunder:

• Hvad er liv? Vi kan tro, at svaret er klart, men biologiske definitioner har vist sig at være problematiske. Er virus “levende” for eksempel.
• Hvad er sind?
• Hvad er intelligens?
• Hvordan opstod liv fra nogle få basis-kemikalier under bestemte miljøbetingelser? Hvordan kunne vi genskabe dette?
• Hvordan opstod det første “sind”? Hvad var ingredienserne og betingelserne, der gjorde dette muligt?
• Hvordan implementerer vi, hvad vi lærer, når vi undersøger de ovenstående fem spørgsmål?
• Er vores nuværende teknologi opgaven til at implementere vores løsninger? Hvis ikke, hvad har vi brug for at opfinde og udvikle?
• Hvor meget tid og personale har vi brug for at implementere vores løsninger?

SingularityNET ser neuro-symbolisk AI som en lovende løsning til at overvinde de nuværende begrænsninger af generativ AI. Kan du forklare, hvad neuro-symbolisk AI er, og hvordan SingularityNET planlægger at udnytte denne tilgang til at accelerere udviklingen af AGI?

Historisk set har der været to hovedgrupper af AGI-forskere, sammen med en tredje gruppe, der kombinerer ideerne fra de to andre. Der har været forskere, der kun tror på en sub-symbolisk tilgang. Dette indebærer i dag primært brug af dybe neurale netværk (DNN’er) såsom Transformer-modeller, herunder den nuværende gruppe af store sprogmodeller (LLM’er). På grund af brugen af kunstige neurale netværk kaldes sub-symboliske tilgange også neurale metoder. I sub-symboliske systemer køres behandlingen over identiske og ulabelde noder (neuroner) og forbindelser (synapser). Symboliske tilhængere bruger højere orden logik og symbolisk resonans, hvor noder og forbindelser er mærket med konceptuel og semantisk betydning. SingularityNET følger en tredje tilgang, der bedst kan beskrives som en neuro-symbolisk hybrid, der udnytter styrkerne fra symboliske og sub-symboliske metoder.

Men det er en specifik type hybrid, der primært er baseret på Ben Goertzels’ patternistisk filosofi om sind og detaljeret i, blandt andet, hans artikel “Den generelle teori om generel intelligens: En pragmatisk patternistisk perspektiv”.

mens meget af den nuværende DNN- og LLM-forskning er baseret på simple neurale modeller og algoritmer, brug af kæmpestore dataset (f.eks. hele internettet), og korrekte indstillinger af milliarder af parametre i håb om at opnå AGI, er SingularityNET’s PRIMUS-strategi baseret på grundlæggende forståelser af dynamiske processer på multiple spatiotemporal skalaer og hvordan disse processer bedst kan aligneres for at fremme ønskede egenskaber på forskellige skalaer. Disse forståelser giver os mulighed for at guide AGI-forskning og udvikling på en menneskeforståelig måde.

Hvilke rammer tror du er kritiske for at sikre, at AGI-udviklingen gavner hele menneskeheden? Hvordan kan decentraliserede AI-platforme som SingularityNET fremme en mere ligelig og transparent proces i forhold til centraliserede AI-modeller?

Alle slags ideer her:

Transparens — Mens intet er perfekt, kan sikring af fuld transparens af beslutningsprocessen hjælpe alle, der er involveret (forskere, udviklere, brugere og ikke-brugere), til at alignere, guide, forstå og bedre håndtere AGI-udvikling til gavn for menneskeheden. Dette ligner problemet med bias, som jeg vil berøre nedenfor.

Decentralisering – Mens decentralisering kan være rodet, kan det hjælpe med at sikre, at magten deles mere bredt. Det er ikke i sig selv en panace, men et værktøj, der, hvis det bruges korrekt, kan hjælpe med at skabe mere ligelige processer og resultater.

Konsensus-baseret beslutningstagning – decentralisering og konsensus-baseret beslutningstagning kan arbejde sammen i stræben efter mere ligelige processer og resultater. Atter er det ikke altid, der garanterer lighed. Der er også kompleksiteter, der skal håndteres her i forhold til rygte og områder af ekspertise. For eksempel, hvordan kan vi bedst balancere modsatrettede ønskede egenskaber? Jeg ser transparens, decentralisering og konsensus-baseret beslutningstagning som blot tre kritisk vigtige værktøjer, der kan bruges til at guide AGI-udvikling til gavn for menneskeheden.

Rum-tidslig alignment af emergente fænomener på tværs af multiple skalaer fra det ekstraordinært små til det inordinat store. I udviklingen af AGI tror jeg, det er vigtigt ikke kun at stole på en enkelt “sort boks”-tilgang, hvor man håber at få alt korrekt fra starten. I stedet tror jeg, at design af AGI med grundlæggende forståelser på forskellige udviklingsstadier og på multiple skalaer ikke kun kan gøre det mere sandsynligt at opnå AGI, men vigtigere at guide sådan udvikling i overensstemmelse med menneskelige værdier.

SingularityNET er en decentral AI-platform. Hvordan ser du intersectionen af blockchain-teknologi og AGI udvikle sig, især med hensyn til sikkerhed, styre og decentraliseret kontrol?

Blockchain har bestemt en rol at spille i AI-kontrol, sikkerhed og styre. Et af blockchains største styrker er dets evne til at fremme transparens. Spørgsmålet om bias er et godt eksempel herpå. Jeg ville argumentere for, at hver person og hver dataset er biased. Jeg har mine egne personlige bias, for eksempel, når det kommer til, hvad jeg tror er nødvendigt for at opnå rigtig sikker, beneficial og velgørende AGI. Disse bias er dannet gennem mine studier og baggrund og guider mit eget arbejde.

På samme tid prøver jeg at være fuldstændig åben for ideer, der modsiger mine bias, og er villig til at justere mine bias baseret på nye bevis. Uanset prøver jeg at være åben og transparent med hensyn til mine bias og derefter at betinge mine ideer og beslutninger på en selv-refleksiv forståelse af disse bias. Det er svært, det er vanskeligt, men jeg tror, det er bedre end ikke at anerkende ens egne bias. Ved sin natur giver blockchain mulighed for bedre og transparent sporbarhed, tracing og verificering af processer og begivenheder. På en lignende måde, som jeg tidligere beskrev, er transparens en nødvendig, men ikke altid tilstrækkelig, komponent for sikkerhed, styre og decentraliseret kontrol.

Hvordan blockchain og AGI sam-evolverer er et interessant spørgsmål. For at de to teknologier kan interagere mod en positiv singularitet, synes det klart, at de fundamentale egenskaber, jeg hele tiden peger på (transparens, decentralisering, konsensus og værdi-alignment), er centrale og kritiske og må være i mente på alle stadier af deres sam-evolution.

Som en leder, der har været tæt involveret i både AI og blockchain, hvad tror du er de vigtigste faktorer for at fremme samarbejde mellem disse to fag, og hvordan kan det drive innovation i AGI?

Jeg kommer fra AI/AGI-siden af dette par. Som det ofte er tilfældet, når man integrerer tværfaglige ideer, kommer meget ned til sprog og kommunikation. Alle grupper skal lytte til hinanden for bedre at forstå, hvordan teknologierne kan hjælpe hinanden. I mit job hos SingularityNET har dette været en konstant kamp. Høj-endeforskere, som det ville være en underdrivelse at sige, at SingularityNET har i overflod, har ofte klare mentale forestillinger om store ideer. Når man arbejder på tværs af discipliner, er det svære at realisere, at ikke alle er “i mit hoved”. Hvad man tager for givet, vil ikke være så klart observeret fra dem i andre fag. Selv ord, der bruges fælles, kan bruges forskelligt på tværs af forskellige fag. Der var et nyligt tilfælde i vores BioAI-arbejde, hvor biologer brugte en matematisk term, men ikke helt korrekt i forhold til dens matematiske definition. Når sådanne situationer er klart forstået, kan teamet gå videre med fælles formål, så integrationen virkelig viser, at helheden er større end summen af dens dele.

Hvordan ser du, at AI- og blockchain-industrierne arbejder mod større diversitet og inklusion, og hvilken rol spiller SingularityNET i at fremme disse værdier?

AI og blockchain kan begge spille store roller i at forbedre diversificering og inklusionsbestræbelser. Selv om jeg tror, det er umuligt at fjerne alle bias – mange bias dannes gennem livserfaringer – kan man være åben og transparent omkring sine bias. Dette er noget, jeg aktivt stræber efter at gøre i mit eget arbejde, som er biased af min akademiske baggrund, så jeg ser problemer gennem en lins af komplekse systemdynamikker. Jeg stræber dog stadig efter at være åben for og forstå ideer og analogier fra andre perspektiver. AI kan udnyttes til at hjælpe i denne selv-refleksionsproces, og blockchain kan bestemt hjælpe med transparens. SingularityNET kan spille en enorm rol ved at hoste værktøjer til at detektere, måle og fjerne, så meget som muligt, bias i dataset.

Hvordan bidrager SingularityNET’s arbejde i decentraliserede AI-økosystemer til at løse globale udfordringer såsom bæredygtighed, uddannelse og jobskabelse, især i regioner som Afrika, hvor du har en særlig interesse?

 Bæredygtighed:

• At anvende AI og systemmodeller til at løse komplekse økosystem-problemer i stor skala.
• Overvågning af sådanne løsninger i skala.
• Brug af blockchain til at spore, tracere og verificere sådanne løsninger.
• Brug af en kombination af AI, økosystemmodeller, hyper-lokale data og blockchain, har vi ideer til komplette løsninger til kunstnerisk minedrift i Afrika og landbrugs-kulstofbinding i skala.

Uddannelse:

Som en tidligere fastansat professor i matematik og datalogi er uddannelse ekstremt vigtigt for mig, især da det giver muligheder for underrepræsenterede studentergrupper. Det er vigtigt at:

• Forbedre tilgængelighed ved at udvikle hybrid-kurser til at nå studenter, der kan have geografiske, finansielle eller tidsmæssige begrænsninger.
• Fremme diversitet og inklusion ved at øge deltagelsen af underrepræsenterede grupper i AI, blockchain og andre avancerede teknologier.
• Fremme tværfaglig viden ved at skabe kurser, der brobygger mellem akademiske og professionelle fag.
• Støtte karriere-fremme ved at give færdigheder og certificeringer, der er direkte anvendelige på arbejdsmarkedet.

Jeg ser både AGI og blockchain, og deres synergier, som spiller kritiske roller i at løse ovenstående mål inden for “lærling til mester”-stil programmer centreret omkring praktisk, projekt-baseret læring.

Jobskabelse:

Ved at fremme de fire uddannelsesmål ovenfor synes det mig, at AGI, blockchain og andre avancerede teknologier, kombineret med positive samarbejder mellem lærere og lærende, kunne opmuntre og fremme hele nye teknologier og forretninger.

Som en person, der er dedikeret til at opnå en positiv singularitet, hvilke specifikke milepæle eller gennembrud i AI-teknologi tror du vil være nødvendige for at sikre, at AGI udvikles på en måde, der er gavnlig for samfundet?

• Evnen til at alignere emergente fænomener på menneske-forståelige måder på tværs af multiple spatiotemporal skalaer.
• Evnen til at forstå på et dybere niveau koncepterne underliggende “spontane” faseovergange.
• Evnen til at overvinde multiple hårdt problemer på en fin detalje for at muliggøre sand multi-behandling gennem tilstands-superpositioner.
• Transparens på alle stadier.
• Decentraliseret beslutningstagning baseret på konsensus-bygning.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge SingularityNET.