Matthew Ikle, Chief Science Officer i SingularityNET – Intervju-serie

Matthew Ikle er Chief Science Officer i SingularityNET, et selskap som ble grunnlagt med målet om å skape en desentralisert, demokratisk, inkluderende og beneficial kunstig generell intelligens. En «kunstig generell intelligens» som ikke er avhengig av noen sentral enhet, som er åpen for alle og ikke begrenset til de smale målene til ett enkelt selskap eller selv ett enkelt land.

SingularityNET-teamet består av erfarne ingeniører, forskere, entreprenører og markedsførere. Kjerneplattformen og AI-teamene kompletteres av spesialiserte team som er viet til anvendningsområder som finansielle tjenester, robotikk, biomedisinsk AI, media, kunst og underholdning.

Med din omfattende erfaring og rolle i SingularityNET, hvor sikker er du på at vi vil nå kunstig generell intelligens innen 2029 eller tidligere, som forutsagt av Dr. Ben Goertzel?

Jeg skal svare på dette spørsmålet på en litt omveiende måte. 2029 er omtrent fem år fra nå. For mange år siden (tidlig til midten av 2010-årene) var jeg ekstremt optimistisk når det gjaldt fremgangen i kunstig generell intelligens. Min optimisme på den tiden var basert på nivået av detaljert tenkning og konvergering av ideer jeg observerte i kunstig generell intelligens-forskning på den tiden. Mens de fleste av de store idéene fra den æraen, tror jeg, fortsatt har potensiale, kommer vanskeligheten, som ofte er tilfelle, fra å fylle ut detaljene i slike brede visjoner.

Med denne forbeholdet i mente, er det nå en mengde ny informasjon, fra mange fagområder – nevrovitenskap, matematikk, datavitenskap, psykologi, sosiologi, du navn det – som gir ikke bare mekanismene for å fullføre disse detaljene, men også konseptuelt støtter grunnleggende arbeid fra tidligere. Jeg ser mønster, og i ganske forskjellige fag, som alle synes å konvergere med en akselererende rate mot analoge typer atferd. På mange måter minner denne konvergeringen meg om perioden før lanseringen av den første iPhone. For å sitere Greg Meredith, som arbeider med vår RhoLang-infrastruktur for sikker samtidig prosessering, er mønsterene jeg ser disse dagene relatert til opphavsfortellinger – hvordan begynte det første liv/cellen på jorden? Hvordan og når dannet bevissthet seg? Og relaterte spørsmål omkring fasetransisjoner for eksempel.

For eksempel, er det ganske mye ny eksperimentell forskning som tenderer til å støtte idéene som ligger til grunn for et komplekst dynamisk system-synspunkt. EEG-mønster av menneskelige subjekter, for eksempel, viser bemerkelsesverdig atferd i samsvar med slike system-dynamikker. Disse resultater minner om tidligere arbeid i bevissthetsteorier. Nå synes det å være begynnelsen på eksperimentell bakgrunn for disse teoretiske idéene.

Ved SingularityNET, tenker jeg mye på de selvliknende strukturer som genererer slike dynamikker. Dette er ganske forskjellig, ville jeg argumentere, enn hva som skjer i mye av DNN/GPT-forskningen, selv om det ervisstnok en viss erkjennelse blant noen mer grunnleggende forskere av disse idéene. Jeg ville peke på artikkelen «Bevissthet i kunstig intelligens: Innsikter fra vitenskapen om bevissthet» utgitt av 19 forskere i august 2023, for eksempel. Forskerne spente over en rekke fagområder, inkludert bevissthetstudier, AI-sikkerhetsforskning, hjernovitenskap, matematikk, datavitenskap, psykologi, nevrovitenskap og nevrobilder, og bevissthet og kognisjonsforskning. Hva disse forskerne har til felles, er større enn et enkelt søk etter den neste inkrementelle arkitektoniske forbedringen i DNN, men isteden er de fokusert på å vitenskapelig forstå de store filosofiske idéene som ligger til grunn for menneskelig kognisjon og hvordan å bringe dem til å implementere virkelige kunstig generell intelligens-systemer.

Hva ser du som de største tekniske eller filosofiske hindrene for å nå kunstig generell intelligens innen dette tiåret?

Forståelse og besvarelse av store filosofiske og vitenskapelige spørsmål, inkludert:

• Hva er liv? Vi kan tro at svaret er klart, men biologiske definisjoner har vist seg å være problematiske. Er virus «levende» for eksempel.
• Hva er bevissthet?
• Hva er intelligens?
• Hvordan oppstod liv fra noen få grunnkjemikalier i bestemte miljøbetingelser? Hvordan kunne vi gjenta dette?
• Hvordan oppstod den første «bevisstheten»? Hva var ingrediensene og betingelsene som muliggjorde dette?
• Hvordan implementerer vi det vi lærer når vi undersøker de ovennevnte fem spørsmålene?
• Er vår nåværende teknologi opp til oppgaven med å implementere våre løsninger? Hvis ikke, hva trenger vi å finne opp og utvikle?
• Hvor mye tid og personell trenger vi for å implementere våre løsninger?

SingularityNET ser på nevro-symbolisk AI som en løftende løsning for å overvinne begrensningene i generativ AI. Kan du forklare hva nevro-symbolisk AI er og hvordan SingularityNET planlegger å utnytte denne tilnærmingen for å akselerere utviklingen av kunstig generell intelligens?

Historisk sett har det vært to hovedgrupper av kunstig generell intelligens-forskere, samt en tredje gruppe som kombinerer idéene fra de to første. Det har vært forskere som tror bare på en sub-symbolisk tilnærming. Disse dagene betyr dette primært å bruke dybe neurale nettverk (DNN) som Transformer-modeller, inkludert den nåværende kroppen av store språkmodeller (LLM). På grunn av bruk av kunstige neurale nettverk, kalles sub-symboliske tilnærminger også neurale metoder. I sub-symboliske systemer kjøres prosessering over identiske og uberørte noder (nevroner) og lenker (synapser). Symboliske tilhengere bruker høyere orden logikk og symbolisk resonnering, hvor noder og lenker er merket med konseptuell og semantisk mening. SingularityNET følger en tredje tilnærming som ville være mest nøyaktig beskrevet som en nevro-symbolisk hybrid, som utnytter styrkene i symboliske og sub-symboliske metoder.

Likevel er det en spesifikk type hybrid, i stor grad basert på Ben Goertzels’ patternistisk filosofi om bevissthet og detaljert i, blant annet, hans skrift «Den generelle teorien om kunstig generell intelligens: En pragmatisk patternistisk perspektiv».

Mens mye av nåværende DNN- og LLM-forskning er basert på enkle neurale modeller og algoritmer, og korrekte innstillinger av milliarder av parametre i håp om å oppnå kunstig generell intelligens, er SingularityNETs PRIMUS-strategi basert på grunnleggende forståelser av dynamiske prosesser på flere rom-tidsskalaer og hvordan disse prosessene kan kobles til å fremme ønskede egenskaper på forskjellige skalaer. Slike forståelser muliggjør oss å fortsette å guide kunstig generell intelligens-forskning og utvikling på en menneskelig forståelig måte.

Hvilke rammeverk tror du er kritiske for å sikre at kunstig generell intelligens-utvikling gir fordeler for hele menneskeheten? Hvordan kan desentraliserte AI-plattformer som SingularityNET fremme en mer rettferdig og transparent prosess sammenlignet med sentraliserte AI-modeller?

Alle slags ideer her:

Transparens — Mens ingenting er fullkommen, kan sikring av fullstendig transparens i beslutningsprosessen hjelpe alle som er involvert (forskere, utviklere, brukere og ikke-brukere) å samordne, guide, forstå og bedre håndtere kunstig generell intelligens-utvikling for menneskehetens beste. Dette er lignende problemet med bias, som jeg kommer til å berøre nedenfor.

Desentralisering – mens desentralisering kan være rotete, kan det hjelpe med å sikre at makt deles mer bredt. Det er ikke i seg selv en panacea, men et verktøy som, hvis brukt riktig, kan hjelpe med å skape mer rettferdige prosesser og resultater.

Konsensus-basert beslutning – desentralisering og konsensus-basert beslutning kan fungere sammen i jakten på mer rettferdige prosesser og resultater. Igjen, garanterer de ikke alltid rettferdighet. Det finnes også kompleksiteter som må håndteres her, i forhold til rykte og ekspertområder. For eksempel, hvordan kan vi best balansere motstridende ønskede egenskaper? Jeg ser på transparens, desentralisering og konsensus-basert beslutning som bare tre kritisk viktige verktøy som kan brukes til å guide kunstig generell intelligens-utvikling for menneskehetens beste.

Rom-tidslig kobling av emergente fenomener over flere skalaer fra det usedvanlig små til det uendelig store. I utviklingen av kunstig generell intelligens, tror jeg det er viktig å ikke bare stole på en enkelt «black-box»-tilnærming hvor man håper å få alt riktig fra starten. Isteden tror jeg på å designe kunstig generell intelligens med grunnleggende forståelser på forskjellige utviklingsstadier og på flere skalaer, kan ikke bare gjøre det mer sannsynlig å oppnå kunstig generell intelligens, men viktigere, å guide slik utvikling i samsvar med menneskelige verdier.

SingularityNET er en desentralisert AI-plattform. Hvordan ser du på krysningspunktet mellom blockchain-teknologi og kunstig generell intelligens, spesielt når det gjelder sikkerhet, styring og desentralisert kontroll?

Blockchain har definitivt en rolle å spille i AI-kontroll, sikkerhet og styring. En av blockchains største styrker er evnen til å fremme transparens. Spørsmålet om bias er et godt eksempel på dette. Jeg ville argumentere for at hver person og hver datasett er biasert. Jeg har mine egne personlige bias, for eksempel, når det gjelder hva jeg tror er nødvendig for å oppnå virkelig trygg, benefisk og velvillig kunstig generell intelligens. Disse biasene ble dannet gjennom mine studier og bakgrunn og de guider mitt eget arbeid.

På samme tid prøver jeg å være fullstendig åpen for ideer som motsier mine bias, og jeg er villig til å justere mine bias basert på nye bevis. Uansett, prøver jeg å være åpen og transparent med hensyn til mine bias, og å beting mine ideer og beslutninger basert på en selvrefleksiv forståelse av disse biasene. Det er vanskelig, det er vanskelig, men jeg tror det er bedre enn ikke å erkjenne mine egne bias. Ved sin natur tillater blockchain bedre og transparent sporbarhet, sporbarhet og verifisering av prosesser og hendelser. På en lignende måte som jeg beskrev tidligere, er transparens en nødvendig, men ikke alltid tilstrekkelig, komponent for sikkerhet, styring og desentralisert kontroll.

Hvordan blockchain og kunstig generell intelligens sam-evoluerer, er et interessant spørsmål. For at de to teknologiene skal samvirke mot en positiv singularitet, synes det å være klart at de grunnleggende egenskapene jeg peker på (transparens, desentralisering, konsensus og verdialignering), er sentrale og kritiske og må være i mente på alle stadier av deres sam-evolusjon.

Som en leder som har vært tett involvert i både AI og blockchain, hva tror du er de viktigste faktorene for å fremme samarbeid mellom disse to feltene, og hvordan kan dette drive innovasjon i kunstig generell intelligens?

Jeg kommer fra AI/kunstig generell intelligens-siden av dette paret. Som ofte er tilfelle når man integrerer tverrfaglige ideer, kommer mye ned til språk og kommunikasjon. Alle grupper må lytte til hverandre for bedre å forstå hvordan teknologiene kan hjelpe hverandre. I min jobb i SingularityNET, har dette vært en konstant kamp. Høy-endeforskere, som det ville være en underdrivelse å si at SingularityNET har i overflod, ofte har klare mentale forestillinger om store ideer. Når man arbeider over disiplinære grenser, er det vanskelige delen å realisere at ikke alle er «i hodet ditt». Hva du tar for gitt, vil ikke være like klart observerbart fra de i andre felt.

Hvordan ser du på at AI- og blockchain-industriene arbeider mot større mangfold og inklusjon, og hva rolle spiller SingularityNET i å fremme disse verdiene?

AI og blockchain kan begge spille viktige roller i å forbedre diversifisering og inklusjon. Selv om jeg tror det er umulig å fjerne all bias – mange bias dannes bare gjennom livserfaringer – kan man være åpen og transparent om sine egne bias. Dette er noe jeg aktivt streber etter å gjøre i mitt eget arbeid, som er biasert av min akademiske bakgrunn, så jeg ser problemer gjennom en lins av komplekse system-dynamikker. Likevel streber jeg etter å være åpen for og å forstå ideer og analogier fra andre perspektiver. AI kan bli brukt til å hjelpe i denne selv-refleksive prosessen, og blockchain kan definitivt hjelpe med transparens. SingularityNET kan spille en enorm rolle ved å hoste verktøy for å oppdage, måle og fjerne, så langt det er mulig, bias i datasett.

Hvordan bidrar SingularityNETs arbeid i desentraliserte AI-økosystemer til å løse globale utfordringer som bærekraft, utdanning og jobb-oppkreting, spesielt i regioner som Afrika, hvor du har en spesiell interesse?

 Bærekraft:

• Å bruke AI og system-modeller til å løse komplekse økosystem-problemer i stor skala.
• Å overvåke slike løsninger i stor skala.
• Å bruke blockchain til å spore, spore og verifisere slike løsninger.
• Å bruke en kombinasjon av AI, økosystem-modeller, hyper-lokale data og blockchain, har vi forestilt oss komplette løsninger for kunstnerisk gruvedrift i Afrika og landbruk-karbon-sekvestring i stor skala.

Utdanning:

Som en tidligere fast ansatt professor i matematikk og datavitenskap, er utdanning ekstremt viktig for meg, spesielt siden det gir muligheter til underbetjente student-populasjoner. Det er viktig å:

• Forbedre tilgjengelighet ved å utvikle hybrid-kurs for å nå studenter som kan møte geografiske, finansielle eller tidsmessige begrensninger.
• Främja mangfold og inklusjon ved å øke deltakelsen av underbetjente populasjoner i AI, blockchain og andre avanserte teknologier.
• Främja tverrfaglig kunnskap ved å skape kurs som broer akademiske og profesjonelle felt.
• Støtte karriere-utvikling ved å gi ferdigheter og sertifikater som er direkte anvendelige på arbeidsmarkedet.

Jeg ser på både kunstig generell intelligens og blockchain, og deres synergier, som spiller kritiske roller i å håndtere de ovennevnte objektiver innen «lærling til mester»-stil programmer sentrert rundt prosjekt-basert læring.

Jobb-oppkreting:

Ved å fremme de fire utdannings-objektiver ovenfor, synes det meg at kunstig generell intelligens, blockchain og andre avanserte teknologier, kombinert med positive samarbeid mellom lærere og lærlinger, kunne oppmuntre og fremme hele nye teknologier og bedrifter.

Som noen som er dedikert til å oppnå en positiv singularitet, hva spesifikke milepæler eller gjennombrudd i AI-teknologi tror du vil være nødvendig for å sikre at kunstig generell intelligens utvikles på en gunstig måte for samfunnet?

• Evnen til å alignere emergente fenomener på menneskelig-forståelige måter over flere rom-tidsskalaer.
• Evnen til å forstå på en dypere måte konseptene som ligger til grunn for «spontane» fasetransisjoner.
• Evnen til å overvinne flere harde problemer på en fin detalj for å muliggjøre sannt multi-prosessering gjennom tilstands-superposisjoner.
• Transparens på alle stadier.
• Desentralisert beslutning basert på konsensus-bygging.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke SingularityNET.