Matthew Ikle, Șeful Departamentului Științific la SingularityNET – Seria de Interviuri

Matthew Ikle este Șeful Departamentului Științific la SingularityNET, o companie fondată cu misiunea de a crea o inteligență artificială generală descentralizată, democratică, incluzivă și benefică. O „AGI” care nu depinde de nicio entitate centrală, care este deschisă pentru oricine și nu este limitată la obiectivele înguste ale unei singure corporații sau chiar ale unei singure țări.

Echipa SingularityNET include ingineri experimentați, oameni de știință, cercetători, antreprenori și marketeri. Platforma centrală și echipele de inteligență artificială sunt completate de echipe specializate dedicate unor domenii de aplicare precum finane, robotică, inteligență artificială biomedicală, mass-media, arte și divertisment.

Având în vedere experiența și funcția dvs. la SingularityNET, cât de încrezător sunteți că vom atinge AGI până în 2029 sau mai devreme, așa cum a prezis dr. Ben Goertzel?

Voi răspunde la această întrebare într-un mod oarecum indirect. 2029 este aproximativ cinci ani de acum înainte. Cu mulți ani în urmă (începutul-mijlocul anilor 2010), eram extrem de optimist cu privire la progresul AGI. Optimismul meu din acea perioadă se baza pe nivelul de gândire detaliată și convergența ideilor pe care le-am observat în cercetarea AGI din acea perioadă. Deși majoritatea marilor idei din acea eră, cred, încă au potențial, dificultatea, așa cum este adesea cazul, vine din dezvoltarea detaliilor unor astfel de viziuni ample.

Cu această rezervă în minte, există acum o multitudine de informații noi, din numeroase discipline – neuroștiință, matematică, informatică, psihologie, sociologie, numiți-le – care oferă nu doar mecanismele pentru finalizarea detaliilor, ci și susțin conceptual fundamentele acelei lucrări anterioare. Văd modele, și în domenii foarte divergente, care par să converge la un ritm accelerat către comportamente analoge. În multe feluri, această convergență îmi amintește de perioada de timp dinaintea lansării primului iPhone. Pentru a parafraza lui Greg Meredith, care lucrează la infrastructura noastră RhoLang pentru procesare concurentă sigură, modelele pe care le văd în zilele noastre sunt legate de povești de origine – cum a început prima viață/celula pe Pământ? Cum și când s-a format mintea? Și întrebări legate de tranziții de fază, de exemplu.

De exemplu, există o cantitate considerabilă de cercetare experimentală nouă care susține ideile care stau la baza unei perspective de sisteme dinamice complexe. Modelele EEG ale subiecților umani, de exemplu, prezintă un comportament remarcabil, în concordanță cu astfel de dinamică a sistemului. Aceste rezultate ne amintesc de unele lucrări anterioare despre teorii ale conștiinței. Acum pare să existe începuturile unui sprijin experimental pentru acele idei teoretice.

La SingularityNET, mă gândesc mult la structurile auto-similare care generează astfel de dinamici. Acest lucru este destul de diferit, aș argumenta, de ceea ce se întâmplă în comunitatea DNN/LLM, deși există cu siguranță recunoașterea printre anumiți cercetători mai fundamentali a unor astfel de idei. Aș face trimitere la lucrarea „Conștientizarea în inteligența artificială: Perspective din știința conștientizării” lansată de 19 cercetători în august 2023, de exemplu. Cercetătorii au provenit dintr-o varietate de discipline, inclusiv studii ale conștientizării, cercetare a siguranței IA, știința creierului, matematică, informatică, psihologie, neuroștiință și imagistică neurologică, și cercetare a minții și cogniției. Ce au în comun acești cercetători este mai mare decât o simplă căutare a următoarei îmbunătățiri arhitecturale incrementale în DNN, ci mai degrabă sunt concentrați pe înțelegerea științifică a marilor idei filosofice care stau la baza cogniției umane și pe aplicarea lor pentru a implementa sisteme AGI reale.

Ce obstacole tehnologice sau filosofice majore vedeți ca fiind necesare pentru atingerea AGI în acest deceniu?

Înțelegerea și răspunsul la marile întrebări științifice și filosofice, inclusiv:

• Ce este viața? Putem crede că răspunsul este clar, dar definițiile biologice s-au dovedit a fi problematice. Sunt virusurile „viabile”, de exemplu.
• Ce este mintea?
• Ce este inteligența?
• Cum a apărut viața din câteva substanțe chimice de bază în condiții de mediu specifice? Cum am putea replica acest lucru?
• Cum a apărut prima „mintea”? Care au fost ingredientele și condițiile care au permis acest lucru?
• Cum implementăm ceea ce învățăm atunci când investigăm cele cinci întrebări de mai sus?
• Este tehnologia noastră actuală suficient de avansată pentru a implementa soluțiile noastre? Dacă nu, ce trebuie să inventăm și să dezvoltăm?
• Cât timp și câți oameni avem nevoie pentru a implementa soluțiile noastre?

SingularityNET consideră inteligența artificială neuro-simbolistă o soluție promițătoare pentru a depăși limitările actuale ale inteligenței artificiale generative. Puteți explica ce este inteligența artificială neuro-simbolistă și cum SingularityNET intenționează să utilizeze această abordare pentru a accelera dezvoltarea AGI?

În mod istoric, au existat două tabere principale de cercetători AGI, împreună cu o a treia tabără care combină ideile celorlalte două. Au existat cercetători care cred doar într-o abordare sub-simbolistă. În zilele noastre, acest lucru înseamnă în principal utilizarea rețelelor neuronale profunde (DNN) precum modelele Transformer, inclusiv lotul actual de modele de limbaj mare (LLM). Din cauza utilizării rețelelor neuronale artificiale, abordările sub-simboliste sunt numite și metode neuronale. În sistemele sub-simboliste, procesarea se efectuează pe noduri identice și nelabelate (neuroni) și legături (sinapse). Proponenții simbolici utilizează logică de ordin superior și raționament simbolic, în care nodurile și legăturile sunt etichetate cu sensuri conceptuale și semantice. SingularityNET urmează o a treia abordare, care ar putea fi descrisă cel mai precis ca o hibridă neuro-simbolistă, valorificând punctele forte ale metodelor simbolice și sub-simbolice.

Încă, este un anumit tip de hibrid, în mare parte bazat pe filosofia patternistă a minții a lui Ben Goertzel și detaliată, printre multe alte documente, în „Teoria generală a inteligenței generale: O perspectivă pragmatică patternistă”.

În timp ce o mare parte a cercetării actuale DNN și LLM se bazează pe modele neuronale simpliste și algoritmi, utilizarea unor seturi de date masive (de exemplu, întregul internet) și setarea corectă a miliarde de parametri în speranța de a atinge AGI, strategia PRIMUS a SingularityNET se bazează pe înțelegeri fundamentale ale proceselor dinamice la multiple scară spațio-temporală și pe modul în care aceste procese pot fi aliniate pentru a promova apariția unor proprietăți dorite la diferite scară. Astfel de înțelegeri ne permit să ghidăm cercetarea și dezvoltarea AGI într-un mod înțelept de către oameni.

Care sunt cadrele pe care le considerați esențiale pentru a asigura că dezvoltarea AGI beneficiază întreaga omenire? Cum pot platformele descentralizate de inteligență artificială, cum ar fi SingularityNET, să promoveze un proces mai echitabil și transparent în comparație cu modelele centralizate de inteligență artificială?

Toate felurile de idei aici:

Transparență — Deși nimic nu este perfect, asigurarea transparenței complete a procesului de luare a deciziilor poate ajuta pe toată lumea implicată (cercetători, dezvoltatori, utilizatori și neutilizatori deopotrivă) să se alinieze, să ghideze, să înțeleagă și să gestioneze mai bine dezvoltarea AGI pentru beneficiul omenirii. Acest lucru este similar cu problema prejudecății, pe care o voi atinge mai jos.

Descentralizare – Deși descentralizarea poate fi haotică, ea poate ajuta la asigurarea faptului că puterea este împărțită mai larg. Nu este, în sine, o panacee, dar un instrument care, dacă este utilizat corect, poate ajuta la crearea unor procese și rezultate mai echitabile.

Luarea deciziilor pe baza consensului – descentralizarea și luarea deciziilor pe baza consensului pot lucra împreună în urmărirea unor procese și rezultate mai echitabile. Din nou, ele nu garantează întotdeauna echitatea. Există și complexități care trebuie abordate aici, în ceea ce privește reputația și domeniile de expertiză. De exemplu, cum putem echilibra cel mai bine caracteristicile dorite contradictorii? Văd transparența, descentralizarea și luarea deciziilor pe baza consensului ca fiind doar trei unelte critic importante care pot fi utilizate pentru a ghida dezvoltarea AGI pentru beneficiul omenirii.

Alinierea spațio-temporală a fenomenelor emergente la multiple scară, de la extraordinar de mic la inordinat de mare. În dezvoltarea AGI, cred că este important să nu ne bazăm doar pe o abordare „cutie neagră” în care sperăm să obținem totul corect de la început. În schimb, cred că proiectarea AGI cu înțelegeri fundamentale la diferite etape de dezvoltare și la multiple scară poate nu doar face mai probabilă atingerea AGI, ci și ghida această dezvoltare în aliniere cu valorile umane.

SingularityNET este o platformă descentralizată de inteligență artificială. Cum vă imaginați intersecția tehnologiei blockchain și AGI, în special în ceea ce privește securitatea, guvernanța și controlul descentralizat?

Tehnologia blockchain are cu siguranță un rol de jucat în controlul, securitatea și guvernanța inteligenței artificiale. Una dintre cele mai mari puteri ale blockchain-ului este capacitatea sa de a promova transparența. Problema prejudecății este un exemplu excelent în acest sens. Aș argumenta că fiecare persoană și fiecare set de date este prejudecat. Am propriile mele prejudecăți personale, de exemplu, atunci când vine vorba de ceea ce cred că este necesar pentru a atinge o AGI cu adevărat sigură, benefică și binevoitoare. Aceste prejudecăți au fost forjate de studiile și background-ul meu și mă ghidează propria mea muncă.

În același timp, încerc să fiu complet deschis la idei care contrazic prejudecățile mele și sunt dispus să ajustez prejudecățile mele pe baza noilor dovezi. Indiferent, încerc să fiu deschis și transparent cu privire la prejudecățile mele și să condiționez ideile și deciziile mele pe baza unei înțelegeri auto-reflexive a acestor prejudecăți. Este dificil, este greu, dar cred că este mai bine decât a nu recunoaște prejudecățile proprii. Prin natura sa, blockchain-ul permite o urmărire, trasabilitate și verificare mai bună a proceselor și evenimentelor. Într-un mod similar cu cel descris anterior, transparența este un component necesar, dar nu întotdeauna suficient, pentru securitate, guvernanță și control descentralizat.

Cum evoluează tehnologia blockchain și AGI împreună este o întrebare interesantă. Pentru ca cele două tehnologii să interacționeze către o singularitate pozitivă, pare clar că caracteristicile fundamentale la care mă refer în mod constant (transparență, descentralizare, consens și aliniere a valorilor) sunt centrale și critice și trebuie să fie păstrate în minte la toate etapele evoluției lor.

Ca lider care a fost implicat îndeaproape atât în inteligența artificială, cât și în tehnologia blockchain, ce considerați a fi factorii cei mai importanți pentru promovarea colaborării între aceste două domenii și cum poate această colaborare conduce la inovații în AGI?

Vin din partea inteligenței artificiale/AGI a acestei perechi. Așa cum se întâmplă adesea atunci când se integrează idei interdisciplinare, multe se reduc la chestiuni de limbaj și comunicare. Toate grupurile trebuie să se asculte reciproc pentru a înțelege mai bine cum pot ajuta aceste tehnologii una alteia. În funcția mea la SingularityNET, acest lucru a fost o luptă constantă. Cercetătorii de înalt nivel, ceea ce ar fi o subestimare să spunem că SingularityNET are din belșug, adesea au concepții mentale clare despre marile idei. Când lucrăm peste granițele disciplinare, partea dificilă este realizarea faptului că nu toată lumea este „în mintea mea”. Ceea ce iau eu ca atare va fi observat diferit de cei din alte domenii de studiu. A existat un caz recent în munca noastră BioAI, în care biologii foloseau un termen matematic, dar nu în întregime corect în ceea ce privește definiția matematică. Odată ce astfel de situații sunt clar înțelese, echipa poate merge mai departe cu un scop comun, astfel încât integrarea să fie cu adevărat mai mare decât suma părților.

Cum vedeți industriile inteligenței artificiale și blockchain-ul lucrând spre o mai mare diversitate și incluziune și ce rol joacă SingularityNET în promovarea acestor valori?

Inteligența artificială și blockchain-ul pot juca ambele roluri majore în îmbunătățirea eforturilor de diversificare și incluziune. Deși cred că este imposibil să eliminăm toate prejudecățile – multe prejudecăți se formează pur și simplu prin experiențele de viață – o persoană poate fi deschisă și transparentă cu privire la prejudecățile sale. Acest lucru este ceva la care activez să lucrez în munca mea, care este prejudecată de background-ul meu academic, astfel încât văd problemele prin lentila dinamicii sistemelor complexe. Încă, încerc să fiu deschis și să înțeleg idei și analogii din alte perspective. Inteligența artificială poate fi utilizată pentru a ajuta la acest proces de auto-reflexie, iar blockchain-ul poate ajuta cu transparența. SingularityNET poate juca un rol enorm prin găzduirea unor instrumente pentru detectarea, măsurarea și îndepărtarea, pe cât posibil, a prejudecăților din seturile de date.

Cum contribuie munca SingularityNET în ecosistemele descentralizate de inteligență artificială la rezolvarea problemelor globale, cum ar fi durabilitatea, educația și crearea de locuri de muncă, în special în regiuni precum Africa, unde aveți un interes special?

 Durabilitate:

• Aplicarea inteligenței artificiale și a modelelor de sisteme pentru a rezolva probleme complexe ale ecosistemului la scară masivă.
• Monitorizarea acestor soluții la scară.
• Utilizarea blockchain-ului pentru a urmări, a urmări și a verifica astfel de soluții.
• Utilizarea unei combinații de inteligență artificială, modele de ecosistem, date hiper-locale și blockchain, am conceput soluții complete pentru mineritul artizanal în Africa și pentru sechestrarea carbonului în agricultură la scară.

Educație:

Ca fost profesor titular de matematică și informatică, educația este extrem de importantă pentru mine, în special în ceea ce privește oferirea de oportunități pentru studenții defavorizați. Este important să:

• Îmbunătățiți accesibilitatea prin dezvoltarea unor cursuri hibride pentru a ajunge la studenții care pot întâmpina constrângeri geografice, financiare sau de timp.
• Promovați diversitatea și incluziunea prin creșterea participării populațiilor defavorizate în inteligența artificială, blockchain și alte tehnologii avansate.
• Încurajați cunoașterea interdisciplinară prin crearea unor cursuri care să lege domenii academice și profesionale.
• Susțineți avansarea în carieră prin oferirea unor abilități și certificări care sunt direct aplicabile pe piața muncii.

Văd atât AGI, cât și blockchain-ul, și sinergiile lor, ca jucând roluri critice în abordarea obiectivelor de mai sus în cadrul unor programe de tip „ucenicie la maestru” centrate pe învățarea prin proiecte practice.

Crearea de locuri de muncă:

Prin promovarea obiectivelor educaționale de mai sus, pare să cred că AGI, blockchain-ul și alte tehnologii avansate, împreună cu colaborări pozitive între profesori și învățăcei, ar putea încuraja și ar putea genera întregi tehnologii și afaceri noi.

Ca persoană dedicată atingerii unei singularități pozitive, ce pași specifici sau descoperiri în tehnologia inteligenței artificiale considerați a fi necesare pentru a asigura că AGI se dezvoltă într-un mod benefic pentru societate?

• Capacitatea de a alinia fenomene emergente în moduri interpretate de oameni la multiple scară spațio-temporală.
• Capacitatea de a înțelege la un nivel mai profund conceptele care stau la baza „tranzițiilor de fază spontane”.
• Capacitatea de a depăși multiple probleme dificile la un nivel fin pentru a permite procesarea multiplă reală prin superpoziții de stare.
• Transparență la toate etapele.
• Luarea deciziilor descentralizate pe baza construirii consensului.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, le recomandăm să viziteze SingularityNET.