Matthew Ikle, Chief Science Officer at SingularityNET – Wywiad

Matthew Ikle jest Chief Science Officer w SingularityNET, firmie założonej z misją stworzenia zdecentralizowanej, demokratycznej, inkluzywnej i korzystnej Sztucznej Inteligencji Ogólnej. „Sztuczna Inteligencja Ogólna”, która nie zależy od żadnej centralnej jednostki, jest otwarta dla wszystkich i nie jest ograniczona do wąskich celów jednej korporacji lub nawet jednego kraju.

Zespół SingularityNET składa się z doświadczonych inżynierów, naukowców, badaczy, przedsiębiorców i marketingowców. Podstawowa platforma i zespoły AI są uzupełnione przez specjalistyczne zespoły zajmujące się obszarami takimi jak finanse, robotyka, AI biomedyczna, media, sztuka i rozrywka.

Biorąc pod uwagę Twoje rozległe doświadczenie i rolę w SingularityNET, jak pewny jesteś, że osiągniemy Sztuczną Inteligencję Ogólną do 2029 roku lub wcześniej, jak przewidział Dr Ben Goertzel?

Odpowiem na to pytanie w nieco okrężny sposób. 2029 to mniej więcej pięć lat od teraz. Wiele lat temu (wczesne-lata 2010) byłem niezwykle optymistyczny co do postępów w dziedzinie Sztucznej Inteligencji Ogólnej. Mój optymizm w tamtym czasie opierał się na poziomie szczegółowych myśli i konwergencji idei, które zaobserwowałem w badaniach nad Sztuczną Inteligencją Ogólną w tamtym czasie. Chociaż większość dużych idei z tamtej ery, uważam, że nadal mają obietnicę, trudność, jak to często bywa, polega na wypełnieniu szczegółów takich ogólnych wizji.

Z tą zastrzeżeniem na uwadze, jest teraz wiele nowych informacji, z licznych dyscyplin – neurobiologii, matematyki, informatyki, psychologii, socjologii, wymieńcie je. Te informacje dostarczają nie tylko mechanizmów do ukończenia tych szczegółów, ale również konceptualnie wspierają fundamenty wcześniejszych prac. Widzę wzory, i w dość rozbieżnych dziedzinach, które wszystkie wydają mi się konwergować w przyspieszonym tempie w kierunku analogicznych zachowań. W wielu ways, ta konwergencja przypomina mi okres czasu poprzedzający wydanie pierwszego iPhone’a. Cytując Grega Mereditha, który pracuje nad naszą infrastrukturą RhoLang dla bezpiecznego przetwarzania współbieżnego, wzory, które widzę obecnie, są związane z historiami pochodzenia – jak powstało pierwsze życie/komórka na ziemi? Jak i kiedy powstał umysł? I pokrewne pytania dotyczące przejść fazowych, na przykład.

Na przykład, istnieje wiele nowych badań eksperymentalnych, które tendencję do wspierania idei leżących u podstaw złożonego dynamicznego punktu widzenia systemów. Wzory EEG ludzkich osób, na przykład, wykazują godne uwagi zachowanie w zgodności z takimi dynamikami systemów. Te wyniki przywodzą na myśl niektóre wcześniejsze prace w teoriach świadomości. Teraz wydaje się, że pojawiają się początki eksperymentalnego potwierdzenia tych teoretycznych idei.

W SingularityNET, myślę dużo o samo-podobnych strukturach, które generują takie dynamiki. Jest to dość inaczej, niż to, co dzieje się w większości społeczności DNN/GPT, chociaż istnieje pewne rozpoznanie wśród pewnych bardziej podstawowych badaczy tych idei. Wskazałbym na artykuł „Świadomość w Sztucznej Inteligencji: Wglądy z nauki o świadomości” opublikowany przez 19 badaczy w sierpniu 2023 roku, na przykład. Ci badacze reprezentowali różne dziedziny, w tym studia nad świadomością, badania nad bezpieczeństwem AI, neurobiologię, informatykę, psychologię, neurobiologię i badania nad umysłem i poznaniem. To, co łączy tych badaczy, jest większe niż prosta próba następnego inkrementalnego ulepszenia architektury DNN, ale raczej są oni skoncentrowani na naukowym zrozumieniu dużych filozoficznych idei leżących u podstaw ludzkiej percepcji i jak je wprowadzić w celu wdrożenia prawdziwych systemów Sztucznej Inteligencji Ogólnej.

Co widzisz jako największe technologiczne lub filozoficzne przeszkody w osiągnięciu Sztucznej Inteligencji Ogólnej w tym dziesięcioleciu?

Zrozumienie i odpowiedź na duże filozoficzne i naukowe pytania, w tym:

• Czym jest życie? Możemy myśleć, że odpowiedź jest jasna, ale biologiczne definicje okazały się problematyczne. Czy wirusy są „żywe”, na przykład.
• Czym jest umysł?
• Czym jest inteligencja?
• Jak życie powstało z kilku podstawowych chemikaliów w określonych warunkach środowiskowych? Jak moglibyśmy to powtórzyć?
• Jak pierwszy „umysł” powstał? Jakie składniki i warunki umożliwiły to?
• Jak wdrożyć to, czego się uczymy, badając powyższe pięć pytań?
• Czy nasza obecna technologia jest wystarczająco dobra do wdrożenia naszych rozwiązań? Jeśli nie, co musimy wynaleźć i rozwinąć?
• Ile czasu i personelu potrzebujemy do wdrożenia naszych rozwiązań?

SingularityNET uważa neuro-symboliczną AI za obiecujące rozwiązanie, aby pokonać obecne ograniczenia generatywnej AI. Czy mógłbyś wyjaśnić, czym jest neuro-symboliczna AI i jak SingularityNET planuje wykorzystać ten podejście, aby przyspieszyć rozwój Sztucznej Inteligencji Ogólnej?

Historycznie, istniały dwa główne obozy badaczy Sztucznej Inteligencji Ogólnej, wraz z trzecim obozem łączącym idee dwóch poprzednich. Byli badacze, którzy wierzyli wyłącznie w podejście sub-symboliczne. Te dni oznaczają głównie korzystanie z głębokich sieci neuronowych (DNN) takich jak modele Transformer, w tym bieżąca grupa dużych modeli językowych (LLM). Ze względu na użycie sztucznych sieci neuronowych, podejścia sub-symboliczne nazywane są również metodami neuronalnymi. W systemach sub-symbolicznych przetwarzanie jest wykonywane na identycznych i nieoznaczonych węzłach (neuronach) i połączeniach (synapsach). Zwolennicy podejścia symbolicznego używają wyższej logiki i symbolicznego rozumowania, w którym węzły i połączenia są oznaczone konceptualnym i semantycznym znaczeniem. SingularityNET stosuje trzecie podejście, które można by najbardziej dokładnie opisać jako neuro-symboliczną hybrydę, wykorzystującą zalety symbolicznych i sub-symbolicznych metod.

Jednak jest to specyficzny rodzaj hybrydy w dużej mierze oparty na filozofii umysłu Ben Goertzel’a i szczegółowo opisany w wielu dokumentach, w tym w „Ogólnej teorii ogólnej inteligencji: Pragmatycznym podejściu patternistycznym”.

Podczas gdy wiele badań nad DNN i LLM opartych jest na uproszczonych modelach neuronalnych i algorytmach, użyciu ogromnych zbiorów danych (np. całego Internetu) i poprawnym ustawieniu miliardów parametrów w nadziei na osiągnięcie Sztucznej Inteligencji Ogólnej, strategia PRIMUS SingularityNET oparta jest na podstawowych zrozumieniach dynamicznych procesów na wielu skalach przestrzennych i czasowych oraz jak najlepiej wyalignować takie procesy, aby spowodować pojawienie się pożądanych właściwości na różnych skalach. Takie zrozumienie pozwala nam prowadzić badania i rozwój Sztucznej Inteligencji Ogólnej w sposób zrozumiały dla ludzi.

Jakie ramy uważasz za kluczowe, aby zapewnić, że rozwój Sztucznej Inteligencji Ogólnej przyniesie korzyści całej ludzkości? Jak można decentralizowane platformy AI, takie jak SingularityNET, promować bardziej równy i przejrzysty proces w porównaniu z centralnymi modelami AI?

Wiele pomysłów tutaj:

Przejrzystość — Chociaż nic nie jest idealne, zapewnienie pełnej przejrzystości procesu decyzyjnego może pomóc wszystkim zaangażowanym (badaczom, deweloperom, użytkownikom i nieużytkownikom) w zrozumieniu i lepszym radzeniu sobie z rozwojem Sztucznej Inteligencji Ogólnej dla dobra ludzkości. Jest to podobne do problemu biasu, o którym będę mówił poniżej.

Decentralizacja – Chociaż decentralizacja może być nieładna, może pomóc w zapewnieniu, że władza jest bardziej równomiernie rozłożona. Nie jest to sama w sobie panaceum, ale narzędzie, które, jeśli użyte prawidłowo, może pomóc stworzyć bardziej równy proces i wyniki.

Decyzje oparte na konsensusie – decentralizacja i decyzje oparte na konsensusie mogą współpracować w dążeniu do bardziej równych procesów i wyników. Znowu, nie zawsze gwarantują równość. Są również złożoności, które muszą być tutaj rozwiązane, takie jak reputacja i obszary ekspertyzy. Na przykład, jak możemy najlepiej zbalansować sprzeczne pożądane cechy? Uważam przejrzystość, decentralizację i decyzje oparte na konsensusie za trzema krytycznie ważnymi narzędziami, które mogą być użyte do kierowania rozwojem Sztucznej Inteligencji Ogólnej dla dobra ludzkości.

Przestrzenna i czasowa wyrównanie zjawisk emergentnych na wielu skalach od niezwykle małych do niezwykle dużych. W rozwijaniu Sztucznej Inteligencji Ogólnej uważam, że ważne jest nie tylko poleganie na jednym „czarnym pudełku” podejściu, w którym można liczyć na to, że wszystko będzie poprawne od samego początku. Zamiast tego uważam, że projektowanie Sztucznej Inteligencji Ogólnej z podstawowym zrozumieniem na różnych etapach rozwoju i na wielu skalach może nie tylko zwiększyć szanse na osiągnięcie Sztucznej Inteligencji Ogólnej, ale co więcej, skierować taki rozwój w zgodzie z ludzkimi wartościami.

SingularityNET to zdecentralizowana platforma AI. Jak wyobrażasz sobie przecięcie technologii blockchain i Sztucznej Inteligencji Ogólnej, zwłaszcza w odniesieniu do bezpieczeństwa, zarządzania i zdecentralizowanej kontroli?

Blockchain na pewno odgrywa rolę w kontroli AI, bezpieczeństwie i zarządzaniu. Jedną z największych zalet blockchain jest jego zdolność do wspierania przejrzystości. Kwestia biasu jest doskonałym przykładem. Uważam, że każda osoba i każdy zestaw danych są tendencyjne. Mam swoje własne osobiste tendencje, na przykład, jeśli chodzi o to, co uważam za niezbędne do osiągnięcia prawdziwie bezpiecznej, korzystnej i łaskawej Sztucznej Inteligencji Ogólnej. Te tendencje zostały ukształtowane przez moje studia i tło i kierują moją własną pracą.

Jednocześnie staram się być całkowicie otwarty na idee, które są w sprzeczności z moimi tendencjami i jestem skłonny dostosować moje tendencje na podstawie nowych dowodów. Niezależnie od tego, staram się być otwarty i przejrzysty w odniesieniu do moich tendencji i warunkować moje pomysły i decyzje na podstawie samoświadomego zrozumienia tych tendencji. Jest to trudne, ale uważam, że lepiej niż nieuznawanie własnych tendencji. Przez swoją naturę, blockchain pozwala na lepsze i przejrzyste śledzenie, śledzenie i weryfikację procesów i zdarzeń. W podobny sposób, jak opisałem wcześniej, przejrzystość jest niezbędnym, choć nie zawsze wystarczającym, składnikiem bezpieczeństwa, zarządzania i zdecentralizowanej kontroli.

Jak blockchain i Sztuczna Inteligencja Ogólna współewoluują, jest to interesujące pytanie. Aby te dwie technologie współpracowały w kierunku pozytywnej singularności, wydaje się oczywiste, że fundamentalne cechy, na które ciągle wskazuję (przejrzystość, decentralizacja, konsensus i wyrównanie wartości), są centralne i krytyczne i muszą być brane pod uwagę na wszystkich etapach ich współewolucji.

Jako lider, który był ściśle zaangażowany w obie dziedziny AI i blockchain, co uważasz za najważniejsze czynniki wspierające współpracę między tymi dwoma dziedzinami, i jak mogą one napędzać innowacje w Sztucznej Inteligencji Ogólnej?

Pochodzę ze strony AI/Sztucznej Inteligencji Ogólnej pary. Jak to często bywa w przypadku integracji pomysłów międzydziedzinowych, wiele zależy od kwestii języka i komunikacji. Wszystkie grupy muszą słuchać siebie nawzajem, aby lepiej zrozumieć, jak te technologie mogą sobie pomóc. W mojej pracy w SingularityNET, był to stały wysiłek. Wysoko wykwalifikowani badacze, których SingularityNET ma w nadmiarze, często mają wyraźne pojęcia o dużych pomysłach. Kiedy pracujemy w granicach dyscyplin, trudna część polega na zrozumieniu, że nie wszyscy są „w mojej głowie”. To, co jeden uważa za oczywiste, nie będzie tak jasno widoczne dla tych z innych dziedzin. Był niedawno przypadek w naszej pracy BioAI, w którym biolodzy używali matematycznego terminu, ale nie całkowicie poprawnie w sensie jego matematycznej definicji. Gdy tylko takie sytuacje są jasno zrozumiane, zespół może ruszyć naprzód z wspólnym celem, aby integracja ta była prawdziwie większa niż suma jej części.

Jak widzisz przyszłość branży AI i blockchain w kierunku większej różnorodności i inkluzywności, i jaka rola przypada SingularityNET w promowaniu tych wartości?

AI i blockchain mogą odegrać znaczącą rolę w poprawie wysiłków na rzecz różnorodności i inkluzywności. Chociaż uważam, że nie można usunąć wszystkich tendencji – wiele tendencji powstaje po prostu przez doświadczenia życiowe – można być otwartym i przejrzystym w odniesieniu do własnych tendencji. To jest coś, czego aktywnie staram się osiągnąć w swojej własnej pracy, która jest tendencyjna ze względu na moje tło akademickie, tak że widzę problemy przez pryzmat dynamiki złożonych systemów. Jednak nadal staram się być otwarty na idee i analogie z innych perspektyw. AI może być wykorzystana do pomocy w tym procesie samoświadomości, a blockchain może na pewno pomóc w przejrzystości. SingularityNET może odegrać ogromną rolę, hostując narzędzia do wykrywania, pomiaru i usuwania, na ile to możliwe, tendencji w zestawach danych.

Jak praca SingularityNET w zdecentralizowanych ekosystemach AI przyczynia się do rozwiązywania globalnych wyzwań, takich jak zrównoważony rozwój, edukacja i tworzenie miejsc pracy, zwłaszcza w regionach takich jak Afryka, gdzie masz szczególne zainteresowanie?

 Zrównoważony rozwój:

• Stosowanie AI i modeli systemowych do rozwiązywania złożonych problemów ekosystemowych w dużym zakresie.
• Monitorowanie takich rozwiązań w skali.
• Używanie blockchain do śledzenia, śledzenia i weryfikacji takich rozwiązań.
• Używanie połączenia AI, modeli ekosystemowych, danych hiper-lokalnych i blockchain, wymyśliliśmy kompletne rozwiązania dla górnictwa rzemieślniczego w Afryce i sekwestracji węgla rolniczego w skali.

Edukacja:

Jako były profesor matematyki i informatyki, edukacja jest dla mnie niezwykle ważna, zwłaszcza jako środek do zapewnienia możliwości dla słabiej obsłużonych populacji studenckich. Ważne jest:

• Poprawienie dostępności poprzez rozwój kursów hybrydowych, aby dotrzeć do studentów, którzy mogą mieć ograniczenia geograficzne, finansowe lub czasowe.
• Promowanie różnorodności i inkluzywności poprzez zwiększenie udziału słabiej obsłużonych populacji w AI, blockchain i innych zaawansowanych technologiach.
• Wspieranie międzydyscyplinarnych wiadomości poprzez tworzenie kursów, które łączą dziedziny akademickie i zawodowe.
• Wspieranie rozwoju kariery poprzez zapewnienie umiejętności i certyfikatów, które są bezpośrednio stosowalne na rynku pracy.

Uważam, że zarówno Sztuczna Inteligencja Ogólna, jak i blockchain, oraz ich synergia, odgrywają krytyczną rolę w rozwiązywaniu powyższych celów w ramach programów „od uczniostwa do mistrzostwa” opartych na projektach opartych na doświadczeniu.

Tworzenie miejsc pracy:

Poprzez wspieranie powyższych celów edukacyjnych, wydaje mi się, że Sztuczna Inteligencja Ogólna, blockchain i inne zaawansowane technologie, w połączeniu z pozytywną współpracą między nauczycielami i uczniami, mogą zachęcać i wywoływać całe nowe technologie i biznesy.

Jako ktoś, kto jest zaangażowany w osiągnięcie pozytywnej singularności, jakie konkretnie kamienie milowe lub przełomy w technologiach AI uważasz za niezbędne, aby zapewnić, że Sztuczna Inteligencja Ogólna rozwija się w sposób korzystny dla społeczeństwa?

• Możliwość wyrównania zjawisk emergentnych w ludzkich interpretowalnych sposób na wielu skalach przestrzennych i czasowych.
• Możliwość zrozumienia na głębszym poziomie pojęć leżących u podstaw „spontanicznych” przejść fazowych.
• Możliwość pokonania wielu trudnych problemów na poziomie szczegółów, aby umożliwić prawdziwe przetwarzanie wieloprocesowe za pomocą superpozycji stanów.
• Przejrzystość na wszystkich etapach.
• Decentralizowane podejmowanie decyzji oparte na konsensusie.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić SingularityNET.