Matthew Ikle, Chief Science Officer at SingularityNET – Interview Series

Matthew Ikle je Chief Science Officer ve společnosti SingularityNET, společnosti založené s cílem vytvořit decentralizovanou, demokratickou, inkluzivní a prospěšnou umělou obecnou inteligenci. „AGI“, která není závislá na žádné centrální entitě, je otevřená pro kohokoli a není omezena na úzké cíle jediné korporace nebo dokonce jediné země.

Tým SingularityNET zahrnuje zkušené inženýry, vědce, výzkumníky, podnikatele a marketéry. Jádro platformy a týmy AI jsou dále doplněny specializovanými týmy, které se věnují aplikacím, jako je finance, robotika, biomedicínská AI, média, umění a zábava.

Jak jste si jist, že dosáhneme AGI do roku 2029 nebo dříve, jak předpovídá Dr. Ben Goertzel?

Odpovím na tuto otázku trochu oklikou. 2029 je zhruba pět let od teď. Před mnoha lety (počátek až polovina roku 2010) jsem byl非常 optimistický ohledně pokroku AGI. Má optimismus v té době byl založen na úrovni podrobného myšlení a konvergence nápadů, které jsem viděl ve výzkumu AGI v té době. Přestože většina velkých nápadů z té éry, podle mého názoru, stále slibuje, obtíž spočívá v tom, že je třeba vypracovat detaily takových širokých vize.

S touto výhradou na paměti je nyní spousta nových informací z mnoha oborů – neurovědy, matematiky, počítačové vědy, psychologie, sociologie, můžete jmenovat cokoli – které poskytují nejen mechanismy pro dokončení těchto detailů, ale také koncepčně podporují základy té dřívější práce. Vidím vzorce a v poměrně rozdílných oborech, které všechny zdají být konvergující se zrychlováním tempa směrem k analogickým typům chování. Mnohými způsoby tato konvergence připomíná období před vydáním prvního iPhonu. Parafrázovat Grega Mereditha, který pracuje na naší infrastruktuře RhoLang pro bezpečné souběžné zpracování, vzorce, které vidím v těchto dnech, jsou spojeny s příběhy původu – jak první život/buňka začala na Zemi? Jak a kdy se vytvořila mysl? A související otázky týkající se fázových přechodů například.

Například existuje spousta nové experimentální výzkumu, který podporuje myšlenky podložené komplexním dynamickým systémem. EEG vzorce lidských subjektů, například, zobrazují pozoruhodné chování v souladu s takovým systémem dynamiky. Tyto výsledky připomínají některé mnohem dřívější práce v teoriích vědomí. Nyní se zdá, že existují počátky experimentální podpory pro tyto teoretické nápady.

Ve společnosti SingularityNET přemýšlím hodně o samo-podobných strukturách, které generují takovou dynamiku. To je docela jiné, než co se děje v mnoha komunitách DNN/GPT, i když existujeertain uznaní některých více fundamentálních výzkumníků těchto nápadů. Odkážu na článek „Consciousness in Artificial Intelligence: Insights from the Science of Consciousness“ vydaný 19 výzkumníky v srpnu 2023, například. Tyto výzkumníci zahrnovali řadu oborů, včetně studií vědomí, výzkumu bezpečnosti AI, mozkové vědy, matematiky, počítačové vědy, psychologie, neurovědy a neuroimagingu a výzkumu mysli a kognice. Co tito výzkumníci mají společného, je větší než pouhé hledání dalšího inkrementálního architektonického vylepšení v DNN, ale místo toho se soustředí na vědecké pochopení velkých filozofických nápadů, které jsou základem lidské kognice, a jak je uvést do provozu pro implementaci skutečných systémů AGI.

Jaké vidíte jako největší technologické nebo filozofické překážky pro dosažení AGI v tomto desetiletí?

Porozumění a zodpovězení velkých filozofických a vědeckých otázek, včetně:

• Co je život? Můžeme si myslet, že odpověď je jasná, ale biologické definice se ukázaly být problematické. Jsou viry „živé“ například.
• Co je mysl?
• Co je inteligence?
• Jak život vznikl z několika základních chemikálií v konkrétních environmentálních podmínkách? Jak bychom mohli replikovat to?
• Jak první „mysl“ vznikla? Jaké ingredience a podmínky umožnily to?
• Jak implementujeme to, co se naučíme, když budeme zkoumat výše uvedené pět otázek?
• Je naše současná technologie dostatečně dobrá pro implementaci našich řešení? Pokud ne, co musíme vynálezat a vyvíjet?
• Kolik času a personálu potřebujeme k implementaci našich řešení?

SingularityNET považuje neuro-symbolickou AI za slibné řešení pro překonání současných omezení generativní AI. Můžete vysvětlit, co je neuro-symbolická AI a jak SingularityNET plánuje využít tento přístup k urychlení vývoje AGI?

Historicky existovaly dvě hlavní skupiny výzkumníků AGI, spolu s třetí skupinou, která kombinuje nápady z obou předchozích. Existovali výzkumníci, kteří věřili pouze v sub-symbolický přístup. Tyto dny to primárně znamená použití hlubokých neuronových sítí (DNN) jako modelů Transformer, včetně současných velkých jazykových modelů (LLM). Díky použití umělých neuronových sítí se sub-symbolické přístupy také nazývají neuronové metody. V sub-symbolických systémech je zpracování prováděno napříč identickými a nelabelovanými uzly (neurony) a odkazy (synapsami). Symboličtí zastánci používají vyšší logiku a symbolické uvažování, ve kterém jsou uzly a odkazy označeny konceptuální a sémantickou významností. SingularityNET následuje třetí přístup, který by byl nejpřesněji popsán jako neuro-symbolická hybrid, využívající silných stránek symbolických a sub-symbolických metod.

Je to však specifický typ hybridu, který je z velké části založen na Ben Goertzlově patternistické filozofii mysli a podrobně popsán v mnoha dokumentech, včetně jeho „The General Theory of General Intelligence: A Pragmatic Patternist Perspective“.

Zatímco většina současných výzkumů DNN a LLM je založena na jednoduchých neuronových modelech a algoritmech, použití mamutích dat (například celého internetu) a správné nastavení miliard parametrů s cílem dosáhnout AGI, strategie SingularityNET PRIMUS je založena na základních pochopeních dynamických procesů na různých prostorově-časových škálách a na tom, jak nejlépe sladit tyto procesy, aby se na různých škálách objevily požadované vlastnosti. Taková pochopení umožňují vést výzkum a vývoj AGI způsobem, který je pochopitelný pro lidi.

Jaké rámce považujete za kritické pro zajištění toho, že vývoj AGI bude prospěšný pro celou lidskou společnost? Jak mohou decentralizované AI platformy, jako je SingularityNET, propagovat více rovnocenný a transparentní proces ve srovnání s centralizovanými AI modely?

Různé nápady:

Transparentnost — Zatímco nic není dokonalé, zajištění úplné transparentnosti procesu rozhodování může pomoci všem zúčastněným (výzkumníkům, vývojářům, uživatelům a ne-uživatelům) sladit, vést, pochopit a lépe zvládat vývoj AGI pro prospěch lidstva. To je podobné problému zkreslení, na který se později dotkneme.

Decentralizace – Zatímco decentralizace může být zmatená, může pomoci zajistit, aby se moc sdílela více široce. Není to samo o sobě všelék, ale nástroj, který, pokud je použit správně, může pomoci vytvořit více rovnocenné procesy a výsledky.

Konsensuální rozhodování – decentralizace a konsensuální rozhodování mohou spolupracovat v hledání více rovnocenných procesů a výsledků. Opět, nezaručují rovnocennost. Existují také složitosti, které je třeba řešit, například otázka reputace a oblastí odbornosti. Například, jak nejlépe sladit protichůdné požadované vlastnosti? Považuji transparentnost, decentralizaci a konsensuální rozhodování za tři kriticky důležité nástroje, které lze použít k vedení vývoje AGI pro prospěch lidstva.

Prostorově-časová sladění emergentních jevů na více škálách od extraordinárně malých po inordinátně velké. Při vývoji AGI jsem přesvědčen, že je důležité se nespoléhat pouze na jeden „černý box“ přístup, ve kterém se doufá, že vše bude správně od začátku. Místo toho jsem přesvědčen, že návrh AGI s fundamentálními pochopeními na různých vývojových etapách a na více škálách může nejen zvýšit šance na dosažení AGI, ale také wichtig je vést takový vývoj v souladu s lidskými hodnotami.

SingularityNET je decentralizovaná AI platforma. Jak si představujete průnik blockchainové technologie a AGI, zejména pokud jde o bezpečnost, řízení a decentralizovanou kontrolu?

Blockchain určitě hraje roli v AI kontrole, bezpečnosti a řízení. Jednou z největších sil blockchainu je jeho schopnost podporovat transparentnost. Otázka zkreslení je skvělým příkladem. Argumentuji, že každý člověk a každá datová sada jsou zkreslené. Mám své vlastní osobní zkreslení, například, pokud jde o to, co jsem přesvědčen, že je zapotřebí k dosažení skutečně bezpečné, prospěšné a benevolentní AGI. Tato zkreslení byla vytvořena mými studiemi a pozadím a řídí mou vlastní práci.

V同 době se snažím být zcela otevřen vůči nápadům, které jsou v rozporu se svými zkresleními, a jsem ochoten upravit svá zkreslení na základě nových důkazů. Přesto se snažím být otevřen a transparentní ve vztahu ke svým zkreslením a poté podmínit své nápady a rozhodnutí na základě sebe-reflectivního pochopení těchto zkreslení. Je to složité, je to obtížné, ale, jsem přesvědčen, lepší než neuznání vlastních zkreslení. Díky své povaze blockchain umožňuje lepší a transparentní sledování, stopování a ověřování procesů a událostí. Podobně, jako jsem popsal dříve, transparentnost je nutnou, ale ne vždy dostatečnou, součástí bezpečnosti, řízení a decentralizované kontroly.

Jak blockchain a AGI ko-evolují, je zajímavou otázkou. Aby tyto dvě technologie interagovaly směrem k pozitivní singularitě, zdá se jasné, že fundamentální charakteristiky, na které neustále poukazuji (transparentnost, decentralizace, konsensus a sladění hodnot), jsou centrální a kritické a musejí být udržovány na paměti ve všech fázích jejich ko-evoluce.

Jako lídr, který byl úzce zapojen do obou AI a blockchainu, co považujete za nejdůležitější faktory pro podporu spolupráce mezi těmito dvěma obory a jak mohou tyto spolupráce pohánět inovace v AGI?

Přicházím z AI/AGI strany této dvojice. Jako je často případ, když se integrují interdisciplinární nápady, hodně záleží na otázkách jazyka a komunikace. Všechny skupiny potřebují poslouchat jeden druhého, aby lépe pochopily, jak mohou tyto technologie pomoci jeden druhému. Ve své práci ve společnosti SingularityNET to byla neustálá bitva. Vysokokvalitní výzkumníci, kterých SingularityNET má v hojnosti, často mají jasnou mentální koncepty velkých nápadů. Při práci přes disciplinární hranice je obtížná část realizace, že ne všichni jsou „ve vaší hlavě“. Co jeden bere jako samozřejmost, nebude tak jasně pozorováno z pohledu ostatních. I slova, která se používají společně, mohou být použita odlišně napříč různými obory studia. Existoval nedávný případ v naší práci BioAI, ve kterém biologové používali matematický termín, ale ne zcela správně ve smyslu jeho matematického definice. Jakmile jsou tyto druhy situací jasně pochopeny, tým může pokračovat s společným účelem, aby integrace skutečně prokázala, že celek je větší než součet jeho částí.

Jak vidíte, že AI a blockchain průmysly pracují směrem k větší diverzitě a inkluzi, a jakou roli hraje SingularityNET při propagaci těchto hodnot?

AI a blockchain mohou obě hrát významné role při zlepšování diverzifikačních a inkluzivních úsilí. Přestože jsem přesvědčen, že je nemožné odstranit všechny zkreslení – mnoho zkreslení se vytváří jednoduše prostřednictvím životních zkušeností – jeden může být otevřen a transparentní ohledně svých zkreslení. To je něco, co aktivně usiluji o to, aby se ve své vlastní práci, která je zkreslena mým akademickým pozadím, abych viděl problémy skrze čočku komplexních systémových dynamik. Přesto se snažím být otevřen a pochopit nápady a analogy z jiných perspektiv. AI může být využita k pomoci v tomto sebe-reflectivním procesu a blockchain může určitě pomoci s transparentností. SingularityNET může hrát obrovskou roli hostováním nástrojů pro detekci, měření a odstranění, pokud je to možné, zkreslení v datech.

Jak přispívá práce SingularityNET v decentralizovaných AI ekosystémech k řešení globálních problémů, jako je udržitelnost, vzdělávání a vytváření pracovních míst, zejména v regionech, jako je Afrika, kde máte zvláštní zájem?

Udržitelnost:

• Aplikace AI a systémových modelů pro řešení komplexních ekosystémových problémů ve velkém měřítku.
• Monitorování takových řešení ve velkém měřítku.
• Použití blockchainu ke stopování, sledování a ověřování takových řešení.
• Použití kombinace AI, ekosystémových modelů, hyper-místních dat a blockchainu, jsme navrhli kompletní řešení pro řemeslné hornictví v Africe a zemědělskou uhlíkovou sekvestraci ve velkém měřítku.

Vzdělávání:

Jako bývalý profesor matematiky a počítačové vědy je pro mě vzdělávání extrémně důležité, zejména protože poskytuje příležitosti nedostatečně zastupovaným studentům. Je důležité:

• Zlepšit dostupnost rozvojem hybridních kurzů, aby se mohli studenti, kteří mohou čelit geografickým, finančním nebo časovým omezením, dostat.
• Propagovat diverzitu a inkluzi tím, že se zvyšuje účast nedostatečně zastupovaných populací v AI, blockchainu a dalších pokročilých technologiích.
• Pěstovat mezinárodní znalosti vytvořením kurzů, které spojují akademické a profesionální obory.
• Podporovat kariérní pokrok poskytováním dovedností a certifikátů, které jsou přímo aplikovatelné na trh práce.

Považuji obě AGI a blockchain, a jejich synergii, za sehrávající kritické role při řešení výše uvedených cílů v „učňovském až mistrovském“ stylu programů zaměřených na praktické, projektové učení.

Vytváření pracovních míst:

Propagováním výše uvedených čtyř vzdělávacích cílů se zdá, že AGI, blockchain a další pokročilé technologie, spojené s pozitivními spoluprací mezi učiteli a studenty, by mohly povzbudit a vyvolat zcela nové technologie a podniky.

Jako někdo, kdo je zavázán k dosažení pozitivní singularitě, jaké konkrétní milníky nebo průlomy ve vývoji AI technologií považujete za nezbytné k zajištění toho, že AGI se vyvine prospěšným způsobem pro společnost?

• Schopnost sladit emergentní jevy v lidsky interpretovatelných způsobech na více prostorově-časových škálách.
• Schopnost pochopit na hlubší úrovni koncepty, které jsou základem „spontánních“ fázových přechodů.
• Schopnost překonat více tvrdých problémů na jemném detailu, aby se umožnilo skutečné multi-zpracování prostřednictvím stavových superpozic.
• Transparentnost ve všech fázích.
• Decentralizované rozhodování založené na konsensu.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit SingularityNET.