Метью Айкл, Головний науковий керівник у SingularityNET – Серія інтерв’ю

Метью Айкл є Головним науковим керівником у SingularityNET, компанії, заснованої з місією створення децентралізованого, демократичного, інклюзивного та корисного штучного загального інтелекту. Штучний інтелект, який не залежить від будь-якої центральної організації, відкритий для всіх і не обмежений вузькими цілями окремої корпорації чи навіть окремої країни.

Команда SingularityNET складається з досвідчених інженерів, вчених, дослідників, підприємців та маркетологів. Основна платформа та команди штучного інтелекту доповнюються спеціалізованими командами, присвяченими застосуванню штучного інтелекту в таких галузях, як фінанси, робототехніка, біомедичний штучний інтелект, ЗМІ, мистецтво та розваги.

Враховуючи ваш широкий досвід та роль у SingularityNET, наскільки ви впевнені, що ми досягнемо штучного загального інтелекту до 2029 року або раніше, як передбачив доктор Бен Гертцель?

Я відповім на це питання трохи обхідним шляхом. 2029 рік – це приблизно через п’ять років. Багато років тому (на початку-середині 2010-х років) я був дуже оптимістично налаштований щодо прогресу штучного загального інтелекту. Мій оптимізм у той час ґрунтувався на рівні детального мислення та збігу ідей у дослідженнях штучного загального інтелекту в той час. Хоча більшість великих ідей того періоду, я вважаю, все ще мають перспективи, складність, як часто буває, полягає в тому, щоб роз’яснити деталі таких широких ідей.

З цією застереженням на увазі, зараз є багато нової інформації з численних дисциплін – нейробіології, математики, інформатики, психології, соціології, ви називайте. Ця інформація не тільки надає механізми для завершення цих деталей, але й концептуально підтримує основи попередньої роботи. Я бачу закономірності, і в досить різноманітних галузях, які всі здаються мені зближуватися при прискореній швидкості до аналогічних видів поведінки. У багатьох аспектах ця збіжність нагадує період часу перед випуском першого айфона. Як сказав Грег Мередіт, який працює над нашою інфраструктурою RhoLang для безпечної паралельної обробки, закономірності, які я бачу зараз, пов’язані з історіями походження – як з’явився перший життя/клітина на Землі? Як і коли сформувався розум? І пов’язані з цим питання щодо фазових переходів, наприклад.

Наприклад, є багато нової експериментальної досліджень, яка підтримує ідеї, що лежать в основі складної динамічної системи поглядів. Шаблони ЕЕГ у людей, наприклад, демонструють вражаючу поведінку, узгоджуючись із такою системною динамікою. Ці результати нагадують деякі більш ранні роботи щодо теорій свідомості. Тепер здається, що є початок експериментальної підтримки цих теоретичних ідей.

У SingularityNET я багато думаю про самоподібні структури, які генерують таку динаміку. Це досить відрізняється, я би сказав, від того, що відбувається в більшості досліджень глибоких нейронних мереж (DNN) та великих мовних моделей (LLM), хоча є певне визнання серед деяких фундаментальних дослідників цих ідей. Я б вказав на статтю “Свідомість у штучному інтелекті: Огляд з науки про свідомість”, опубліковану 19 дослідниками у серпні 2023 року, наприклад. Ці дослідники представляють різні галузі, включаючи дослідження свідомості, дослідження безпеки штучного інтелекту, нейробіологію, інформатику, психологію, нейробіологію та дослідження свідомості та пізнання. Що об’єднує цих дослідників, це щось більше, ніж проста спроба досягти наступного інкрементального архітектурного поліпшення в DNN, а саме вони зосереджені на науковому розумінні великих філософських ідей, що лежать в основі людського пізнання, і на тому, як привести ці ідеї до життя для реалізації справжніх систем штучного загального інтелекту.

Які технологічні чи філософські перешкоди, на вашу думку, є найбільшими для досягнення штучного загального інтелекту протягом цього десятиліття?

Поняття і відповіді на великі філософські та наукові питання, включаючи:

• Що таке життя? Ми можемо вважати, що відповідь очевидна, але біологічні визначення виявилися проблематичними. Чи є віруси “живими”, наприклад.
• Що таке розум?
• Що таке інтелект?
• Як життя виникло з кількох базових хімічних речовин у певних умовах середовища? Як ми можемо повторити це?
• Як виник перший “розум”? Які інгредієнти та умови дозволили це?
• Як ми реалізуємо те, що ми дізнаємося, коли досліджуємо вищезазначені п’ять питань?
• Чи достатньо нашої поточної технології для реалізації наших рішень? Якщо ні, що нам потрібно винайти та розробити?
• Який час і кількість персоналу нам потрібно для реалізації наших рішень?

SingularityNET розглядає нейро-символічний штучний інтелект як перспективне рішення для подолання поточних обмежень генеративного штучного інтелекту. Чи можете ви пояснити, що таке нейро-символічний штучний інтелект і як SingularityNET планує використовувати цей підхід для прискорення розвитку штучного загального інтелекту?

Історично склалося так, що були дві основні школи дослідників штучного загального інтелекту, а також третя школа, що поєднує ідеї перших двох. Були дослідники, які вірять лише у суб-символічний підхід. Ці дні це переважно означає використання глибоких нейронних мереж (DNN), таких як моделі Transformer, включаючи поточну серію великих мовних моделей (LLM). Через використання штучних нейронних мереж суб-символічні підходи також називаються нейронними методами. Прихильники символічних методів використовують вищу логіку та символічне міркування, при якому вузли та зв’язки мають концептуальне та семантичне значення. SingularityNET слідує третьому підходу, який найточніше можна описати як нейро-символічний гібрид, що використовує сильні сторони символічних та суб-символічних методів.

Все ж це особливий гібрид, заснований переважно на філософії свідомості Бена Гертцеля та деталізований у багатьох документах, зокрема у його праці “Загальна теорія загального інтелекту: Прагматичний погляд на патерністську філософію”.

Хоча значна частина сучасних досліджень DNN та LLM базується на простих нейронних моделях та алгоритмах, використанні величезних наборів даних (наприклад, всього інтернету) та правильних налаштуваннях мільярдів параметрів з надією досягти штучного загального інтелекту, стратегія PRIMUS у SingularityNET базується на фундаментальних розуміннях динамічних процесів на多спаціальних та часових масштабах і того, як найкраще вирівняти ці процеси для появи бажаних властивостей на різних масштабах. Таке розуміння дозволяє нам спрямовувати дослідження та розвиток штучного загального інтелекту у зрозумілому для людини порядку.

Які рамки, на вашу думку, є критичними для забезпечення того, щоб розвиток штучного загального інтелекту приносив користь усій людству? Як децентралізовані штучні інтелектні платформи, такі як SingularityNET, можуть сприяти більш справедливому та прозорому процесу порівняно з централізованими моделями штучного інтелекту?

Багато ідей тут:

Прозорість — Хоча нічого не є ідеальним, забезпечення повної прозорості процесу прийняття рішень може допомогти всім учасникам (дослідникам, розробникам, користувачам та не користувачам) узгодити, спрямувати, зрозуміти та краще керувати розробкою штучного загального інтелекту на користь людства. Це подібно до проблеми упередженості, про яку я торкнуся нижче.

Децентралізація – Хоча децентралізація може бути заплутаною, вона може допомогти забезпечити, щоб влада була розподілена більш широко. Це не є самоцілью, а інструментом, який, якщо його правильно використовувати, може допомогти створити більш справедливі процеси та результати.

Прийняття рішень на основі консенсусу – децентралізація та прийняття рішень на основі консенсусу можуть працювати разом у напрямку більш справедливих процесів та результатів. Знову ж таки, вони не завжди гарантують справедливість. Тут є складності, які потрібно вирішити щодо репутації та областей експертизи. Наприклад, як нам краще збалансувати конфліктуючі бажані характеристики? Я розглядаю прозорість, децентралізацію та прийняття рішень на основі консенсусу як три критично важливі інструменти, які можна використовувати для спрямування розвитку штучного загального інтелекту на користь людства.

Просторово-часове вирівнювання емерджентних явищ на різних масштабах від надзвичайно малих до надзвичайно великих. При розробці штучного загального інтелекту я вважаю, що важливо не тільки покладатися на один “чорний ящик” підхід, у якому одна сподівається отримати все правильно з самого початку. Натомість я вважаю, що проектування штучного загального інтелекту з фундаментальним розумінням на різних стадіях розвитку та на різних масштабах не тільки робить його більш ймовірним досягненням штучного загального інтелекту, але й більш важливо спрямування такого розвитку у відповідності з людськими цінностями.

SingularityNET є децентралізованою штучною інтелектною платформою. Як ви бачите перехрестя технології блокчейну та штучного загального інтелекту, особливо щодо безпеки, управління та децентралізованого контролю?

Блокчейн безумовно грає роль у контролі штучного інтелекту, безпеці та управлінні. Однією з найбільших переваг блокчейну є його здатність сприяти прозорості. питання упередженості – це чудовий приклад цього. Я би сказав, що кожна людина та кожен набір даних упереджені. У мене є свої власні особисті упередження, наприклад, щодо того, що потрібно для досягнення真正но безпечного, корисного та благодійного штучного загального інтелекту. Ці упередження були сформовані моїми дослідженнями та фоном, і вони спрямують мою власну роботу.

Одночасно я намагаюся бути повністю відкритим до ідей, які суперечать моїм упередженням, і готовим скоригувати свої упередження на основі нових доказів. Незалежно від цього, я намагаюся бути відкритим та прозорим щодо своїх упереджень і умовити свої ідеї та рішення на основі саморефлексивного розуміння цих упереджень. Це складно, це важко, але, я вважаю, краще, ніж не визнавати свої власні упередження. Природою блокчейну є забезпечення кращого та прозорого відстеження, трасування та верифікації процесів та подій. Аналогічно до того, як я описував раніше, прозорість є необхідним, хоча не завжди достатнім, компонентом для безпеки, управління та децентралізованого контролю.

Як блокчейн і штучний інтелект коеволюціонують, це цікаве питання. Щоб ці дві технології взаємодіяли у напрямку позитивної сингулярності, здається, що фундаментальні характеристики, на які я постійно вказую (прозорість, децентралізація, консенсус та вирівнювання цінностей), є центральними та критичними і повинні бути враховані на всіх стадіях їх коеволюції.

Як лідер, який був тісно залучений до штучного інтелекту та блокчейну, що, на вашу думку, є найбільш важливими факторами для сприяння співробітництву між цими двома галузями, і як це може стимулювати інновації у розвитку штучного загального інтелекту?

Я походжу зі сторони штучного інтелекту/штучного загального інтелекту цієї пари. Як часто буває при інтеграції міжгалузевих ідей, багато залежить від мовних та комунікаційних питань. Усі групи повинні слухати одна одну, щоб краще зрозуміти, як ці технології можуть допомогти одна одній. На моій роботі у SingularityNET це була постійна боротьба. Висококласні дослідники, яких, можна без перебільшення сказати, що SingularityNET має у надлишку, часто мають чітке розуміння великих ідей. Коли працюєш через дисциплінарні межі, складна частина полягає в тому, щоб усвідомити, що не всі знаходяться “у твоїй голові”. Те, що ви приймаєте як належне, не буде так явно спостерігатися з боку тих, хто перебуває в інших галузях. Навіть слова, що використовуються спільно, можуть використовуватися по-різному в різних галузях вивчення. Був недавній випадок у нашій роботі з біо-штучним інтелектом, коли біологи використовували математичний термін, але не зовсім правильно у термінах його математичного визначення. Як тільки такі ситуації стають явними, команда може рухатися вперед з спільною метою, щоб інтеграція дійсно довела, що ціле більше за суму його частин.

Як ви бачите розвиток штучного інтелекту та блокчейну у напрямку більшої різноманітності та інклюзивності, і яка роль відіграє SingularityNET у сприянні цим цінностям?

Штучний інтелект і блокчейн можуть обидва відігравати значну роль у покращенні зусиль щодо різноманітності та інклюзивності. Хоча я вважаю, що неможливо усунути всі упередження – багато упереджень формуються просто через життєвий досвід – можна бути відкритим та прозорим щодо своїх упереджень. Це щось, до чого я активно прагну у своїй роботі, яка упереджена моєю академічною підготовкою, так що я бачу проблеми через призму динаміки складних систем. Все ж таки я намагаюся бути відкритим до ідей та аналогій з інших точок зору. Штучний інтелект можна використовувати для допомоги у цьому процесі саморефлексії, а блокчейн безумовно може допомогти з прозорістю. SingularityNET може відіграти величезну роль, розміщуючи інструменти для виявлення, вимірювання та усунення (наскільки це можливо) упереджень у наборах даних.

Як робота SingularityNET у децентралізованих екосистемах штучного інтелекту внесок у вирішення глобальних проблем, таких як сталість, освіта та створення робочих місць, особливо в регіонах, таких як Африка, де у вас є особливий інтерес?

Сталість:

• Застосування штучного інтелекту та моделей систем для вирішення складних проблем екосистем у величезному масштабі.
• Моніторинг таких рішень у масштабі.
• Використання блокчейну для відстеження, трасування та верифікації таких рішень.
• Використання комбінації штучного інтелекту, моделей екосистем, гіперлокальних даних та блокчейну, ми розробили повні рішення для ремісничного видобутку в Африці та аграрної секвестрації вуглецю у великому масштабі.

Освіта:

Як колишній професор математики та інформатики, освіта надзвичайно важлива для мене, особливо оскільки вона надає можливості недопредставленим студентам. Важливо:

• Поліпшити доступність шляхом розробки гібридних курсів для досягнення студентів, які можуть мати географічні, фінансові або часові обмеження.
• Сприяти різноманітності та інклюзивності шляхом збільшення участі недопредставлених груп у штучному інтелекті, блокчейні та інших передових технологіях.
• Розбудувати міжгалузеве знання шляхом створення курсів, які поєднують академічні та професійні галузі.
• Підтримувати кар’єрний розвиток шляхом надання навичок та сертифікатів, які безпосередньо застосовуються на ринку праці.

Я розглядаю як штучний загальний інтелект, так і блокчейн, а також їх синергію, як відіграють критичну роль у вирішенні вищезазначених цілей у рамках програм “учень до майстра” з орієнтацією на проектне навчання.

Створення робочих місць:

Сприянням вищезазначеним освітнім цілям, здається мені, що штучний загальний інтелект, блокчейн та інші передові технології, у поєднанні з позитивним співробітництвом між учителями та учнями, могли б заохотити та породити цілі нові технології та бізнеси.

Як людина, присвячена досягненню позитивної сингулярності, які конкретні віхі чи прориви у технології штучного інтелекту, на вашу думку, будуть необхідні для забезпечення того, щоб штучний загальний інтелект розвивався у вигідному для суспільства напрямку?

• Спроможність вирівняти емерджентні явища у людсько-інтерпретованих способах на різних просторово-часових масштабах.
• Спроможність зрозуміти на глибшому рівні концепції, що лежать в основі “спонтанних” фазових переходів.
• Спроможність подолати декілька складних проблем у деталях для забезпечення真正ного мультипроцесингу через надпозиції станів.
• Прозорість на всіх стадіях.
• Децентралізоване прийняття рішень на основі консенсусу.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати SingularityNET.