Чарльз Саймон, автор книги “Симулятор мозга II” – Серія інтерв’ю

Чарльз Саймон – автор книги Симулятор мозга II, супутньої книги до проекту Симулятор мозга II, вільного та відкритого програмного забезпечення, спрямованого на створення системи штучного загального інтелекту (AGI)

Оригінальне програмне забезпечення Симулятор мозга було випущено в 1988 році, величезний час в світі програмного забезпечення. Наскільки великим є стрибок вперед Симулятор мозга II порівняно з його попередником?

Сучасна система працює більш ніж у мільйон разів швидше. Оригінал був написаний на мові FORTRAN, працював на клоні IBM AT, підтримував фіксований масив з 1200 нейронів і обчислював близько двох циклів в секунду. Сучасна програма може працювати в мережі та обробляти 2,5 мільярда синапсів в секунду на потужному процесорі.

Ця книга про Симулятор мозга II, відкритий проєкт програмного забезпечення, спрямований на створення штучного інтелекту, який працює від початку до кінця, який тип досвіду програмування необхідний для роботи з цим програмним забезпеченням?

Немає необхідності досвіду. Якщо ви не програміст, ви можете провести час з Симулятором мозга і вийти з розумінням можливостей і обмежень нейронів, трохи про представлення знань і навіть побудувати свої обмежені мережі. Якщо ви програміст, ви будете слідувати більш глибоким технічним поясненням і побудуєте свої модулі для розширення системи до більш просунутих стратегій AGI.

Чому повернення до біологічно обґрунтованих коренів штучного інтелекту важливо для досягнення AGI?

У 1980-х роках вважалося, що якщо ми зможемо побудувати досить велику нейронну мережу, вона спонтанно стане інтелектуальною. За останні сорок років ця ситуація стала все більш неправдоподібною. Отже, якщо класичні підходи до штучного інтелекту не спрацювали для AGI, давайте розглянемо інші підходи, і єдина працездатна модель AGI, яку ми маємо, – це людський мозок.

Одночасно немає причини для сліпого дотримання біологічної правдоподібності. Наприклад, ми знаємо, що наш мозок може оцінювати відстані до об’єктів на основі малих відмінностей у зображеннях, отриманих нашими двома очима, основа для 3D-фільмів. Ми не знаємо, як це працює в мозку, тому я запрограмував цю функціональність у модулі, який оцінює відстані за допомогою декількох рядків тригонометрії. Ми можемо бути досить впевнені, що ваш мозок не працює так, але підхід тригонометрії, ймовірно, швидший і точніший.

Ви заявляєте в книзі, що AGI потребує робототехніки, чому це так важливо?

Розгляньте спробу пояснити колір сліпій людині або музику глухій людині. Якщо перспективний AGI – це просто програма на комп’ютері, як він може отримати базове розуміння речей, які знає будь-яка трирічна дитина? Дитина має точку зору і оточена реальністю. Дитина знає, що об’єкти існують у цій реальності і що багато з них можна маніпулювати. Граючи з блоками дитина може навчитися про форму, розмір, твердість, гравітацію, візуальне перекриття, відстань тощо. З автономним рухом, зором і маніпуляторами AGI може навчитися про реальність на більш фундаментальному рівні, ніж будь-яка програма, яка покладається тільки на великі обсяги текстових і зображень даних.

Після того, як роботизований AGI здобув фундаментальне розуміння об’єктів у реальності, ці знання можна клонувати в нероботизовані машини мислення, і розуміння буде зберігатися. Як і людина, яка втрачає зір або слух, може зрозуміти речі по-іншому, ніж людина, яка ніколи не мала цих відчуттів.

Одним з важливих аспектів Симулятора мозга II є те, що він не використовує зворотного розповсюдження, яке є раціональним підходом для відмови від цього методу?

Ваш мозок працює без зворотного розповсюдження, тому AGI також повинен бути можливим без нього. Насправді, зворотне розповсюдження фундаментально не сумісне з біологічною моделлю, оскільки воно покладається на можливість відчувати і змінювати ваги синапсів з досить великою точністю. Після певного часу з Симулятором мозга ви дійдете висновку, що встановлення ваг синапсів з будь-якою мірою точності дуже складно, а точне відчуття цих ваг синапсів неможливо. Фундаментальна проблема полягає в тому, що вогняні нейрони змінюють ваги синапсів, але немає способу виявити вагу синапса без вогняних нейронів, тому вагу синапса не можна відчувати без зміни її.

Зворотне розповсюдження не має біологічного аналога, і я вважаю його дуже потужним статистичним методом. Багато людей працюють з ним, деякі з яких мають відмінні результати. Моя точка зору полягає в тому, щоб спробувати інші підходи. Використовуючи спайкові нейрони в поєднанні з модулями програмного забезпечення, я розглядаю проблеми AGI з іншої точки зору.

Коли мозок досліджується, він здається безладним і випадковим, чи потрібно це вводити в програмну систему для появи справжнього AGI?

Я не думаю так. Коли ви дивитесь на окремі нейрони і синапси, їхня функція досить детермінована, як і транзистор. У мозку все здається випадковим, оскільки рівні шуму досить високі, а компоненти інформації не знаходяться в будь-якому порядку. Але подумайте про ваш зір, ви можете читати текст чітко, і немає безладу чи випадковості у процесі читання. Отже, ми робимо висновок, що, принаймні, ваша зорова кора досить надійна і повторювана. Однак, коли її досліджують, вона виглядає так само безладно, як і решта мозку. Тому решта мозку, ймовірно, так само надійна і повторювана, як і зорова кора, ми просто не бачимо організації і порядку ще. Це трохи схоже на читання китайською, для мене це безладні напіввипадкові позначки, але для людини, яка може читати мову, там є абсолютна організація. Ми просто ще не можемо прочитати внутрішню мову мозку.

Ви вводите концепцію, яку називають Універсальним сховищем знань (УСЗ), можете коротко розповісти про це і чому це важливо?

Подумайте про питання робототехніки, ви можете побачити, що одним з аспектів загального інтелекту є здатність інтегрувати знання з різних відчуттів. Ви знаєте про блок, тому що можете бачити його, торкатися його, і чути слова про нього. Все це представляє інформацію про блок. Тому AGI повинно мати загальну систему зберігання, яка може обробляти велику різноманітність різної інформації і створювати корисні відносини між різними предметами. УСЗ – це граф знань досить загального типу, щоб він міг обробляти будь-який тип інформації і будь-які види відносин.

УСЗ може зберігати просторову інформацію, необхідну для застосування лабіринту, разом з деревом рішення і результату, використовуваним для проходження лабіринту для досягнення мети. Та сама структура використовується для асоціації слів з кольорами. Така універсальність фундаментальна для AGI.

Який ваш часовий горизонт для появи AGI?

Це важко сказати. У нас вже є апаратне забезпечення, необхідне для AGI, і я бачу, що один прорив всього, що потрібно, і він може відбутися в будь-який момент. Давайте спробую описати той прорив:

Розгляньте, що якщо все, що ви знаєте, це те, що червоний – це колір, і синій – це колір, я можу попросити вас назвати деякі кольори, і ви можете сказати червоний і синій. Питання в тому, як AGI може вивчити, що відносини “це є” є чимось. Я міг би легко запрограмувати таке відносини, але тоді мій AGI не зможе вивчити нові відносини, коли вони зустрічаються. Дитина може вивчити про відносини ближче/далі, більші/менші, раніше/пізніше, раніше/пізніше тощо. Але ці відносини залежать від ще більш фундаментальних понять розміру, відстані, часу тощо.

Як голова, повна нейронів, може вивчити всі ці фундаментальні речі? Це пов’язано з необхідністю робототехніки. Як AGI може вивчити поняття відстані, якщо він не може рухатися або досягнути чогось? Це також пов’язано з необхідністю універсального зберігання. Як AGI може зрозуміти, що означає рухатися, яке поєднує поняття місця і часу? Рухатися кудись відносно просте. Зрозуміти, що означає рухатися кудись, значно складніше. Я вважаю, що ці真正ні фундаментальні питання – всі прояви однієї й тієї ж основної проблеми, а рішення цієї проблеми – необхідний прорив.

Не дуже багато людей працюють над цим питанням, в основному тому, що це дуже складно представити проєкт, який, якщо він справді успішний, матиме можливості трьохрічної дитини після трьох років, і можливості десятирічної дитини після десяти років. Тому рішення, ймовірно, прийде від менших незалежних дослідників, які мають час і енергію, щоб присвятити проблеми, які не мають короткострокової віддачі.

Чи є щось ще, що ви хотіли б поділитися про Симулятор мозга II або AGI загалом?

Коли ви спробуєте використовувати нейрони і синапси для проектування схем, які розглядають ці фундаментальні проблеми, ви дійдете висновку, що замість того, щоб поняття представлялося декількома десятками синапсів, кожне з них вимагає декількох десятків нейронів. Це означає, що замість того, щоб мозкова здатність була б мільярдами речей, як це часто вважається, вона обмежена поняттям десятків або сотень мільйонів речей. З урахуванням цього, AGI, який може зрозуміти лише десять мільйонів речей, повинен至少 бути здатним зрозуміти деякі з цих фундаментальних понять. І комп’ютерна система, яка представляє десять мільйонів речей, цілком відповідає можливостям сучасного апаратного забезпечення, можливо, навіть сучасного комп’ютера.

Версія 1.0 Симулятора мозга насправді є його “входом у дорослий вік”. Тепер у нього є потенціал і відполірований інтерфейс, який робить його набагато більш корисним для більш широкої аудиторії дослідників. Це спільний проєкт з зростаючою командою розробників і більшим корпусом кінцевих користувачів. Разом ми спробуємо багато нових ідей і зробимо прогрес у деяких фундаментальних питаннях інтелекту і AGI.

Дякую за велике інтерв’ю, завжди цікаво обговорювати AGI з вами. Читачам, які бажають дізнатися більше, слід прочитати книгу Симулятор мозга II.