Чарльз Дж. Саймон, автор, “Чи повстануть комп’ютери?” – Серія інтерв’ю

Чарльз Дж. Саймон, BSEE, MSCS, національно визнаний підприємець, розробник програмного забезпечення та менеджер. З широким менеджерським та технічним досвідом і ступенями в галузі електротехніки та комп’ютерних наук пан Саймон має багато років досвіду роботи з комп’ютерами в промисловості, включаючи піонерську роботу в галузі штучного інтелекту та САПР (дві генерації САПР).

Він також є автором книги “Чи повстануть комп’ютери”, яка пропонує глибокий погляд на майбутню можливість створення штучного загального інтелекту (ШЗІ).

Що спочатку привернуло вашу увагу до штучного інтелекту, а саме до ШЗІ?

Я захоплююсь питанням, “Чи можуть машини думати?” з моменту, коли вперше прочитав семінальну статтю Алана Тюрінга 1950 року, яка починається з цього питання. На даний момент відповідь явно “Ні”, але немає наукової причини, чому це не можливо. Я приєднався до спільноти штучного інтелекту під час першого буму нейронних мереж у кінці 1980-х років, і з того часу штучний інтелект зробив великі кроки вперед. Але тридцять років, що минули, не принесли розуміння нашим машинам, здатності, яка б катапультувала численні додатки на новий рівень корисності.

Ви заявили, що поділяєте думку експерта з Массачусетського технологічного інституту Родні Брукса, який говорить, що “без взаємодії з середовищем – без роботизованого тіла, якщо хочете – машини ніколи не проявлять ШЗІ”. Це фактично означає, що без достатніх входів від роботизованого тіла штучний інтелект ніколи не розвине можливості ШЗІ. Поза комп’ютерним зором, які типи входів необхідні для розвитку ШЗІ?

Сучасний штучний інтелект потребує доповнення базовими поняттями, такими як фізична присутність об’єктів у реальності, проходження часу, причини та наслідки – поняття, зрозумілі будь-якій трирічній дитині. Дитина використовує кілька органів чуття, щоб вивчити ці поняття, дотикуючись і маніпулюючи іграшками, рухаючись по будинку, вивчаючи мову тощо. Хоча можливо створити ШЗІ з більш обмеженими органами чуття, як і є глухі та сліпі люди, які абсолютно розумні, але з більшими органами чуття та можливостями взаємодії проблему ШЗІ вирішити легше.

Для повноти мій симулятор може забезпечити органи чуття смаку та запаху. Залишається невідомим, чи ці органи чуття також виявляться важливими для ШЗІ.

Ви заявили, що “Ключовим вимогам до інтелекту є середовище, яке є зовнішнім щодо інтелекту”. Приклад, який ви привели, такий: “Нерозумно очікувати, що система Ватсон від IBM “зrozumіє” щось, якщо у неї немає жодної ідеї про те, що таке “річ””. Це явно грає на поточних обмеженнях вузького штучного інтелекту, особливо природної мови. Як розробники штучного інтелекту можуть найкраще подолати це поточне обмеження штучного інтелекту?

Ключовим фактором є зберігання знань, які не є специфічними для мови, зору чи дотику, а як абстрактні “Речі”, які можуть мати мовні, візуальні та тактильні атрибути. Розгляньте щось так просте, як фразу “червоний м’яч”. Ви знаєте, що ці слова означають, оскільки вашого візуального та тактильного досвіду. Ви також знаєте значення пов’язаних дій, таких як кидання, підскокування, піна, тощо, які всі приходять на думку в якійсь мірі, коли ви чуєте цю фразу. Будь-яка система штучного інтелекту, яка заснована конкретно на мові або конкретно на зображенні, пропустить інші рівні розуміння.

Я реалізував Універсальний сховище знань, яке зберігає будь-який тип інформації в структурах, подібних до мозку, де “Речі” аналогічні нейронам і мають багато посилань на інші “Речі” – посилання аналогічні синапсам. Таким чином, червоний і м’яч окремі “Речі”, а червоний м’яч – це “Річ”, яка має посилання на червону “Річ” і м’яч “Річ”. Обидва червоний і м’яч мають посилання на відповідні “Речі” для слів “червоний” і “м’яч”, кожна з яких, в свою чергу, має посилання на інші “Речі”, які визначають, як слова читаються, вимовляються, пишуться або вимовляються, а також можливі дії “Речей”.

Ви дійшли висновку, що симуляція мозку загального інтелекту ще далеко, тоді як ШЗІ може бути (відносно) просто за горизонтом. На основі цього твердження, чи слід нам перейти від спроби емулювати або створити симуляцію людського мозку та просто зосередитися на ШЗІ?

Сучасні технології глибокого навчання та пов’язані з ними технології великі для відповідних застосунків, але не приведуть до розуміння. Щоб зробити наступні кроки, нам потрібно додати техніки, спрямовані конкретно на вирішення проблем, які знаходяться в межах можливостей будь-якої трирічної дитини.

Використання внутрішніх можливостей наших комп’ютерів може бути на порядки ефективніше, ніж біологічний аналог або будь-яка його симуляція. Наприклад, ваш мозок може зберігати інформацію в хімії біологічних синапсів за кілька ітерацій, що потребує 10-100 мілісекунд. Комп’ютер може просто зберігати нове значення синапса в одному циклі пам’яті, що в мільярд разів швидше.

При розробці програмного забезпечення ШЗІ я зробив і біологічну нейронну симуляцію, і більш ефективні алгоритми. Продовжуючи роботу з Універсальним сховищем знань, коли симулюється в симульованих біологічних нейронах, кожна “Річ” вимагає мінімум 10 нейронів і зазвичай багатьох більше. Це ставить здатність людського мозку десь між десятьма і сотнею мільйонів “Речей”. Але, можливо, ШЗІ буде виглядати інтелектуальним, якщо він зрозуміє лише один мільйон “Речей” – це цілком реально для сучасних високопродуктивних комп’ютерів.

Одним з ключових невідомих є те, скільки часу роботизованої системи слід виділити на обробку та реакцію на світ проти часу, витраченого на уявлення та планування. Чи можете ви коротко пояснити значення уяви для ШЗІ?

Ми можемо уявити багато речей, а потім діяти лише на тих, які нам подобаються, тобто тих, які сприяють нашим внутрішнім цілям. Правdziва сила уяви полягає в тому, щоб передбачити майбутнє – трирічна дитина може зрозуміти, які послідовності рухів приведуть її до цілі в іншій кімнаті, а дорослий може спекулювати, які слова матимуть найбільший вплив на інших.

ШЗІ також буде виглядати інтелектуальним, якщо він зможе передбачити різні складні дії та вибрати найкращу.

Ви вважаєте, що три закони робототехніки Асімова занадто прості та двозначні. У своїй книзі ви поділилися деякими ідеями щодо рекомендацій законів, які слід програмувати в роботів. Які закони, на вашу думку, найважливіші для виконання роботами?

Нові “закони робототехніки” будуть розвиватися протягом років, коли ШЗІ з’явиться. Я пропоную кілька початкових законів:

1. Максимізувати внутрішні знання та розуміння середовища.
2. Поділяти ці знання точно з іншими (як ШЗІ, так і людьми).
3. Максимізувати добробут як ШЗІ, так і людей в цілому – не тільки як окремої особи.

Ви маєте деякі питання щодо тесту Тюрінга та концепції, яка за ним стоїть. Чи можете ви пояснити, як, на вашу думку, тест Тюрінга є недоліком?

Тест Тюрінга добре послужив нам протягом п’ятдесяти років як ад-хок визначення загального інтелекту, але коли ШЗІ наближається, нам потрібно уточнити визначення і нам потрібно чітке визначення. Тест Тюрінга насправді є тестом на те, наскільки людина, а не на те, наскільки інтелектуальна машина. Чим довше комп’ютер може підтримувати обман, тим краще він виконує тест. Очевидно, що питання “Чи є ви комп’ютером?” та пов’язані з ним питання, такі як “Яке ваше улюблене харчування?”, є явними ознаками обману, якщо тільки ШЗІ не запрограмовано на обман – це сумнівна мета.

Крім того, тест Тюрінга мотивував розвиток штучного інтелекту в галузі обмеженої цінності (наприклад, чат-боти з великою гнучкістю у відповідях, але без жодного розуміння).

Що ви зробили б інакше у своєму варіанті тесту Тюрінга?

Кращі питання могли б конкретно проникнути в розуміння часу, простору, причини та наслідків, передбачення тощо, а не випадкові питання без будь-якої конкретної основи в психології, нейробіології чи штучному інтелекті. Наприклад:

1. Що ви бачите зараз? Якщо ви відступили б на три фути, які відмінності ви бачили б?
2. Якщо я [дія], яка буде ваша реакція?
3. Якщо ви [дія], яка буде моя ймовірна реакція?
4. Чи можете ви назвати три речі, які подібні до [об’єкта]?

Потім, замість оцінки відповідей щодо того, чи вони є нерозрізними від людських відповідей, їх слід оцінювати щодо того, чи є вони розумними відповідями (інтелектуальними) на основі досвіду сутності, яку тестують.

Ви заявили, що коли ШЗІ стикається з вимогами виконати деяку короткочасну руйнівну дію, правильно запрограмована ШЗІ просто відмовиться. Як ми можемо забезпечити, щоб ШЗІ була правильно запрограмована з самого початку?

Прийняття рішень ґрунтується на цілях. У поєднанні з уявиєю ви (або ШЗІ) розглядаєте результат різних можливих дій та вибираєте ту, яка найкраще досягає цілей. У людей наші цілі встановлюються еволюційними інстинктами та нашим досвідом; цілі ШЗІ повністю залежать від розробників. Нам потрібно забезпечити, щоб цілі ШЗІ відповідали цілям людства, а не особистим цілям окремої особи. [Три можливі цілі, перелічені вище.]

Ви заявили, що неминуче люди створять ШЗІ, яка є ваша найкраща оцінка терміну?

Ось частини ШЗІ починають з’являтися протягом наступного десятиліття, але ми не всі погодимося, що ШЗІ нарешті з’явилася. Зрештою, ми погодимося, що ШЗІ з’явилася, коли вони перевершать більшість людських можливостей на суттєву міру. Це займе два чи три десятиліття довше.

Для всіх розмов про ШЗІ, чи буде це справжня свідомість, яку ми знаємо?

Свідомість проявляється у наборі поведінки (яку ми можемо спостерігати), яка ґрунтується на внутрішньому відчутті (яке ми не можемо спостерігати). ШЗІ буде проявляти цю поведінку; їм потрібно це робити, щоб приймати інтелектуальні рішення. Але я стверджую, що наше внутрішнє відчуття в значній мірі залежить від нашого апаратного забезпечення та інстинктів, і тому я можу гарантувати, що будь-які внутрішні відчуття ШЗІ будуть іншими, ніж у людини.

То ж саме можна сказати про емоції та наше відчуття вільної волі. При прийнятті рішень віра у вільну волю пронизує кожне рішення, яке ми приймаємо. Якщо ви не вірите, що маєте вибір, ви просто реагуєте. Щоб ШЗІ приймала обдумані рішення, їй також потрібно буде бути свідомою своєї здатності приймати рішення.

Останнє питання, чи вважаєте ви, що ШЗІ має більший потенціал для добра чи зла?

Я оптимістично ставлюся до того, що ШЗІ допоможе нам рухатися вперед як виду та принесе нам відповіді на багато питань про Всесвіт. Ключем буде для нас підготуватися та визначити наші відносини з ШЗІ, коли ми визначаємо їхні цілі. Якщо ми вирішимо використовувати перші ШЗІ як інструменти завоювання та збагачення, нам не слід дивуватися, якщо згодом вони стануть своїми власними інструментами завоювання та збагачення проти нас. Якщо ми оберемо ШЗІ як інструменти знань, дослідження та миру, то це й буде тим, що ми отримаємо в відповідь. Вибір за нами.

Дякую за фантастичне інтерв’ю, яке досліджує майбутній потенціал створення ШЗІ. Для читачів, які бажають дізнатися більше, вони можуть прочитати “Чи повстануть комп’ютери” або відвідати веб-сайт Чарльза futureai.guru.