Ronald T. Kneusel, автор книги “How AI Works: From Sorcery to Science” – Інтерв’ю Серія

Ми недавно отримали передпублікаційну копію книги “How AI Work: From Sorcery to Science” Рональда Т. Кнеусела. Я прочитав понад 60 книг про штучний інтелект, і хоча деякі з них повторюються, ця книга вдалася пропонувати свіжий погляд, я достатньо насолодився цією книгою, щоб додати її до свого особистого списку Найкращих книг про машинне навчання та штучний інтелект усіх часів.

“Як працює штучний інтелект: Від чарівництва до науки” – це лаконічна та ясна книга, призначена для визначення основних фундаментальних принципів машинного навчання. Нижче наведені деякі питання, які були поставлені автору Рональду Т. Кнеуселу.

Це ваша третя книга про штучний інтелект, перші дві – “Практичне глибоке навчання: Введення на основі Python” та “Математика для глибокого навчання: Що вам потрібно знати, щоб зрозуміти нейронні мережі”. Яка була ваша первинна мета, коли ви вирішили написати цю книгу?

Інша цільова аудиторія. Мої попередні книги призначені як введення для людей, які цікавляться тим, щоб стати практиками штучного інтелекту. Ця книга призначена для загальної аудиторії, людей, які чують багато про штучний інтелект у новинах, але не мають жодного досвіду у цій галузі. Я хочу показати читачам, звідки походить штучний інтелект, що це не магія, і що кожний може зрозуміти, що він робить.

Хоча багато книг про штучний інтелект схильні до узагальнень, ви обрали протилежний підхід, викладаючи дуже конкретно значення різних термінів і навіть пояснюючи відносини між штучним інтелектом, машинним навчанням і глибоким навчанням. Чому ви вважаєте, що існує така суспільна плутанина між цими термінами?

Щоб зрозуміти історію штучного інтелекту і чому він є всюди, куди ми дивимось тепер, нам потрібно зрозуміти відмінності між термінами, але у популярному вживанні можна використовувати термін “штучний інтелект”, знаючи, що він відноситься переважно до систем штучного інтелекту, які трансформують світ так швидко. Сучасні системи штучного інтелекту виникли з глибокого навчання, яке виникло з машинного навчання та підходу, заснованого на зв’язках, до штучного інтелекту.

Друга глава глибоко занурюється в історію штучного інтелекту, від міфу про Талоса, гігантського робота, призначеного для охорони фінікійській принцесі, до статті Алана Тюрінга 1950-х років “Обчислювальна техніка та інтелект”, а також до появи революції глибокого навчання у 2012 році. Чому розуміння історії штучного інтелекту та машинного навчання є важливим для повного розуміння того, як далеко штучний інтелект розвинувся?

Моя мета полягає в тому, щоб показати, що штучний інтелект не впав з неба. У нього є історія, походження та еволюція. Хоча виникнення можливостей великих мовних моделей є несподіванкою, шлях, який призвів до них, не є несподіванкою. Це результат десятиліть думок, досліджень та експериментів.

Ви присвятили цілу главу розумінню спадкових систем штучного інтелекту, таких як машини опорних векторів, дерева рішень та випадкові ліси. Чому ви вважаєте, що повне розуміння цих класичних моделей штучного інтелекту є так важливим?

Штучний інтелект як нейронні мережі – це просто інший підхід до такого самого оптимізаційного моделювання, яке знаходиться у багатьох попередніх моделях машинного навчання. Це інший погляд на те, що означає розробка моделі деякого процесу, деякої функції, яка відображає входи у виходи. Знання про попередні типи моделей допомагає зрозуміти, звідки походять поточні моделі.

Ви заявляєте про свою віру в те, що модель LLM OpenAI’s ChatGPT є початком справжнього штучного інтелекту. Що на вашу думку було найбільшим游戏чером між цим і попередніми методами подолання штучного інтелекту?

Я недавно переглянув відео кінця 1980-х років, на якому Річард Фейнман намагається відповісти на питання про інтелектуальні машини. Він заявив, що не знає, який програм може діяти інтелектуально. У певному сенсі, він говорив про символічний штучний інтелект, де загадка інтелекту полягає у знаходженні магічної послідовності логічних операцій тощо, які дозволяють інтелектуальне поведінку. Я колись задумувався, як і багато інших, про те саме – як запрограмувати інтелект?

Моя віра полягає в тому, що це насправді не можна зробити. Натомість інтелект виникає з достатньо складних систем, здатних реалізовувати те, що ми називаємо інтелектом (тобто нас). Наші мізки є величезними складними мережами базових одиниць. Це також те, що таке нейронна мережа. Я вважаю, що архітектура трансформера, реалізована в LLM, випадково натрапила на подібний розподіл базових одиниць, які можуть працювати разом, щоб дозволити інтелектуальне поведінку виникнути.

З одного боку, це ultimative “щасливий випадок” Боба Росса, а з іншого – це не повинно бути надто несподіванкою, коли розподіл та дозволені взаємодії між базовими одиницями, здатними дозволити виникнути інтелектуальне поведінку, відбулися. Здається, тепер зрозуміло, що моделі трансформера – це один із таких розподілів. Звичайно, це викликає питання: які інші розподіли можуть бути?

Ваше основне повідомлення полягає в тому, що сучасний штучний інтелект (LLM) у своїй основі є просто нейронною мережею, яка тренується за допомогою зворотного поширення та градієнтного спуску. Чи ви особисто здивовані тим, наскільки ефективними є LLM?

Так і ні. Я постійно здивований їхніми відповідями та можливостями, коли я ними користуюсь, але звертаючись до попереднього питання, виникнення інтелекту є реальним, тому чому б це не виникнути у достатньо великій моделі з відповідною архітектурою? Я думаю, що дослідники, починаючи з Френка Розенблатта, якщо не раніше, ймовірно, думали про те саме.

Місія OpenAI полягає в тому, “забезпечити, щоб штучний інтелект загального призначення – системи штучного інтелекту, які загалом розумніші за людей – принесли користь усій людству”. Чи ви особисто вірите в те, що AGI досяжна?

Я не знаю, що означає AGI, не більше, ніж я знаю, що означає свідомість, тому це важко відповісти. Як я заявляю у книзі, може статися момент, дуже скоро тепер, коли це буде безсенсно турбуватися про такі відмінності – якщо це ходить, як качка, і квакає, як качка, просто називайте це качкою і продовжуйте далі.

Жартівливі відповіді в сторону, цілком можливо, що система штучного інтелекту може задовольнити багато теорій свідомості. Чи хочемо ми повністю свідомі (що б це означало) системи штучного інтелекту? Можливо, ні. Якщо це свідомо, то воно схоже на нас і, отже, є людиною з правами – і я не думаю, що світ готовий до штучних осіб. У нас вже достатньо проблем з тим, щоб поважати права наших співвітчизників, не кажучи вже про права будь-якої іншої істоти.

Чи було щось, чого ви дізналися під час написання цієї книги, що вас здивувало?

Поза тим же рівнем здивування, яке відчувають усі інші при виникненні можливостей LLM, ні. Я дізнався про штучний інтелект як студент у 1980-х роках. Я почав працювати з машинним навчанням на початку 2000-х років і був залучений до глибокого навчання, коли воно виникло на початку 2010-х років. Я був свідком розвитку останнього десятиліття вперше, разом з тисячами інших, коли галузь драматично виросла з конференції до конференції.

Дякую за велике інтерв’ю, читачам також може бути цікаво переглянути мою рецензію на цю книгу. Книга доступна у всіх великих рітейлерах, включаючи Amazon.