Рональд Т. Кнейзел, автор книги “Як працює штучний інтелект: Від чарівництва до науки” – Серія інтерв’ю

Нещодавно ми отримали передпублікаційний примірник книги «Як працює штучний інтелект: Від чарівництва до науки» Рональда Т. Кнейзела. Я прочитав понад 60 книг про штучний інтелект, і хоча деякі з них повторюються, ця книга вдалася пропонувати свіжий погляд, я достатньо полюбив цю книгу, щоб додати її до свого особистого списку найкращих книг про машинне навчання та штучний інтелект усіх часів.

«Як працює штучний інтелект: Від чарівництва до науки» – це лаконічна та ясна книга, призначена для визначення основних фундаментальних принципів машинного навчання. Нижче наведені питання, які були задані автору Рональду Т. Кнейзелу.

Це ваша третя книга про штучний інтелект, перші дві – “Практичне глибоке навчання: Введення на основі Python” та “Математика для глибокого навчання: Що вам потрібно знати, щоб зрозуміти нейронні мережі”. Яка була ваша первинна мета, коли ви вирішили написати цю книгу?

Інша цільова аудиторія. Мої попередні книги призначені як введення для людей, які цікавляться ставати практиками штучного інтелекту. Ця книга для загальної аудиторії, людей, які чують багато про штучний інтелект у новинах, але не мають жодного досвіду з ним. Я хочу показати читачам, звідки походить штучний інтелект, що це не магія, і що кожен може зрозуміти, що це робить.

Хоча багато книг про штучний інтелект схильні до узагальнень, ви обрали протилежний підхід, будучи дуже конкретними в навчанні значення різних термінів, і навіть пояснюючи відносини між штучним інтелектом, машинним навчанням та глибоким навчанням. Чому ви вважаєте, що існує так багато соціальної плутанини між цими термінами?

Щоб зрозуміти історію штучного інтелекту та чому він зараз всюди, нам потрібно зрозуміти відмінності між термінами, але у популярному вживанні це справедливо використовувати “штучний інтелект”, знаючи, що він відноситься переважно до систем штучного інтелекту, які трансформують світ дуже швидко. Сучасні системи штучного інтелекту виникли з глибокого навчання, яке виникло з машинного навчання та підходу з’єднання штучного інтелекту.

Друга глава глибоко занурюється в історію штучного інтелекту, від міфу про Талоса, гігантського робота, призначеного для охорони фінікійській принцесі, до статті Алана Тюрінга 1950-х років “Обчислювальна техніка та інтелект”, а також до появи революції глибокого навчання у 2012 році. Чому розуміння історії штучного інтелекту та машинного навчання є важливим для повного розуміння того, наскільки далеко штучний інтелект розвинувся?

Моя мета показати, що штучний інтелект не просто впав з неба. У нього є історія, походження та еволюція. Хоча спроможності великих мовних моделей є несподіванкою, шлях, який привів до них, не є таким. Це результат десятиліть думок, досліджень та експериментів.

Ви присвятили цілу главу розумінню класичних систем штучного інтелекту, таких як машини опорних векторів, дерева рішень та випадкові ліси. Чому ви вважаєте, що повне розуміння цих класичних моделей штучного інтелекту є так важливим?

Штучний інтелект як нейронні мережі – це просто інший підхід до такого ж типу моделювання на основі оптимізації, яке знаходиться у багатьох попередніх моделях машинного навчання. Це інший погляд на те, що означає розробка моделі деякого процесу, деякої функції, яка відображає входи на виходи. Знання про попередні типи моделей допомагає зрозуміти, звідки походять сучасні моделі.

Ви висловили свою думку, що модель LLM системи ChatGPT від OpenAI є початком справжнього штучного інтелекту. Що, на вашу думку, було найбільшим проривом між цим та попередніми методами підходу до штучного інтелекту?

Нещодавно я переглянув відео кінця 1980-х років, на якому Річард Фейнман намагається відповісти на питання про інтелектуальні машини. Він сказав, що не знає, який програмний засіб може діяти інтелектуально. У певному сенсі, він говорив про символічний штучний інтелект, де загадка інтелекту полягає у знаходженні магічної послідовності логічних операцій тощо, які дозволяють інтелектуальне поведінку. Я теж раніше задавався питанням, як і багато інших, про те ж саме – як програмувати інтелект?

Моя думка полягає в тому, що цього не можна зробити. Натомість інтелект виникає з достатньо складних систем, здатних реалізовувати те, що ми називаємо інтелектом (тобто нас). Наш мозок – це величезна мережа базових одиниць. Те ж саме стосується і нейронної мережі. Я вважаю, що архітектура трансформера, реалізована в моделях LLM, випадково натрапила на подібну структуру, яка дозволяє виникати інтелектуальне поведінку.

З одного боку, це ідеальний “щасливий випадок” у стилі Боба Росса, а з іншого – це не повинно бути надто несподіваним, коли структура та взаємодії між базовими одиницями, здатними дозволяти виникати інтелектуальне поведінку, стають зрозумілими. Здається, що моделі трансформера – це одна з таких структур. Звичайно, це викликає питання: які ще такі структури можуть існувати?

Ваше основне повідомлення полягає в тому, що сучасний штучний інтелект (LLM) у своїй основі є просто нейронною мережею, тренованою за допомогою переднього поширення та градієнтного спуску. Чи особисто ви здивовані тим, наскільки ефективними є моделі LLM?

Так і ні. Я постійно вражаюсь їхніми відповідями та можливостями, коли я ними користуюсь, але, звертаючись до попереднього питання, виникаючий інтелект є реальним, тому чому б йому не виникнути у достатньо великій моделі з відповідною архітектурою? Я думаю, що дослідники, починаючи з Френка Розенблатта, якщо не раніше, ймовірно, думали про те ж саме.

Місія OpenAI полягає в тому, щоб “забезпечити, щоб штучний інтелект загального призначення – системи штучного інтелекту, які загалом розумніші за людей – принесли користь усій людськості”. Чи особисто ви вважаєте, що штучний інтелект загального призначення є досяжним?

Я не знаю, що означає штучний інтелект загального призначення, не більше, ніж знаю, що означає свідомість, тому складно відповісти. Як я зазначаю в книзі, може статися момент, дуже скоро, коли буде безглуздо турбуватися про такі відмінності – якщо це ходить, як качка, і квакає, як качка, просто називайте це качкою і продовжуйте.

Відкриті відповіді, крім того, цілком можливо, що система штучного інтелекту колись задовольнить багато теорій свідомості. Чи хочемо ми повністю свідомих систем штучного інтелекту? Можливо, ні. Якщо це свідомо, то воно подібне до нас і, отже, особа з правами – і я не думаю, що світ готовий до штучних осіб. У нас вже достатньо проблем з повагою до прав наших співвітчизників, не кажучи вже про права будь-якої іншої істоти.

Чи було щось, чого ви дізналися під час написання цієї книги, що вас здивувало?

Поза тим же рівнем здивування, яке відчувають інші люди щодо виникаючих можливостей моделей LLM, ні. Я вивчав штучний інтелект як студент у 1980-х роках. Я почав працювати з машинним навчанням на початку 2000-х років і був залучений до глибокого навчання, коли воно виникло на початку 2010-х років. Я був свідком розвитку останнього десятиліття вперше, разом з тисячами інших людей, коли галузь росла драматично з конференції до конференції.

Дякую за чудове інтерв’ю, читачам також може бути цікаво прочитати мою рецензію на цю книгу. Книга доступна у всіх великих рітейлерах, включаючи Amazon.