Що таке Закон прискорених поверненів? Як він призводить до AGI

У недавньому інтерв’ю, коли його запитали, коли він очікує появи штучного загального інтелекту (AGI), Ілон Маск відповів “3 до 6 років”. Голова Google DeepMind Деміс Хассабіс тепер вважає, що AGI знаходиться “за кілька років, можливо, протягом десятиліття” як зазначено на Фестивалі майбутнього всього від The Wall Street Journal.

Ці числа вважаються оптимістичними порівняно з більшою частиною експертів галузі штучного інтелекту, які вважають, що AGI часто знаходиться за десятиліттями, якщо не століттями. Деяка частина цього песимізму пояснюється страхом зобов’язання коротшого терміну, щоб згодом не бути спростованим. Адже у 1956 році на літньому дослідному проекті в Дартмуті було вперше використано термін “штучний інтелект” і створено цю галузь, з очікуванням, що машина, інтелект якої буде дорівнювати інтелекту людини з’явиться не пізніше ніж за покоління (25 років).

Інші, наприклад Джоффрі Хінтон, який вважається батьком штучного інтелекту, мають稍 більш тонке бачення. “До останнього часу я думав, що це буде як через 20-50 років, поки у нас не з’явиться загальний штучний інтелект. А тепер я думаю, що це може бути через 20 років або менше.”

Галузь штучного інтелекту розвивалася швидко за останні кілька років завдяки швидкому розвитку алгоритмів глибокого підкріплення, багатьох з яких використовуються в сучасних багатомовних моделях (LLM).

Незважаючи на це, всі ці прориви призвели лише до вузьких застосувань штучного інтелекту, таких як чат-боти та машинний переклад. Це порівнюється з AGI, типом штучного інтелекту, який володіє здатністю розуміти, вивчати та застосовувати знання в широкому діапазоні завдань на рівні, порівнянному з людиною.

Відсутній ланцюг до AGI для багатьох здається недосяжним, але для тих, хто вірить у те, що називається “Законом прискорених поверненів”, воно є неминучим, що ми в кінцевому підсумку створимо AGI.

Закон прискорених поверненів був концептуалізований Реєм Курцвейлом, автором, винахідником та футурологом. Він займається такими галузями, як оптичне розпізнавання символів (OCR), синтез мови, технологія розпізнавання мови та був прийнятий на роботу в Google після публікації своєї книги про штучний інтелект “Як створити розум”. Ця революційна книга показує, як нам потрібно зрозуміти людський мозок, щоб зворотньо проєктувати його для створення абсолютної думаючої машини. Ця книга була настільки важливою для майбутнього штучного інтелекту, що Ерік Шмідт запросив Рея Курцвейла працювати над проектами штучного інтелекту після того, як прочитав цю фундаментальну книгу. 

Найбільш актуальна книга Рея Курцвейла – це “Близька сингулярність“, оскільки після публікації в 2005 році її прогнози відображали технологічний ріст за останні два десятиліття. Найважливіше, що Рей Курцвейл передбачає, що ми досягнемо AGI до 2029 року, терміну, який збігається з недавнім поглядом Ілона Маска та Деміса Хассабіса.

Закон стверджує, що швидкість змін у широкому діапазоні еволюційних систем (включаючи, але не обмежуючись зростанням технологій) має тенденцію до збільшення експоненціально.

У контексті технологічного зростання закон припускає, що ми можемо очікувати швидких технологічних досягнень у майбутньому, оскільки темп технологічних інновацій сам по собі прискорюється. Рей Курцвейл стверджує, що кожне нове покоління технологій будується на попередньому, збільшуючи потенціал для інновацій експоненціально.

Цей закон демонструє, як вибуховий ріст прискорених технологій, яким зараз керує Генеративний штучний інтелект, буде катапультувати інші хвилі зbieгаючих експоненційних технологій, таких як виробництво мікросхем та 3D-друк.  Це збіги є катапультою для штучного інтелекту, щоб стати найпотужнішою програмою, яку коли-небудь створили.

У 2001 році Рей Курцвейл передбачив наступне:

Аналіз історії технологій показує, що технологічні зміни відбуваються експоненційно, на відміну від звичайного “інтуїтивного лінійного” погляду. Тому ми не побачимо 100 років прогресу в 21 столітті – це буде більше схоже на 20 000 років прогресу (за поточною швидкістю). “Повернення”, такі як швидкість мікросхем та їх ефективність, також збільшуються експоненційно. Є навіть експоненційний ріст у темпі експоненційного зростання. У найближчі десятиліття штучний інтелект перевершить людський інтелект, що призведе до Сингулярності – технологічних змін такої швидкості та глибини, що вони становитимуть розрив у тканині людської історії. Наслідками цього будуть злиття біологічного та небіологічного інтелекту, програмні люди, які не старіють, та надзвичайно високі рівні інтелекту, які розширюються у Всесвіті зі швидкістю світла.

Цей технологічний вибух пояснюється Законом Мура, який передбачав, що кількість транзисторів на мікросхемі буде подвоюватися приблизно кожні два роки. Це у поєднанні з іншими технологічними проривами показує, що Закон прискорених поверненів процвітає.  Це спостереження Рея Курцвейла щодо того, що це означатиме для майбутнього людства:

• Еволюція застосовує позитивний зворотній зв’язок, тобто більш ефективні методи, що результатують із одного етапу еволюційного прогресу, використовуються для створення наступного етапу. Як наслідок, швидкість прогресу еволюційного процесу збільшується експоненційно з часом. З часом “порядок” інформації, закладеної в еволюційний процес (тобто міра того, наскільки добре інформація відповідає меті, яка в еволюції є виживанням), збільшується.
• Супутнім вищезазначеному спостереженню є те, що “повернення” еволюційного процесу (наприклад, швидкість, ефективність або загальна “потужність” процесу) збільшуються експоненційно з часом.
• У іншому позитивному зворотному зв’язку, оскільки певний еволюційний процес (наприклад, обчислення) стає більш ефективним (наприклад, ефективним за вартістю), більші ресурси направляються на подальший прогрес цього процесу. Це призводить до другого рівня експоненційного зростання (тобто швидкість експоненційного зростання сама по собі зростає експоненційно).
• Біологічна еволюція – це один із таких еволюційних процесів.
• Технологічна еволюція – це інший такий еволюційний процес. Насправді, появу першої технологічної виду, що створює технології, призвела до нового еволюційного процесу технологій. Тому технологічна еволюція є результатом та продовженням біологічної еволюції.
• Конкретна парадигма (метод або підхід до вирішення проблеми, наприклад, зменшення транзисторів на інтегральній схемі як підхід до створення більш потужних комп’ютерів) забезпечує експоненційний ріст, поки цей метод не вичерпає свій потенціал. Коли це відбувається, відбувається зміна парадигми (тобто фундаментальна зміна підходу), яка дозволяє продовжувати експоненційний ріст.

Читачам слід прочитати блог Рея Курцвейла, а потім подумати про наслідки цього експоненційного зростання та про те, як воно збігається та відрізняється від того, що вони особисто пережили з моменту першої публікації блогу.

Закон прискорених поверненів, хоч і не так популярний, як Закон Мура, залишається таким же актуальним сьогодні, як і на момент його першої публікації.