Что такое закон ускоряющейся отдачи? Как это приводит к AGI

В недавнем интервью Илона Маска спросили, когда он ожидает увидеть появление искусственного общего интеллекта (AGI). ответ «от 3 до 6 лет». Генеральный директор Google DeepMind Демис Хассабис теперь считает, что AGI через несколько лет, может быть, через десятилетие». as заявил на Фестиваль будущего всего, организованный The Wall Street Journal.

Эти цифры считаются оптимистичными по сравнению с мнением большинства экспертов в области искусственного интеллекта, которые считают, что до AGI может пройти десятилетие, если не столетие. Отчасти этот пессимизм проистекает из страха перед более короткими временными рамками, которые в конечном итоге окажутся неверными. В конце концов, в 1956 году в Дартмутском летнем исследовательском проекте термин «искусственный интеллект» был придуман и запущен как область, с ожиданием, что машина, столь же разумная, как человек, будет существовать не более чем через поколение (25 лет).

Другие, такие как Джеффри Хинтон, который известен как у крестного отца ИИ немного больше детальный вид. «До недавнего времени я думал, что пройдет от 20 до 50 лет, прежде чем у нас появится ИИ общего назначения. И теперь я думаю, что это может быть 20 лет или меньше».

За последние несколько лет индустрия искусственного интеллекта быстро продвинулась вперед благодаря быстрому развитию алгоритмов глубокого обучения с подкреплением, многие из которых лежат в основе сегодняшних технологий. Большие языковые модели (LLM).

Тем не менее, все эти прорывы привели только к узким приложениям ИИ, таким как чат-боты и языковой перевод. Это по сравнению с ОИИ, типом искусственного интеллекта, который обладает способностью понимать, учиться и применять знания для решения широкого круга задач на уровне, сравнимом с человеческим.

Недостающее звено к ОИИ для многих кажется недостижимым, но для тех, кто верит в то, что называется «Законом ускоренной отдачи», неизбежно, что мы в конечном итоге создадим ОИИ.

Закон ускоренной отдачи был сформулирован никем иным, как Рэем Курцвейлом, писателем, изобретателем и футуристом. Он занимается такими областями, как оптическое распознавание символов (OCR), синтез текста в речь, технология распознавания речи, и был принят на работу в Google после публикации своей книги об искусственном интеллекте. Как создать разум». Эта новаторская книга иллюстрирует, как нам нужно понять человеческий мозг, чтобы реконструировать его и создать совершенную мыслящую машину. Эта книга была настолько важна для будущего ИИ, что Эрик Шмидт нанял Рэя Курцвейла для работы над проектами ИИ после того, как он закончил читать эту основополагающую книгу. 

Самая актуальная книга Рэя Курцвейла — не что иное, как «Сингулярность рядом«С момента публикации в 2005 году его прогнозы отражают технологический рост за последние 2 десятилетия. Что наиболее важно, Рэй Курцвейл предсказывает, что мы достигнем ОИИ к 2029 году, график, который соответствует недавнему мнению, разделяемому Илоном Маском и Демис Хассабис.

Закон утверждает, что скорость изменений в самых разных эволюционных системах (включая, помимо прочего, развитие технологий) имеет тенденцию к экспоненциальному увеличению.

В контексте технологического роста закон подразумевает, что мы можем ожидать быстрого технологического прогресса в будущем, потому что темпы технологических инноваций сами по себе ускоряются. Рэй Курцвейл утверждает, что каждое новое поколение технологий основывается на предыдущем, увеличивая потенциал для инноваций в геометрической прогрессии.

Этот закон демонстрирует, как взрывной рост ускоряющих технологий, который в настоящее время возглавляет Генеративный ИИ, будет оседлать другие волны других конвергентных экспоненциальных технологий, таких как производство микросхем и 3D-печать. Эта конвергенция является катапультой для того, чтобы ИИ стал самым мощным приложением из когда-либо созданных.

В 2001 году Рэй Курцвейл предсказанный следующие:

Анализ истории технологий показывает, что технологические изменения экспоненциальны, в отличие от здравого смысла «интуитивно-линейного» взгляда. Таким образом, мы не переживем 100 лет прогресса в 21 веке — это будет больше похоже на 20,000 XNUMX лет прогресса (по сегодняшнему курсу). «Отдача», такая как скорость чипа и экономическая эффективность, также увеличивается в геометрической прогрессии. Есть даже экспоненциальный рост скорости экспоненциального роста. Через несколько десятилетий машинный интеллект превзойдет человеческий, что приведет к Сингулярности — технологическим изменениям настолько быстрым и глубоким, что они представляют собой разрыв в ткани человеческой истории. Последствия включают слияние биологического и небиологического интеллекта, бессмертных людей, основанных на программном обеспечении, и сверхвысокие уровни интеллекта, которые расширяются за пределы Вселенной со скоростью света.

Этот технологический взрыв связан с Закон Мура который предсказал, что количество транзисторов на данном чипе будет удваиваться примерно каждые два года. Это в сочетании с другими технологическими прорывами показывает, что закон ускоряющейся отдачи процветает. Это Рэй Курцвейл отмечает, что это будет означать для будущего человечества:

• Эволюция применяет положительную обратную связь в том смысле, что более совершенные методы, являющиеся результатом одной стадии эволюционного прогресса, используются для создания следующей стадии. В результате
• скорость прогресса эволюционного процесса увеличивается экспоненциально с течением времени. Со временем «порядок» информации, встроенной в эволюционный процесс (то есть мера того, насколько хорошо информация соответствует цели, которой в эволюции является выживание), увеличивается.
• Коррелятом приведенного выше наблюдения является то, что «отдача» эволюционного процесса (например, скорость, рентабельность или общая «мощность» процесса) увеличивается экспоненциально с течением времени.
• В другом цикле положительной обратной связи по мере того, как конкретный эволюционный процесс (например, вычисление) становится более эффективным (например, экономически выгодным), все больше ресурсов направляется на дальнейшее развитие этого процесса. Это приводит ко второму уровню экспоненциального роста (т. е. скорость самого экспоненциального роста растет экспоненциально).
• Биологическая эволюция является одним из таких эволюционных процессов.
• Технологическая эволюция — еще один такой эволюционный процесс. Действительно, появление первых видов, создающих технологию, привело к новому эволюционному процессу технологии. Таким образом, технологическая эволюция является результатом и продолжением биологической эволюции.
• Конкретная парадигма (метод или подход к решению проблемы, например, уменьшение транзисторов на интегральной схеме как подход к созданию более мощных компьютеров) обеспечивает экспоненциальный рост, пока метод не исчерпает свой потенциал. Когда это происходит, происходит сдвиг парадигмы (т. е. фундаментальное изменение подхода), что позволяет продолжить экспоненциальный рост.

Читатели должны прочитать Блог Курцвейла, после этого они должны подумать о последствиях этого экспоненциального роста, а также о том, как он соответствует и отличается от того, что они испытали лично с момента первоначальной публикации блога.

Закон ускоряющейся отдачи, хотя и не так популярен, как закон Мура, остается столь же актуальным сегодня, как и в момент его первоначальной публикации.