Является ли GPT-4 прорывом на пути к достижению ИИ общего назначения?

Microsoft最近发表了一篇研究论文，题为：Искры искусственного общего интеллекта: ранние эксперименты с GPT-4. Как описано Microsoft (MSFT ):

Эта статья рассказывает об нашем исследовании ранней версии GPT-4, когда она еще находилась в активной разработке OpenAI. Мы утверждаем, что (эта ранняя версия) GPT-4 является частью новой группы моделей обработки языка, которая демонстрирует более общий интеллект, чем предыдущие модели ИИ.

В этой статье есть убедительные доказательства того, что GPT-4 далеко выходит за рамки простой memorization и имеет глубокое и гибкое понимание концепций, навыков и областей. На самом деле, его способность обобщать далеко превышает способность любого живого человека сегодня.

Хотя мы ранее обсуждали преимущества ИИ общего назначения, мы должны быстро суммировать общее мнение о том, что такое система ИИ общего назначения. По сути, ИИ общего назначения – это тип продвинутого ИИ, который может обобщать информацию из нескольких областей и не ограничен узкой направленностью. Примерами узкого ИИ являются автономный транспорт, чат-бот, шахматный бот или любой другой ИИ, предназначенный для единственной цели.

ИИ общего назначения, с другой стороны, может гибко переключаться между любой из вышеперечисленных или любой другой области экспертизы. Это ИИ, который может использовать новые алгоритмы, такие как transfer learning, и эволюционное обучение, а также использовать устаревшие алгоритмы, такие как глубокое обучение на награды.

Вышеуказанное описание ИИ общего назначения соответствует моему личному опыту использования GPT-4, а также доказательствам, представленным в исследовательской статье, опубликованной Microsoft.

Одним из заданий, описанных в статье, является написание доказательства бесконечности простых чисел в форме стихотворения.

Если мы проанализируем требования для создания такого стихотворения, мы понимаем, что для этого требуется математическое рассуждение, поэтическое выражение и генерация естественного языка. Это задача, которая превышает способности большинства людей.

Статья хотела понять, просто ли GPT-4 производит контент на основе общей memorization или понимает контекст и может рассуждать. Когда его попросили воссоздать стихотворение в стиле Шекспира, он смог это сделать. Это требует многогранного уровня понимания, который далеко превышает способности общей популяции и включает теорию разума и математический гений.

Как рассчитать интеллект GPT-4?

Тогда возникает вопрос, как мы можем измерить интеллект модели обработки языка? И демонстрирует ли GPT-4 поведение真正щего обучения или просто memorization?

Текущий способ тестирования системы ИИ заключается в оценке системы на наборе стандартных тестовых наборов данных и обеспечении того, чтобы они были независимы от обучающих данных и охватывали широкий спектр задач и областей. Этот тип тестирования почти невозможен из-за практически неограниченного количества данных, на которых был обучен GPT-4.

Статья обсуждает генерирование новых и сложных заданий/вопросов, которые убедительно демонстрируют, что GPT-4 далеко выходит за рамки memorization и имеет глубокое и гибкое понимание концепций, навыков и областей.

Когда речь идет об интеллекте, GPT-4 может генерировать короткие истории, сценарии и рассчитывать самые сложные формулы.

GPT-4 также может программировать на очень высоком уровне, как в написании кода по инструкциям, так и в понимании существующего кода. GPT-4 может выполнять широкий спектр задач программирования, от задач программирования до реальных приложений, от низкоуровневой сборки до высокоуровневых фреймворков, от простых структур данных до сложных программ, таких как игры. GPT-4 также может рассуждать о выполнении кода,模拟ровать эффекты инструкций и объяснять результаты на естественном языке. GPT-4 даже может выполнять псевдокод,

GPT-4 может давать рациональные ответы几乎 на любой запрос. На самом деле, его интеллект почти непобедим в своей сложности.

Ограничения GPT-4

Статья затем продолжает описывать, как они проверяли ответы и поведение GPT-4, чтобы проверить его последовательность, связность и правильность, и чтобы обнаружить его ограничения и предубеждения.

Самое очевидное ограничение – это склонность к галлюцинациям. Вот пример галлюцинации, приведенный в статье, где GPT-4 был уверен в своем ответе, который был совершенно ложным.

Похоже, что даже GPT-4 понимает это текущее ограничение с галлюцинациями, поскольку это был ответ, который он дал, когда я спросил его, что такое галлюцинация GPT:

Галлюцинация GPT относится к явлению, при котором модель генеративного преобразования (GPT), такая как модель, с которой вы сейчас взаимодействуете, производит ответ, который не основан на фактической информации или не связан с контекстом. Эти галлюцинации возникают, когда модель генерирует текст, который может показаться правдоподобным, но на самом деле является неправильным, вводящим в заблуждение или бессмысленным.

Иными словами, когда вы обучаете большую модель обработки языка на данных мира, как вы избегаете системы, которая учится неправильным данным? Большая модель обработки языка, которая учится и воспроизводит дезинформацию и теории заговора, может фактически быть одним из самых больших подводных камней и угроз, с которыми сталкивается человечество при широком внедрении моделей обработки языка. Это может фактически быть одной из самых больших угроз от ИИ общего назначения, которая удивительно упускается из виду при обсуждении опасностей ИИ общего назначения.

Доказательства интеллекта GPT-4

Статья иллюстрирует, что не имело значения, какой тип сложных запросов был направлен к нему, GPT-4 превышал ожидания. Как говорится в статье:

Его беспрецедентное мастерство естественного языка. Он не только может генерировать связный и понятный текст, но и понимать и манипулировать им различными способами, такими как суммирование, перевод или ответ на очень широкий спектр вопросов. Кроме того, под переводом мы подразумеваем не только перевод между разными естественными языками, но и перевод тона и стиля, а также между областями, такими как медицина, право, бухгалтерский учет, программирование, музыка и многое другое.

Модели технических обзоров были даны GPT-4, он легко прошел, что означает, что если бы это был человек на другом конце, он был бы сразу же нанят в качестве программиста. Аналогичный предварительный тест компетентности GPT-4 на многоштатном экзамене по праву показал точность выше 70%. Это означает, что в будущем мы сможем автоматизировать многие задачи, которые в настоящее время выполняют юристы. На самом деле, есть некоторые стартапы, которые сейчас работают над созданием роботизированных юристов с использованием GPT-4.

Производство новой информации

Одним из аргументов в статье является то, что единственное, что осталось для GPT-4, чтобы доказать истинные уровни понимания, – это производство новой информации, такой как доказательство новых математических теорем, подвиг, который в настоящее время остается недоступным для моделей обработки языка.

Тогда снова это является圣杯 ИИ общего назначения. Хотя есть опасности с ИИ общего назначения, контролируемым в неправильных руках, преимущества ИИ общего назначения, способного быстро анализировать все исторические данные для открытия новых теорем, лекарств и методов лечения, практически бесконечны.

ИИ общего назначения может быть отсутствующей связью для нахождения лекарств от редких генетических заболеваний, которые в настоящее время не финансируются частной промышленностью, для окончательного излечения рака и для максимизации эффективности возобновляемой энергии для исключения нашей зависимости от неустойчивой энергии. На самом деле, он может решить любую значимую проблему, которая будет введена в систему ИИ общего назначения. Это то, что понимают Сэм Альтман и команда OpenAI, ИИ общего назначения – это действительно последнее изобретение, которое необходимо для решения большинства проблем и пользы человечеству.

Конечно, это не решает проблему ядерной кнопки, кто контролирует ИИ общего назначения и какие его намерения. Независимо от этого статья делает феноменальную работу, утверждая, что GPT-4 – это прорыв на пути к достижению мечты исследователей ИИ, которую они имели с 1956 года, когда был впервые запущен летний исследовательский проект Дартмута по искусственному интеллекту.

Хотя обсуждается, является ли GPT-4 ИИ общего назначения, можно легко утверждать, что впервые в истории человечества это система ИИ, которая может пройти тест Тьюринга.