AGI и будущее ИИ
Является ли GPT-4 прорывом на пути к достижению ИИ общего назначения?
Ключевые моментыСпособность GPT-4 написать стихотворение в стиле Шекспира о простых числах доказывает…
Показать больше
- Способность GPT-4 написать стихотворение в стиле Шекспира о простых числах доказывает глубокое рассуждение, выходящее за рамки запоминания.
- В статье Microsoft утверждается, что GPT-4 демонстрирует более общий интеллект, чем любая предыдущая модель ИИ.
- Величайший риск AGI может заключаться в его склонности галлюцинировать дезинформацию из обучающих данных.
Microsoft недавно опубликовала исследовательскую статью под названием:Искры искусственного общего интеллекта: ранние эксперименты с GPT-4. Как описано Microsoft (MSFT ):
Эта статья рассказывает о нашем исследовании ранней версии GPT-4, когда она еще находилась в активной разработке OpenAI. Мы утверждаем, что (эта ранняя версия) GPT-4 является частью новой группы больших языковых моделей (наряду, например, с ChatGPT и PaLM от Google), демонстрирующих более общий интеллект, чем предыдущие модели ИИ.
По оценке автора исходной статьи, в исследовании есть убедительные доказательства того, что GPT-4 далеко выходит за рамки простого запоминания и имеет глубокое и гибкое понимание концепций, навыков и областей. На самом деле, его способность обобщать далеко превышает способность любого живого человека сегодня.
Хотя мы ранее обсуждали преимущества ИИ общего назначения, мы должны быстро суммировать общее мнение о том, что такое система ИИ общего назначения. По сути, ИИ общего назначения – это тип продвинутого ИИ, который может обобщать информацию из нескольких областей и не ограничен узкой направленностью. Примерами узкого ИИ являются автономный транспорт, чат-бот, шахматный бот или любой другой ИИ, предназначенный для единственной цели.
ИИ общего назначения, с другой стороны, может гибко переключаться между любой из вышеперечисленных или любой другой области экспертизы. Это ИИ, который может использовать новые алгоритмы, такие как перенос обучения, и эволюционное обучение, а также использовать ранее разработанные алгоритмы, такие как глубокое обучение с подкреплением.
Вышеуказанное описание ИИ общего назначения соответствует моему личному опыту использования GPT-4, а также доказательствам, представленным в исследовательской статье, опубликованной Microsoft.
Одним из заданий, описанных в статье, является написание доказательства бесконечности простых чисел в форме стихотворения.

Если мы проанализируем требования для создания такого стихотворения, мы понимаем, что для этого требуется математическое рассуждение, поэтическое выражение и генерация естественного языка. Это задача, которая превышает способности большинства людей.
Статья хотела понять, просто ли GPT-4 производит контент на основе обычного запоминания или понимает контекст и может рассуждать. Когда его попросили воссоздать стихотворение в стиле Шекспира, он смог это сделать. Это требует многогранного уровня понимания, который далеко превышает способности общей популяции и включает теорию разума и математический гений.
Как рассчитать интеллект GPT-4?
Тогда возникает вопрос, как мы можем измерить интеллект большой языковой модели? И демонстрирует ли GPT-4 поведение настоящего обучения или просто запоминания?
Текущий способ тестирования системы ИИ заключается в оценке системы на наборе стандартных тестовых наборов данных и обеспечении того, чтобы они были независимы от обучающих данных и охватывали широкий спектр задач и областей. Этот тип тестирования почти невозможен из-за практически неограниченного количества данных, на которых был обучен GPT-4.
Статья обсуждает генерирование новых и сложных заданий/вопросов, которые убедительно демонстрируют, что GPT-4 далеко выходит за рамки запоминания и имеет глубокое и гибкое понимание концепций, навыков и областей.
Когда речь идет об интеллекте, GPT-4 может генерировать короткие истории, сценарии и рассчитывать самые сложные формулы.
GPT-4 также может программировать на очень высоком уровне, как в написании кода по инструкциям, так и в понимании существующего кода. GPT-4 может выполнять широкий спектр задач программирования, от задач программирования до реальных приложений, от низкоуровневого ассемблера до высокоуровневых фреймворков, от простых структур данных до сложных программ, таких как игры. GPT-4 также может рассуждать о выполнении кода, моделировать эффекты инструкций и объяснять результаты на естественном языке. GPT-4 даже может выполнять псевдокод,
GPT-4 может давать рациональные ответы практически на любой запрос. На самом деле, его интеллект почти непобедим в своей сложности.
Ограничения GPT-4
Статья затем продолжает описывать, как они проверяли ответы и поведение GPT-4, чтобы проверить его последовательность, связность и правильность, и чтобы обнаружить его ограничения и предубеждения.
Самое очевидное ограничение – это склонность к галлюцинациям. Вот пример галлюцинации, приведенный в статье, где GPT-4 был уверен в своем ответе, который был совершенно ложным.

Похоже, что даже GPT-4 понимает это текущее ограничение с галлюцинациями, поскольку это был ответ, который он дал, когда я спросил его, что такое галлюцинация GPT:
Галлюцинация GPT относится к явлению, при котором генеративный предобученный трансформер (GPT), такая как модель, с которой вы сейчас взаимодействуете, производит ответ, который не основан на фактической информации или не связан с контекстом. Эти галлюцинации возникают, когда модель генерирует текст, который может показаться правдоподобным, но на самом деле является неправильным, вводящим в заблуждение или бессмысленным.
Иными словами, когда вы обучаете большую языковую модель на данных мира, как вы избегаете системы, которая учится неправильным данным? Большая языковая модель, которая учится и воспроизводит дезинформацию и теории заговора, может фактически быть одним из самых больших подводных камней и угроз, с которыми сталкивается человечество при широком внедрении больших языковых моделей. Это может фактически быть одной из самых больших угроз от ИИ общего назначения, которая удивительно упускается из виду при обсуждении опасностей ИИ общего назначения.
Доказательства интеллекта GPT-4
Статья иллюстрирует, что не имело значения, какой тип сложных запросов был направлен к нему, GPT-4 превышал ожидания. Как говорится в статье:
Его беспрецедентное мастерство естественного языка. Он не только может генерировать связный и понятный текст, но и понимать и манипулировать им различными способами, такими как суммирование, перевод или ответ на очень широкий спектр вопросов. Кроме того, под переводом мы подразумеваем не только перевод между разными естественными языками, но и перевод тона и стиля, а также между областями, такими как медицина, право, бухгалтерский учет, программирование, музыка и многое другое.
GPT-4 предложили имитацию технической оценки при найме, и модель легко ее прошла. В интерпретации автора это означало, что человека с такими результатами сразу приняли бы на работу инженером-программистом. Аналогичный предварительный тест компетентности GPT-4 на многоштатном экзамене по праву показал точность выше 70%. Это означает, что в будущем мы сможем автоматизировать многие задачи, которые в настоящее время выполняют юристы. На самом деле, есть некоторые стартапы, которые сейчас работают над созданием роботизированных юристов с использованием GPT-4.
Создание новых знаний
Одним из аргументов в статье является то, что единственное, что осталось для GPT-4, чтобы доказать истинные уровни понимания, – это создание новых знаний, такой как доказательство новых математических теорем, подвиг, который в настоящее время остается недоступным для больших языковых моделей.
Тогда снова это и есть «святой Грааль» ИИ общего назначения. Хотя есть опасности с ИИ общего назначения, контролируемым в неправильных руках, преимущества ИИ общего назначения, способного быстро анализировать все исторические данные для открытия новых теорем, лекарств и методов лечения, практически бесконечны.
ИИ общего назначения может стать недостающим звеном для нахождения лекарств от редких генетических заболеваний, которые в настоящее время не финансируются частной промышленностью, для окончательного излечения рака и для максимизации эффективности возобновляемой энергии для исключения нашей зависимости от неустойчивой энергии. На самом деле, он может решить любую значимую проблему, которая будет введена в систему ИИ общего назначения. Это то, что понимают Сэм Альтман и команда OpenAI, ИИ общего назначения – это действительно последнее изобретение, которое необходимо для решения большинства проблем и пользы человечеству.
Конечно, это не решает проблему ядерной кнопки, кто контролирует ИИ общего назначения и какие его намерения. Независимо от этого статья делает феноменальную работу, утверждая, что GPT-4 – это прорыв на пути к достижению мечты исследователей ИИ, которую они имели с 1956 года, когда был впервые запущен летний исследовательский проект Дартмута по искусственному интеллекту.
Хотя обсуждается, является ли GPT-4 ИИ общего назначения, можно легко утверждать, что впервые в истории человечества это система ИИ, которая может пройти тест Тьюринга.












