Мыслить как человек: может ли ИИ развить аналогическое рассуждение?

Когда человек сталкивается с чем-то новым, он инстинктивно ищет сравнения. Ребенок, изучающий атомы, может услышать, что электроны обращаются вокруг ядра “как планеты обращаются вокруг Солнца”. Предприниматель может представить свою стартап как “Убер для ухода за питомцами”. Ученый может рассказать непрофессионалу, что мозг обрабатывает информацию “как компьютер”.

Этот мыслительный скачок – увидеть, как одна вещь похожа на другую в своей более глубокой структуре – называется аналогическим рассуждением. И это может быть тот ингредиент, который отличает человеческий интеллект от ИИ в его нынешней форме. Если мы когда-либо разовьем ИИ общего назначения – Святой Грааль ИИ, который до сих пор оказался недосягаемым – мы должны выяснить, возможно ли для машин научиться мыслить аналогично. Ставки не могут быть выше. Если ответ “Нет”, то даже самые сложные системы ИИ навсегда останутся не более чем усовершенствованными калькуляторами. Они не смогут решать проблемы, которые требуют больше, чем просто перестановка данных, на которых они были обучены.

Архитектура понимания

Аналогическое рассуждение работает на уровне структурных, а не поверхностных сходств. Например, что делает сердца и водяные насосы похожими? Конечно, не их физический вид. Это тот факт, что оба выполняют одну и ту же функцию, а именно циркуляцию жидкости через систему. И именно эта способность сопоставлять отношения, типичные в одном контексте, с отношениями в другом контексте, делает человеческое обучение, творчество и решение проблем уникальными.

Есть множество реальных примеров. Возьмем, например, Августа Кекуле, блестящего немецкого химика, который получил намек о структуре бензола в виде сна, в котором он увидел змею, кусающую свой собственный хвост. Сегодня программисты применяют уроки организации кухни при структурировании кода, а учителя объясняют электрический ток, сравнивая его с водой, текущей через трубы.

Текущие системы ИИ, однако, находят этот общий когнитивный навык очень трудным. Когда их спрашивают, современные большие языковые модели (LLM) с радостью объясняют, почему “время – деньги” или выполняют вербальные задачи рассуждения. Но накопленные данные свидетельствуют о том, что они часто занимаются сложным сопоставлением образов, а не подлинным структурным сопоставлением. Когда исследователи представляют эти модели новыми аналогическими задачами, которые отклоняются от их обучающих данных, производительность часто резко падает. Это связано с тем, что LLM отлично справляются с воспроизведением аналогий, которые они видели раньше, но спотыкаются, когда им предлагают выковать новые связи.

Нет аналогического рассуждения, нет ИИ общего назначения

Очевидно, что аналогическое рассуждение является sine qua non ИИ общего назначения. Без него системы ИИ остаются хрупкими, неспособными адаптировать знания, которые актуальны в одной области, для решения проблем в другой. Например, представьте себе самоходный автомобиль, который научился ориентироваться на солнечных улицах Калифорнии, но не может экстраполировать это обучение, чтобы справиться со снежными условиями. Система ИИ этого автомобиля – это дорогой сопоставитель образов, а не система, способная к подлинному интеллекту. Истинный интеллект потребует когнитивной гибкости, чтобы распознавать, что вождение по ледяным дорогам структурно сравнимо с другими скользкими поверхностями, даже если детали различаются.

Строительство аналогического ума

Итак, что потребуется для разработки систем ИИ, способных к человеческому аналогическому рассуждению? Основываясь на новой исследовательской работе и фундаментальной природе аналогического мышления, несколько критических условий и методов, кажется, необходимы.

Структурно богатые и разнообразные обучающие данные

Первым требованием является обучение систем ИИ на данных, которые выходят за рамки поверхностных текстовых образов. Интернет, с его огромным репозиторием научных статей, технической документации, творческих работ и объяснительного контента, является хорошей отправной точкой. Но не любые интернет-данные подойдут. Что требуется, это структурное разнообразие. Другими словами, чтобы направить системы ИИ к обучению распознаванию абстрактных образов, разработчикам следует начать подвергать их контрастам с первого дня обучения. Их обучающие данные могут включать архитектурные проекты наряду с музыкальными партитурами, математические доказательства вместе с поэзией или юридические аргументы рядом с рецептами приготовления пищи. Поскольку каждая область воплощает в себе разные типы отношений, будущая система ИИ может извлечь пользу из этого рода упражнений.

Тестирование за пределами обучающего набора

Чтобы убедиться, что системы ИИ учатся рассуждать аналогично, а не просто совершенствуют свои навыки имитации, нам нужны инструменты, которые намеренно проверяют их способность сопоставлять структуру ситуациям, с которыми они никогда не сталкивались раньше. Это предполагает создание тестовых задач, которые намеренно отличаются от всего, что может появиться в обучающих данных – то, что исследователи называют “контрфактическими” задачами.

Измерение того, что имеет значение

Хорошая новость для разработчиков ИИ заключается в том, что существует десятилетия исследований в области когнитивной науки, которые специально занимаются тем, как люди обрабатывают аналогии. Они могут использовать эти исследования, чтобы разработать надежные эталоны для аналогического рассуждения. Однако эти эталоны должны выходить за рамки простого подсчета правильных ответов на тесты аналогий. Что действительно нужно, это метрики, которые отражают, могут ли системы ИИ определить, какие отношения имеют значение для сопоставления, игнорируя поверхностные сходства и сохраняя последовательность в своих сопоставлениях.

Создание опоры через подсказки

Недавние исследования показывают, что способность ИИ мыслить аналогично зависит в значительной степени от того, как его просят сделать это. Аналогическое подсказывание – явное руководство моделей через процесс структурного сопоставления – может вызвать более сложное рассуждение, чем простое представление проблем. Это может включать в себя первоначальный запрос системы для определения отношений в исходной области, а затем явный запрос на сопоставление этих отношений с целевой областью.

Гибридные архитектуры

Достижение человеческого аналогического рассуждения может потребовать выхода за рамки чисто нейронных сетевых подходов. Гибридные системы, которые сочетают распознавание образов с символическим рассуждением – явным представлением и манипулированием структурными отношениями – могут обеспечить недостающую часть. Хотя нейронные сети отлично справляются с学习ом неявных образов, символические системы могут обеспечить структурную последовательность и логическое сопоставление, которое аналогическое рассуждение требует.

Куда дальше?

В зависимости от того, кого вы спросите, аналогическое рассуждение либо уже возникает, либо ИИ просто становится более изощренным в своей имитации. Как бы то ни было, ясно, что если мечта об ИИ общего назначения будет реализована, это потребует больше, чем просто более крупные модели или больше данных. Это также потребует некоторых фундаментальных инноваций в том, как мы структурируем, обучаем и оцениваем наши системы ИИ.

По мере того, как разворачиваются трансформирующие возможности ИИ, аналогическое рассуждение представляет собой критический эталон производительности и трезвое напоминание о разрыве между текущими возможностями ИИ и подлинным человеческим познанием. Когда система ИИ сможет увидеть, что демократия для граждан является тем же, чем оркестр для музыкантов – распознавая не поверхностные черты, а глубокие структурные отношения о координации, представительстве и возникающей гармонии – она перейдет важный порог к истинному интеллекту.