Лидеры мнений
Думать как человек: может ли ИИ развить рассуждение по аналогии?

Ключевые моментыАналогическое рассуждение требует сопоставления структурных отношений, а не…
Показать больше
- Аналогическое рассуждение требует сопоставления структурных отношений, а не поверхностных паттернов.
- Современные системы ИИ часто проваливают тесты на новые аналогии, демонстрируя лишь простое сопоставление паттернов.
- Для подлинного аналогического рассуждения могут потребоваться гибридные нейро-символьные архитектуры.
Когда человек сталкивается с чем-то новым, он инстинктивно ищет сравнения. Ребенок, изучающий атомы, может услышать, что электроны обращаются вокруг ядра “как планеты обращаются вокруг Солнца”. Предприниматель может представить свой стартап как “Убер для ухода за питомцами”. Ученый может рассказать непрофессионалу, что мозг обрабатывает информацию “как компьютер”.
Этот мыслительный скачок – увидеть, как одна вещь похожа на другую в своей более глубокой структуре – называется аналогическим рассуждением. И это может быть тот ингредиент, который отличает человеческий интеллект от ИИ в его нынешней форме. Если мы когда-либо разовьем ИИ общего назначения – Святой Грааль ИИ, который до сих пор оказался недосягаемым – мы должны выяснить, возможно ли для машин научиться мыслить по аналогии. Ставки не могут быть выше. Если ответ “Нет”, то даже самые сложные системы ИИ навсегда останутся не более чем усовершенствованными калькуляторами. Они не смогут решать проблемы, которые требуют большего, чем простая перестановка данных, на которых они были обучены.
Архитектура понимания
Аналогическое рассуждение работает на уровне структурных, а не поверхностных сходств. Например, что делает сердца и водяные насосы похожими? Конечно, не их физический вид. Это тот факт, что оба выполняют одну и ту же функцию, а именно циркуляцию жидкости через систему. И именно эта способность сопоставлять отношения, типичные в одном контексте, с отношениями в другом контексте, делает человеческое обучение, творчество и решение проблем уникальными.
Есть множество реальных примеров. Возьмем, например, Августа Кекуле, блестящего немецкого химика, который получил намек о структуре бензола в виде сна, в котором он увидел змею, кусающую свой собственный хвост. Сегодня программисты применяют уроки организации кухни при структурировании кода, а учителя объясняют электрический ток, сравнивая его с водой, текущей через трубы.
Текущие системы ИИ, однако, находят этот общий когнитивный навык очень трудным. Когда их спрашивают, современные большие языковые модели (LLM) с радостью объясняют, почему “время – деньги” или выполняют вербальные задачи рассуждения. Но накопленные данные позволяют предположить, что они часто занимаются сложным сопоставлением образов, а не подлинным структурным сопоставлением. Когда исследователи предлагают этим моделям новые задачи на аналогии, которые отклоняются от их обучающих данных, производительность часто резко падает. Это связано с тем, что LLM отлично справляются с воспроизведением аналогий, которые они видели раньше, но спотыкаются, когда им предлагают выковать новые связи.
Нет аналогического рассуждения, нет ИИ общего назначения
Очевидно, что аналогическое рассуждение является необходимым условием ИИ общего назначения. Без него системы ИИ остаются хрупкими, неспособными адаптировать знания, которые актуальны в одной области, для решения проблем в другой. Например, представьте себе беспилотный автомобиль, который научился ориентироваться на солнечных улицах Калифорнии, но не может экстраполировать это обучение, чтобы справиться со снежными условиями. Система ИИ этого автомобиля – это дорогой сопоставитель образов, а не система, способная к подлинному интеллекту. Истинный интеллект потребует когнитивной гибкости, чтобы распознавать, что вождение по ледяным дорогам структурно сравнимо с другими ситуациями на скользких поверхностях, даже если детали различаются.
Тот же принцип, конечно, действует и за пределами беспилотного транспорта. Мышление по аналогии способствует прогрессу в науке, медицинской диагностике, юридическом рассуждении и творчестве. Без этой способности ИИ напоминает ученого, который выучил наизусть целую библиотеку, но не может объединить знания разных дисциплин. Впечатляет, но лишь в очень узком смысле.
Строительство аналогического ума
Итак, что потребуется для разработки систем ИИ, способных к человеческому аналогическому рассуждению? Основываясь на новой исследовательской работе и фундаментальной природе аналогического мышления, несколько критических условий и методов, кажется, необходимы.
Структурно богатые и разнообразные обучающие данные
Первым требованием является обучение систем ИИ на данных, которые выходят за рамки поверхностных текстовых образов. Интернет, с его огромным репозиторием научных статей, технической документации, творческих работ и объяснительного контента, является хорошей отправной точкой. Но не любые интернет-данные подойдут. Что требуется, это структурное разнообразие. Другими словами, чтобы направить системы ИИ к обучению распознаванию абстрактных образов, разработчикам следует начать подвергать их контрастам с первого дня обучения. Их обучающие данные могут включать архитектурные проекты наряду с музыкальными партитурами, математические доказательства вместе с поэзией или юридические аргументы рядом с рецептами приготовления пищи. Поскольку каждая область воплощает в себе разные типы отношений, будущая система общего ИИ может извлечь пользу из этого рода упражнений.
Еще важнее, чтобы данные сохраняли и подчеркивали структурные отношения, а не только статистические корреляции. Графы знаний, причинные диаграммы и явно обозначенные отношения между понятиями могли бы научить ИИ «видеть» структуру, а не механически запоминать ассоциации. Речь об обучении не только тому, что представляют собой вещи, но и принципам их взаимосвязей.
Тестирование за пределами обучающего набора
Чтобы убедиться, что системы ИИ учатся рассуждать по аналогии, а не просто совершенствуют свои навыки имитации, нам нужны инструменты, которые намеренно проверяют их способность сопоставлять структуру ситуациям, с которыми они никогда не сталкивались раньше. Это предполагает создание тестовых задач, которые намеренно отличаются от всего, что может появиться в обучающих данных – то, что исследователи называют “контрфактическими” задачами.
Например, вместо стандартной аналогии «щенок относится к собаке так же, как котенок к ____» можно предлагать задачи с вымышленными понятиями или просить сопоставить отношения между областями, которые система никогда не видела связанными. Сможет ли она понять, что отношение ингредиентов к рецепту аналогично отношению доказательств к юридическому аргументу, даже если не встречала именно такого сравнения? Это выявит, понимает ли она глубинные структуры или лишь вспоминает похожие примеры.
Измерение того, что имеет значение
Хорошая новость для разработчиков ИИ заключается в том, что существуют десятилетия исследований в области когнитивной науки, которые специально занимаются тем, как люди обрабатывают аналогии. Они могут использовать эти исследования, чтобы разработать надежные эталоны для аналогического рассуждения. Однако эти эталоны должны выходить за рамки простого подсчета правильных ответов на тесты аналогий. Что действительно нужно, это метрики, которые отражают, могут ли системы ИИ определить, какие отношения имеют значение для сопоставления, игнорируя поверхностные сходства и сохраняя последовательность в своих сопоставлениях.
Можно использовать оценки, поощряющие выявление отношений более высокого порядка. Например, ИИ получит больше баллов, если не только заметит, что и атомы, и солнечные системы предполагают движение по орбитам, но и поймет причинные связи, управляющие этими орбитами. Можно также оценивать, способен ли он самостоятельно создавать подходящие аналогии для объяснения новых понятий, а не только решать заранее структурированные задачи.
Создание опоры через подсказки
Недавние исследования показывают, что способность ИИ мыслить по аналогии зависит в значительной степени от того, как его просят сделать это. Промптинг по аналогии – явное руководство моделей через процесс структурного сопоставления – может вызвать более сложное рассуждение, чем предъявление задач без подготовки. Это может включать в себя первоначальное предложение системе определить отношения в исходной области, а затем явный запрос на сопоставление этих отношений с целевой областью.
Этот метод мог бы служить двум целям: улучшать аналогические способности нынешних систем и создавать обучающие данные для будущих моделей. Запись успешных случаев направляемого рассуждения по аналогии позволит подготовить примеры, обучающие следующие системы выполнять этот процесс более естественно.
Гибридные архитектуры
Достижение человеческого аналогического рассуждения может потребовать выхода за рамки чисто нейронных сетевых подходов. Гибридные системы, которые сочетают распознавание образов с символическим рассуждением – явным представлением и манипулированием структурными отношениями – могут обеспечить недостающую часть. Хотя нейронные сети отлично справляются с изучением неявных закономерностей, символические системы могут обеспечить структурную последовательность и логическое сопоставление, которое аналогическое рассуждение требует.
Гибридные архитектуры пока находятся на ранней стадии, но исследователи активно изучают их потенциал. Одни, например, выступают за сочетание нейронных сетей с символическим рассуждением, которое могло бы улучшить способности к аналогиям. Другие продвигают гибридные модели для борьбы со склонностью ИИ выдумывать информацию и рассуждать по аналогии лишь поверхностно.
Куда дальше?
В зависимости от того, кого вы спросите, аналогическое рассуждение либо уже возникает, либо ИИ просто становится более изощренным в своей имитации. Как бы то ни было, ясно, что если мечта об ИИ общего назначения будет реализована, это потребует больше, чем просто более крупные модели или больше данных. Это также потребует некоторых фундаментальных инноваций в том, как мы структурируем, обучаем и оцениваем наши системы ИИ.
По мере того, как разворачиваются трансформирующие возможности ИИ, аналогическое рассуждение представляет собой критический эталон производительности и трезвое напоминание о разрыве между текущими возможностями ИИ и подлинным человеческим познанием. Когда система ИИ сможет увидеть, что демократия для граждан является тем же, чем оркестр для музыкантов – распознавая не поверхностные черты, а глубокие структурные отношения о координации, представительстве и возникающей гармонии – она перейдет важный порог к истинному интеллекту.












