Мыслить как человек: Может ли ИИ развить аналогическое рассуждение?

Когда человек сталкивается с чем-то новым, он инстинктивно ищет сравнения. Ребенок, изучающий атомы, может услышать, что электроны обращаются вокруг ядра “как планеты обращаются вокруг Солнца”. Предприниматель может представить свою стартап как “Убер для груминга питомцев”. Ученый может рассказать непрофессиональной аудитории, что мозг обрабатывает информацию “как компьютер”.

Этот мысленный скачок – видение того, как одна вещь похожа на другую в своей глубинной структуре – называется аналогическим рассуждением. И это может быть тот ингредиент, который отделяет человеческий интеллект от ИИ в его нынешней форме. Если мы когда-нибудь разовьем Искусственный Общий Интеллект – Святой Грааль ИИ, который пока оказался неуловимым – мы должны выяснить, возможно ли для машин научиться мыслить аналогично. Ставки не могут быть выше. Если ответ “Нет”, то даже самые сложные системы ИИ навсегда останутся не более чем прославленными калькуляторами. Они будут не в состоянии решать проблемы, требующие больше, чем просто перестановка данных, на которых они были обучены.

Архитектура понимания

Аналогическое рассуждение работает на уровне структурных, а не поверхностных, сходств. Например, что делает сердца и водяные насосы похожими? Конечно, не их физический вид. Это тот факт, что оба выполняют одну и ту же функцию, а именно циркуляцию жидкости через систему. И именно эта способность сопоставлять отношения, типичные в одном контексте, с другим контекстом, делает человеческое обучение, творчество и решение проблем уникальными.

Есть множество реальных примеров. Возьмем Августа Кекуле, блестящего немецкого химика, который получил намек о структуре бензола в виде сна, в котором он увидел змею, кусающую свой собственный хвост. Сегодня программисты применяют уроки, полученные при организации кухни, при структурировании кода, а учителя объясняют электрический ток, сравнивая его с водой, протекающей через трубы.

Однако современные системы ИИ находят этот обычный когнитивный навык очень трудным. Когда их спрашивают, современные большие языковые модели (БЯМ) с удовольствием объясняют, почему “время – деньги” или решают вербальные задачи на рассуждение. Но накопленные доказательства свидетельствуют о том, что они часто занимаются сложным сопоставлением образцов, а не真正щим структурным сопоставлением. Когда исследователи представляют этим моделям новые аналогические проблемы, которые отклоняются от их обучающих данных, их производительность часто резко падает. Это связано с тем, что БЯМ отлично справляются с воспроизведением аналогий, которые они видели раньше, но спотыкаются, когда им предлагают создать новые связи.

Нет аналогического рассуждения, нет ИОИ

Очевидно, что аналогическое рассуждение являетсяsine qua non ИОИ. Без него системы ИИ остаются хрупкими, не способными адаптировать знания, которые актуальны в одной области, для решения проблем в другой. Например, представьте себе самоходную машину, которая научилась ориентироваться на солнечных улицах Калифорнии, но не может экстраполировать это обучение, чтобы справиться со снежными условиями. Система ИИ самоходной машины – это дорогой сопоставитель образцов, а не система, способная к настоящему интеллекту. Настоящий интеллект потребует когнитивной гибкости, чтобы распознать, что вождение по ледяным дорогам структурно сравнимо с другими сценариями скользких поверхностей, даже если конкретные детали различаются.

То же самое принцип применяется в областях за пределами автономных транспортных средств, конечно. Аналогическое мышление также стимулирует прогресс в науке, медицинской диагностике, юридических рассуждениях и творческих начинаниях. Системы ИИ без этой способности похожи на ученого, который запомнил всю библиотеку, но не может синтезировать эти знания между дисциплинами. Впечатляюще, конечно, но только в узком смысле.

Строительство аналогического разума

Итак, что потребуется для разработки систем ИИ, способных к человеческому аналогическому рассуждению? Основываясь на появляющихся исследованиях и фундаментальной природе аналогического мышления, несколько критических условий и методов, кажется, необходимы.

Структурно богатые и разнообразные обучающие данные

Первым требованием является то, чтобы системы ИИ были обучены на данных, которые выходят за рамки поверхностных текстовых образцов. Интернет с его огромным репозиторием научных статей, технической документации, творческих работ и объяснительного контента является хорошей отправной точкой. Но не любой интернет-данные подойдут. Что требуется, это структурное разнообразие. Другими словами, чтобы направить системы ИИ к обучению распознаванию абстрактных образцов, разработчикам следует начать подвергать их контрастам с первого дня обучения. Их обучающие данные могли бы включать архитектурные проекты вместе с музыкальными партитурами, математические доказательства вместе с поэзией или юридические аргументы рядом с рецептами приготовления пищи.

Более того, эти данные должны сохранять и подчеркивать структурные отношения, а не просто статистические корреляции. Графы знаний, причинные диаграммы и явно сопоставленные отношения между понятиями могли бы помочь системам ИИ научиться “видеть” структуру, а не механически запоминать ассоциации. Подумайте об этом как об обучении ИИ не только тому, что такое вещи, но и тому, как они связаны между собой осмысленными способами.

Тестирование за пределами обучающего набора

Чтобы убедиться, что системы ИИ учатся рассуждать аналогично, а не просто совершенствуют свои навыки имитации, нам нужны инструменты, которые намеренно проверяют их способность сопоставлять структуру с ситуациями, с которыми они никогда не сталкивались раньше. Это предполагает создание тестовых задач, которые намеренно отличаются от всего, что может появиться в обучающих данных – то, что исследователи называют “контрфактическими” задачами.

Например, вместо того, чтобы просить ИИ завершить стандартные аналогии, такие как “щенок для собаки, как котенок для ____”, мы могли бы представить ему проблемы, использующие вымышленные понятия, или попросить его сопоставить отношения между областями, которые он никогда не видел связанными. Может ли он распознать, что отношение между ингредиентами и рецептом параллельно отношению между доказательствами и юридическим аргументом, даже если он никогда не встречал это конкретное сравнение? Такие тесты показали бы, понимает ли система глубинные структуры или просто вспоминает похожие примеры.

Измерение того, что имеет значение

Хорошая новость для разработчиков ИИ заключается в том, что существует десятилетия исследований когнитивной науки, связанных конкретно с тем, как люди обрабатывают аналогии. Они могут использовать эти исследования, чтобы разработать надежные эталоны для аналогического рассуждения. Однако эти эталоны должны выходить за рамки простого подсчета правильных ответов на тестах аналогий. Что действительно нужно, это метрики, которые отражают способность ИИ систем определить, какие отношения имеют отношение для сопоставления, игнорируя поверхностные сходства и сохраняя последовательность в своих сопоставлениях.

Это может включать системы оценки, которые вознаграждают выявление более высоких отношений. Например, ИИ будет получать более высокий балл, если он сможет не только распознать, что атомы и солнечные системы включают орбиты, но и понять причинные отношения, которые управляют этими орбитами. Другой компетенцией, которую можно оценить, является способность ИИ спонтанно генерировать подходящие аналогии, чтобы объяснить новые понятия, а не просто завершать предварительно структурированные аналогические задачи.

Создание через подсказки

Последние исследования показывают, что способность ИИ мыслить аналогично зависит от того, как его просят сделать это. Аналогическое подсказывание – явное руководство моделей через процесс структурного сопоставления – может вызвать более сложное рассуждение, чем простое представление проблем. Это может включать сначала запрос к системе определить отношения в источнике, а затем явную просьбу сопоставить эти отношения с целевым доменом.

Эта техника может служить двойной цели: улучшению аналогических способностей текущих систем ИИ, а также генерации обучающих данных для будущих моделей. Записывая успешные случаи руководимого аналогического рассуждения, можно создать примеры, которые могут научить последующие системы заниматься этим процессом более естественным образом.

Гибридные архитектуры

Достижение человеческого аналогического рассуждения может потребовать выхода за рамки чистых подходов нейронных сетей. Гибридные системы, которые сочетают распознавание образцов с символическим рассуждением – явным представлением и манипулированием структурными отношениями – могут обеспечить недостающую часть. Хотя нейронные сети отлично справляются с обучением неявным образцам, символические системы могут обеспечить структурную последовательность и логическое сопоставление, которые требует аналогическое рассуждение.

Гибридные архитектуры еще находятся в младенчестве, но исследователи активно исследуют их потенциал. Некоторые, например, утверждают, что сочетание нейронных сетей с символическим рассуждением может привести к улучшению аналогических способностей. Другие продвигают гибридные модели, построенные для решения тенденции моделей ИИ к фабрикации и поверхностному аналогическому рассуждению.

Куда дальше?

В зависимости от того, кого вы спросите, аналогическое рассуждение либо уже возникает, либо ИИ становится более изощренным в своей имитации. Какая бы позиция ни была ближе к истине, ясно, что если мечта об ИОИ должна быть реализована, это потребует больше, чем просто более крупных моделей или больше данных. Это также потребует некоторых фундаментальных инноваций в том, как мы структурируем, обучаем и оцениваем наши системы ИИ.

Когда трансформирующие возможности ИИ разворачиваются, аналогическое рассуждение представляет собой как критический эталон производительности, так и трезвящее напоминание о разрыве между текущими возможностями ИИ и настоящей человеческой когнитивной деятельностью. Когда система ИИ сможет увидеть, что демократия для граждан то же, что и оркестр для музыкантов – распознавая не поверхностные особенности, а глубинные структурные отношения о координации, представительстве и возникающей гармонии – она перейдет важный рубеж к истинному интеллекту.