Как Большие Языковые Модели Вынуждают Нас Переопределить Интеллект

Существует старая пословица: Если это выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, утка. Этот простой способ рассуждения, часто связанный с индийским поэтом Джеймсом Уиткомбом Райли, сформировал то, как мы думаем об искусственном интеллекте на протяжении десятилетий. Идея о том, что поведение достаточно, чтобы определить интеллект, вдохновила знаменитую “Игру имитации” Алана Тьюринга, теперь называемую Тестом Тьюринга.

Тьюринг предложил, что если человек не может определить, разговаривает ли он с машиной или с другим человеком, то машину можно считать интеллектуальной. И тест на утку, и тест Тьюринга предполагают, что то, что имеет значение, – это не то, что находится внутри системы, а то, как она себя ведет. На протяжении десятилетий этот тест руководил развитием ИИ. Но с появлением больших языковых моделей (БЯМ) ситуация изменилась. Эти системы могут писать связный текст, вести разговоры и решать задачи способами, которые кажутся удивительно человеческими. Вопрос теперь заключается не в том, могут ли машины имитировать человеческий разговор, а в том, является ли эта имитация истинным интеллектом. Если система может писать как мы, рассуждать как мы и даже создавать как мы, должны ли мы называть ее интеллектуальной? Или поведение само по себе больше не достаточно, чтобы измерить интеллект?

Эволюция Машиного Интеллекта

Большие языковые модели изменили то, как мы думаем об ИИ. Эти системы, ранее ограниченные генерацией базовых текстовых ответов, теперь могут решать логические проблемы, писать компьютерный код, создавать истории и даже помогать с творческими задачами, такими как написание сценариев. Одним из ключевых этапов в этом прогрессе является их способность решать сложные проблемы посредством пошагового рассуждения, метода, называемого цепочкой рассуждений. Разбивая проблему на более мелкие части, БЯМ может решать сложные математические проблемы или логические головоломки способами, которые кажутся похожими на человеческое решение проблем. Эта способность позволила им соответствовать или даже превосходить человеческие результаты в передовых бенчмарках, таких как MATH или GSM8K. Сегодня БЯМ также обладают мультимодальными возможностями. Они могут работать с изображениями, интерпретировать медицинские снимки, объяснять визуальные головоломки и описывать сложные диаграммы. С этими достижениями вопрос теперь заключается не в том, могут ли БЯМ имитировать человеческое поведение, а в том, отражает ли это поведение истинное понимание.

Следы Человеко-Подобного Мышления

Этот успех БЯМ переопределяет то, как мы понимаем интеллект. Фокус смещается от соответствия поведения ИИ с человеческим, как предлагает тест Тьюринга, к исследованию того, насколько близко БЯМ отражают человеческое мышление в обработке информации (т.е. истинное человеческое мышление). Например, в недавнем исследовании исследователи сравнили внутреннюю работу моделей ИИ с активностью человеческого мозга. Исследование показало, что БЯМ с более чем 70 миллиардами параметров не только достигли человеческого уровня точности, но и организовали информацию внутри себя способами, соответствующими человеческим мозговым закономерностям.

Когда люди и модели ИИ работали над задачами распознавания закономерностей, сканы мозга показали схожие закономерности активности у человеческих участников и соответствующие вычислительные закономерности в моделях ИИ. Модели кластеризировали абстрактные понятия в своих внутренних слоях способами, которые напрямую соответствовали человеческой мозговой активности. Это предполагает, что успешное рассуждение может требовать схожих организационных структур, как в биологических, так и в искусственных системах.

Однако исследователи осторожно отмечают ограничения этой работы. Исследование включало относительно небольшое количество человеческих участников, и люди и машины подходили к задачам по-разному. Люди работали с визуальными закономерностями, в то время как модели ИИ обрабатывали текстовые описания. Корреляция между человеческой и машинной обработкой интригующая, но она не доказывает, что машины понимают понятия так же, как люди.

Существуют также явные различия в производительности. Хотя лучшие модели ИИ достигли человеческого уровня точности на простых закономерностях, они показали более драматические падения производительности на самых сложных задачах по сравнению с человеческими участниками. Это предполагает, что, несмотря на сходства в организации, могут быть фундаментальные различия в том, как люди и машины обрабатывают сложные абстрактные понятия.

Скептическая Перспектива

Несмотря на эти впечатляющие результаты, сильный аргумент предполагает, что БЯМ – это не более чем очень умелые имитаторы. Эта точка зрения исходит от философа Джона Сёрла и его мысленного эксперимента “Китайская комната“, который иллюстрирует, почему поведение может не равняться пониманию.

В этом мысленном эксперименте Сёрл просит нас представить человека, запертого в комнате и говорящего только на английском языке. Человек получает китайские символы и использует английскую книгу правил, чтобы манипулировать этими символами и производить ответы. Снаружи комнаты его ответы выглядят точно как ответы носителя китайского языка. Однако Сёрл утверждает, что человек не понимает ничего о китайском языке. Он просто следует правилам без какого-либо реального понимания.

Критики применяют ту же логику к БЯМ. Они утверждают, что эти системы – “стохастические попугаи“, которые генерируют ответы на основе статистических закономерностей в их обучающих данных, а не на основе реального понимания. Термин “стохастический” относится к их вероятностной природе, в то время как “попугай” подчеркивает их имитационное поведение без реального понимания.

Несколько технических ограничений БЯМ также подтверждают этот аргумент. БЯМ часто генерируют “галлюцинации“; ответы, которые выглядят правдоподобными, но полностью неверными, вводящими в заблуждение и бессмысленными. Это происходит потому, что они выбирают статистически правдоподобные слова, а не обращаются к внутренней базе знаний или не понимают истину и ложь. Эти модели также воспроизводят человеческие ошибки и предубеждения. Они путаются из-за нерелевантной информации, которую люди легко игнорируют. Они демонстрируют расовые и гендерные стереотипы, потому что они учились на данных, содержащих эти предубеждения. Другим откровенным ограничением является “позиционная предвзятость”, когда модели чрезмерно подчеркивают информацию в начале или конце длинных документов, пренебрегая средним содержанием. Это “потерянное в середине” явление предполагает, что эти системы обрабатывают информацию очень по-разному, чем люди, которые могут поддерживать внимание на протяжении всего документа.

Эти ограничения подчеркивают центральную проблему: хотя БЯМ превосходно распознают и воспроизводят языковые закономерности, это не означает, что они действительно понимают смысл или реальный контекст. Они хорошо справляются с синтаксисом, но остаются ограниченными, когда речь идет о семантике.

Что Считается Интеллектом?

Дебаты в конечном итоге сводятся к тому, как мы определяем интеллект. Если интеллект – это способность генерировать связный язык, решать проблемы и адаптироваться к новым ситуациям, то БЯМ уже соответствуют этому стандарту. Однако, если интеллект требует самосознания, реального понимания или субъективного опыта, эти системы все еще не дотягивают.

Трудность заключается в том, что у нас нет четкого или объективного способа измерить качества, такие как понимание или сознание. И в людях, и в машинах мы выводим их из поведения. Тест на утку и тест Тьюринга когда-то предоставляли элегантные ответы, но в эпоху БЯМ они могут больше не быть достаточными. Их возможности заставляют нас пересмотреть, что действительно считается интеллектом, и соответствуют ли наши традиционные определения технологической реальности.

Итог

Большие языковые модели бросают вызов тому, как мы определяем интеллект ИИ. Они могут имитировать рассуждения, генерировать идеи и выполнять задачи, которые когда-то считались уникально человеческими. Однако они не обладают осознанием и основой, которые формируют истинное человеческое мышление. Их подъем заставляет нас задавать вопрос не только о том, действуют ли машины интеллектуально, но и о том, что интеллект сам по себе действительно означает.