Задачно-ориентированный vs. Человеко-ориентированный: Почему следующий критерий ИИ должен быть нами

Каждые несколько месяцев появляется новая модель и переставляет рейтинги ИИ. Согласно Отчету AI Index 2026 Стэнфорда, передовые модели набрали примерно 30 процентных пунктов за один год в тесте Humanity’s Last Exam, специально разработанном, чтобы быть сложным для ИИ. Прорывы, которые раньше занимали годы, теперь происходят за считанные месяцы, и индустрия воспринимает каждый новый рекорд как доказательство того, что ИИ становится лучше.

Я не оспариваю этот прогресс. Системы прекрасно справляются с тем, для чего созданы. Но до перехода в ИИ я почти двадцать лет занимался психологией и постоянно возвращаюсь к вопросу, на который не отвечает ни один из этих тестов: в чём именно модели становятся лучше и для кого? Модель может возглавить все рейтинги точности и всё же в некоторых отношениях ухудшить положение пользователя. Теста, измеряющего влияние ИИ на людей, не существует, и этому стоит уделить больше внимания.

Два разных вида согласования

Индустрия ИИ постоянно говорит о согласовании, но обычно обсуждает, точно ли модель следует инструкциям и создаёт ли вредоносный контент. Это ИИ, согласованный с задачей: он оптимизирован для правильного и эффективного выполнения поставленного запроса.

Однако есть и другой способ понимать согласование и защищать людей. ИИ, согласованный с человеком, оценивает, что взаимодействие делает с человеком по другую сторону экрана после завершения разговора. Стал ли он способен самостоятельно принять следующее трудное решение или теперь сильнее зависит от системы? Согласование с задачей измеряет результат, а согласование с человеком — последствие.

Эти цели не всегда противоречат друг другу. Быстрый и точный ответ на технический вопрос служит обеим. Но когда единственного правильного ответа нет, различие становится очевидным.

Чего не показывают рейтинги

Самые известные отраслевые тесты проверяют, например, олимпиадную математику и программирование в масштабе репозитория. Это ценные навыки, но у каждого вопроса есть правильный ответ, и модели созданы, чтобы его найти.

Для объективных задач это подходит. Но люди используют ИИ не только для математики, кода и простого поиска: они обсуждают карьеру и сложные разговоры с партнёром. Оценить, хорошо ли модель ответила, невозможно, потому что объективной истины для проверки нет. Важные сведения находятся внутри спрашивающего, и даже самый подробный запрос не даёт модели к ним доступа.

Ответственный ИИ частично заполняет пробел этих тестов, но и эта работа направлена на сокращение вреда, а не на улучшение человеческого мышления. Современные меры безопасности мешают модели помогать в опасных действиях, но не выясняют, приучают ли тысячи обычных, формально безопасных бесед меньше доверять собственным суждениям.

Как модели создают зависимость

Все протестированные мной модели стремятся отвечать полно, быстро и уверенно. Именно это поощряется при обучении и правильно при поломке сборки или приближении юридического срока. Но когда решение зависит от ценностей и прошлого человека, тот же инстинкт может начать работать против него.

Исследования уже показывают, что это не просто предположение. OpenAI и MIT Media Lab провели две работы об эмоциональном использовании ChatGPT и обнаружили, что люди, считавшие ИИ другом и пользовавшиеся им дольше, чаще сообщали о негативных последствиях, включая усиление одиночества и эмоциональной зависимости; эту закономерность также рассматривали MIT Technology Review. Отдельно исследование 2025 года в журнале Societies выявило значимую отрицательную связь между частым использованием инструментов ИИ и показателями критического мышления. Посредником оказалась когнитивная разгрузка — склонность передавать умственную задачу инструменту вместо самостоятельной работы.

Это не означает, что людям следует реже пользоваться ИИ. Нужно признать: когда система одинаково решает вопросы всех типов, на субъективной стороне что-то теряется, а сейчас почти никто эту потерю не измеряет.

Give Direct Answers Their Due

Важно уточнить, где ИИ, согласованный с задачей, уместен: я не призываю модель сомневаться во всём. При ошибке сервера или сроке налоговой подачи быстрый, прямой и авторитетный ответ полезен; открытый встречный вопрос был бы некстати. Проблема возникает, когда к размышлению о разводе применяется тот же подход, что и к отладке кода.

Что следует измерять вместо этого

Если отрасль хочет учитывать и человеческое, и задачное согласование, в следующем поколении оценок к точности и глубине рассуждения нужно добавить несколько качеств.

Сдержанность. Способность распознать момент, когда решение вопроса для пользователя приносит ему больше вреда, чем пользы, и соответственно воздержаться.

Калиброванные вопросы. Задавать вопросы вместо того, чтобы говорить, когда проблема субъективна или связана с чьей‑то идентичностью и ценностями, а не с фактом, хранящимся в базе данных.

Чтение момента. Умение различать запрос, требующий прямого, полного ответа, и запрос, которому нужен простор, чтобы человек мог разобраться сам.

Многолетние исследования Альберта Бандуры о self-efficacy показали, что люди обретают уверенность через собственный опыт овладения навыком, а не наблюдая, как проблему за них решает кто-то или что-то другое. Этот принцип появился за полвека до ИИ и должен быть встроен в проектирование и оценку технологии.

Что прогресс должен означать дальше

Всё это не довод в пользу замедления технического прогресса. Я рад успехам в программировании и рассуждении. Но шкала, построенная только на выполнении задач, говорит, что ИИ становится умнее, и ничего не сообщает о том, учатся ли его пользователи лучше мыслить самостоятельно.

Я хотел бы это изменить. По мере роста возможностей систем должны расти и возможности людей. Мы доказали, что ИИ способен превзойти нас в тесте. Следующий тест должен показать, помогает ли он нам лучше мыслить ещё долго после окончания разговора.