Искусственный интеллект, который учится сам, больше не является научной фантастикой

Новые框架ы искусственного интеллекта делают радикальный шаг: машины, которые могут улучшать себя без участия человека.

В течение многих лет даже самые передовые модели искусственного интеллекта оставались пассивными двигателями, предсказывающими ответы на основе тренировочных данных, которые они не могли изменить. Но сегодня это не размер модели определяет следующую главу искусственного интеллекта, а то, может ли модель эволюционировать самостоятельно.

Недавно исследователи из MIT представили новую框架у искусственного интеллекта под названием Самоадаптирующиеся модели языка (SEAL). Этот подход позволяет большим моделям языка (LLM) улучшать себя автономно, что позволяет искусственному интеллекту диагностировать свои ограничения и постоянно обновлять свои собственные нейронные веса через внутренний цикл обратной связи, работающий на основе обучения с подкреплением. Вместо того, чтобы требовать от исследователей обнаружения ошибок, написания новых подсказок или подачи дополнительных примеров, модель берет на себя полную ответственность за свое развитие.

«Большие модели языка (LLM) являются мощными, но статичными; они не имеют механизмов для адаптации своих весов в ответ на новые задачи, знания или примеры», – написали исследователи из MIT в блоге. «Эксперименты по включению знаний и обобщению показывают, что SEAL является перспективным шагом к языковым моделям, способным к самообучению в ответ на новые данные».

В ранних тестах этот цикл самообучения позволил моделям перейти от полного провала к успеху в сложных абстрактных задачах рассуждения, превосходя даже намного более крупные модели, такие как GPT-4.1, с показателем успеха 72,5%, где традиционные методы потерпели неудачу. Кроме того, SEAL, как сообщается, снижает человеческий надзор на 85%, одновременно увеличивая точность и адаптивность.

Возникновение самообучаемых框架ов искусственного интеллекта

SEAL является частью более широкой тенденции к автономному машинному интеллекту. Исследователи из Sakana AI, например, представили Машину Дарвина-Гёделя – агент искусственного интеллекта, который переписывает свой собственный код, используя открытые эволюционные стратегии.

«Он создает различные самоулучшения, такие как проверка исправлений, лучший просмотр файлов, улучшенные инструменты редактирования, генерирование и ранжирование нескольких решений для выбора лучшего из них, а также добавление истории того, что было попытано ранее (и почему это не сработало), при внесении новых изменений», – написали исследователи из Sakana AI в блоге.

Аналогично, агенты искусственного интеллекта Anthropic, оснащенные Claude 4, могут теперь автономно оркестрировать рабочие процессы на кодовых базах и бизнес-инструментах.

«Система, которая реконфигурирует себя на основе типа актива, его окружения и истории, позволяет перейти от реактивного ответа к непрерывной стратегии предотвращения», – сказал мне Кристиан Струве, генеральный директор и сооснователь Fracttal. «Это не о том, чтобы добавить больше слоев или параметров, а о том, чтобы сделать системы более автономными и полезными».

Что объединяет эти усилия, так это основная убежденность: искусственный интеллект не должен становиться больше, чтобы стать умнее. Он должен стать более адаптивным.

«Масштабирование принесло значительные выгоды, но мы достигаем пределов того, что может достичь только размер. Самоадаптирующиеся модели обучения, такие как SEAL, предлагают убедительный следующий шаг, позволяя системам расти и улучшаться с течением времени», – сказал мне Хорхе Рьера, основатель и генеральный директор платформы полного стека данных Dataco. «Самоэволюционирующие модели также смещают показатели прогресса от статических эталонов к мерам адаптивности, эффективности обучения и безопасного долгосрочного улучшения. Вместо того, чтобы проверять, что знает модель на момент развертывания, мы можем оценить, как хорошо она учится, сохраняет и эволюционирует с течением времени».

Влияние на экосистему искусственного интеллекта и глобальный переход к автономии

Этот уровень автономности также переписывает экономику развертывания искусственного интеллекта. Представьте себе системы обнаружения мошенничества, которые обновляют себя мгновенно, чтобы противостоять новым угрозам, или искусственные интеллектуальные репетиторы, которые меняют свой стиль преподавания на основе поведения ученика. В робототехнике самоадаптируемые框架ы могут привести к автономным машинам, которые учатся новым шаблонам движения без перепрограммирования.

По всему Ближнему Востоку страны, такие как ОАЭ и Саудовская Аравия, быстро строят основные модели, предназначенные для адаптации. Falcon ОАЭ и Jais от G42 – это открытое программное обеспечение для больших языковых моделей, созданных с учетом региональной актуальности, в то время как ALLaM и Metabrain от Aramco Digital продвигаются в область автономных агентов искусственного интеллекта для умных городов, здравоохранения и логистики.

Эти усилия еще не эквивалентны самообучаемой способности MIT, но они отражают общую траекторию: от пассивных систем искусственного интеллекта к активным, эволюционирующим агентам, которые могут ориентироваться в сложности с ограниченным человеческим руководством. И как SEAL, эти инициативы поддерживаются прочными框架ами управления, подчеркивающими растущее осознание того, что автономность искусственного интеллекта должна сочетаться с ответственностью.

«Это первый шаг к самоуправляемым системам, которые изменяют свою логику без постоянного вмешательства», – говорит Струве. «Я считаю, что искусственный интеллект не переопределяет, что такое интеллект, но он заставляет нас пересмотреть наше отношение к нему. Важно не то, что модель эволюционирует, а то, что она делает это в соответствии с целями, которые мы определяем как люди».

Джефф Таунс, технический директор Gorilla Logic, также подчеркивает важность управления, которое должно идти в ногу с эволюцией искусственного интеллекта: «Вопрос не в том, может ли искусственный интеллект эволюционировать – а в том, может ли предприятие эволюционировать вместе с ним. Управление должно привязать каждую адаптацию искусственного интеллекта к четким результатам и показателям эффективности, которые лидеры могут измерить и доверять, чтобы инновации развивались с уверенностью, а не с риском».

Готовы ли мы к искусственному интеллекту, который переписывает себя?

Самый провокационный вопрос, который SEAL задает, не является техническим – это вопрос о том, какую роль мы играем в формировании ценностей, приоритетов и направления моделей, если они могут решать, как учиться сами.

Эксперты предупреждают, что по мере того, как самоадаптируемые системы искусственного интеллекта получают автономию, спешка к самоулучшению не должна опережать установление этических ограничений. «Я считаю, что все системы искусственного интеллекта должны включать хотя бы три основных этических принципа», – говорит Джейкоб Эванс, технический директор Kryterion.

«Во-первых, и это может показаться очевидным, но системы искусственного интеллекта должны идентифицировать себя как искусственный интеллект. Во-вторых, системы искусственного интеллекта должны быть ориентированы на человека, дополняя и не заменяя человеческое суждение. И, наконец, они должны признать свои ограничения и неопределенности, а также отказаться от предоставления информации, которая могла бы способствовать серьезному вреду. Без этих гарантий искусственный интеллект может стать инструментом манипуляции, а не надежной поддержкой».

«Чтобы разрешить моделям самоулучшаться в производстве, им нужен динамический цикл обратной связи, а не только статическая тренировка. Мощным методом является использование «цифрового двойника» или сложной песочницы, где искусственный интеллект может безопасно тестировать и проверять свои собственные самообучаемые улучшения до их развертывания для пользователей», – поделился Ганеш Ванама, инженер компьютерного зрения в Automotus.

Что касается управления, Ванама добавил, что «неотъемлемым контролем является «человек в цикле» надзор». Он сказал, что хотя мы хотим, чтобы модели адаптировались, «вы должны иметь непрерывный мониторинг, чтобы обнаружить «дрейф выравнивания», когда модель отклоняется от своих предназначенных целей или ограничений безопасности. Эта система должна дать человеческому аудитору власть вето или мгновенно отменить любое автономное обновление, которое не проходит проверку безопасности или производительности».

Но другие эксперты считают, что еще есть время, чтобы разработать эти гарантии, утверждая, что создание действительно прочной, общего назначения, самоулучшающейся модели искусственного интеллекта остается монументальной задачей.

«Такие модели все еще не имеют возможности надежно перепрограммировать себя в реальном времени. Основные проблемы остаются, включая предотвращение подкрепления ошибок, избежание катастрофического забывания, обеспечение стабильности во время обновлений и поддержание прозрачности вокруг внутренних изменений», – говорит Рьера. «До тех пор, пока эти проблемы не будут решены, полная самообучаемая адаптация остается фронтиром, а не реальностью».

Исследователи из MIT считают SEAL необходимой эволюцией. Как сказал один из ведущих ученых из MIT, эта框架а в настоящее время только отражает человеческое обучение более точно, чем все, что было раньше.

«Эти системы намекают на сдвиг от статичных, одноразовых моделей к адаптивным архитектурам, которые могут учиться на опыте, управлять памятью и преследовать цели с течением времени. Направление ясно: к модульному, контекстно-осведомленному интеллекту, способному корректировать себя непрерывно», – сказал мне Рьера. «Хотя все еще в экспериментальной фазе, этот подход знаменует собой значительный шаг к более автономным и устойчивым системам искусственного интеллекта».

Независимо от того, приведет ли это к более персонализированным системам или совершенно новым формам машинного агентства, остается быть увиденным. Эра самообучаемого искусственного интеллекта прибыла – и она переписывает не только свой собственный код, но и правила того, чем могут стать машины.