Надвигающаяся “Эволюция” ИИ

Сегодня, находясь на грани технологического разлома, мы наблюдаем за путешествием от больших языковых моделей (LLM) к агентам, и, в конечном итоге, к агентному ИИ и искусственному общему интеллекту (ИОИ), и это не только о более крупных моделях или быстром ответе. Это также о том, что машины переходят от пассивных помощников к активным сотрудникам, и, возможно, однажды, к независимым мыслителям.

Давайте пройдем этот путь и исследуем, что это значит для работы, экспертизы и роли человека в формировании интеллекта завтрашнего дня.

Разница между LLM, агентными системами и агентным ИИ

Чтобы лучше понять разницу, приведем пример. Если я спрошу LLM что-то вроде: “Я хочу путешествовать из Чикаго в Остин, ехать не более четырех часов в день и останавливаться в живописных местах”, обычная LLM вернет статический ответ в текстовом формате на основе генерации языка. Она, скорее всего, просто ответит на запрос без проведения тщательного анализа.

Агент сначала классифицирует запрос как связанный с путешествием. Затем он определит, какие данные необходимы: маршруты с использованием сервисов карт, информация о погоде, стоимость топлива, отели, рестораны и т. д. После этого агент разобьет запрос на подзадачи и направит их в специализированные модули или LLM, обученные на соответствующих источниках. Это оркестровка и координация нескольких моделей и инструментов под единой логикой.

Сегодня большинство крупных систем, таких как ChatGPT или Claude от Anthropic, по сути уже являются агентами. Хотя пользователю может показаться, что он взаимодействует с единственной моделью, за кулисами находится сложная архитектура, включающая множество моделей и систем. Они уже могут обрабатывать сложные запросы, но их возможности в основном ограничены предоставлением информации; они еще не могут выполнять действия.

Полностью автономный агент – это система, которая собирает информацию и может, например, самостоятельно забронировать отель, купить билет или инициировать платеж, если у нее есть доступ к соответствующим API или данным пользователя. Такие агенты в настоящее время находятся на ранних стадиях разработки. На данном этапе они больше похожи на полуагенты, способные обрабатывать информацию, но еще не выполнять автономные действия.

Интересной областью обсуждения в исследовательском сообществе является агентный ИИ. В отличие от обычных агентов, чье поведение скриптовано разработчиками, агентный ИИ – это система, которая самостоятельно решает, какие задачи выполнять, какие данные ей нужны и даже как продолжать свое собственное обучение. Это выходит за рамки выполнения инструкций; это предполагает принятие автономных решений. Однако агентный ИИ остается теоретическим на данном этапе; таких систем еще не существует на практике.

ИОИ – новый горизонт. Но достижим ли он?

Meta инвестировала в Scale AI три месяца назад. Целью было объединиться на пути к построению ИОИ, искусственного общего интеллекта, способного выполнять любую задачу на уровне человека или даже превосходить его. Если сегодняшний ИИ – это технологическая революция, ИОИ будет настоящей мега-революцией; иногда я называю ее “эволюцией”, означающей “исход” ИИ из тени. Тот, кто достигнет этого первым, получит глобальное стратегическое преимущество.

Что касается того, насколько мы близки к реальному ИОИ, это зависит от того, как мы определяем его. Я согласен с точкой зрения Ильи Суцкевера: ИОИ – это система, способная выполнять любую интеллектуальную задачу, которую может человек. Не только отвечать на вопросы, но и рассуждать, принимать решения, обобщать и интерпретировать информацию во всех областях. Настоящий ИОИ – это универсальная и не ограниченная узкими рамками задач система.

Ни одна из текущих моделей не достигла этого уровня. Мы движемся в этом направлении, но настоящий ИОИ, в теоретическом смысле, еще не существует. И, возможно, это к лучшему. Мы все еще находимся в фазе приближения, и, вероятно, останемся там на довольно долгое время.

Основой ИОИ, скорее всего, будет агентная система. Она не обязательно будет полагаться на единственную LLM, поскольку, как и ни один человек, независимо от того, насколько он блестящ, не может овладеть всеми областями знаний и навыков, ни одна LLM не может справиться со всем спектром задач ИОИ самостоятельно. Нам понадобится своего рода “коллективный интеллект”: архитектура, способная координировать несколько моделей и компонентов.

ИОИ, вероятно, появится не просто как человеческий агент, а как мета-агент. Это будет система, частично разработанная и эволюционирующая с помощью ИИ. Это важно, поскольку системы, полностью разработанные людьми, могут нести в себе внутренние ограничения. Вовлечение ИИ в процесс разработки может помочь преодолеть эти ограничения и сделать систему более адаптивной.

ИОИ, скорее всего, не возникнет из какого-либо одного конкретного прорыва. Не из более крупных LLM, умных агентов или совершенно новых архитектур, а скорее из синтеза всех трех. Вероятно, что-то фундаментально новое, что превосходит категории, которые мы используем сейчас.

“Последний экзамен человечества” и другие эталоны ИОИ

“Последний экзамен человечества” (ПЭЧ) – это один из более амбициозных эталонов, обсуждаемых в контексте LLM, агентов и ИОИ. По сути, это тест, состоящий из около 2500 вопросов, охватывающих широкий спектр академических дисциплин – математики, физики, биологии, химии, инженерии, компьютерных наук и даже шахмат. Идея состоит в том, чтобы оценить, может ли система ИИ решать проблемы на уровне, отражающем настоящее человеческое понимание.

Текущие языковые модели показывают очень плохие результаты на ПЭЧ, часто набирая менее 5% точности. Это резко контрастирует с другими эталонами, такими как MMLU или GPQA, где модели достигают значительно более высоких баллов. Трудности, с которыми модели сталкиваются при ПЭЧ, подчеркивают, насколько они еще далеки от真正щего общего интеллекта.

Важно отметить, что высокие результаты на эталонах с известными или узкими наборами данных не обязательно указывают на наличие настоящего общего интеллекта. Модель может быть дообучена или “обучена на тест”, что может завысить ее видимые способности. Таким образом, даже идеальный балл на ПЭЧ не означал бы, что мы достигли ИОИ; он только означал бы, что мы прошли один конкретный тест.

Что движет ИОИ

Я полностью согласен, что основными столпами ИОИ являются данные, вычислительные ресурсы и таланты. Ситуация с вычислениями ясна. Ключевые игроки, такие как Meta, пытались производить свои собственные чипы, инвестируя миллиарды в процесс разработки чипов. Но компании все еще сильно полагаются на чипы и вычислительную мощность других игроков, таких как Nvidia, которые не только поставляют необходимое оборудование, но и понимают важность масштабирования производства.

Больше вопросов о данных и талантах. Интернет закончился – нет ни одного фрагмента человеческой информации из открытых источников, который не был использован для обучения на данный момент. Общий объем информации, который человечество произвело до сих пор, оказывается удивительно мал. Поэтому компании начинают активно сотрудничать с теми, кто может генерировать высококачественные человеческие данные.

Полная автоматизация или человек в цикле?

Другой момент – снижение спроса на ручную аннотацию данных. Несколько лет назад отрасль развивалась на полную скорость. Тысячи аннотаторов были привлечены для удовлетворения голода ИИ-пайплайнов. Сегодня большая часть этого импульса сместилась в сторону автоматизации. Модели созрели, и так же созрела инструментальная база вокруг них.

Возьмем распознавание лиц. Раньше это было одним из основных драйверов объема аннотации изображений. Но эта категория в основном решена сейчас. Модели, такие как YOLO, SAM и Samurai, быстро поглощают рутинную работу. Эти системы сжимают недели ручного труда в минуты, часто с удивительной точностью. Мы также реализовали многие инструменты, помогающие машинному обучению, в нашей проприетарной платформе Keylabs. Это действительно помогает сократить рутинный рабочий процесс.

Но все эти модели ограничены своей обобщаемостью и подходят для автоматизации стандартных и унифицированных операций. Сложные или уникальные случаи все еще требуют человеческого внимания.

Мы движемся away от старого парадигмы, когда аннотатор был просто человеком, внимательным к деталям, который мог распознать объект или эмоцию. В новой реальности необходимы профессионалы: врачи для аннотации медицинских изображений, программисты для кодирования, архитекторы для создания чертежей, маркетологи для получения информации о клиентах и военные эксперты для сценариев обороны.

Мы уже видим реальные случаи, такие как пилоты-истребители, аннотирующие данные для ИИ и зарабатывающие 1000 долларов в час за свою экспертизу. Потому что такие специалисты редки, и их знания критически важны для обучения высокопроизводительного ИИ.

Мир меняется: все больше людей становятся операторами и “тренерами” искусственного интеллекта. Только вчера я получил сообщение на LinkedIn, просящий меня проверить набор данных для приложения ИИ, предназначенного для генеральных директоров. В будущем любой из нас может получить предложение работать в качестве аннотатора, не просто человека, кликающего кнопки, но эксперта, чьи знания формируют интеллект завтрашнего дня.

Мы уже живем в этой новой реальности, мире маркировки данных и обучения ИИ. Те, кто признает это и адаптируется, получат значительное преимущество.