Ю Су, сооснователь и генеральный директор NeoCognition – Интервью

Ю Су, сооснователь и генеральный директор NeoCognition, является долгосрочным исследователем в области искусственного интеллекта, чья карьера охватывает академию, корпоративный ИИ и продвинутые агентные системы. Помимо руководства NeoCognition, он также является доцентом и инновационным ученым в Университете штата Огайо, где его работа была сосредоточена на агентах ИИ, системах рассуждений и машинном обучении. Его опыт также включает более шести лет работы в качестве старшего исследователя в Microsoft (MSFT ), где он работал вместе с ведущими исследователями, включая Перси Лианга, над системами разговорного ИИ для Outlook с использованием методов семантического парсинга. На протяжении своей карьеры в Microsoft, академии и исследовательских учреждениях, таких как IBM T.J. Watson Research Center, Ю Су построил репутацию за счет продвижения систем ИИ, которые могут рассуждать, учиться и взаимодействовать с сложными цифровыми средами, помогая сократить разрыв между передовыми исследованиями и реальными приложениями.

NeoCognition – это компания, занимающаяся исследованием агентов ИИ, которая фокусируется на разработке того, что она описывает как “специализированный интеллект” – системы ИИ, которые непрерывно учатся и совершенствуются через опыт. Основанная ведущими исследователями ИИ, компания преследует цель, которая выходит за рамки статических больших языковых моделей и направлена на создание агентов, способных развивать глубокую экспертизу в конкретных областях. Ее исследования сосредоточены на таких областях, как непрерывное обучение, рассуждение, планирование, использование инструментов и сотрудничество между несколькими агентами, с целью создания систем ИИ, которые становятся более способными и надежными с течением времени. Объединяя достижения в области машинного обучения с структурированными методами рассуждения и адаптивного обучения, NeoCognition стремится помочь сформировать следующее поколение агентов ИИ, способных решать все более сложные реальные задачи.

Многие компании спешили выпустить универсальные помощники ИИ, но мы все чаще слышим опасения по поводу надежности этих систем, когда они входят в реальные производственные среды. Почему, по вашему мнению, так много текущих агентов ИИ испытывают трудности вне контролируемых демонстраций?

Большинство текущих агентов ИИ испытывают трудности в производстве, потому что они по-прежнему фундаментально являются универсалами, работающими без прочного понимания среды, в которой они работают. Они могут часто выполнить задачу один раз в демонстрации, но это очень отличается от развития повторяющегося суждения внутри реальной операционной системы.

Сегодняшние модели являются впечатляющими поисковыми системами, но они все еще缺уют механизмов, которые люди используют для того, чтобы стать надежными экспертами. Люди не становятся надежными, запоминая изолированные задачи. Мы специализируемся, учась структуре конкретного мира: рабочие процессы, ограничения, отношения, инструменты, приоритеты и последствия, которые определяют профессию или организацию. Со временем мы строим внутреннюю рабочую модель этой среды, и именно эта модель позволяет принимать последовательные и повторяющиеся решения.

Большинство агентов ИИ сегодня не строят такого рода операционное понимание. Они сильно полагаются на подсказки, извлечение или оркестровку слоев, которые помогают им выполнить изолированные действия, но они все еще в значительной степени импровизируют каждый раз, когда они сталкиваются с новой ситуацией. Вот почему производительность часто разрушается, когда среда меняется, и еще больше, когда она становится беспорядочной, динамичной или высокорисковой.

Отсутствующая часть – это специализация. Люди процветают, потому что мы можем непрерывно адаптироваться к меняющимся средам и становиться экспертами внутри них через непрерывное обучение. Мы считаем, что агенты ИИ нуждаются в аналогичной способности: способности учиться местной структуре области достаточно глубоко, чтобы работать с реальной компетентностью.

NeoCognition описала свою цель как построение агентов, которые могут непрерывно учиться и адаптироваться более как люди. Что это означает технически по сравнению со статической настройкой или подходами, основанными на извлечении, которые многие предприятия используют сегодня?

Большинство систем ИИ предприятий сегодня улучшают производительность либо путем тонкой настройки модели один раз, либо путем извлечения соответствующей информации во время вывода. Эти подходы могут быть полезными, но они не позволяют агенту фундаментально развивать эволюционирующую экспертизу внутри области.

Тонкая настройка обычно является статической после обучения. Системы извлечения помогают обнаружить информацию, но извлечение знаний не то же самое, что развитие экспертизы области или адаптация поведения на основе опыта со временем. Во многих случаях агент все еще缺ует устойчивую модель среды, в которой он работает.

Когда человек присоединяется к компании, он не становится эффективным просто потому, что может искать документы. Он постепенно развивает суждение, понимая, как организация фактически функционирует, и экспертиза возникает из-за непрерывного совершенствования этой внутренней модели.

Мы считаем, что следующее поколение агентов нуждается в аналогичном механизме обучения. В NeoCognition мы сосредоточены на том, чтобы позволить агентам формировать такие эволюционирующие операционные модели, чтобы они могли непрерывно специализироваться и совершенствоваться внутри области со временем, а не повторно начинать с нуля или полагаться на постоянную человеческую переработку.

Кажется, что растет разрыв между экспериментами с ИИ и операционным доверием. Предприятия могут успешно прототипировать агентов внутри, но развертывание их в масштабе – это совсем другая задача. Что организации недооценивают при этом переходе?

Многие организации недооценивают, насколько динамичными являются реальные операционные среды на самом деле. Агент, выполняющий задачу с точностью 85%, может показаться сильным в тестировании, но в масштабе предприятия это все равно переводится в постоянный поток ошибок и ситуаций восстановления, которые человеческие команды должны управлять. Задача становится еще более значительной в многоступенчатых рабочих процессах, где неудачи накапливаются по системам и задачам, что делает надзор, вмешательство и ответственность намного более сложными, чем многие организации изначально ожидают.

Предприятия все еще рассматривают развертывание как проблему оркестровки или подсказки, когда на самом деле это также проблема обучения. Трудная часть не только в том, чтобы агент выполнил задачу, но и в том, чтобы система развила устойчивую компетентность и суждение внутри динамичной операционной среды.

Бремя настройки, подсказки, надзора и переработки все еще сильно лежит на человеческих командах сегодня. Это часто является признаком того, что система все еще缺ует операционное понимание; они управляются вручную через это каждый раз. Это не путь к масштабу или доверию.

Одной из основных тем, возникающих в отрасли ИИ, является управление, ограничения и обеспечение соблюдения политики. Однако NeoCognition утверждает, что управление само по себе недостаточно. Почему вы считаете, что надежность в конечном итоге требует систем, которые непрерывно адаптируются к своей среде, а не просто следуют статическим правилам?

Управление и ограничения чрезвычайно важны, но статические правила сами по себе не могут полностью решить проблему надежности в сложных средах.

Производственные операционные системы постоянно меняются. Рабочие процессы эволюционируют, инструменты обновляются, политики меняются, и неожиданные ситуации возникают, которые не всегда можно предвидеть заранее. Если агент знает только, как следовать предопределенным правилам, не понимая среды, в которой он работает, он в конечном итоге столкнется с ситуациями, которые эти правила не предусмотрели.

Надежность людей возникает из суждения, а не только из жесткого соблюдения сценариев, но и потому, что мы развиваем суждение, понимая структуру и ограничения мира вокруг нас. Мы учимся, когда нужно эскалировать, когда что-то выглядит необычно, и когда контекст меняет правильный курс действий.

Мы считаем, что агенты ИИ нуждаются в аналогичной способности к адаптации и пониманию среды. Более безопасные системы будут возникать из того, что они становятся более компетентными и специализированными внутри明确定ленных операционных миров. Этот тип системы наблюдает за своей собственной средой и своими собственными выходами, отслеживает, где она терпит неудачи, и обновляет свое поведение.

Отрасль ИИ часто подчеркивает более крупные модели и более широкие возможности, но NeoCognition, кажется, фокусируется на специализации и контекстном обучении. Считаете ли вы, что будущее агентов ИИ в предприятиях будет выглядеть более как высокоспециализированные цифровые работники, а не универсальные помощники?

Мы твердо считаем, что будущее будет определяться специализацией. Отрасль понятно фокусировалась на все более общих моделях, потому что широкая возможность впечатляет. Но в среде предприятий реальная задача не в том, может ли агент сделать немного всего. Это в том, может ли он выполнять конкретную роль надежно и с правильным суждением со временем. Наша сила не в том, что мы рождаемся экспертами в каждой среде. Это в том, что мы можем учиться структуре конкретного мира достаточно глубоко, чтобы работать эффективно внутри него.

В NeoCognition мы считаем, что будущее не будет одним суперагентом, который делает все. Вместо этого это будет изобилие специализированных агентов, каждый из которых учится конкретному миру достаточно глубоко, чтобы работать с экспертным уровнем компетентности, суждения и надежности внутри него. Их цель не в том, чтобы заменить человеческую экспертизу, а чтобы сделать ее более доступной: чтобы поставить передовые возможности в руки и повысить базовый уровень того, что может сделать любой человек или организация.

Одной из самых больших проблем, связанных с автономными агентами, является то, как они ведут себя, когда среда меняется неожиданно. Насколько важно реальное адаптирование и осведомленность о среде для предотвращения неудач, галлюцинаций или опасных действий?

Это абсолютно критически важно. Без осведомленности о среде агенты могут продолжать действовать уверенно, даже когда их понимание ситуации устарело или неполно. Вот где часто возникают операционные неудачи.

Мы считаем, что надежность требует от агентов непрерывного обучения местной структуре среды, в которой они работают, и обновления своего понимания со временем. Надежность меняется и эволюционирует со временем: то, что казалось надежным в сентябре, может не казаться таким же в мае. Чем глубже агент понимает системы, ограничения, рабочие процессы и отношения вокруг себя, тем более способным он становится к распознаванию изменений условий или неопределенности, требующей эскалации.

Насколько близко, по вашему мнению, отрасль находится к развертыванию систем ИИ, которые могут действительно улучшать себя через непрерывное взаимодействие с реальными операционными средами?

Мы все еще на ранней стадии построения основных механизмов обучения, необходимых для надежного непрерывного обучения и самосовершенствования, но отрасль гораздо ближе к этому переходу, чем многие люди осознают. Мы живем в сжатом временном интервале. Ингредиенты для следующего технологического прорыва готовы. Это может произойти довольно скоро.

Важно не просто самосовершенствование в абстрактном смысле, а структурированная специализация внутри реальных сред. Это означает обучение рабочим процессам, ограничениям, отношениям и закономерностям успешного поведения способами, которые являются стабильными, управляемыми и устойчивыми к катастрофическому забвению. Это проблема, на которую мы фокусируемся в NeoCognition.

Оглядываясь вперед на несколько лет, что, по вашему мнению, в конечном итоге отличит надежные агенты ИИ для предприятий от волны экспериментальных систем, которые сейчас наводняют рынок?

Системы, которые преуспеют, будут теми, которые будут казаться менее похожими на игрушечные сценарии и более похожими на надежных операторов.

Сыкая способность модели сама по себе будет недостаточной. Предприятия в конечном итоге будут заботиться о том, могут ли агенты работать последовательно внутри своих фактических сред, понимать местные рабочие процессы и ограничения, уважать границы и разрешения, адаптироваться безопасно со временем и обеспечивать повторяющиеся результаты.

Будущие победители в области ИИ для предприятий не будут просто системами, которые могут ответить на самый широкий спектр вопросов. Они будут системами, которые могут учиться конкретному операционному миру достаточно глубоко, чтобы действовать с реальной компетентностью, суждением и надежностью внутри него.

Спасибо за отличное интервью. Читателям, которые хотят узнать больше, мы рекомендуем посетить NeoCognition.