Мануэль Ромеро, сооснователь и главный научный сотрудник Maisa – Интервью

Мануэль Ромеро, сооснователь и главный научный сотрудник Maisa, является исследователем и инженером в области искусственного интеллекта, занимающимся разработкой надежных, корпоративных систем искусственного интеллекта. Он стал сооснователем Maisa в 2024 году, чтобы создать подотчетный ИИ, способный выполнять сложные бизнес-процессы с прозрачностью и контролем. До Maisa Ромеро занимал руководящие должности в области ИИ и машинного обучения в компаниях, таких как Clibrain и Narrativa, где он специализировался на обработке естественного языка и крупномасштабных системах ИИ. Ранее в своей карьере он работал в качестве полноценного инженера по программному обеспечению и специалиста по DevOps, прежде чем перейти к передовым исследованиям и разработкам в области ИИ, став активным участником открытой экосистемы ИИ.

Maisa AI разрабатывает автономных “цифровых работников”, агентов ИИ, предназначенных для автоматизации сложных корпоративных рабочих процессов, сохраняя при этом прослеживаемость, управление и надежность. Платформа позволяет организациям создавать и развертывать агентов ИИ, используя естественный язык, что позволяет автоматизировать процессы внутри систем и источников данных без обширного программирования. Сосредоточившись на проверяемом рассуждении и структурированном выполнении, Maisa стремится преодолеть общие ограничения, связанные с генеративными системами ИИ, и помочь предприятиям безопасно развертывать автономный ИИ в крупном масштабе.

Вы часто сосредотачивались на понимании более глубокого “почему” за системами ИИ. С технической точки зрения, что побудило вас стать сооснователем Maisa в 2024 году, и какую лакуну в архитектуре корпоративного ИИ, по вашему мнению, не была устранена?

Мотивация к созданию Maisa возникла из осознания того, что большинство корпоративных стеков ИИ были построены вокруг моделей, а не систем.

Во время бума генеративного ИИ многие компании сосредоточились на интеграции крупных языковых моделей в существующие рабочие процессы. Однако эти системы часто были хрупкими, непрозрачными и трудными для эксплуатации в крупном масштабе. Им не хватало:

• детерминированного выполнения, где это было важно.
• сильной наблюдаемости, прослеживаемости
• повторяемости

Лакуна, которую мы увидели, заключалась в отсутствии真正ой инфраструктуры ИИ для корпораций. Компании строили приложения вокруг API крупных языковых моделей, но у них не было чего-то подобного компьютерной архитектуре для знаний.

Maisa была создана, чтобы устранить эту лакуну, спроектировав архитектуру, центром которой является блок обработки знаний (KPU), система, позволяющая ИИ работать надежно внутри реальных корпоративных рабочих процессов.

Вы работали над передовыми методами обработки естественного языка и генеративными системами до основания Maisa. Как эти опыт повлияли на архитектурные решения за платформой?

Мой опыт работы в области обработки естественного языка и генерации, особенно в области обучения и предварительного обучения языковых моделей и более поздних крупных языковых моделей (сотен из них), сделал что-то очень ясным, когда я пытался построить реальные системы на их основе. Архитектура трансформера чрезвычайно мощна, но она имеет как минимум три фундаментальных ограничения, которые необходимо устранить, чтобы использовать ее надежно в производстве.

Первое – это галлюцинации. Эти модели генерируют текст вероятностно и могут производить выходы, которые звучат правильно, но не основаны на проверенной информации.

Второе – это ограничения контекста. Даже с более крупными контекстными окнами модели работают в ограниченном пространстве токенов, что делает трудным рассуждение над большими или сложными объемами знаний.

Третье – это актуальная информация. Предобученные модели представляют собой снимок знаний на момент обучения, в то время как корпоративные среды требуют систем, которые могут рассуждать над постоянно меняющейся информацией.

Признание этих ограничений сформировало многие архитектурные решения за Maisa. Вместо того, чтобы полагаться только на модель, мы сосредоточились на построении системы, которая обеспечивает структурированный доступ к знаниям, механизмы проверки и контролируемое выполнение, чтобы ИИ мог работать надежно в реальных корпоративных рабочих процессах.

Многие корпорации экспериментируют с генеративным ИИ, но испытывают трудности при переходе за пределы пилотных проектов. С точки зрения проектирования систем, какова основная причина, по которой масштабирование терпит неудачу в стольких организациях?

Многие корпорации испытывают трудности при переходе генеративного ИИ за пределы пилотных проектов, потому что большинство развертываний строятся как эксперименты, а не как надежные системы. Ранние прототипы часто полагаются на инжиниринг запросов, легкую оркестрацию и простые конвейеры извлечения, которые могут продемонстрировать ценность, но не обеспечивают надежность, наблюдаемость или контроль, необходимые для производственных сред. Когда организации пытаются масштабировать эти системы, они сталкиваются с проблемами, такими как несоответствующие выходы, отсутствие прослеживаемости, трудности интеграции с корпоративными рабочими процессами и ограниченное управление поведением ИИ. В своей основе проблема заключается в том, что крупные языковые модели являются вероятностными генераторами, в то время как корпоративные процессы требуют предсказуемого и аудиторного поведения. Без архитектуры, которая добавляет структуру вокруг рассуждений, проверки, выполнения и мониторинга, системы генеративного ИИ остаются трудными для масштабирования за пределы изолированных случаев использования.

Цифровые работники Maisa предназначены для того, чтобы быть аудиторными и структурированными, а не чисто вероятностными. Что это означает на практике для корпораций, оценивающих ИИ для производственного использования?

Когда мы говорим, что цифровые работники Maisa являются аудиторными и структурированными, а не чисто вероятностными, мы имеем в виду, что ИИ работает в контролируемой системе, где его действия и рассуждения можно проследить и управлять. Вместо того, чтобы позволять модели свободно генерировать выходы и решения, система структурирует, как ИИ взаимодействует с данными, инструментами и рабочими процессами. Каждый шаг в процессе может быть записан, проверен и подтвержден, и действия выполняются через определенные интерфейсы, а не напрямую из выхода модели. Для корпораций это означает, что системы ИИ могут быть контролируемыми, аудиторными и интегрированными в критические процессы с большей уверенностью. Это меняет ИИ из черного ящика-помощника в систему, чье поведение можно понять, контролировать и доверять в производственных средах.

Как архитектор блока обработки знаний, чем он отличается от типичных слоев оркестрации или рабочих процессов, построенных вокруг крупных языковых моделей?

Блок обработки знаний отличается от типичных слоев оркестрации, потому что он предназначен для управления полным жизненным циклом рассуждений ИИ, а не просто координации запросов и вызовов моделей. Большинство фреймворков оркестрации действуют как менеджеры рабочих процессов, которые объединяют шаги, такие как извлечение, запрос и выполнение инструментов. Блок обработки знаний работает на более глубоком архитектурном уровне, структурируя, как знания доступны, как рассуждения выполняются и как действия выполняются внутри системы. Он рассматривает обработку знаний как основной вычислительный слой, интегрируя память, проверку и контролируемое выполнение, чтобы ИИ мог работать надежно внутри сложных корпоративных рабочих процессов, а не просто генерировать ответы.

В регулируемых отраслях толерантность к риску низка. Какие конкретные проектные решения вы приняли, чтобы гарантировать, что выходы ИИ остаются надежными и не распространяют ошибки на сложные рабочие процессы?

В регулируемых отраслях надежность и контроль имеют решающее значение, поэтому мы спроектировали систему с несколькими мерами безопасности, чтобы гарантировать, что выходы ИИ остаются достоверными. Одним из ключевых принципов является структурированное выполнение, при котором ИИ не может直接 запускать критические действия без прохождения через контролируемые интерфейсы. Мы также включили слои проверки, которые проверяют выходы моделей на соответствие схемам, правилам или вторичным механизмам, прежде чем они будут приняты. Кроме того, система сохраняет полную наблюдаемость, записывая шаги рассуждений, взаимодействия инструментов и решения, чтобы они могли быть проследены и проверены. Вместе эти проектные решения помогают предотвратить распространение ошибок через рабочие процессы и позволяют организациям эксплуатировать системы ИИ с уровнем надежности и управления, необходимым в регулируемых средах.

Какие наиболее убедительные ранние случаи использования, где вы видели цифровых работников, переходящих от направляемой помощи к полностью операционному выполнению ИИ?

Некоторые из наиболее убедительных ранних случаев использования появляются в знаниях, интенсивных рабочих процессах, где процессы хорошо определены, но все еще требуют значительного анализа и принятия решений. В таких областях, как обзор соответствия, техническая поддержка и внутреннее управление знаниями, цифровые работники могут перейти за пределы простой помощи людям и начать выполнять структурированные задачи от начала до конца. Они могут извлекать и анализировать большие объемы внутренней информации, применять определенные процедуры, взаимодействовать с корпоративными системами через контролируемые инструменты и производить выходы, которые напрямую питают операционные рабочие процессы. Ключевым моментом является то, когда ИИ не только генерирует предложения, но и может надежно выполнять определенные действия в управляемой системе, позволяя организациям автоматизировать части сложной работы с знаниями, а не просто дополнять ее.

Как регулирующий контроль над ИИ усиливается во всем мире, как вы видите эволюцию основной инфраструктуры ИИ, чтобы удовлетворять требованиям соответствия без ограничения инноваций?

По мере усиления регулирующего контроля над ИИ я считаю, что мы увидим отход от архитектур, которые просто вызывают API провайдеров моделей и слепо доверяют выходу. Корпорации и регулирующие органы все чаще будут требовать систем, в которых поведение ИИ наблюдаемо, аудиторно и управляемо. Это именно то, где архитектуры, такие как блок обработки знаний, становятся важными. Этот тип архитектуры позволяет организациям обеспечивать контроль, прослеживать решения и гарантировать, что выходы ИИ надежны, прежде чем они повлияют на реальные процессы. Со временем я ожидаю, что эти системы станут стандартной основой для достоверной инфраструктуры ИИ.

Вы говорили об этике и подотчетности наряду с вашей технической работой. Как эти перспективы влияют на ваш подход к построению прозрачных систем ИИ?

Этика и подотчетность, для меня, переводятся напрямую в проектные решения. Если системы ИИ будут участвовать в реальных операционных рабочих процессах, они не могут функционировать как непрозрачные черные ящики, чье поведение не может быть осмотрено или понято. Эта перспектива сильно повлияла на мой подход к построению систем ИИ. Прозрачность, прослеживаемость и человеческий надзор должны быть встроены в архитектуру с самого начала. Это означает обеспечение того, что шаги рассуждений могут быть наблюдаемы, решения могут быть проверены, и действия выполняются через контролируемые механизмы. Когда эти принципы встроены на уровне инфраструктуры, системы ИИ становятся не только более достоверными, но и легче для организаций управлять ответственно.

Оглядываясь вперед, считаете ли вы, что инфраструктура агентного ИИ станет такой же фундаментальной, как инфраструктура облака стала в предыдущем десятилетии – и что необходимо сделать технически, чтобы этот сдвиг материализовался?

Я считаю, что инфраструктура агентного ИИ имеет потенциал стать такой же фундаментальной, как инфраструктура облака стала в последнем десятилетии. Когда организации стремятся автоматизировать все более сложную работу с знаниями, им понадобятся системы, которые могут надежно координировать рассуждения, память и выполнение на многих задачах и источниках данных. Однако, чтобы этот сдвиг материализовался, основная архитектура должна созреть за пределы простых интеграций моделей. Нам нужна инфраструктура, которая обеспечивает структурированное рассуждение, надежный доступ к корпоративным знаниям, сильную наблюдаемость и контролируемое выполнение, чтобы ИИ мог работать надежно внутри критических операционных процессов. Когда эти возможности будут встроены в основную систему, агентный ИИ может эволюционировать из экспериментальных инструментов в достоверную инфраструктуру, на которую организации могут положиться для управления критическими операциями.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Maisa AI.