Шейнеа Левен, основатель и генеральный директор Empromptu AI – серия интервью

Шейнеа ЛевенОснователь и генеральный директор Empromptu AI, — опытный руководитель продуктового направления с обширным опытом создания платформ для разработчиков и продуктов на основе ИИ в крупных технологических компаниях. До запуска Empromptu в 2025 году она основала CodeSee, платформу для разработчиков на основе ИИ, которая помогает командам визуализировать и понимать сложные кодовые базы, и которая была приобретена GitKraken в 2024 году. Ранее в своей карьере она занимала руководящие должности в продуктовых компаниях, включая Docker, Cloudflare, eBay и Google, где работала над проектами, начиная от платежных API Google Assistant и заканчивая программами обучения разработчиков, используемыми сотнями тысяч учащихся.

Экспромт ИИ Это корпоративная платформа, разработанная для того, чтобы помочь организациям проще создавать и развертывать интегрированные приложения на основе искусственного интеллекта. Платформа объединяет разработку приложений, интеграцию данных, управление, оценку, память и оркестровку моделей в единую среду, позволяя компаниям перейти от быстрых экспериментов с ИИ к системам производственного уровня с необходимыми для корпоративного использования средствами контроля и надежностью.

Вы более 15 лет занимались разработкой платформ для разработчиков в таких компаниях, как Google, eBay, Cloudflare и Docker, прежде чем основали CodeSee, которую позже приобрела GitKraken, и теперь возглавляете Empromptu AI. Как этот опыт повлиял на ваше понимание того, почему так много инструментов ИИ терпят неудачу после завершения демонстрационной версии, и какую конкретную проблему вы решили, когда основали Empromptu?

Одна из вещей, которые вы усваиваете при создании платформ для разработчиков, заключается в том, что самые сложные проблемы никогда не возникают в демоверсии. Демоверсия всегда работает. Настоящая проверка происходит, когда системой пользуются тысячи разработчиков, когда данные некорректны, когда интеграции ломаются и когда от нее зависят реальные предприятия.

В Google, Cloudflare, Docker и eBay я годами работал над платформами, которые должны были функционировать в глобальном масштабе. Эти среды быстро учат одному: надежность, управление и наблюдаемость — это не функции, которые добавляются позже. Это и есть архитектура.

Когда я начинал разрабатывать приложения с использованием ИИ, модели были ужасными, и по мере их улучшения я заметил, что индустрия повторяет ту же ошибку, которую мы наблюдали в предыдущих волнах разработки программного обеспечения. В инструментах разработки, кажется, забыли об одном понятии: как быстро можно получить «hello world»? Сегодня генеративная версия «hello world» — это полноценный рабочий прототип SaaS-приложения. Но теперь мы не просто пишем код SaaS-приложений на Vibe; мы пишем код целых приложений с использованием ИИ. ИИ, который создает ИИ, требует наличия других систем для внедрения этого ИИ в производство.

Вы можете быстро создать работающее приложение или функцию на основе ИИ, что очень интересно и действительно полезно. Но преобладающим системам по-прежнему не хватает инфраструктуры, необходимой для производственных сред. Нам не хватало таких вещей, как структурированные конвейеры обработки данных, системы оценки, механизмы управления, мониторинг и долгосрочное управление контекстом, но мы добавили их, сохранив при этом все замечательные возможности vibe-кодирования.

Когда мы с моим соучредителем основали Empromptu, перед нами стояла простая задача: как сделать приложения на основе ИИ готовыми к внедрению в производство с самого начала?

Вместо того чтобы рассматривать управление, готовность данных, оценку и оптимизацию как отдельные инструменты или процессы, выполняемые постфактум, мы интегрировали их непосредственно в платформу. Идея заключается в том, чтобы команды могли быстро создавать приложения на основе ИИ, но с той же надежностью, качеством и контролем, которые они ожидают от корпоративных программных систем.

Вы неоднократно высказывались о разрыве между впечатляющими демонстрациями ИИ и готовыми к внедрению системами. С вашей точки зрения, какие наиболее распространенные архитектурные ошибки допускают команды, пытаясь превратить прототип ИИ в надежный продукт, используемый реальными клиентами?

Самая распространенная ошибка, которую допускают команды, — это предположение, что модель и есть продукт.

На ранних этапах разработки прототипов модель выполняет большую часть видимой работы. Вы задаете ей вопрос, она выдает ответ, и если ответ кажется правильным, система, похоже, работает. Это создает иллюзию, что главной задачей является улучшение модели.

Однако в производственных системах модель является лишь одним компонентом в гораздо более крупной архитектуре.

Первая ошибка — это отношение к данным как к чему-то второстепенному. В прототипах команды часто тестируют систему на небольших, чистых наборах данных. Как только система подключается к реальным оперативным данным, ситуация быстро меняется. Данные поступают неполными, противоречивыми, дублирующимися или в неожиданных форматах. Без структурированного конвейера обработки данных для нормализации и проверки входных данных система становится ненадежной, независимо от того, насколько хороша модель.

Вторая ошибка — отсутствие систем оценки. Многие команды запускают функции ИИ, не определив, что именно означает «хорошо». Они могут вручную проверять результаты во время разработки, но не создают автоматизированные конвейеры оценки, которые непрерывно измеряют точность, отклонения и граничные случаи после запуска системы. Без таких механизмов контроля сбои часто обнаруживаются клиентами, а не инженерами.

Третья проблема — отсутствие механизмов управления и контроля. Системы искусственного интеллекта являются вероятностными, а это значит, что они могут вести себя по-разному в условиях, которые немного отличаются от реальных. В регулируемых или ответственных средах эта непредсказуемость должна быть ограничена детерминированными политиками, рабочими процессами утверждения и журналами аудита, фиксирующими, как принимались решения.

В конечном итоге, все сводится к тому, что производственные системы искусственного интеллекта — это не просто модели. Это операционные системы.

Сегодня успех в использовании ИИ достается тем компаниям, которые рассматривают конвейеры обработки данных, оценку, управление и мониторинг как основную инфраструктуру, а не как дополнительные опции.

Многие платформы для разработки приложений с использованием ИИ обещают, что любой сможет создать приложение, используя простые подсказки. Почему эти инструменты часто хорошо работают для демонстраций, но испытывают трудности, когда компании пытаются развернуть их в реальных производственных условиях?

Многие из этих платформ хорошо подходят для демонстраций, поскольку они оптимизированы для момента создания, а не для жизненного цикла реальной системы.

Однако существует принципиальная разница между использованием ИИ для создания целевой страницы и использованием ИИ для разработки приложения на основе ИИ.

Целевая страница — это, по большей части, статическое программное обеспечение. После корректной отрисовки основная задача выполнена. Системе не нужно принимать вероятностные решения, обрабатывать постоянно меняющиеся данные или адаптироваться к непредсказуемому поведению пользователя.

Приложения искусственного интеллекта совершенно иные. Это динамические системы, которые полагаются на конвейеры обработки данных, поведение модели, системы оценки и непрерывный мониторинг. Приложение должно управлять контекстом, обнаруживать отклонения в выходных данных, обрабатывать крайние случаи и безопасно работать, когда модель сталкивается с ситуациями, с которыми она раньше не сталкивалась.

Большинство инструментов для программирования, работающих по подсказкам, не затрагивают эти уровни, поскольку они предназначены для быстрого получения готового результата. Они генерируют код, который дает видимый результат, что идеально подходит для демонстрационной среды. Но для производственных систем требуется гораздо больший набор возможностей: обработка структурированных данных, механизмы управления, конвейеры оценки, наблюдаемость и механизмы безопасного обновления поведения с течением времени.

Поэтому, когда компании пытаются развернуть эти системы в реальных условиях, этот пробел становится очевидным. Прототип работал, потому что среда была контролируемой. Производство — это сложный процесс.

Empromptu фокусируется на преобразовании существующего программного обеспечения в системы, изначально предназначенные для искусственного интеллекта, а не на принуждении компаний к перестройке всего с нуля. Что же на самом деле включает в себя это преобразование на уровне инфраструктуры и продукта?

На уровне продукта каждое приложение полностью автономно и контейнеризировано. Мы создаём всё необходимое: от фронтенда и бэкенда до баз данных, моделей, оценочных инструментов, правил LLMS и операций, и всё это отличается высокой гибкостью, адаптируясь к потребностям предприятия.

У нас есть несколько различных вариантов приложений на основе искусственного интеллекта:

«Безголовый» интерфейс позволяет, если у клиента уже есть собственный интерфейс, подключить его к нашей системе и отправлять данные обратно.

Полностью контейнеризированные, поэтому их можно развернуть как в нашей инфраструктуре, так и в инфраструктуре заказчика, то есть по умолчанию они развертываются локально.

Или же мы можем просто сгенерировать их и развернуть прямо в облаке — это наиболее удобный вариант.

Любой имеющийся у них код мы можем импортировать непосредственно в нашу систему и адаптировать для работы с ИИ, если это еще не сделано. Например, мы видим это на примере ряда клиентов, которые пытались создавать свои приложения на популярных платформах, таких как Lovable, Replit, Bolt или Base44. Часто это не работает. Но клиенты уже вложили много времени, сил и средств в это приложение, поэтому мы интегрируем его, переписываем и обеспечиваем работу всего ИИ.

И мы можем это сделать, потому что у нас есть ряд собственных, запатентованных технологий, таких как:

• Адаптивный механизм контекста для управления контекстом
• Бесконечная память для обработки длительно работающих приложений с исполняемым кодом.
• Использование пользовательских моделей данных и эталонных конвейеров обработки данных гарантирует возможность выполнения любых необходимых работ по очистке данных и синтетической разметке.

Ваша платформа делает акцент на контексте, оценке, управлении и структурированных данных как на основных компонентах систем искусственного интеллекта. Почему эти элементы так часто упускаются из виду, когда команды спешат добавить функции ИИ в свои продукты?

Потому что это сложно! Мой соучредитель, доктор Шон Робинсон, возглавляет нашу исследовательскую лабораторию, он — специалист по вычислительной астрофизике, который изобрел ряд технологий, вдохновленных моими безумными идеями, а также потребностями наших клиентов и тенденциями развития рынка. Наш совместный опыт в создании множества агентных приложений, запуске спутников в космос и работе в крупнейших технологических компаниях мира дает нам знания, которые помогают нам решать сложные проблемы лучше, чем это могут сделать другие.

Вы работаете со многими основателями, которые никогда раньше не писали код. Какие самые распространённые заблуждения существуют у нетехнических основателей, когда они впервые пытаются создавать приложения на основе ИИ?

Я думаю, существуют два основных заблуждения:

Во-первых, ИИ — это магия. ИИ — это не магия. Это просто хорошая инженерная работа. И в конце концов, вы достигаете предела того, что можно сделать на этих платформах без настоящего инженера.

Во-вторых, у них отличные навыки технического управления продуктами. У меня есть опыт в техническом управлении продуктами, и я умею переводить видение, иногда очень масштабное, в небольшие, готовые к выпуску части с правильными техническими спецификациями, чтобы точно сформулировать, чего вы хотите. На самом деле, это очень сложный навык, требующий времени.

Например, предположим, вы разрабатываете приложение, которое загружает PDF-файл и сохраняет его, чтобы вы могли вернуться к нему позже для просмотра. Это называется персистентностью. PDF-файл кодируется в код и сохраняется в базе данных.

Но если вы не знаете, что это называется сохранением данных, как вы сможете печатать? Убедитесь, что эти данные сохраняются. Выбор технической терминологии — это как говорить на другом языке. Существует разница между написанием на естественном языке и написанием на техническом языке.

Многие стартапы считают, что решение проблемы создания продуктов на основе ИИ сводится к простому найму большего количества инженеров. Почему, по вашему мнению, такой подход часто терпит неудачу, и о чем должны думать основатели при создании продуктов на основе ИИ?

Иногда наем большего количества инженеров — это правильное решение. Если вы создаете высокотехнологичный продукт или работаете на переднем крае исследований в области моделирования, вам абсолютно необходимы сильные инженерные команды. Хороших инженеров ничто не заменит, когда речь идет о решении сложных задач.

Однако многие стартапы совершают ошибку, полагая, что большее количество инженеров автоматически решает задачу создания продукта на основе искусственного интеллекта.

В действительности, самые сложные проблемы в продуктах на основе ИИ часто не являются чисто инженерными. Это системные проблемы, как и любые другие инженерные проблемы. Инженеров специально учат мыслить системно. Но генеративная разработка отличается от детерминированной. Многие из нас совершили этот переход, когда переходили от объектно-ориентированного программирования к функциональному. Являются ли они оба программированием? Да, безусловно, но отличаются ли они? Это разные способы мышления? Да, конечно.

Приложения ИИ находятся на стыке данных, проектирования продуктов, операционных процессов и поведения моделей. Вы можете нанять невероятную команду инженеров, но если конвейеры обработки данных ненадежны, критерии оценки неясны или система не имеет системы управления и мониторинга, продукт все равно будет испытывать трудности, когда достигнет реальных пользователей.

Ещё одна проблема заключается в том, что многие команды сразу же приступают к разработке, не определив, как система ИИ будет вести себя в производственной среде. Вопросы о том, как будет оцениваться система, как будут обрабатываться граничные случаи, как будут регистрироваться решения и как модели будут обновляться с течением времени, часто возникают гораздо позже. К тому времени архитектуру уже сложно изменить.

На самом деле, основателям следует задуматься об операционной модели своей системы искусственного интеллекта.

Кому принадлежит конвейер обработки данных?

Как измеряется производительность модели непрерывно, а не только в процессе разработки?

Что происходит, когда система сталкивается с ситуацией, с которой она раньше не сталкивалась?

Как безопасно обновлять поведение системы, не нарушая последующие рабочие процессы?

Иногда решение этих проблем действительно означает наем большего количества инженеров. Но это также может означать выбор правильной инфраструктуры, определение строгих ограничений для продукта и создание систем, которые позволяют небольшим командам надежно работать в масштабе.

Сегодня успех в области ИИ приносят не обязательно те компании, у которых самые большие инженерные команды. Это те, кто рассматривает ИИ как долгосрочную систему, требующую с самого начала дисциплинированного подхода к данным, оценки, управления и постоянного совершенствования.

Вы утверждали, что некоторые из существующих бизнес-моделей в сфере инструментов для разработчиков ИИ не соответствуют цели создания долговечных продуктов. Какие стимулы в современной экосистеме инструментов ИИ, по вашему мнению, ведут компании в неправильном направлении?

Одна из самых больших проблем, связанных с несоответствием стимулов, заключается в том, что многие инструменты для разработчиков ИИ оптимизированы для показателей роста, а не для долговечности продукта.

Многие компании в этой сфере получают вознаграждение за скорость создания пользователями чего-то впечатляющего. Если инструмент может создать работающее приложение, функцию или демоверсию за несколько минут, это стимулирует регистрацию, распространение в социальных сетях и вызывает интерес у инвесторов. С точки зрения внедрения продукта, это вполне логично.

Но эти стимулы часто исчезают в момент создания.

Самая сложная работа в разработке программного обеспечения с использованием ИИ начинается после этого момента. Именно тогда формируется доверие. Когда можно полагаться на качество. Когда пользователь хочет возвращаться снова и снова, не испытывая разочарования от плохого результата, который может вызвать ИИ. Необходимо давать хорошие ответы даже в условиях человеческого невежества или злонамеренности.

Ещё одна проблема заключается в том, что многие инструменты оптимизированы для генерации кода, а не для проектирования системы. Быстрая генерация кода полезна, но создание продукта на основе ИИ включает в себя нечто большее, чем просто написание кода. Необходимо определить, как система управляет контекстом, как оцениваются решения, как обрабатываются ошибки и как поведение безопасно развивается с течением времени.

Компании, которые ставят перед собой цель помочь клиентам надежно запускать системы искусственного интеллекта, а не просто быстро их создавать, — это те, кто создаст долгосрочную ценность в этой экосистеме.

Среди ваших клиентов есть предприниматели, создающие очень специфические продукты, такие как специализированные инструменты для здравоохранения или компании, ориентированные на устойчивое развитие, часто без традиционных инженерных команд. Какие закономерности вы наблюдаете среди основателей, которые успешно превращают эти идеи в работающие продукты на основе искусственного интеллекта? 

Одна из самых интересных закономерностей, которую мы наблюдаем, заключается в том, что основатели, добивающиеся успеха, не обязательно являются самыми технически подкованными. Это те, кто прекрасно понимает проблему, которую решает.

Многие предприниматели, использующие Empromptu, являются экспертами в своей области. Они могут быть из сферы здравоохранения, финансов, устойчивого развития или другой специализированной отрасли. Их вклад заключается в глубоком знании рабочих процессов, правил и решений, существующих в этой среде. Этот контекст невероятно ценен при разработке продукта на основе ИИ, поскольку он определяет, что именно должна делать система.

Основатели, добившиеся успеха, как правило, подходят к ИИ не столько как к технологическому эксперименту, сколько как к продуктовой системе. Они начинают с постановки очень конкретных вопросов. Какие решения ИИ должен помогать принимать пользователям? К каким источникам данных ему нужен доступ? Как на самом деле выглядит правильный ответ в этой области? Какие ограничения должны существовать, чтобы система вела себя ответственно?

Ещё одна закономерность заключается в том, что они тщательно продумывают структуру. Успешные команды быстро понимают, что результаты работы ИИ зависят только от контекста и исходных данных. Они вкладывают время на этапе определения конвейеров обработки данных, организации источников знаний и создания четких критериев оценки того, что считается «хорошим» результатом.

Мы также видим, как успешные основатели компаний предпочитают сотрудничество человека и ИИ вместо того, чтобы пытаться автоматизировать все сразу. Они разрабатывают рабочие процессы, в которых ИИ выполняет повторяющийся анализ или синтез данных, в то время как люди остаются ответственными за принятие решений и вынесение окончательных суждений. Такой баланс делает системы гораздо более надежными, особенно в таких областях, как здравоохранение или финансы.

Во многом, самое большое изменение заключается в мышлении. Основатели, добившиеся успеха, не рассматривают ИИ как дополнительную функцию. Они воспринимают его как новый операционный слой, определяющий работу их продукта.

По мере все большей интеграции систем искусственного интеллекта в основные бизнес-процессы, какие возможности определят следующее поколение платформ для приложений ИИ? 

Я понимаю, это звучит безумно, и, возможно, я говорю что-то кощунственное, но люди смогут создавать свои собственные модели с помощью виброкода. То, что наша исследовательская лаборатория называет экспертными наномоделями, поможет контролировать затраты.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Экспромт ИИ.