Юбэй Чен, сооснователь Aizip Inc – Серия интервью

Юбэй Чен – сооснователь компании Aizip inc., которая разрабатывает самые маленькие и эффективные модели ИИ. Он также является помощником профессора в департаменте электротехники и компьютерных наук Университета Калифорнии, Дэвис. Исследования Чена находятся на пересечении вычислительной нейробиологии и глубокого самообучения, что позволяет лучше понять вычислительные принципы, лежащие в основе обучения без учителя, и дает новые представления о статистике естественных сигналов.

До прихода в Университет Калифорнии, Дэвис, Чен проходил постдокторантуру у профессора Янна Лекюна в Центре данных науки Нью-Йоркского университета (CDS) и Meta Fundamental AI Research (FAIR). Он защитил диссертацию в Центре теоретической нейробиологии и Берклиском центре искусственного интеллекта (BAIR) Университета Калифорнии, Беркли, под руководством профессора Бруно Ольсхаузена.

Aizip разрабатывает ультраэффективные решения ИИ, оптимизированные для устройств на краю сети, предлагая компактные модели для задач зрения, аудио, временных рядов, языка и сенсорной фузии. Продукты компании позволяют выполнять такие задачи, как распознавание лиц и объектов, обнаружение ключевых слов, анализ ЭКГ/ЭЭГ и чат-боты на устройстве, все это работает на основе TinyML. С помощью платформы AI Nanofactory, Aizipline, компания ускоряет разработку моделей с использованием фундаментальных и генеративных моделей для продвижения к полной автоматизации проектирования ИИ. Серия моделей Gizmo от Aizip (300M–2B параметров) поддерживает широкий спектр устройств, принося интеллектуальные возможности на край сети.

Вы проходили постдокторантуру у Янна Лекюна в Нью-Йоркском университете и Meta FAIR. Как работа с ним и ваши исследования в Университете Калифорнии, Беркли, сформировали ваш подход к созданию реальных решений ИИ?

В Беркли моя работа была глубоко основана на научных исследованиях и математической строгости. Мои исследования докторской диссертации, которые объединяли электротехнику, компьютерные науки и вычислительную нейробиологию, были сосредоточены на понимании систем ИИ с точки зрения “белого ящика”, или разработке методов, которые раскрывают лежащие в основе структуры данных и моделей обучения. Я работал над созданием интерпретируемых, высокопроизводительных моделей ИИ и методов визуализации, которые помогали раскрыть закрытые системы ИИ.

В Meta FAIR основное внимание было уделено инженерии систем ИИ для достижения передового опыта в масштабе. С доступом к мировому классу вычислительных ресурсов, я исследовал пределы самообучения и внес вклад в то, что мы сейчас называем “моделями мира” — системы ИИ, которые учатся на данных и представляют возможные среды. Этот двойной опыт — научное понимание в Беркли и инженерно-ориентированное масштабирование в Meta — дал мне всесторонний взгляд на разработку ИИ. Он подчеркнул важность того, что и теоретическое понимание, и практическая реализация имеют значение при разработке решений ИИ для реальных приложений.

Ваша работа сочетает вычислительную нейробиологию с ИИ. Как идеи из нейробиологии влияют на то, как вы разрабатываете модели ИИ?

В вычислительной нейробиологии мы изучаем, как мозг обрабатывает информацию, измеряя его реакции на различные стимулы, подобно тому, как мы тестируем модели ИИ, чтобы понять их внутренние механизмы. Ранее в своей карьере я разработал методы визуализации для анализа вложений слов — разбиения слов, таких как “яблоко”, на их составляющие семантические элементы, такие как “фрукт” и “технология”. Позже этот подход расширился до более сложных моделей ИИ, таких как трансформеры и большие языковые модели, что помогло раскрыть, как они обрабатывают и хранят знания.

Эти методы фактически параллельны методам, используемым в нейробиологии, таким как использование электродов или функциональной магнитно-резонансной томографии (фМРТ) для изучения активности мозга. Тестирование внутренних представлений модели ИИ позволяет нам понять ее стратегии рассуждения и обнаружить возникающие свойства, такие как нейроны, активирующиеся для конкретных идей (например, функции Golden Gate Bridge, которую обнаружила компания Anthropic при картографировании модели Claude). Этот путь исследований теперь широко принят в отрасли, поскольку он доказал свою эффективность для обеспечения интерпретируемости и практических вмешательств, удаляя предвзятости из моделей. Итак, подходы, вдохновленные нейробиологией, помогают нам сделать ИИ более объяснимым, надежным и эффективным.

Что вдохновило вас на создание Aizip? Расскажите о пути от концепции до запуска компании.

Как фундаментальный исследователь ИИ, большая часть моей работы была теоретической, но я хотел сократить разрыв между исследованиями и реальными приложениями. Я соосновал Aizip, чтобы внедрить инновации ИИ в практическое использование, особенно в средах с ограниченными ресурсами. Вместо того, чтобы строить большие фундаментальные модели, мы сосредоточились на разработке самых маленьких и эффективных моделей ИИ, которые будут оптимизированы для устройств на краю сети.

Путь начался с ключевого наблюдения: хотя достижения в области ИИ быстро наращивались, реальные приложения часто требовали легких и высокоэффективных моделей. Мы увидели возможность открыть новое направление, которое сбалансирует научную строгость с практической реализацией. Используя идеи из самообучения и компактных архитектур моделей, Aizip смогла предоставить решения ИИ, которые работают эффективно на краю сети и открывают новые возможности для ИИ в встроенных системах, Интернете вещей и за его пределами.

Aizip специализируется на небольших моделях ИИ для устройств на краю сети. Какой пробел на рынке вы увидели, что привело к этому фокусу?

Отрасль ИИ в основном сосредоточена на масштабировании моделей, но реальные приложения часто требуют противоположного — высокой эффективности, низкого энергопотребления и минимальной задержки. Многие модели ИИ сегодня слишком вычислительно дорогие для развертывания на небольших встроенных устройствах. Мы увидели пробел на рынке решений ИИ, которые могут обеспечить высокую производительность, работая в условиях ограниченных ресурсов.

Мы признали, что не каждое приложение ИИ требует работы на больших моделях, и что это также не масштабируемо полагаться на модели такого размера для всего. Вместо этого мы фокусируемся на оптимизации алгоритмов для достижения максимальной эффективности, сохраняя при этом точность. Разрабатывая модели ИИ, адаптированные для приложений на краю сети — будь то в умных датчиках, носимых устройствах или промышленной автоматизации — мы делаем ИИ более доступным, масштабируемым и энергоэффективным, открывая новые возможности для инноваций, стимулируемых ИИ, за пределами облака.

Aizip была на переднем крае разработки Маленьких Языковых Моделей (SLM). Как вы видите конкуренцию или дополнение SLM к более крупным моделям, таким как GPT-4?

SLM и более крупные модели, такие как GPT-4, не обязательно конкурируют напрямую, поскольку они служат разным потребностям. Более крупные модели мощны в плане обобщения и глубокого рассуждения, но требуют значительных вычислительных ресурсов. SLM предназначены для эффективности и развертывания на устройствах с низкой мощностью на краю сети. Они дополняют крупные модели, обеспечивая возможности ИИ в реальных приложениях, где вычислительная мощность, задержка и стоимость имеют значение — например, в устройствах Интернета вещей, носимых устройствах и промышленной автоматизации. По мере роста внедрения ИИ мы видим появление гибридного подхода, при котором крупные облачные модели обрабатывают сложные запросы, а SLM обеспечивают реальное, локальное интеллект на краю сети.

Каковы самые большие технические проблемы в том, чтобы сделать модели ИИ достаточно эффективными для устройств с низкой мощностью на краю сети?

Одной из фундаментальных проблем является отсутствие полного теоретического понимания того, как работают модели ИИ. Без четкого теоретического основания усилия по оптимизации часто эмпиричны, что ограничивает прирост эффективности. Кроме того, обучение человека происходит разными способами, которые текущие парадигмы машинного обучения не полностью захватывают, что делает трудным проектирование моделей, имитирующих эффективность человека.

С точки зрения инженерии, толкание ИИ к работе в условиях ограничений требует инновационных решений в сжатии моделей, квантовании и проектировании архитектуры. Другой проблемой является создание моделей ИИ, которые могут адаптироваться к различным устройствам и средам, сохраняя при этом надежность. По мере того, как ИИ все больше взаимодействует с физическим миром через Интернет вещей и датчики, необходимость в естественных и эффективных интерфейсах — таких как голос, жесты и другие нестандартные входные данные — становится критической. ИИ на краю сети — это переопределение того, как пользователи взаимодействуют с цифровым миром без проблем.

Можете ли вы поделиться некоторыми подробностями о работе Aizip с компаниями, такими как Softbank?

Мы недавно сотрудничали с SoftBank над проектом аквакультуры, который получил премию CES Innovation Award — одну из тех, которую мы особенно гордимся. Мы разработали эффективную модель ИИ на краю сети для приложения по подсчету рыбы, которое может быть использовано операторами рыбных ферм. Это решение решает критическую проблему в рыболовстве, которая может в конечном итоге привести к проблемам с устойчивостью, пищевыми отходами и прибыльностью. Отрасль была медленна в принятии ИИ как решения из-за ненадежной электроэнергии и подключения в море, что делает облачные решения ИИ непрактичными.

Чтобы решить эту проблему, мы разработали решение на основе устройства. Мы объединили компьютерные симуляции SoftBank для обучающих данных с нашими компактными моделями ИИ и создали высокоточный систем, который работает на смартфонах. В подводных полевых испытаниях он достиг 95% точности распознавания, значительно улучшив точность подсчета рыбы. Это позволило фермерам оптимизировать условия хранения, определить, следует ли перевозить рыбу живой или замороженной, и обнаружить потенциальные заболевания или другие проблемы со здоровьем у рыбы.

Этот прорыв улучшает эффективность, снижает затраты и уменьшает зависимость от ручного труда. Более широко, он показывает, как ИИ может оказать ощутимое влияние на реальные проблемы.

Aizip ввела концепцию “AI Nanofactory”. Можете ли вы объяснить, что это значит и как она автоматизирует разработку моделей ИИ?

AI Nanofactory — это наша внутренняя труба автоматизации проектирования ИИ, вдохновленная электронной автоматизацией проектирования (EDA) в производстве полупроводников. Раннее развитие в любой новой области предполагает много ручных усилий, поэтому автоматизация становится ключом к ускорению прогресса и масштабированию решений, когда область созревает.

Вместо того, чтобы просто использовать ИИ для ускорения других отраслей, мы спросили себя: может ли ИИ ускорить свое собственное развитие? AI Nanofactory автоматизирует каждый этап разработки модели ИИ, от обработки данных до проектирования архитектуры, выбора модели, обучения, квантования, развертывания и отладки. Используя ИИ для оптимизации самого себя, мы смогли сократить время разработки новых моделей в среднем в 10 раз. В некоторых случаях — более чем на 1000 раз. Это означает, что модель, которая ранее занимала более года разработки, теперь может быть создана всего за несколько часов.

Другой выгодой является то, что эта автоматизация также гарантирует, что решения ИИ экономически жизнеспособны для широкого спектра приложений, что делает развертывание ИИ в реальном мире более доступным и масштабируемым.

Как вы видите эволюцию роли ИИ на краю сети в течение следующих пяти лет?

ИИ на краю сети обещает преобразовать, как мы взаимодействуем с технологиями, подобно тому, как смартфоны революционизировали доступ к Интернету. Сегодня большинство приложений ИИ основаны на облаке, но это начинает меняться, поскольку ИИ перемещается ближе к датчикам и устройствам, взаимодействующим с физическим миром. Этот сдвиг подчеркивает критическую необходимость эффективной, реальной обработки на краю сети.

В течение следующих пяти лет мы ожидаем, что ИИ на краю сети позволит более естественным взаимодействиям между человеком и компьютером, таким как распознавание голоса и жестов, и другие интуитивные интерфейсы, которые устранят зависимость от традиционных барьеров, таких как клавиатуры и сенсорные экраны. ИИ также, вероятно, станет более встроенным в повседневные среды, такие как умные дома или промышленная автоматизация, для обеспечения принятия решений в реальном времени с минимальной задержкой.

Другой ключевой тренд будет заключаться в растущей автономности систем ИИ на краю сети. Модели ИИ станут более самооптимизируемыми и адаптируемыми благодаря достижениям в автоматизации, подобной AI Nanofactory, поэтому они смогут уменьшить необходимость вмешательства человека при развертывании и обслуживании. Это откроет новые возможности в различных отраслях, таких как здравоохранение, автомобильная промышленность и сельское хозяйство.

Какие предстоящие устройства, оснащенные ИИ от Aizip, вам наиболее интересны?

Мы работаем над расширением сфер применения наших моделей в новых отраслях, и одной из них, которая нас особенно интересует, является агент ИИ для автомобильной промышленности. Растет импульс, особенно среди китайских автопроизводителей, для разработки голосовых помощников, работающих на языковых моделях, которые чувствуются как ChatGPT внутри кабины. Вызов заключается в том, что большинство текущих помощников все еще полагаются на облако, особенно для естественного, гибкого диалога. Только базовые задачи управления (например, “включить кондиционер” или “открыть багажник”) обычно работают локально на транспортном средстве, и жесткая природа этих команд может стать отвлекающей для водителей, если они не запомнили их с абсолютной точностью.

Мы разработали серию сверхэффективных агентов ИИ, работающих на основе SLM, называемых Gizmo, которые в настоящее время используются в ряде приложений для различных отраслей, и мы работаем над их развертыванием в качестве “сопилотов” для транспортных средств. Gizmo обучен понимать намерения более тонким образом, и когда он служит агентом ИИ транспортного средства, он может выполнять команды посредством разговорного, свободного языка. Например, агент может отрегулировать температуру в кабине, если водитель просто скажет: “Мне холодно”, или ответить на запрос, такой как “Я еду в Бостон завтра, что мне надеть?”, проверив погоду и предложив рекомендацию.

Поскольку они работают локально и не полагаются на облако, эти агенты продолжают функционировать в зонах с плохой связью, таких как туннели, горы или сельские дороги. Они также повышают безопасность, предоставляя водителям полный голосовой контроль без отвлечения внимания от дороги. И, на отдельной и более легкой ноте, я хотел бы упомянуть, что мы также в настоящее время находимся в процессе производства модели ИИ для автомобилей и Bluetooth-динамиков, которая работает локально, как и сопилот. По сути, она берет любой входной аудиосигнал и удаляет человеческие голоса из него, что позволяет создать версию караоке из любой песни в реальном времени. Итак, помимо того, что мы помогаем клиентам более безопасно управлять элементами управления в автомобиле, мы также ищем способы сделать опыт более приятным.

Такие решения, которые оказывают существенное влияние на повседневную жизнь людей, — это те, которыми мы наиболее гордимся.

Aizip разрабатывает ультраэффективные решения ИИ, оптимизированные для устройств на краю сети, предлагая компактные модели для задач зрения, аудио, временных рядов, языка и сенсорной фузии. Продукты компании позволяют выполнять такие задачи, как распознавание лиц и объектов, обнаружение ключевых слов, анализ ЭКГ/ЭЭГ и чат-боты на устройстве, все это работает на основе TinyML. С помощью платформы AI Nanofactory, Aizipline, компания ускоряет разработку моделей с использованием фундаментальных и генеративных моделей для продвижения к полной автоматизации проектирования ИИ. Серия моделей Gizmo от Aizip (300M–2B параметров) поддерживает широкий спектр устройств, принося интеллектуальные возможности на край сети.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, должны посетить Aizip.