Кришна Рангасайи, основатель и генеральный директор SiMa.ai – Серия интервью

Кришна Рангасайи является основателем и генеральным директором SiMa.ai. Ранее Кришна был операционным директором Groq и работал в Xilinx в течение 18 лет, где он занимал различные руководящие должности, включая старшего вице-президента и генерального менеджера по общему бизнесу, а также исполнительного вице-президента по глобальным продажам. Во время работы в Xilinx Кришна увеличил выручку до 2,5 миллиардов долларов при валовой марже 70%, создав основу для 10 и более кварталов устойчивого последовательного роста и расширения доли рынка. До работы в Xilinx он занимал различные инженерные и деловые должности в Altera Corporation и Cypress Semiconductor. Он является обладателем более 25 международных патентов и входил в состав совета директоров публичных и частных компаний.

Что изначально привлекло вас к машинному обучению?

Я изучал рынки встроенных и облачных решений в течение последних 20 лет. Я видел много инноваций в облаке, но очень мало – в области машинного обучения на краю сети. Это огромный, недооцененный рынок объемом более 40 миллиардов долларов, который десятилетиями выживал на старых технологиях.

Итак, мы начали делать то, чего никто никогда не делал – сделать машинное обучение на краю сети простым и доступным.

Можете ли вы рассказать историю создания SiMa?

За свою 20-летнюю карьеру я еще не видел инноваций в архитектуре на рынке встроенных решений. Однако потребность в машинном обучении на краю сети увеличивается, особенно в облачных и IoT-приложениях. Это показывает, что компании хотят использовать машинное обучение на краю сети, но технологии, которые могли бы сделать это возможным, слишком устарели.

Поэтому, прежде чем мы начали проектировать нашу платформу, было важно понять, какие самые большие проблемы стоят перед нашими клиентами. Однако получить от них время для получения ценной и откровенной обратной связи было не простой задачей. К счастью, наша команда и я смогли использовать наши связи из прошлых отношений, чтобы закрепить видение SiMa.ai с правильными целевыми компаниями.

Мы встретились с более чем 30 клиентами и задали два основных вопроса: “Какие самые большие проблемы при масштабировании машинного обучения на краю сети?” и “Как мы можем помочь?” После многих обсуждений о том, как они хотели изменить отрасль и слушая их проблемы, мы получили глубокое понимание их болевых точек и разработали идеи о том, как их решить. Среди них:

• Получить выгоду от машинного обучения без крутой кривой обучения.
• Сохранить существующие приложения и одновременно обеспечить будущую безопасность реализаций машинного обучения.
• Работать с высокопроизводительным, низкопотребляющим решением в удобной среде.

Мы быстро поняли, что нам нужно предоставить фазовый подход, который снизит риски для наших клиентов. Как стартап, мы должны были предложить что-то такое привлекательное и отличное от всех остальных. Никакая другая компания не решала эту явную потребность, поэтому мы выбрали этот путь.

SiMa.ai достигла этого редкого результата, спроектировав с нуля первую в отрасли программно-ориентированную, специально разработанную платформу System-on-Chip (MLSoC) для машинного обучения. Благодаря сочетанию кремния и программного обеспечения, машинное обучение теперь может быть добавлено к приложениям на краю сети одним нажатием кнопки.

Можете ли вы рассказать о вашем видении того, как машинное обучение изменит все на краю сети?

Большинство компаний, занимающихся машинным обучением, фокусируются на высокорастущих рынках, таких как облачные вычисления и автономное вождение. Однако это робототехника, беспилотные летательные аппараты, безтренажная розница, умные города и промышленная автоматизация, которые требуют последних технологий машинного обучения для повышения эффективности и снижения затрат.

Эти растущие сектора, в сочетании с текущими разочарованиями при развертывании машинного обучения на краю сети, показывают, что время для этого идеально. SiMa.ai подходит к этой проблеме совершенно иначе; мы хотим сделать широкое внедрение реальностью.

Что до сих пор препятствовало масштабированию машинного обучения на краю сети?

Машинное обучение должно легко интегрироваться с существующими системами. Компании Fortune 500 и стартапы инвестировали значительные средства в свои текущие технологические платформы, но большинство из них не будут переписывать весь свой код или полностью менять свою основную инфраструктуру, чтобы интегрировать машинное обучение. Чтобы снизить риски и получить выгоду от машинного обучения, необходимо разработать технологии, которые позволят легко интегрировать существующий код и машинное обучение в их системы. Это создаст простой путь для разработки и развертывания этих систем для решения потребностей приложений, обеспечивая выгоду от интеллекта, который приносит машинное обучение.

Нет больших заказов, нет одного большого клиента, который сможет существенно повлиять, поэтому нам не оставалось ничего другого, кроме как поддерживать более 1000 клиентов, чтобы действительно масштабировать машинное обучение и привнести этот опыт к ним. Мы обнаружили, что эти клиенты хотят машинное обучение, но у них нет возможности получить этот опыт, поскольку им не хватает внутренней емкости для построения и они не имеют внутренней базы знаний. Итак, они хотят реализовать опыт машинного обучения, но без кривой обучения на краю сети, и быстро стало ясно, что нам нужно сделать этот опыт машинного обучения очень простым для клиентов.

Как SiMA.ai может так существенно снизить потребление энергии по сравнению с конкурентами?

Наша платформа MLSoC является основным двигателем, который действительно позволяет всему этому. Важно различать, что мы не строим ускоритель машинного обучения. Для 2 миллиардов долларов, вложенных в стартапы на краю сети, все отраслевые инновации были сосредоточены на блоке ускорителя машинного обучения в качестве основы или чипа. То, чего люди не осознают, – это то, что для миграции людей из классического SoC в среду машинного обучения нам нужна платформа MLSoC, чтобы люди могли запускать существующий код с первого дня и постепенно, в фазовом и снижающем риски порядке, развертывать свою способность в компонент машинного обучения или один день они делают семантическую сегментацию, используя классический подход компьютерного зрения, а на следующий день они могут сделать это, используя подход машинного обучения, но каким-то образом мы позволяем нашим клиентам возможность развертывать и разделять свою проблему, как они считают нужным, используя классическое компьютерное зрение, классическую обработку ARM или гетерогенный вычислитель машинного обучения. Для нас машинное обучение не является конечным продуктом, и поэтому ускоритель машинного обучения не будет успешным сам по себе; машинное обучение является возможностью и инструментом в дополнение к другим инструментам, которые мы предоставляем нашим клиентам, чтобы они могли, нажимая кнопку, итерировать свой дизайн предобработки, постобработки, аналитики и ускорения машинного обучения на единой платформе, обеспечивая при этом самые высокие показатели системной производительности при самом низком энергопотреблении.

Какие основные приоритеты рынка для SiMa?

Мы определили несколько ключевых рынков, некоторые из которых быстрее доходов, чем другие. Самый быстрый путь к доходу – умное зрение, робототехника, промышленность 4.0 и беспилотные летательные аппараты. Рынки, которые требуют немного больше времени из-за квалификаций и стандартных требований, – это автомобильные и медицинские применения. Мы приступили к работе во всех этих областях, сотрудничая с лучшими игроками каждой категории.

Каковы преимущества сдвига стратегии развертывания от захвата изображений на краю сети и аналитики в облаке?

Приложения на краю сети требуют локальной обработки, и для многих приложений нет времени, чтобы данные могли отправиться в облако и вернуться. Возможности машинного обучения являются фундаментальными в приложениях на краю сети, поскольку решения должны приниматься в реальном времени, например, в автомобильных приложениях и робототехнике, где решения должны обрабатываться быстро и эффективно.

Почему компании должны рассматривать решения SiMa вместо ваших конкурентов?

Наш уникальный подход программно-ориентированного решения, упакованный с полным аппаратным решением. Мы сосредоточились на полном решении, которое решает то, что мы называем “Любой”, “10x” и “Нажатие кнопки” в качестве основы проблем клиентов. Первоначальная тезис для компании заключалась в том, что вы нажимаете кнопку и получаете “Вау!” Опыт действительно должен быть абстрагирован до точки, где вы хотите получить тысячи разработчиков, которые будут использовать его, но вы не хотите, чтобы все они были гениями машинного обучения, вы не хотите, чтобы все они настраивали слой за слоем,手описный код, чтобы получить желаемую производительность, вы хотите, чтобы они оставались на самом высоком уровне абстракции и быстро развертывали безусильное машинное обучение. Итак, тезис, почему мы выбрали этот подход, заключался в сильной корреляции с масштабированием, поскольку это действительно необходимо для безусильного опыта машинного обучения и масштабирования машинного обучения на краю сети.

Мы провели первый год, посетив более 50 клиентов по всему миру, пытаясь понять, почему все хотят машинное обучение, но не развертывают его. Что мешает? Что требуется для того, чтобы действительно развернуть машинное обучение и масштабировать его? И все сводится к трем основным столпам понимания: первому – “Любой”. Как компания, мы должны решить проблемы, учитывая ширину клиентов, ширину моделей использования и разницу между сетями машинного обучения, датчиками, частотой кадров и разрешением. Это очень разнообразный мир, где каждый рынок имеет совершенно разные конструкции передней части, и если мы просто возьмем узкий срез этого, мы не сможем построить экономически жизнеспособную компанию; мы действительно должны создать воронку, которая сможет принять очень широкий спектр пространств приложений, почти как Эллис-Айленд всего компьютерного зрения. Люди могли быть в TensorFlow, они могли использовать Python, они могли использовать камеру-сенсор с разрешением 1080 или 4K-разрешением сенсора, это действительно не имеет значения, если мы можем гомогенизировать и привлечь всех и если у вас нет передней части, подобной этой, то у вас нет масштабируемой компании.

Второй столп – “10x”, что означает, что существует проблема, почему клиенты не могут развертывать и создавать производные платформы, потому что все – это возврат к нулю, чтобы построить новую модель или конвейер. Второй вызов заключается в том, что, безусловно, как стартап, нам нужно принести что-то очень интересное, очень привлекательное, где любой и каждый готов рискнуть, даже если вы стартап, на основе 10-кратного показателя производительности. Один из ключевых технических достоинств, на котором мы сосредоточились, заключается в решении проблемы компьютерного зрения, и это метрика кадров в секунду на ватт. Нам нужно быть нелогично лучше, чем все остальные, чтобы мы могли остаться на один или два поколения впереди, поэтому мы взяли этот подход программно-ориентированной платформы. Этот подход создал гетерогенную вычислительную платформу, чтобы люди могли решить весь конвейер компьютерного зрения на едином чипе и обеспечить 10-кратное улучшение по сравнению с любыми другими решениями. Третий столп – “Нажатие кнопки” – обусловлен необходимостью масштабировать машинное обучение на краю сети осмысленным образом. Цепочки инструментов машинного обучения еще очень незрелые, часто ломаются, и ни одна компания не построила мировой класс опыта программного обеспечения машинного обучения. Мы также признали, что для рынка встроенных решений важно скрыть сложность встроенного кода, обеспечивая при этом итеративный процесс для быстрого возвращения и оптимизации их платформ. Клиентам действительно нужен опыт нажатия кнопки, который дает им ответ или решение за минуты, а не за месяцы, чтобы достичь безусильного машинного обучения. “Любой”, “10x” и “Нажатие кнопки” – это ключевые ценностные предложения, которые стали действительно ясными для нас, что если мы сделаем отличную работу по этим трем вещам, мы абсолютно сдвинем needle на безусильное машинное обучение и масштабирование машинного обучения на краю сети.

Есть ли что-то еще, что вы хотели бы поделиться о SiMa?

На ранних этапах разработки платформы MLSoC мы толкали пределы технологий и архитектуры. Мы шли все-in на программно-ориентированную платформу, которая была совершенно новым подходом, противоречащим всем обычным представлениям. Путь к пониманию и реализации этого был трудным.

Недавний монументальный успех подтверждает силу и уникальность технологии, которую мы построили. SiMa.ai достигла значительного рубежа в апреле 2023 года, превзойдя лидера отрасли в нашем дебютном показателе производительности MLPerf Benchmark в категории Closed Edge Power. Мы гордимся тем, что являемся первым стартапом, который участвовал и достиг победных результатов в наиболее популярном и признанном показателе производительности MLPerf для Resnet-50.

Мы начали с высоких стремлений, и по сей день я горжусь тем, что это видение осталось неизменным. Наша платформа MLSoC была разработана для того, чтобы идти против отраслевых норм и обеспечить революционное решение машинного обучения для рынка встроенных решений.

Спасибо за отличный интервью. Читателям, которые хотят узнать больше, следует посетить SiMa.ai.