Хусейн Осман, директор по сегментному маркетингу в Lattice Semiconductor – Серия интервью

Хусейн Осман – ветеран полупроводниковой промышленности с более чем двумя десятилетиями опыта вывода на рынок продуктов из кремния и программного обеспечения, которые интегрируют решения для cảmления, обработки и подключения, фокусируясь на инновационных опытах, которые приносят ценность конечному пользователю. За последние пять лет он возглавлял стратегию решения sensAI и усилия по выводу на рынок в Lattice Semiconductor, создавая высокопроизводительные приложения AI/ML. Господин Осман получил степень бакалавра по электротехнике в Калифорнийском политехническом университете в Сан-Луис-Обиспо.

Lattice Semiconductor (LSCC ) – поставщик низкопотребляющих программируемых решений, используемых в коммуникациях, вычислениях, промышленности, автомобильной и потребительской электронике. Продукты компании – низкопотребляющие ФПГА и программные инструменты – предназначены для ускорения разработки и поддержки инноваций в приложениях от края до облака.

Искусственный интеллект на краю сети набирает обороты, поскольку компании ищут альтернативы облачной обработке AI. Как вы видите это сдвиг влияет на полупроводниковую промышленность, и какую роль играет Lattice Semiconductor в этом преобразовании?

Искусственный интеллект на краю сети действительно набирает обороты, и это потому, что он имеет потенциал революционизировать целые рынки. Организации из различных секторов полагаются на искусственный интеллект на краю сети, поскольку он помогает им добиться более быстрых, эффективных и безопасных операций – особенно в реальных приложениях – чем это возможно с помощью облачного вычисления alone. Это та часть, на которую большинство людей обычно фокусируется: как искусственный интеллект на краю сети меняет бизнес-операции при реализации. Но есть еще одно путешествие, которое происходит параллельно, и оно начинается задолго до реализации.

Инновации в области искусственного интеллекта на краю сети заставляют производителей оригинального оборудования проектировать системные компоненты, которые могут запускать модели AI, несмотря на ограничения по размеру. Это означает легкие, оптимизированные алгоритмы, специализированное оборудование и другие достижения, которые дополняют и/или усиливают производительность. Именно здесь Lattice Semiconductor входит в игру.

Наши программируемые логические интегральные схемы (ФПГА) обеспечивают высокоадаптивное оборудование, необходимое для проектирования систем, которые соответствуют жестким требованиям, связанным с задержкой, потреблением энергии, безопасностью, подключением, размером и многим другим. Они обеспечивают основу, на которой инженеры могут создавать устройства, способные поддерживать функциональность критически важных приложений в автомобильной, промышленной и медицинской областях. Это один из наших основных фокус-областей для текущей инновации, и мы рады помочь клиентам преодолеть проблемы и встретить эру искусственного интеллекта на краю сети с уверенностью.

Каковы основные проблемы, с которыми сталкиваются бизнесы при реализации искусственного интеллекта на краю сети, и как ФПГА решают эти проблемы более эффективно, чем традиционные процессоры или ГПУ?

Вы знаете, некоторые проблемы кажутся действительно универсальными, когда любая технология развивается. Например, разработчики и бизнесы, надеющиеся использовать силу искусственного интеллекта на краю сети, скорее всего, столкнутся с общими проблемами, такими как:

• Управление ресурсами. Устройства искусственного интеллекта на краю сети должны выполнять сложные процессы надежно, работая в условиях все более ограниченных вычислительных и энергетических возможностей.
• Хотя искусственный интеллект на краю сети предлагает преимущества конфиденциальности при местной обработке данных, он также вызывает другие проблемы безопасности, такие как возможность физического вмешательства или уязвимости, связанные с более мелкими моделями.
• Экосистемы искусственного интеллекта на краю сети могут быть чрезвычайно разнообразными по аппаратным архитектурам и требованиям к вычислениям, что затрудняет оптимизацию аспектов, таких как управление данными и обновление моделей в масштабе.

ФПГА обеспечивают бизнесу преимущество в решении этих ключевых проблем благодаря сочетанию эффективной параллельной обработки, низкого потребления энергии, возможностей безопасности на уровне оборудования и перепрограммируемости. Хотя эти функции могут звучать как маркетинговые лозунги, они являются важными для решения основных проблем искусственного интеллекта на краю сети.

ФПГА традиционно использовались для функций, таких как мосты и расширение I/O. Что делает их особенно подходящими для приложений искусственного интеллекта на краю сети?

Да, вы абсолютно правы, что ФПГА отлично подходят для области подключения – и это одна из причин, почему они так мощны в приложениях искусственного интеллекта на краю сети. Как вы упомянули, они имеют настраиваемые порты I/O, которые позволяют им взаимодействовать с широким спектром устройств и протоколов связи. Кроме того, они могут выполнять функции, такие как мосты и слияние датчиков, для обеспечения бесперебойного обмена данными, агрегации и синхронизации между различными компонентами системы, включая устаревшие и новые стандарты. Эти функции особенно важны, поскольку современные экосистемы искусственного интеллекта на краю сети становятся все более сложными, а потребность в совместимости и масштабируемости увеличивается.

Однако, как мы обсуждали, преимущества ФПГА в области подключения – это только верхушка айсберга; это также о их адаптивности, мощности обработки, энергетической эффективности и функциях безопасности, которые стимулируют результаты. Например, ФПГА можно настроить и перепрограммировать для выполнения конкретных задач AI, что позволяет разработчикам адаптировать приложения к их уникальным потребностям и удовлетворять меняющимся требованиям.

Можете ли вы объяснить, как низкопотребляющие ФПГА сравниваются с ГПУ и АСИК в плане эффективности, масштабируемости и возможностей обработки в реальном времени для искусственного интеллекта на краю сети?

Я не буду притворяться, что аппаратура, такая как ГПУ и АСИК, не имеет вычислительной мощности для поддержки приложений искусственного интеллекта на краю сети. Они имеют. Но ФПГА действительно имеют “преимущество” над этими компонентами в других областях, таких как задержка и гибкость. Например, как ГПУ, так и ФПГА могут выполнять параллельную обработку, но аппаратура ГПУ предназначена для широкого применения и не так хорошо подходит для поддержки конкретных приложений на краю сети, как аппаратура ФПГА. С другой стороны, АСИК действительно предназначены для конкретных приложений, но их фиксированная функциональность означает, что они требуют полного переработки для любых значительных изменений в использовании. ФПГА предназначены для обеспечения лучшего из обоих миров; они предлагают низкую задержку, которая сопоставима с настраиваемыми аппаратными конвейерами, и возможность пост-развертных изменений, когда модели на краю сети требуют обновления.

Конечно, нет единственного варианта, который является единственно правильным. Это зависит от каждого разработчика, чтобы решить, что имеет смысл для его системы. Они должны тщательно рассмотреть основные функции приложения, конкретные результаты, которых они пытаются достичь, и насколько гибкой должна быть конструкция с точки зрения обеспечения будущей безопасности. Это позволит им выбрать правильный набор аппаратных и программных компонентов для удовлетворения их требований – мы просто считаем, что ФПГА обычно являются правильным выбором.

Как ФПГА Lattice улучшают принятие решений на основе искусственного интеллекта на краю сети, особенно в отраслях, таких как автомобильная, промышленная автоматизация и Интернет вещей?

Параллельные возможности обработки ФПГА – хорошая отправная точка. В отличие от последовательных процессоров, архитектура ФПГА позволяет им выполнять множество задач параллельно, включая вычисления AI, с всеми настраиваемыми логическими блоками, выполняющими различные операции одновременно. Это позволяет добиться высокой пропускной способности, низкой задержки и обработки в реальном времени, необходимых для поддержки приложений в реальном времени в ключевых вертикалях, которые вы назвали – будь то автономные транспортные средства, умные промышленные роботы или даже умные домашние устройства или носимые устройства для здравоохранения. Кроме того, они могут быть настроены для конкретных задач AI и легко перепрограммированы в поле, поскольку модели и требования меняются со временем. Наконец, они предлагают функции безопасности на уровне оборудования, чтобы обеспечить, что системы, работающие на основе искусственного интеллекта, остаются безопасными – от загрузки до обработки данных и далее.

Какие есть реальные примеры использования ФПГА Lattice, которые значительно улучшили производительность, безопасность или эффективность искусственного интеллекта на краю сети?

Отличный вопрос! Одним из примеров, который я нахожу действительно интересным, является то, как инженеры используют ФПГА Lattice для питания следующего поколения умных, AI-управляемых роботов. Интеллектуальным роботам требуются возможности обработки в реальном времени и на устройстве, чтобы обеспечить безопасную автоматизацию, и именно это искусственный интеллект на краю сети предназначен для доставки. Не только растет спрос на этих помощников, но и растет сложность и совершенство их функций. На недавней конференции команда Lattice продемонстрировала, как использование ФПГА позволило умному роботу отслеживать траекторию мяча и поймать его в воздухе, показывая, насколько быстро и точно эти машины могут быть, когда они построены с правильными технологиями.

Что делает это так интересным для меня, с точки зрения аппаратуры, так это то, как тактики проектирования меняются, чтобы удовлетворить эти применения. Например, вместо того, чтобы полагаться исключительно на ЦП или другие традиционные процессоры, разработчики начинают интегрировать ФПГА в смесь. Основное преимущество заключается в том, что ФПГА могут взаимодействовать с большим количеством датчиков и исполнительных механизмов (и более разнообразным набором этих компонентов), а также выполнять задачи низкого уровня обработки рядом с этими датчиками, чтобы разгрузить основной вычислительный двигатель для более сложных вычислений.

С учетом растущего спроса на вывод искусственного интеллекта на краю сети, как Lattice обеспечивает конкурентоспособность своих ФПГА по сравнению с специализированными чипами AI, разработанными более крупными полупроводниковыми компаниями?

Нет сомнений, что погоня за чипами AI стимулирует большую часть полупроводниковой промышленности – просто посмотрите, как компании, такие как Nvidia (NVDA ), сместили фокус с создания видеокарт для игр на то, чтобы стать гигантами в области AI. Тем не менее, Lattice приносит уникальные сильные стороны на стол, которые делают нас выделяющимися, даже когда рынок становится более насыщенным.

ФПГА – это не просто компонент, в который мы выбираем инвестировать, потому что спрос растет; они являются важной частью нашей основной линейки продуктов. Сильные стороны наших предложений ФПГА – от задержки и перепрограммируемости до потребления энергии и масштабируемости – являются результатом лет технического развития и совершенствования. Мы также предоставляем полный набор ведущих программных и решений, построенных для оптимизации использования ФПГА в дизайнах AI и за их пределами.

Мы усовершенствовали наши ФПГА за годы непрерывного совершенствования, обусловленного итерацией наших аппаратных и программных решений, а также отношениями с партнерами по всей полупроводниковой промышленности. Мы продолжим оставаться конкурентоспособными, потому что мы будем придерживаться этого пути, работая с партнерами по дизайну, разработке и реализации, чтобы обеспечить, что мы предоставляем нашим клиентам наиболее актуальные и надежные технические возможности.

Какая роль перепрограммируемости играет в способности ФПГА адаптироваться к меняющимся моделям и рабочим нагрузкам AI?

В отличие от фиксированной функциональности аппаратуры, ФПГА можно переработать и перепрограммировать после развертывания. Эта врожденная адаптивность, пожалуй, является их наиболее значительной разницей, особенно в поддержке меняющихся моделей и рабочих нагрузок AI. Учитывая, насколько динамичен ландшафт AI, разработчикам необходимо иметь возможность поддерживать обновления алгоритмов, растущие наборы данных и другие значительные изменения по мере их возникновения, не беспокоясь о постоянных аппаратных обновлениях.

Например, ФПГА уже играют решающую роль в продолжающемся переходе к пост-квантовой криптографии (PQC). Поскольку бизнес готовится к надвигающимся квантовым угрозам и работает над заменой уязвимых схем шифрования на алгоритмы следующего поколения, они используют ФПГА для обеспечения бесшовного перехода и соблюдения новых стандартов PQC.

Как ФПГА Lattice помогают бизнесу сбалансировать компромисс между производительностью, потреблением энергии и стоимостью в развертываниях искусственного интеллекта на краю сети?

В конечном итоге, разработчикам не следует выбирать между производительностью и возможностями. Да, приложения на краю сети часто ограничены вычислительными ограничениями, ограничениями энергопотребления и повышенной задержкой. Но с ФПГА Lattice разработчики имеют возможность гибкой, энергоэффективной и масштабируемой аппаратуры, которая более чем способна смягчить эти проблемы. Настраиваемые интерфейсы I/O, например, позволяют подключаться к различным приложениям на краю сети, снижая сложность.

Модификация после развертывания также делает его проще адаптироваться к поддержке меняющихся потребностей моделей. Помимо этого, предварительная обработка и агрегация данных могут происходить на ФПГА, снижая энергетические и вычислительные нагрузки на процессоры на краю сети, снижая задержку и, таким образом, снижая затраты и повышая эффективность системы.

Как вы представляете себе будущее аппаратуры AI, развивающейся в течение следующих 5-10 лет, особенно в отношении искусственного интеллекта на краю сети и энергоэффективной обработки?

Устройства на краю сети должны быть быстрее и более мощными, чтобы справиться с вычислительными и энергетическими требованиями все более сложных алгоритмов AI и ML, которые бизнесу нужны для процветания – особенно когда эти применения становятся более распространенными. Возможности динамических аппаратных компонентов, которые поддерживают приложения на краю сети, должны адаптироваться в тандеме, становясь меньшими, умнее и более интегрированными. ФПГА должны расширить свою существующую гибкость, предлагая низкую задержку и низкое энергопотребление для более высоких уровней спроса. С этими возможностями ФПГА продолжат помогать разработчикам перепрограммировать и реконфигурировать с легкостью, чтобы удовлетворять потребностям меняющихся моделей – будь то более сложные автономные транспортные средства, промышленная автоматизация, умные города или за их пределами.

Спасибо за отличный интервью, читателям, которые хотят узнать больше, следует посетить Lattice Semiconductor.