Hussein Osman, Dyrektor Marketingu Segmentowego w Lattice Semiconductor – Seria Wywiadów

Hussein Osman to weteran branży półprzewodników z ponad dwudziestoletnim doświadczeniem w wprowadzaniu na rynek produktów zintegrowanych, łączących sensory, przetwarzanie i rozwiązania łączności, koncentrując się na innowacyjnych doświadczeniach, które dostarczają wartość końcowemu użytkownikowi. W ciągu ostatnich pięciu lat kierował strategią rozwiązania sensAI i wysiłkami marketingowymi w Lattice Semiconductor, tworząc aplikacje AI/ML o wysokiej wydajności. Pan Osman uzyskał tytuł licencjata z zakresu inżynierii elektrycznej na California Polytechnic State University w San Luis Obispo.

Lattice Semiconductor (LSCC ) to dostawca niskomocowych rozwiązań programowalnych stosowanych w komunikacji, komputerach, przemyśle, motoryzacji i konsumpcji. Niskomocowe FPGA i oprogramowanie firmy są zaprojektowane, aby przyspieszyć rozwój i wspierać innowacje w aplikacjach od Edge do Chmury.

Edge AI zyskuje na popularności, ponieważ firmy szukają alternatyw dla przetwarzania AI w chmurze. Jak Pan widzi ten trend wpływający na branżę półprzewodników, a jaka jest rola Lattice Semiconductor w tej transformacji? 

Edge AI zyskuje na popularności, ponieważ ma potencjał, aby prawdziwie rewolucjonizować całe rynki. Organizacje z różnych sektorów coraz bardziej zainteresowane są Edge AI, ponieważ pomaga im osiągnąć szybsze, bardziej wydajne i bezpieczniejsze operacje — zwłaszcza w czasie rzeczywistym — niż jest to możliwe przy samym komputerze. To jest ta część, na którą ludzie zwykle zwracają uwagę: jak Edge AI zmienia operacje biznesowe, gdy jest wdrożone. Ale jest też inna podróż, która zachodzi równolegle, i zaczyna się znacznie wcześniej niż wdrożenie.

Innowacje w Edge AI zmuszają producentów urządzeń do projektowania komponentów systemu, które mogą uruchamiać modele AI pomimo ograniczeń gabarytowych. Oznacza to lekkie, zoptymalizowane algorytmy, specjalistyczne urządzenia i inne postępy, które uzupełniają i/lub zwiększają wydajność. To jest miejsce, w którym Lattice Semiconductor wchodzi w grę.

Nasze FPGA dostarczają wysoko dostosowywalne urządzenia niezbędne do spełnienia surowych wymagań systemowych związanych z opóźnieniami, mocą, bezpieczeństwem, łącznością, rozmiarem i więcej. Zapewniają podstawę, na której inżynierowie mogą budować urządzenia zdolne do utrzymania funkcjonalności aplikacji samochodowych, przemysłowych i medycznych. To jest obszar, na którym koncentrujemy się w naszych obecnych innowacjach, i jesteśmy podekscytowani, że możemy pomóc klientom pokonać wyzwania i powitać erę Edge AI z pewnością.

Jakie są kluczowe wyzwania, z którymi firmy spotykają się przy wdrażaniu Edge AI, i jak FPGA radzą sobie z tymi problemami skuteczniej niż tradycyjne procesory lub GPU?

Wiesz, niektóre wyzwania wydają się naprawdę powszechne, gdy każda technologia postępuje. Na przykład, deweloperzy i firmy, które chcą wykorzystać moc Edge AI, prawdopodobnie będą musiały radzić sobie z powszechnymi wyzwaniami, takimi jak:

• Zarządzanie zasobami. Urządzenia Edge AI muszą wykonywać złożone procesy w sposób niezawodny, pracując w ramach coraz bardziej ograniczonych zdolności obliczeniowych i baterii.
• Chociaż Edge AI oferuje korzyści związane z prywatnością przetwarzania danych lokalnie, podnosi również inne obawy związane z bezpieczeństwem, takie jak możliwość fizycznego manipulowania lub podatności wynikających z mniejszych modeli.
• Ekosystemy Edge AI mogą być niezwykle zróżnicowane pod względem architektur sprzętowych i wymagań obliczeniowych, co utrudnia uproszczenie aspektów takich jak zarządzanie danymi i aktualizacje modeli w skali.

FPGA oferują firmom przewagę w rozwiązywaniu tych kluczowych problemów dzięki połączeniu wydajnego przetwarzania równoległego, niskiego zużycia mocy, funkcji bezpieczeństwa na poziomie sprzętu i dostosowywania. Chociaż mogą one brzmieć jak slogany marketingowe, są to niezbędne funkcje do rozwiązywania najważniejszych bólów głowy Edge AI.

FPGA tradycyjnie były używane do funkcji takich jak mostki i rozszerzenia we/wy. Co sprawia, że są one szczególnie dobrze przystosowane do aplikacji Edge AI?

Tak, masz rację, że FPGA wyróżniają się w dziedzinie łączności — i to jest część tego, co sprawia, że są tak potężne w aplikacjach Edge AI. Jak wspomniałeś, mają dostosowywalne porty we/wy, które pozwalają im łączyć się z szerokim zakresem urządzeń i protokołów komunikacyjnych. Oprócz tego mogą wykonywać funkcje takie jak mostki i fuzja sensorów, aby zapewnić bezproblemową wymianę danych, agregację i synchronizację między różnymi komponentami systemu, w tym standardami dziedzicznymi i wschodzącymi. Te funkcje są szczególnie ważne, gdy dzisiejsze ekosystemy Edge AI stają się coraz bardziej złożone, a potrzeba interoperacyjności i skalowalności rośnie.

Czy może Pan wyjaśnić, jak niskomocowe FPGA porównują się do GPU i ASIC w zakresie wydajności, skalowalności i możliwości przetwarzania w czasie rzeczywistym dla Edge AI?

Nie udawałbym, że sprzęt taki jak GPU i ASIC nie mają mocy obliczeniowej, aby wspierać aplikacje Edge AI. Mają. Ale FPGA mają naprawdę „krawędź” nad tymi innymi komponentami w innych obszarach, takich jak opóźnienia i elastyczność. Na przykład, zarówno GPU, jak i FPGA mogą wykonywać przetwarzanie równoległe, ale sprzęt GPU jest zaprojektowany z myślą o szerokim zastosowaniu i nie jest tak dobrze przystosowany do wspierania konkretnych aplikacji Edge, jak sprzęt FPGA. Z drugiej strony, ASIC są przeznaczone dla konkretnych aplikacji, ale ich stała funkcjonalność oznacza, że wymagają pełnego przebudowania, aby dostosować się do znaczących zmian w użyciu. FPGA są zaprojektowane, aby zapewnić najlepsze z obu światów; oferują niskie opóźnienia, które pochodzą z niestandardowych potoków sprzętowych, oraz miejsce na modyfikacje po wdrożeniu, gdy modele Edge wymagają aktualizacji.

Jak FPGA Lattice ulepszają podejmowanie decyzji opartych na AI na krawędzi, zwłaszcza w branżach takich jak motoryzacja, automatyka przemysłowa i IoT?

Możliwości przetwarzania równoległego FPGA są dobrym punktem wyjścia. W przeciwieństwie do sekwencyjnych procesorów, architektura FPGA pozwala im wykonywać wiele zadań równolegle, w tym obliczenia AI, przy czym wszystkie bloki logiki konfigurowalnej wykonują różne operacje jednocześnie. Pozwala to na wysokoprzepływowe, niskie opóźnienia przetwarzanie niezbędne do wspierania aplikacji w czasie rzeczywistym w kluczowych pionach, które Pan wymienił — czy mówimy o samochodach autonomicznych, inteligentnych robotach przemysłowych, czy nawet inteligentnych urządzeniach domowych lub nosimych urządzeniach medycznych. Co więcej, mogą być dostosowane do konkretnych obciążeń AI i łatwo przeprogramowane w terenie, gdy modele i wymagania ewoluują w czasie. Ostatnie, ale nie mniej ważne, oferują funkcje bezpieczeństwa na poziomie sprzętu, aby zapewnić, że systemy AI pozostają bezpieczne, od uruchomienia do przetwarzania danych i poza.

Jakie są prawdziwe przypadki użycia, w których FPGA Lattice znacznie poprawiły wydajność, bezpieczeństwo lub wydajność Edge AI?

Świetne pytanie! Jednym z zastosowań, które naprawdę mnie fascynuje, są sposoby, w jakie inżynierowie wykorzystują FPGA Lattice do zasilania następnej generacji inteligentnych, opartych na AI robotów. Inteligentne roboty wymagają możliwości przetwarzania w czasie rzeczywistym i na urządzeniu, aby zapewnić bezpieczną automatykę, i to jest coś, co Edge AI jest zaprojektowane, aby dostarczyć. Nie tylko rośnie popyt na te asystentów, ale także ich złożoność i wyrafinowanie. Na niedawnym konferencji zespół Lattice zademonstrował, jak użycie FPGA umożliwiło inteligentnemu robotowi śledzenie trajektorii piłki i złapanie jej w locie, pokazując, jak szybko i precyzyjnie te maszyny mogą być, gdy są zbudowane z odpowiednimi technologiami.

Co sprawia, że jest to tak interesujące dla mnie, z perspektywy sprzętu, to sposób, w jaki taktyki projektowe zmieniają się, aby dostosować się do tych aplikacji. Na przykład, zamiast polegać wyłącznie na CPU lub innych tradycyjnych procesorach, deweloperzy zaczynają integrować FPGA z mieszanką. Główną korzyścią jest to, że FPGA mogą łączyć się z większą liczbą sensorów i aktuatorów (i bardziej różnorodnymi komponentami), a także wykonywać zadania przetwarzania na niskim poziomie w pobliżu tych sensorów, aby uwolnić główny silnik obliczeniowy do bardziej zaawansowanych obliczeń.

Jak Lattice Semiconductor zapewnia, że ich FPGA pozostają konkurencyjne wobec specjalistycznych chipów AI opracowanych przez większe firmy półprzewodnikowe?

Nie ma wątpliwości, że pogoń za chipami AI napędza wiele branży półprzewodnikowej — spójrz tylko, jak firmy takie jak Nvidia (NVDA ) przeszły od tworzenia kart graficznych do gier do stania się gigantami branży AI. Jednak Lattice wnosi unikalne siły do stołu, które sprawiają, że wyróżniają się nawet wtedy, gdy rynek staje się bardziej nasycony.

FPGA nie są tylko komponentem, w który inwestujemy, ponieważ popyt rośnie; są kluczową częścią naszej linii produktów. Atuty naszych ofert FPGA — od opóźnień i programowalności po zużycie mocy i skalowalność — są wynikiem lat rozwoju technicznego i ulepszeń. Dostarczamy również pełny zakres wiodących oprogramowań i rozwiązań, zaprojektowanych, aby zoptymalizować użycie FPGA w projektach AI i poza nimi.

Jaka rola odgrywa programowalność w zdolności FPGA do adaptacji do ewoluujących modeli i obciążeń AI?

W przeciwieństwie do sprzętu o stałej funkcjonalności, FPGA mogą być ponownie wykorzystane i przeprogramowane po wdrożeniu. Ta wrodzona elastyczność jest prawdopodobnie ich największym differentiatorem, zwłaszcza w wspieraniu ewoluujących modeli i obciążeń AI. Biorąc pod uwagę, jak dynamiczna jest scena AI, deweloperzy muszą być w stanie wspierać aktualizacje algorytmów, rosnące zestawy danych i inne znaczące zmiany, gdy występują, bez martwienia się o ciągłe uaktualnienia sprzętu.

Jak FPGA Lattice pomagają firmom równoważyć kompromis między wydajnością, zużyciem mocy a kosztami w wdrożeniach Edge AI?

Ostatecznie, deweloperzy nie powinni musieć wybierać między wydajnością a możliwością. Tak, aplikacje Edge często są ograniczane przez ograniczenia obliczeniowe, zużycie mocy i zwiększone opóźnienia. Ale z FPGA Lattice deweloperzy są wyposażeni w elastyczny, energooszczędny i skalowalny sprzęt, który jest bardziej niż w stanie złagodzić te wyzwania. Dostosowywalne interfejsy we/wy, na przykład, umożliwiają łączność z różnymi aplikacjami Edge, redukując złożoność.

Jak Pan widzi przyszłość sprzętu AI ewoluującego w ciągu najbliższych 5-10 lat, zwłaszcza w odniesieniu do Edge AI i wydajnego przetwarzania?

Urządzenia Edge będą musiały być szybsze i bardziej wydajne, aby sprostać wymaganiom obliczeniowym i energetycznym coraz bardziej złożonych algorytmów AI i ML, których potrzebują firmy, aby prosperować — zwłaszcza, gdy te aplikacje stają się bardziej powszechne. Możliwości dynamicznych komponentów sprzętowych, które wspierają aplikacje Edge, będą musiały dostosować się wraz z nimi, stając się mniejszymi, inteligentniejszymi i bardziej zintegrowanymi. FPGA będą musiały rozwinąć swoją elastyczność, oferując niskie opóźnienia i niskie zużycie mocy dla wyższych poziomów popytu. Z tymi możliwościami FPGA będą nadal pomagać deweloperom w przeprogramowaniu i rekonfigurowaniu z łatwością, aby sprostać potrzebom ewoluujących modeli — czy to dla bardziej zaawansowanych samochodów autonomicznych, automatyki przemysłowej, inteligentnych miast, czy poza.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Lattice Semiconductor.