Andrei Kulik, współzałożyciel XENOM – cykl wywiadów

Andrei Kulik jest współzałożycielem i dyrektorem generalnym XENOM. Wnosi do działalności przemysłowej doświadczenie w dziedzinie sztucznej inteligencji działającej bezpośrednio na urządzeniu, systemów rozproszonych i uczenia maszynowego. Wcześniej współzałożył AIMatter, które zostało przejęte przez Google, a także pracował w Google nad systemami sztucznej inteligencji dla urządzeń konsumenckich. W swojej karierze skupiał się na tym, by zaawansowana sztuczna inteligencja działała niezawodnie w praktycznych warunkach rzeczywistego sprzętu i otoczenia.

XENOM rozwija przemysłową platformę sztucznej inteligencji, która łączy oprogramowanie z inteligentnym wyposażeniem ochronnym, zapewniając operatorom wgląd w sytuację na terenie zakładu w czasie rzeczywistym. System integruje lokalizację, komunikację wśród pracowników, monitorowanie warunków środowiskowych i dane dotyczące bezpieczeństwa. W tym wywiadzie Kulik opowiada o sztucznej inteligencji brzegowej, inteligentnych kaskach, nadzorze człowieka, prywatności pracowników oraz o przejściu od monitorowania przemysłowego do predykcyjnego wspomagania decyzji.

Wcześniej współzałożył Pan AIMatter, które zostało przejęte przez Google, i przez lata rozwijał systemy sztucznej inteligencji przeznaczone do działania bezpośrednio na urządzeniach konsumenckich. Co skłoniło Pana do współzałożenia XENOM i jak doświadczenie zdobyte w Google wpłynęło na Pana wizję wykorzystania sztucznej inteligencji w środowisku przemysłowym?

Po przejęciu przez Google przez lata pracowałem nad jednym konkretnym problemem: jak sprawić, by zaawansowana sztuczna inteligencja działała niezawodnie na urządzeniu mieszczącym się w kieszeni, przy ograniczonej pojemności baterii, nieprzewidywalnym połączeniu z siecią i rzeczywistych warunkach, których żadne laboratorium nie jest w stanie w pełni odtworzyć. Wdrożyliśmy te rozwiązania w telefonach, okularach i słuchawkach — na miliardach urządzeń. W pewnym momencie zacząłem się zastanawiać, gdzie jeszcze taka architektura mogłaby się sprawdzić. Urządzenia konsumenckie są wygodne, ale to w zakładach przemysłowych koszty błędnej decyzji — lub jej braku — liczy się w ludzkich życiach i milionach strat wynikających z utraconej produktywności. Większość zakładów przemysłowych nadal nie ma wglądu w czasie rzeczywistym w to, co się dzieje. Ta luka wydawała się idealnym problemem, który mogłaby rozwiązać technologia rozwijana przez nas przez lata.

XENOM łączy oprogramowanie oparte na sztucznej inteligencji z inteligentnym wyposażeniem ochronnym, zapewniając wgląd w działalność przemysłową w czasie rzeczywistym. Jakie są największe luki w tradycyjnych systemach bezpieczeństwa przemysłowego i w jaki sposób Państwa platforma pomaga sprostać wyzwaniom, z którymi konwencjonalne technologie monitorowania nie radzą sobie dobrze?

Podstawowy problem polega na tym, że większość systemów zaprojektowano z myślą o rejestrowaniu tego, co się wydarzyło, a nie zapobieganiu takim zdarzeniom. Lokalizacja pracownika jest aktualizowana co kilka minut. Ewidencję czasu pracy uzupełnia się pod koniec zmiany. Naruszenia zasad bezpieczeństwa odnotowuje się dopiero po złożeniu zgłoszenia o incydencie. Zanim kierownik zapozna się z danymi, zmiana już się kończy albo doszło już do wypadku. Drugą luką jest rozproszenie informacji — firma może korzystać z systemu monitorowania stężenia gazów, osobnego systemu kontroli dostępu, papierowej listy kontrolnej środków ochrony indywidualnej oraz ręcznej ewidencji czasu pracy, a żadne z tych rozwiązań nie komunikuje się z pozostałymi. XENOM zastępuje je jednym ciągłym strumieniem danych z zakładu, przetwarzanym w czasie rzeczywistym, który zapewnia kierownikowi spójny obraz sytuacji zamiast pięciu odrębnych.

Znaczną część swojej kariery poświęcił Pan optymalizacji uczenia maszynowego i wnioskowania modeli LLM na urządzeniach o ograniczonych zasobach. Jak wykorzystuje Pan te zasady w środowisku przemysłowym i jakie techniczne korzyści daje przetwarzanie zadań związanych ze sztuczną inteligencją na brzegu sieci zamiast polegania na infrastrukturze chmurowej?

Praca z urządzeniami o ograniczonych zasobach uczy jednej zasady: każdą milisekundę, każdy miliwat i każdy bajt trzeba uzasadnić. Takie podejście jest niezbędne w przypadku kasku przemysłowego, który nosi się przez całą zmianę i który musi działać równie stabilnie w jej jedenastej godzinie, co w pierwszej. Celowo dzielimy zadania: te krytyczne pod względem czasu i wymagające przetwarzania dużych ilości danych — takie jak przetwarzanie strumienia głosowego i sygnałów z czujników czy wykrywanie upadków i uderzeń — wykonuje procesor NPU w kasku, wykorzystując modele skompresowane i dostrojone do tego sprzętu. Obraz sytuacji w całym zakładzie i bardziej zaawansowane analizy powstają natomiast po stronie platformy.

Przetwarzanie brzegowe daje nam cztery praktyczne korzyści. Pierwsza to szybkość: urządzenie natychmiast reaguje na zdarzenie, bez konieczności wysyłania danych do serwera i oczekiwania na odpowiedź. Druga to niezawodność: niewielki model działający na urządzeniu zachowuje się przewidywalnie, a każde dodatkowe ogniwo w łańcuchu stanowi kolejny punkt awarii. Trzecia to mniejsze obciążenie sieci: setki kasków nie mogą nieustannie przesyłać surowych danych audio i z czujników, dlatego każdy z nich wysyła wynik analizy. Czwarta to dłuższy czas pracy na baterii: przesyłanie danych należy do najbardziej energochłonnych zadań urządzenia, więc lokalne przetwarzanie i wysyłanie mniejszej ilości danych wydłużają czas pracy.

XENOM opracowało inteligentne kaski, które łączą funkcje lokalizacyjne i komunikacyjne z monitorowaniem warunków środowiskowych oraz możliwościami sztucznej inteligencji. Jakie były największe wyzwania inżynieryjne związane z integracją tych technologii, zwłaszcza w środowiskach, w których łączność, czas pracy na baterii i niezawodność mogą być nieprzewidywalne?

Najtrudniejsze nie było żadne pojedyncze rozwiązanie technologiczne, lecz zapewnienie, by wszystkie działały niezawodnie razem w jednym urządzeniu, w warunkach, które zniszczyłyby większość elektroniki użytkowej. Tereny przemysłowe są brudne, wymagające fizycznie i narażone na skrajne temperatury. Hełm upada, jest wystawiony na deszcz i noszony podczas dwunastogodzinnych zmian. Czas pracy na baterii staje się poważnym ograniczeniem, gdy jednocześnie działają pozycjonowanie, czujniki, łączność i wnioskowanie AI. Do tego dochodzi architektura łączności: potrzebowaliśmy płynnego przełączania między satelitarnym pozycjonowaniem RTK na zewnątrz a naszą własną wewnętrzną siecią kratową UWB, bez utraty dokładności, gdy pracownik przemieszcza się między tymi obszarami. Zapewnienie, by przejście to odbywało się automatycznie, niezawodnie i w czasie rzeczywistym, było jednym z bardziej wymagających technicznie rozwiązań, jakie opracowaliśmy.

Wasz zespół opracował model głosowej AI, który potrafi wykrywać w mowie oznaki upojenia alkoholowego, a jego skuteczność przewyższa wyniki uzyskiwane wcześniej w badaniach naukowych. Jakie przełomowe rozwiązania techniczne to umożliwiły i jak sprawdzacie niezawodność systemu w różnych językach, przy różnych akcentach i poziomach hałasu w tle oraz w rzeczywistych warunkach pracy?

Kluczowe było spostrzeżenie, że upojenie alkoholowe pozostawia wykrywalny ślad w subtelnych wzorcach mowy — nie w wypowiadanych słowach, lecz w jej cechach akustycznych: tempie, zmianach wysokości głosu i precyzji artykulacji. Opracowaliśmy model, który analizuje te wzorce w tle podczas zwykłych rozmów głosowych, bez konieczności przeprowadzania specjalnego testu ani podejmowania jakichkolwiek działań przez pracownika. Wynik 86,7% dokładności uzyskaliśmy w rygorystycznych testach porównawczych z wykorzystaniem opublikowanych zbiorów danych akademickich. Aby zweryfikować model w rzeczywistych warunkach, testujemy go w różnych językach, przy różnych akcentach i poziomach hałasu w tle, charakterystycznych dla faktycznych terenów przemysłowych — w obecności ciężkiego sprzętu, wiatru i wielu osób mówiących jednocześnie. Model musiał być na tyle odporny, by działać w warunkach zupełnie innych niż w kontrolowanym badaniu. Wymagało to znacznego zróżnicowania danych treningowych i wielu iteracji.

Systemy AI zaprojektowane do wykrywania u pracowników oznak upośledzenia sprawności lub zmęczenia rodzą poważne pytania dotyczące fałszywych alarmów i odpowiedzialności. Jak XENOM godzi wczesne wykrywanie zagrożeń z koniecznością weryfikacji przez człowieka i jakie zabezpieczenia chronią pracownika przed niesprawiedliwymi konsekwencjami błędnej oceny AI?

Od samego początku bardzo świadomie się nad tym zastanawialiśmy. System ma sygnalizować przełożonemu potencjalny problem, a nie podejmować autonomiczne działania. Ocena AI wskazująca na możliwe upośledzenie sprawności uruchamia weryfikację przez człowieka — przełożony może bezpośrednio obserwować pracownika, zadać mu pytania albo, jeśli uzna to za uzasadnione, poprosić o wykonanie testu fizycznego. AI nie usuwa nikogo z terenu zakładu. Dostarcza człowiekowi informacji, dzięki którym może on szybciej podjąć decyzję. Monitorujemy również odsetek fałszywych alarmów podczas wdrożeń i stale udoskonalamy model. Celem jest ograniczenie liczby wypadków, do których dochodzi, bo nikt niczego nie zauważył — a nie stworzenie systemu, który karze pracowników wyłącznie na podstawie algorytmu.

Zanim założył pan XENOM, pełnił pan funkcję dyrektora ds. technicznych w OneSoil, gdzie wykorzystywał pan widzenie komputerowe i uczenie maszynowe do monitorowania rolnictwa i analizowania produktywności. Które doświadczenia z wdrażania AI w rolnictwie okazały się najbardziej przydatne przy tworzeniu inteligentnych systemów dla placów budowy, kopalń, portów i zakładów energetycznych?

Wdrażanie AI w świecie fizycznym to zupełnie inne wyzwanie niż wdrażanie jej w oprogramowaniu. Trzeba mierzyć się ze zmiennością, sprzętem, który za każdym razem działa inaczej, oraz operatorami wykonującymi swoją pracę od dziesięcioleci, głęboko nieufnymi wobec wszystkiego, co każe im postępować inaczej. Na terenach przemysłowych sytuacja wygląda podobnie. Technologia musi zdobyć zaufanie, niezawodnie działając poprawnie częściej, niż ludzie się spodziewają, a przy tym być na tyle prosta, by osoba zarządzająca pięćdziesięcioosobową ekipą mogła z niej korzystać bez szkolenia. Kolejna lekcja: jakość danych zbieranych w terenie jest niemal zawsze gorsza, niż zakładano. Trzeba tworzyć systemy odporne na zakłócenia, luki w danych i skrajne przypadki, które nigdy nie pojawiają się w uporządkowanym zbiorze danych.

Przemysłowe platformy AI mogą gromadzić szczegółowe informacje o lokalizacji pracowników, ich aktywności, komunikacji i produktywności. Jak podchodzicie do kwestii prywatności danych, zgody pracowników i ryzyka nadzoru w miejscu pracy, dbając jednocześnie o to, by te technologie rzeczywiście poprawiały bezpieczeństwo i efektywność operacyjną?

Podchodzimy do tego z perspektywy ograniczenia celu przetwarzania. Dane gromadzone przez XENOM służą bezpieczeństwu i zapewnieniu wglądu w działalność operacyjną — nie są narzędziem do nadzoru nad produktywnością i nie powinny być w tym celu wykorzystywane. Przed wdrożeniem wspólnie z operatorami ustalamy jasne zasady zarządzania danymi: jakie dane są gromadzone, jak długo są przechowywane, kto ma do nich dostęp i w jakich okolicznościach można je wykorzystać przy podejmowaniu decyzji dotyczących personelu. Dane o lokalizacji pracowników są agregowane i anonimizowane na potrzeby analizy produktywności — indywidualne śledzenie lokalizacji jest dostępne dla osób nadzorujących bezpieczeństwo w sytuacjach awaryjnych, ale nie dla kierowników liniowych do oceny wydajności. W miarę obejmowania przemysłowych systemów AI unijnym aktem w sprawie AI spodziewamy się, że ramy regulacyjne uregulują wiele z tych kwestii. Wolimy przygotować się na te zmiany z wyprzedzeniem, niż gorączkowo dostosowywać się do przepisów.

Przenoszenie AI z kontrolowanych środowisk laboratoryjnych do krytycznych dla bezpieczeństwa operacji przemysłowych wiąże się z wyzwaniami, z którymi firmy tworzące wyłącznie oprogramowanie AI rzadko się spotykają. Co najbardziej zaskoczyło Was podczas wdrożeń XENOM w rzeczywistych warunkach i jak mierzycie, czy technologia przynosi wymierne korzyści w zakresie zapobiegania wypadkom, efektywności operacyjnej i produktywności pracowników?

Największym zaskoczeniem jest to, jak wiele korzyści przynosi samo uzyskanie dokładnego obrazu tego, gdzie znajdują się ludzie i jak wykorzystywany jest czas. Spodziewaliśmy się, że rozmowy z operatorami będą dotyczyć przede wszystkim bezpieczeństwa. Okazało się, że wgląd w produktywność — zrozumienie, na których zmianach traci się czas, dlaczego niektóre zespoły osiągają lepsze wyniki niż inne i gdzie występują wąskie gardła — często szybciej przynosi zwrot z inwestycji (ROI) i znacznie szybciej sprawia, że w firmie pojawiają się osoby promujące platformę. Drugim zaskoczeniem jest duże zróżnicowanie między branżami, a nawet między zakładami działającymi w tej samej branży. Budownictwo w Niemczech funkcjonuje zupełnie inaczej niż budownictwo w Zjednoczonych Emiratach Arabskich. Nie można stworzyć jednego produktu i zakładać, że sprawdzi się wszędzie bez znacznych, iteracyjnych zmian.

Patrząc w przyszłość, XENOM chce stworzyć przemysłowego asystenta AI, który wyjdzie poza monitorowanie, by przewidywać zagrożenia i rekomendować decyzje operacyjne. Jak, Twoim zdaniem, będzie rozwijać się fizyczna AI w ciągu najbliższych pięciu lat i jakich przełomów technologicznych wciąż potrzeba, aby systemy AI dla przemysłu mogły działać bardziej autonomicznie, przy zachowaniu nadzoru człowieka?

Obecnie przemysłowa AI służy głównie do uzyskiwania wglądu w sytuację — pozwala wiedzieć, co się dzieje. Kolejnym etapem jest przewidywanie: rozpoznawanie wzorców poprzedzających wypadek lub spadek produktywności, zanim do któregokolwiek z tych zdarzeń dojdzie. Wymaga to gromadzenia z czasem dużych ilości uporządkowanych, oznaczonych danych — właśnie tym XENOM zajmuje się od samego początku. Następny etap to rekomendacje: system nie tylko informuje, co prawdopodobnie się wydarzy, lecz także podpowiada, co z tym zrobić — jak rozmieścić pracowników na nowo, kiedy wstrzymać operację i jaki skład zespołu zapewni najlepsze wyniki przy danym zadaniu. Do tego trzeciego etapu zmierzamy, rozwijając Industrial AI Copilot. Potrzebny przełom technologiczny nie dotyczy przede wszystkim udoskonalenia modeli — problemem są dane. Aby wytrenować model, który niezawodnie uogólnia wyniki, potrzeba wystarczającej ilości wysokiej jakości danych operacyjnych z dostatecznie wielu zróżnicowanych zakładów. Firmy, które zaczną gromadzić takie dane już teraz, zyskają przewagę, którą później będzie bardzo trudno powielić.

Dziękujemy za świetny wywiad. Czytelnicy, którzy chcą dowiedzieć się więcej o brzegowej AI, inteligentnym sprzęcie ochronnym i monitorowaniu bezpieczeństwa przemysłowego w czasie rzeczywistym, powinni odwiedzić stronę XENOM.